Ieguvumi:
- Spēja iegūt modeļus no lielām teksta kopām, izmantojot tādas metodes kā NER, attiecību iegūšana, laika skala un tīkla analīze
- Spēja uztvert modeli kā hipotēzi, nevis pierādījumus, saistīt entītijas ar avotu un normalizēt tās ar cilvēka apstiprinājumu
- Spēja saprast, kā skaitļi var būt maldinoši trūkstošo datu un izlases novirzes dēļ, un izvairīties no izdomātām attiecībām un hronoloģijām.
Vēstures izpēte nav tikai atsevišķu dokumentu lasīšana; bieži meklē modeļus lielos dokumentu komplektos. Kādos kontekstos konkrēts vārds parādās gadu gaitā? Kuri cilvēki ir saistīti ar apmetni? Kā tēma laika gaitā mainās? Kurš ar ko sarakstējas? Šādi jautājumi prasa skatīt nevis vienu dokumentu, bet gan simtiem dokumentu kopā. To bieži sauc par digitālajām humanitārajām zinātnēm — skaitļošanas metožu pielietošanu tādās jomās kā vēsture un literatūra.
AI spēj iegūt strukturētu informāciju no lielām teksta kopām. Šajā nodaļā jūs apgūsit NER (nosaukto entītiju atpazīšanu), modeļu un attiecību izgūšanu, tēmu modelēšanas loģiku un laika skalas izveidi; bet mēs arī apspriedīsim šo metožu visbīstamāko slazdu — AI, kas parāda sevi kā tādu, kas "atrada" modeli, kas neeksistē.
Pamata tehnikas
- NER (nosauktās entītijas atpazīšana): automātiska entītiju, piemēram, personas, vietas, iestādes, datuma, izvilkšana no teksta. Tas dažu minūšu laikā izveido sarakstu, piemēram, "Visi šajos 500 dokumentos minētie vietvārdi".
- Secinājums par attiecībām: saikņu iezīmēšana starp entītijām (“Persona X vietā Y”, “A atbilst B”).
- Tēmu modelēšana: statistiska atkārtotu tēmu kopu atrašana lielā teksta kopā. Tas parāda, kuras tēmas kurā periodā ir koncentrētas.
- Laika skalas secinājums: datētu notikumu sakārtošana dokumentos hronoloģiskā secībā.
- Tīkla analīze: starppersonu/institucionālo attiecību vizualizēšana kā tīkls (kurš ir centrs, kurš savienojuma punkts).
To visu kopējais mērķis ir atklāt struktūras, kas neparādās vienā dokumentā, bet parādās visā kolekcijā. Šīs metodes padara redzamus modeļus, kas nekad nebūtu redzami tikai lasot. Bet katrs no tiem ir "zīme", nevis "pierādījums"; Ir svarīgi pārbaudīt, kas ir atrodams oriģinālajā dokumentā.
Bieži lietots jēdziens šajā jomā ir atšķirība starp tuvu lasīšanu (teksta lasīšana padziļināti, rindiņu pa rindiņai) un attālināta lasīšana (kopā, statistiski aplūkojot simtiem/tūkstošiem tekstu). AI sniedz iespēju lasīt attālināti: jūs redzat modeļus korpusā, kas ir pietiekami liels, lai kalpotu viena cilvēka mūža garumā. Bet, kad attālā lasīšana norāda uz modeli, ir jāatgriežas pie ciešas lasīšanas, tas ir, pie oriģinālā dokumenta, lai to saprastu. Abas metodes nav savstarpēji aizstājamas; Viens parāda modeli, otrs piešķir tā nozīmi. Spēcīgākajos pētījumos tiek izmantoti abi kopā.
Padoms. Izmantojiet modeļu analīzi kā hipotēžu ģeneratoru: "AI šeit ir pamanījis modeli, vai tas ir īsts?" Pēc tam pārbaudiet šo modeli dokumentos pa vienam. Modelis ir jūsu pētījuma sākumpunkts, nevis rezultāts.
Darbplūsma: soli pa solim
1. Precizējiet jautājumu. "Kuri cilvēki šajā kolekcijā parādās kopā visbiežāk?" Skaidrs modelis jautājums, piemēram.
2. Sagatavojiet un marķējiet datus. Sakārtojiet tekstu ar atsaucēm uz avotu, lai visus atrastos līdzekļus varētu saistīt ar dokumentu.
3. Parādās entītija/raksts. Ģenerējiet NER, attiecības vai laika skalas kontūru, izmantojot AI.
4. Normalizējiet. Apvienojiet dažādas vienas un tās pašas personas/vietas rakstības veidus (“Stambula/Stambula/Kostantiniyye” viena un tā pati vieta?). Šis solis ir kritisks; Ja tas tiek izlaists, modelis izjuks.
5. Pārbaudiet dokumentā. Pārbaudiet faktiskos dokumentus, vai nav atzīmēti nozīmīgi modeļi. Pārliecinieties, vai AI nepievieno izdomātu saiti.
6. Komentēt. Parauga nozīme ir vēsturnieka spriedums; AI tikai iezīmē modeli.
Skaitļu un statistikas slazds
Modeļu analīze bieži rada skaitļus: “vārds X parādās 47 reizes”, “šī tēma ir sastopama 30% dokumentu”. Šie skaitļi šķiet objektīvi, taču var būt maldinoši:
- Trūkst datu: ja kolekcija jau ir nepilnīga (dokumenti ir pazaudēti, grupa nekad nav reģistrēta), skaitlis atspoguļo saglabājušos dokumentus, nevis realitāti.
- Normalizācijas kļūda: ja viena un tā pati persona ir uzrakstīta atšķirīgi un tiek skaitīta atsevišķi, skaitlis būs nepareizs.
- Konteksta zudums: "notiek 47 reizes" neko neizsaka; Ir svarīgi, kā tas tiek nodots (pozitīvs/negatīvs, priekšmets/objekts).
modeļa izvade
šķietama nozīme
reāls risks
"X notiek 47 reizes"
svarīga persona
Nepilnīga kolekcija, pareizrakstības variācijas
"Tēma 30%"
dominējošā tēma
izlases neobjektivitāte
"A-B bieži kopā"
intīmas attiecības
Sakritība, trūkst konteksta
"laika skala"
precīza hronoloģija
Dokumenti bez datuma, safabricēts pasūtījums
trīs mini futrāļi
1. gadījums — tīkla analīze atklāja slēptu starpnieku. Pētnieks pārbaudīja 800 vēstuļu korespondences kolekciju. Ar AI, kurš kuram rakstīja, tika noteikts un tika izveidots tīkls. Tīkls parādīja, ka no pirmā acu uzmetiena šķietami nenozīmīga persona patiesībā bija galvenais kontaktpunkts starp abām grupām. Pētnieks koncentrējās uz šīs personas vēstulēm un nonāca pie jauna atraduma. Bet vispirms pārbaudīja visas saites dokumentos.
2. gadījums — normalizēšanas kļūda sabojāja numuru. Kāds students lika viņiem saskaitīt, cik reižu kāda vieta ir parādījusies dokumentos. Tā kā mākslīgais intelekts atsevišķi saskaitīja trīs dažādas vienas un tās pašas vietas pareizrakstības, skaitlis izrādījās viena trešdaļa no reālā skaitļa. Kad pareizrakstības tika apvienotas, vieta faktiski bija trešajā visbiežāk sastopamajā pozīcijā. Nodarbība: bez normalizācijas numuram nevar uzticēties.
3. gadījums — izdomāta laika skala. Pētnieks izveidoja laika skalu no dokumentiem bez datuma. AI sakārtoja nezināmos notikumus "loģiskā" secībā un uzrādīja precīzu hronoloģiju. Taču šīs secības dokumentos nebija, mākslīgais intelekts to bija izdomājis. Nodarbība: laika skala tiek veidota tikai no notikumiem, kuriem dokumentā ir datums; pārējais paliek "bez datuma".
Četras kopējamas veidnes
1) NER (entitātes secinājums):
Zemāk esošajos dokumentos minētās personas, vietas, iestādes un datumi parādās kā ATSEVIŠĶI saraksti. Norādiet, kurā dokumentā (atsaucē) katra entītija ir minēta. Ņem tikai to, kas tekstā ir SKAIDRI pateikts; pievienot pēc minējuma. Atzīmējiet [?], ja neesat pārliecināts par izrunu. Dokumenti: [šeit]
2) Entītijas normalizācija:
Tālāk esošajā entītiju sarakstā grupējiet dažādas rakstības, kas varētu būt viena un tā pati persona/vieta (piemēram, "Stambula/Kostantiniyye"). Iesakiet katrai grupai iespējamo kopējo formātu, BET neuzspiediet precīzu kombināciju; Pievienojiet piezīmi "varbūt tas pats, ļaujiet cilvēkiem pārbaudīt". Atstājiet to mierā, ja neesat pārliecināts. Saraksts: [šeit]
3) Attiecību/tīkla izklāsts:
Izņemiet saites "kas ir ar ko saistīts" no tālāk norādītās sarakstes/dokumentu kopas. Katrai saitei norādiet, uz kuru dokumentu (atsauci) tā ir balstīta. IZSTRĀDĀJA attiecības, kas nav SKAIDRI dokumentā. Atzīmējiet neskaidras saites [neskaidras]. Dokumentācija: [šeit]
4) Datētais laika grafiks:
Uzskaitiet hronoloģiskā secībā tikai tos notikumus, kas SKAIDRI norādīti turpmākajos dokumentos; Saistiet katru notikumu ar tā avotu. Notikumus ar nenoteiktiem datumiem norādiet atsevišķi zem virsraksta "bez datuma", NESABIET tos secībā. NESNIEDZIET paredzēto datumu. Dokumentācija: [šeit]
Vāja uzvedne / spēcīga uzvedne
Vāji:
Analizējiet šos dokumentus un izņemiet svarīgus modeļus, attiecības un laika grafikus.
“Svarīgo modeļu izvilkšana” mudina AI izgudrot neesošus savienojumus un precīzas hronoloģijas, parādot skaitļus bez normalizācijas.
Spēcīgs:
Izvelk personas/vietas/iestādes vienības no tālāk norādītajiem dokumentiem, katru savienojot ar dokumenta atsauci. Atzīmējiet dažādus rakstības veidus, kas var būt tādi paši kā "var būt apvienoti", bet neapvienojiet. Attiecības, kas nav skaidri norādītas dokumentā, un notikumi ar nenoteiktiem datumiem NEVELT; turiet tos bez datumiem atsevišķi. Dokumentācija: [šeit]
Atšķirība: attiecināšana uz avotu, normalizēšanu atstājot cilvēku ziņā, fiktīvu saišu/vēstures aizliegums un nedatētu notikumu atdalīšana padara modeli attaisnojamu.
Biežas kļūdas
- Pierādījumu modeļa maldināšana. Modelis ir hipotēze; ir pārbaudīts dokumentā.
- Normalizācijas izlaišana. Viena un tā paša entītijas atšķirīga rakstība izkropļo numuru un tīklu.
- Akla uzticēšanās skaitļiem. Nepilnīga vākšana un izlases novirze padara skaitli maldinošu.
- Izstrādāta laika skala. Notikumi bez datuma nav iekļauti hronoloģijā.
- Konteksta ignorēšana. Svarīgi ir nevis "cik reizes tika nodots", bet gan "kā tas tika nodots".
Rezumējot
Satura analīze un modeļu atklāšana ir spēcīgs lauks, kurā AI padara redzamas struktūras, kuras nebūtu redzamas tikai lasot: entītiju ieguve, attiecību tīkli, tēmu kopas, laika skalas. Bet katrs modelis ir hipotēze, nevis pierādījums. Saistiet līdzekļus ar avotu, rūpīgi normalizējiet un ar cilvēka apstiprinājumu, vaicājiet numurus par trūkstošiem datiem un novirzēm, izvairieties no izdomātām attiecībām un hronoloģijām. AI iezīmē modeli; Ko tas nozīmē un vai tā ir patiesība, ir vēsturnieka spriedums.
Lietojumprogrammas uzdevums
Savāc vismaz 15 dokumentācijas gabalus (ar atsaucēm). Izņemiet personas un novietojiet entītijas, izmantojot veidni "NER". Pēc tam grupējiet dažādās pareizrakstības ar “entītijas normalizāciju” un pārbaudiet grupas pats. Visbeidzot palaidiet veidni “datēta laika skala” un skatiet, cik notikumu paliek “bez datuma”. Salīdziniet, cik daudz izdomātu saišu vai hronoloģiju AI radītu ar vāju pamudinājumu.
kontrolsaraksts
- [ ] Esmu skaidri definējis savu modeļa jautājumu.
- [ ] Katra entītija ir saistīta ar dokumenta atsauci.
- [ ] Es normalizēju entītiju rakstīšanu un apvienoju to ar cilvēka apstiprinājumu.
- [ ] Es apšaubīju skaitļus trūkstošo datu un novirzes dēļ.
- [ ] Nedatētos notikumus neliku hronoloģijā, glabāju atsevišķi.