Dobici:
- Sposobnost izdvajanja uzoraka iz velikih skupova teksta koristeći tehnike kao što su NER, izdvajanje odnosa, vremenska linija i analiza mreže
- Biti u stanju vidjeti obrazac kao hipotezu, a ne dokaz, povezujući entitete s izvorom i normalizirajući ih uz ljudsko odobrenje
- Sposobnost razumijevanja kako brojevi mogu dovesti u zabludu zbog podataka koji nedostaju i pristranosti uzorkovanja, te izbjegavanja izmišljenih odnosa i hronologije.
Istorijsko istraživanje nije samo čitanje pojedinačnih dokumenata; često traže obrasce u velikim skupovima dokumenata. U kom kontekstu se određeno ime pojavljuje tokom godina? Koji su ljudi povezani sa naseljem? Kako se tema mijenja tokom vremena? Ko se sa kim dopisuje? Takva pitanja zahtijevaju da se pogleda ne jedan dokument, već stotine dokumenata zajedno. Ovo se često naziva digitalnim humanističkim naukama—primjena računskih metoda u oblastima kao što su historija i književnost.
AI je moćan u izdvajanju strukturiranih informacija iz velikih skupova teksta. U ovoj jedinici ćete naučiti NER (prepoznavanje imenovanih entiteta), izdvajanje uzoraka i odnosa, logiku modeliranja tema i kreiranje vremenske linije; ali ćemo također razgovarati o najopasnijoj zamci ovih tehnika - AI koja se predstavlja kao da je "pronašla" obrazac koji ne postoji.
Osnovne tehnike
- NER (Named Entity Recognition): Automatsko izdvajanje entiteta kao što su osoba, mjesto, institucija, datum iz teksta. Ona proizvodi listu poput "Sva imena mjesta koja se spominju u ovih 500 dokumenata" za nekoliko minuta.
- Zaključak o odnosu: Označavanje veza između entiteta („Osoba X na mjestu Y“, „A odgovara sa B“).
- Modeliranje tema: Statističko pronalaženje grupa tema koje se ponavljaju u velikom skupu teksta. Pokazuje koje su teme koncentrisane u kojem periodu.
- Zaključak o vremenskoj liniji: Raspoređivanje datumskih događaja u dokumentima hronološkim redom.
- Analiza mreže: Vizualizacija međuljudskih/institucionalnih odnosa kao mreže (ko je centar, ko je tačka veze).
Zajednički cilj svih ovih je otkriti strukture koje se ne pojavljuju u jednom dokumentu, već se pojavljuju u cijeloj kolekciji. Ove tehnike čine vidljive obrasce koji nikada ne bi bili vidljivi samo čitanjem. Ali svaki od njih je "znak", a ne "dokaz"; Bitno je provjeriti ono što se nalazi u originalnom dokumentu.
Često korišten koncept u ovoj oblasti je razlika između čitanja izbliza (čitanje teksta u dubinu, red po red) i čitanja na daljinu (gledanje na stotine/hiljade tekstova zajedno, statistički). AI omogućava čitanje na daljinu: vidite obrasce u korpusu dovoljno velikom da traje jedan ljudski život. Ali kada čitanje na daljinu ukazuje na obrazac, potrebno je vratiti se čitanju izbliza, odnosno originalnom dokumentu, da bismo ga shvatili. Ove dvije metode nisu zamjenjive; Jedan pokazuje obrazac, drugi daje njegovo značenje. Najsnažnije istraživanje koristi oboje zajedno.
Savjet: Koristite analizu obrazaca kao generator hipoteza: „AI je ovdje uočio obrazac, da li je stvaran?“ Zatim provjerite taj obrazac u dokumentima jedan po jedan. Obrazac je početna tačka vašeg istraživanja, a ne rezultat.
Tok rada: korak po korak
1. Pojasnite pitanje. “Koji se ljudi najčešće pojavljuju zajedno u ovoj kolekciji?” Jasno pitanje uzorka kao.
2. Pripremite i označite podatke. Organizirajte tekst s izvornim referencama tako da se sva pronađena sredstva mogu povezati s dokumentom.
3. Pojavljuje se entitet/obrazac. Generirajte NER, odnos ili vremenski okvir pomoću AI.
4. Normalizujte. Kombinirajte različite napise iste osobe/mjesta („Istanbul / Istanbul / Kostantiniyye“ isto mjesto?). Ovaj korak je kritičan; Ako se izostavi, uzorak će se raspasti.
5. Provjeriti u dokumentu. Provjerite stvarne dokumente za sve značajne obrasce koji su označeni. Uvjerite se da AI ne dodaje izmišljenu vezu.
6. Komentar. Ono što obrazac znači je sud istoričara; AI samo označava obrazac.
Broj i statistička zamka
Analiza obrazaca često proizvodi brojeve: „ime X se pojavljuje 47 puta“, „ova tema je prisutna u 30% dokumenata“. Ove brojke izgledaju objektivno, ali mogu biti zavaravajuće:
- Podaci koji nedostaju: Ako je zbirka već nekompletna (dokumenti su izgubljeni, grupa nikada nije zabilježena), broj odražava preživjele dokumente, a ne stvarnost.
- Greška normalizacije: Ako se ista osoba napiše drugačije i računa se odvojeno, broj će biti netačan.
- Gubitak konteksta: "javlja se 47 puta" ne govori ništa; Važan je način na koji se prenosi (pozitivno/negativno, subjekt/objekat).
izlaz uzorka
prividno značenje
stvarni rizik
"X se pojavljuje 47 puta"
važna osoba
Nepotpuna zbirka, varijacija pravopisa
"Tema 30%"
dominantna tema
pristrasnost uzorkovanja
"A-B često zajedno"
intimni odnos
Slučajnost, nedostatak konteksta
"vremenska linija"
tacna hronologija
Nedatirani dokumenti, fabrikovana narudžba
tri mini kofera
Slučaj 1 — Analiza mreže otkrila je skrivenog posrednika. Istraživač je pregledao zbirku korespondencije od 800 pisama. Sa AI je utvrđeno ko je kome pisao i stvorena je mreža. Mreža je pokazala da je na prvi pogled naizgled beznačajna osoba zapravo bila ključna kontaktna tačka između dvije grupe. Istraživač se fokusirao na pisma ove osobe i došao do novog otkrića. Ali prvo provjerite sve veze u dokumentima.
Slučaj 2 — Greška normalizacije je oštetila broj. Student ih je natjerao da prebroje koliko se puta neko mjesto pojavljuje u dokumentima. Budući da je AI odvojeno brojao tri različita pravopisa istog mjesta, ispostavilo se da je taj broj jedna trećina stvarnog broja. Kada su se pravopisi kombinovali, mjesto je zapravo bilo na trećem mjestu koje se najčešće pojavljuje. Pouka: bez normalizacije broju se ne može vjerovati.
Slučaj 3 — Izrađena vremenska linija. Istraživač je napravio vremensku liniju od dokumenata bez datuma. AI je poređao nepoznate događaje "logičnim" redom i predstavio preciznu hronologiju. Međutim, ovaj niz nije bio u dokumentima, već ga je izmislila AI. Lekcija: vremenska linija se konstruiše samo od događaja koji imaju datum u dokumentu; ostalo ostaje "nedatirano".
Četiri šablona za kopiranje
1) NER (zaključavanje entiteta):
Osobe, mjesta, institucije i datumi koji se spominju u dokumentima u nastavku pojavljuju se kao POSEBNE liste. Navedite u kojem dokumentu (referenci) se pominje svaki entitet. Uzmite samo ono što je JASNO rečeno u tekstu; dodaj nagađanjem. Označite [?] ako niste sigurni u izgovor. Dokumenti: [ovdje]
2) Normalizacija entiteta:
Na listi entiteta u nastavku, grupišite različite napise koji bi mogli biti ista osoba/mjesto (npr. "Istanbul / Kostantiniyye"). Predložite mogući zajednički format za svaku grupu, ALI nemojte nametati tačnu kombinaciju; Dodajte napomenu "možda isto, neka ljudi provjere". Ostavite to na miru ako niste sigurni. Lista: [ovdje]
3) Nacrt odnosa/mreže:
Izdvojite veze "ko je s kim povezan" iz sljedećeg skupa korespondencije/dokumenata. Za svaki link naznačite na kom dokumentu (referenci) se zasniva. NAPRAVIO odnos koji nije JASNO u dokumentu. Označite dvosmislene veze [nejasno]. Dokumentacija: [ovdje]
4) Datirana vremenska linija:
Navedite hronološkim redom samo događaje koji su JASNO navedeni u sljedećim dokumentima; Povežite svaki događaj sa njegovim izvorom. Navedite događaje sa neizvjesnim datumima posebno pod naslovom "bez datuma", NEMOJTE ih redati. NEMOJTE izmišljati predviđeni datum. Dokumentacija: [ovdje]
Slaba prompt / Jaka prompt
slaba:
Analizirajte ove dokumente i izdvojite važne obrasce, odnose i vremenske okvire.
„Izdvoji važne obrasce“ gura AI da izmisli nepostojeće veze i precizne hronologije, prikazujući brojeve bez normalizacije.
Jaka:
Izdvaja entitete osobe/mesta/institucije iz sledećih dokumenata povezujući svaki sa referencom dokumenta. Označite različite pravopise koji mogu biti isti kao "može biti spojen", ali nemojte spajati. Odnosi koji nisu jasno navedeni u dokumentu i događaji sa neizvjesnim datumima NE LAŽE; držati one bez datuma odvojeno. Dokumentacija: [ovdje]
Razlika: pripisivanje izvoru, prepuštanje normalizacije ljudima, zabrana fiktivnih veza/istorije i odvajanje nedatiranih događaja čine obrazac odbranjivim.
Uobičajene greške
- Pogrešio obrazac za dokaz. Obrazac je hipoteza; je potvrđeno u dokumentu.
- Preskakanje normalizacije. Različiti načini pisanja istog entiteta iskrivljuju broj i mrežu.
- Slijepo povjerenje u brojke. Nepotpuno prikupljanje i pristranost uzorkovanja čine broj pogrešnim.
- Izrađena vremenska linija. Nedatirani događaji nisu uključeni u hronologiju.
- Ignoriranje konteksta. Nije važno "koliko je puta donijeto", već "kako je doneseno".
Ukratko
Analiza sadržaja i otkrivanje obrazaca je moćno polje u kojem AI čini vidljive strukture koje ne bi bile vidljive samo čitanjem: izdvajanje entiteta, mreže odnosa, klastere tema, vremenske linije. Ali svaki obrazac je hipoteza, a ne dokaz. Povežite sredstva sa izvorom, pažljivo normalizujte i sa ljudskom provjerom, tražite brojeve upita za nedostajuće podatke i pristrasnost, izbjegavajte izmišljene odnose i hronologije. AI označava obrazac; Šta to znači i da li je tačno, to je sud istoričara.
Zadatak aplikacije
Prikupiti najmanje 15 komada dokumentacije (sa referencama). Izdvojite osobe i entitete mjesta pomoću predloška "NER". Zatim grupišite različite pravopise sa "normalizacijom entiteta" i sami provjerite grupe. Konačno, pokrenite predložak „datirane vremenske linije“ i pogledajte koliko je događaja ostalo „nedatiranih“. Uporedite koliko bi izmišljenih veza ili hronologija AI proizvela sa lošim nagovještajima.
kontrolna lista
- [ ] Jasno sam definisao svoje šablonsko pitanje.
- [ ] Svaki entitet je povezan s referencom dokumenta.
- [ ] Normalizovao sam kucanje entiteta i kombinovao ga sa ljudskim odobrenjem.
- [ ] Doveo sam u pitanje brojeve zbog nedostajućih podataka i pristrasnosti.
- [ ] Nisam stavio nedatirane događaje u hronologiju, čuvao sam ih odvojeno.