Dobici:
- Sposobnost izdvajanja uzoraka iz velikih skupova teksta korištenjem tehnika kao što su NER, izdvajanje odnosa, vremenska crta i analiza mreže
- Biti u stanju vidjeti obrazac kao hipotezu, a ne kao dokaz, povezivati entitete s izvorom i normalizirati ih uz ljudsko odobrenje
- Sposobnost razumijevanja kako brojke mogu dovesti u zabludu zbog nedostajućih podataka i pristranosti uzorkovanja te izbjegavanja izmišljenih odnosa i kronologija.
Povijesno istraživanje nije samo čitanje pojedinačnih dokumenata; često traže uzorke u velikim skupovima dokumenata. U kojim se kontekstima određeno ime pojavljuje tijekom godina? Koji su ljudi povezani s naseljem? Kako se tema mijenja tijekom vremena? Tko se s kim dopisuje? Takva pitanja ne zahtijevaju pregled jednog dokumenta, već stotine dokumenata zajedno. To se često naziva digitalna humanistika — primjena računalnih metoda na polja kao što su povijest i književnost.
AI je moćan u izdvajanju strukturiranih informacija iz velikih skupova teksta. U ovoj jedinici naučit ćete NER (prepoznavanje imenovanog entiteta), izdvajanje uzoraka i odnosa, logiku modeliranja teme i stvaranje vremenske trake; ali također ćemo razgovarati o najopasnijoj zamci ovih tehnika - umjetnoj inteligenciji koja se predstavlja kao da je "pronašla" obrazac koji ne postoji.
Osnovne tehnike
- NER (Named Entity Recognition): Automatsko izdvajanje entiteta kao što su osoba, mjesto, institucija, datum iz teksta. Za nekoliko minuta stvara popis poput "Sva imena mjesta spomenuta u ovih 500 dokumenata".
- Zaključivanje odnosa: Označavanje veza između entiteta ("Osoba X na mjestu Y", "A korespondira s B").
- Modeliranje teme: Statističko pronalaženje klastera tema koje se ponavljaju u velikom skupu teksta. Prikazuje koje su teme koncentrirane u kojem razdoblju.
- Zaključivanje na vremenskoj skali: slaganje datumiranih događaja u dokumentima u kronološki redoslijed.
- Analiza mreže: Vizualizacija međuljudskih/institucionalnih odnosa kao mreže (tko je središte, tko je točka povezivanja).
Zajednički cilj svih njih je otkriti strukture koje se ne pojavljuju u jednom dokumentu, ali se pojavljuju u cijeloj zbirci. Ove tehnike čine vidljive obrasce koji nikada ne bi bili vidljivi samo čitanjem. Ali svaki od njih je "znak", a ne "dokaz"; Bitno je provjeriti što se nalazi u izvornom dokumentu.
Koncept koji se često koristi u ovom području je razlika između čitanja izbliza (dubinsko čitanje teksta, redak po redak) i čitanja na daljinu (zbirno gledanje stotina/tisuća tekstova, statistički). AI omogućuje čitanje na daljinu: vidite uzorke u korpusu dovoljno velikom da traje jedan ljudski život. Ali kada daljinsko čitanje ukazuje na obrazac, potrebno je vratiti se bliskom čitanju, odnosno izvornom dokumentu, da bi se shvatio njegov smisao. Ove dvije metode nisu međusobno zamjenjive; Jedan pokazuje uzorak, drugi daje njegovo značenje. Najjače istraživanje koristi oboje zajedno.
Savjet: Koristite analizu uzoraka kao generator hipoteza: "AI je ovdje uočio uzorak, je li stvaran?" Zatim provjerite taj uzorak u dokumentima jedan po jedan. Uzorak je početna točka vašeg istraživanja, a ne rezultat.
Tijek rada: korak po korak
1. Pojasnite pitanje. "Koji se ljudi najčešće pojavljuju zajedno u ovoj zbirci?" Pitanje jasnog uzorka poput.
2. Pripremite i označite podatke. Organizirajte tekst s izvornim referencama tako da se sva pronađena sredstva mogu ponovno povezati s dokumentom.
3. Pojavljuje se entitet/uzorak. Generirajte NER, odnos ili nacrt vremenske crte pomoću umjetne inteligencije.
4. Normalizirati. Kombinirajte različite načine pisanja iste osobe/mjesta ("Istanbul / Istanbul / Kostantiniyye" isto mjesto?). Ovaj je korak kritičan; Ako se izostavi, uzorak će se raspasti.
5. Provjerite u dokumentu. Provjerite postoje li u stvarnim dokumentima značajni uzorci koji su označeni. Provjerite da AI ne dodaje izmišljenu vezu.
6. Komentirajte. Ono što obrazac znači je povjesničareva prosudba; AI samo označava obrazac.
Zamka broja i statistike
Analiza obrazaca često daje brojke: "ime X pojavljuje se 47 puta", "ova tema je prisutna u 30% dokumenata". Ove brojke izgledaju objektivne, ali mogu zavarati:
- Podaci koji nedostaju: Ako je zbirka već nepotpuna (dokumenti su izgubljeni, grupa nikada nije zabilježena), broj odražava sačuvane dokumente, a ne stvarnost.
- Pogreška normalizacije: Ako je ista osoba drugačije napisana i broji se odvojeno, broj će biti netočan.
- Gubitak konteksta: "pojavljuje se 47 puta" ne govori ništa; Važno je kako se prenosi (pozitivno/negativno, subjekt/objekt).
izlaz uzorka
prividno značenje
stvarni rizik
"X se pojavljuje 47 puta"
važna osoba
Nepotpuna kolekcija, pravopisna varijacija
"Tema 30%"
dominantna tema
pristranost uzorkovanja
"A-B često zajedno"
intimni odnos
Slučajnost, nedostaje kontekst
"vremenska linija"
točna kronologija
Dokumenti bez datuma, izmišljena narudžba
tri mini kućišta
Slučaj 1 — Analiza mreže otkrila je skrivenog posrednika. Istraživač je pregledao kolekciju korespondencije od 800 pisama. AI-jem se određivalo tko je kome pisao i stvorena je mreža. Mreža je pokazala da je na prvi pogled beznačajna osoba zapravo bila ključna dodirna točka između dvije skupine. Istraživač se usredotočio na pisma te osobe i došao do novog otkrića. Ali prvo provjerite sve poveznice u dokumentima.
Slučaj 2 — Pogreška normalizacije oštetila je broj. Student ih je zamolio da izbroje koliko se puta neko mjesto pojavilo u dokumentima. Budući da je AI prebrojao tri različita načina pisanja istog mjesta odvojeno, ispostavilo se da je broj trećina stvarnog broja. Kada su se načini pisanja kombinirali, mjesto je zapravo bilo na trećem mjestu koje se najčešće pojavljivalo. Lekcija: bez normalizacije broju se ne može vjerovati.
Slučaj 3 — Izmišljeni vremenski okvir. Istraživač je napravio vremensku crtu iz nedatiranih dokumenata. AI je nepoznate događaje složio u "logičan" redoslijed i prikazao preciznu kronologiju. Međutim, ovaj niz nije bio u dokumentima, AI ga je izmislio. Lekcija: vremenska traka se sastoji samo od događaja koji imaju datum u dokumentu; ostatak ostaje "bez datuma".
Četiri predloška za kopiranje
1) NER (zaključak entiteta):
Osobe, mjesta, institucije i datumi spomenuti u dokumentima u nastavku pojavljuju se kao ZASEBNI popisi. Naznačiti u kojem se dokumentu (referenci) koji subjekt spominje. Uzmite samo ono što je JASNO navedeno u tekstu; dodati pogađajući. Označite [?] ako niste sigurni u izgovor. Dokumenti: [ovdje]
2) Normalizacija entiteta:
Na donjem popisu entiteta grupirajte različite načine pisanja koji bi mogli biti ista osoba/mjesto (npr. "Istanbul / Kostantiniyye"). Predložite mogući zajednički format za svaku grupu, ALI nemojte nametati točnu kombinaciju; Dodajte napomenu "možda isto, neka ljudi provjere". Ostavite to ako niste sigurni. Popis: [ovdje]
3) Prikaz odnosa/mreže:
Izdvojite veze "tko je s kim u srodstvu" iz sljedećeg skupa korespondencije/dokumenata. Za svaku poveznicu navedite na kojem se dokumentu (referenci) temelji. IZMISLIO odnos koji nije JASAN u dokumentu. Označi dvosmislene poveznice [nejasno]. Dokumentacija: [ovdje]
4) Datumirana vremenska linija:
Navedite kronološkim redom samo događaje koji su JASNO navedeni u sljedećim dokumentima; Povežite svaki događaj s njegovim izvorom. Događaje s nejasnim datumima navedite zasebno pod rubrikom "bez datuma", NEMOJTE ih stavljati redom. NEMOJTE izmišljati predviđeni datum. Dokumentacija: [ovdje]
Slab upit / Jak upit
Slabo:
Analizirajte te dokumente i izdvojite važne obrasce, odnose i vremenske crte.
"Izdvajanje važnih obrazaca" tjera umjetnu inteligenciju da izmišlja nepostojeće veze i precizne kronologije, prikazujući brojeve bez normalizacije.
Jako:
Izdvaja entitete osobe/mjesta/institucije iz sljedećih dokumenata povezujući svaki s referencom dokumenta. Označite različite načine pisanja koji mogu biti isti kao "mogu se spojiti", ali nemojte spajati. Odnosi koji nisu jasno navedeni u dokumentu i događaji s nejasnim datumima NE FAKE; držite one bez datuma odvojeno. Dokumentacija: [ovdje]
Razlika: pripisivanje izvoru, prepuštanje normalizacije ljudima, zabrana fiktivnih veza/povijesti i odvajanje nedatiranih događaja čine obrazac branjivim.
Uobičajene greške
- Miješajući uzorak s dokazom. Uzorak je hipoteza; je potvrđeno u dokumentu.
- Preskakanje normalizacije. Različito pisanje istog entiteta iskrivljuje broj i mrežu.
- Slijepo povjerenje u brojke. Nepotpuno prikupljanje i pristranost uzorkovanja čine brojku pogrešnom.
- Izmišljena vremenska linija. Događaji bez datuma nisu uključeni u kronologiju.
- Ignoriranje konteksta. Nije bitno "koliko puta je položeno", nego "kako je položeno".
Ukratko
Analiza sadržaja i otkrivanje uzoraka moćno je polje u kojem umjetna inteligencija čini vidljive strukture koje ne bi bile vidljive samo čitanjem: izdvajanje entiteta, mreže odnosa, klasteri tema, vremenske trake. Ali svaki obrazac je hipoteza, a ne dokaz. Povežite imovinu s izvorom, pažljivo normalizirajte i uz ljudsku provjeru valjanosti, brojeve upita za podatke koji nedostaju i pristranost, izbjegavajte izmišljene odnose i kronologiju. AI označava uzorak; Što to znači i je li istina, prosudba je povjesničara.
Zadatak aplikacije
Prikupiti najmanje 15 dokumenata (s referencama). Izdvojite entitete osoba i mjesta s predloškom "NER". Zatim grupirajte različita pisanja s "normalizacijom entiteta" i sami provjerite grupe. Na kraju, pokrenite predložak "datirana vremenska traka" i pogledajte koliko je događaja ostalo "bez datuma". Usporedite koliko bi izmišljenih poveznica ili kronologija proizveo AI uz slabe poticaje.
popis za provjeru
- [ ] Jasno sam definirao svoje pitanje uzorka.
- [ ] Svaki entitet imam povezan s referencom dokumenta.
- [ ] Normalizirao sam tipkanje entiteta i kombinirao ga s ljudskim odobrenjem.
- [ ] Doveo sam u pitanje brojke zbog nedostajućih podataka i pristranosti.
- [ ] Nedatirane događaje nisam stavio u kronologiju, držao sam ih odvojeno.