Unità 8 / 12

Analiżi tal-Kontenut u Skoperta tal-Mudelli

Qligħ:

  • Kapaċità li jiġu estratti mudelli minn settijiet kbar ta’ test bl-użu ta’ tekniki bħal NER, estrazzjoni ta’ relazzjoni, linja ta’ żmien u analiżi tan-netwerk
  • Li tkun kapaċi tara l-mudell bħala ipoteżi aktar milli evidenza, torbot l-entitajiet mas-sors u jinnormalizzahom b'approvazzjoni umana
  • Kapaċità li tifhem kif in-numri jistgħu jkunu qarrieqa minħabba data nieqsa u preġudizzju għall-kampjunar, u biex jiġu evitati relazzjonijiet u kronoloġiji maħduma.

Ir-riċerka storika mhijiex biss dwar il-qari ta’ dokumenti individwali; ħafna drabi tfittex mudelli f'settijiet kbar ta 'dokumenti. F'liema kuntesti jidher isem partikolari matul is-snin? Liema nies huma assoċjati ma 'soluzzjoni? Kif jinbidel suġġett maż-żmien? Min qed jikkorrispondi ma' min? Mistoqsijiet bħal dawn jeħtieġu li wieħed iħares lejn mhux dokument wieħed, iżda mijiet ta 'dokumenti kollettivament. Dan huwa spiss imsejjaħ umanistiċi diġitali—l-applikazzjoni ta 'metodi ta' komputazzjoni għal oqsma bħall-istorja u l-letteratura.

L-AI hija b'saħħitha biex tiġbed informazzjoni strutturata minn settijiet kbar ta 'test. F'din l-unità, int se titgħallem NER (rikonoxximent ta' entità msemmija), estrazzjoni ta' mudell u relazzjoni, loġika tal-immudellar tas-suġġett u ħolqien ta' timeline; iżda se niddiskutu wkoll l-iżjed nasa perikoluża ta 'dawn it-tekniki—l-AI li tippreżenta lilha nnifisha bħala li "sabet" mudell li ma jeżistix.

Tekniki bażiċi

  • NER (Rikonoxximent ta' Entità Imsemmija): Estrazzjoni awtomatika ta' entitajiet bħal persuna, post, istituzzjoni, data mit-test. Jipproduċi lista bħal "L-ismijiet tal-postijiet kollha msemmija f'dawn il-500 dokument" f'minuti.
  • Inferenza tar-relazzjoni: L-immarkar tar-rabtiet bejn l-entitajiet (“Persuna X fil-post Y”, “A tikkorrispondi ma’ B”).
  • L-immudellar tas-suġġetti: Is-sejba statistika ta' gruppi ta' suġġetti rikorrenti f'sett kbir ta' test. Juri liema temi huma kkonċentrati f'liema perjodu.
  • Inferenza tal-kronoloġija: L-arranġament ta' avvenimenti datati f'dokumenti f'ordni kronoloġika.
  • Analiżi tan-netwerk: Viżwalizzazzjoni ta' relazzjonijiet inter-persuni/istituzzjonali bħala netwerk (min huwa ċ-ċentru, min huwa l-punt ta' konnessjoni).

L-għan komuni ta’ dawn kollha huwa li jiżvelaw strutturi li ma jidhrux f’dokument wieħed iżda jidhru fil-kollezzjoni kollha. Dawn it-tekniki jagħmlu mudelli viżibbli li qatt ma jkunu viżibbli permezz tal-qari waħdu. Iżda kull wieħed minnhom huwa "sinjal", mhux "evidenza"; Huwa essenzjali li jiġi vverifikat dak li jinstab fid-dokument oriġinali.

Kunċett użat ta’ spiss f’dan il-qasam huwa d-distinzjoni bejn qari mill-qrib (qari ta’ test fil-fond, linja b’linja) u qari mill-bogħod (li tħares lejn mijiet/eluf ta’ testi kollettivament, statistikament). L-AI tagħmilha possibbli li taqra mill-bogħod: tara mudelli f'korpus kbir biżżejjed biex idum ħajja umana waħda. Iżda meta l-qari mill-bogħod jindika mudell, huwa meħtieġ li terġa 'lura għall-qari mill-qrib, jiġifieri, għad-dokument oriġinali, biex tagħmel sens tiegħu. Iż-żewġ metodi mhumiex interkambjabbli; Wieħed juri l-mudell, l-ieħor jagħti t-tifsira tiegħu. L-aktar riċerka robusta tuża t-tnejn flimkien.

Tip: Uża analiżi tal-mudelli bħala ġeneratur tal-ipoteżi: "L-AI sibt mudell hawn, huwa reali?" Imbagħad iċċekkja dak il-mudell fid-dokumenti wieħed wieħed. Il-mudell huwa l-punt tat-tluq tar-riċerka tiegħek, mhux ir-riżultat.

Fluss tax-xogħol: pass pass

1. Iċċara l-mistoqsija. "Liema nies jidhru flimkien l-aktar ta' spiss f'din il-kollezzjoni?" Mistoqsija mudell ċara bħal.

2. Ipprepara u ttikketta d-dejta. Organizza test bir-referenzi tas-sors sabiex kwalunkwe assi misjuba jkunu jistgħu jiġu marbuta lura mad-dokument.

3. Jidher l-entità/mudell. Iġġenera NER, relazzjoni jew skeda tal-ħin mal-AI.

4. Normalizza. Għaqqad ortografiji differenti tal-istess persuna/post ("Istanbul / Istanbul / Kostantiniyye" l-istess post?). Dan il-pass huwa kritiku; Jekk titħalla barra, il-mudell se jaqa 'barra.

5. Ivverifika fid-dokument. Iċċekkja d-dokumenti attwali għal kwalunkwe mudelli sinifikanti li huma mmarkati. Kun żgur li l-AI ma żżidx rabta magħmula.

6. Ikkummenta. Dak li jfisser il-mudell huwa l-ġudizzju tal-istoriku; AI timmarka biss il-mudell.

Nassa tan-numri u tal-istatistika

L-analiżi tal-mudell spiss tipproduċi numri: "isem X iseħħ 47 darba", "din it-tema hija preżenti fi 30% tad-dokumenti". Dawn in-numri jidhru oġġettivi iżda jistgħu jkunu qarrieqa:

  • Dejta nieqsa: Jekk il-ġbir ikun diġà mhux komplut (dokumenti ntilfu, grupp qatt ma ġie rreġistrat), in-numru jirrifletti d-dokumenti superstiti, mhux ir-realtà.
  • Żball ta' normalizzazzjoni: Jekk l-istess persuna tinkiteb b'mod differenti u tingħadd separatament, in-numru ma jkunx korrett.
  • Telf tal-kuntest: "jseħħ 47 darba" ma jgħid xejn; Kif tgħaddi (pożittiv/negattiv, suġġett/oġġett) huwa importanti.

output tal-mudell

tifsira apparenti

riskju reali

"X iseħħ 47 darba"

persuna importanti

Ġabra mhux kompluta, varjazzjoni ortografika

"Tema 30%"

suġġett dominanti

preġudizzju għall-kampjunar

"A-B spiss flimkien"

relazzjoni intima

Kumbinazzjoni, kuntest nieqes

"kalendarju"

kronoloġija eżatta

Dokumenti mhux datati, ordni fabbrikata

tliet każijiet żgħar

Każ 1 — L-analiżi tan-netwerk żvelat intermedjarju moħbi. Riċerkatur eżamina ġabra ta 'korrispondenza ta' 800 ittra. Bl-AI, min kiteb lil min kien determinat u nħoloq netwerk. In-netwerk wera li persuna li tidher insinifikanti mal-ewwel daqqa t'għajn kienet fil-fatt il-punt ewlieni ta 'kuntatt bejn iż-żewġ gruppi. Ir-riċerkatur iffoka fuq l-ittri ta’ din il-persuna u wasal għal sejba ġdida. Iżda l-ewwel vverifikat il-links kollha fid-dokumenti.

Każ 2 — Żball tan-normalizzazzjoni kkorrotta n-numru. Student qabadhom jgħoddu n-numru ta’ drabi li post deher fid-dokumenti. Peress li l-AI għadd tliet ortografiji differenti tal-istess post separatament, in-numru rriżulta li kien terz tan-numru reali. Meta l-ortografiji ġew magħquda, il-post kien fil-fatt fit-tielet pożizzjoni l-aktar frekwenti. Lezzjoni: mingħajr normalizzazzjoni in-numru ma jistax jiġi fdat.

Każ 3 — Skeda tal-ħin magħmula. Riċerkatur ħoloq timeline minn dokumenti mhux datati. AI rranġat l-avvenimenti mhux magħrufa f'ordni "loġika" u ppreżentat kronoloġija preċiża. Madankollu, din is-sekwenza ma kinitx fid-dokumenti, AI kienet għamilha. Lezzjoni: il-kronoloġija hija mibnija biss minn avvenimenti li għandhom data fid-dokument; il-bqija jibqa' "mhux datat".

Erba' mudelli li jistgħu jiġu kkupjati

1) NER (inferenza tal-entità):

Il-persuni, il-postijiet, l-istituzzjonijiet u d-dati msemmija fid-dokumenti hawn taħt jidhru bħala listi SEPARATI. Indika f'liema dokument (referenza) tissemma kull entità. Ħu biss dak li huwa ddikjarat B'MOD ĊARA fit-test; żid billi raden. Immarka [?] jekk m'intix ċert mill-pronunzja. Dokumenti: [hawn]

2) Normalizzazzjoni tal-entità:

Fil-lista ta' entitajiet hawn taħt, iggruppa ortografiji differenti li jistgħu jkunu l-istess persuna/post (eż. "Istanbul / Kostantiniyye"). Issuġġerixxi l-format komuni possibbli għal kull grupp IMMA ma timponix il-kombinazzjoni eżatta; Żid nota "forsi l-istess, ħalli n-nies jivverifikaw". Ħallih waħdu jekk m'intix ċert. Lista: [hawn]

3) Kontorn tar-relazzjoni/netwerk:

Oħroġ il-links "min hu relatat ma' min" mis-sett ta' korrispondenza/dokumenti li ġejjin. Għal kull link, indika fuq liema dokument (referenza) hija bbażata. MAGĦMULA relazzjoni li mhix ĊAR fid-dokument. Immarka links ambigwi [indistinti]. Dokumentazzjoni: [hawn]

4) Skeda tal-ħin datata:

Elenka f'ordni kronoloġika biss l-avvenimenti ddikjarati B'mod ċar fid-dokumenti li ġejjin; Link kull avveniment mas-sors tiegħu. Elenka l-avvenimenti b'dati inċerti separatament taħt l-intestatura "mhux datata", Tpoġġihomx f'ordni. Tagħmelx id-data stmata. Dokumentazzjoni: [hawn]

Pront dgħajjef / Pront qawwi

Dgħajjef:

Analizza dawn id-dokumenti u estratt mudelli, relazzjonijiet u skadenzi importanti.

"Estratt mudelli importanti" timbotta l-AI biex tivvinta konnessjonijiet ineżistenti u kronoloġiji preċiżi, li tippreżenta numri mingħajr normalizzazzjoni.

Qawwija:

Jiġbed l-entitajiet tal-persuna/post/istituzzjoni mid-dokumenti li ġejjin billi jgħaqqad kull wieħed mar-referenza tad-dokument. Immarka ortografiji differenti li jistgħu jkunu l-istess bħal "jistgħu jiġu magħquda", iżda ma jingħaqdux. Relazzjonijiet li mhumiex iddikjarati b'mod ċar fid-dokument u avvenimenti b'dati inċerti MA FALZ; żomm dawk mingħajr dati separati. Dokumentazzjoni: [hawn]

Id-differenza: l-attribuzzjoni għas-sors, in-normalizzazzjoni li tħalli lill-bnedmin, il-projbizzjoni fuq rabtiet/storja fittizji, u s-separazzjoni ta 'avvenimenti mhux datati jagħmlu l-mudell difiżibbli.

Żbalji komuni

  • Jiżbalja l-mudell għall-evidenza. Il-mudell huwa l-ipoteżi; hija vverifikata fid-dokument.
  • Taqbeż in-normalizzazzjoni. Spellings differenti tal-istess entità jgħawġu n-numru u n-netwerk.
  • Fiduċja għomja fin-numri. Il-ġbir mhux komplut u l-preġudizzju tat-teħid tal-kampjuni jagħmlu n-numru qarrieqi.
  • Kronoloġija magħmula. Avvenimenti mhux datati mhumiex inklużi fil-kronoloġija.
  • Injora l-kuntest. Mhuwiex "kemm-il darba kien għadda", iżda "kif kien għadda" li huwa importanti.

Fil-qosor

L-analiżi tal-kontenut u l-iskoperta tal-mudelli huma qasam b'saħħtu fejn l-AI tagħmel strutturi viżibbli li ma jkunux viżibbli permezz tal-qari waħdu: estrazzjoni ta' entitajiet, netwerks ta' relazzjonijiet, gruppi ta' suġġetti, skedi ta' żmien. Iżda kull mudell huwa ipoteżi, mhux evidenza. Link assi mas-sors, normalizza bir-reqqa u b'validazzjoni umana, mistoqsija numri għal data nieqsa u preġudizzju, evita relazzjonijiet u kronoloġiji maħduma. AI jimmarka l-mudell; Xi jfisser u jekk huwiex veru huwa l-ġudizzju tal-istoriku.

Kompitu ta' applikazzjoni

Iġbor mill-inqas 15-il biċċa dokumentazzjoni (b'referenzi). Oħroġ persuna u poġġi entitajiet bil-mudell "NER". Imbagħad iggruppa l-ortografiji differenti b'"normalizzazzjoni tal-entità" u vverifika l-gruppi lilek innifsek. Fl-aħħarnett, mexxi l-mudell ta’ “kronoloġija datata” u ara kemm-il avveniment jibqa’ “mhux datat”. Qabbel kemm-il rabtiet jew kronoloġiji maħduma l-AI ​​tipproduċi b'prompting fqir.

lista ta' kontroll

  • [ ] Iddefinijt b'mod ċar il-mistoqsija tal-mudell tiegħi.
  • [ ] Għandi kull entità marbuta mar-referenza tad-dokument.
  • [ ] Innormalizzajt it-tajpjar tal-entità u kkombinajtha mal-approvazzjoni tal-bniedem.
  • [ ] Staqsejt in-numri għal data nieqsa u bias.
  • [ ] Ma poġġejtx l-avvenimenti mhux datati fil-kronoloġija, żammejthom separatament.