Unità 8 / 12

Analisi del contenuto e scoperta di modelli

Guadagni:

  • Capacità di estrarre modelli da grandi insiemi di testo utilizzando tecniche come NER, estrazione delle relazioni, sequenza temporale e analisi di rete
  • Essere in grado di vedere il modello come un'ipotesi piuttosto che come una prova, collegando le entità alla fonte e normalizzandole con l'approvazione umana
  • Capacità di comprendere come i numeri possano essere fuorvianti a causa della mancanza di dati e di errori di campionamento e di evitare relazioni e cronologie artificiose.

La ricerca storica non consiste solo nella lettura di singoli documenti; spesso alla ricerca di modelli in grandi quantità di documenti. In quali contesti compare un particolare nome nel corso degli anni? Quali persone sono associate a un insediamento? Come cambia un argomento nel tempo? Chi corrisponde con chi? Tali domande richiedono l’esame non di un singolo documento, ma di centinaia di documenti collettivamente. Questo è spesso chiamato digital humanities: l’applicazione di metodi computazionali a campi come la storia e la letteratura.

L’intelligenza artificiale è potente nell’estrarre informazioni strutturate da grandi insiemi di testo. In questa unità imparerai il NER (riconoscimento delle entità denominate), l'estrazione di modelli e relazioni, la logica della modellazione degli argomenti e la creazione di timeline; ma discuteremo anche della trappola più pericolosa di queste tecniche: l’IA che si presenta come se avesse “trovato” uno schema che non esiste.

Tecniche di base

  • NER (Named Entity Recognition): Estrazione automatica di entità quali persona, luogo, istituzione, data dal testo. Produce un elenco come "Tutti i nomi dei luoghi menzionati in questi 500 documenti" in pochi minuti.
  • Inferenza di relazione: marcatura dei legami tra entità (“Persona X al posto Y”, “A corrisponde a B”).
  • Modellazione degli argomenti: individuazione statistica di gruppi di argomenti ricorrenti in un ampio insieme di testi. Mostra quali temi sono concentrati in quale periodo.
  • Inferenza sulla sequenza temporale: organizzazione degli eventi datati nei documenti in ordine cronologico.
  • Analisi di rete: visualizzare le relazioni interpersonali/istituzionali come una rete (chi è il centro, chi è il punto di connessione).

L'obiettivo comune di tutti questi è quello di rivelare strutture che non appaiono in un singolo documento ma appaiono in tutta la raccolta. Queste tecniche rendono visibili modelli che non sarebbero mai visibili attraverso la sola lettura. Ma ciascuno di essi è un "segno", non una "evidenza"; È fondamentale verificare quanto riportato nel documento originale.

Un concetto frequentemente utilizzato in questo campo è la distinzione tra lettura ravvicinata (leggere un testo in profondità, riga per riga) e lettura a distanza (osservazione di centinaia/migliaia di testi collettivamente, statisticamente). L’intelligenza artificiale rende possibile la lettura a distanza: si vedono modelli in un corpus abbastanza grande da durare una singola vita umana. Ma quando la lettura a distanza indica uno schema, è necessario tornare alla lettura da vicino, cioè al documento originale, per dargli un senso. I due metodi non sono intercambiabili; Uno mostra lo schema, l'altro ne dà il significato. La ricerca più approfondita li utilizza entrambi insieme.

Suggerimento: utilizzare l’analisi dei modelli come generatore di ipotesi: “L’intelligenza artificiale ha individuato uno schema qui, è reale?” Quindi controlla quello schema nei documenti uno per uno. Lo schema è il punto di partenza della tua ricerca, non il risultato.

Flusso di lavoro: passo dopo passo

1. Chiarire la domanda. "Quali persone compaiono insieme più frequentemente in questa raccolta?" Una domanda con uno schema chiaro come.

2. Preparare ed etichettare i dati. Organizza il testo con riferimenti alla fonte in modo che tutte le risorse trovate possano essere ricollegate al documento.

3. Viene visualizzata l'entità/modello. Genera NER, relazioni o linee temporali con l'intelligenza artificiale.

4. Normalizza. Combina diverse ortografie della stessa persona/luogo (“Istanbul / Istanbul / Kostantiniyye” lo stesso posto?). Questo passaggio è fondamentale; Se viene omesso, il modello andrà in pezzi.

5. Verificare nel documento. Controllare i documenti effettivi per eventuali modelli significativi contrassegnati. Assicurati che l'IA non aggiunga un collegamento inventato.

6. Commento. Ciò che il modello significa è il giudizio dello storico; L’intelligenza artificiale segna semplicemente lo schema.

Trappola di numeri e statistiche

L'analisi dei pattern produce spesso numeri: “il nome X ricorre 47 volte”, “questo tema è presente nel 30% dei documenti”. Questi numeri sembrano oggettivi ma possono essere fuorvianti:

  • Dati mancanti: se la raccolta è già incompleta (i documenti sono andati perduti, un gruppo non è mai stato registrato), il numero riflette i documenti sopravvissuti, non la realtà.
  • Errore di normalizzazione: se la stessa persona viene scritta diversamente e conteggiata separatamente, il numero risulterà errato.
  • Perdita di contesto: "si verifica 47 volte" non dice nulla; Il modo in cui viene trasmesso (positivo/negativo, soggetto/oggetto) è importante.

uscita del modello

significato apparente

rischio reale

"X ricorre 47 volte"

persona importante

Raccolta incompleta, variazione ortografica

"Tema 30%"

argomento dominante

bias di campionamento

"A-B spesso insieme"

relazione intima

Coincidenza, contesto mancante

"linea temporale"

cronologia esatta

Documenti non datati, ordine fabbricato

tre mini custodie

Caso 1: l’analisi della rete ha rivelato un intermediario nascosto. Un ricercatore ha esaminato una raccolta di corrispondenza di 800 lettere. Con l’intelligenza artificiale si è deciso chi scriveva a chi e si è creata una rete. La rete ha dimostrato che una persona a prima vista apparentemente insignificante era in realtà il punto di contatto chiave tra i due gruppi. Il ricercatore si è concentrato sulle lettere di questa persona ed è giunto a una nuova scoperta. Ma prima verificate tutti i collegamenti presenti nei documenti.

Caso 2: un errore di normalizzazione ha danneggiato il numero. Uno studente ha fatto contare il numero di volte in cui un luogo appariva nei documenti. Poiché l'IA ha contato separatamente tre diverse ortografie dello stesso luogo, il numero si è rivelato essere un terzo del numero reale. Quando le ortografie furono combinate, il luogo era in realtà nella terza posizione più frequente. Lezione: senza normalizzazione non ci si può fidare del numero.

Caso 3 – Cronologia inventata. Un ricercatore ha creato una sequenza temporale da documenti non datati. L'intelligenza artificiale ha organizzato gli eventi sconosciuti in un ordine "logico" e ha presentato una cronologia precisa. Tuttavia, questa sequenza non era nei documenti, l'aveva inventata AI. Lezione: la sequenza temporale è costruita solo da eventi che hanno una data nel documento; il resto rimane "senza data".

Quattro modelli copiabili

1) NER (inferenza sull'entità):

Le persone, i luoghi, le istituzioni e le date menzionate nei documenti seguenti appaiono come elenchi SEPARATI. Indicare in quale documento (riferimento) è menzionata ciascuna entità. Prendi solo ciò che è CHIARAMENTE indicato nel testo; aggiungi per ipotesi. Segna [?] se non sei sicuro della pronuncia. Documenti: [qui]

2) Normalizzazione dell'entità:

Nell'elenco delle entità riportato di seguito, raggruppa diverse ortografie che potrebbero indicare la stessa persona/luogo (ad esempio "Istanbul / Kostantiniyye"). Suggerire il possibile formato comune per ciascun gruppo MA non imporre la combinazione esatta; Aggiungi la nota "forse lo stesso, lascia che le persone verifichino". Lascia stare se non sei sicuro. Elenco: [qui]

3) Schema della relazione/rete:

Estrarre i collegamenti "chi è imparentato con chi" dal seguente insieme di corrispondenza/documenti. Per ogni collegamento, indicare su quale documento (riferimento) si basa. HA inventato una relazione che non è CHIARAMENTE nel documento. Segna i collegamenti ambigui [indistinti]. Documentazione: [qui]

4) Cronologia datata:

Elencare in ordine cronologico solo gli eventi CHIARAMENTE indicati nei seguenti documenti; Collega ogni evento alla sua fonte. Elenca gli eventi con data incerta separatamente sotto la voce "senza data", NON metterli in ordine. NON inventare la data stimata. Documentazione: [qui]

Prompt debole / Prompt forte

Debole:

Analizza questi documenti ed estrai modelli, relazioni e sequenze temporali importanti.

“Estrai schemi importanti” spinge l’intelligenza artificiale a inventare connessioni inesistenti e cronologie precise, presentando numeri senza normalizzazione.

Forte:

Estrae le entità persona/luogo/istituzione dai seguenti documenti collegando ciascuno al riferimento del documento. Contrassegna ortografie diverse che potrebbero essere uguali a "potrebbero essere unite", ma non unire. Rapporti non chiaramente indicati nel documento ed eventi con date incerte NON FALSI; mantieni separati quelli senza data. Documentazione: [qui]

La differenza: l’attribuzione alla fonte, il lasciare la normalizzazione agli esseri umani, il divieto di legami/storie fittizie e la separazione di eventi non datati rendono il modello difendibile.

Errori comuni

  • Confondendo lo schema con una prova. Lo schema è l'ipotesi; è verificato nel documento.
  • Saltare la normalizzazione. Ortografie diverse della stessa entità distorcono il numero e la rete.
  • Fiducia cieca nei numeri. La raccolta incompleta e gli errori di campionamento rendono il numero fuorviante.
  • Cronologia inventata. Gli eventi senza data non sono inclusi nella cronologia.
  • Ignorare il contesto. Ciò che conta non è “quante volte è stato approvato”, ma “come è stato approvato”.

In sintesi

L’analisi dei contenuti e la scoperta di modelli sono un campo potente in cui l’intelligenza artificiale rende visibili strutture che non sarebbero visibili attraverso la sola lettura: estrazione di entità, reti di relazioni, cluster di argomenti, sequenze temporali. Ma ogni modello è un’ipotesi, non una prova. Collega le risorse alla fonte, normalizza attentamente e con convalida umana, interroga i numeri per dati mancanti e errori, evita relazioni e cronologie artificiose. L’intelligenza artificiale segna lo schema; Che cosa significhi e se sia vero spetta al giudizio dello storico.

Compito dell'applicazione

Raccogli almeno 15 documenti (con riferimenti). Estrai persona e posiziona entità con il modello "NER". Quindi raggruppa le diverse ortografie con "normalizzazione dell'entità" e verifica tu stesso i gruppi. Infine, esegui il modello "sequenza temporale datata" e controlla quanti eventi rimangono "non datati". Confronta quanti collegamenti o cronologie inventati l'intelligenza artificiale produrrebbe con scarsa sollecitazione.

lista di controllo

  • [ ] Ho definito chiaramente la mia domanda sullo schema.
  • [ ] Ho ogni entità collegata al riferimento del documento.
  • [ ] Ho normalizzato la tipizzazione dell'entità e l'ho combinata con l'approvazione umana.
  • [] Ho messo in dubbio i numeri relativi ai dati mancanti e ai bias.
  • [ ] Non ho inserito in cronologia gli eventi senza data, li ho tenuti separati.