Guadagni:
- Capacità di elaborare misurazioni del corpus come frequenza delle parole, collocazione, ricchezza del vocabolario e parole chiave con intelligenza artificiale
- Sapere che l’intelligenza artificiale non è affidabile nel conteggio esatto ed essere in grado di verificare ogni conteggio con uno strumento separato
- Capacità di comprendere che un numero da solo non dice nulla e che l'interpretazione linguistica che ne stabilisce il significato appartiene all'uomo.
La letteratura e gli studi linguistici non sono solo "commenti"; Ha anche un aspetto misurabile e numerabile. Quante parole diverse usa un autore, quali parole gli piace usare con quali parole, quali parole diventano comuni in un periodo - queste vengono indagate attraverso la linguistica (la scienza che studia il suono, la struttura, il significato e l'uso della lingua) e soprattutto la linguistica dei corpora. Un corpus è una raccolta di testi, come l'opera completa di un autore, l'archivio annuale di un giornale o le poesie di un periodo. L'analisi del corpus cerca modelli numerici in questo blocco.
In questa unità impareremo a utilizzare l'intelligenza artificiale come assistente per l'analisi del corpus: estraendo rapidamente parametri come la frequenza delle parole (il numero di volte in cui una parola ricorre nel testo), la collocazione (coppie di parole che ricorrono frequentemente insieme, ad esempio "nero" + "la mia fortuna"), la ricchezza del vocabolario e la variazione stagionale. Ma un avvertimento fin dall’inizio: l’intelligenza artificiale può commettere errori quando conta da sola; Per eseguire conteggi ampi e precisi sono necessari strumenti speciali e tu sei il linguista che stabilisce il significato di ciascun numero.
Dove è forte l’intelligenza artificiale e dove è debole nell’analisi del corpus?
I suoi punti di forza sono: riconoscere modelli in testi piccoli e medi, generare ipotesi sul vocabolario di un testo, suggerire candidati per collocazioni, interpretare un risultato, descrivere una metodologia. AI chiede "quali frasi risaltano in questo autore?" Dà un rapido inizio alla domanda.
Punto debole: conteggio accurato. L’intelligenza artificiale è un modello linguistico, non una calcolatrice; può dare una risposta approssimativa e talvolta errata alla domanda "quante volte si è verificato" in un testo lungo. Per una frequenza precisa, statistiche esatte sulla coubicazione o la scansione di grandi corpus di migliaia di parole, viene utilizzato un software specializzato (ad esempio strumenti per corpus come AntConc o un foglio di calcolo). L’intelligenza artificiale è preziosa nell’interpretare i risultati di questi strumenti; Ma non fargli fare il conteggio alla cieca.
Suggerimento: se hai bisogno di un numero esatto, usa due modi: fai in modo che uno strumento esegua il conteggio in un testo piccolo e chiedi all'intelligenza artificiale di interpretarlo; Oppure fai contare l'IA e verificala in un altro modo. Non usare mai la frase "L'intelligenza artificiale ha detto che si verifica 47 volte" senza conferma.
Uno studio del corpus passo dopo passo
- Fai una domanda. "Come sono distribuite le parole di colore in questo poeta?" Contare non ha senso senza una domanda chiara come:
- Definire il corpus. Quali testi? Quale edizione? Quale periodo? Il confine deve essere chiaro.
- Seleziona la misura. Frequenza, collocazione, ricchezza di vocabolario?
- Misurare e verificare. Fai il conteggio, poi conferma una seconda via.
- Commento. Il numero da solo non dice nulla; È il tuo commento che rende significativa la scoperta che "le parole colorate sono raddoppiate nel secondo periodo".
Una misura della ricchezza del vocabolario utilizzata frequentemente è il rapporto tra il numero di parole diverse e il numero totale di parole (rapporto tipo/token). Se questo rapporto è alto, il testo è ricco di parole, se è basso significa che è ripetitivo. Ma questo rapporto è influenzato dalla lunghezza del testo; Fai attenzione quando confronti direttamente testi brevi e lunghi.
tre mini custodie
Caso 1: la collocazione ha dimostrato uno stile. Un ricercatore ha esaminato gli accoppiamenti aggettivo-sostantivo in 3 romanzi di un romanziere. AI ha suggerito che la parola “pallido” corrisponde a 5 nomi diversi; Il ricercatore ha verificato 4 dei testi e ne ha eliminato 1 perché fabbricato. Lo schema confermato è diventato un'affermazione di tesi sullo stile descrittivo dell'autore.
Caso 2 — Errore di conteggio rilevato. Uno studente ha chiesto ad AI quante volte la parola “notte” è apparsa in un testo di 2.000 parole; L'IA ha detto "23". Quando lo studente ha inserito il testo in un foglio di calcolo e lo ha fatto contare, il numero effettivo era 17. È diventato chiaro che il conteggio grezzo dell'IA è inaffidabile.
Caso 3 – Il cambiamento periodico ha suscitato polemiche. Un gruppo ha confrontato la proporzione di parole astratte nelle prime e nelle ultime poesie di un poeta. La prima bozza dell’IA suggeriva una tendenza; Quando il gruppo è tornato sul testo e ha verificato il conteggio, la tendenza si è rivelata reale, ma le "cause" suggerite dall'IA erano speculazioni non verificabili e sono state eliminate.
Quattro modelli copiabili
1) Schema della frequenza delle parole (con verifica):
Elenca le 15 parole di contenuto più frequenti (escludi parole funzionali come congiunzioni e preposizioni) nel testo sottostante, con le loro frequenze approssimative. ATTENZIONE: Tieni presente che i conteggi POTREBBERO NON essere accurati e nota che "per essere accurati, devono essere verificati con uno strumento di conteggio separato". Testo: [incolla il testo qui]
2) Candidati alla colocation:
Suggerisci coppie di parole (collocazioni) che ricorrono frequentemente insieme nel testo seguente. Fornisci almeno una citazione dal testo per ogni coppia. Doppia fabbricazione che non ha equivalenti nel testo; Se non sei sicuro, contrassegnalo come "necessita di verifica".Testo: [incolla testo]
3) Confronto del vocabolario:
Ti darò due testi. Per ciascuno: parole totali approssimative, osservazioni sulle diverse varietà di parole e domini di parole prominenti (ad esempio colore, natura, emozione). Precisare che i numeri sono approssimativi. Lasciamo l'interpretazione del confronto alla mia verifica. Testo A: [...] Testo B: [...]
4) Interpretazione del risultato:
Ho ottenuto i seguenti risultati da uno strumento di conteggio: [incolla risultati].Genera 2-3 ipotesi su cosa potrebbero significare linguisticamente questi numeri. Contrassegna ogni ipotesi come "richiede prove" e dimmi come posso verificarla. Evita commenti eccessivi.
Prompt debole / Prompt forte
Debole: "Quale parola ricorre maggiormente in questo testo?"
Forte: "Elenca le parole del contenuto più frequente in questo testo con la loro frequenza approssimativa; escludi le parole funzionali. Metti in chiaro che i numeri non sono esatti e devono essere verificati con uno strumento separato. Fornisci una frase di esempio per ogni parola."
Il potente messaggio fa sì che l'IA accetti il limite di conteggio e ti dice in anticipo che è necessaria la verifica. Nel prompt debole, l'IA fornisce un unico numero e non sai che potrebbe essere sbagliato.
Tabella misure e affidabilità
misurazione
Cosa mostra
Solo intelligenza artificiale
modo giusto
frequenza delle parole
parole frequenti
Circa, rischioso
Contatore + commento AI
collocazione
coloro che sono morti insieme
Produce candidati
Conferma dal testo
Rapporto tipo/token
Diversità verbale
Può essere fuorviante
Conto con lo strumento
cambio stagionale
Tendenza nel tempo
genera ipotesi
Misurare e verificare
Commento conclusivo
Significato
Potente ma esagera
giudizio umano
Concetti di parole chiave e n-grammi
Due concetti semplificano il lavoro nell'analisi del corpus. La prima è la parola chiave (parola chiave in inglese - la parola che ricorre in un testo o in un autore molto più spesso del previsto rispetto al linguaggio generale, conferendo a quel testo il suo "carattere"). Le parole chiave di un autore rivelano i suoi interessi e il suo stile; Se, ad esempio, in un poeta “mare” e “separazione” ricorrono più frequentemente del previsto, questa sporgenza statistica diventa il punto di partenza per un'interpretazione. Per identificare le parole chiave è necessario confrontare le frequenze di un testo con le frequenze di un corpus di riferimento (un ampio corpo di testo generale utilizzato per il confronto); Questo confronto è uno strumento definitivo, è un calcolo che l’intelligenza artificiale non può eseguire in modo affidabile da sola.
Il secondo è n-gram (una sequenza di n parole consecutive in un testo; una sequenza di due parole si chiama "bigram", una sequenza di tre parole si chiama "trigram"). L'analisi N-gram rivela le espressioni stereotipate di un autore e le frasi usate di frequente. Ad esempio, se uno scrittore usa frasi come "in un certo senso" o "comunque" molto frequentemente, ciò indica la sua abitudine di creare frasi. L’intelligenza artificiale può suggerire queste frasi come candidate; ma per la vera frequenza e significatività statistica è necessario tornare allo strumento di conteggio.
Suggerimento: dì all'IA: "Elenca le frasi degne di nota (due o tre parole) in questo testo come candidate e fornisci un esempio dal testo per ciascuna". Prendi l'elenco dei candidati e misura la frequenza effettiva con uno strumento separato. Posiziona l’IA come “osservatore”, l’agente come “contatore” e te stesso come “interprete”.
Errori comuni
- Basandosi sul conteggio grezzo dell'IA. L’intelligenza artificiale non è una calcolatrice; Verificare il numero esatto con uno strumento separato.
- Presentando il numero senza commento. "Superato 47 volte" non dice nulla; Tu crei il significato.
- Ignorare la lunghezza del testo. I tassi di diversità dei testi sono sensibili alla lunghezza.
- Fare tesi senza verificare la collocazione. Le coppie non AI possono suggerire; Conferma dal testo.
- Commento estremo. Non accettare le “ragioni” suggerite dall’AI senza prove.
In sintesi
L'analisi del corpus svela l'aspetto numerabile della letteratura: frequenza, collocazione, vocabolario, cambiamento periodico. L’intelligenza artificiale è potente in quest’area nel riconoscere modelli e interpretare i risultati; ma è inaffidabile nel conteggio assoluto. Verifica il numero con lo strumento separato, conferma le collocazioni dal testo e stabilisci tu stesso il significato di ciascun numero. Il numero non è una prova, è la porta verso l’evidenza.
Compito dell'applicazione
Scegli un testo breve (500-1000 parole). Identificare una parola di contenuto (ad esempio "notte" o "strada"). Innanzitutto, conta te stesso nel testo. Quindi chiedi all'IA di contarlo. Confronta i due risultati; Se c'è una differenza, indaga il motivo. Quindi scrivi un commento di un paragrafo sulla funzione di quella parola nel testo, trasformando il numero in significato.
lista di controllo
- [ ] Pongo una domanda linguistica chiara.
- [ ] Ho definito i confini del corpus (testo, edizione, periodo).
- [] Ho verificato il conteggio dell'IA in un secondo modo.
- [ ] Ho confermato le collocazioni del testo.
- [ ] Non ho lasciato il numero senza commenti; Il significato l'ho creato io stesso.