Guadagni:
- Capacità di catturare l'allucinazione verificando l'esistenza di ciascuna fonte, andando alla fonte primaria e passaggi di conferma incrociata indipendenti
- Capacità di mantenere l'originalità e l'integrità accademica rispetto a citazioni e documenti fabbricati nelle scienze umane e sociali
- Capacità di insegnare agli utenti competenze di verifica delle fonti e di competenza informativa nell'era dell'intelligenza artificiale
Al centro della missione sociale della biblioteconomia c'è un'unica promessa: informazioni affidabili. Un bibliotecario porta l'utente non solo alle informazioni, ma alle informazioni verificate e gli insegna come valutare queste informazioni da solo. Nell’era dell’intelligenza artificiale, questa missione è diventata allo stesso tempo più difficile e più importante; perché l’intelligenza artificiale può produrre disinformazione in modo altamente convincente. In questa unità tratteremo il riconoscimento delle allucinazioni, la disciplina della verifica della fonte e l'insegnamento della competenza informativa nell'era dell'intelligenza artificiale.
Definiamo i concetti. L'allucinazione è quando l'intelligenza artificiale produce informazioni, fonti, citazioni o eventi che in realtà non esistono come se fossero reali. La verifica della fonte è la conferma che le informazioni si basano su una fonte reale, affidabile e primaria. La competenza informativa è la capacità di una persona di trovare informazioni, valutarle, metterne in discussione l'affidabilità e utilizzarle eticamente. Questa unità mira a far sì che il bibliotecario rafforzi queste abilità sia nella sua pratica che nell'insegnamento all'utente.
Passo dopo passo: disciplina della verifica della fonte
1. Richiedi la fonte e verificane l'esistenza. Quando l'IA fornisce un reclamo o una citazione, "da quale fonte proviene?" e verificare che la fonte esista effettivamente in un catalogo, database o documento primario indipendente.
2. Vai alla fonte primaria. La forma di informazione più affidabile è la sua fonte di prima mano. Non accontentarti di un riassunto di AI o di un testo secondario; Se possibile, accedere al documento, ai dati o alla pubblicazione originale.
3. Conferma incrociata. Verificare un'affermazione critica con almeno due fonti affidabili, indipendenti l'una dall'altra. Una risorsa, soprattutto quella dell’intelligenza artificiale, non è sufficiente.
4. Valutare la credibilità della fonte. Chi lo ha scritto, quando, per quale scopo, su quali prove? È aggiornato? L'esistenza dell'informazione non la rende vera; Metti in dubbio anche la natura della fonte.
5. Esprimi onestamente l'incertezza. Se le informazioni non possono essere verificate, ditelo chiaramente. È sempre meglio dire "non confermato" piuttosto che offrire una certezza inventata.
Suggerimento: quando ricevi una citazione o una fonte da AI, cerca prima il titolo e l'autore in un catalogo reale. Le risorse inesistenti appaiono immediatamente qui. Questo controllo di 30 secondi impedisce a una fonte inventata di inserire una bibliografia, un compito o una pubblicazione.
Autenticità e verifica nelle scienze umane e sociali
Le scienze umane e sociali sono particolarmente vulnerabili al rischio di allucinazioni. In questi ambiti, le prove si basano spesso su un documento specifico, una data, una citazione o la fonte di un commento. L’intelligenza artificiale può produrre affermazioni altamente specifiche ma completamente inventate, come “quello storico ha detto” o “quel documento del 1923 dice”. In un'opera letteraria, storica o giuridica, ciò significa una falsa catena di prove.
Del resto, l'originalità è il valore fondamentale di questi ambiti: importa a chi appartiene realmente un testo, un'interpretazione o una traduzione. Presentare un testo prodotto da AI come un'opera originale o fare affidamento su una "fonte" composta da AI viola l'integrità accademica. Il bibliotecario è una guida che insegna agli utenti sia la verifica che i limiti dell'originalità e del plagio.
Attenzione: anche nei casi in cui una citazione generata dall'intelligenza artificiale appare accurata parola per parola e viene attribuita a un autore reale, tale citazione potrebbe essere inventata. Verificare una citazione trovandola solo nell'opera reale dell'autore; La logica del “questo autore avrebbe potuto dire qualcosa del genere” non è sufficiente.
tre mini custodie
Caso 1: allo studente è stata insegnata la verifica. Un bibliotecario ha visto 5 risorse dell'intelligenza artificiale nel compito di uno studente. Insieme lo hanno controllato nel catalogo: sono state fabbricate 2 fonti. Lo studente ha sperimentato in prima persona la lezione secondo cui "non è giusto che sembri reale" e ha preso ancora una volta l'abitudine di verificare ogni fonte.
Caso 2 – Documento storico fabbricato. Un ricercatore ha ricevuto un "articolo di giornale del 1919" da AI; La data, il nome del giornale e il contenuto erano estremamente convincenti. Il bibliotecario esaminò l'archivio dei giornali: a quel tempo non c'erano notizie del genere. Una fonte primaria fabbricata è stata catturata prima ancora che venisse inserita in un articolo.
Caso 3 – Citazione attribuita erroneamente. AI ha attribuito una citazione a un famoso pensatore. Il bibliotecario cercò questa parola nelle opere del pensatore e non riuscì a trovarla; La parola non è stata menzionata da nessuna parte. Il controllo incrociato ha impedito la diffusione di una citazione attribuita erroneamente.
La catena di diffusione della disinformazione e il ruolo del bibliotecario
La disinformazione spesso inizia con un singolo risultato inventato, ma non si ferma qui. Un utente inserisce una falsa risorsa generata dall'intelligenza artificiale in un compito; l'incarico diventa una pubblicazione; la pubblicazione è citata da altri, sicché una fonte fittizia acquista l'apparenza di "verità" essendo citata ripetutamente. Possiamo chiamare questa contaminazione di attribuzioni: le false informazioni acquistano legittimità essendo ripetute ancora e ancora. Il bibliotecario si trova nell’anello più critico di questa catena; perché è l'ultimo punto di controllo dove vengono verificate le informazioni prima di entrare nel sistema. Solo perché una fonte "si trova in molti posti" non la rende vera; Le stesse informazioni false possono apparire in molti posti perché copiate l'una dall'altra. Pertanto, la conferma incrociata dovrebbe basarsi sulla domanda "quante fonti attendibili lo confermano indipendentemente l'una dall'altra", non "in quanti posti appare?" Dieci fonti secondarie che ripetono la stessa affermazione non valgono quanto una singola fonte primaria indipendente. Il bibliotecario dovrebbe porre questa distinzione (non confondere l'indipendenza con la ripetizione) al centro sia della propria verifica sia del proprio insegnamento all'utente.
Attenzione: la comparsa delle informazioni in un motore di ricerca o su molte pagine web non ne prova l'accuratezza. Lo stesso errore potrebbe essersi diffuso perché copiato da una fonte all'altra. Prevalenza e accuratezza sono cose diverse; La conferma richiede una fonte indipendente e affidabile.
Quattro modelli copiabili
1) Query sull'entità della risorsa:
Elenca ogni citazione della fonte e citazione nel testo sottostante. Per ciascuno: autore, titolo, anno e informazioni sulla pubblicazione (se presenti). Estrai voce per voce le informazioni che devo verificare; non aggiungere.Testo: [qui]
2) Valutazione di confermabilità:
Per ciascuna delle seguenti affermazioni isolare gli elementi fattuali (data, nome, numero, citazione) da verificare. Suggerire con quale tipo di fonte (catalogo, documento primario, database) può essere verificato. Non giudicare l'accuratezza, mostra solo il percorso di verifica. Affermazioni: [qui]
3) Lista di controllo sull'affidabilità della saldatura:
Valutare la credibilità della seguente fonte: chi l'ha scritta, quando, per quale scopo, ci sono prove, è attuale, c'è possibile parzialità? Affidati semplicemente alle informazioni che ho fornito, scrivi "sconosciuto" dove manca. Informazioni sulla fonte: [qui]
4) Piano didattico sulla competenza informativa:
Produrre un breve tutorial di 20 minuti sulla verifica della fonte e sulle allucinazioni nell'era dell'intelligenza artificiale per il seguente gruppo di utenti (ad esempio studenti universitari): obiettivi, 3 esempi, 1 applicazione. Gruppo: [qui]
Prompt debole / Prompt forte
Suggerimento debole:
Scrivi un riassunto su questo argomento con fonti affidabili.
Dire “con fonti attendibili” incoraggia l’IA a produrre fonti false che sembrano vere; Non esiste un hook di convalida.
Suggerimento potente:
Il tuo ruolo: assistente per l'alfabetizzazione informativa. SCRIVERE un riassunto sul seguente argomento; Elenca invece le domande concrete che un utente deve verificare e il tipo di fonte affidabile con cui può verificarle. Non falsificare alcuna citazione della fonte; Contrassegna l'area di cui non sei sicuro come "da verificare". Oggetto: [qui]
Prompt potente; Utilizza l’intelligenza artificiale come guida che mostra la strada verso la verifica, piuttosto che produrre risposte, e previene strutturalmente la fabbricazione.
Tabella dei livelli di autenticazione
strato
Domanda
Metodo
entità
Questa fonte è reale?
Ricerca nel catalogo/database
primato
È questa la fonte più vicina?
Accesso al documento originale
Conferma
Un'altra fonte lo conferma?
Controllo incrociato indipendente
affidabilità
Quanto è solida la fonte?
Autore, data, scopo, prove
onestà
Sono sicuro?
Esprimere chiaramente l’incertezza
Errori comuni
- Pensare che ciò che convince sia vero. Guardare bene non è una prova di rettitudine.
- Accontentarsi di un'unica fonte. Le informazioni critiche richiedono una conferma incrociata indipendente.
- Non cercare la citazione alla fonte. Ecco come si diffondono le parole attribuite erroneamente.
- Nascondere l'incertezza. “Inverificabile” è meglio di una falsa certezza.
- Non insegnare all'utente ad autenticarsi. La competenza informativa è la missione del bibliotecario.
In sintesi
La verifica delle fonti e l’alfabetizzazione informativa sono i compiti più critici della biblioteconomia nell’era dell’intelligenza artificiale. L'allucinazione produce informazioni convincenti ma inventate ed è particolarmente pericolosa nelle scienze umanistiche/sociali. La disciplina è chiara: verificare l'esistenza di ciascuna fonte, andare alla fonte primaria, condurre controlli incrociati indipendenti, mettere in dubbio la credibilità della fonte ed esprimere onestamente l'incertezza. Il bibliotecario diffonde questa cultura della verifica non solo nella sua pratica ma anche attraverso la didattica degli utenti; Originalità e integrità accademica sono parte integrante di questa missione.
Compito dell'applicazione
Richiedi 6 fonti e 2 citazioni da AI nel tuo campo. Verificare ciascuna fonte ricercandola in un catalogo reale e ogni citazione nell'opera reale dell'autore; Nota quante sono le invenzioni. Quindi, utilizzando il modello "Piano didattico sull'alfabetizzazione informatica", crea un tutorial di 20 minuti per spiegare la verifica della fonte a un gruppo di utenti e includi esempi reali che hai trovato tu stesso.
lista di controllo
- [] Ho verificato in modo indipendente che ciascuna fonte esiste effettivamente.
- [ ] Ho utilizzato fonti primarie ove possibile.
- [] Ho effettuato un controllo incrociato delle affermazioni critiche con almeno due fonti indipendenti.
- [ ] Ho verificato le citazioni ricercandole nell'opera reale dell'autore.
- [ ] Ho chiaramente contrassegnato le informazioni non verificabili come "non verificabili".