Disciplina di verifica della fonte, allucinazioni e attribuzione

Guadagni:

• Sapere perché l'allucinazione è nascosta nell'ambito umano ed essere in grado di passare ciascuna fonte attraverso la catena di verifica in cinque fasi (esistenza, impronta, citazione, contesto, attribuzione)
• Capacità di confermare l'autenticità della fonte con identità concrete come DOI, ISBN e catalogo.
• Comprendere la disciplina che vieta all'intelligenza artificiale di produrre invenzioni e di non delegarle mai la verifica dell'onestà delle citazioni e delle attribuzioni.

Il valore di un testo in campo umano e sociale dipende dall'autenticità e dalla corretta trasposizione delle fonti su cui si basa. Un saggio letterario, una tesi, una nota di lezione: tutto si basa su fonti affidabili e attribuzioni oneste (che mostrano chi/dove hai ottenuto informazioni o una citazione). L’intelligenza artificiale offre una grande comodità in questo campo, ma comporta anche il pericolo più grande: l’allucinazione, cioè il far sembrare reale una fonte, una citazione o un fatto inesistente. Questa unità è impegnata a creare una "corazza di verifica" contro questo pericolo.

Regola di una frase: nessuna fonte, citazione, data o numero generato dall'intelligenza artificiale può inserire il testo senza la conferma in prima persona da una fonte primaria o affidabile. Questa regola è la regola più ripetuta e meno flessibile di questo modulo.

Perché le allucinazioni sono così pericolose in questo campo?

Se l’intelligenza artificiale sbaglia su una questione tecnica, lo si noterà spesso; ma nella sfera umana l'allucinazione è abilmente dissimulata:

• Sottotitolo realistico: AI combina il nome di un vero autore con un titolo appropriato al settore e un anno ragionevole. Il risultato è una fonte che non esiste ma sembra esattamente reale.
• Citazione adeguata allo stile: l'AI può imitare lo stile di un autore e presentare come “sua parola” una frase che non gli appartiene.
• Data vicina ma sbagliata: l'anno di un'opera può essere spostato di uno o due anni; Questo sfugge al lettore distratto.
• Attribuzione confusa: può attribuire un'idea alla persona sbagliata.

Tutti questi possono infiltrarsi silenziosamente nel testo di un autore con intenzioni oneste e, se non scoperti, danneggiare sia la reputazione dell'autore che la fiducia del lettore.

Attenzione: solo perché una risorsa appare "realistica" all'IA non significa che sia reale. Realismo e realtà sono due cose diverse; L’intelligenza artificiale è maestra nel primo, non può garantire il secondo.

Verifica dell'armatura: passo dopo passo

Per ogni fonte e citazione, seguire questa catena:

1. C'è? Cerca la fonte nel catalogo della biblioteca, in un database affidabile o nel sito dell'editore. Se non può essere trovato, non esiste: non usarlo.
2. L'impronta è corretta? Autore, titolo, editore/rivista, anno, pagina: tutti devono corrispondere esattamente.
3. La citazione è reale? Trova la citazione nella fonte stessa, nella pagina specificata, e confrontala parola per parola.
4. Il contesto è corretto? La citazione è usata alla lettera o è stata distorta?
5. L'attribuzione è onesta? L'idea è attribuita alla persona giusta, qualcosa è tratto da una fonte secondaria dipinta come primaria?

Se anche un solo anello di questa catena viene interrotto, non può entrare nel testo sorgente.

Suggerimento: istruisci l'IA fin dall'inizio: "Non fornire alcuna fonte di cui non sei sicuro che esista; se non sei sicuro, dì 'Non sono riuscito a trovare la fonte'." Questo non pone fine completamente all'allucinazione, ma spinge l'IA a dire "Non lo so" invece di inventare.

Citazione e disciplina della citazione

Insieme alla verifica, anche l’attribuzione onesta è una disciplina:

• Fornire il preventivo diretto con virgolette e pagina; Lascia che sia letteralmente.
• Collega anche la citazione indiretta (riassumendo con parole tue) alla fonte; Se l'idea non è tua, necessita di attribuzione.
• Dichiara in modo trasparente il contributo dell'AI secondo le regole della tua organizzazione; L’intelligenza artificiale non è una “risorsa”, ma se utilizzata deve essere dichiarata.
• Non ritrarre la fonte secondaria come primaria; Se hai preso una citazione da un autore da un altro libro, indicalo.

tre mini custodie

Caso 1 — Due delle cinque fonti si sono rivelate fittizie. Un ricercatore ha seguito il processo di verifica di 5 fonti fornite da AI. 2 non erano affatto nel catalogo, 1 aveva l'anno sbagliato, 2 erano reali e corretti. Sono stati utilizzati solo i 2 verificati; articolo protetto da attribuzioni fittizie.

Caso 2: distorsione della quotazione rilevata. Uno studente ha trovato una citazione di AI in un vero libro, ma la citazione significava esattamente l'opposto nel contesto originale. L’IA aveva preso la frase fuori contesto. Lo studente ha corretto la citazione con il contesto corretto.

Caso 3: attribuzione errata corretta. In una nota di lezione, AI ha attribuito un'opinione all'autore sbagliato. Dopo un controllo incrociato con due fonti attendibili, l'insegnante ha trovato il legittimo proprietario e l'ha riparato. Il biglietto è sopravvissuto senza andare storto allo studente.

Quattro modelli copiabili

1) Istruzioni per il divieto di fabbricazione:

D'ora in poi: NON produrre alcuna fonte, citazione, data o numero di cui non sei sicuro che esista. Se non sei sicuro, dì "è necessaria la verifica" o "Non sono riuscito a trovarlo". Non fornire mai un tag realistico ma non puoi garantirne l'autenticità. Segui questa regola con ogni risposta.

2) Roadmap per la verifica della fonte:

Verificherò la fonte qui sotto. Dimmi dove cercare questa risorsa (catalogo, database, editore) e con quali informazioni chiave. TUconferma che la risorsa esiste; basta fornire i passaggi di verifica.Fonte: [paste credit]

3) Controllo del contesto del preventivo:

Di seguito è riportata una citazione e il paragrafo effettivo in cui ricorre. La citazione è usata nel suo contesto originale o è stata distorta? Affidati solo al testo che ti ho dato; aggiungendo un commento.Citazione: [...] Paragrafo originale: [...]

4) Verifica dell'integrità dell'attribuzione:

Nel mio testo qui sotto: quali frasi richiedono una fonte ma rimangono non attribuite, quale idea può appartenere a qualcun altro, c'è un posto in cui mostro la fonte secondaria come primaria? Suggerire fonti inventate; basta segnalare le citazioni mancanti.Testo: [incolla testo]

Prompt debole / Prompt forte

Debole: "Fornisci 5 fonti accademiche e citazioni su questo argomento".

Güçlü: "Dimmi che tipo di fonti e parole chiave dovrei cercare durante la ricerca su questo argomento. Non produrre riferimenti o citazioni di cui non sei sicuro che esistano; se non sei sicuro, dì 'non sono riuscito a trovarlo'. Ti darò le fonti che troverò più tardi; confermerò le citazioni dai libri."

Il potente suggerimento chiude la porta all'allucinazione e lascia la verifica all'umano. Il suggerimento debole invita direttamente alla produzione immaginaria di risorse.

Tabella della catena di convalida

passo

Domanda

luogo di verifica

entità

La fonte esiste davvero?

Catalogo/database

impronta

L'autore, l'anno e la pagina sono corretti?

Editore/impronta

citazione

È riportato alla lettera nel testo?

la fonte stessa

Contesto

Il significato è distorto?

paragrafo principale

Citazione

Alla persona giusta?

controllo incrociato

Verifica con collegamento permanente e impronta

Esistono modi concreti per confermare in modo rapido e affidabile se una risorsa esiste effettivamente. La maggior parte delle pubblicazioni accademiche moderne hanno un DOI (Digital Object Identifier: un ID univoco immutabile assegnato in modo permanente a una pubblicazione; agisce come un collegamento e conduce direttamente alla pubblicazione). Se accedi alla pubblicazione vera e propria quando digiti il ​​DOI di un articolo in un browser, quella fonte esiste; Se non riesci a trovarlo o il DOI non esiste affatto, sii sospettoso. I “DOI” generati dall’intelligenza artificiale sono spesso inventati e non portano da nessuna parte; Questo è uno dei test più pratici per catturare la fonte immaginaria.

L'ISBN (International Standard Book Number) fornisce un'identificazione simile per i libri; Puoi verificare l'autenticità del libro cercandolo in base al codice ISBN nel catalogo di una biblioteca o in un database di libri affidabile. Per i periodici, controlla il nome della rivista e le informazioni sul volume/numero sul sito ufficiale dell'editore. Queste identità concrete sono la risposta alla domanda "La fonte è reale?" Risponde chiaramente alla tua domanda in pochi minuti.

Questi metodi trasformano la verifica in una “transazione” piuttosto che in uno “stock”: quando si apre e si visualizza ciascuna fonte di persona, nel catalogo, per DOI o sul sito dell’editore, il rischio di attribuzione fantasma è in gran parte eliminato.

Suggerimento: quando finisci la tua bibliografia, fai un “click tour”: apri effettivamente il DOI o il record di catalogo di ciascuna fonte. Anche una singola risorsa che non si apre costituisce un avviso; correggilo con l'impronta corretta o rimuovilo dall'elenco.

Errori comuni

• Confondere il realismo con la realtà. L'identità plausibile di un'intelligenza artificiale non ne dimostra l'esistenza.
• Non verificare la citazione dalla fonte. Le quotazioni fabbricate o distorte potrebbero trapelare.
• Ottenere la cronologia da un'unica fonte. Controllo incrociato con almeno due fonti attendibili.
• Far sembrare il secondario come il primario. Dichiarare onestamente la catena di trasmissione.
• Citare l'intelligenza artificiale come fonte. L’intelligenza artificiale non è una risorsa; se ne dichiara l'uso, si fa riferimento alla fonte primaria.

In sintesi

L’onestà nelle discipline umanistiche si basa sull’accuratezza della fonte e delle citazioni. Il pericolo più grande dell’intelligenza artificiale è che produce fonti e citazioni che sembrano realistiche ma non esistono. Passa ogni fonte e citazione attraverso la catena di verifica in cinque passaggi (entità, credito, citazione, contesto, attribuzione). Vietare fin dall'inizio all'IA di fabbricare e non delegarle mai la verifica. Questa disciplina è la garanzia della tua affidabilità in questa professione.

Compito dell'applicazione

Prova a chiedere all'intelligenza artificiale di suggerire alcune fonti e una citazione su un argomento. Esegui ciascuna fonte attraverso la catena di verifica: quante effettivamente esistono, quante hanno l'attribuzione corretta, la citazione è effettivamente presente nella fonte? Scrivi i risultati in una tabella. Questa esperienza mostrerà concretamente i limiti dell’IA in questo campo.

lista di controllo

• [ ] Ho confermato l'esistenza di ciascuna risorsa nel catalogo.
• [] Ho verificato ogni citazione parola per parola dalla fonte originale.
• [ ] Ho controllato che il contesto della citazione non sia stato distorto.
• [ ] Ho confrontato le date con almeno due fonti.
• [] Ho vietato la fabbricazione dell'IA e non le ho delegato la verifica.