Guadagni:
- Capacità di verificare sistematicamente un'affermazione attraverso la provenienza, la credibilità della fonte e passaggi di controllo incrociato indipendenti
- Capacità di comprendere che l'intelligenza artificiale stessa può produrre false informazioni attraverso allucinazioni, distorsioni dei dati di addestramento e adulazione, e di trattare i suoi risultati con ulteriore sospetto
- Capacità di testare i bias contrassegnando il risultato con una chiara etichetta del livello di confidenza e valutando lo stesso evento da diverse prospettive
La diplomazia lavora con le informazioni e il valore delle informazioni dipende dalla loro accuratezza. Un briefing, una posizione negoziale o una dichiarazione pubblica basata su informazioni errate hanno conseguenze difficilmente reversibili. Ecco perché una delle competenze più essenziali di un diplomatico è la verifica della fonte: valutare sistematicamente da dove proviene un'affermazione, quanto è affidabile e se è effettivamente vera. In questa unità imparerai come incorporare l'intelligenza artificiale nella verifica; ma imparerai come usarla tenendo presente che l'intelligenza artificiale stessa può essere fonte di disinformazione e pregiudizi.
Separiamo innanzitutto i tre concetti. Disinformazione: informazioni errate diffuse involontariamente. Disinformazione: disinformazione prodotta e diffusa consapevolmente e miratamente. Pregiudizio: spostamento sistematico di informazioni o valutazioni verso una certa parte. Un diplomatico deve essere attento a tutti e tre e l’intelligenza artificiale può essere sia un aiuto che un rischio in tutti e tre.
Passo dopo passo: verificare un reclamo
1. Esporre chiaramente il reclamo. Cosa c'è da verificare esattamente? Riduciamolo a un’unica e chiara affermazione come “Il Paese X si è ritirato dall’accordo Y”. Le affermazioni fuzzy non possono essere verificate.
2. Trova la tua origine. Dove, quando e da chi è stata fatta per la prima volta questa affermazione? La maggior parte della disinformazione proviene da un’unica fonte dubbia e viene amplificata. Torna alla fonte.
3. Valutare la credibilità della fonte. La fonte è ufficiale, indipendente o di parte? Ha fornito informazioni accurate in passato? Ha un interesse particolare in questo? Anche una fonte attendibile può sbagliarsi; ma una fonte poco credibile richiede ulteriori conferme.
4. Controllo incrociato. Conferma l'affermazione con almeno due fonti indipendenti e affidabili. 50 siti alimentati dalla stessa agenzia di stampa non sono fonti indipendenti.
5. Testare la coerenza interna e il contesto. L’affermazione è internamente coerente? Contraddice fatti noti? Preso fuori contesto? Una frase vera può essere fuorviante nel contesto sbagliato.
6. Contrassegnare il risultato con il livello di confidenza. Fornire un'etichetta chiara come "verificato", "parzialmente verificato", "fonte unica", "impossibile verificare", "falso". Anche "non sono sicuro" è una conclusione e dovrebbe essere affermato onestamente.
Suggerimento: più un'affermazione risuona o evoca una risposta emotiva, più meticoloso dovresti essere nel verificarla. La disinformazione prende di mira l'emozione stessa della rabbia, della paura o "le notizie che vogliamo". Le informazioni che ti spingono ad agire rapidamente sono spesso quelle che necessitano della maggiore verifica.
L’intelligenza artificiale stessa è una fonte di rischio
L'avvertenza più importante di questa unità: l'intelligenza artificiale non è un'autorità di verifica; Essa stessa può generare disinformazione e pregiudizi. L’intelligenza artificiale può fuorviare in tre modi:
1. Allucinazione: presenta una fonte, una citazione o un evento inesistente come reale. "Quale fonte conferma questa affermazione?" Quando lo chiedi, potrebbe anche darti un nome di origine inventato.
2. Distorsione dei dati di formazione: l'intelligenza artificiale riflette la prospettiva dominante nei testi su cui viene addestrata. Se la visione di una parte del mondo su una particolare questione domina i dati, l’intelligenza artificiale può influenzare quella direzione. Questo non è intenzionale, ma riflette i dati, ma il risultato è ancora un risultato distorto.
3. Servillo: l'intelligenza artificiale può tendere a rispondere alla domanda in un modo che ti piace. Se si desidera verificare un'affermazione, tende a produrre una risposta che la supporti.
Quindi usate l’intelligenza artificiale come strumento di verifica (modifica delle fonti, segnalazione dei conflitti, aiuto con il tracciamento della provenienza), ma non prendete mai l’intelligenza artificiale che dice “questo è vero” come ultima parola.
Attenzione: quando chiedi all'IA di verificare una fonte, controlla se l'IA ti sta mostrando una fonte reale o sta producendo un'invenzione dall'aspetto plausibile. Non considerarlo "verificato" finché non apri e vedi in modo indipendente ogni nome di fonte, collegamento e citazione che fornisce. Una fonte inventata dall’intelligenza artificiale può sembrare più convincente di una fonte reale.
tre mini custodie
Caso 1: verifica dell'origine salvata. Uno screenshot dell'"annuncio ufficiale" è caduto sul tavolo e sembrava reale. Dalla verifica è emerso che sui canali ufficiali di tale istituzione non esisteva tale dichiarazione; l'immagine era falsa. Il controllo dell'origine ha impedito che una dichiarazione falsa entrasse nel briefing.
Caso 2: fonte fabbricata dall'IA. Un esperto ha chiesto all’IA di verificare una statistica. YZ ha citato una fonte dicendo "secondo il rapporto 2023 di questa organizzazione..." Ha chiamato la fonte esperta: non esisteva né un rapporto né una cifra del genere; L’IA le aveva inventate entrambe. Il controllo indipendente ha colto una “conferma” inventata.
Caso 3: offset del bias. Un esperto ha chiesto all'intelligenza artificiale di riassumere un evento controverso e ha notato che il risultato era decisamente vicino alla narrativa di una parte. Quando ho chiesto nuovamente "riassumere lo stesso evento dal punto di vista dell'altra parte", è emerso un quadro molto diverso. Il confronto tra i due risultati ha impedito di introdurre nel rapporto un quadro unilaterale.
Quattro modelli copiabili
1) Protocollo di verifica del reclamo:
Il tuo ruolo: analista di validazione. Per la seguente affermazione: (1) ridurre l'affermazione a una frase nettek, (2) trovare dove/quando è menzionata per la prima volta nelle fonti che ho fornito, (3) quante fonti INDIPENDENTI la supportano, (4) ci sono fonti in conflitto, (5) contrassegnare il risultato con uno dei seguenti tag: verificato / fonte singola / contraddittorio / non verificato. Fabbricazione della sorgente; Usa semplicemente quello che ti do. Rivendicazione+fonti: [qui]
2) Test di bias dell'intelligenza artificiale:
Innanzitutto, riassumi il seguente incidente nel modo più obiettivo possibile. Quindi riassumi lo STESSO evento separatamente (a) dal punto di vista della parte A, (b) dal punto di vista della parte B. Elenca le differenze tra le tre versioni. Si può così vedere quali punti costituiscono l'interpretazione delle parti e quali sono i fatti comuni. Caso/fonti: [qui]
3) Valutazione dell'affidabilità della fonte:
Valutare la seguente fonte: tipologia (ufficiale/indipendente/di parte/anonima), potenziale interesse per la questione, informazioni fornite sulla credibilità passata, passaggi aggiuntivi richiesti per la verifica. Annota anche il motivo per cui la fonte potrebbe essere sbagliata. Fonte: [qui]
4) Bandiere rosse di disinformazione:
Scansiona il contenuto qui sotto per cercare disinformazione. Cerca questi segnali: statistiche prive di fonti, linguaggio che provoca emozioni, immagini senza contesto, pressione “affrettati/condividi”, parole autorevoli non verificabili, diffusione coordinata e simultanea. Contrassegna ogni risultato con la giustificazione. Non dare giudizi definitivi. Contenuto: [qui]
Prompt debole / Prompt forte
Suggerimento debole:
Questa affermazione è vera? Cerca online e fammi sapere.
L'intelligenza artificiale che dice "vero" non è una verifica; Potrebbe fornire false fonti o produrre una risposta parziale o lusinghiera.
Suggerimento potente:
Il tuo ruolo: analista di verifica. Di seguito è riportata un'affermazione e le fonti che ho raccolto. Non dirmi "giusto/sbagliato"; Invece: mostrare l'origine dell'affermazione, il numero di fonti indipendenti, eventuali contraddizioni e il livello di confidenza. Non andare oltre le fonti che ho fornito, non inventare le fonti. Se non sei sicuro, contrassegnalo come "richiede verifica umana". Rivendicazione+fonti: [qui]
La differenza è chiara: richiedere la provenienza, una conferma indipendente e un livello di fiducia piuttosto che un giudizio “vero/falso” limita i rischi dell’IA.
Tabella degli stati di verifica
Etichetta
Significato
Utilizzo nel rapporto
Verificato
Almeno 2 fonti affidabili indipendenti
Può essere utilizzato come custodia
Parzialmente confermato
Alcuni confermati
Limitato, con spiegazione
unica fonte
Una sola fonte
Come "reclamo", è richiesta la conferma
contraddittorio
Le fonti non corrispondono
Presentato come incertezza
Impossibile verificare
Nessuna conferma trovata
Non utilizzato come un dato di fatto
sbagliato
È stato dimostrato il contrario
Come correzione nella relazione
Errori comuni
- Considerare l'IA che dice "corretto" come convalida. L’intelligenza artificiale può fabbricare, influenzare o assecondare.
- Aprire la fonte fornita dall'AI e accettarla senza vederla. Le fonti fittizie sembrano convincenti.
- Verifica poche informazioni adatte alle tue esigenze. Le informazioni emotive/appropriate sono quelle che richiedono la maggiore conferma.
- Prendendo l'abbondanza di copie per una conferma. Centinaia di siti che si alimentano dalla stessa fonte costituiscono un'unica fonte.
- Non testare affatto i pregiudizi. Riassumere lo stesso evento da diverse prospettive fornisce equilibrio.
In sintesi
La verifica della fonte è il fondamento della conoscenza diplomatica e l’intelligenza artificiale rappresenta sia un aiuto che un rischio in questo lavoro. L’intelligenza artificiale organizza le fonti, aiuta nel monitoraggio della provenienza e nella segnalazione dei conflitti; ma può esso stesso generare disinformazione dovuta ad allucinazioni, bias dei dati di addestramento e adulazione. Il tracciamento della provenienza, il controllo incrociato indipendente, la separazione della credibilità della fonte delle informazioni, l'etichettatura del livello di fiducia e ulteriori dubbi sull'output dell'intelligenza artificiale sono la spina dorsale di questa unità.
Compito dell'applicazione
Scegli un'affermazione attuale e controversa e raccogli fonti di generi diversi. Valutare la dichiarazione di provenienza e verifica indipendente con il "protocollo di verifica della dichiarazione". Con il “AI bias test”, riassumi lo stesso evento da diverse prospettive ed elenca le differenze. Se l'IA fornisce una risorsa, aprila autonomamente e verifica se esiste effettivamente.
lista di controllo
- [ ] Ho ridotto l'affermazione a un'unica frase chiara e ne ho cercato l'origine.
- [] Ho effettuato un controllo incrociato con almeno due fonti affidabili indipendenti.
- [] Ho verificato in modo indipendente ogni fonte fornita da AI.
- [] Ho testato il pregiudizio riassumendo lo stesso evento da diverse prospettive.
- [] Ho contrassegnato il risultato con una chiara etichetta del livello di confidenza.