Câștiguri:
- Capacitatea de a explica de ce halucinația (sursă fabricată, citat, eveniment) și anacronismul sunt cele mai periculoase greșeli din istorie
- Abilitatea de a aplica disciplina de verificare a fiecărei referințe din catalog, compararea conținutului cu documentul și confirmarea încrucișată a faptelor critice.
- Abilitatea de a pune la îndoială părtinirea și vocile lipsă din surse întrebând inteligența artificială unde să caute în loc de sursa reală
Există o avertizare repetată în fiecare unitate a acestui modul: rezultatul AI este o afirmație, nu un fapt, până când este verificat. Această unitate transformă acel avertisment într-o disciplină. Istoria și arhivarea sunt în mod inerent domenii bazate pe dovezi; Cea mai de bază abilitate a unui istoric este critica surselor (întrebarea de către cine, când, în ce scop a fost produsă o sursă și cât de fiabilă este aceasta). În era AI, această abilitate a devenit și mai critică, deoarece sursa în sine poate fi acum fabricată.
Aici vom acoperi trei pericole în profunzime: halucinația (AI care produce informații, surse sau citate fabricate), anacronismul (elementele periodice fiind mutate într-o perioadă greșită) și disciplina verificării sursei în general. Vom vedea, de asemenea, AI învățând din surse care au fost inexacte sau părtinitoare în trecut, astfel încât să poată reproduce părtinirea.
Halucinația: cea mai periculoasă greșeală
O halucinație este atunci când o IA prezintă cu încredere ceva care nu există de fapt. Din punct de vedere istoric, este cel mai frecvent observată sub următoarele forme:
- Sursă/referință fabricată: un fond de arhivă inexistent, număr de dosar, carte sau articol.
- Citat inventat: Un cuvânt care nu a fost spus efectiv, o propoziție care nu este în document.
- Eveniment/dată/persoană inventată: Un eveniment care nu s-a întâmplat, o dată falsă, o persoană care nu există.
- Conexiune fictivă: o relație cauză-efect inexistentă între două evenimente reale.
Ceea ce face ca o halucinație să fie periculoasă este că pare credibilă. O referință inventată are același format ca o referință reală: nume fond, număr, dată. Deci „formatul arată corect” nu înseamnă niciodată „corect”.
Atenție: Nicio resursă produsă de YZ nu poate fi folosită fără a fi verificată și găsită în catalog sau într-un loc de încredere. Singura modalitate de a dovedi că o referință există este să o vezi unde se află sursa originală (catalog de arhivă, bibliotecă, publicație). „AI a dat-o” nu este o dovadă.
Anacronismul: ochelarii perioadei
Anacronismul înseamnă a vedea trecutul prin ochelarii de astăzi. Deoarece AI este antrenat în limba de astăzi, are o tendință puternică de a:
- Termenul anacronism: Utilizarea unui cuvânt, instituție sau concept care nu aparține perioadei.
- Concept anacronism: proiectarea unei idei a prezentului (de exemplu, o ideologie sau o identitate modernă) în trecut.
- Valorificați anacronismul: judecarea comportamentului trecut numai după standardele actuale.
Treaba istoricului este să înțeleagă trecutul în contextul său. AI nu are această sensibilitate la context; Trebuie să-l oferi singur.
Înțelegerea de ce se întâmplă atât de des halucinațiile face mai ușor să vă protejați împotriva acesteia. AI este un sistem care funcționează pentru a produce „următorul cuvânt cel mai probabil”; Nu are nici un scop ca „a cunoaște adevărul”. Când i se pune o întrebare, indiferent dacă știe răspunsul sau nu, el produce un text care pare convingător din punct de vedere statistic. Formatul unei referințe de arhivă (numele fondului, numărul, data) este un model învățat; AI poate umple acest model fără o referință reală. Deci, „de ce inventează AI?” Răspunsul la întrebare este simplu: îi este mai ușor să se inventeze decât „a nu știe”. Responsabilitatea ține de a umple aceste matrițe cu resurse reale.
Disciplina de verificare a sursei: pas cu pas
1. Verificați existența resursei. Găsiți fiecare referință dată de AI în catalog/publicație. Dacă nu îl găsiți, nu îl folosiți.
2. Comparați conținutul cu sursa. Informațiile pe care AI le atribuie unui document există de fapt în document? Citatul este exact același?
3. Confirmare încrucișată. Pentru un fapt critic, uitați-vă la cel puțin două surse independente de încredere.
4. Aplicați critica surselor. Este sursa în sine de încredere? Cine a produs-o, când și în ce scop? Este părtinitoare?
5. Treceți-l prin filtrul de anacronism. Există termeni, concepte sau judecăți de valoare care nu se potrivesc cu perioada din rezultat?
6. Întrebați prejudecata. Ar fi putut AI să reproducă părtinirile din sursele istorice (ignorând un grup, favorizând un punct de vedere)?
Stratul de autentificare
Întrebare
cine face
entitate
Există cu adevărat această resursă?
Tu în catalog.
Conținut
Chiar scrie asta în document?
Tu în document
Confirmare
O susține vreo altă sursă?
tu, cruce
fiabilitate
Este de încredere sursa?
judecata expertului
Perioada
Există anacronisme?
judecata expertului
prejudecata
A cui voce lipsește/distorsionează?
judecata expertului
trei mini cutii
Cazul 1 – Șase referințe fabricate. Un cercetător a cerut AI o listă de surse pe un subiect. YZ a furnizat 6 referințe de arhivă cu formatare perfectă. La cautarea pe catalog lipseau 4 din 6, 2 aveau numarul gresit. Dacă cercetătorul nu ar fi verificat, ar fi apărut un studiu care cita surse inexistente. Lecție: fiecare referință este verificată în catalog.
Cazul 2 — Citat inventat. Un scriitor ar folosi un citat izbitor pe care AI îl atribuie unei figuri istorice. Când a investigat sursa, a văzut că nu există niciun document care să demonstreze că persoana respectivă a spus așa ceva și că declarația a fost „inventată” de AI. Lecție: citatele nu pot fi folosite fără verificarea dintr-o sursă primară sau de încredere.
Cazul 3 – Reproducerea prejudiciului. Un student a avut AI să explice istoria unei regiuni. Ieșirea a ignorat complet o anumită comunitate din acea zonă, deoarece sursele de la care AI învățase le ignoraseră și ele. Elevul a observat și a corectat acest decalaj cu referințe încrucișate. Lecție: AI reproduce tăcerile și părtinirile în surse; Trebuie să te întrebi a cui voce lipsește.
Patru șabloane copiabile
1) Lista de verificare a referințelor:
TOATE sursele, referințele, citatele, data și numele persoanelor din textul de mai jos apar într-o listă separată. Adăugați o notă pentru fiecare: „revendicat în acest text, trebuie verificat independent”. Dacă nu selectați niciunul, „verificați”; Produceți doar o listă de verificat, astfel încât să o pot verifica din catalog/sursă. Text: [aici]
2) Scanarea anacronismului:
Examinați textul despre [perioada] de mai jos. Evidențiați termeni, instituții, concepte și valori care POATE NU aparține acestei perioade. Pentru fiecare, scrieți pe scurt de ce sunteți suspicios. Emiterea unei hotărâri definitive; Creați o listă de suspiciuni pe care expertul le va verifica. Text: [aici]
3) Cadrul criticii sursei:
O critică a sursei este redactată despre următoarea sursă: (1) Cine ar fi putut-o produce, (2) Când, (3) În ce scop, (4) Care sunt posibilele ei părtiniri, (5) Care sunt problemele de încredere și care ar trebui să fie precaute. Impunerea unei hotărâri definitive; Furnizați întrebări și posibile opțiuni de răspuns. Sursa: [aici]
4) Lipsește controlul volumului/bias:
A CUI voce și experiența grupului ar putea lipsi sau unilateral în următorul rezumat istoric? Ce perspectivă este dominantă, care este invizibilă? Produceți aceasta ca o listă de întrebări; Îl voi completa cu referințe încrucișate. Rezumat: [aici]
Prompt slab / Prompt puternic
slab:
Dați-mi surse istorice de încredere și citate pe acest subiect.
AI este foarte predispus să producă referințe corecte în formă, dar fabricate în conținut atunci când sunt solicitate „sursă” și „citare”. Acest prompt este o invitație directă la halucinații.
Puternic:
Sugerați ce surse (tip fond de arhivă, tip publicație, instituție) ar trebui să caut în cercetarea mea pe acest subiect. MONTAREA unei anumite referințe, număr de dosar sau cotație; Spune-mi doar unde să caut. Apoi voi găsi sursele reale din cataloage.
Diferență: AI este cerut „unde să caut”, nu „referință reală”; Riscul de halucinație este redus radical și verificarea este lăsată în seama omului.
Greșeli comune
- Bazându-se pe referința corectă. Referința inventată pare și ea impecabilă; trebuie verificate în catalog.
- Luând un citat direct de la AI. Cotațiile nu pot fi folosite fără confirmarea din partea sursei primare/de încredere.
- Trecând cu vederea anacronismul. Termenii și conceptele de astăzi se infiltrează în tăcere în trecut.
- Reproducerea prejudecăților. AI copiază tăcerile din surse; Este necesar să întrebați despre sunetul lipsă.
- Bazându-se pe o singură sursă. Faptele critice trebuie confirmate de cel puțin două surse independente.
Pe scurt
Verificarea sursei este în centrul istoriei și arhivării și este și mai critică în era AI. Halucinația produce surse, citate și evenimente a căror formă este perfectă, dar al căror conținut este fictiv; anacronismul distorsionează trecutul prin lentilele de astăzi; iar AI reproduce părtiniri în surse. Apărarea este o disciplină: verificați fiecare referință din catalog, comparați conținutul cu documentul, verificați încrucișați faptele critice, filtrați prin perioade și părtiniri. Cereți AI „unde să căutați”, nu „sursa reală”. Gardianul adevărului este întotdeauna expertul.
Sarcina de aplicare
Rugați AI-ul să producă o listă de resurse pe un subiect la care lucrați (cu un „prompt slab”) în mod deliberat. Apoi extrageți toate referințele din această ieșire cu șablonul „lista de validare a referințelor” și căutați fiecare într-un catalog. Numără câte există de fapt și câte sunt inventate sau inexacte. Repetați același subiect cu un „prompt puternic” („unde ar trebui să mă uit”) și experimentați diferența.
lista de verificare
- [ ] Am verificat fiecare referință din catalog/sursă de încredere.
- [ ] Am verificat fiecare citat cu sursa primară/de încredere.
- [ ] Am verificat încrucișat faptele critice cu cel puțin două surse independente.
- [ ] Am filtrat ieșirea pentru anacronisme.
- [ ] Am pus la îndoială vocile lipsă/distorsionate și părtinirea.