Câștiguri:
- Capacitatea de a surprinde halucinația prin verificarea existenței fiecărei surse, mergând la sursa primară și pași independenți de confirmare încrucișată
- Abilitatea de a menține originalitatea și integritatea academică față de citate și documente fabricate din științe umaniste și sociale
- Abilitatea de a preda utilizatorilor abilități de verificare a surselor și alfabetizare informațională în era AI
În centrul misiunii sociale a biblioteconomiei se află o singură promisiune: informații de încredere. Un bibliotecar aduce utilizatorul nu numai la informații, ci și la informații verificate și îl învață cum să evalueze el însuși aceste informații. În era inteligenței artificiale, această misiune a devenit atât mai dificilă, cât și mai importantă; deoarece AI poate produce dezinformare într-un mod extrem de convingător. În această unitate, vom acoperi recunoașterea halucinațiilor, disciplina verificării sursei și predarea alfabetizării informaționale în era AI.
Să definim conceptele. Halucinația este atunci când AI produce informații, surse, citate sau evenimente care nu există de fapt ca și cum ar fi reale. Verificarea sursei este confirmarea faptului că informațiile se bazează pe o sursă reală, de încredere și primară. Alfabetizarea informațională este capacitatea unei persoane de a găsi informații, de a le evalua, de a pune la îndoială fiabilitatea acesteia și de a le folosi în mod etic. Această unitate își propune ca bibliotecarul să își consolideze aceste abilități atât în propria practică, cât și în predarea utilizatorului.
Pas cu pas: disciplina de verificare a sursei
1. Solicitați sursa și verificați existența acesteia. Când AI oferă o afirmație sau un citat, „de la ce sursă este aceasta?” și verificați dacă sursa există într-adevăr într-un catalog independent, bază de date sau document primar.
2. Accesați sursa primară. Cea mai sigură formă de informație este sursa sa de primă mână. Nu vă mulțumiți cu un rezumat al AI sau cu un text secundar; Dacă este posibil, accesați documentul, datele sau publicația originală.
3. Confirmare încrucișată. Verificați o afirmație critică cu cel puțin două surse de încredere, independente una de cealaltă. O resursă, în special resursa AI, nu este suficientă.
4. Evaluați credibilitatea sursei. Cine a scris-o, când, în ce scop, pe ce dovezi? Este la zi? Existența informațiilor nu o face adevărată; Întrebați, de asemenea, natura sursei.
5. Exprimați incertitudinea cu onestitate. Dacă informațiile nu pot fi verificate, spuneți-o clar. Întotdeauna este mai bine să spui „neconfirmat” decât să oferi o certitudine fabricată.
Sfat: Când primiți un citat sau o sursă de la AI, căutați mai întâi titlul și autorul într-un catalog real. Resursele inexistente apar imediat aici. Această verificare de 30 de secunde împiedică o sursă fabricată să intre într-o bibliografie, o sarcină sau o publicație.
Autenticitate și verificare în științe umaniste și sociale
Științele umaniste și sociale sunt deosebit de vulnerabile la riscul de halucinații. În aceste domenii, dovezile se bazează adesea pe un anumit document, o dată, un citat sau sursa unui comentariu. AI poate produce afirmații foarte specifice, dar complet fabricate, precum „a spus istoricul” sau „a spus documentul din 1923”. Într-o lucrare de literatură, istorie sau drept, aceasta înseamnă un lanț fals de dovezi.
Mai mult, originalitatea este valoarea fundamentală a acestor domenii: contează cui îi aparține cu adevărat un text, o interpretare sau o traducere. Prezentarea unui text produs de AI ca o lucrare originală sau bazarea pe o „sursă” creată de AI încalcă integritatea academică. Bibliotecarul este un ghid care îi învață pe utilizatori atât verificarea, cât și limitele originalității și plagiatului.
Atenție: chiar și în cazurile în care un citat generat de IA pare corect cuvânt cu cuvânt și este atribuit unui autor real, acel citat poate fi fabricat. Verificați un citat găsindu-l numai în opera reală a autorului; Logica „s-ar putea ca acest autor să fi spus așa ceva” nu este suficientă.
trei mini cutii
Cazul 1 — Studentul a fost predat verificarea. Un bibliotecar a văzut 5 resurse din AI într-o temă a unui student. Împreună l-au verificat în catalog: au fost fabricate 2 surse. Elevul a experimentat direct lecția că „nu este corect să pară real” și a căpătat din nou obiceiul de a verifica fiecare sursă.
Cazul 2 — Document istoric fabricat. Un cercetător a primit un „raport de ziar din 1919” de la AI; Data, numele ziarului și conținutul au fost extrem de convingătoare. Bibliotecarul a scanat arhiva ziarului: nu existau astfel de știri în acel moment. O sursă primară fabricată a fost prinsă chiar înainte de a se transforma într-un articol.
Cazul 3 — Citat atribuit greșit. AI a atribuit un citat unui gânditor celebru. Bibliotecarul a căutat acest cuvânt în lucrările gânditorului și nu l-a găsit; Cuvântul nu a fost menționat nicăieri. Verificarea încrucișată a împiedicat difuzarea unui citat atribuit greșit.
Lanțul de răspândire a dezinformării și rolul bibliotecarului
Dezinformarea începe adesea cu o singură ieșire fabricată, dar nu se oprește aici. Un utilizator pune o resursă falsă generată de AI într-o misiune; sarcina devine o publicație; publicația este citată de alții, astfel încât o sursă fictivă capătă aparența de „adevăr” fiind citată în mod repetat. Putem numi această atribuire contaminare: informațiile false câștigă legitimitate prin repetarea din nou și din nou. Bibliotecarul se află la cea mai critică verigă a acestui lanț; deoarece este ultimul punct de control în care informațiile sunt verificate înainte de a intra în sistem. Doar pentru că o sursă „apare în multe locuri” nu o face adevărată; Aceleași informații false pot apărea în multe locuri, fiind copiate unele de altele. Prin urmare, confirmarea încrucișată ar trebui să se bazeze pe întrebarea „câte surse de încredere o confirmă independent una de cealaltă”, nu „în câte locuri apare?” Zece surse secundare care repetă aceeași afirmație nu valorează la fel de mult ca o singură sursă primară independentă. Bibliotecarul ar trebui să pună această distincție (fără a confunda independența cu repetarea) atât în centrul verificării sale, cât și al predării sale către utilizator.
Atenție: Apariția informațiilor într-un motor de căutare sau pe multe pagini web nu este o dovadă a acurateții acesteia. Aceeași greșeală s-ar putea să fi devenit larg răspândită prin copierea de la sursă la sursă. Prevalența și acuratețea sunt lucruri diferite; Confirmarea necesită o sursă independentă și de încredere.
Patru șabloane copiabile
1) Interogare de entitate resursă:
Enumerați fiecare citare și citare sursă din textul de mai jos. Pentru fiecare: autor, titlu, an și informații despre publicație (dacă există). Extrageți element cu articol informațiile pe care trebuie să le verific; nu adăugați.Text: [aici]
2) Evaluarea confirmării:
Pentru fiecare dintre următoarele afirmații, izolați elementele de fapt (data, nume, număr, citat) care trebuie verificate. Sugerați cu ce tip de sursă (catalog, document primar, bază de date) poate fi verificată. Nu judeca acuratețea, arată doar calea de verificare. Afirmații: [aici]
3) Lista de verificare a fiabilității sudurii:
Evaluați credibilitatea următoarei surse: cine a scris-o, când, în ce scop, există dovezi, sunt actuale, există posibile părtiniri? Doar bazați-vă pe informațiile pe care le-am dat, scrieți „necunoscut” unde lipsește. Sursa informatii: [aici]
4) Plan de predare a alfabetizării informaționale:
Produceți un scurt tutorial de 20 de minute despre verificarea sursei și halucinațiile în epoca IA pentru următorul grup de utilizatori (de exemplu, studenți): obiective, 3 exemple, 1 aplicație. Grup: [aici]
Prompt slab / Prompt puternic
Prompt slab:
Scrieți un rezumat pe acest subiect cu surse de încredere.
A spune „cu surse de încredere” încurajează AI să producă surse false care par a fi reale; Nu există cârlig de validare.
Solicitare puternică:
Rolul dumneavoastră: asistent de alfabetizare informațională. SCRIEREA unui rezumat pe tema următoare; În schimb, enumerați întrebările de fapt pe care un utilizator trebuie să le verifice și tipul de sursă de încredere cu care le poate verifica. Nu fabricați nicio citare a surselor; Marcați zona de care nu sunteți sigur ca „trebuie verificată”. Subiect: [aici]
prompt puternic; Folosește AI ca ghid care arată calea către verificare, mai degrabă decât să producă răspunsuri și previne structural fabricarea.
Tabelul straturilor de autentificare
strat
Întrebare
Metoda
entitate
Este reală această sursă?
Căutare în catalog/bază de date
primatul
Este aceasta sursa cea mai apropiată?
Accesarea documentului original
Confirmare
O altă sursă confirmă acest lucru?
Verificare încrucișată independentă
fiabilitate
Cât de solidă este sursa?
Autor, data, scop, dovezi
onestitate
Sunt sigur?
Stabiliți clar incertitudinea
Greșeli comune
- Gândind că ceea ce este convingător este adevărat. A arăta bine nu este o dovadă a dreptății.
- Să fii mulțumit de o singură sursă. Informațiile critice necesită o confirmare încrucișată independentă.
- Nu caut citatul la sursa. Așa se răspândesc cuvintele greșite.
- Ascunderea incertitudinii. „Neverificabil” este mai bine decât certitudinea falsă.
- Nu-l învață pe utilizator să se autentifice. Educația informațională este misiunea bibliotecarului.
Pe scurt
Verificarea surselor și alfabetizarea informațională sunt sarcinile cele mai critice ale biblioteconomiei în era IA. Halucinația produce informații convingătoare, dar fabricate și sunt deosebit de periculoase în științe umaniste/sociale. Disciplina este clară: verificați existența fiecărei surse, mergeți la sursa primară, efectuați verificări încrucișate independente, puneți la îndoială credibilitatea sursei și exprimați incertitudinea în mod onest. Bibliotecarul răspândește această cultură a verificării nu numai în practica sa, ci și prin predarea utilizatorilor; Originalitatea și integritatea academică sunt parte integrantă a acestei misiuni.
Sarcina de aplicare
Solicitați 6 surse și 2 citări de la AI în domeniul dvs. Verificați fiecare sursă căutând-o într-un catalog real și fiecare citare din opera reală a autorului; Observați câte sunt fabricații. Apoi, folosind șablonul „Plan de predare a alfabetizării informaționale”, redactați un tutorial de 20 de minute pentru a explica verificarea sursei unui grup de utilizatori și includeți exemple reale pe care le-ați găsit.
lista de verificare
- [ ] Am verificat independent că fiecare sursă există de fapt.
- [ ] Am folosit surse primare ori de câte ori a fost posibil.
- [ ] Am verificat încrucișarea afirmațiilor critice cu cel puțin două surse independente.
- [ ] Am verificat citatele căutându-le în opera propriu-zisă a autorului.
- [ ] Am marcat clar informațiile neverificabile ca „neverificabile”.