Dobici:
- Sposobnost hvatanja halucinacije provjeravanjem postojanja svakog izvora, odlaskom do primarnog izvora i nezavisnim koracima unakrsne potvrde
- Sposobnost održavanja originalnosti i akademskog integriteta protiv izmišljenih citata i dokumenata iz humanističkih i društvenih nauka
- Sposobnost podučavanja korisnika vještinama verifikacije izvora i informatičke pismenosti u doba umjetne inteligencije
U središtu društvene misije bibliotekarstva je jedno obećanje: pouzdane informacije. Bibliotekar dovodi korisnika ne samo do informacija, već i do provjerenih informacija, te ga uči kako da sam procijeni te informacije. U doba vještačke inteligencije, ova misija je postala i teža i važnija; jer AI može proizvesti dezinformacije na vrlo uvjerljiv način. U ovoj jedinici ćemo pokriti prepoznavanje halucinacija, disciplinu provjere izvora i podučavanje informatičke pismenosti u doba AI.
Hajde da definišemo pojmove. Halucinacija je kada AI proizvodi informacije, izvore, citate ili događaje koji zapravo ne postoje kao da su stvarni. Provjera izvora je potvrda da su informacije zasnovane na stvarnom, pouzdanom i primarnom izvoru. Informaciona pismenost je sposobnost osobe da pronađe informacije, procijeni ih, dovede u pitanje njihovu pouzdanost i etički ih koristi. Ova jedinica ima za cilj da bibliotekar ojača ove vještine kako u vlastitoj praksi tako iu podučavanju korisnika.
Korak po korak: disciplina verifikacije izvora
1. Zatražite izvor i provjerite njegovo postojanje. Kada AI da tvrdnju ili citat, "iz kog izvora je ovo?" i provjerite da li izvor zaista postoji u nezavisnom katalogu, bazi podataka ili primarnom dokumentu.
2. Idite na primarni izvor. Najpouzdaniji oblik informacija je izvor iz prve ruke. Nemojte se zadovoljiti rezimeom AI ili sekundarnim tekstom; Ako je moguće, pristupite originalnom dokumentu, podacima ili publikaciji.
3. Unakrsna potvrda. Provjerite kritičnu tvrdnju s najmanje dva pouzdana izvora, neovisno jedan o drugom. Jedan resurs, posebno AI resurs, nije dovoljan.
4. Procijenite vjerodostojnost izvora. Ko je to napisao, kada, u koju svrhu, na osnovu kojih dokaza? Da li je ažuriran? Postojanje informacija ne čini ih istinitim; Također dovodite u pitanje prirodu izvora.
5. Iskreno izrazite nesigurnost. Ako se informacije ne mogu provjeriti, jasno to recite. Uvijek je bolje reći "nepotvrđeno" nego ponuditi izmišljenu sigurnost.
Savjet: Kada dobijete citat ili izvor od AI, prvo pretražite naslov i autora u stvarnom katalogu. Nepostojeći resursi se odmah pojavljuju ovdje. Ova provjera od 30 sekundi sprječava izmišljeni izvor da unese bibliografiju, zadatak ili publikaciju.
Autentičnost i verifikacija u humanističkim i društvenim naukama
Humanističke i društvene nauke posebno su osjetljive na rizik od halucinacija. U ovim oblastima, dokazi se često zasnivaju na određenom dokumentu, datumu, citatu ili izvoru komentara. AI može proizvesti vrlo specifične, ali potpuno izmišljene tvrdnje, kao što je "taj istoričar je rekao" ili "taj dokument iz 1923. kaže". U književnom, istorijskom ili zakonskom djelu to znači lažni lanac dokaza.
Štaviše, originalnost je osnovna vrijednost ovih polja: bitno je kome tekst, interpretacija ili prijevod zaista pripada. Predstavljanje teksta proizvedenog od strane AI kao originalnog rada ili oslanjanje na "izvor" koji je napravio AI narušava akademski integritet. Bibliotekar je vodič koji podučava korisnike i verifikaciji i granicama originalnosti i plagijata.
Oprez: Čak i u slučajevima kada se citat generiran od strane umjetne inteligencije čini tačnim od riječi do riječi i pripisuje se stvarnom autoru, taj citat može biti izmišljen. Provjerite citat tako što ćete ga pronaći samo u autorovom stvarnom djelu; Logika "ovaj autor je možda rekao ovako nešto" nije dovoljna.
tri mini kofera
Slučaj 1 — Učenik je podučavao verifikaciju. Bibliotekar je video 5 izvora veštačke inteligencije u zadatku učenika. Zajedno su to provjerili u katalogu: 2 izvora su izmišljena. Učenik je iz prve ruke iskusio lekciju da "nije u redu da izgleda stvarno" i ponovo stekao naviku da provjerava svaki izvor.
Slučaj 2 — Izrađen istorijski dokument. Istraživač je primio "novinski izvještaj iz 1919." od AI; Datum, naziv i sadržaj novina bili su izuzetno uvjerljivi. Bibliotekarka je skenirala novinsku arhivu: takve vijesti u to vrijeme nije bilo. Izmišljeni primarni izvor uhvaćen je prije nego što je uopće dospio u članak.
Slučaj 3 — Pogrešno pripisan citat. AI je pripisao citat poznatom misliocu. Bibliotekar je tražio ovu reč u djelima mislioca i nije je mogao pronaći; Ta riječ nigdje nije spomenuta. Unakrsna provjera spriječila je širenje pogrešno pripisanog citata.
Lanac širenja dezinformacija i uloga bibliotekara
Dezinformacije često počinju sa jednim izmišljenim izlazom, ali se tu ne zaustavljaju. Korisnik stavlja lažni resurs generisan AI u zadatak; zadatak postaje publikacija; publikaciju citiraju drugi, tako da izmišljeni izvor uzastopnim citiranjem dobija izgled "istine". Ovu atribuciju možemo nazvati kontaminacijom: lažne informacije dobijaju legitimitet ponavljanjem iznova i iznova. Bibliotekar stoji na najkritičnijoj karici u ovom lancu; jer je to posljednja kontrolna tačka na kojoj se provjeravaju informacije prije ulaska u sistem. Samo zato što se izvor "pojavljuje na mnogim mjestima" ne čini ga istinitim; Iste lažne informacije mogu se pojaviti na mnogim mjestima tako što se kopiraju jedna od druge. Stoga bi unakrsna potvrda trebala biti zasnovana na pitanju "koliko pouzdanih izvora to potvrđuje nezavisno jedan od drugog", a ne "na koliko mjesta se pojavljuje?" Deset sekundarnih izvora koji ponavljaju istu tvrdnju ne vrijede koliko jedan nezavisni primarni izvor. Bibliotekar treba da stavi ovu razliku (ne brkajući nezavisnost sa ponavljanjem) u središte i svoje verifikacije i svog podučavanja korisniku.
Pažnja: Pojava informacija u tražilici ili na mnogim web stranicama nije dokaz njihove tačnosti. Ista greška je možda postala široko rasprostranjena prepisivanjem od izvora do izvora. Prevalencija i tačnost su različite stvari; Za potvrdu je potreban nezavisan i pouzdan izvor.
Četiri šablona za kopiranje
1) Upit entiteta resursa:
Navedite svaki izvor i citat u tekstu ispod. Za svaki: autor, naslov, godina i podaci o izdanju (ako ih ima). Izdvoj stavku po stavku informacije koje moram provjeriti; ne dodaj. Tekst: [ovdje]
2) Procjena potvrdljivosti:
Za svaku od sljedećih tvrdnji izdvojite činjenične elemente (datum, ime, broj, citat) koje je potrebno provjeriti. Predložite prema kojoj vrsti izvora (katalog, primarni dokument, baza podataka) se može provjeriti. Ne sudite o tačnosti, samo pokažite put za verifikaciju. Tvrdnje: [ovdje]
3) Kontrolna lista pouzdanosti zavarivanja:
Procijenite vjerodostojnost sljedećeg izvora: ko je to napisao, kada, u koju svrhu, postoje dokazi, da li je aktuelan, postoji li moguća pristrasnost? Samo se oslonite na informacije koje sam dao, napišite "nepoznato" gde nedostaje. Izvor informacija: [ovdje]
4) Plan nastave informatičke pismenosti:
Napravite kratak 20-minutni vodič o verifikaciji izvora i halucinacijama u doba AI za sljedeću grupu korisnika (npr. studente): ciljevi, 3 primjera, 1 aplikacija. Grupa: [ovdje]
Slaba prompt / Jaka prompt
Slab upit:
Napišite sažetak na ovu temu s pouzdanim izvorima.
Reći "sa pouzdanim izvorima" potiče AI da proizvodi lažne izvore koji izgledaju kao stvarni; Ne postoji kuka za validaciju.
Snažan upit:
Vaša uloga: asistent za informatičku pismenost. PISANJE rezimea na sljedeću temu; Umjesto toga, navedite činjenična pitanja koja korisnik treba da provjeri i vrstu pouzdanog izvora pomoću kojeg ih može provjeriti. Nemojte izmišljati nikakve izvore; Označite područje za koje niste sigurni kao "mora biti potvrđeno". Predmet: [ovdje]
Snažan prompt; Koristi veštačku inteligenciju kao vodič koji pokazuje put do verifikacije, umesto da daje odgovore, i strukturalno sprečava fabrikovanje.
Tabela slojeva autentifikacije
sloj
Pitanje
Metoda
entiteta
Da li je ovaj izvor stvaran?
Pretraga kataloga/baze podataka
primat
Je li ovo najbliži izvor?
Pristup originalnom dokumentu
Potvrda
Da li drugi izvor to potvrđuje?
Nezavisna unakrsna provjera
pouzdanost
Koliko je čvrst izvor?
Autor, datum, svrha, dokaz
poštenje
Jesam li siguran?
Jasno navedite nesigurnost
Uobičajene greške
- Misleći da je istina ono što je ubedljivo. Dobro izgledati nije dokaz pravednosti.
- Biti zadovoljan sa jednim izvorom. Kritične informacije zahtijevaju nezavisnu unakrsnu potvrdu.
- Ne tražim citat na njegovom izvoru. Ovako se šire pogrešno pripisane riječi.
- Skrivanje neizvjesnosti. “Neprovjerljivo” je bolje od lažne sigurnosti.
- Ne podučava korisnika da se autentifikuje. Informaciona pismenost je misija bibliotekara.
Ukratko
Provjera izvora i informatička pismenost najkritičniji su zadaci bibliotekarstva u doba AI. Halucinacija proizvodi uvjerljive, ali izmišljene informacije i posebno je opasna u humanističkim/društvenim naukama. Disciplina je jasna: provjerite postojanje svakog izvora, idite do primarnog izvora, izvršite nezavisnu unakrsnu provjeru, dovedite u pitanje kredibilitet izvora i iskreno izrazite nesigurnost. Bibliotekar širi ovu kulturu verifikacije ne samo u svojoj praksi već i podučavanjem korisnika; Originalnost i akademski integritet sastavni su dio ove misije.
Zadatak aplikacije
Zatražite 6 izvora i 2 citata od AI u svojoj oblasti. Provjerite svaki izvor tako što ćete ga pretražiti u stvarnom katalogu i svaki citat u stvarnom autorovom djelu; Obratite pažnju koliko ima izmišljotina. Zatim, koristeći predložak „Plan podučavanja informatičke pismenosti“, napravite 20-minutni vodič kako biste grupi korisnika objasnili verifikaciju izvora i uključili stvarne primjere koje ste sami pronašli.
kontrolna lista
- [ ] Nezavisno sam potvrdio da svaki izvor zaista postoji.
- [ ] Koristio sam primarne izvore gdje god je to bilo moguće.
- [ ] Unakrsno sam provjerio kritične tvrdnje s najmanje dva nezavisna izvora.
- [ ] Provjerio sam citate tražeći ih u autorovom stvarnom radu.
- [ ] Jasno sam označio neprovjerljive informacije kao "neprovjerljive".