Dobici:
- Sposobnost hvatanja halucinacije provjerom postojanja svakog izvora, odlaskom na primarni izvor i neovisnim koracima unakrsne potvrde
- Sposobnost održavanja originalnosti i akademskog integriteta u odnosu na izmišljene citate i dokumente u humanističkim i društvenim znanostima
- Sposobnost podučavanja korisnika vještinama provjere izvora i informacijske pismenosti u doba umjetne inteligencije
U središtu društvene misije knjižničarstva jedno je obećanje: pouzdane informacije. Knjižničar dovodi korisnika ne samo do informacija, već i do provjerenih informacija, te ga uči kako da te informacije sam vrednuje. U doba umjetne inteligencije ova je misija postala i teža i važnija; jer AI može proizvesti dezinformacije na vrlo uvjerljiv način. U ovoj ćemo jedinici pokriti prepoznavanje halucinacija, disciplinu provjere izvora i podučavanje informacijske pismenosti u doba umjetne inteligencije.
Definirajmo pojmove. Halucinacija je kada AI proizvodi informacije, izvore, citate ili događaje koji zapravo ne postoje kao da su stvarni. Provjera izvora je potvrda da se informacija temelji na stvarnom, pouzdanom i primarnom izvoru. Informacijska pismenost je sposobnost osobe da pronađe informacije, ocijeni ih, preispita njihovu pouzdanost i etički ih koristi. Cilj ove jedinice je da knjižničar osnaži ove vještine kako u svojoj praksi tako iu podučavanju korisnika.
Korak po korak: disciplina provjere izvora
1. Zatražite izvor i provjerite njegovo postojanje. Kada AI da tvrdnju ili citat, "iz kojeg je ovo izvora?" i provjeriti postoji li izvor stvarno u neovisnom katalogu, bazi podataka ili primarnom dokumentu.
2. Idite na primarni izvor. Najpouzdaniji oblik informacija je njihov izvor iz prve ruke. Nemojte se zadovoljiti sažetkom umjetne inteligencije ili sekundarnim tekstom; Ako je moguće, pristupite izvornom dokumentu, podacima ili publikaciji.
3. Unakrsna potvrda. Provjerite kritičnu tvrdnju s najmanje dva pouzdana izvora, neovisna jedan o drugome. Jedan resurs, pogotovo AI resurs, nije dovoljan.
4. Ocijenite vjerodostojnost izvora. Tko ga je napisao, kada, s kojim ciljem, na temelju kojih dokaza? Je li ažuriran? Postojanje informacije ne čini je istinitom; Također preispitajte prirodu izvora.
5. Iskreno izrazite nesigurnost. Ako se informacije ne mogu provjeriti, recite to jasno. Uvijek je bolje reći "nepotvrđeno" nego ponuditi izmišljenu sigurnost.
Savjet: kada od umjetne inteligencije dobijete citat ili izvor, prvo potražite naslov i autora u stvarnom katalogu. Ovdje se odmah pojavljuju nepostojeći resursi. Ova provjera od 30 sekundi sprječava izmišljeni izvor da uđe u bibliografiju, zadatak ili publikaciju.
Autentičnost i provjera u humanističkim i društvenim znanostima
Humanističke i društvene znanosti posebno su osjetljive na rizik od halucinacija. U tim se područjima dokazi često temelje na određenom dokumentu, datumu, citatu ili izvoru komentara. AI može proizvesti vrlo specifične, ali potpuno izmišljene tvrdnje, poput "onaj povjesničar je rekao" ili "onaj dokument iz 1923. kaže". U književnom, povijesnom ili pravnom djelu to znači lažni lanac dokaza.
Štoviše, izvornost je temeljna vrijednost ovih područja: važno je kome doista pripada tekst, interpretacija ili prijevod. Predstavljanje teksta koji je izradio AI kao izvornog djela ili oslanjanje na "izvor" koji je napravio AI krši akademski integritet. Knjižničar je vodič koji podučava korisnike i provjeri i granicama izvornosti i plagijata.
Oprez: čak i u slučajevima kada se citat generiran umjetnom inteligencijom čini točnim od riječi do riječi i pripisuje se stvarnom autoru, taj citat može biti izmišljen. Provjerite citat tako da ga pronađete samo u autorovom stvarnom djelu; Logika "možda je ovaj autor ovako nešto rekao" nije dovoljna.
tri mini kućišta
Slučaj 1 — Student je podučen provjeri. Knjižničar je vidio 5 izvora iz umjetne inteligencije u studentskom zadatku. Zajedno su to provjerili u katalogu: 2 izvora su izmišljena. Student je na vlastitoj koži iskusio lekciju da "nije u redu da izgleda stvarno" i ponovno stekao naviku provjeravanja svakog izvora.
Slučaj 2 — Izmišljeni povijesni dokument. Istraživač je primio "novinsko izvješće iz 1919." od AI; Datum, naziv novina i sadržaj bili su izuzetno uvjerljivi. Knjižničarka je pregledala novinsku arhivu: u to vrijeme nije bilo takvih vijesti. Izmišljeni primarni izvor je uhvaćen prije nego što je uopće dospio u članak.
Slučaj 3 — pogrešno pripisan citat. AI je pripisao citat poznatom misliocu. Knjižničar je tražio ovu riječ u misliočevim djelima i nije je mogao pronaći; Riječ nigdje nije spomenuta. Unakrsna provjera spriječila je širenje krivo pripisanog citata.
Lanac širenja dezinformacija i uloga knjižničara
Dezinformacije često počinju s jednim izmišljenim rezultatom, ali ne završavaju tu. Korisnik stavlja lažni resurs generiran umjetnom inteligencijom u dodjelu; zadatak postaje publikacija; publikaciju citiraju drugi, tako da izmišljeni izvor opetovanim citiranjem dobiva izgled "istine". Ovo pripisivanje možemo nazvati kontaminacijom: lažne informacije dobivaju legitimitet ponavljanjem iznova i iznova. Knjižničar stoji na najkritičnijoj karici u tom lancu; jer je to posljednja kontrolna točka gdje se informacije provjeravaju prije ulaska u sustav. Samo zato što se izvor "pojavljuje na mnogo mjesta" ne čini ga istinitim; Iste lažne informacije mogu se pojaviti na mnogim mjestima kopirajući jedna od druge. Stoga bi se unakrsna potvrda trebala temeljiti na pitanju "koliko pouzdanih izvora to potvrđuje neovisno jedan o drugom", a ne "na koliko se mjesta pojavljuje?" Deset sekundarnih izvora koji ponavljaju istu tvrdnju ne vrijede koliko jedan nezavisni primarni izvor. Knjižničar bi ovu razliku (ne miješajući neovisnost s ponavljanjem) trebao staviti u središte vlastite provjere i poučavanja korisnika.
Pažnja: pojavljivanje informacija u tražilici ili na mnogim web stranicama nije dokaz njihove točnosti. Ista je pogreška možda postala široko rasprostranjena kopiranjem s izvora na izvor. Prevalencija i točnost su različite stvari; Za potvrdu je potreban neovisan i pouzdan izvor.
Četiri predloška za kopiranje
1) Upit entiteta resursa:
Navedite svaki citat izvora i navod u donjem tekstu. Za svakog: autor, naslov, godina i podaci o izdanju (ako postoje). Izdvojite stavku po stavku informacije koje trebam provjeriti; ne dodavati.Tekst: [ovdje]
2) Ocjena potvrdljivosti:
Za svaku od sljedećih tvrdnji izdvojite činjenične elemente (datum, ime, broj, citat) koje je potrebno provjeriti. Predložite prema kojoj se vrsti izvora (katalog, primarni dokument, baza podataka) može provjeriti. Nemojte suditi o točnosti, samo pokažite put provjere. Tvrdnje: [ovdje]
3) Kontrolni popis pouzdanosti zavarivanja:
Ocijenite vjerodostojnost sljedećeg izvora: tko ga je napisao, kada, u koju svrhu, postoje li dokazi, je li aktualan, postoji li moguća pristranost? Samo se oslonite na podatke koje sam dao, napišite "nepoznato" gdje ih nema. Izvor podataka: [ovdje]
4) Plan nastave informacijskog opismenjavanja:
Napravite kratki 20-minutni vodič o provjeri izvora i halucinaciji u doba umjetne inteligencije za sljedeću skupinu korisnika (npr. studenti): ciljevi, 3 primjera, 1 primjena. Grupa: [ovdje]
Slab upit / Jak upit
Slab upit:
Napišite sažetak o ovoj temi s pouzdanim izvorima.
Reći "s pouzdanim izvorima" potiče umjetnu inteligenciju da proizvodi lažne izvore koji izgledaju kao stvarni; Ne postoji kuka za provjeru valjanosti.
Snažan upit:
Vaša uloga: asistent informacijskog opismenjavanja. PISANJE sažetka na sljedeću temu; Umjesto toga, navedite činjenična pitanja koja korisnik treba provjeriti i vrstu pouzdanog izvora s kojim ih može provjeriti. Nemojte izmišljati navode izvora; Označite područje u koje niste sigurni kao "mora se provjeriti". Predmet: [ovdje]
Snažan brz; Koristi umjetnu inteligenciju kao vodič koji pokazuje put do provjere, umjesto da daje odgovore, i strukturalno sprječava izmišljanje.
Tablica slojeva provjere autentičnosti
sloj
Pitanje
metoda
entitet
Je li ovaj izvor stvaran?
Pretraga kataloga/baze podataka
prvenstvo
Je li ovo najbliži izvor?
Pristup izvornom dokumentu
Potvrda
Potvrđuje li to neki drugi izvor?
Neovisna unakrsna provjera
pouzdanost
Koliko je čvrst izvor?
Autor, datum, svrha, dokaz
iskrenost
jesam li siguran
Jasno navedite neizvjesnost
Uobičajene greške
- Misleći da je istina ono što je uvjerljivo. Dobro izgledati nije dokaz pravednosti.
- Biti zadovoljan s jednim izvorom. Kritične informacije zahtijevaju neovisnu unakrsnu potvrdu.
- Ne tražeći citat u njegovom izvoru. Tako se šire pogrešno pripisane riječi.
- Skrivanje neizvjesnosti. "Neprovjerljivo" je bolje od lažne sigurnosti.
- Ne uči korisnika autentifikaciji. Informacijska pismenost je misija knjižničara.
Ukratko
Provjera izvora i informacijska pismenost najkritičniji su zadaci knjižničarstva u doba umjetne inteligencije. Halucinacije proizvode uvjerljive, ali izmišljene informacije i posebno su opasne u humanističkim/društvenim znanostima. Disciplina je jasna: provjerite postojanje svakog izvora, idite na primarni izvor, izvršite neovisnu unakrsnu provjeru, preispitajte vjerodostojnost izvora i iskreno izrazite nesigurnost. Knjižničar širi ovu kulturu provjere ne samo u svojoj praksi nego i podučavajući korisnike; Originalnost i akademski integritet sastavni su dio ove misije.
Zadatak aplikacije
Zatražite 6 izvora i 2 citata od umjetne inteligencije u svom području. Provjerite svaki izvor traženjem u stvarnom katalogu i svaki citat u autorovom stvarnom djelu; Imajte na umu koliko je izmišljotina. Zatim, koristeći predložak "Plan podučavanja informacijske pismenosti", izradite 20-minutni vodič za objašnjenje provjere izvora skupini korisnika i uključite stvarne primjere koje ste sami pronašli.
popis za provjeru
- [ ] Neovisno sam potvrdio da svaki izvor stvarno postoji.
- [ ] Koristio sam primarne izvore gdje god je to bilo moguće.
- [ ] Provjerio sam kritične tvrdnje s najmanje dva neovisna izvora.
- [ ] Provjerio sam citate tražeći ih u autorovom stvarnom djelu.
- [ ] Jasno sam označio neprovjerljive informacije kao "neprovjerljive".