Dobički:
- Sposobnost zajemanja halucinacij s preverjanjem obstoja vsakega vira, odhodom na primarni vir in neodvisnimi koraki navzkrižne potrditve
- Sposobnost ohranjanja izvirnosti in akademske integritete pred izmišljenimi citati in dokumenti v humanistiki in družboslovju
- Sposobnost poučevanja uporabnikov o preverjanju vira in spretnostih informacijske pismenosti v dobi umetne inteligence
V središču družbenega poslanstva knjižničarstva je ena sama obljuba: zanesljive informacije. Knjižničar uporabnika pripelje ne le do informacij, temveč do preverjenih informacij in ga nauči, kako te informacije vrednotiti sam. V dobi umetne inteligence je to poslanstvo postalo težje in pomembnejše; ker lahko umetna inteligenca proizvaja dezinformacije na zelo prepričljiv način. V tej enoti bomo obravnavali prepoznavanje halucinacij, disciplino preverjanja vira in poučevanje informacijske pismenosti v dobi umetne inteligence.
Opredelimo pojme. Halucinacija je, ko AI proizvaja informacije, vire, citate ali dogodke, ki dejansko ne obstajajo, kot da bi bili resnični. Preverjanje vira je potrditev, da informacije temeljijo na resničnem, zanesljivem in primarnem viru. Informacijska pismenost je človekova sposobnost iskanja informacij, njihovega vrednotenja, dvoma o njihovi zanesljivosti in etične uporabe. Cilj te enote je, da knjižničar okrepi te veščine tako v svoji praksi kot pri poučevanju uporabnika.
Korak za korakom: disciplina preverjanja vira
1. Zahtevajte vir in preverite njegov obstoj. Ko AI poda trditev ali citat, "iz katerega vira je to?" in preverite, ali vir dejansko obstaja v neodvisnem katalogu, bazi podatkov ali primarnem dokumentu.
2. Pojdite na primarni vir. Najbolj zanesljiva oblika informacije je njen vir iz prve roke. Ne zadovoljite se s povzetkom AI ali sekundarnim besedilom; Če je mogoče, dostopajte do izvirnega dokumenta, podatkov ali objave.
3. Navzkrižna potrditev. Preverite kritično trditev z vsaj dvema zanesljivima viroma, neodvisnima drug od drugega. En vir, zlasti vir AI, ni dovolj.
4. Ocenite verodostojnost vira. Kdo jo je napisal, kdaj, s kakšnim namenom, na podlagi katerih dokazov? Ali je posodobljen? Obstoj informacij še ne pomeni, da so resnične; Vprašajte se tudi o naravi vira.
5. Iskreno izrazite negotovost. Če informacij ni mogoče preveriti, to jasno povejte. Vedno je bolje reči "nepotrjeno" kot ponuditi izmišljeno gotovost.
Nasvet: Ko od AI dobite citat ali vir, najprej poiščite naslov in avtorja v dejanskem katalogu. Tukaj se takoj prikažejo neobstoječi viri. To 30-sekundno preverjanje prepreči izmišljenemu viru vstop v bibliografijo, nalogo ali publikacijo.
Avtentičnost in verifikacija v humanistiki in družboslovju
Humanistične in družboslovne vede so še posebej občutljive na tveganje halucinacij. Na teh področjih dokazi pogosto temeljijo na določenem dokumentu, datumu, citatu ali viru komentarja. Umetna inteligenca lahko proizvede zelo specifične, a popolnoma izmišljene trditve, kot je "tisti zgodovinar je rekel" ali "tisti dokument iz leta 1923 pravi". V literarnem, zgodovinskem ali pravnem delu to pomeni lažno verigo dokazov.
Poleg tega je izvirnost temeljna vrednota teh področij: pomembno je, komu besedilo, interpretacija ali prevod zares pripada. Predstavljanje besedila, ki ga je ustvarila umetna inteligenca, kot izvirnega dela ali zanašanje na "vir", ki ga je ustvarila umetna inteligenca, krši akademsko integriteto. Knjižničar je vodnik, ki uporabnike uči tako preverjanja kot meja izvirnosti in plagiatorstva.
Pozor: Tudi v primerih, ko je citat, ustvarjen z umetno inteligenco, videti dobesedno natančen in je pripisan pravemu avtorju, je ta citat lahko izmišljen. Preverite citat tako, da ga najdete samo v avtorjevem dejanskem delu; Logika "ta avtor bi lahko rekel kaj takega" ni dovolj.
trije mini kovčki
Primer 1 – Študenta so učili preverjanja. Knjižničarka je v študentovi nalogi videla 5 virov iz umetne inteligence. Skupaj sta ga preverila v katalogu: 2 vira sta bila izmišljena. Dijakinja je na lastni koži izkusila lekcijo, da "ni prav, da je videti resnično" in se znova navadila, da vsak vir preveri.
Primer 2 – Izmišljen zgodovinski dokument. Raziskovalec je prejel "časopisno poročilo iz leta 1919" od AI; Datum, ime časopisa in vsebina so bili izjemno prepričljivi. Knjižničarka je pregledala časopisni arhiv: te novice takrat še ni bilo. Izmišljen primarni vir je bil ujet, še preden je prišel v članek.
Primer 3 – napačno dodeljen citat. AI je pripisal citat slavnemu mislecu. Knjižničarka je to besedo iskala v mislečevih delih in je ni našla; Beseda ni bila nikjer omenjena. Navzkrižno preverjanje je preprečilo širjenje napačno pripisanega citata.
Veriga širjenja napačnih informacij in vloga knjižničarja
Napačne informacije se pogosto začnejo z enim samim izmišljenim rezultatom, vendar se tu ne ustavijo. Uporabnik v dodelitev vstavi lažni vir, ki ga ustvari umetna inteligenca; naloga postane objava; objavo navajajo drugi, tako da fiktivni vir z večkratnim navajanjem dobi videz "resnice". Temu lahko rečemo kontaminacija pripisovanja: napačne informacije pridobijo legitimnost s ponavljanjem znova in znova. Knjižničar stoji na najbolj kritičnem členu v tej verigi; ker je zadnja kontrolna točka, kjer se informacije preverijo pred vstopom v sistem. Samo zato, ker se vir "pojavlja na mnogih mestih", še ne pomeni, da je resničen; Iste lažne informacije se lahko pojavijo na številnih mestih, tako da se kopirajo drug od drugega. Zato mora navzkrižna potrditev temeljiti na vprašanju "koliko zanesljivih virov to potrjuje neodvisno drug od drugega", ne pa na "koliko mestih se pojavlja?" Deset sekundarnih virov, ki ponavljajo isto trditev, ni vrednih toliko kot en sam neodvisen primarni vir. Knjižničar naj to razlikovanje (ne zamenjuje samostojnosti s ponavljanjem) postavi v središče tako lastnega preverjanja kot poučevanja uporabnika.
Pozor: Pojav informacij v iskalniku ali na številnih spletnih straneh ni dokaz njihove točnosti. Ista napaka je morda postala zelo razširjena s kopiranjem iz vira v vir. Razširjenost in natančnost sta različni stvari; Za potrditev je potreben neodvisen in zanesljiv vir.
Štiri predloge za kopiranje
1) Poizvedba entitete vira:
Navedite vsako navedbo vira in citat v spodnjem besedilu. Za vsakega: avtor, naslov, leto in podatki o objavi (če obstajajo). Izvleček po elementih informacij, ki jih moram preveriti; ne dodajaj. Besedilo: [tukaj]
2) Ocena potrjenosti:
Za vsako od naslednjih trditev ločite dejanske elemente (datum, ime, številka, citat), ki jih je treba preveriti. Predlagajte, s katero vrsto vira (katalog, primarni dokument, baza podatkov) se lahko preveri. Ne sodite o točnosti, samo pokažite pot preverjanja. Trditve: [tukaj]
3) Kontrolni seznam zanesljivosti varjenja:
Ocenite verodostojnost naslednjega vira: kdo ga je napisal, kdaj, za kakšen namen, ali obstajajo dokazi, ali je aktualen, ali je možna pristranskost? Samo zanesite se na informacije, ki sem jih dal, napišite "neznano", kjer manjkajo. Vir informacij: [tukaj]
4) Načrt poučevanja informacijske pismenosti:
Izdelajte kratko 20-minutno vadnico o preverjanju vira in halucinacijah v dobi umetne inteligence za naslednjo skupino uporabnikov (npr. dodiplomske študente): cilji, 3 primeri, 1 aplikacija. Skupina: [tukaj]
Šibek poziv/močan poziv
Šibek poziv:
Napišite povzetek o tej temi z zanesljivimi viri.
Beseda "z zanesljivimi viri" spodbuja AI, da ustvari lažne vire, ki se zdijo resnični; Kavlja za preverjanje ni.
Močan poziv:
Vaša vloga: pomočnik pri informacijskem opismenjevanju. PISANJE povzetka na naslednjo temo; Namesto tega navedite dejanska vprašanja, ki jih mora uporabnik preveriti, in vrsto zanesljivega vira, s katerim jih lahko preveri. Ne izmišljujte navedb virov; Označite področje, za katerega niste prepričani, kot "mora biti preverjeno". Zadeva: [tukaj]
Močan poziv; Umetno inteligenco uporablja kot vodilo, ki kaže pot do preverjanja, namesto da bi ustvaril odgovore, in strukturno preprečuje izdelavo.
Tabela slojev za preverjanje pristnosti
plast
vprašanje
Metoda
subjekt
Je ta vir resničen?
Iskanje po katalogu/bazi podatkov
primat
Je to najbližji vir?
Dostop do izvirnega dokumenta
Potrditev
Ali to potrjuje drug vir?
Neodvisno navzkrižno preverjanje
zanesljivost
Kako trden je vir?
Avtor, datum, namen, dokaz
poštenost
Sem prepričan?
Jasno navedite negotovost
Pogoste napake
- Misliti, da je res, kar je prepričljivo. Lep videz ni dokaz pravičnosti.
- Biti zadovoljen z enim samim virom. Kritične informacije zahtevajo neodvisno navzkrižno potrditev.
- Ne išče citata pri njegovem izvoru. Tako se širijo napačno pripisane besede.
- Skrivanje negotovosti. "Nepreverljivo" je boljše od lažne gotovosti.
- Ne uči uporabnika preverjanja pristnosti. Informacijska pismenost je knjižničarjevo poslanstvo.
Če povzamem
Preverjanje vira in informacijska pismenost sta najbolj kritični nalogi knjižničarstva v dobi umetne inteligence. Halucinacije ustvarjajo prepričljive, a izmišljene informacije in so še posebej nevarne v humanističnih/družbenih vedah. Disciplina je jasna: preverite obstoj vsakega vira, pojdite do primarnega vira, izvedite neodvisno navzkrižno preverjanje, dvomite o verodostojnosti vira in iskreno izrazite negotovost. Knjižničar širi to kulturo preverjanja ne samo v svoji praksi, ampak tudi s poučevanjem uporabnikov; Izvirnost in akademska integriteta sta sestavni del tega poslanstva.
Aplikacijska naloga
Zahtevajte 6 virov in 2 citata od AI na svojem področju. Preverite vsak vir tako, da ga poiščete v dejanskem katalogu in vsak citat v avtorjevem dejanskem delu; Upoštevajte, koliko je izmišljotin. Nato z uporabo predloge »Načrt poučevanja informacijske pismenosti« sestavite osnutek 20-minutne vadnice za razlago preverjanja vira skupini uporabnikov in vključite resnične primere, ki ste jih našli sami.
kontrolni seznam
- [ ] Neodvisno sem preveril, ali vsak vir dejansko obstaja.
- [ ] Kjer je bilo mogoče, sem uporabil primarne vire.
- [ ] Kritične trditve sem navzkrižno preveril pri vsaj dveh neodvisnih virih.
- [ ] Citate sem preveril tako, da sem jih poiskal v avtorjevem dejanskem delu.
- [ ] Nepreverljive informacije sem jasno označil kot "nepreverljive".