Ieguvumi:
- Spēja uztvert halucinācijas, pārbaudot katra avota esamību, dodoties uz primāro avotu un neatkarīgas savstarpējas apstiprināšanas darbības
- Spēja saglabāt oriģinalitāti un akadēmisko integritāti pret safabricētiem citātiem un dokumentiem humanitārajās un sociālajās zinātnēs
- Spēja mācīt lietotājiem avotu verifikācijas un informācijas pratības prasmes mākslīgā intelekta laikmetā
Bibliotekāru sociālās misijas pamatā ir viens solījums: uzticama informācija. Bibliotekārs pieved lietotāju ne tikai pie informācijas, bet pie pārbaudītas informācijas un māca viņam pašam šo informāciju novērtēt. Mākslīgā intelekta laikmetā šī misija ir kļuvusi gan grūtāka, gan svarīgāka; jo AI var radīt dezinformāciju ļoti pārliecinošā veidā. Šajā nodaļā mēs apskatīsim halucināciju atpazīšanu, avotu pārbaudes disciplīnu un informācijas pratības mācīšanu mākslīgā intelekta laikmetā.
Definēsim jēdzienus. Halucinācijas ir tad, kad AI rada informāciju, avotus, citātus vai notikumus, kas patiesībā neeksistē, it kā tie būtu īsti. Avota verifikācija ir apstiprinājums, ka informācija ir balstīta uz reālu, uzticamu un primāru avotu. Informācijpratība ir cilvēka spēja atrast informāciju, novērtēt to, apšaubīt tās ticamību un ētiski to izmantot. Šīs nodaļas mērķis ir bibliotekāram šīs prasmes nostiprināt gan savā praksē, gan apmācot lietotāju.
Soli pa solim: avota pārbaudes disciplīna
1. Pieprasiet avotu un pārbaudiet tā esamību. Kad AI sniedz apgalvojumu vai citātu, “no kura avota tas ir?” un pārbaudiet, vai avots patiešām pastāv neatkarīgā katalogā, datubāzē vai primārajā dokumentā.
2. Atveriet primāro avotu. Visuzticamākais informācijas veids ir tās pirmavots. Nesamierinieties ar AI kopsavilkumu vai sekundāru tekstu; Ja iespējams, piekļūstiet dokumenta oriģinālam, datiem vai publikācijai.
3. Savstarpēji apstiprināt. Pārbaudiet kritisko apgalvojumu, izmantojot vismaz divus uzticamus avotus, kas ir neatkarīgi viens no otra. Ar vienu resursu, jo īpaši AI resursiem, nepietiek.
4. Novērtējiet avota ticamību. Kas to uzrakstīja, kad, kādam nolūkam, uz kādiem pierādījumiem? Vai tas ir aktuāls? Informācijas esamība nepadara to patiesu; Apšaubiet arī avota būtību.
5. Godīgi izsakiet nenoteiktību. Ja informāciju nevar pārbaudīt, pasakiet to skaidri. Vienmēr ir labāk teikt "neapstiprināts", nekā piedāvāt izdomātu noteiktību.
Padoms. Kad saņemat citātu vai avotu no AI, vispirms meklējiet nosaukumu un autoru faktiskā katalogā. Šeit uzreiz parādās neesošie resursi. Šī 30 sekunžu pārbaude neļauj izdomātam avotam ievadīt bibliogrāfiju, uzdevumu vai publikāciju.
Autentiskums un verifikācija humanitārajās un sociālajās zinātnēs
Humanitārās un sociālās zinātnes ir īpaši neaizsargātas pret halucināciju risku. Šajās jomās pierādījumi bieži vien ir balstīti uz konkrētu dokumentu, datumu, citātu vai komentāra avotu. AI var radīt ļoti specifiskus, bet pilnīgi safabricētus apgalvojumus, piemēram, “tas vēsturnieks teica” vai “tas 1923. gada dokuments saka”. Literatūras, vēstures vai tiesību darbā tas nozīmē nepatiesu pierādījumu ķēdi.
Turklāt oriģinalitāte ir šo jomu pamatvērtība: ir svarīgi, kam īsti pieder teksts, interpretācija vai tulkojums. AI radīta teksta prezentēšana kā oriģināldarbs vai paļaušanās uz mākslīgā intelekta “avotu”, tiek pārkāpta akadēmiskā integritāte. Bibliotekārs ir ceļvedis, kas māca lietotājiem gan verifikāciju, gan oriģinalitātes un plaģiāta robežas.
Uzmanību: pat gadījumos, kad mākslīgā intelekta ģenerēts citāts šķiet precīzs un tiek attiecināts uz īstu autoru, šis citāts var būt izdomāts. Pārbaudi citātu, atrodot to tikai autora faktiskajā darbā; Ar loģiku "šis autors varētu būt teicis ko tādu" nepietiek.
trīs mini futrāļi
1. gadījums — studentam tika mācīta pārbaude. Kāda bibliotekāre skolēna uzdevumā redzēja 5 AI resursus. Kopā viņi to pārbaudīja katalogā: tika safabricēti 2 avoti. Skolēns pats piedzīvoja mācību stundu, ka "nav pareizi, lai tas izskatītos īsts", un atkal ieguva ieradumu pārbaudīt katru avotu.
2. gadījums — izdomāts vēsturisks dokuments. Pētnieks saņēma "1919. gada laikraksta ziņojumu" no AI; Datums, laikraksta nosaukums un saturs bija ārkārtīgi pārliecinoši. Bibliotekāre skenēja avīzes arhīvu: tādu ziņu tobrīd nebija. Safabricēts primārais avots tika noķerts, pirms tas pat kļuva par rakstu.
3. gadījums — nepareizi norādīts citāts. AI piedēvēja citātu slavenam domātājam. Bibliotekārs meklēja šo vārdu domātāja darbos un nevarēja to atrast; Vārds nekur netika minēts. Savstarpēja pārbaude neļāva izplatīt nepareizi norādītu citātu.
Dezinformācijas izplatīšanas ķēde un bibliotekāra loma
Dezinformācija bieži sākas ar vienu izdomātu rezultātu, bet ar to tas nebeidzas. Lietotājs uzdevumā ievieto viltotu AI ģenerētu resursu; uzdevums kļūst par publikāciju; publikāciju citē citi, tā ka fiktīvs avots, atkārtoti citējot, iegūst "patiesības" izskatu. To var saukt par piesārņojumu: nepatiesa informācija iegūst leģitimitāti, atkārtojoties atkal un atkal. Bibliotekārs atrodas viskritiskākajā posmā šajā ķēdē; jo tas ir pēdējais kontroles punkts, kurā tiek pārbaudīta informācija pirms ievadīšanas sistēmā. Tikai tāpēc, ka avots "rodas daudzās vietās", tas nepadara to patiesu; Viena un tā pati viltus informācija var parādīties daudzās vietās, to kopējot viena no otras. Tāpēc savstarpējai apstiprināšanai ir jābalstās uz jautājumu "cik uzticami avoti to apstiprina neatkarīgi viens no otra", nevis "cik vietās tas parādās?" Desmit sekundārie avoti, kas atkārto vienu un to pašu apgalvojumu, nav tik vērtīgi kā viens neatkarīgs primārais avots. Bibliotekāram šī atšķirība (nejaucot neatkarību ar atkārtošanos) ir jānovieto gan savas pārbaudes, gan lietotāja mācīšanas centrā.
Uzmanību! Informācijas parādīšanās meklētājprogrammā vai daudzās tīmekļa lapās nav tās precizitātes pierādījums. Tā pati kļūda, iespējams, ir kļuvusi plaši izplatīta, pārkopējot no avota uz avotu. Izplatība un precizitāte ir dažādas lietas; Apstiprināšanai nepieciešams neatkarīgs un uzticams avots.
Četras kopējamas veidnes
1) Resursa entītijas vaicājums:
Zemāk esošajā tekstā uzskaitiet visus avota citātus un citātus. Katram: autors, nosaukums, gads un publikācijas informācija (ja tāda ir). Izvilkt informāciju, kas man ir jāpārbauda, pa vienumam; nepievienot.Teksts: [šeit]
2) Apstiprinājuma novērtējums:
Katram no tālāk norādītajiem apgalvojumiem norādiet faktiskos elementus (datums, nosaukums, numurs, citāts), kas ir jāpārbauda. Iesakiet, pret kāda veida avotu (katalogu, primāro dokumentu, datu bāzi) to var pārbaudīt. Nevērtējiet precizitāti, vienkārši parādiet verifikācijas ceļu. Apgalvojumi: [šeit]
3) Metināšanas uzticamības kontrolsaraksts:
Novērtējiet šāda avota ticamību: kas to rakstīja, kad, kādam nolūkam ir pierādījumi, vai tie ir aktuāli, vai ir iespējama neobjektivitāte? Vienkārši paļaujieties uz manis sniegto informāciju, ierakstiet "nezināms", kur tās trūkst. Informācijas avots: [šeit]
4) Informācijas pratības mācību plāns:
Izveidojiet īsu 20 minūšu apmācību par avotu pārbaudi un halucinācijām mākslīgā intelekta laikmetā šādai lietotāju grupai (piemēram, studentiem): mērķi, 3 piemēri, 1 lietojumprogramma. Grupa: [šeit]
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Uzrakstiet kopsavilkumu par šo tēmu, izmantojot uzticamus avotus.
Sakot "ar uzticamiem avotiem", AI mudina radīt viltotus avotus, kas šķiet īsti; Nav apstiprinājuma āķa.
Spēcīga uzvedne:
Jūsu loma: informācijas pratības asistents. RAKSTĪT kopsavilkumu par šādu tēmu; Tā vietā uzskaitiet faktiskos jautājumus, kas lietotājam ir jāpārbauda, un uzticama avota veidu, ar kuru viņi tos var pārbaudīt. Neveidojiet avota citātus; Atzīmējiet apgabalu, par kuru neesat pārliecināts, kā "jāpārbauda". Temats: [šeit]
Spēcīga uzvedne; Tas izmanto AI kā ceļvedi, kas parāda ceļu uz pārbaudi, nevis sniedz atbildes, un strukturāli novērš izgatavošanu.
Autentifikācijas slāņu tabula
slānis
Jautājums
Metode
entītija
Vai šis avots ir īsts?
Kataloga/datu bāzes meklēšana
prioritāte
Vai šis ir tuvākais avots?
Piekļuve dokumenta oriģinālam
Apstiprinājums
Vai kāds cits avots to apstiprina?
Neatkarīga kontrolpārbaude
uzticamība
Cik stabils ir avots?
Autors, datums, mērķis, pierādījumi
godīgums
Vai esmu pārliecināts?
Skaidri izteikta valsts nenoteiktība
Biežas kļūdas
- Domājot, ka tas, kas ir pārliecinošs, ir patiess. Labi izskatīties nav taisnības pierādījums.
- Būt apmierinātam ar vienu avotu. Kritiskajai informācijai nepieciešams neatkarīgs savstarpējs apstiprinājums.
- Nemeklēju citātu tā avotā. Tā izplatās nepareizi piedēvēti vārdi.
- Nenoteiktības slēpšana. “Nepārbaudāms” ir labāks par nepatiesu noteiktību.
- Nemāca lietotājam autentificēties. Informācijpratība ir bibliotekāra misija.
Rezumējot
Avotu pārbaude un informācijas pratība ir vissvarīgākie bibliotēku uzdevumi mākslīgā intelekta laikmetā. Halucinācijas rada pārliecinošu, bet izdomātu informāciju un ir īpaši bīstamas humanitārajās/sociālajās zinātnēs. Disciplīna ir skaidra: pārbaudiet katra avota esamību, dodieties uz primāro avotu, veiciet neatkarīgu salīdzinošo pārbaudi, apšaubiet avota ticamību un godīgi izsakiet nenoteiktību. Bibliotekārs izplata šo pārbaudes kultūru ne tikai savā praksē, bet arī mācot lietotājus; Oriģinalitāte un akadēmiskā integritāte ir šīs misijas neatņemama sastāvdaļa.
Lietojumprogrammas uzdevums
Pieprasiet 6 avotus un 2 citātus no AI savā jomā. Pārbaudiet katru avotu, meklējot to faktiskā katalogā un katru citātu autora faktiskajā darbā; Ņemiet vērā, cik daudz ir izdomājumu. Pēc tam, izmantojot veidni “Informācijas pratības mācīšanas plāns”, izveidojiet 20 minūšu garu pamācību, lai lietotāju grupai izskaidrotu avota verifikāciju un iekļautu reālus piemērus, ko atradāt pats.
kontrolsaraksts
- [ ] Esmu neatkarīgi pārbaudījis, vai katrs avots patiešām pastāv.
- [ ] Kur vien iespējams, esmu izmantojis primāros avotus.
- [ ] Esmu salīdzinājis kritiskos apgalvojumus ar vismaz diviem neatkarīgiem avotiem.
- [ ] Es pārbaudīju citātus, meklējot tos autora faktiskajā darbā.
- [ ] Es nepārbaudāmo informāciju skaidri atzīmēju kā "nepārbaudāmu".