Kasu:
- Võimalus hallutsinatsiooni jäädvustada, kontrollides iga allika olemasolu, minnes esmasele allikale ja sõltumatuid ristkinnitustoiminguid
- Võimalus säilitada originaalsus ja akadeemiline terviklikkus humanitaar- ja sotsiaalteaduste fabritseeritud tsitaatide ja dokumentide vastu
- Võimalus õpetada kasutajatele allikate kontrollimise ja infopädevuse oskusi tehisintellekti ajastul
Raamatukogunduse sotsiaalse missiooni keskmes on üksainus lubadus: usaldusväärne teave. Raamatukoguhoidja ei vii kasutaja mitte ainult teabeni, vaid ka kontrollitud teabeni ning õpetab teda seda teavet ise hindama. Tehisintellekti ajastul on see missioon muutunud nii raskemaks kui ka olulisemaks; sest AI võib toota valeinformatsiooni väga veenval viisil. Selles üksuses käsitleme hallutsinatsioonide tuvastamist, allikate kontrollimise distsipliini ja infokirjaoskuse õpetamist tehisintellekti ajastul.
Määratleme mõisted. Hallutsinatsioonid on siis, kui tehisintellekt toodab teavet, allikaid, tsitaate või sündmusi, mida tegelikult ei eksisteeri, nagu need oleksid tõelised. Allika kinnitamine on kinnitus, et teave põhineb tõelisel, usaldusväärsel ja esmasel allikal. Infokirjaoskus on inimese oskus leida teavet, seda hinnata, seada kahtluse alla selle usaldusväärsus ja seda eetiliselt kasutada. Selle üksuse eesmärk on, et raamatukoguhoidja tugevdaks neid oskusi nii enda praktikas kui ka kasutaja õpetamisel.
Samm-sammult: allika kontrollimise distsipliin
1. Küsige allikat ja kontrollige selle olemasolu. Kui AI esitab väite või tsitaadi, "millisest allikast see pärineb?" ja kontrollige, kas allikas on tegelikult olemas sõltumatus kataloogis, andmebaasis või algdokumendis.
2. Minge esmasele allikale. Kõige usaldusväärsem teabevorm on selle esmane allikas. Ärge leppige tehisintellekti kokkuvõtte või teisejärgulise tekstiga; Võimalusel tutvuda originaaldokumendi, andmete või väljaandega.
3. Ristkinnitage. Kontrollige kriitilist väidet vähemalt kahe usaldusväärse allikaga, mis on üksteisest sõltumatud. Ühest ressursist, eriti AI ressursist, ei piisa.
4. Hinnake allika usaldusväärsust. Kes selle kirjutas, millal, mis eesmärgil, millistele tõenditele tuginedes? Kas see on ajakohane? Info olemasolu ei muuda seda tõeks; Samuti seadke kahtluse alla allika olemus.
5. Väljenda ebakindlust ausalt. Kui teavet ei saa kontrollida, öelge see selgelt. Alati on parem öelda "kinnitamata" kui pakkuda väljamõeldud kindlust.
Näpunäide. Kui saate tehisintellektilt tsitaadi või allika, otsige esmalt pealkirja ja autorit tegelikust kataloogist. Siia ilmuvad kohe olematud ressursid. See 30-sekundiline kontroll takistab väljamõeldud allikal bibliograafia, ülesande või väljaande sisestamist.
Autentsus ja kontrollimine humanitaar- ja sotsiaalteadustes
Humanitaar- ja sotsiaalteadused on hallutsinatsioonide ohu suhtes eriti haavatavad. Nendes valdkondades põhinevad tõendid sageli konkreetsel dokumendil, kuupäeval, tsitaadil või kommentaari allikal. Tehisintellekt võib esitada väga spetsiifilisi, kuid täiesti väljamõeldud väiteid, näiteks "see ajaloolane ütles" või "see 1923. aasta dokument ütleb". Kirjandus-, ajaloo- või õigusteoses tähendab see valetõendite ahelat.
Veelgi enam, originaalsus on nende valdkondade põhiväärtus: on oluline, kellele tekst, tõlgendus või tõlge tegelikult kuulub. Tehisintellekti loodud teksti esitamine originaalteosena või tehisintellekti koostatud "allikale" tuginemine rikub akadeemilist terviklikkust. Raamatukoguhoidja on giid, kes õpetab kasutajatele nii kontrollimist kui ka originaalsuse ja plagiaadi piire.
Ettevaatust. Isegi juhul, kui tehisintellekti loodud tsitaat näib sõna-sõnalt täpne ja omistatakse tõelisele autorile, võib see tsitaat olla väljamõeldud. Kontrollige tsitaati, leides selle ainult autori tegelikust teosest; Loogikast "see autor võis midagi sellist öelda" ei piisa.
kolm minikarpi
Juhtum 1 – õpilasele õpetati kontrollimist. Raamatukoguhoidja nägi õpilase ülesandes 5 tehisintellekti ressurssi. Koos kontrolliti seda kataloogist: fabritseeriti 2 allikat. Õpilane koges omal nahal õppetundi, et "ei ole õige, et see näeb välja tõeline" ja sai taas harjumuse kontrollida iga allikat.
Juhtum 2 – väljamõeldud ajalooline dokument. Teadlane sai AI-lt "1919. aasta ajaleheraporti"; Kuupäev, ajalehe nimi ja sisu olid ülimalt veenvad. Raamatukoguhoidja skaneeris ajalehe arhiivi: tol ajal sellist uudist polnud. Väljamõeldud esmane allikas tabati enne, kui sellest artikliks sai.
Juhtum 3 – valesti omistatud tsitaat. AI omistas tsitaadi kuulsale mõtlejale. Raamatukoguhoidja otsis seda sõna mõtleja teostest ega leidnud; Seda sõna ei mainitud kuskil. Ristkontroll hoidis ära valesti omistatud tsitaadi levitamise.
Väärinformatsiooni leviku ahel ja raamatukoguhoidja roll
Väärinformatsioon algab sageli ühest väljamõeldud väljundist, kuid see ei lõpe sellega. Kasutaja lisab ülesandesse võltsitud tehisintellekti loodud ressursi; ülesandest saab väljaanne; väljaannet tsiteerivad teised, nii et väljamõeldud allikas omandab korduva tsiteerimisega "tõe" ilme. Seda omistamist võib nimetada saastumiseks: valeinformatsioon saab õiguspärasuse, kui seda ikka ja jälle korratakse. Raamatukoguhoidja seisab selle ahela kõige kriitilisemas lülis; sest see on viimane kontrollpunkt, kus teavet kontrollitakse enne süsteemi sisenemist. See, et allikas "esineb paljudes kohtades", ei muuda seda tõeks; Üks ja sama võltsinfo võib üksteisest kopeerides ilmuda paljudes kohtades. Seetõttu peaks ristkinnituse aluseks olema küsimus "kui palju usaldusväärseid allikaid kinnitavad seda üksteisest sõltumatult", mitte "mitmes kohas see ilmub?" Kümme sama väidet kordavat teisest allikat ei ole sama väärt kui üks sõltumatu esmane allikas. Raamatukoguhoidja peaks asetama selle eristamise (mitte segi ajada sõltumatust kordamisega) nii enda kontrollimisel kui ka kasutajale õpetamisel.
Tähelepanu: teabe ilmumine otsingumootoris või paljudel veebilehtedel ei tõenda selle täpsust. Sama viga võis allikast allikasse kopeerimise teel levida. Levimus ja täpsus on erinevad asjad; Kinnitamiseks on vaja sõltumatut ja usaldusväärset allikat.
Neli kopeeritavat malli
1) Ressursi olemi päring:
Loetlege allolevas tekstis kõik allikaviited ja tsitaadid. Igaühe kohta: autor, pealkiri, aasta ja avaldamise teave (kui on). Pakkige ükshaaval välja teave, mida pean kontrollima; ära lisa.Tekst: [siin]
2) Kinnitavuse hindamine:
Eraldage iga järgmise väite puhul faktilised elemendid (kuupäev, nimi, number, tsitaat), mida tuleb kontrollida. Soovitage, mis tüüpi allika (kataloog, põhidokument, andmebaas) alusel saab seda kontrollida. Ärge hinnake täpsust, vaid näidake kinnitusteed. Väited: [siin]
3) Keevitamise töökindluse kontrollnimekiri:
Hinnake järgmise allika usaldusväärsust: kes selle kirjutas, millal, mis eesmärgil, kas on tõendeid, kas need on aktuaalsed, kas on võimalik kallutatus? Lihtsalt toetuge minu antud teabele, kirjutage "teadmata", kus see puudub. Allikateave: [siin]
4) Infokirjaoskuse õpetamise kava:
Koostage lühike 20-minutiline õpetus allika kontrollimise ja hallutsinatsioonide kohta tehisintellekti ajastul järgmisele kasutajarühmale (nt üliõpilased): eesmärgid, 3 näidet, 1 rakendus. Grupp: [siin]
Nõrk viip / Tugev viip
Nõrk viip:
Kirjutage sellel teemal usaldusväärsete allikatega kokkuvõte.
Ütlemine "usaldusväärsete allikatega" julgustab AI-d tootma võltsallikaid, mis näivad olevat tõelised; Valideerimiskonks puudub.
Võimas viip:
Sinu roll: infokirjaoskuse assistent. Kokkuvõtte KIRJUTAMINE järgmisel teemal; Selle asemel loetlege faktilised küsimused, mida kasutaja peab kontrollima, ja usaldusväärse allika tüüp, mille abil nad saavad neid kontrollida. Ärge tehke allikaviiteid; Märkige ala, milles te pole kindel, kui "peab olema kinnitatud". Teema: [siin]
Võimas viip; See kasutab tehisintellekti juhendina, mis näitab vastuste loomise asemel teed kontrollini, ja takistab struktuurselt valmistamist.
Autentimiskihtide tabel
kiht
küsimus
meetod
üksus
Kas see allikas on tõeline?
Kataloogi/andmebaaside otsing
ülimuslikkus
Kas see on lähim allikas?
Juurdepääs originaaldokumendile
Kinnitus
Kas mõni teine allikas kinnitab seda?
Sõltumatu ristkontroll
usaldusväärsus
Kui kindel on allikas?
Autor, kuupäev, eesmärk, tõendid
ausus
Kas ma olen kindel?
Riigi ebakindlus selgelt
Levinud vead
- Mõeldes, et see, mis on veenev, on tõsi. Hea väljanägemine ei ole tõend õiglusest.
- Olles rahul üheainsa allikaga. Kriitiline teave nõuab sõltumatut ristkinnitust.
- Ei otsi tsitaati selle allikast. Nii levivad valesti omistatud sõnad.
- Ebakindluse varjamine. "Kontrollimatu" on parem kui vale kindlus.
- Ei õpeta kasutajat autentima. Infokirjaoskus on raamatukoguhoidja missioon.
Kokkuvõttes
Allikate kontrollimine ja infokirjaoskus on AI ajastul raamatukogunduse kõige kriitilisemad ülesanded. Hallutsinatsioonid toodavad veenvat, kuid väljamõeldud teavet ja on eriti ohtlikud humanitaar-/sotsiaalteadustes. Distsipliin on selge: kontrollige iga allika olemasolu, minge esmasele allikale, viige läbi sõltumatu ristkontroll, seadke kahtluse alla allika usaldusväärsus ja väljendage ebakindlust ausalt. Raamatukoguhoidja levitab seda kontrollimise kultuuri mitte ainult oma praktikas, vaid ka kasutajaid õpetades; Originaalsus ja akadeemiline terviklikkus on selle missiooni lahutamatud osad.
Rakenduse ülesanne
Küsige oma valdkonna tehisintellektilt 6 allikat ja 2 tsitaati. Kontrollige iga allikat, otsides seda tegelikust kataloogist ja iga tsitaati autori tegelikus töös; Pange tähele, kui palju on väljamõeldisi. Seejärel koostage malli „Teabepädevuse õpetamise kava” abil 20-minutiline õpetus, et selgitada kasutajarühmale allika kinnitamist ja lisada tõelisi näiteid, mille ise leidsite.
kontrollnimekiri
- [ ] Olen sõltumatult kontrollinud, et iga allikas on tegelikult olemas.
- [ ] Olen võimalusel kasutanud esmaseid allikaid.
- [ ] Olen kriitilisi väiteid ristkontrollinud vähemalt kahe sõltumatu allikaga.
- [ ] Kontrollisin tsitaate, otsides neid autori tegelikust tööst.
- [ ] Märkisin kontrollimatu teabe selgelt "kontrollimatuks".