Pelnas:
- Gebėjimas užfiksuoti haliucinacijas tikrinant kiekvieno šaltinio egzistavimą, einant į pirminį šaltinį ir nepriklausomus kryžminio patvirtinimo veiksmus
- Gebėjimas išlaikyti originalumą ir akademinį vientisumą prieš sufabrikuotas humanitarinių ir socialinių mokslų citatas ir dokumentus
- Gebėjimas mokyti vartotojus šaltinio tikrinimo ir informacinio raštingumo įgūdžių dirbtinio intelekto amžiuje
Bibliotekininkystės socialinės misijos esmė yra vienas pažadas: patikima informacija. Bibliotekininkas atveda vartotoją ne tik prie informacijos, bet ir prie patikrintos informacijos, moko jį patį įvertinti šią informaciją. Dirbtinio intelekto amžiuje ši misija tapo ir sunkesnė, ir svarbesnė; nes AI gali labai įtikinamai pateikti klaidingą informaciją. Šiame skyriuje apžvelgsime haliucinacijų atpažinimą, šaltinio tikrinimo discipliną ir informacinio raštingumo mokymą dirbtinio intelekto amžiuje.
Apibrėžkime sąvokas. Haliucinacijos yra tada, kai dirbtinis intelektas sukuria informaciją, šaltinius, citatas ar įvykius, kurie iš tikrųjų neegzistuoja, tarsi jie būtų tikri. Šaltinio patikrinimas – tai patvirtinimas, kad informacija yra pagrįsta tikru, patikimu ir pirminiu šaltiniu. Informacinis raštingumas – tai žmogaus gebėjimas rasti informaciją, ją įvertinti, suabejoti jos patikimumu ir etiškai ją panaudoti. Šiuo skyriumi siekiama, kad bibliotekininkas šiuos įgūdžius sustiprintų tiek savo praktikoje, tiek mokydamas vartotoją.
Žingsnis po žingsnio: šaltinio tikrinimo disciplina
1. Pateikite užklausą dėl šaltinio ir patikrinkite, ar jis yra. Kai AI pateikia teiginį ar citatą, „iš kokio šaltinio tai yra? ir patikrinkite, ar šaltinis iš tikrųjų yra nepriklausomame kataloge, duomenų bazėje arba pirminiame dokumente.
2. Eikite į pirminį šaltinį. Patikimiausia informacijos forma yra jos šaltinis iš pirmų lūpų. Nepatenkinkite dirbtinio intelekto santrauka ar antriniu tekstu; Jei įmanoma, pasiekite originalų dokumentą, duomenis ar leidinį.
3. Kryžminis patvirtinimas. Patikrinkite kritinį teiginį bent dviem patikimais šaltiniais, nepriklausomais vienas nuo kito. Vieno resurso, ypač AI išteklių, neužtenka.
4. Įvertinkite šaltinio patikimumą. Kas tai parašė, kada, kokiu tikslu, kokiais įrodymais? Ar ji atnaujinta? Informacijos egzistavimas nepadaro jos tiesa; Taip pat abejokite šaltinio prigimtimi.
5. Sąžiningai išsakykite netikrumą. Jei informacijos negalima patikrinti, pasakykite tai aiškiai. Visada geriau pasakyti „nepatvirtinta“, nei pasiūlyti išgalvotą tikrumą.
Patarimas: kai gaunate citatą ar šaltinį iš AI, pirmiausia ieškokite pavadinimo ir autoriaus tikrame kataloge. Čia iš karto atsiranda neegzistuojantys ištekliai. Šis 30 sekundžių patikrinimas neleidžia išgalvotam šaltiniui patekti į bibliografiją, užduotį ar publikaciją.
Autentiškumas ir patikrinimas humanitariniuose ir socialiniuose moksluose
Humanitariniai ir socialiniai mokslai yra ypač pažeidžiami haliucinacijų rizikos. Šiose srityse įrodymai dažnai grindžiami konkrečiu dokumentu, data, citata arba komentaro šaltiniu. AI gali pateikti labai konkrečius, bet visiškai išgalvotus teiginius, pavyzdžiui, „tas istorikas pasakė“ arba „tas 1923 m. dokumentas sako“. Literatūros, istorijos ar teisės kūrinyje tai reiškia klaidingą įrodymų grandinę.
Be to, originalumas yra pagrindinė šių sričių vertybė: svarbu, kam iš tikrųjų priklauso tekstas, interpretacija ar vertimas. Dirbtinio intelekto sukurto teksto pateikimas kaip originalus darbas arba pasikliaujant dirbtinio intelekto „šaltiniu“, pažeidžiamas akademinis vientisumas. Bibliotekininkas yra vadovas, mokantis vartotojus ir tikrinimo, ir originalumo bei plagiato ribų.
Atsargiai: net tais atvejais, kai dirbtinio intelekto sukurta citata atrodo tiksliai ir yra priskiriama tikram autoriui, ta citata gali būti išgalvota. Patikrinkite citatą surasdami ją tik faktiniame autoriaus darbe; Logikos „šis autorius galėjo pasakyti kažką panašaus“ nepakanka.
trys mini dėklai
1 atvejis – mokinys buvo mokomas tikrinti. Bibliotekininkas mokinio užduotyje pamatė 5 AI išteklius. Kartu patikrino kataloge: sufabrikuoti 2 šaltiniai. Mokinys iš pirmų lūpų patyrė pamoką, kad „netinka, kad ji atrodytų tikra“, ir vėl įgijo įprotį tikrinti kiekvieną šaltinį.
2 atvejis. Sugalvotas istorinis dokumentas. Tyrėjas gavo „1919 m. laikraščio pranešimą“ iš AI; Data, laikraščio pavadinimas ir turinys buvo itin įtikinami. Bibliotekininkė skenavo laikraščio archyvą: tuomet tokios naujienos nebuvo. Sugalvotas pirminis šaltinis buvo pagautas dar net nepadarius jo gaminio.
3 atvejis – neteisingai nurodyta citata. AI priskyrė citatą garsiam mąstytojui. Bibliotekininkė ieškojo šio žodžio mąstytojo darbuose ir nerado; Žodis niekur nebuvo paminėtas. Kryžminis patikrinimas neleido paskleisti klaidingai priskirtos citatos.
Dezinformacijos plitimo grandinė ir bibliotekininko vaidmuo
Dezinformacija dažnai prasideda nuo vienos išgalvotos išvesties, bet tuo nesibaigia. Naudotojas į užduotį įdeda netikrą AI sukurtą išteklį; užduotis tampa leidiniu; publikaciją cituoja kiti, todėl fiktyvus šaltinis įgauna „tiesos“ regimybę pakartotinai cituodamas. Šį priskyrimą galime pavadinti užteršimu: klaidinga informacija įgyja teisėtumą, kai kartojama vėl ir vėl. Bibliotekininkas yra svarbiausioje šios grandinės grandyje; nes tai paskutinis valdymo taškas, kuriame informacija patikrinama prieš įeinant į sistemą. Vien todėl, kad šaltinis „atsiranda daug kur“, dar nereiškia, kad tai tiesa; Ta pati suklastota informacija gali atsirasti daugelyje vietų, kopijuojant viena nuo kitos. Todėl kryžminis patvirtinimas turėtų būti grindžiamas klausimu "kiek patikimų šaltinių tai patvirtina nepriklausomai vienas nuo kito", o ne "kiek vietų tai pasirodo?" Dešimt antrinių šaltinių, kartojančių tą patį teiginį, nėra tiek verti, kiek vienas nepriklausomas pirminis šaltinis. Bibliotekininkas turėtų skirti šį skirtumą (nepainiodamas nepriklausomybės su kartojimu) tiek savo patikrinimo, tiek mokymo vartotojui centre.
Dėmesio: informacijos atsiradimas paieškos sistemoje arba daugelyje tinklalapių nėra jos tikslumo įrodymas. Ta pati klaida galėjo išplisti, nes buvo nukopijuota iš šaltinio į šaltinį. Paplitimas ir tikslumas yra skirtingi dalykai; Patvirtinimui reikalingas nepriklausomas ir patikimas šaltinis.
Keturi kopijuojami šablonai
1) Išteklių objekto užklausa:
Žemiau esančiame tekste išvardykite visas šaltinio citatas ir citatas. Kiekvienam: autorius, pavadinimas, metai ir publikacijos informacija (jei yra). Išskirkite informaciją, kurią turiu patikrinti; nepridėkite.Tekstas: [čia]
2) Patvirtinimo įvertinimas:
Išskirkite kiekvieno iš šių teiginių faktinius elementus (datą, pavadinimą, numerį, citatą), kuriuos reikia patikrinti. Pasiūlykite, kokio tipo šaltinį (katalogas, pirminis dokumentas, duomenų bazė) galima patikrinti. Nesmerkite tikslumo, tiesiog parodykite patvirtinimo kelią. Teiginiai: [čia]
3) Suvirinimo patikimumo kontrolinis sąrašas:
Įvertinkite šio šaltinio patikimumą: kas jį parašė, kada, kokiu tikslu, ar yra įrodymų, ar jie aktualūs, ar galimas šališkumas? Tiesiog pasikliaukite mano pateikta informacija, parašykite „nežinoma“, kur jos trūksta. Informacijos šaltinis: [čia]
4) Informacinio raštingumo mokymo planas:
Sukurkite trumpą 20 minučių pamoką apie šaltinio patikrinimą ir haliucinacijas dirbtinio intelekto amžiuje šiai vartotojų grupei (pvz., bakalaurams): tikslai, 3 pavyzdžiai, 1 programa. Grupė: [čia]
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Parašykite santrauką šia tema su patikimais šaltiniais.
Sakymas „su patikimais šaltiniais“ skatina AI kurti netikrus šaltinius, kurie atrodo tikri; Patvirtinimo kabliuko nėra.
Galingas raginimas:
Jūsų vaidmuo: informacinio raštingumo asistentas. RAŠYTI santrauką šia tema; Vietoj to nurodykite faktinius klausimus, kuriuos vartotojas turi patikrinti, ir patikimo šaltinio tipą, pagal kurį jie gali juos patikrinti. Nekurkite šaltinių citatų; Pažymėkite sritį, dėl kurios nesate tikri, kaip „būtina patikrinti“. Tema: [čia]
Galingas raginimas; Jis naudoja dirbtinį intelektą kaip vadovą, kuris parodo kelią į patikrinimą, o ne pateikia atsakymus, ir struktūriškai neleidžia gaminti.
Autentifikavimo sluoksnių lentelė
sluoksnis
Klausimas
Metodas
subjektas
Ar šis šaltinis tikras?
Katalogo/duomenų bazės paieška
pirmenybę
Ar tai artimiausias šaltinis?
Prieiga prie originalaus dokumento
Patvirtinimas
Ar tai patvirtina kitas šaltinis?
Nepriklausomas kryžminis patikrinimas
patikimumas
Kiek tvirtas šaltinis?
Autorius, data, tikslas, įrodymai
sąžiningumas
Ar aš tikras?
Valstybės neapibrėžtumas aiškiai
Dažnos klaidos
- Galvoti, kad tai, kas įtikina, yra tiesa. Gerai atrodyti nėra teisumo įrodymas.
- Pasitenkinimas vienu šaltiniu. Kritinė informacija reikalauja nepriklausomo kryžminio patvirtinimo.
- Citatos neieškoma jos šaltinyje. Taip pasklinda neteisingai priskirti žodžiai.
- Nežinomybės slėpimas. „Nepatikrinamas“ yra geriau nei klaidingas tikrumas.
- Nemokant vartotojo autentifikuoti. Informacinis raštingumas yra bibliotekininko misija.
Apibendrinant
Šaltinio tikrinimas ir informacinis raštingumas yra svarbiausi bibliotekininkystės uždaviniai AI amžiuje. Haliucinacijos sukuria įtikinamą, bet išgalvotą informaciją ir yra ypač pavojingos humanitariniuose / socialiniuose moksluose. Drausmė aiški: patikrinkite kiekvieno šaltinio egzistavimą, eikite į pirminį šaltinį, atlikite nepriklausomą kryžminį patikrinimą, suabejokite šaltinio patikimumu ir sąžiningai išsakykite netikrumą. Šią patikrinimo kultūrą bibliotekininkas skleidžia ne tik savo praktikoje, bet ir mokydamas vartotojus; Originalumas ir akademinis sąžiningumas yra neatsiejami nuo šios misijos.
Taikymo užduotis
Paprašykite 6 šaltinių ir 2 citatų iš savo srities AI. Patikrinkite kiekvieną šaltinį ieškodami jo tikrame kataloge ir kiekvieną citatą faktiniame autoriaus darbe; Atkreipkite dėmesį, kiek yra prasimanymų. Tada naudodami šabloną „Informacinio raštingumo mokymo planas“ parengkite 20 minučių trukmės mokymo programą, kad paaiškintumėte naudotojų grupei šaltinio patikrinimą ir įtrauktumėte tikrų pavyzdžių, kuriuos radote patys.
kontrolinis sąrašas
- [ ] Nepriklausomai patikrinau, ar kiekvienas šaltinis iš tikrųjų egzistuoja.
- [ ] Kai tik įmanoma, naudojau pirminius šaltinius.
- [ ] Sutikrinau kritinius teiginius bent iš dviejų nepriklausomų šaltinių.
- [ ] Patikrinau citatas, ieškodamas jų tikroje autoriaus kūryboje.
- [ ] Nepatikrinamą informaciją aiškiai pažymėjau kaip „nepatikrinama“.