Fitimet:
- Aftësia për të kapur halucinacionet duke verifikuar ekzistencën e secilit burim, duke shkuar te burimi parësor dhe hapat e pavarur të konfirmimit të kryqëzuar
- Aftësia për të ruajtur origjinalitetin dhe integritetin akademik kundrejt citimeve dhe dokumenteve të fabrikuara në shkencat humane dhe shoqërore
- Aftësia për t'u mësuar përdoruesve aftësitë e verifikimit të burimit dhe shkrim-leximit të informacionit në epokën e AI
Në zemër të misionit social të bibliotekarisë është një premtim i vetëm: informacion i besueshëm. Një bibliotekar e sjell përdoruesin jo vetëm tek informacioni, por edhe tek informacioni i verifikuar dhe i mëson atij se si ta vlerësojë vetë këtë informacion. Në epokën e inteligjencës artificiale, ky mision është bërë sa më i vështirë dhe më i rëndësishëm; sepse AI mund të prodhojë dezinformata në një mënyrë shumë bindëse. Në këtë njësi, ne do të trajtojmë njohjen e halucinacioneve, disiplinën e verifikimit të burimit dhe mësimdhënien e shkrim-leximit të informacionit në epokën e AI.
Le të përcaktojmë konceptet. Halucinacioni është kur AI prodhon informacione, burime, citate ose ngjarje që nuk ekzistojnë në të vërtetë sikur të ishin të vërteta. Verifikimi i burimit është konfirmimi se informacioni bazohet në një burim real, të besueshëm dhe parësor. Literaturë në informacion është aftësia e një personi për të gjetur informacion, për ta vlerësuar atë, për të vënë në dyshim besueshmërinë e tij dhe për ta përdorur atë në mënyrë etike. Kjo njësi synon që bibliotekari të forcojë këto aftësi si në praktikën e tij ashtu edhe në mësimdhënien e përdoruesit.
Hap pas hapi: disiplina e verifikimit të burimit
1. Kërkoni burimin dhe verifikoni ekzistencën e tij. Kur AI jep një pretendim ose citim, "nga cili burim është ky?" dhe kontrolloni nëse burimi ekziston në një katalog të pavarur, bazë të dhënash ose dokument primar.
2. Shkoni te burimi primar. Forma më e besueshme e informacionit është burimi i tij i dorës së parë. Mos u kënaq me një përmbledhje të AI ose një tekst dytësor; Nëse është e mundur, aksesoni dokumentin, të dhënat ose publikimin origjinal.
3. Ndër-konfirmo. Verifikoni një pretendim kritik me të paktën dy burime të besueshme, të pavarura nga njëra-tjetra. Një burim, veçanërisht burimi i AI, nuk është i mjaftueshëm.
4. Vlerësoni besueshmërinë e burimit. Kush e shkroi, kur, për çfarë qëllimi, mbi çfarë prove? A është i përditësuar? Ekzistenca e informacionit nuk e bën atë të vërtetë; Gjithashtu vini në dyshim natyrën e burimit.
5. Shprehni pasigurinë me ndershmëri. Nëse informacioni nuk mund të verifikohet, thuajeni qartë. Është gjithmonë më mirë të thuash "të pakonfirmuar" sesa të ofrosh një siguri të sajuar.
Këshillë: Kur merrni një citat ose burim nga AI, fillimisht kërkoni titullin dhe autorin në një katalog aktual. Burimet joekzistente shfaqen menjëherë këtu. Ky kontroll 30 sekonda parandalon hyrjen e një burimi të fabrikuar në një bibliografi, një detyrë ose një botim.
Autenticiteti dhe verifikimi në shkencat humane dhe shoqërore
Shkencat humane dhe sociale janë veçanërisht të ndjeshme ndaj rrezikut të halucinacioneve. Në këto fusha, provat shpesh bazohen në një dokument specifik, një datë, një citat ose burimin e një komenti. AI mund të prodhojë pretendime shumë specifike, por plotësisht të fabrikuara, të tilla si "ai tha historiani" ose "thotë ai dokument i vitit 1923". Në një vepër letrare, historie ose juridike, kjo do të thotë një zinxhir i rremë provash.
Për më tepër, origjinaliteti është vlera themelore e këtyre fushave: ka rëndësi kujt i përket vërtet një tekst, një interpretim apo një përkthim. Paraqitja e një teksti të prodhuar nga AI si një vepër origjinale ose mbështetja në një "burim" të krijuar nga AI cenon integritetin akademik. Bibliotekari është një udhërrëfyes që u mëson përdoruesve verifikimin dhe kufijtë e origjinalitetit dhe plagjiaturës.
Kujdes: Edhe në rastet kur një citim i krijuar nga AI duket fjalë për fjalë i saktë dhe i atribuohet një autori të vërtetë, ai citat mund të jetë i sajuar. Verifikoni një citat duke e gjetur atë vetëm në veprën aktuale të autorit; Nuk mjafton logjika se “ky autor mund të ketë thënë diçka të tillë”.
tre mini kuti
Rasti 1 — Studentit iu mësua verifikimi. Një bibliotekar pa 5 burime nga AI në detyrën e një studenti. Së bashku ata e kontrolluan atë në katalog: 2 burime u fabrikuan. Nxënësi e përjetoi vetë mësimin se "nuk është e drejtë të duket reale" dhe fitoi edhe një herë zakonin e verifikimit të çdo burimi.
Rasti 2 — Dokument historik i fabrikuar. Një studiues mori një "raport gazete 1919" nga AI; Data, emri i gazetës dhe përmbajtja ishin jashtëzakonisht bindëse. Bibliotekari skanoi arkivin e gazetës: nuk kishte asnjë lajm të tillë në atë kohë. Një burim parësor i fabrikuar u kap para se të bëhej një artikull.
Rasti 3 - Citim i keqpërcaktuar. AI ia atribuoi një citim një mendimtari të famshëm. Bibliotekari e kërkoi këtë fjalë në veprat e mendimtarit dhe nuk e gjeti dot; Fjala nuk u përmend askund. Kontrolli i kryqëzuar parandaloi shpërndarjen e një citimi të keqattribuar.
Zinxhiri i përhapjes së dezinformatave dhe roli i bibliotekarit
Keqinformimi shpesh fillon me një prodhim të vetëm të fabrikuar, por nuk ndalet me kaq. Një përdorues vendos një burim të rremë të krijuar nga AI në një detyrë; detyra bëhet botim; botimi citohet nga të tjerë, në mënyrë që një burim fiktiv të marrë pamjen e "të vërtetës" duke u cituar vazhdimisht. Këtë atribuim mund ta quajmë kontaminim: informacioni i rremë fiton legjitimitet duke u përsëritur vazhdimisht. Bibliotekari qëndron në hallkën më kritike të këtij zinxhiri; sepse është pika e fundit e kontrollit ku verifikohet informacioni para hyrjes në sistem. Vetëm për shkak se një burim "ndodh në shumë vende" nuk e bën atë të vërtetë; I njëjti informacion i rremë mund të shfaqet në shumë vende duke u kopjuar nga njëri-tjetri. Prandaj, konfirmimi i kryqëzuar duhet të bazohet në pyetjen "sa burime të besueshme e konfirmojnë atë në mënyrë të pavarur nga njëra-tjetra", jo "sa vende shfaqet?" Dhjetë burime dytësore që përsërisin të njëjtin pretendim nuk vlejnë aq sa një burim i vetëm parësor i pavarur. Bibliotekari duhet ta vendosë këtë dallim (duke mos ngatërruar pavarësinë me përsëritjen) në qendër të verifikimit të tij dhe të mësimdhënies së tij ndaj përdoruesit.
Kujdes: Shfaqja e informacionit në një motor kërkimi ose në shumë faqe interneti nuk është provë e saktësisë së tij. I njëjti gabim mund të jetë bërë i përhapur duke u kopjuar nga burimi në burim. Prevalenca dhe saktësia janë gjëra të ndryshme; Konfirmimi kërkon një burim të pavarur dhe të besueshëm.
Katër shabllone të kopjueshëm
1) Kërkesa për entitetin e burimit:
Rendisni çdo citim burimi dhe citim në tekstin më poshtë. Për secilin: autori, titulli, viti dhe informacioni i botimit (nëse ka). Nxjerr artikull pas artikull informacionin që më duhet të verifikoj; mos shtoni.Teksti: [këtu]
2) Vlerësimi i konfirmueshmërisë:
Për secilin nga pretendimet e mëposhtme, izoloni elementet faktike (datën, emrin, numrin, citat) që duhen verifikuar. Sugjeroni se me çfarë lloj burimi (katalog, dokument primar, bazë të dhënash) mund të verifikohet. Mos gjykoni saktësinë, thjesht tregoni rrugën e verifikimit. Pohimet: [këtu]
3) Lista kontrolluese e besueshmërisë së saldimit:
Vlerësoni besueshmërinë e burimit të mëposhtëm: kush e ka shkruar atë, kur, për çfarë qëllimi, ka prova, a është aktuale, a ka paragjykim të mundshëm? Mbështetuni vetëm në informacionin që kam dhënë, shkruani "e panjohur" ku mungon. Informacioni i burimit: [këtu]
4) Plani i mësimdhënies së shkrim-leximit informativ:
Krijoni një tutorial të shkurtër 20-minutësh mbi verifikimin e burimit dhe halucinacionet në moshën e AI për grupin e mëposhtëm të përdoruesve (p.sh. studentë të diplomuar): objektivat, 3 shembuj, 1 aplikim. Grupi: [këtu]
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
Shkruani një përmbledhje mbi këtë temë me burime të besueshme.
Thënia "me burime të besueshme" inkurajon AI të prodhojë burime të rreme që duken të vërteta; Nuk ka asnjë grep vërtetimi.
Njoftim i fuqishëm:
Roli juaj: asistent i edukimit informativ. SHKRIMI i një përmbledhjeje për temën e mëposhtme; Në vend të kësaj, renditni pyetjet faktike që një përdorues duhet të verifikojë dhe llojin e burimit të besueshëm me të cilin mund t'i verifikojë ato. Mos fabrikoni asnjë citim burimi; Shënoni zonën për të cilën nuk jeni të sigurt si "duhet verifikuar". Tema: [këtu]
Prompt i fuqishëm; Ai përdor AI si një udhëzues që tregon rrugën drejt verifikimit, në vend që të prodhojë përgjigje, dhe strukturisht parandalon fabrikimin.
Tabela e shtresave të vërtetimit
shtresë
Pyetje
Metoda
entitet
A është i vërtetë ky burim?
Kërkimi i katalogut/bazës së të dhënave
parësia
A është ky burimi më i afërt?
Qasja në dokumentin origjinal
Konfirmimi
A e konfirmon këtë një burim tjetër?
Kontroll i pavarur i kryqëzuar
besueshmëria
Sa i fortë është burimi?
Autori, data, qëllimi, dëshmia
ndershmëria
jam i sigurt?
Tregoni qartë pasigurinë
Gabimet e zakonshme
- Duke menduar se ajo që është bindëse është e vërtetë. Të dukesh bukur nuk është provë e drejtësisë.
- Të jesh i kënaqur me një burim të vetëm. Informacioni kritik kërkon një konfirmim të pavarur.
- Duke mos kërkuar për citatin në burimin e tij. Kështu u përhapën fjalët e keqpërdorura.
- Fshehja e pasigurisë. "E paverifikueshme" është më e mirë se siguria e rreme.
- Nuk e mëson përdoruesin të vërtetojë. Njohuria e informacionit është misioni i bibliotekarit.
Në përmbledhje
Verifikimi i burimit dhe njohja e informacionit janë detyrat më kritike të bibliotekarisë në epokën e AI. Halucinacioni prodhon informacion bindës, por të fabrikuar dhe është veçanërisht i rrezikshëm në shkencat humane/sociale. Disiplina është e qartë: verifikoni ekzistencën e secilit burim, shkoni te burimi parësor, bëni një kontroll të pavarur të kryqëzuar, vini në dyshim besueshmërinë e burimit dhe shprehni pasigurinë me ndershmëri. Bibliotekari e përhap këtë kulturë verifikimi jo vetëm në praktikën e tij ose të saj, por edhe duke i mësuar përdoruesit; Origjinaliteti dhe integriteti akademik janë pjesë përbërëse e këtij misioni.
Detyra e aplikimit
Kërkoni 6 burime dhe 2 citate nga AI në fushën tuaj. Verifikoni çdo burim duke e kërkuar atë në një katalog aktual dhe çdo citim në veprën aktuale të autorit; Vini re se sa janë trillime. Më pas, duke përdorur shabllonin "Plani i mësimdhënies së shkrim-leximit informativ", hartoni një tutorial 20-minutësh për të shpjeguar verifikimin e burimit te një grup përdoruesish dhe përfshini shembuj realë që keni gjetur vetë.
listë kontrolli
- [ ] Unë kam verifikuar në mënyrë të pavarur se çdo burim ekziston në të vërtetë.
- [ ] Unë kam përdorur burime parësore kudo që është e mundur.
- [ ] Unë kam kontrolluar pretendimet kritike me të paktën dy burime të pavarura.
- [ ] I verifikova citatet duke i kërkuar në veprën aktuale të autorit.
- [ ] Unë e shënova qartë informacionin e paverifikueshëm si "të paverifikueshëm".