Fitimet:
- Të jesh në gjendje të dallosh se ku inteligjenca artificiale kursen kohë në rrjedhën e punës së bibliotekarisë (meta të dhënat, përmbledhja, kërkimi, sugjerimi) dhe ku saktësia, besueshmëria e burimit dhe vendimet e privatësisë u lihen njerëzve, në varësi të nivelit të rrezikut.
- Aftësia për të aplikuar një disiplinë që verifikon çdo dalje duke e lidhur atë me burimin, duke e konfirmuar atë në një burim të pavarur dhe duke e kaluar atë përmes një filtri paragjykim.
- Të kuptuarit se pse halucinacionet, burimet e fabrikuara dhe privatësia e përdoruesve janë rreziqe që duhet të merren parasysh në këtë profesion që në fillim.
Kur një specialist katalogimi ulet në tavolinën e tij në mëngjes, ai mund të ketë dhjetëra libra të sapoardhur, qindra dokumente nga një koleksion donacionesh dhe një kuti arkivi që pret të digjitalizohet. Një bibliotekar referencë (eksperti që ndihmon përdoruesit të gjejnë informacion) u përgjigjet pyetjeve gjatë ditës si "ku është burimi i besueshëm për këtë temë?" Një menaxher informacioni është përgjegjës për mbajtjen e mijëra dokumenteve të një organizate të zbulueshme dhe të besueshme. Në këtë njësi, ne do të sqarojmë se ku saktësisht inteligjenca artificiale (shkurtimisht AI; modele të mëdha gjuhësore dhe mjete të ngjashme) kursen kohë në këto detyra dhe ku gjykimi, zgjedhja dhe përgjegjësia mbeten tek njeriu.
Le të fillojmë me një përkufizim: inteligjencën artificiale, me të cilën nënkuptojmë mjete softuerike që gjenerojnë gjuhë dhe njohin modele të trajnuara në sasi të mëdha teksti. Këto mjete përmbledhin, përkthejnë, sugjerojnë klasifikimin, gjenerojnë draft tekst dhe shënjojnë modele në copa të mëdha të dhënash. Por nuk e di nëse ekziston vërtet një burim, nëse një informacion është i saktë, apo nëse privatësia e një përdoruesi është e mbrojtur. Kjo është arsyeja pse në bibliotekari dhe menaxhimin e informacionit, AI është një asistent, jo një vendimmarrës.
Ku funksionon dhe ku nuk funksionon inteligjenca artificiale?
Le ta ndajmë rrjedhën e punës së bibliotekarisë në tre shtresa. Shtresa e parë është detyra mekanike dhe përsëritëse: nxjerrja e draftit të meta të dhënave nga rreshti i një libri, përmbledhja e një raporti të gjatë, përkthimi i tekstit nga një gjuhë në tjetrën, pastrimi i një tabele të dhënash. AI është i fuqishëm këtu dhe kursen shumë kohë.
Shtresa e dytë është puna kuazi-juridike: çfarë titulli lënde duhet dhënë një dokument, nëse duhet përfshirë një burim në një koleksion, çfarë burimi t'i rekomandohet një përdoruesi. AI prodhon sugjerime këtu, por eksperti që njeh politikën e institucionit dhe nevojat reale të përdoruesit e ka fjalën e fundit.
Shtresa e tretë është gjykimi dhe llogaridhënia e pastër: konfirmimi që informacioni është i saktë, vendosja për të drejtën e autorit, nëse do të zbulohen të dhëna personale të ndjeshme, konfirmimi i besueshmërisë së një burimi. Në këtë shtresë, prodhimi i AI është vetëm një pikënisje; Përgjegjësia bie tërësisht tek njerëzit.
Këshillë: Përpara se t'i jepni një detyrë AI, pyesni veten: "Çfarë ndodh nëse kjo dalje është e gabuar?" Nëse përgjigja është "Unë do të humbas pak kohë", mos ngurroni të përdorni AI. Nëse përgjigja është "është përhapur një burim i rremë, një përdorues mashtrohet ose të dhënat personale kanë rrjedhur", sigurohuni që të verifikoni rezultatin.
Halucinacioni: rreziku më i madh i bibliotekarit
Halucinacioni është kur AI prodhon informacion, burim ose citim joekzistent sikur të ishte i vërtetë dhe në një gjuhë jashtëzakonisht bindëse. Kjo është veçanërisht e rrezikshme për bibliotekarinë dhe menaxhimin e informacionit; sepse thelbi i profesionit tonë është autenticiteti dhe besueshmëria e burimit.
Kur i thoni AI të "sugjerojë pesë punime akademike për këtë temë", ajo mund të gjenerojë tituj, autorë dhe emra revistash që duken realë, por që nuk ekzistojnë fare. Këto burime të fabrikuara janë aq bindëse sa një klient apo edhe një bibliotekar mund t'i shtojë ato në një bibliografi pa i verifikuar. Në shkencat humane dhe shoqërore, rreziku është edhe më i madh: kur "ai dokument i vitit 1897" fabrikohet për një historian ose "ai vendim gjykate" për një jurist, rezultati është një keqinformim i rëndë.
Kujdes: Asnjë citim i burimit, citat ose referencë të prodhuar nga AI nuk duhet të transferohet askund pa verifikim në një katalog të vërtetë, bazë të dhënash ose vetë burimin. Vetëm për shkak se "duket bindëse" nuk do të thotë se është e vërtetë.
Disiplina e verifikimit: tre hapa
Disiplina bazë që duhet të zbatojë bibliotekari kur punon me AI është kjo:
1. Lidhu me burimin. Çdo fakt, shifër, datë dhe gjurmë duhet të bazohet në një burim origjinal. Pyetni AI "më tregoni nga cili burim e keni marrë këtë informacion" dhe kontrolloni atë burim në mënyrë të pavarur.
2. Konfirmo në mënyrë të pavarur. Verifikoni informacionin kritik në të paktën një burim të besueshëm jashtë AI (katalog autentik, bazë të dhënash zyrtare, dokument primar).
3. Kaloni përmes filtrit të paragjykimit. AI mbart paragjykimet e të dhënave mbi të cilat është trajnuar. Një temë e sugjeruar, një listë sugjerimesh ose një përmbledhje mund të nxjerrë në pah disa këndvështrime dhe të errësojë të tjerat. Pyesni se kush është lënë jashtë, çfarë perspektive mungon.
Privatësia dhe privatësia e përdoruesit
Një nga parimet më themelore etike të profesionit të bibliotekarit është privatësia e përdoruesit: ajo që një person lexon, çfarë kërkon dhe çfarë teme ai interesohet janë konfidenciale. Futja e të dhënave në mjetet e AI, veçanërisht mjetet publike që funksionojnë në internet, që përfshijnë identitetin e përdoruesve, historinë e kërkimit ose burimet e huazuara mund të shkelë këtë parim; sepse këto të dhëna mund të shkojnë në sistemet e palëve të treta.
Po kështu, në një organizatë, dokumentet e paklasifikuara por të ndjeshme (informacionet e personelit, kontratat, korrespondenca e brendshme) nuk duhet të ngarkohen në një mjet të përgjithshëm të AI. Për këtë lloj të dhënash preferohen mjetet që funksionojnë në sistemin e sigurt dhe të mbyllur të institucionit.
Këshillë: Përpara se të futni ndonjë të dhënë në AI, pyesni "A është publik ky informacion?" pyesni. Nëse përgjigja është jo, ose nuk jeni të sigurt, vendosini ato të dhëna në një format të çpersonalizuar, anonim ose përdorni vetëm mjete të sigurta të miratuara nga institucioni.
tre mini kuti
Rasti 1 — Hartimi i meta të dhënave për 400 dokumente. Një bibliotekë universitare duhej të katalogonte një arkiv prej 400 dokumentesh të dhuruara nga një profesor. Eksperti nxori një draft titull, datë dhe sugjerim teme nga faqja e parë e çdo dokumenti me AI: koha mesatare për dokument u ul nga 12 minuta në 4 minuta. Por çdo projekt-printim u krahasua me dokumentin origjinal dhe u miratua nga eksperti; 17 data të pasakta të krijuara nga AI u kapën në këtë hap.
Rasti 2 - Burimi i rremë u kap. Një bibliotekar këshillues mori 6 sugjerime artikujsh nga YZ ndërsa kërkonte burime mbi "migrimin e klimës" për një student universitar. Bibliotekarja i kërkoi të gjitha në bazën e të dhënave të institucionit: 2 nga 6 artikuj nuk ekzistonin fare. Hapi i verifikimit e pengoi studentin t'i jepej një burim i sajuar.
Rasti 3 - Parandalimi i shkeljes së konfidencialitetit. Një bibliotekë shqyrtoi përdorimin e një mjeti të përgjithshëm të AI për të analizuar "cili përdorues është i interesuar për cilën temë" nga të dhënat e arkëtimit. Menaxheri i informacionit e kuptoi se do të ishte shkelje e privatësisë që këto të dhëna të dilnin me ID-në e përdoruesit; të dhënat fillimisht u anonimizuan dhe u përpunuan vetëm si statistika të grumbulluara dhe të çidentifikuara.
Katër shabllone të kopjueshëm
1) Filloni të përcaktoni rolet dhe kufijtë:
Roli juaj: asistent me përvojë në katalogimin dhe menaxhimin e informacionit. Detyra juaj: të krijoni një draft nga informacioni në burimin që ju dhashë. Rregullat: (1) Përdorni vetëm informacionin në tekstin që ju dhashë, mos shtoni informacionin tuaj. (2) Shënoni "[duhet të verifikohet]" aty ku nuk jeni të sigurt. (3) Mos bëni asnjë datë, emër ose gjurmë. Nëse e kuptoni, filloni. Burimi: [këtu]
2) Pyetja e kontrollit të vlefshmërisë:
Rendisni çdo pretendim faktik (data, emri, numri, citimi i burimit) në tekstin e mëposhtëm. Për secilin: ku në tekst e keni marrë këtë informacion? Nëse nuk është qartë në tekst, shkruani "jo në tekst". Teksti: [këtu]
3) Paragjykimi dhe kontrolli i munguar i perspektivës:
Cilat perspektiva nxjerr në pah përmbledhja/rekomandimi i mëposhtëm dhe cilat lë jashtë? Cilat grupe, rajone ose pamje mund të mungojnë? Mbështetuni vetëm në tekst, mos spekuloni. Teksti: [këtu]
4) Kontrolli paraprak i privatësisë:
A përmban teksti më poshtë të dhëna personale (emri, numri i ID-së, kontakti, historia e leximit/kërkimit) apo informacione të ndjeshme të korporatës? Nëse po, rendisni atë dhe sugjeroni se si mund të anonimizohet. Teksti: [këtu]
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
Më gjeni disa burime për këtë temë.
Kjo kërkesë fton AI të gjenerojë burime të rreme. Nuk ka role, kufij, rregulla vërtetimi dhe burime. AI mund të prodhojë etiketa të besueshme, por jo-ekzistente.
Njoftim i fuqishëm:
Roli juaj: ndihmës bibliotekari referues. Zgjidhni ato që lidhen me temën e "migrimit të klimës" nga hyrjet e katalogut që ju kam dhënë më poshtë dhe shpjegoni pse janë të rëndësishme. Mos shtoni asnjë burim që nuk është në listë, mos fabrikoni burime. Kur nuk jeni të sigurt, thoni "nuk ka burime të përshtatshme të listuara". Regjistrimet e katalogut: [këtu]
Dallimi është i qartë: një nxitje e fortë e detyron AI të punojë nga burimi i dhënë real, jo nga kujtesa e tij, dhe parandalon fabrikimin.
Tabela e shtresës dhe përgjegjësisë
shtresa e biznesit
mostër e detyrës
Roli i AI
vendimi i njeriut
mekanike
Draft metadata, përmbledhje, përkthim
Prodhon drafte shpejt
verifikim, miratim
kuazi-gjyqësore
Titulli i temës, sugjerimi i burimit
ofron sugjerime
Përzgjedhja sipas politikës
gjykim i pastër
Autentifikimi, vendimi për të drejtën e autorit
Vetëm informacione paraprake
Përgjegjësia e plotë i takon personit
Gabimet e zakonshme
- Zëvendësimi i daljes së AI me burimin. AI është një asistent, jo një burim; Çdo dalje është e vërtetuar.
- Pranimi i burimit të sajuar si bindës. Vetëm për shkak se duket mirë nuk do të thotë se është e drejtë.
- Futja e të dhënave personale/sensitive në veglën publike. Privatësia e përdoruesit dhe konfidencialiteti i korporatës respektohen që në fillim.
- Injorimi i paragjykimeve. AI mbart perspektivat e të dhënave mbi të cilat është trajnuar; Pyesni se çfarë mungon.
- Duke ia lënë gjykimin AI. Vendimet e saktësisë, të drejtës së autorit dhe privatësisë u përkasin njerëzve.
Në përmbledhje
inteligjencë artificiale; Është një asistent i fuqishëm për përmbledhjen, hartimin, përkthimin dhe shënjimin e modeleve në bibliotekari dhe menaxhimin e informacionit. Kursen shumë kohë në punën mekanike; jep këshilla për çështje kuazi-gjyqësore; Por verifikimi i saktësisë, besueshmërisë së burimit, privatësisë së përdoruesit dhe vendimeve etike i përkasin njerëzve. Halucinacioni është rreziku më i madh për këtë profesion: nuk përdoren kredite burimore apo citime pa verifikim. Drejtoni AI me role të qarta, kufij dhe rregulla të vlefshmërisë; Konfirmoni çdo dalje kritike me një burim të pavarur.
Detyra e aplikimit
Zgjidhni një temë të vërtetë nga fusha juaj. Kërkojini AI për 5 rekomandime burimesh për atë temë, më pas kërkoni secilën në një katalog ose bazë të dhënash aktuale dhe vini re se sa ekzistojnë në të vërtetë. Më pas, me shabllonin "Përcaktimi i roleve dhe kufijve të fillimit", thuajini AI të punojë vetëm nga një tekst që ju jepni dhe krahasoni rezultatet e dy qasjeve. Shkruani se cila qasje pengon përshtatjen.
listë kontrolli
- [ ] Përcaktova se në cilën shtresë (mekanike, gjysëm gjyqësore, gjykim i pastër) është detyra.
- [ ] "Çfarë ndodh nëse kjo dalje është e pasaktë?" E bëra pyetjen.
- [ ] Unë kam verifikuar çdo kredi dhe citim kundër një burimi të pavarur.
- [ ] Kam kontrolluar që nuk ka asnjë informacion personal/sensitive në të dhënat që hyjnë në AI.
- [ ] Vendimin dhe përgjegjësinë përfundimtare e mbajta sipas gjykimit tim.