Câștiguri:
- A fi capabil să distingă unde inteligența artificială economisește timp în fluxul de lucru al biblioteconomiei (metadate, rezumat, căutare, sugestie) și unde acuratețea, fiabilitatea sursei și deciziile de confidențialitate sunt lăsate la latitudinea oamenilor, în funcție de nivelul de risc.
- Abilitatea de a aplica o disciplină care verifică fiecare ieșire legând-o la sursă, confirmând-o într-o sursă independentă și trecând-o printr-un filtru de părtinire.
- Înțelegerea de ce halucinațiile, sursele fabricate și confidențialitatea utilizatorului sunt riscuri care trebuie luate în considerare în această profesie încă de la început.
Când un specialist în catalogare se așează dimineața la biroul său, el poate avea zeci de cărți nou sosite, sute de documente dintr-o colecție de donații și o cutie de arhivă care așteaptă să fie digitalizate. Un bibliotecar de referință (expertul care ajută utilizatorii să găsească informații) răspunde la întrebări pe tot parcursul zilei, cum ar fi „unde este sursa de încredere pe acest subiect?” Un manager de informații este responsabil pentru menținerea miilor de documente ale unei organizații vizibile și de încredere. În această unitate, vom clarifica unde exact inteligența artificială (AI pe scurt; modele de limbaj mari și instrumente similare) economisește timp în aceste sarcini și unde judecata, alegerea și responsabilitatea rămân la om.
Să începem cu o definiție: inteligența artificială, prin care ne referim la instrumente software de generare a limbajului și de recunoaștere a modelelor antrenate pe cantități mari de text. Aceste instrumente rezumă, traduc, sugerează clasificare, generează text nefinalizat și semnalează modele în bucăți mari de date. Dar nu știe dacă o sursă există cu adevărat, dacă o informație este corectă sau dacă confidențialitatea unui utilizator este protejată. De aceea, în biblioteconomie și managementul informațiilor, AI este un asistent, nu un factor de decizie.
Unde funcționează inteligența artificială și unde nu funcționează?
Să împărțim fluxul de lucru al biblioteconomiei în trei straturi. Primul strat este reprezentat de sarcini mecanice și repetitive: extragerea metadatelor nefinalizate de pe linia unei cărți, rezumarea unui raport lung, traducerea textului dintr-o limbă în alta, curățarea unui tabel de date. AI este puternic aici și economisește mult timp.
Al doilea strat este munca cvasi-judiciară: ce titlu de subiect să dea unui document, dacă să includă o resursă într-o colecție, ce resursă să recomande unui utilizator. AI produce aici sugestii, dar expertul care cunoaște politica instituției și nevoile reale ale utilizatorului are ultimul cuvânt.
Al treilea strat este pură judecată și responsabilitate: confirmarea faptului că informațiile sunt corecte, decizia privind drepturile de autor, dezvăluirea datelor personale sensibile, confirmarea fiabilității unei surse. La acest nivel, ieșirea AI este doar un punct de plecare; Responsabilitatea revine în întregime oamenilor.
Sfat: înainte de a da o sarcină AI, întreabă-te: „Ce se întâmplă dacă această ieșire este greșită?” Dacă răspunsul este „Voi pierde ceva timp”, nu ezitați să utilizați AI. Dacă răspunsul este „o sursă falsă este răspândită, un utilizator este indus în eroare sau date cu caracter personal sunt scurse”, asigurați-vă că verificați rezultatul.
Halucinația: cel mai mare pericol al bibliotecarului
Halucinația este atunci când AI produce informații, sursă sau citare inexistente ca și cum ar fi reale și într-un limbaj extrem de convingător. Acest lucru este deosebit de periculos pentru biblioteconomie și managementul informației; deoarece esența profesiei noastre este autenticitatea și fiabilitatea sursei.
Când îi spui AI „să sugereze cinci lucrări academice pe acest subiect”, acesta poate genera titluri, autori și nume de reviste care par reale, dar care nu există deloc. Aceste surse fabricate sunt atât de convingătoare încât un patron sau chiar un bibliotecar le poate adăuga la o bibliografie fără a le verifica. În științe umaniste și sociale, pericolul este și mai mare: atunci când „acel document din 1897” este fabricat pentru un istoric sau „acea decizie judecătorească” pentru un jurist, rezultatul este o dezinformare gravă.
Atenție: Nicio sursă citată, citată sau referință produsă de AI nu trebuie transferată oriunde fără verificare într-un catalog real, bază de date sau sursa în sine. Doar pentru că „pare convingător” nu înseamnă că este adevărat.
Disciplina de verificare: trei etape
Disciplina de bază pe care bibliotecarul trebuie să o aplice atunci când lucrează cu AI este aceasta:
1. Conectați-vă la sursă. Fiecare fapt, figură, dată și amprentă trebuie să se bazeze pe o sursă originală. Întrebați AI „spuneți-mi de la ce sursă ați obținut aceste informații” și verificați acea sursă independent.
2. Confirmați în mod independent. Verificați informațiile critice în cel puțin o sursă de încredere din afara AI (catalog autentic, bază de date oficială, document primar).
3. Treceți-l prin filtrul de polarizare. AI poartă prejudecățile datelor pe care este antrenat. Un subiect sugerat, o listă de sugestii sau un rezumat pot evidenția anumite puncte de vedere și ascunde altele. Întrebați cine este lăsat afară, ce perspectivă lipsește.
Confidențialitate și confidențialitate a utilizatorului
Unul dintre cele mai fundamentale principii etice ale profesiei de bibliotecar este confidențialitatea utilizatorului: ceea ce citește o persoană, ceea ce caută și subiectul de care este interesat sunt confidențiale. Introducerea de date în instrumentele AI, în special instrumentele publice care funcționează pe internet, care includ identitățile utilizatorilor, istoricul căutărilor sau resursele împrumutate poate încălca acest principiu; deoarece aceste date pot ajunge la sisteme terțe.
De asemenea, într-o organizație, documentele neclasificate, dar sensibile (informații despre personal, contracte, corespondență internă) nu ar trebui să fie încărcate într-un instrument AI general. Instrumentele care rulează pe propriul sistem securizat, închis al instituției sunt preferate pentru acest tip de date.
Sfat: înainte de a introduce date în AI, întreabă „Este această informație publică?” intreaba. Dacă răspunsul este nu, sau nu sunteți sigur, puneți acele date într-un format anonim, depersonalizat sau utilizați numai instrumente securizate aprobate de instituție.
trei mini cutii
Cazul 1 — Schiță de metadate pentru 400 de documente. O bibliotecă universitară a trebuit să catalogeze o arhivă de 400 de documente donate de un profesor. Expertul a extras o schiță de titlu, dată și sugestie de subiect de pe prima pagină a fiecărui document cu AI: timpul mediu per document a scăzut de la 12 minute la 4 minute. Dar fiecare proiect de amprentă a fost comparat cu documentul original și aprobat de expert; 17 date incorecte inventate de AI au fost prinse în acest pas.
Cazul 2 – Sursă falsă prinsă. Un bibliotecar consultativ a primit 6 sugestii de articole de la YZ în timp ce căuta resurse despre „migrația climatică” pentru un student de licență. Bibliotecarul le-a căutat pe toate în baza de date a instituției: 2 din 6 articole nu existau deloc. Etapa de verificare a împiedicat studentului să i se ofere o sursă fabricată.
Cazul 3 – Încălcarea confidențialității a fost prevenită. O bibliotecă a luat în considerare utilizarea unui instrument general AI pentru a analiza „ce utilizator este interesat de ce subiect” din înregistrările de plată. Managerul de informații și-a dat seama că ar fi o încălcare a confidențialității ca aceste date să iasă cu ID-ul de utilizator; datele au fost mai întâi anonimizate și prelucrate exclusiv ca statistici agregate, de-identificate.
Patru șabloane copiabile
1) Începeți să definiți rolurile și limitele:
Rolul dumneavoastră: asistent cu experiență, specialist în catalogarea și managementul informațiilor. Sarcina ta: să produci o schiță din informațiile din sursa pe care ți-am dat-o. Reguli: (1) Folosiți doar informațiile din textul pe care vi l-am dat, nu adăugați propriile informații. (2) Marcați „[trebuie verificat]” acolo unde nu sunteți sigur. (3) Nu creați date, nume sau amprente. Dacă înțelegi, începe. Sursa: [aici]
2) Întrebare de verificare de validare:
Enumerați fiecare afirmație faptică (data, nume, număr, citarea sursei) în textul de mai jos. Pentru fiecare: de unde din text ați obținut aceste informații? Dacă nu este clar în text, scrieți „nu în text”. Text: [aici]
3) Prejudecăți și verificarea lipsei perspectivei:
Ce perspective evidențiază următorul rezumat/recomandare și pe care o omite? Ce grupuri, regiuni sau vizualizări ar putea lipsi? Bazează-te pe text, nu specula. Text: [aici]
4) Verificare prealabilă a confidențialității:
Textul de mai jos conține date personale (nume, număr ID, contact, istoric de citire/căutări) sau informații sensibile ale companiei? Dacă da, enumerați-l și sugerați cum poate fi anonimizat. Text: [aici]
Prompt slab / Prompt puternic
Prompt slab:
Găsiți-mi câteva resurse pe acest subiect.
Acest prompt invită AI să genereze resurse false. Nu există roluri, limite, reguli de validare și resurse. AI poate produce etichete credibile, dar inexistente.
Solicitare puternică:
Rolul dumneavoastră: asistent bibliotecar de referință. Alegeți-le pe cele legate de subiectul „migrația climatică” din intrările de catalog pe care vi le-am oferit mai jos și explicați de ce sunt relevante. Nu adăugați surse care nu sunt pe listă, nu fabricați surse. Când nu sunteți sigur, spuneți „nu sunt enumerate surse adecvate”. Intrări în catalog: [aici]
Diferența este clară: promptul puternic obligă AI să funcționeze din sursa reală dată, nu din propria sa memorie și împiedică fabricarea.
Strat și tabel de responsabilitate
stratul de afaceri
eșantion de sarcină
Rolul AI
decizia omului
mecanice
Schiță de metadate, rezumat, traducere
Produce schițe rapid
verificare, aprobare
cvasi-judiciare
Titlul subiectului, sugestie de sursă
oferă sugestii
Selectare după politică
judecată pură
Autentificare, decizie privind drepturile de autor
Doar informații preliminare
Responsabilitatea deplină revine persoanei
Greșeli comune
- Înlocuirea ieșirii AI cu sursa. AI este un asistent, nu o resursă; Fiecare ieșire este validată.
- Acceptând sursa fabricată ca fiind convingătoare. Doar pentru că arată bine nu înseamnă că este corect.
- Introducerea datelor personale/sensibile în instrumentul public. Confidențialitatea utilizatorilor și confidențialitatea corporativă sunt respectate încă de la început.
- Ignorarea prejudecăților. AI poartă perspectivele datelor pe care este antrenat; Întreabă ce lipsește.
- Lăsând judecata în seama AI. Deciziile privind acuratețea, drepturile de autor și confidențialitatea aparțin oamenilor.
Pe scurt
inteligența artificială; Este un asistent puternic pentru rezumarea, redactarea, traducerea și marcarea modelelor în biblioteconomie și managementul informațiilor. Economisește mult timp în lucrările mecanice; oferă consultanță în chestiuni cvasi-judiciare; Dar verificarea acurateței, fiabilitatea sursei, confidențialitatea utilizatorilor și deciziile etice aparțin oamenilor. Halucinația este cel mai mare pericol pentru această profesie: nu se utilizează nicio sursă de credite sau citate fără verificare. Rulați AI cu reguli clare de rol, limite și validare; Confirmați fiecare ieșire critică cu o sursă independentă.
Sarcina de aplicare
Alegeți un subiect real din domeniul dvs. Cereți AI pentru 5 recomandări de resurse pe acest subiect, apoi căutați fiecare într-un catalog sau o bază de date reală și notați câte există de fapt. Apoi, cu șablonul „Definirea rolurilor și limitelor de pornire”, spuneți IA să lucreze numai dintr-un text pe care îl furnizați și comparați rezultatul celor două abordări. Scrieți care abordare împiedică potrivirea.
lista de verificare
- [ ] Am stabilit la ce nivel (mecanic, semi-judiciar, judecată pură) se află sarcina.
- [ ] "Ce se întâmplă dacă această ieșire este incorectă?" am pus intrebarea.
- [ ] Am verificat fiecare credit și citare față de o sursă independentă.
- [ ] Am verificat că nu există informații personale/sensibile în datele care intră în AI.
- [ ] Am păstrat decizia finală și responsabilitatea la discreția mea.