Câștiguri:
- Abilitatea de a face distincția între abordările de recomandare bazate pe conținut și cele colaborative și de a preveni sursele false prin verificarea fiecărei recomandări din colecția reală
- Abilitatea de a sparge balonul de filtru cu diversitate conștientă și de a prezenta sugestii cu justificări transparente
- Protejarea confidențialității citirii utilizatorilor și a istoricului căutărilor și procesarea acestor date în siguranță
Un cititor ar putea întreba „Am terminat această carte, ce ar trebui să citesc în continuare?” ', un bibliotecar bun recomandă resurse adecvate interesului, nivelului și scopului său. În lumea digitală, sistemele de recomandare fac acest lucru la scară: recomandă noi resurse analizând interesul trecut al utilizatorului sau caracteristicile unei resurse. În această unitate, veți învăța cum funcționează sistemele de recomandare bazate pe inteligența artificială, ce aduc ele bibliotecii și cum să gestionați riscuri precum confidențialitatea, părtinirea și „bulele de filtrare”.
Să definim conceptele. Recomandarea bazată pe conținut analizează caracteristicile unei surse (temă, autor, gen) și recomandă surse similare: „Dacă ți-a plăcut această carte de istorie, s-ar putea să îți placă și aceasta, care acoperă aceeași perioadă”. Filtrarea colaborativă funcționează pe principiul „alți utilizatori cărora le-au plăcut resurse precum ți-au plăcut și acestea”. O bule de filtru este atunci când un sistem de recomandare blochează utilizatorul în conținut similar constant și îl ține departe de perspective noi, diferite. O recomandare bună de bibliotecă captează atât interesul, cât și sparge balonul.
Pas cu pas: o abordare de consiliere responsabilă
1. Clarificați scopul. Ce vizează propunerea? Doriți ca utilizatorul să continue să citească, să-și lărgească orizonturile sau să găsească resurse pentru o anumită întrebare de cercetare? Scopul determină tipul de recomandare.
2. Verificați sursa și autenticitatea. AI poate inventa cărți inexistente atunci când fac sugestii. Verificați dacă fiecare resursă sugerată există într-adevăr în colecție sau într-un catalog de încredere.
3. Menține diversitatea. Recomandând doar cel „cel mai asemănător” se creează un balon de filtru. Includeți în mod conștient diferite perspective, diferiți autori și diferite niveluri. Sarcina bibliotecii este să deschidă orizonturi, nu să le limiteze la ecologie.
4. Protejați confidențialitatea. Recomandarea personalizată utilizează istoricul de citire al utilizatorului și este extrem de precisă. Nu furnizați aceste date instrumentelor AI generale; Se procesează numai în cadrul sistemelor securizate ale instituției, cu acordul utilizatorului.
5. Fii transparent. Explicați utilizatorului de ce a fost făcută recomandarea: „Această resursă a fost recomandată deoarece are legătură cu subiectul care vă interesează”. Transparența întărește încrederea și alfabetizarea informațională.
Sfat: adăugați în mod conștient o resursă „puțin diferită” la o listă de sugestii și declarați: „Aceste sunt aproape de zona dvs. de interes; am adăugat-o pe aceasta ca o reîmprospătare.” Acest lucru sparge balonul de filtru și demonstrează valoarea de descoperire a bibliotecii.
Dimensiunea etică a propunerii
Sistemele de recomandare par inocente, dar creează efecte puternice. Ce resurse sunt recomandate unui utilizator îi modelează lumea informațională. Dacă sistemul evidențiază doar sursele care sunt populare sau doar dintr-un anumit punct de vedere, vocile minoritare, opiniile diferite și sursele valoroase mai puțin cunoscute vor fi invizibile. AI poate consolida această tendință moștenind popularitatea și părtinirile din datele de antrenament.
Aici intervine valoarea biblioteconomiei: biblioteca nu este un motor comercial de recomandare; Misiunea sa este de a asigura accesul egal și divers la informații. Este responsabilitatea bibliotecarului să alinieze sistemul de recomandare cu această valoare.
Atenție: istoricul de citire și căutare al utilizatorului este una dintre cele mai sensibile date de confidențialitate. Ceea ce o persoană citește poate dezvălui informații despre sănătatea sa, opiniile politice, convingerile sau criza personală. Nu transferați niciodată aceste date cu identitatea lor către sisteme externe; Anonimizarea și consimțământul sunt esențiale.
trei mini cutii
Cazul 1 — Recomandarea bazată pe conținut a funcționat. O bibliotecă școlară a folosit un sistem bazat pe conținut pentru a recomanda elevilor resurse care erau similare cu cartea pe care o citeau. Un student a terminat un roman științifico-fantastic; Sistemul a recomandat trei cărți care acoperă aceeași temă, dar de la un autor diferit. Studentul a împrumutat două; Obiceiul lecturii a continuat. Bibliotecarul confirmase anterior că toate sugestiile existau de fapt în colecție.
Cazul 2 — Sugestie falsă prinsă. Un bibliotecar a cerut unui AI să recomande 8 cărți unui utilizator. A verificat lista din catalog: 3 din 8 cărți lipseau deloc; AI inventase titluri plauzibile. Pasul de verificare a împiedicat cărțile inexistente să fie recomandate utilizatorului.
Cazul 3 — Balonul cu filtru s-a rupt. Un cercetător lucra în permanență cu surse cu același punct de vedere, iar sistemul sugera mereu altele asemănătoare. Bibliotecarul a inclus în mod deliberat două surse care au prezentat o abordare contrastantă a subiectului și au făcut acest lucru clar. Doar datorită acestor surse opuse cercetătorul și-a dat seama de aspectul incomplet al studiului său.
Pornire la rece și problemă cu noul utilizator
O provocare binecunoscută a sistemelor de recomandare este problema pornirii la rece: sistemul nu știe ce să recomande unui utilizator nou sau o resursă care tocmai a fost adăugată la colecție pentru care nu există date istorice. În acest caz, multe sisteme apelează la cele mai populare resurse ca opțiune sigură; Aceasta înseamnă că resursele valoroase puțin cunoscute nu sunt recomandate deloc, iar popularitatea se hrănește de la sine. În termeni de biblioteconomie, acest lucru intră în conflict cu valoarea accesului egal. Soluția este de a adresa noului utilizator o întrebare de preferință scurtă și clară (ce subiecte, ce nivel, ce scop) înainte de a face o recomandare și de a evidenția resursele nou adăugate pe baza caracteristicilor lor de conținut. În acest moment, analizând subiectul și caracteristicile unei resurse, AI poate lega chiar și o carte care nu a fost niciodată împrumutată utilizatorului relevant; atâta timp cât sugestia provine din colecția reală și este verificată. Astfel, sistemul face vizibil nu doar „foarte iubit” ci și „relevant și valoros”.
Sfat: atunci când configurați o recomandare pentru un utilizator nou, bazați-o pe nevoile curente ale utilizatorului, mai degrabă decât pe datele istorice ale sistemului. O întrebare bună („Este aceasta pentru cercetare, pentru plăcere, în ce măsură?”) produce adesea o recomandare mai precisă decât luni de date comportamentale.
Patru șabloane copiabile
1) Recomandare de resurse similare bazate pe conținut:
Mai jos este subiectul/rezumatul unei resurse care i-a plăcut unui utilizator. Am oferit și o listă a resurselor existente în colecția noastră. Doar din această listă, sugerează 5 resurse similare subiectului și scrie o justificare cu o singură propoziție pentru fiecare. Surse sugestive nu sunt enumerate. Sursa preferată: [aici] / Lista colecțiilor: [aici]
2) Sugestie care adaugă varietate:
La lista de sugestii de mai jos, adăugați 2 resurse care vor lărgi orizonturile utilizatorului și vor oferi o altă perspectivă sau subtemă (doar din lista de colecție pe care am furnizat-o). Explicați de ce sunt diferite și valoroase. Lista: [aici] / Colecție: [aici]
3) Explicația motivului recomandării:
Pentru fiecare recomandare de mai jos, scrieți o justificare scurtă, transparentă, care poate fi arătată utilizatorului: „Această resursă a fost recomandată pentru că...” Fără exagerare, fără implicare a datelor personale. Sugestii: [aici]
4) Verificare prealabilă a confidențialității:
Următoarea intrare de sugestie conține informații sensibile sau de identificare a utilizatorului (sănătate, convingeri, opinii politice care insinuează)? Dacă da, marcați-l și sugerați cum să îl anonimizați. Intrare: [aici]
Prompt slab / Prompt puternic
Prompt slab:
Recomandați 10 cărți pentru citirea acestui utilizator.
AI generează sugestii din memoria sa globală fără a cunoaște colecția; Poate inventa cărți care nu există și care nu respectă diversitatea și intimitatea.
Solicitare puternică:
Rolul dumneavoastră: asistent consultativ pentru cititori. Mai jos este subiectul care i-a plăcut utilizatorului și lista surselor reale din colecția noastră. (1) Sugerați 5 surse legate de subiectul din listă. (2) Adaugă și 2 surse cu perspective diferite care îți vor deschide ochii. (3) Scrieți o justificare transparentă pentru fiecare sugestie. Nu ieșiți din listă, nu fabricați surse și nu implicați date personale. Subiect: [aici] / Colecție: [aici]
prompt puternic; o limitează la colecția propriu-zisă, solicită diversitate și adaugă justificare și o regulă de confidențialitate.
Diagrama de comparație a tipurilor de recomandare
Tipul de sugestie
punct forte
risc
Datoria bibliotecarului
bazat pe conținut
Captează bine atenția
bule de filtrare
Adăugați varietate
colaborativ
descoperire surpriză
Confidențialitate, părtinire de popularitate
Anonim, echilibru
Lista de producție AI
repede
sursă inventată
verifica realitatea
Greșeli comune
- Oferirea de sugestii fără verificare. AI poate constitui surse inexistente.
- Recomand doar „cele mai asemănătoare”. Balonul de filtru restrânge orizonturile utilizatorului.
- Exportarea istoricului citirii într-un instrument extern. Sunt cele mai sensibile date de confidențialitate.
- Prezentarea sugestiei fără justificare. Transparența susține încrederea și alfabetizarea.
- Ignorând părtinirea popularității. Se pierd resurse valoroase, dar puțin cunoscute.
Pe scurt
Sistemele de recomandare sunt instrumente puternice care facilitează descoperirea prin captarea interesului utilizatorilor; Abordările bazate pe conținut și colaborative au puncte forte și riscuri diferite. Inteligența artificială este rapidă în a genera sugestii, dar poate inventa surse inexistente, filtrează bule și întărește părtinirea. Meseria de bibliotecar; Pentru a verifica fiecare sugestie din colecția reală, pentru a sparge balonul cu diversitatea conștientă, pentru a proteja confidențialitatea utilizatorilor și pentru a menține valoarea accesului egal și divers al bibliotecii prin prezentarea de sugestii cu motive transparente.
Sarcina de aplicare
Pregătiți o listă scurtă de colecții de fapte (10-15 surse). Generați o recomandare pentru un utilizator cu șablonul „recomandare de resurse similare bazate pe conținut” și verificați dacă toate acestea există efectiv în listă. Apoi, adăugați în listă surse cu perspective diferite cu șablonul „Sugestie care adaugă diversitate”. În cele din urmă, creați o explicație transparentă pentru fiecare sugestie cu șablonul „Explicația motivației sugestiei” și planificați modul în care o veți prezenta utilizatorului.
lista de verificare
- [ ] Am verificat că fiecare sugestie există de fapt în colecție.
- [ ] Am adăugat varietate pentru a sparge bula de filtru.
- [ ] Am păstrat în siguranță istoricul citirii/căutărilor utilizatorului, nu l-am dat unui instrument extern.
- [ ] Am pregătit o justificare transparentă pentru fiecare sugestie.
- [ ] Pentru a evita tendința de popularitate, am urmărit sursele mai puțin cunoscute și valoroase.