Guadagni:
- Essere in grado di distinguere dove l’intelligenza artificiale fa risparmiare tempo nel flusso di lavoro della biblioteconomia (metadati, riepilogo, ricerca, suggerimento) e dove l’accuratezza, l’affidabilità della fonte e le decisioni sulla privacy sono lasciate agli esseri umani, a seconda del livello di rischio.
- Capacità di applicare una disciplina che verifica ogni output collegandolo alla fonte, confermandolo in una fonte indipendente e facendolo passare attraverso un filtro bias.
- Capire perché le allucinazioni, le fonti fittizie e la privacy degli utenti sono rischi di cui bisogna tenere conto fin dall'inizio in questa professione.
Quando uno specialista in catalogazione si siede alla sua scrivania al mattino, potrebbe avere dozzine di libri appena arrivati, centinaia di documenti provenienti da una raccolta di donazioni e una scatola di archivio in attesa di essere digitalizzata. Un bibliotecario di riferimento (l'esperto che aiuta gli utenti a trovare informazioni) risponde a domande durante il giorno come "dov'è la fonte affidabile su questo argomento?" Un responsabile delle informazioni è responsabile di mantenere le migliaia di documenti di un'organizzazione individuabili e affidabili. In questa unità chiariremo dove esattamente l’intelligenza artificiale (AI in breve; grandi modelli linguistici e strumenti simili) fa risparmiare tempo in questi compiti e dove il giudizio, la scelta e la responsabilità restano nelle mani dell’essere umano.
Cominciamo con una definizione: intelligenza artificiale, con cui intendiamo strumenti software che generano linguaggio e riconoscono modelli addestrati su grandi quantità di testo. Questi strumenti riepilogano, traducono, suggeriscono classificazioni, generano bozze di testo e contrassegnano modelli in grandi quantità di dati. Ma non sa se esiste realmente una fonte, se un'informazione è corretta o se la privacy di un utente è tutelata. Ecco perché nella biblioteconomia e nella gestione delle informazioni, l'intelligenza artificiale è un assistente, non un decisore.
Dove funziona l’intelligenza artificiale e dove non funziona?
Dividiamo il flusso di lavoro della biblioteconomia in tre livelli. Il primo livello è costituito da attività meccaniche e ripetitive: estrarre la bozza di metadati dalla firma di un libro, riassumere un lungo rapporto, tradurre il testo da una lingua all'altra, pulire una tabella di dati. L’intelligenza artificiale qui è potente e fa risparmiare molto tempo.
Il secondo livello è un lavoro quasi giudiziario: quale argomento dare a un documento, se includere una risorsa in una raccolta, quale risorsa consigliare a un utente. L'intelligenza artificiale qui fornisce suggerimenti, ma l'ultima parola spetta all'esperto che conosce la politica dell'istituzione e le reali esigenze dell'utente.
Il terzo livello è puro giudizio e responsabilità: confermare che le informazioni siano accurate, decidere sul copyright, se divulgare dati personali sensibili, confermare l’affidabilità di una fonte. A questo livello, l'output dell'IA è solo un punto di partenza; La responsabilità è interamente degli esseri umani.
Suggerimento: prima di assegnare un compito all’IA, chiediti: “Cosa succede se questo output è sbagliato?” Se la risposta è "perderò un po' di tempo", sentiti libero di usare l'intelligenza artificiale. Se la risposta è "viene diffusa una fonte falsa, un utente viene ingannato o vengono divulgati dati personali", assicurati di verificare l'output.
Allucinazione: il pericolo più grande per il bibliotecario
L'allucinazione è quando l'intelligenza artificiale produce informazioni, fonti o citazioni inesistenti come se fossero reali e in un linguaggio estremamente convincente. Ciò è particolarmente pericoloso per la biblioteconomia e la gestione delle informazioni; perché l'essenza della nostra professione è l'autenticità e l'affidabilità della fonte.
Quando dici all'intelligenza artificiale di "suggerire cinque articoli accademici su questo argomento", può generare titoli, autori e nomi di riviste che sembrano reali ma non esistono affatto. Queste fonti inventate sono così convincenti che un utente o anche un bibliotecario possono aggiungerle a una bibliografia senza verificarle. Nelle scienze umanistiche e sociali il pericolo è ancora maggiore: quando per uno storico viene fabbricato “quel documento del 1897” o per un giurista “quella decisione del tribunale”, il risultato è una grave disinformazione.
Attenzione: nessuna citazione, citazione o riferimento di fonte prodotto da AI dovrebbe essere trasferito da nessuna parte senza verifica in un catalogo reale, in un database o nella fonte stessa. Solo perché "sembra convincente" non significa che sia vero.
Disciplina di verifica: tre passaggi
La disciplina di base che il bibliotecario deve applicare quando lavora con l’intelligenza artificiale è questa:
1. Connettiti alla sorgente. Ogni fatto, cifra, data e impronta deve basarsi su una fonte originale. Chiedi all’IA “dimmi da quale fonte hai ottenuto queste informazioni” e controlla quella fonte in modo indipendente.
2. Confermare in modo indipendente. Verificare le informazioni critiche in almeno una fonte attendibile esterna all'AI (catalogo autentico, database ufficiale, documento primario).
3. Passarlo attraverso il filtro bias. L’intelligenza artificiale porta con sé i pregiudizi dei dati su cui è addestrata. Un argomento suggerito, un elenco di suggerimenti o un riepilogo possono evidenziare determinati punti di vista e oscurarne altri. Chiedi chi è escluso, quale prospettiva manca.
Privacy e privacy dell'utente
Uno dei principi etici più fondamentali della professione bibliotecaria è la privacy dell'utente: ciò che una persona legge, ciò che cerca e l'argomento a cui è interessato sono riservati. L'inserimento di dati negli strumenti di intelligenza artificiale, in particolare strumenti pubblici che operano su Internet, che includono identità degli utenti, cronologia delle ricerche o risorse prese in prestito, può violare questo principio; perché questi dati potrebbero andare a sistemi di terze parti.
Allo stesso modo, in un’organizzazione, documenti non classificati ma sensibili (informazioni sul personale, contratti, corrispondenza interna) non dovrebbero essere caricati su uno strumento generale di intelligenza artificiale. Per questo tipo di dati sono preferiti gli strumenti eseguiti sul sistema chiuso e sicuro dell'istituto.
Suggerimento: prima di inserire qualsiasi dato nell'intelligenza artificiale, chiedi "Questa informazione è pubblica?" chiedere. Se la risposta è no, o non sei sicuro, inserisci i dati in un formato anonimo e depersonalizzato o utilizza solo strumenti sicuri approvati dall'istituzione.
tre mini custodie
Caso 1: bozza di metadati per 400 documenti. Una biblioteca universitaria doveva catalogare un archivio di 400 documenti donati da un professore. L'esperto ha estratto una bozza di titolo, data e suggerimento di argomento dalla prima pagina di ciascun documento con l'intelligenza artificiale: il tempo medio per documento è diminuito da 12 minuti a 4 minuti. Ma ogni bozza di impronta è stata confrontata con il documento originale e approvata dall'esperto; In questo passaggio sono state rilevate 17 date errate inventate dall'IA.
Caso 2: catturata una fonte falsa. Un bibliotecario consultivo ha ricevuto 6 suggerimenti di articoli da YZ mentre cercava risorse sulla "migrazione climatica" per uno studente universitario. Il bibliotecario li ha cercati tutti nel database dell'istituzione: 2 articoli su 6 non esistevano affatto. La fase di verifica ha impedito che allo studente venisse fornita una fonte fittizia.
Caso 3: violazione della riservatezza evitata. Una biblioteca ha preso in considerazione l'utilizzo di uno strumento generale di intelligenza artificiale per analizzare "quale utente è interessato a quale argomento" dai record di pagamento. Il gestore dei dati si è reso conto che sarebbe stata una violazione della privacy se questi dati uscissero con l'ID dell'utente; i dati sono stati prima resi anonimi ed elaborati esclusivamente come statistiche aggregate e deidentificate.
Quattro modelli copiabili
1) Inizia a definire ruoli e confini:
Il tuo ruolo: assistente esperto in catalogazione e gestione delle informazioni. Il tuo compito: produrre una bozza dalle informazioni contenute nella fonte che ti ho fornito. Regole: (1) Utilizza solo le informazioni contenute nel testo che ti ho fornito, non aggiungere le tue informazioni. (2) Segna "[deve essere verificato]" dove non sei sicuro. (3) Non inventare date, nomi o impronte. Se capisci, inizia. Fonte: [qui]
2) Domanda di controllo di convalida:
Elenca ogni affermazione fattuale (data, nome, numero, citazione della fonte) nel testo sottostante. Per ciascuno: dove hai preso queste informazioni nel testo? Se non è chiaramente nel testo, scrivi "non nel testo". Testo: [qui]
3) Controllo dei bias e della prospettiva mancante:
Quali prospettive evidenzia la seguente sintesi/raccomandazione e quali tralascia? Quali gruppi, regioni o visualizzazioni potrebbero mancare? Affidati solo al testo, non speculare. Testo: [qui]
4) Pre-controllo della privacy:
Il testo seguente contiene dati personali (nome, numero ID, contatto, cronologia di lettura/ricerca) o informazioni aziendali sensibili? In tal caso, elencalo e suggerisci come può essere reso anonimo. Testo: [qui]
Prompt debole / Prompt forte
Suggerimento debole:
Trovami alcune risorse su questo argomento.
Questo suggerimento invita l'IA a generare risorse false. Non ci sono ruoli, confini, regole di validazione e risorse. L’intelligenza artificiale può produrre tag credibili ma inesistenti.
Suggerimento potente:
Il tuo ruolo: assistente bibliotecario di riferimento. Scegli quelli relativi al tema della "migrazione climatica" dalle voci del catalogo che ti ho fornito di seguito e spiega perché sono rilevanti. Non aggiungere fonti che non sono nell'elenco, non falsificare fonti. Se non sei sicuro, di' "non sono elencate fonti adatte". Voci del catalogo: [qui]
La differenza è chiara: un forte prompt costringe l’IA a lavorare partendo da una fonte reale, non dalla propria memoria, e impedisce la fabbricazione.
Tabella dei livelli e delle responsabilità
livello aziendale
compito di esempio
Ruolo dell'intelligenza artificiale
decisione dell'uomo
meccanico
Bozza di metadati, riepilogo, traduzione
Produce bozze rapidamente
verifica, approvazione
quasi giudiziale
Titolo dell'argomento, suggerimento sulla fonte
offre suggerimenti
Selezione per politica
puro giudizio
Autenticazione, decisione sul copyright
Solo informazioni preliminari
La piena responsabilità è della persona
Errori comuni
- Sostituendo l'output AI per la sorgente. L’intelligenza artificiale è un assistente, non una risorsa; Ogni output è convalidato.
- Accettare la fonte inventata come convincente. Solo perché sembra bello non significa che sia giusto.
- Inserimento di dati personali/sensibili nello strumento pubblico. La privacy degli utenti e la riservatezza aziendale sono rispettate fin dall'inizio.
- Ignorando i pregiudizi. L’intelligenza artificiale porta con sé le prospettive dei dati su cui è addestrata; Chiedi cosa manca.
- Lasciamo il giudizio all'AI. Le decisioni su accuratezza, copyright e privacy appartengono agli esseri umani.
In sintesi
intelligenza artificiale; È un potente assistente per il riassunto, la stesura, la traduzione e la marcatura di modelli nella biblioteconomia e nella gestione delle informazioni. Risparmia molto tempo nel lavoro meccanico; fornisce consulenza su questioni quasi giudiziarie; Ma la verifica dell’accuratezza, dell’affidabilità della fonte, della privacy dell’utente e delle decisioni etiche spetta agli esseri umani. L'allucinazione è il pericolo più grande per questa professione: nessuna fonte o citazione viene utilizzata senza verifica. Esegui l’intelligenza artificiale con regole chiare su ruoli, confini e convalida; Conferma ogni output critico con una fonte indipendente.
Compito dell'applicazione
Scegli un argomento reale nel tuo campo. Chiedi all'intelligenza artificiale 5 consigli sulle risorse su quell'argomento, quindi cerca ciascuno di essi in un catalogo o database reale e nota quanti ne esistono effettivamente. Quindi, con il modello “Avvio che definisce ruoli e confini”, chiedi all’intelligenza artificiale di lavorare solo a partire da un testo da te fornito e confronta l’output dei due approcci. Scrivi quale approccio impedisce l'adattamento.
lista di controllo
- [ ] Ho determinato a quale livello (meccanico, semigiudiziale, giudizio puro) si trova il compito.
- [ ] "Cosa succede se questo output non è corretto?" Ho posto la domanda.
- [ ] Ho verificato ogni credito e citazione rispetto a una fonte indipendente.
- [ ] Ho controllato che non ci siano informazioni personali/sensibili nei dati immessi nell'AI.
- [ ] Ho mantenuto la decisione finale e la responsabilità a mia discrezione.