Gains :
- Être capable de distinguer où l'intelligence artificielle fait gagner du temps dans le flux de travail de la bibliothéconomie (métadonnées, résumé, recherche, suggestion) et où les décisions en matière d'exactitude, de fiabilité des sources et de confidentialité sont laissées aux humains, en fonction du niveau de risque.
- Capacité à appliquer une discipline qui vérifie chaque sortie en la reliant à la source, en la confirmant dans une source indépendante et en la faisant passer à travers un filtre de biais.
- Comprendre pourquoi les hallucinations, les sources fabriquées et la vie privée des utilisateurs sont des risques qui doivent être pris en compte dans ce métier dès le début.
Lorsqu'un spécialiste du catalogage s'assoit à son bureau le matin, il peut avoir des dizaines de livres nouvellement arrivés, des centaines de documents issus d'une collection de dons et une boîte d'archives en attente de numérisation. Un bibliothécaire de référence (l'expert qui aide les utilisateurs à trouver des informations) répond tout au long de la journée à des questions telles que « où est la source fiable sur ce sujet ? » Un gestionnaire d’informations est chargé de veiller à ce que les milliers de documents d’une organisation soient visibles et fiables. Dans cette unité, nous clarifierons où exactement l'intelligence artificielle (IA en abrégé ; grands modèles de langage et outils similaires) permet de gagner du temps dans ces tâches, et où le jugement, le choix et la responsabilité appartiennent à l'humain.
Commençons par une définition : l'intelligence artificielle, par laquelle nous entendons des outils logiciels de génération de langage et de reconnaissance de formes formés sur de grandes quantités de texte. Ces outils résument, traduisent, suggèrent une classification, génèrent des brouillons de texte et signalent des modèles dans de grandes quantités de données. Mais il ne sait pas si une source existe réellement, si une information est exacte ou si la vie privée d'un utilisateur est protégée. C'est pourquoi, en bibliothéconomie et en gestion de l'information, l'IA est un assistant et non un décideur.
Où l’intelligence artificielle fonctionne-t-elle et où ne fonctionne-t-elle pas ?
Divisons le flux de travail de la bibliothéconomie en trois couches. La première couche est constituée de tâches mécaniques et répétitives : extraire des brouillons de métadonnées de la signature d'un livre, résumer un long rapport, traduire un texte d'une langue à une autre, nettoyer un tableau de données. L’IA est puissante ici et permet de gagner beaucoup de temps.
Le deuxième niveau est le travail quasi judiciaire : quelle vedette-matière donner à un document, s'il faut inclure une ressource dans une collection, quelle ressource recommander à un utilisateur. L'IA produit ici des suggestions, mais l'expert qui connaît la politique de l'institution et les besoins réels de l'utilisateur a le dernier mot.
Le troisième niveau est le pur jugement et la responsabilité : confirmer que les informations sont exactes, décider d'un droit d'auteur, s'il convient de divulguer ou non des données personnelles sensibles, confirmer la fiabilité d'une source. À cette couche, la sortie de l’IA n’est qu’un point de départ ; La responsabilité incombe entièrement aux humains.
Astuce : avant de confier une tâche à l'IA, demandez-vous : "Que se passe-t-il si cette sortie est fausse ?" Si la réponse est « Je vais perdre du temps », n'hésitez pas à utiliser l'IA. Si la réponse est « une fausse source s'est propagée, un utilisateur est induit en erreur ou des données personnelles ont été divulguées », assurez-vous de vérifier le résultat.
Hallucination : le plus grand danger du bibliothécaire
L’hallucination se produit lorsque l’IA produit des informations, des sources ou des citations inexistantes comme si elles étaient réelles et dans un langage extrêmement convaincant. Ceci est particulièrement dangereux pour la bibliothéconomie et la gestion de l'information ; car l'essence de notre métier est l'authenticité et la fiabilité de la source.
Lorsque vous demandez à l'IA de « suggérer cinq articles universitaires sur ce sujet », elle peut générer des titres, des auteurs et des noms de revues qui semblent réels mais qui n'existent pas du tout. Ces sources fabriquées sont si convaincantes qu'un usager ou même un bibliothécaire peut les ajouter à une bibliographie sans les vérifier. Dans les sciences humaines et sociales, le danger est encore plus grand : quand « ce document de 1897 » est fabriqué de toutes pièces pour un historien ou « cette décision de justice » pour un juriste, il en résulte une grave désinformation.
Attention : Aucune citation, citation ou référence produite par l'IA ne doit être transférée nulle part sans vérification dans un véritable catalogue, une base de données ou la source elle-même. Ce n’est pas parce que cela « semble convaincant » que c’est vrai.
Discipline de vérification : trois étapes
La discipline de base que le bibliothécaire doit appliquer lorsqu’il travaille avec l’IA est la suivante :
1. Connectez-vous à la source. Chaque fait, chiffre, date et empreinte doit être basé sur une source originale. Demandez à l’IA « dites-moi de quelle source vous avez obtenu ces informations » et vérifiez cette source de manière indépendante.
2. Confirmez indépendamment. Vérifier les informations critiques dans au moins une source fiable extérieure à l'IA (catalogue authentique, base de données officielle, document primaire).
3. Passez-le à travers le filtre de polarisation. L’IA porte les biais des données sur lesquelles elle est formée. Une suggestion de sujet, une liste de suggestions ou un résumé peuvent mettre en valeur certains points de vue et en obscurcir d’autres. Demandez qui est exclu, quelle perspective manque.
Confidentialité et confidentialité des utilisateurs
L'un des principes éthiques les plus fondamentaux de la profession de bibliothécaire est la confidentialité des utilisateurs : ce qu'une personne lit, ce qu'elle recherche et le sujet qui l'intéresse sont confidentiels. La saisie de données dans des outils d'IA, en particulier dans des outils publics fonctionnant sur Internet, qui incluent l'identité des utilisateurs, l'historique de recherche ou les ressources empruntées, peut violer ce principe ; car ces données peuvent être transférées vers des systèmes tiers.
De même, dans une organisation, les documents non classifiés mais sensibles (informations personnelles, contrats, correspondance interne) ne doivent pas être téléchargés vers un outil d’IA généraliste. Les outils fonctionnant sur le système sécurisé et fermé de l’institution sont privilégiés pour ce type de données.
Astuce : Avant de saisir des données dans l'IA, demandez « Cette information est-elle publique ? » demander. Si la réponse est non ou si vous n'êtes pas sûr, placez ces données dans un format dépersonnalisé et anonyme ou utilisez uniquement des outils sécurisés approuvés par l'institution.
trois mini-cases
Cas 1 — Rédiger des métadonnées pour 400 documents. Une bibliothèque universitaire devait cataloguer une archive de 400 documents donnés par un professeur. L'expert a extrait un projet de titre, une date et une suggestion de sujet de la première page de chaque document grâce à l'IA : la durée moyenne par document a diminué de 12 minutes à 4 minutes. Mais chaque projet d'empreinte a été comparé au document original et approuvé par l'expert ; 17 dates incorrectes inventées par l'IA ont été détectées lors de cette étape.
Cas 2 — Fausse source détectée. Un bibliothécaire-conseil a reçu 6 suggestions d'articles de YZ alors qu'il recherchait des ressources sur la « migration climatique » pour un étudiant de premier cycle. Le bibliothécaire les a tous recherchés dans la base de données de l'institution : 2 articles sur 6 n'existaient pas du tout. L’étape de vérification a empêché l’étudiant de recevoir une source fabriquée.
Cas 3 — Violation de confidentialité évitée. Une bibliothèque a envisagé d'utiliser un outil général d'IA pour analyser « quel utilisateur est intéressé par quel sujet » à partir des enregistrements de paiement. Le gestionnaire de l'information s'est rendu compte que ce serait une violation de la vie privée que ces données soient divulguées avec l'identifiant de l'utilisateur ; les données ont d'abord été anonymisées et traitées uniquement sous forme de statistiques agrégées et anonymisées.
Quatre modèles copiables
1) Commencez à définir les rôles et les limites :
Votre rôle : assistant expérimenté spécialiste du catalogage et de la gestion de l’information. Votre tâche : produire un brouillon à partir des informations contenues dans la source que je vous ai donnée. Règles : (1) Utilisez uniquement les informations contenues dans le texte que je vous ai donné, n'ajoutez pas vos propres informations. (2) Cochez « [doit être vérifié] » en cas de doute. (3) N'inventez aucune date, nom ou empreinte. Si vous comprenez, commencez. Source : [ici]
2) Question de contrôle de validation :
Énumérez chaque affirmation factuelle (date, nom, numéro, citation de la source) dans le texte ci-dessous. Pour chacun : où dans le texte avez-vous obtenu cette information ? Si ce n'est pas clairement dans le texte, écrivez « pas dans le texte ». Texte : [ici]
3) Vérification des biais et des perspectives manquantes :
Quelles perspectives le résumé/recommandation suivant met-il en évidence et lesquelles oublie-t-il ? Quels groupes, régions ou vues pourraient manquer ? Fiez-vous simplement au texte, ne spéculez pas. Texte : [ici]
4) Pré-vérification de la confidentialité :
Le texte ci-dessous contient-il des données personnelles (nom, numéro d'identification, contact, historique de lecture/recherche) ou des informations sensibles sur l'entreprise ? Si tel est le cas, énumérez-le et suggérez comment il peut être anonymisé. Texte : [ici]
Invite faible/Invite forte
Invite faible :
Trouvez-moi quelques ressources sur ce sujet.
Cette invite invite l'IA à générer de fausses ressources. Il n'y a pas de rôles, de limites, de règles de validation et de ressources. L'IA peut produire des balises crédibles mais inexistantes.
Invite puissante :
Votre rôle : assistant bibliothécaire de référence. Choisissez celles liées au thème de la « migration climatique » parmi les entrées du catalogue que je vous ai remis ci-dessous et expliquez pourquoi elles sont pertinentes. N'ajoutez aucune source qui ne figure pas sur la liste, ne fabriquez pas de sources. En cas de doute, dites « aucune source appropriée n'est répertoriée ». Entrées du catalogue : [ici]
La différence est claire : une invite forte oblige l'IA à travailler à partir de la source réelle donnée, et non à partir de sa propre mémoire, et empêche la fabrication.
Tableau des couches et des responsabilités
couche métier
exemple de tâche
Rôle de l'IA
la décision de l'homme
mécanique
Projet de métadonnées, résumé, traduction
Produit rapidement des brouillons
vérification, approbation
quasi-judiciaire
Titre du sujet, suggestion de source
propose des suggestions
Sélection par politique
jugement pur
Authentification, décision de droit d'auteur
Informations préliminaires uniquement
L'entière responsabilité incombe à la personne
Erreurs courantes
- Remplacement de la sortie AI par la source. L'IA est un assistant, pas une ressource ; Chaque sortie est validée.
- Accepter la source fabriquée comme convaincante. Ce n’est pas parce que ça a l’air bien que c’est bien.
- Saisie de données personnelles/sensibles dans l'outil public. La vie privée des utilisateurs et la confidentialité de l’entreprise sont respectées dès le début.
- Ignorer les préjugés. L’IA porte les perspectives des données sur lesquelles elle est formée ; Demandez ce qui manque.
- Laissons le jugement à l’IA. Les décisions en matière d'exactitude, de droit d'auteur et de confidentialité appartiennent aux humains.
En résumé
intelligence artificielle; C'est un assistant puissant pour résumer, rédiger, traduire et marquer des modèles en bibliothéconomie et en gestion de l'information. Cela permet de gagner beaucoup de temps en travaux mécaniques ; donne des conseils sur des questions quasi judiciaires; Mais la vérification de l’exactitude, de la fiabilité de la source, de la confidentialité des utilisateurs et des décisions éthiques appartient aux humains. L'hallucination est le plus grand danger pour cette profession : aucun crédit source ou citation n'est utilisé sans vérification. Exécutez l’IA avec des règles claires de rôle, de limites et de validation ; Confirmez chaque résultat critique auprès d’une source indépendante.
Tâche de candidature
Choisissez un vrai sujet dans votre domaine. Demandez à l'IA 5 recommandations de ressources sur ce sujet, puis recherchez chacune d'entre elles dans un catalogue ou une base de données réelle et notez combien il en existe réellement. Ensuite, avec le modèle « Startup définissant les rôles et les limites », dites à l'IA de travailler uniquement à partir d'un texte que vous fournissez et comparez les résultats des deux approches. Écrivez quelle approche empêche l'ajustement.
liste de contrôle
- [ ] J'ai déterminé à quel niveau (mécanique, semi-judiciaire, jugement pur) se situe la tâche.
- [ ] « Que se passe-t-il si cette sortie est incorrecte ? » J'ai posé la question.
- [ ] J'ai vérifié chaque crédit et citation par rapport à une source indépendante.
- [ ] J'ai vérifié qu'il n'y a aucune information personnelle/sensible dans les données entrant dans l'IA.
- [ ] J'ai gardé la décision finale et la responsabilité à ma propre discrétion.