Ganancias:
- Ser capaz de distinguir dónde la inteligencia artificial ahorra tiempo en el flujo de trabajo bibliotecológico (metadatos, resumen, búsqueda, sugerencias) y dónde las decisiones sobre precisión, confiabilidad de la fuente y privacidad se dejan en manos de los humanos, dependiendo del nivel de riesgo.
- Capacidad para aplicar una disciplina que verifica cada resultado vinculándolo a la fuente, confirmándolo en una fuente independiente y pasándolo por un filtro de sesgo.
- Comprender por qué las alucinaciones, las fuentes inventadas y la privacidad del usuario son riesgos que hay que tener en cuenta en esta profesión desde el principio.
Cuando un especialista en catalogación se sienta en su escritorio por la mañana, es posible que tenga docenas de libros recién llegados, cientos de documentos de una colección de donaciones y una caja de archivo esperando a ser digitalizada. Un bibliotecario de referencia (el experto que ayuda a los usuarios a encontrar información) responde preguntas a lo largo del día como "¿dónde está la fuente confiable sobre este tema?" Un administrador de información es responsable de mantener los miles de documentos de una organización visibles y confiables. En esta unidad, aclararemos dónde exactamente la inteligencia artificial (IA en resumen; grandes modelos de lenguaje y herramientas similares) ahorra tiempo en estas tareas, y dónde el juicio, la elección y la responsabilidad permanecen en el ser humano.
Comencemos con una definición: inteligencia artificial, con la que nos referimos a herramientas de software de generación de lenguaje y reconocimiento de patrones entrenadas en grandes cantidades de texto. Estas herramientas resumen, traducen, sugieren clasificaciones, generan borradores de texto y marcan patrones en grandes cantidades de datos. Pero no sabe si realmente existe una fuente, si una información es correcta o si la privacidad del usuario está protegida. Por eso, en la biblioteconomía y la gestión de la información, la IA es un asistente, no un tomador de decisiones.
¿Dónde funciona la inteligencia artificial y dónde no?
Dividamos el flujo de trabajo bibliotecológico en tres capas. La primera capa son tareas mecánicas y repetitivas: extraer borradores de metadatos de la firma de un libro, resumir un informe extenso, traducir texto de un idioma a otro, limpiar una tabla de datos. La IA es poderosa aquí y ahorra mucho tiempo.
La segunda capa es un trabajo cuasijudicial: qué título temático darle a un documento, si incluir un recurso en una colección, qué recurso recomendar a un usuario. La IA produce aquí sugerencias, pero el experto que conoce la política de la institución y las necesidades reales del usuario tiene la última palabra.
La tercera capa es puro juicio y responsabilidad: confirmar que la información es precisa, decidir sobre los derechos de autor, si se revela o no información personal sensible, confirmar la confiabilidad de una fuente. En esta capa, el resultado de la IA es sólo un punto de partida; La responsabilidad recae enteramente en los humanos.
Consejo: antes de asignarle una tarea a la IA, pregúntese: "¿Qué sucede si esta salida es incorrecta?" Si la respuesta es "Perderé algo de tiempo", no dudes en utilizar la IA. Si la respuesta es "se difunde una fuente falsa, se engaña a un usuario o se filtran datos personales", asegúrese de verificar el resultado.
Alucinación: el mayor peligro del bibliotecario
La alucinación ocurre cuando la IA produce información, fuente o cita inexistente como si fuera real y en un lenguaje extremadamente convincente. Esto es particularmente peligroso para la biblioteconomía y la gestión de la información; porque la esencia de nuestra profesión es la autenticidad y fiabilidad de la fuente.
Cuando le dices a la IA que "sugiera cinco artículos académicos sobre este tema", puede generar títulos, autores y nombres de revistas que parecen reales pero que no existen en absoluto. Estas fuentes fabricadas son tan convincentes que un usuario o incluso un bibliotecario puede agregarlas a una bibliografía sin verificarlas. En las humanidades y las ciencias sociales, el peligro es aún mayor: cuando "ese documento de 1897" se fabrica para un historiador o "esa decisión judicial" para un jurista, el resultado es una grave desinformación.
Atención: Ninguna cita, cita o referencia de fuente producida por AI debe transferirse a ningún lugar sin verificación en un catálogo real, base de datos o la fuente misma. Sólo porque "parece convincente" no significa que sea verdad.
Disciplina de verificación: tres pasos
La disciplina básica que debe aplicar el bibliotecario cuando trabaja con IA es la siguiente:
1. Conéctese a la fuente. Cada hecho, cifra, fecha e impresión debe basarse en una fuente original. Pregúntele a la IA “dígame de qué fuente obtuvo esta información” y verifique esa fuente de forma independiente.
2. Confirmar de forma independiente. Verificar la información crítica en al menos una fuente confiable fuera de la IA (catálogo auténtico, base de datos oficial, documento primario).
3. Páselo por el filtro de polarización. La IA conlleva los sesgos de los datos con los que se entrena. Un tema sugerido, una lista de sugerencias o un resumen pueden resaltar ciertos puntos de vista y oscurecer otros. Pregunte quién queda fuera, qué perspectiva falta.
Privacidad y privacidad del usuario
Uno de los principios éticos más fundamentales de la profesión bibliotecológica es la privacidad del usuario: lo que una persona lee, lo que busca y el tema que le interesa son confidenciales. Introducir datos en herramientas de inteligencia artificial, especialmente herramientas públicas que operan a través de Internet, que incluyen las identidades de los usuarios, el historial de búsqueda o recursos prestados, puede violar este principio; porque estos datos pueden ir a sistemas de terceros.
Del mismo modo, en una organización, los documentos no clasificados pero sensibles (información del personal, contratos, correspondencia interna) no deben cargarse en una herramienta general de IA. Para este tipo de datos se prefieren las herramientas que se ejecutan en el sistema cerrado y seguro de la institución.
Consejo: antes de ingresar datos en la IA, pregunte "¿Esta información es pública?" preguntar. Si la respuesta es no, o no está seguro, coloque esos datos en un formato anónimo y despersonalizado o utilice únicamente herramientas seguras aprobadas por la institución.
tres mini casos
Caso 1: Borrador de metadatos para 400 documentos. Una biblioteca universitaria tuvo que catalogar un archivo de 400 documentos donados por un profesor. El experto extrajo un borrador de título, fecha y sugerencia de tema de la primera página de cada documento con IA: el tiempo promedio por documento disminuyó de 12 minutos a 4 minutos. Pero cada borrador fue comparado con el documento original y aprobado por el experto; En este paso se detectaron 17 fechas incorrectas inventadas por la IA.
Caso 2: Se detectó una fuente falsa. Un bibliotecario asesor recibió 6 sugerencias de artículos de YZ mientras buscaba recursos sobre "migración climática" para un estudiante universitario. El bibliotecario los buscó todos en la base de datos de la institución: 2 de 6 artículos no existían en absoluto. El paso de verificación impidió que al estudiante se le diera una fuente inventada.
Caso 3: Se evitó la violación de la confidencialidad. Una biblioteca consideró utilizar una herramienta general de inteligencia artificial para analizar “qué usuario está interesado en qué tema” a partir de los registros de pago. El responsable de la información se dio cuenta de que sería una violación a la privacidad que estos datos salieran con el ID del usuario; Los datos primero se anonimizaron y se procesaron únicamente como estadísticas agregadas y no identificadas.
Cuatro plantillas copiables
1) Empiece a definir roles y límites:
Su función: asistente experimentado en catalogación y especialista en gestión de información. Tu tarea: producir un borrador a partir de la información de la fuente que te proporcioné. Reglas: (1) Utilice únicamente la información del texto que le di, no agregue su propia información. (2) Marque "[debe verificarse]" cuando no esté seguro. (3) No invente fechas, nombres o impresiones. Si lo entiendes, empieza. Fuente: [aquí]
2) Pregunta de verificación de validación:
Enumere cada afirmación fáctica (fecha, nombre, número, cita de la fuente) en el texto a continuación. Para cada uno: ¿en qué parte del texto obtuviste esta información? Si no está claro en el texto, escriba "no en el texto". Texto: [aquí]
3) Verificación de sesgos y perspectivas faltantes:
¿Qué perspectivas destaca el siguiente resumen/recomendación y cuáles deja de lado? ¿Qué grupos, regiones o vistas podrían faltar? Confíe únicamente en el texto, no especule. Texto: [aquí]
4) Verificación previa de privacidad:
¿El texto a continuación contiene datos personales (nombre, número de identificación, contacto, historial de lectura/búsqueda) o información corporativa confidencial? Si es así, indíquelo y sugiera cómo se puede anonimizar. Texto: [aquí]
Aviso débil / Aviso fuerte
Aviso débil:
Encuéntrame algunos recursos sobre este tema.
Este mensaje invita a la IA a generar recursos falsos. No hay roles, límites, reglas de validación ni recursos. La IA puede producir etiquetas creíbles pero inexistentes.
Potente mensaje:
Su función: asistente bibliotecario de referencia. Elija los relacionados con el tema de la "migración climática" de las entradas del catálogo que le proporciono a continuación y explique por qué son relevantes. No agregue ninguna fuente que no esté en la lista, no invente fuentes. Cuando no esté seguro, diga "no hay fuentes adecuadas en la lista". Entradas del catálogo: [aquí]
La diferencia es clara: un fuerte aviso obliga a la IA a trabajar desde la fuente real dada, no desde su propia memoria, y evita la fabricación.
Tabla de capas y responsabilidades
capa empresarial
tarea de muestra
Papel de la IA
la decisión del hombre
mecanico
Borrador de metadatos, resumen, traducción.
Produce borradores rápidamente
verificación, aprobación
cuasijudicial
Título del tema, sugerencia de fuente
ofrece sugerencias
Selección por política
juicio puro
Autenticación, decisión de derechos de autor.
Sólo información preliminar
La responsabilidad total recae en la persona.
Errores comunes
- Sustituyendo la salida de IA por la fuente. La IA es un asistente, no un recurso; Cada salida es validada.
- Aceptar la fuente fabricada como convincente. Sólo porque se vea bien no significa que sea correcto.
- Ingresar datos personales/sensibles a la herramienta pública. La privacidad del usuario y la confidencialidad corporativa se respetan desde el principio.
- Ignorando los prejuicios. La IA lleva las perspectivas de los datos sobre los que se entrena; Pregunta qué falta.
- Dejando el juicio a AI. Las decisiones sobre exactitud, derechos de autor y privacidad pertenecen a los humanos.
En resumen
inteligencia artificial; Es un potente asistente para resumir, redactar, traducir y marcar patrones en biblioteconomía y gestión de la información. Ahorra mucho tiempo en trabajos mecánicos; brinda asesoramiento sobre asuntos cuasijudiciales; Pero la verificación de la exactitud, la confiabilidad de la fuente, la privacidad del usuario y las decisiones éticas pertenecen a los humanos. Las alucinaciones son el mayor peligro para esta profesión: no se utilizan créditos ni citas de fuentes sin verificación. Ejecute IA con reglas claras de roles, límites y validación; Confirme cada resultado crítico con una fuente independiente.
Tarea de aplicación
Elija un tema real de su campo. Pídale a la IA 5 recomendaciones de recursos sobre ese tema, luego busque cada uno en un catálogo o base de datos real y observe cuántos existen realmente. Luego, con la plantilla “Inicio que define roles y límites”, dígale a la IA que trabaje solo a partir de un texto que usted proporcione y compare el resultado de los dos enfoques. Escriba qué enfoque impide el ajuste.
lista de verificación
- [ ] Determiné en qué capa (mecánica, semijudicial, de juicio puro) se encuentra la tarea.
- [] "¿Qué sucede si este resultado es incorrecto?" Hice la pregunta.
- [] He verificado cada crédito y cita con una fuente independiente.
- [ ] He comprobado que no hay información personal/sensible en los datos que ingresan a la IA.
- [ ] Mantuve la decisión final y la responsabilidad a mi propia discreción.