Derechos de autor, privacidad, ética y gobernanza

Ganancias:

• Capacidad para reducir los riesgos legales evaluando el estado de los derechos de autor de la entrada y las condiciones de los datos de la herramienta y cuestionando los derechos de la salida.
• Capacidad de proteger datos personales mediante la anonimización y minimización y garantizar la privacidad al ser transparente para el usuario.
• Capacidad para establecer un marco de gobernanza para la institución que incluya herramientas aprobadas, datos prohibidos y reglas de verificación, y probar su uso con valores bibliotecológicos.

El bibliotecario y gestor de la información es alguien que no sólo organiza y presenta la información, sino que también la protege: protegiendo los derechos del creador, la privacidad del usuario y la responsabilidad de la institución. La inteligencia artificial desafía los tres campos con preguntas nuevas y complejas. ¿Subir un documento a AI es una violación de derechos de autor? ¿Proporcionar datos de usuario a una herramienta de inteligencia artificial viola la privacidad? ¿Cómo debería gestionar la organización el uso de la IA? En esta unidad final, estableceremos un marco que reúne los hilos éticos y legales que hemos tocado a lo largo del módulo.

Definamos los conceptos. El derecho de autor es el derecho legal otorgado al creador de una obra sobre el uso de su obra; La duplicación o el uso no autorizados pueden considerarse una infracción. Dato personal es cualquier información que identifique directa o indirectamente a una persona y esté sujeta a protección legal. La gobernanza es el marco de reglas, políticas y responsabilidad que rige el uso de la IA por parte de una organización. Estos tres conceptos forman la base legal y ética para el uso responsable de la IA.

Paso a paso: uso responsable y legal de la IA

1. Evalúe el estado de los derechos de autor de la entrada. Antes de cargar un texto, libro o artículo en una herramienta de inteligencia artificial, considere el estado de los derechos de autor de ese trabajo y los términos de uso de la herramienta. Ceder una obra protegida por derechos de autor a una herramienta que utiliza los datos que usted carga para sus propios fines puede constituir una violación de derechos.

2. Cuestionar los derechos de la salida. El estado de los derechos de autor del texto producido por la IA puede ser incierto y la IA puede reproducir sin saberlo contenido protegido por derechos de autor en los datos de entrenamiento. Antes de publicar un resultado de IA, evalúe su originalidad y posibles violaciones.

3. Proteger los datos personales. La identidad de los usuarios, su historial de lectura/búsqueda y su información personal no deben ingresar a ninguna herramienta de inteligencia artificial sin un consentimiento explícito y una protección sólida. La anonimización y la minimización de datos (solo los datos necesarios) son esenciales.

4. Garantizar la transparencia y el consentimiento. Los usuarios deben saber cómo se procesan sus datos e interacciones; Cuando esté involucrada la IA, esto debería quedar claramente indicado. El uso de IA encubierta socava la confianza.

5. Establecer un marco de gobernanza. La organización debe establecer en una política escrita qué herramientas se aprueban, qué datos se pueden ingresar, quién es responsable y cómo se verificarán los resultados.

Consejo: cree una hoja simple de “reglas de uso de IA” para su organización: qué herramientas están aprobadas, qué datos nunca se ingresan (personales/de propiedad exclusiva/confidenciales), cómo se verifica cada resultado y quién es el responsable. Una guía clara de una página es más aplicable que una política extensa.

Principios éticos y valores de la biblioteconomía.

Los valores profundamente arraigados de la profesión bibliotecaria sirven como brújula en la era de la IA: igualdad de acceso a la información, libertad de pensamiento, privacidad del usuario, honestidad intelectual e imparcialidad. La IA puede apoyar o amenazar estos valores. Puede ampliar el acceso pero reforzar los prejuicios; puede acelerar el servicio pero comprometer la privacidad; Puede facilitar el descubrimiento, pero puede difundir información errónea.

El bibliotecario a cargo prueba cada uso de la IA con estos valores: "¿Este uso iguala el acceso o excluye a un grupo? ¿Protege la privacidad? ¿Proporciona información precisa y honesta?" La IA es una herramienta; Los valores con los que lo utilizarás son la esencia de la profesión. La tecnología cambia, pero estos valores son la brújula constante de la biblioteconomía.

Precaución: "Todo el mundo lo está usando" o "es rápido" no justifica el uso de una IA. Incluso si un uso es legal, puede ser poco ético; No adoptes una práctica que sea perjudicial en términos de derechos de autor, privacidad y justicia, sólo porque sea fácil. La responsabilidad final no recae en la herramienta, sino en el profesional que la utiliza.

tres mini casos

Caso 1: Se detuvo la descarga con derechos de autor. Un equipo planeó cargar un libro de referencia completo con derechos de autor en una herramienta general de inteligencia artificial para generar resúmenes. El administrador de la información consideró que esto era riesgoso, tanto en términos de derechos de autor como de términos de uso de datos de la herramienta; en cambio, se estudió sólo en extractos breves y autorizados y dentro del sistema cerrado de la institución.

Caso 2: Datos personales anonimizados. Una biblioteca quería analizar los comentarios de los usuarios con IA; pero los comentarios contenían nombres de usuario e información de contacto. El equipo anonimizó los datos antes del análisis; sólo se procesaron tendencias anónimas y colectivas. Privacidad preservada, conocimiento recuperado.

Caso 3: Se cerró la brecha de gobernanza. En una organización, los empleados utilizaban diferentes herramientas de inteligencia artificial sin supervisión, y en ocasiones ingresaban documentos confidenciales. El administrador de la información publicó una política de una página que define las herramientas aprobadas, los tipos de datos prohibidos y las reglas de verificación; La incertidumbre y el riesgo han disminuido significativamente.

Competencia del personal y cultura corporativa.

Una política de gobernanza es tan sólida como las personas que la implementan. Incluso la regla mejor escrita permanece en el papel si los empleados no comprenden los riesgos de la IA. Por lo tanto, la base duradera para el uso responsable de la IA es la competencia del personal: la comprensión de cada empleado de qué es una alucinación, qué datos nunca deben ingresarse y por qué se debe verificar una salida. Las bibliotecas y las instituciones de información tienen un doble papel a este respecto; Debe formar a su propio personal y difundir esta alfabetización entre los usuarios. Una buena cultura corporativa es aquella que informa un error de IA en lugar de ocultarlo, y considera normal decir "No estoy seguro acerca de este resultado, verifiquemos". En un entorno donde los errores se ocultan por miedo al castigo, una fuente inventada o una violación de la privacidad pasan desapercibidas. Además, debido a que la tecnología y las herramientas cambian rápidamente, las políticas y la capacitación deben actualizarse periódicamente y no una sola vez. Gobernancia; Es un sistema vivo donde las reglas, las herramientas, la educación y la cultura trabajan juntas. En el centro de este sistema se encuentra la persona competente, que asume la responsabilidad y toma la decisión final, no el vehículo.

Consejo: antes de adoptar una nueva herramienta de IA, haga una pequeña prueba piloto: pruébela con un equipo limitado, en tareas reales pero de bajo riesgo, registrando errores y riesgos. Esto genera competencia y revela vulnerabilidades de las políticas antes de implementar la herramienta en toda la organización.

Cuatro plantillas copiables

1) Evaluación preliminar de derechos de autor:

Ayúdenme a evaluar los derechos de autor del siguiente contenido antes de cargarlo en una herramienta de inteligencia artificial: ¿puede el contenido tener derechos de autor, qué forma de uso es riesgosa, qué alternativa (extracto, permiso, dominio público) es más segura? Tipo de contenido: [aquí]

2) Escaneo de datos personales:

¿El siguiente texto contiene datos personales (nombre, contacto, identidad, historial de lectura/búsqueda, información que implica salud/creencia)? Marca cada uno, clasifícalo y sugiere cómo anonimizarlo. Texto: [aquí]

3) Borrador de política de uso de IA:

Borrador de pautas de uso de IA de una página para nuestra organización: (1) políticas de herramientas aprobadas, (2) tipos de datos nunca ingresados, (3) regla de validación de resultados, (4) responsabilidad y transparencia, (5) políticas de privacidad y derechos de autor. Sea breve y práctico. Contexto: [aquí]

4) Consulta de control ético:

Pruebe el siguiente uso planificado de la IA comparándolo con los valores bibliotecológicos: equidad de acceso, privacidad, precisión/integridad, riesgo de sesgo y señale las inquietudes, si las hubiera.Uso: [aquí]

Aviso débil / Aviso fuerte

Aviso débil:

¿Debería ponerlo en IA para resumir este libro?

La pregunta no tiene en cuenta los derechos de autor, las condiciones de los datos de la herramienta y las alternativas; Responder "sí" puede resultar en una violación de derechos.

Potente mensaje:

Su función: asistente de asesor de derechos de autor y privacidad. Estoy considerando darle el siguiente contenido a una herramienta de inteligencia artificial. Enumerar posibles problemas en términos de estado de derechos de autor, uso de datos del vehículo y riesgo de datos personales; sugerir alternativas más seguras (cita breve, permiso, dominio público, sistema cerrado). Reclamar seguridad jurídica, mostrar riesgos. Contenido y contexto: [aquí]

Aviso potente; Considera la decisión en términos de derechos de autor, condición de los datos y aspectos de privacidad y pone sobre la mesa alternativas seguras.

Tabla de dimensiones de gobernanza

Tamaño

pregunta basica

precaución

derechos de autor

¿Existe alguna infracción de entrada/salida?

Permiso, dominio público, breve extracto.

privacidad

¿Están protegidos los datos personales?

Anonimización, minimización

transparencia

¿El usuario lo sabe?

Información clara, consentimiento

Responsabilidad

¿Quién es responsable?

Política escrita, aprobación humana.

Valores

¿Están protegidos el acceso y la integridad?

Control ético, control de prejuicios

Errores comunes

• Subir contenido protegido por derechos de autor sin pensar. Existe riesgo de infracción de derechos de autor y condición de los datos.
• Ingresar datos personales a la herramienta pública. Invasión de la privacidad y riesgo legal.
• Ocultar el uso de la IA. Sin transparencia, la confianza se daña.
• Confundir “legal” con “ético”. Un uso legal puede ser poco ético.
• No establecer un marco de gobernanza. El uso incontrolado crea riesgos impredecibles.

En resumen

Los derechos de autor, la confidencialidad y la ética son la base de la responsabilidad de la biblioteconomía en la era de la IA. Evaluar el estado de los derechos de autor de la entrada y las condiciones de los datos de la herramienta; cuestionar los derechos de la salida; proteger los datos personales con anonimización y minimización; ser transparente para el usuario y obtener el consentimiento; Establecer un marco de gobierno claro en la organización. Los valores profundamente arraigados de la biblioteconomía (igualdad de acceso, privacidad, integridad, imparcialidad) son la brújula que pone a prueba cada uso de la IA. Cambios tecnológicos; La responsabilidad y los valores no cambian, y la responsabilidad última siempre recae en el ser humano.

Tarea de aplicación

Prepare un documento de reglas de uso de una página para su organización (o una organización ficticia) con la plantilla "borrador de política de uso de IA": herramientas aprobadas, datos que nunca se ingresarán, regla de validación, responsabilidad. Luego, pruebe un uso real de la IA que esté planeando en cuanto a acceso, privacidad, precisión y sesgo con la plantilla "Consulta de control ético" y escriba cómo abordará cualquier inquietud que surja.

lista de verificación

• [] Evalué el estado de los derechos de autor de la entrada y las condiciones de los datos de la herramienta.
• [ ] Anonimicé los datos personales y utilicé solo lo necesario.
• [ ] He sido transparente con el usuario sobre el uso de la IA y he respetado el consentimiento.
• [] He creado una política escrita de uso de IA para la organización.
• [] Probé el uso con valores de bibliotecario y mantuve la responsabilidad en lo humano.

Examen del módulo

1. ¿Cuál de las siguientes es la posición más precisa para la inteligencia artificial en la biblioteconomía y la gestión de la información?

• A) La IA es un asistente de resumen, metadatos, búsqueda y recomendación; La responsabilidad de la precisión, la confiabilidad de las fuentes y las decisiones éticas recae en los humanos ✔
• B) La inteligencia artificial puede verificar de manera confiable la autenticidad y exactitud de una fuente
• C) La inteligencia artificial sólo funciona en la catalogación de libros, no tiene nada que ver con otras labores bibliotecológicas
• D) Dado que la inteligencia artificial es más imparcial que los humanos, las decisiones sobre temas y clasificación deben dejarse en sus manos.

Descripción: Inteligencia artificial; Es un asistente que redacta metadatos, los resume, los traduce, marca el patrón y señala la fuente. El experto competente es responsable de tareas de gran importancia, como la verificación de la exactitud, las decisiones sobre temas y clasificación, la credibilidad de las fuentes y las decisiones sobre derechos de autor y privacidad; Una salida no verificada puede dar lugar a la difusión de una fuente inventada o una violación de la privacidad.

2. ¿Por qué las "alucinaciones" son particularmente peligrosas para el bibliotecario?

• A) La producción de la inteligencia artificial se produce muy lentamente y es una pérdida de tiempo.
• B) La inteligencia artificial puede producir de manera convincente fuentes y citas inexistentes, y la esencia de la profesión es la autenticidad de la fuente ✔
• C) La alucinación ocurre sólo en el procesamiento de imágenes, no tiene nada que ver con el texto.
• D) La alucinación sólo se ve en herramientas de inteligencia artificial muy antiguas, no en las actuales.

Explicación: Una alucinación es cuando la inteligencia artificial produce una fuente, cita o información inexistente de una manera extremadamente convincente. Dado que la esencia de la profesión es la autenticidad y confiabilidad de la fuente, si una impresión o cita inventada se transfiere a una bibliografía o a un usuario sin verificación, se producirá información errónea grave.

3. ¿Cuál de las siguientes es el área con mayor riesgo de fabricación al producir metadatos con inteligencia artificial y cómo se debe abordar?

• A) El área del idioma es el área de mayor riesgo y no necesita ser verificada.
• B) El campo del título conlleva el mayor riesgo y debe completarse con predicciones.
• C) El ISBN y el año de publicación conllevan el mayor riesgo de falsificación y deben verificarse palabra por palabra con la fuente original ✔
• D) Ningún campo es riesgoso porque la inteligencia artificial siempre produce metadatos correctamente

Explicación: La IA falsifica muy fácilmente los campos numéricos exactos, como el ISBN y el año de publicación; La IA puede generar un número aparentemente razonable en lugar de un ISBN que no conoce. Estos campos deben verificarse palabra por palabra con la fuente original (código de barras, pie de imprenta/colofónico).

4. ¿Cuál es el objetivo principal de utilizar 'vocabulario controlado' al asignar un término temático?

• A) Garantizar la coherencia terminológica y la disponibilidad en todos los registros; Evitar que la inteligencia artificial invente términos gratuitos ✔
• B) Agregar automáticamente al catálogo cada nuevo término solicitado por la inteligencia artificial
• C) Elimine los términos de materia por completo y busque solo por título.
• D) Ralentizar la catalogación y escribir cada registro con términos diferentes

Descripción: Un vocabulario controlado es una lista de términos estándar y aprobados. Si el mismo tema está escrito con diferentes términos en diferentes registros, el usuario encontrará uno y perderá el otro. Al darle a la IA esta lista y decirle que "simplemente seleccione de la lista", se mantiene la coherencia y la capacidad de búsqueda; No se debe agregar al catálogo un término nuevo que no esté incluido en la lista de inteligencia artificial.

5. ¿Cuál es el enfoque correcto a la hora de obtener el número de clasificación de un documento a partir de inteligencia artificial?

• A) El número exacto dado por la inteligencia artificial debe aceptarse directamente sin mirar la tabla oficial
• B) Los números de clasificación no deben usarse en absoluto, las fuentes deben archivarse al azar
• C) La propuesta de la clase magistral debe considerarse preliminar, los pasos exactos deben verificarse con la tabla de clasificación oficial ✔
• D) Dado que la inteligencia artificial no puede clasificar, esta tarea debe omitirse por completo

Explicación: La IA a menudo puede encontrar la clase principal correcta, pero puede omitir subniveles (por ejemplo, historial médico en lugar de medicina) o producir números incorrectos que parecen razonables. Por lo tanto, la propuesta de la clase magistral debe considerarse un comienzo y se deben verificar los pasos exactos con la tabla de clasificación oficial.

6. ¿Qué afirmación es verdadera al comparar la búsqueda semántica y la búsqueda de palabras clave?

• A) La búsqueda semántica debería reemplazar la búsqueda por palabras clave en todos los casos.
• B) La búsqueda semántica encuentra recursos semánticamente relacionados; La búsqueda de palabras clave por título exacto o ISBN es más confiable ✔
• C) La búsqueda por palabras clave encuentra fuentes con diferentes términos que están relacionados semánticamente mejor que la búsqueda semántica
• D) La búsqueda semántica solo funciona con datos numéricos, no con texto

Descripción: la búsqueda semántica encuentra recursos con palabras diferentes pero relacionados, como "problema del sueño" y "trastorno del sueño", porque coincide con el significado de las palabras (mediante vectores integrados). Por el contrario, cuando se busca un ISBN exacto, un título completo o un número de estatuto, una búsqueda de palabra clave/dominio es más confiable. La mejor práctica es utilizar ambos juntos.

7. ¿Cuál es el deber del bibliotecario frente al riesgo de una 'burbuja de filtro' en las recomendaciones personalizadas de recursos?

• A) Fortalecer la burbuja recomendando solo los recursos más similares al usuario
• B) Renunciar por completo a hacer sugerencias
• C) Compartir públicamente el historial de lectura del usuario
• D) Agregar conscientemente fuentes con diferentes perspectivas y horizontes y expresarlo de manera transparente ✔

Explicación: La burbuja de filtro ocurre cuando el sistema de recomendación bloquea constantemente al usuario en contenido similar y lo mantiene alejado de perspectivas nuevas y diferentes. El valor de la biblioteca es el acceso igualitario y diverso; Por lo tanto, el bibliotecario rompe conscientemente la burbuja agregando recursos reveladores y de apariencia diferente y expresándolo de manera transparente.

8. ¿Qué práctica es correcta en términos de 'autenticidad e integridad' al procesar un documento de archivo con inteligencia artificial?

• A) 'embellecer' el documento con inteligencia artificial, completarlo recuperando las partes que faltan y sustituir el original
• B) Eliminar el original en bruto y conservar solo la versión mejorada con inteligencia artificial
• C) El OCR solo debe corregir errores de reconocimiento, el contenido no debe modificarse, el original sin procesar debe conservarse y los derivados deben etiquetarse claramente ✔
• D) Acepte la salida de OCR como 'texto limpio' sin correcciones y ábrala para realizar búsquedas.

Descripción: La esencia del trabajo de archivo es la garantía de que el documento proviene de la fuente reclamada y que su contenido no ha sido alterado. La corrección de OCR sólo debería eliminar los errores de reconocimiento, no cambiar el contenido; La 'restauración' de la IA no sustituye a la evidencia real, ya que puede compensar las partes faltantes. El escaneo sin procesar (original) siempre debe conservarse y los derivados deben etiquetarse claramente.

9. ¿Cuál de los siguientes es necesario para la construcción responsable de un robot de información bibliotecaria?

• A) El robot produce respuestas a cada pregunta rápidamente a partir de su conocimiento general y no cita fuentes.
• B) El bot se basa únicamente en información corporativa verificada, cita hechos y dirige preguntas delicadas a un experto/humano ✔
• C) El bot brinda directamente consejos precisos sobre cuestiones médicas y legales.
• D) Ocultarse del usuario ya sea que esté hablando con un bot o un humano

Explicación: El robot de asesoramiento debe basarse únicamente en la información actual verificada y la lista de fuentes de la institución, no en su memoria general, debe proporcionar los hechos citando la fuente, no debe dar consejos sobre cuestiones médicas/legales/sensibles, debe dirigirlos al experto y debe transferirlos al humano cuando sea necesario. Así, el bot no reemplaza al humano, sino que se convierte en una capa que alivia la carga.

10. En bibliometría, ¿cuál es el método correcto para averiguar el recuento de citas de un autor o el índice h?

• A) Preguntar directamente a la IA, porque los números que da siempre son correctos
• B) Obtener los números de la base de datos de citas real; Usar inteligencia artificial solo para organizar e interpretar estos datos ✔
• C) Estimar los números y utilizarlos en las decisiones de transmisión.
• D) Considerar el número de citas como medida directa de la calidad de la obra de un autor.

Explicación: La inteligencia artificial puede inventar valores como el recuento de citas y el índice h sin acceder a datos reales (por ejemplo, puede dar un valor de 42 cuando en realidad es 19). Por lo tanto, los números y las citas deben tomarse de una base de datos de citas real; La IA sólo debería utilizarse para agrupar, clasificar e interpretar estos datos reales.

11. ¿Qué es cierto sobre el límite de las medidas bibliométricas (número de citas, índice h, factor de impacto)?

• A) Las métricas miden directamente la calidad y son comparables entre dominios
• B) Los criterios pueden usarse solos y con seguridad en las decisiones de contratación y ascenso.
• C) Las métricas indican uso, no calidad; no se puede comparar entre dominios y debe equilibrarse con una evaluación cualitativa ✔
• D) Los resultados de las humanidades están total y completamente representados en las bases de datos de citas.

Divulgación: estas métricas indican uso y visibilidad, no son medidas directas de calidad. Debido a que la cultura de las citas de los campos es diferente (como la medicina y la filosofía), no se pueden comparar directamente; La producción con gran cantidad de libros en humanidades está subrepresentada en las bases de datos. Por lo tanto, los criterios no deben usarse solos para evaluar a los individuos, sino que deben equilibrarse con la evaluación cualitativa.

12. ¿Cuál es la ventaja clave del enfoque RAG (fabricación con acceso aumentado) sobre una IA general?

• A) Reducir significativamente la alucinación vinculando la respuesta a los documentos reales de la institución y citando la fuente ✔
• B) Responder siempre perfectamente, independientemente de la calidad del documento base.
• C) Hacer que las alucinaciones sean total y permanentemente imposibles
• D) Abrir todos los documentos a todos sin necesidad de control de acceso

Explicación: Al responder una pregunta, RAG primero encuentra las piezas relevantes de los propios documentos de la institución y produce la respuesta basándose únicamente en estas piezas, citando la fuente. De esta manera la respuesta se vincula a documentación real y rastreable y la alucinación se reduce considerablemente. Sin embargo, RAG no elimina por completo la alucinación, ya que la respuesta puede seguir siendo incorrecta si se menciona la pieza equivocada.

13. En humanidades y ciencias sociales, ¿cuál es el método más confiable para verificar una cita de una IA a un usuario?

• A) Asegúrese de que la cita parezca creíble y fluida.
• B) Simplemente pidiéndole a la IA que reproduzca la misma cita.
• C) Verifique la cita buscándola en el trabajo real del autor ✔
• D) Aceptar que basta con que la cita se atribuya a un nombre famoso

Descripción: La inteligencia artificial puede generar citas completamente inventadas atribuidas a un autor real; El hecho de que la cita parezca precisa y convincente palabra por palabra no es prueba de su exactitud. El método más confiable es verificar la cita buscándola en el trabajo real del autor; La lógica de "este autor podría haber dicho algo como esto" no es suficiente.

14. ¿Qué principio es correcto al utilizar la inteligencia artificial en términos de derechos de autor, privacidad y ética?

• A) Los datos personales y con derechos de autor se pueden ingresar en herramientas públicas sin pensar porque es rápido
• B) Si un uso es legal, definitivamente es ético y no se requiere mayor evaluación.
• C) Cuando la inteligencia artificial produce un resultado, la responsabilidad pasa completamente a la herramienta, no al ser humano.
• D) Los derechos de autor y la privacidad deben respetarse desde el principio; el anonimato, la transparencia y el consentimiento son esenciales y la responsabilidad final recae en el ser humano ✔

Explicación: La entrada impulsiva de contenido protegido por derechos de autor y datos personales (ID de usuario, historial de lectura/búsqueda) en herramientas generales de inteligencia artificial puede resultar en una violación de los derechos y la privacidad; La anonimización, la minimización de datos, la transparencia y el consentimiento son esenciales. Además, incluso si un uso es legal, puede ser poco ético; "todo el mundo lo usa" o "sucede rápido" no justifica una práctica y la responsabilidad final recae en el experto, no en la herramienta.