Ganancias:
- Capacidad para explicar por qué las alucinaciones (fuente inventada, cita, evento) y el anacronismo son los errores más peligrosos de la historia.
- Capacidad para aplicar la disciplina de verificar cada referencia en el catálogo, comparar el contenido con el documento y confirmar de forma cruzada hechos críticos.
- Capacidad para cuestionar los sesgos y las voces faltantes en las fuentes preguntando a la inteligencia artificial dónde buscar en lugar de la fuente real.
Hay una advertencia que se repite en cada unidad de este módulo: el resultado de la IA es una afirmación, no un hecho, hasta que se verifique. Esta unidad convierte esa advertencia en una disciplina. La historia y el archivo son campos inherentemente basados en evidencia; La habilidad más básica de un historiador es la crítica de fuentes (cuestionar quién, cuándo, con qué propósito se produjo una fuente y qué tan confiable es). En la era de la IA, esta habilidad se ha vuelto aún más crítica porque ahora la fuente misma puede ser fabricada.
Aquí cubriremos tres peligros en profundidad: alucinaciones (la IA produce información, fuentes o citas inventadas), anacronismo (elementos periódicos que se trasladan al período equivocado) y la disciplina de verificación de fuentes en general. También veremos que la IA aprende de fuentes que fueron inexactas o sesgadas en el pasado, por lo que puede reproducir el sesgo.
Alucinación: el error más peligroso
Una alucinación ocurre cuando una IA presenta con confianza algo que en realidad no existe. Históricamente, se ve más comúnmente en las siguientes formas:
- Fuente/referencia inventada: Fondo de archivo, número de expediente, libro o artículo inexistente.
- Cita inventada: una palabra que en realidad no se dijo, una oración que no está en el documento.
- Evento/fecha/persona inventada: Un evento que no sucedió, una fecha falsa, una persona que no existe.
- Conexión ficticia: Relación causa-efecto inexistente entre dos hechos reales.
Lo que hace que una alucinación sea peligrosa es que parece creíble. Una referencia inventada tiene el mismo formato que una referencia real: nombre del fondo, número, fecha. Entonces "el formato se ve bien" nunca significa "correcto".
Atención: Ningún recurso producido por YZ puede ser utilizado sin haber sido verificado y encontrado en el catálogo o en un lugar confiable. La única forma de comprobar que existe una referencia es ver dónde se encuentra la fuente original (catálogo de archivo, biblioteca, publicación). "La IA lo dio" no es prueba.
Anacronismo: gafas de la época.
El anacronismo es ver el pasado a través de los lentes de hoy. Debido a que la IA está entrenada en el lenguaje actual, tiene una fuerte tendencia a:
- Término anacronismo: Utilización de una palabra, institución o concepto que no pertenece a la época.
- Anacronismo conceptual: Proyectar una idea del presente (por ejemplo, una ideología o identidad moderna) al pasado.
- Anacronismo de valores: juzgar el comportamiento pasado sólo según los estándares actuales.
El trabajo del historiador es comprender el pasado en su contexto. La IA carece de esta sensibilidad contextual; Debes proporcionarlo tú mismo.
Comprender por qué las alucinaciones ocurren con tanta frecuencia hace que sea más fácil protegerse contra ellas. La IA es un sistema que funciona para producir la "siguiente palabra más probable"; No tiene ningún propósito como "saber la verdad". Cuando se le hace una pregunta, sepa o no la respuesta, produce un texto que parece estadísticamente convincente. El formato de una referencia de archivo (nombre del fondo, número, fecha) es un patrón aprendido; La IA puede llenar este patrón sin una referencia real. Entonces “¿por qué la IA lo inventa?” La respuesta a la pregunta es simple: le resulta más fácil reconciliarse que "no saber". Sobre ti recae la responsabilidad de llenar estos moldes con recursos reales.
Disciplina de verificación de fuente: paso a paso
1. Verificar la existencia del recurso. Encuentre todas las referencias proporcionadas por AI en el catálogo/publicación. Si no lo encuentras, no lo uses.
2. Compara el contenido con la fuente. ¿La información que la IA atribuye a un documento existe realmente en el documento? ¿La cotización es exactamente la misma?
3. Confirmación cruzada. Para conocer un hecho crítico, consulte al menos dos fuentes independientes confiables.
4. Aplicar la crítica de las fuentes. ¿Es confiable la fuente en sí? ¿Quién lo produjo, cuándo y con qué propósito? ¿Es parcial?
5. Pasarlo por el filtro de anacronismo. ¿Hay términos, conceptos o juicios de valor que no se ajusten al período del resultado?
6. Cuestionar los prejuicios. ¿Podría la IA haber reproducido los sesgos de las fuentes históricas (ignorando a un grupo, favoreciendo un punto de vista)?
Capa de autenticación
Pregunta
quien lo hace
entidad
¿Existe realmente este recurso?
Tú en el catálogo.
Contenido
¿Esto realmente dice en el documento?
tu en el documento
Confirmación
¿Alguna otra fuente lo respalda?
tu, cruz
confiabilidad
¿Es confiable la fuente?
juicio experto
Periodo
¿Existen anacronismos?
juicio experto
prejuicio
¿De quién es la voz que falta o está distorsionada?
juicio experto
tres mini casos
Caso 1: Seis referencias inventadas. Un investigador pidió a la IA una lista de fuentes sobre un tema. YZ proporcionó 6 referencias de archivos con un formato perfecto. En la búsqueda del catálogo faltaban 4 de los 6, 2 de ellos tenían el número equivocado. Si el investigador no lo hubiera verificado, habría surgido un estudio que citaba fuentes inexistentes. Lección: cada referencia está verificada en el catálogo.
Caso 2: cotización inventada. Un escritor utilizaría una cita llamativa que la IA atribuye a un personaje histórico. Cuando investigó a la fuente, vio que no había ningún documento que demostrara que esa persona había dicho tal cosa, y que la declaración fue "inventada" por AI. Lección: las citas no se pueden utilizar sin la verificación de una fuente primaria o confiable.
Caso 3 — Reproducción del prejuicio. Un estudiante hizo que la IA explicara la historia de una región. La salida ignoró por completo a una comunidad específica en esa área porque las fuentes de las que la IA había aprendido también las habían ignorado. El estudiante notó y corrigió esta brecha con referencias cruzadas. Lección: La IA reproduce silencios y sesgos en las fuentes; Hay que preguntarse de quién es la voz que falta.
Cuatro plantillas copiables
1) Lista de verificación de referencia:
TODAS las fuentes, referencias, citas, fechas y nombres de personas en el texto a continuación aparecen en una lista separada. Agregue una nota para cada uno: "afirmado en este texto, debe ser verificado de forma independiente". Si no selecciona ninguno, "verificar"; Simplemente produzca una lista para verificar y poder verificarla desde el catálogo/fuente. Texto: [aquí]
2) Exploración de anacronismos:
Examina el texto sobre [período] a continuación. Resalte términos, instituciones, conceptos y valores que PUEDEN NO pertenecer a este período. Para cada uno, escriba brevemente por qué sospecha. Emitir un juicio final; Crea una lista de sospechas que el experto comprobará. Texto: [aquí]
3) Marco de crítica de fuentes:
Se redacta una crítica de la fuente siguiente: (1) Quién podría haberla producido, (2) Cuándo, (3) Con qué propósito, (4) Cuáles son sus posibles sesgos, (5) En qué temas se debe confiar y en cuáles se debe tener cuidado. Imponer sentencia definitiva; Proporcionar preguntas y posibles opciones de respuesta. Fuente: [aquí]
4) Falta control de volumen/bias:
¿La voz de QUIÉN y la experiencia de qué grupo podrían faltar o ser unilaterales en el siguiente resumen histórico? ¿Qué perspectiva es dominante y cuál es invisible? Produzca esto como una lista de preguntas; Lo llenaré de referencias cruzadas. Resumen: [aquí]
Aviso débil / Aviso fuerte
Débil:
Dame fuentes históricas confiables y citas sobre este tema.
La IA es muy propensa a producir referencias correctas en la forma pero fabricadas en el contenido cuando se le solicita "fuente" y "cita". Este mensaje es una invitación directa a la alucinación.
Fuerte:
Sugiera qué TIPO de fuentes (tipo de fondo de archivo, tipo de publicación, institución) debo buscar en mi investigación sobre este tema. ADECUAR una referencia específica, número de expediente o cotización; Sólo dime dónde buscar. Luego encontraré las fuentes reales de los catálogos.
Diferencia: a la IA se le pide "dónde buscar", no "referencia real"; El riesgo de alucinación se reduce radicalmente y la verificación queda en manos del ser humano.
Errores comunes
- Confiando en la referencia correcta. La referencia inventada también parece impecable; debe ser verificado en el catálogo.
- Tomando una cita directa de AI. Las citas no se pueden utilizar sin la confirmación de la fuente principal/confiable.
- Pasando por alto el anacronismo. Los términos y conceptos actuales se filtran silenciosamente en el pasado.
- Reproducir prejuicios. La IA copia silencios de las fuentes; Es necesario preguntar por el sonido que falta.
- Depender de una única fuente. Los hechos críticos deben ser confirmados por al menos dos fuentes independientes.
En resumen
La verificación de fuentes está en el centro de la historia y el archivado, y es aún más crítica en la era de la IA. La alucinación produce fuentes, citas y eventos cuya forma es perfecta pero cuyo contenido es ficticio; el anacronismo distorsiona el pasado a través de los lentes de hoy; y la IA reproduce sesgos en las fuentes. La defensa es una disciplina: verificar cada referencia en el catálogo, comparar el contenido con el documento, verificar los hechos críticos, filtrar por períodos y sesgos. Pregúntele a la IA “dónde buscar”, no “la fuente real”. El guardián de la verdad es siempre el experto.
Tarea de aplicación
Haga que la IA produzca una lista de recursos sobre un tema en el que esté trabajando (con un "mensaje débil" deliberadamente). Luego extraiga todas las referencias de este resultado con la plantilla "lista de validación de referencias" y busque cada una en un catálogo. Cuente cuántos existen realmente y cuántos son inventados o inexactos. Repita el mismo tema con un "mensaje fuerte" ("dónde debo buscar") y experimente la diferencia.
lista de verificación
- [] Verifiqué cada referencia en el catálogo/fuente confiable.
- [] He verificado cada cita con la fuente principal/confiable.
- [ ] He verificado hechos críticos con al menos dos fuentes independientes.
- [] Filtré el resultado en busca de anacronismos.
- [] Cuestioné las voces faltantes/distorsionadas y los prejuicios.