Ganancias:
- Saber por qué la alucinación está oculta en el dominio humano y poder pasar cada fuente a través de la cadena de verificación de cinco pasos (existencia, huella, cita, contexto, atribución)
- Capacidad para confirmar la autenticidad de la fuente con identidades concretas como DOI, ISBN y catálogo.
- Comprenda la disciplina de prohibir que la inteligencia artificial haga fabricaciones y nunca delegarle la verificación de las citas y la honestidad de la atribución.
El valor de un texto en el ámbito humano y social depende de la autenticidad y exactitud de las fuentes en las que se basa. Un ensayo literario, una tesis, una nota de conferencia, todos se basan en fuentes confiables y atribuciones honestas (que muestran quién y dónde obtuvo información o una cita). La IA ofrece una gran comodidad en este campo, pero también conlleva el mayor peligro: la alucinación, es decir, hacer que una fuente, cita o hecho inexistente sea real. Esta unidad se dedica a establecer una "armadura de verificación" contra este peligro.
Regla de una sola frase: ninguna fuente, cita, fecha o número generado por IA puede ingresar el texto sin la confirmación en primera persona de una fuente primaria o confiable. Esta regla es la más repetida y la menos flexible de este módulo.
¿Por qué las alucinaciones son tan peligrosas en este campo?
Si la IA se equivoca en una cuestión técnica, a menudo se notará; pero en la esfera humana la alucinación se oculta hábilmente:
- Firma realista: AI combina el nombre de un autor real con un título apropiado para el campo y un año razonable. El resultado es una fuente que no existe pero que parece exactamente real.
- Cita adecuada al estilo: La IA puede imitar el estilo de un autor y presentar una frase que no le pertenece como "su palabra".
- Fecha cercana pero incorrecta: El año de una obra puede estar desplazado uno o dos años; Esto se le escapa al lector descuidado.
- Atribución confusa: Puede atribuir una idea a la persona equivocada.
Todos estos pueden infiltrarse silenciosamente en el texto de un autor con intenciones honestas y, si no se detectan, dañar tanto la reputación del autor como la confianza del lector.
Precaución: El hecho de que un recurso parezca "realista" para la IA no significa que sea real. Realismo y realidad son dos cosas diferentes; La IA es experta en lo primero, pero no puede garantizar lo segundo.
Armadura de verificación: paso a paso
Para cada fuente y cita, siga esta cadena:
- ¿Hay? Busque la fuente en el catálogo de la biblioteca, en una base de datos confiable o en el sitio del editor. Si no se puede encontrar, no existe; no lo uses.
- ¿La impresión es correcta? Autor, título, editorial/revista, año, página: todo debe coincidir exactamente.
- ¿Es real la cita? Busque la cita en la propia fuente, en la página especificada, y compárela palabra por palabra.
- ¿Es correcto el contexto? ¿La cita se usa literalmente o ha sido distorsionada?
- ¿Es honesta la atribución? ¿Se atribuye la idea a la persona adecuada? ¿Algo tomado de una fuente secundaria se presenta como primario?
Si incluso un eslabón de esta cadena se rompe, no puede ingresar el texto fuente.
Consejo: Indique a la IA desde el principio: "No proporcione ninguna fuente de la que no esté seguro; si no está seguro, diga 'No pude encontrar la fuente'". Esto no pone fin a la alucinación por completo, pero hace que la IA diga "No sé" en lugar de hacer las paces.
Citación y disciplina de citación.
Junto con la verificación, la atribución honesta también es una disciplina:
- Dé la cotización directa con comillas y página; Que sea literalmente.
- También vincule la cita indirecta (que resuma con sus propias palabras) a la fuente; Si la idea no es tuya, necesita atribución.
- Indique de forma transparente la contribución de la IA según la regla de su organización; La IA no es un “recurso”, pero si se utiliza, debe declararse.
- No presente la fuente secundaria como primaria; Si tomaste una cita de un autor de otro libro, indícalo.
tres mini casos
Caso 1: Dos de las cinco fuentes resultaron ser ficticias. Un investigador pasó por el proceso de verificación de 5 fuentes proporcionadas por AI. 2 no estaban en el catálogo en absoluto, 1 tenía el año equivocado, 2 eran reales y correctos. Sólo se utilizaron los 2 verificados; artículo protegido contra atribuciones ficticias.
Caso 2: Se detectó distorsión de cotización. Un estudiante encontró una cita de AI en un libro real, pero la cita significaba exactamente lo contrario en el contexto original. La IA había sacado de contexto la frase. El estudiante corrigió la cita con su contexto correcto.
Caso 3: Atribución incorrecta corregida. En una nota de conferencia, AI atribuyó una opinión al autor equivocado. Cuando el maestro lo cotejó con dos fuentes confiables, encontró al dueño legítimo y lo arregló. La nota sobrevivió sin perjudicar al estudiante.
Cuatro plantillas copiables
1) Instrucción de prohibición de fabricación:
De ahora en adelante: NO proporcione ninguna fuente, cita, fecha o número cuya existencia no esté seguro. Si no está seguro, diga "necesita verificación" o "No pude encontrarlo". Nunca des una etiqueta que sea realista pero no puedas garantizar su autenticidad. Siga esta regla con cada respuesta.
2) Hoja de ruta de verificación de fuentes:
Verificaré la fuente a continuación yo mismo. Dime dónde buscar este recurso (catálogo, base de datos, editorial) y con qué información clave. USTED confirma que el recurso existe; solo da los pasos de verificación. Fuente: [pegar crédito]
3) Verificación del contexto de la cotización:
A continuación se muestra una cita y el párrafo real en el que aparece. ¿Se utiliza la cita en su contexto original o ha sido distorsionada? Confía únicamente en el texto que te di; agregando un comentario.Cita: [...] Párrafo original: [...]
4) Auditoría de integridad de atribuciones:
En mi texto a continuación: qué oraciones requieren una fuente pero permanecen sin atribuir, qué idea puede pertenecer a otra persona, ¿hay algún lugar donde muestro la fuente secundaria como primaria? Sugerir fuentes inventadas; simplemente señale las citas que faltan. Texto: [pegar texto]
Aviso débil / Aviso fuerte
Débil: "Proporcione 5 fuentes académicas y citas sobre este tema".
Güçlü: "Dígame qué tipo de fuentes y palabras clave debo buscar mientras investigo sobre este tema. No proporcione ninguna referencia o cita que no esté seguro de que existe; si no está seguro, diga 'No pude encontrarlo'. Le daré las fuentes que encuentre más adelante; confirmaré las citas de los libros".
El poderoso mensaje cierra la puerta a la alucinación y deja la verificación al ser humano. El mensaje débil invita directamente a la producción de recursos imaginarios.
Tabla de cadena de validación
paso
Pregunta
ubicación de verificación
entidad
¿Existe realmente la fuente?
Catálogo / base de datos
imprimir
¿Son correctos el autor, año y página?
Editorial/pie de imprenta
citar
¿Está textualmente en el texto?
la fuente misma
Contexto
¿Está distorsionado el significado?
párrafo principal
Citación
¿A la persona adecuada?
verificación cruzada
Verificación con enlace permanente e impresión
Existen formas concretas de confirmar de forma rápida y fiable si un recurso realmente existe. La mayoría de las publicaciones académicas modernas tienen un DOI (Identificador de objeto digital: una identificación única e inmutable asignada permanentemente a una publicación; actúa como un enlace y conduce directamente a la publicación). Si accede a la publicación real cuando escribe el DOI de un artículo en un navegador, esa fuente existe; Si no puede encontrarlo o el DOI no existe en absoluto, sospeche. Los “DOI” generados por IA a menudo son inventados y no llegan a ninguna parte; Esta es una de las pruebas más prácticas para capturar la fuente imaginaria.
ISBN (Número de libro estándar internacional) proporciona una identificación similar para los libros; Puede verificar la autenticidad del libro buscándolo por ISBN en el catálogo de una biblioteca o en una base de datos de libros confiable. Para publicaciones periódicas, consulte el nombre de la revista y la información del volumen/número en el sitio web oficial del editor. Estas identidades concretas son la respuesta a la pregunta "¿Es real la fuente?" Responde claramente a su pregunta en cuestión de minutos.
Estos métodos convierten la verificación en una “transacción” en lugar de un “stock”: cuando abres y ves cada fuente en persona, en el catálogo, por DOI o en el sitio del editor, el riesgo de atribución fantasma se elimina en gran medida.
Consejo: Cuando termines tu bibliografía, haz un “recorrido de clic”: abre el DOI o registro de catálogo de cada fuente. Incluso un único recurso que no se abre es una advertencia; corríjalo con la impresión correcta o elimínelo de la lista.
Errores comunes
- Confundir realismo con realidad. La identidad plausible de una IA no prueba su existencia.
- No verificar la cita de la fuente. Es posible que se filtren citas inventadas o distorsionadas.
- Obtener la historia de una sola fuente. Verifique con al menos dos fuentes confiables.
- Hacer que la secundaria parezca la primaria. Indique honestamente la cadena de transmisión.
- Citando a la IA como fuente. La IA no es un recurso; Se declara su uso, se hace referencia a la fuente primaria.
En resumen
La honestidad en las humanidades depende de la precisión de las fuentes y las citas. El mayor peligro de la IA es que produce fuentes y citas que parecen realistas pero que no existen. Pase cada fuente y cita a través de la cadena de verificación de cinco pasos (entidad, crédito, cita, contexto, atribución). Prohibir que la IA fabrique desde el principio y nunca delegarle la verificación. Esta disciplina es la garantía de tu fiabilidad en esta profesión.
Tarea de aplicación
Intente que la IA sugiera algunas fuentes y una cita sobre un tema. Ejecute cada fuente a través de la cadena de verificación: ¿cuántas existen realmente, cuántas tienen la atribución correcta, la cita está realmente en la fuente? Escribe los resultados en una tabla. Esta experiencia mostrará concretamente los límites de la IA en este campo.
lista de verificación
- [ ] Confirmé la existencia de cada recurso en el catálogo.
- [] He verificado cada cita textualmente de la fuente original.
- [ ] He comprobado que el contexto de la cita no ha sido distorsionado.
- [ ] He verificado las fechas con al menos dos fuentes.
- [] Prohibí que la IA fabricara y no le delegué la verificación.