Ganancias:
- Comprender la lógica de la generación basada en conocimiento (RAG) y por qué reduce las alucinaciones
- Capacidad de hacer que el modelo responda con citas, basándose únicamente en los documentos fuente proporcionados
- Capacidad para gestionar preguntas que no están en la fuente transfiriéndolas de forma segura, sin inventar preguntas
Un modelo de idioma "sabe" mucho, pero no conoce la política de devoluciones de su empresa actual, su lista de precios actual o su acuerdo de envío que cambió ayer. Peor aún, cuando no lo sabe, a menudo se lo inventa y escribe en un tono extremadamente seguro. Este es un error fatal en el servicio al cliente: el modelo dice "Los reembolsos se emiten dentro de los 30 días", mientras que su póliza puede ser de 14 días. El enfoque que cierra esta brecha se llama RAG: Retrieval-Augmented Generation, es decir, "recuperación-producción aumentada".
La idea es simple: el modelo responde la pregunta no de memoria, sino a partir de los documentos fuente correctos colocados frente a él en ese momento. Primero, la parte correcta del documento relevante a la pregunta es "recuperación", luego el modelo "genera" la respuesta basándose únicamente en esa parte. En esta unidad, comprenderá la lógica de RAG y aprenderá cómo controlar el modelo para que solo se adhiera a la fuente verificada que usted proporcione.
Nota: Esta unidad enseña la lógica de trabajo y el lado rápido de RAG. Los sistemas de recuperación automática de documentos a escala empresarial (bases de datos vectoriales, etc.) requieren una instalación técnica; La disciplina aquí es la base para que ese sistema responda correctamente.
¿Por qué RAG reduce las alucinaciones?
La alucinación es cuando el modelo produce información irreal como si fuera real. El modelo está programado para producir una respuesta que parece "posible" cuando ve una brecha; No se si es verdad o no. RAG llena este vacío: le da al modelo el texto relevante real junto con la pregunta y dice "solo responda desde aquí". De esta manera, el modelo no "necesita" encajar.
Hay tres componentes:
- Base de conocimientos: textos confiables como preguntas frecuentes, documentos de políticas, manuales de productos, listas de precios.
- Recuperación: Encontrar el documento que contiene la respuesta a la pregunta y entregárselo al modelo.
- Edición limitada: El modelo responde con cotización, basada únicamente en la pieza suministrada.
Paso a paso: una respuesta fiel a la fuente
- Prepara la fuente. Encuentre el texto en el que se basará la respuesta (política, preguntas frecuentes) en un formato claro y actualizado.
- Incruste la fuente en el mensaje. Coloque el texto en una etiqueta como <fuente>.
- Escribe la regla de lealtad. "Utiliza sólo la información de la fuente; no te desvíes de la fuente."
- Hacer que la cita sea obligatoria. Déjele indicar en qué sección se basa la respuesta.
- Identificar comportamientos no relacionados con los recursos. Si la respuesta no está en la fuente, que diga "No tengo esta información" y la transmita.
- Verificar. Confirme la respuesta comparándola con la oración fuente en la que se basa.
Avisos copiables
Mensaje de respuesta basado en la fuente subyacente:
Rol: Eres un asistente de atención al cliente. Responda la pregunta SÓLO basándose en la información del bloque <fuente>a continuación. No agregue ninguna información que no esté en la fuente, adivine o responda desde su conocimiento general. Agregue la sección en la que confía al final de su respuesta en el formato "[Fuente: ...]". Si la respuesta no está en la fuente, escriba lo siguiente: "No tengo información definitiva sobre este tema, lo transfiero a un funcionario que puede darle la respuesta correcta".<source>{{ Policy_or_faq_text }}</source>Pregunta: {{ customer_question }}
En caso de fuentes múltiples, el mensaje muestra en qué documento se basa:
Hay varios recursos enumerados a continuación. Al responder la pregunta, indique el número de la fuente que utilizó, como [Fuente 2]. Si más de una fuente lo contradice, dígalo claramente y especifique que debe preguntar cuál está más actualizada.<sources>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>Pregunta: {{ customer_question }}
Mensaje que gestiona de forma segura la pregunta sin fuente:
Si la respuesta a la pregunta se encuentra PARCIALMENTE en la fuente: responda solo la parte cubierta por la fuente y diga "este detalle no está en la fuente" para la parte restante. Nunca completes la parte que falta adivinando.
Mensaje que traduce la respuesta al idioma del cliente, pero se mantiene fiel a la fuente:
Traducir la expresión oficial/técnica de la fuente a un lenguaje sencillo que el cliente pueda entender, pero NO cambiar el significado ni los valores numéricos (día, importe, tarifa). Por ejemplo, redondear "14 días naturales" a "aproximadamente dos semanas"; mantener el valor total.
Aviso débil / Aviso fuerte
Aviso débil
Mensaje potente
"Cuéntanos sobre nuestra política de devoluciones"
Inserta fuente + "responder solo aquí" + solicita cotización
Respuesta de memoria del modelo (quizás incorrecta)
Responda desde su documento actual
Si no está en la fuente, lo inventa.
Dice "No tengo esta información" y la transmite.
Puede redondear y distorsionar números.
Mantiene el día/cantidad/tarifa exactamente
La diferencia es que el mensaje fuerte le da al modelo un ancla (texto fuente) y una prohibición (salir de la fuente). El modelo ya no habla de memoria, sino de la realidad que tiene delante.
Tres mini estuches
Caso 1: La vieja trampa política. "Se aceptan devoluciones dentro de los 30 días", dijo el robot de una tienda mientras funcionaba sin crédito; Sin embargo, la empresa redujo el plazo a 14 días. Cuando el texto de la política actualizada se agrega a la fuente en la instalación de RAG, el bot ahora responde "14 días calendario [Fuente: Política de devoluciones, artículo 2]". Se han restablecido las disputas de reembolso derivadas de promesas falsas.
Caso 2: Captar la contradicción. Un cliente preguntó sobre los costos de envío. Tanto la lista de precios antigua como la nueva se ingresaron al sistema como fuentes. Gracias al mensaje de múltiples fuentes, la modelo dijo: "Dos fuentes dan precios diferentes (49 TL y 59 TL); necesito confirmar el actual" y transmitió el problema al humano. En lugar de decirle al cliente una cantidad incorrecta, le comunicó la incertidumbre con sinceridad.
Caso 3: Disciplina de respuesta parcial. “¿Envían el producto al extranjero y quién paga los derechos de aduana?” En la pregunta la fuente solo dijo que se realizó el envío, no había nada sobre quién pagó el impuesto. El modelo decía: "Sí, el envío se realiza al extranjero [Fuente: Cargo FAQ]. Sin embargo, en este documento no se indica quién paga los derechos de aduana; lo transfiero al funcionario para que aclare esto". En lugar de una respuesta medio cierta y medio inventada, produjo un resultado honesto y seguro.
Consejo: mantenga la versión más actualizada y única de su base de conocimientos. Tener la misma información (por ejemplo, período de devolución) escrita de manera diferente en tres documentos separados es el mayor enemigo de RAG; El modelo responde de forma diferente según a cuál mire. Primero deduplica tus documentos y luego automatízalos.
Verificación: no se relaje sólo porque la fuente existe
RAG reduce en gran medida la alucinación pero no la restablece. En ocasiones, el modelo puede malinterpretar la fuente, mezclar dos oraciones o sacar una “conclusión” que no está en la fuente. Por eso el requisito de citación es fundamental: abra la sección en la que dice basarse la respuesta y compruebe si realmente lo dice. Este control es innegociable, especialmente en respuestas que contienen números (día, monto, tarifa) y condiciones (excepción, condición).
Precaución: si la fuente en sí es incorrecta o está desactualizada, RAG repite fielmente ese error. Decir "el modelo habla desde la fuente" no significa "el modelo habla correctamente"; Usted es responsable de la actualidad y exactitud de su fuente.
Mantener la base de conocimientos lista para la respuesta
La calidad de RAG depende en gran medida de cómo esté escrito el texto fuente. El modelo arroja una respuesta mucho más precisa que los textos bien estructurados, titulados y de un solo tema. Consejos prácticos: escriba sus políticas en secciones breves con títulos en lugar de párrafos largos y anidados; Deja que cada sección responda a una única pregunta ("¿Cuántos días es el plazo de devolución?", "¿Qué productos no se pueden devolver?"). Mantener las preguntas frecuentes (FAQ) en un formato de preguntas y respuestas facilita que el modelo encuentre la pieza correcta. Indique valores como fecha, monto y tasa de manera clara y en un solo lugar dentro del texto; Escribir el mismo número de manera diferente en diferentes secciones confunde al modelo.
Otro hábito importante es mantener viva la base de conocimientos. Las políticas, precios y promociones varían; Si la fuente no se actualiza, el modelo continúa repitiendo con seguridad la vieja verdad. Con cada cambio de política, actualice la fuente y vuelva a hacerle al modelo algunas preguntas de prueba sobre el tema modificado para confirmar que proporciona la respuesta correcta. Este mantenimiento pequeño pero regular evita que el sistema RAG "falle silenciosamente" con el tiempo.
Errores comunes
- Decir "explicar nuestra política" sin enterrar la fuente y confiar en la memorización del modelo.
- No definir el límite de "respuesta sólo desde la fuente" y el comportamiento sin fuente.
- No solicitar una cita/referencia de fuente y dejar la respuesta no verificable.
- Mantener versiones contradictorias de la misma información en varios documentos de la base de conocimientos.
- Permitir que el modelo redondee/interprete valores numéricos.
- Olvidar actualizar la fuente, provocando que el modelo repita fielmente información antigua.
En resumen
- RAG significa que el modelo produce su respuesta a partir del documento fuente actual, en lugar de hacerlo desde la memoria.
- La forma más práctica de reducir las alucinaciones: enterrar la fuente, decir "sólo responde aquí", pedir una cita.
- Si la respuesta no está en la fuente, no se debería ajustar a un modelo; Debería decir "no lo tengo" y entregárselo.
- Hacer que el modelo sea consciente de las fuentes conflictivas; Conservaste los valores numéricos exactamente.
- La precisión del RAG depende de la puntualidad de su fuente; Confirme siempre la cotización.
Tarea de aplicación
Tome un texto de política real (devolución, envío o membresía) de su propio negocio e incorpórelo como fuente en el mensaje básico de RAG anterior. Luego haga tres preguntas: (1) una pregunta cuya respuesta esté clara en la fuente, (2) una pregunta cuya respuesta no esté en absoluto en la fuente, (3) una pregunta cuya respuesta solo esté incompleta en la fuente. Verifica que el modelo responda correctamente, diga “no lo tengo” y honestamente marque la respuesta parcial y la faltante, respectivamente. Corrija el comportamiento desviado fortaleciendo las reglas de lealtad y no recursos en el mensaje.
lista de verificación
- [] Incrusté la fuente actual en la que se basará la respuesta en el mensaje.
- [] Agregué la regla "Solo responde de la fuente, no vayas más allá".
- [] He puesto un requisito de cita/referencia de fuente.
- [] Definí el comportamiento de delegación si la respuesta no está disponible en la fuente.
- [] Requerí que los valores numéricos se conserven exactamente.
- [] Confirmé la respuesta de la oración fuente en la que se basa.