¿Cómo funciona la IA generativa?

Ganancias:

• Token puede explicar intuitivamente los conceptos de probabilidad y predicción.
• Entiende por qué un modelo de lenguaje produce texto "poco a poco"
• Puede interpretar por qué el modelo a veces se comporta de manera decisiva y a veces creativa.

Cuando escribes "lo mejor de Estambul" en un modelo de lenguaje, produce un párrafo fluido en unos segundos. ¿Cómo sucede esto? ¿El modelo realmente "piensa" o hay un mecanismo mucho más simple pero poderoso detrás de él? En esta unidad explicaremos cómo funciona la IA generativa, sin entrar en ecuaciones técnicas sino estableciendo la intuición correcta. Esta intuición es la base de todo lo que sigue, especialmente los temas de las alucinaciones, la verificación y la buena redacción. La IA generativa, es decir, "inteligencia artificial generativa", es el nombre común de las herramientas que crean texto desde cero en lugar de buscar y recuperar una respuesta existente.

Idea básica: predecir la siguiente pieza

Lo sorprendente es que la única tarea básica que aprende un modelo de lenguaje es "¿qué parte de un texto es más probable que siga?". es responder la pregunta. El modelo no prepara una oración completa y la presenta frente a usted. En lugar de ello, produce la frase pieza por pieza, de izquierda a derecha.

Así es como funciona paso a paso:

1. Lee el texto (mensaje) que escribes.
2. Predice la parte más probable que seguirá a este texto.
3. Agrega esa pieza.
4. Mira nuevamente el texto recién formado y adivina la siguiente pieza más probable.
5. Se repite hasta completar la respuesta.

Ejemplo: si le dio al modelo el texto "Tómate una taza caliente cuando te despiertes por la mañana...", la continuación más probable sería "té" o "café"; No "asfalto". El modelo ha aprendido tales probabilidades de millones de textos. Luego añade "té", luego mira la nueva frase y adivina la siguiente parte más probable, y así sucesivamente.

En otras palabras, en cada paso, el modelo da el siguiente paso mirando lo que ha escrito. Por eso a veces se la denomina "versión muy avanzada de autocompletar". Pero esta analogía no debería menospreciar el talento; En la escala adecuada, esta predicción puede producir resultados que parecen razonamientos.

Ficha: pequeños fragmentos de una palabra

En realidad, el modelo no funciona con "palabras" completas sino con piezas más pequeñas llamadas fichas. Una ficha; A veces es una palabra completa, a veces es parte de una palabra, a veces es un signo de puntuación.

• "libro" puede ser una sola ficha.
• "de nuestros libros" se puede dividir en varios tokens como "libro", "s", "nuestro", "de".
• Los espacios y los signos de puntuación también cuentan como tokens.

Atención: el token no es sólo un detalle técnico. La mayoría de las herramientas de inteligencia artificial cobran por cantidad de tokens, y la longitud del texto (ventana de contexto) que los modelos pueden procesar a la vez también está limitada en tokens. Entonces, "cuánto tiempo escribes" es un costo directo y un límite.

Probabilidad y “calidez”: ¿determinación o creatividad?

En cada paso, el modelo produce no una única respuesta definitiva sino una lista de probabilidades de posibles continuaciones. Por ejemplo, después de la palabra "caliente": té 55%, café 35%, leche 7%, otros 3%. Entonces, ¿cuál elige?

Aquí entra en juego un ajuste llamado temperatura. La temperatura es una especie de control de la creatividad que determina cuánto "arriesgará" el modelo.

Configuración

comportamiento

Conclusión

¿Dónde es útil?

baja temperatura

Siempre toma la opción más probable

Estable, repetible

Resumen legal, descripción técnica, extracción de datos.

temperatura media

Elección equilibrada

Natural pero consistente

Correo electrónico general, borrador de informe.

alta temperatura

Prueba opciones menos probables

Creativo, diverso, impredecible.

Lluvia de ideas, eslogan, producción de nombres.

Esto también explica la pregunta frecuente: "¿Por qué obtengo respuestas diferentes cuando hago la misma pregunta dos veces?" Porque existe cierta aleatoriedad en el proceso de selección; El modelo no extrae una respuesta fija de una base de datos, sino que la reproduce cada vez.

Aviso débil / Aviso fuerte

Saber que el modelo funciona con "probabilidad" también cambia la forma en que lo instruye. Cuanto más contexto proporciones, más probable será la continuación correcta.

Mensaje débil: escriba un texto introductorio.

Resultado: el modelo produce el texto más "promedio" y genérico porque no sabe qué producto, qué audiencia, qué tono.

Sugerencia importante: escriba un texto promocional en Instagram para el nuevo café filtrado de una pequeña cafetería. Público: 25-35 años, entusiasta del café. Tono: amigable, breve. Máximo 3 frases, 2 hashtags al final.

Resultado: un texto utilizable que es relevante porque el contexto reduce las posibilidades.

Tres mini estuches

Caso 1 — Marketing, alta variedad. Un equipo quería 30 eslóganes para un nuevo producto. Con su ajuste de alta temperatura, el modelo produjo opciones diferentes y creativas; El equipo seleccionó y desarrolló 4 de 30. Tiempo total: 10 minutos. Si se hiciera a mano tardaría medio día.

Caso 2 — Derecho, alta determinación. El equipo jurídico de la misma empresa estaba simplificando una cláusula del contrato. Querían coherencia, no creatividad; Con temperaturas bajas, el modelo proporcionó casi el mismo resumen conservador cada vez. Por lo tanto, no hubo inconsistencia entre los diferentes ensayos.

Caso 3: "¿Por qué cambió?" pregunta. Un empleado solicitó el mismo borrador de correo electrónico dos veces y recibió dos resultados diferentes; Pensó que fue un "error". De hecho, ésta es una consecuencia natural de la aleatoriedad del modelo. Una vez que el empleado aprendió a guardar la versión que le gustaba y a decir "hacerla como la anterior" si era necesario, no hubo problema.

¿El modelo "lo entiende"?

Ésta es la pregunta más curiosa. El modelo ha aprendido las relaciones estadísticas entre palabras tan a fondo que pretende comprender muchas tareas. Pero no tiene comprensión consciente, intención o mecanismo de control de la realidad. Produce "la secuela más probable"; No garantiza producir la "información más precisa". Esta distinción es la base del tema de las alucinaciones, que analizaremos en las próximas unidades.

Errores comunes

Errores comunes

• Confundir el modelo con un motor de búsqueda. El modelo no busca en Internet ni recupera recursos (a menos que haya una función de búsqueda especial); Genera texto posible desde la memoria. Para que pueda inventar la fuente/figura.
• Confundir fluidez con precisión. Sólo porque el texto sea hermoso y seguro no significa que su contenido sea correcto.
• Esperando siempre la misma respuesta. La aleatoriedad es natural; Guarde el resultado que desee para tareas críticas.
• Pegar texto muy largo e innecesario y superar el límite de tokens. La longitud aumenta el costo y puede distraer el enfoque del modelo; solo da el contexto necesario.

Atención: El hecho de que la modelo hable con fluidez y confianza no significa que hable correctamente. La fluidez es la consecuencia natural de la estimación de probabilidades; La precisión es algo que debe comprobarse por separado e independientemente.

En resumen

• La IA generativa genera texto paso a paso prediciendo el siguiente fragmento (token) más probable; construye la oración pieza por pieza.
• Los tokens son partes más pequeñas de palabras y establecen límites de costo y longitud.
• En cada paso, el modelo produce una lista de posibilidades; El ajuste de temperatura determina qué tan estable o creativa será la salida.
• La razón de diferentes respuestas a la misma pregunta se debe a la aleatoriedad inherente a este proceso.
• La modelo habla con fluidez, pero esto no garantiza que esté diciendo la verdad; La fluidez y la precisión son cosas diferentes.

Tarea de aplicación

Asigne a su herramienta de inteligencia artificial la misma tarea creativa (por ejemplo, "escribir una nota rápida de agradecimiento") dos veces seguidas y observe cómo difieren los resultados. Luego repita la misma tarea con la plantilla "Indicador potente", agregando contexto y observe la diferencia de calidad entre los dos resultados.

Lista de verificación

• [] Puedo explicar que el modelo produce el texto "prediciendo el siguiente fragmento posible".
• Sé qué es [ ] Token y por qué significa costo/límite.
• [ ] Puedo distinguir entre trabajos que requieren determinación y aquellos que requieren creatividad.
• [ ] Sé que es normal obtener diferentes respuestas a la misma pregunta.
• [] He interiorizado que la fluidez no es garantía de precisión.