Introducción a la inteligencia artificial en química: roles, límites, validación y ética

Ganancias:

• Ser capaz de distinguir dónde la inteligencia artificial ahorra tiempo en el flujo de trabajo de la química (idea, diseño, análisis, informes) y dónde las decisiones de estructura, número, recursos y seguridad se dejan en manos de los humanos, dependiendo del nivel de riesgo.
• Capacidad para aplicar una disciplina que verifica de forma independiente cada resultado con los cuatro pasos de Estructura-Número-Recurso-Seguridad.
• Comprenda por qué los compuestos y números inventados, las referencias falsas y los conceptos erróneos de seguridad son riesgos para esta profesión que deben considerarse desde el principio.

La química es una ciencia experimental que estudia la estructura, transformación y propiedades de la materia. Un químico pesa, disuelve, calienta y mide en el laboratorio; En su escritorio, dibuja moléculas, planifica reacciones, interpreta espectros, escanea la literatura y escribe informes. La inteligencia artificial (IA para abreviar, aquí específicamente software que genera texto prediciendo la “siguiente palabra más probable”, entrenada en un modelo de lenguaje grande, es decir, datos de texto masivos) puede acelerar dramáticamente muchos de estos trabajos de escritorio. Pero no construye el laboratorio en sí, no lee las escalas y, lo más importante: no verifica ningún número, fórmula o cita que produzca en su nombre. Este módulo enseña cómo utilizar la IA en química de un extremo a otro, pero de manera responsable.

En esta primera unidad, quiero plantarles una idea en la mente: la IA es un asistente en química, no un químico. Escribe código, produce esquemas, construye un marco de retrosíntesis, ayuda a interpretar los picos del espectro y resume la literatura. Sin embargo, es el químico competente quien decide si la molécula realmente puede sintetizarse, si una reacción es segura o no, si una referencia es genuina o no y cuál es la responsabilidad final.

¿Dónde encaja la IA en el flujo de trabajo de la química?

Dividamos aproximadamente un proyecto de química en cinco fases: (1) idea y literatura, (2) diseño de moléculas y reacciones, (3) aplicación de laboratorio, (4) análisis y caracterización, (5) informes. La IA conlleva valores muy diferentes en estas etapas.

• Ideas y literatura: la IA resume rápidamente un tema, explica conceptos clave y genera términos de búsqueda. Pero puede inventar la atribución; Veremos esto en un momento.
• Diseño: Genera SMILES (una forma de escribir la molécula como una cadena de texto; más sobre esto más adelante), sugiere pasos de retrosíntesis, enumera alternativas reactivas. La sugerencia es buena, no una garantía.
• Laboratorio: la IA no hace nada aquí. El pesaje, el calentamiento y las medidas de seguridad son realizados por personas. La IA sólo ayuda a redactar el procedimiento; Antes de realizar ese procedimiento, un humano debe supervisarlo por seguridad.
• Análisis: Al interpretar NMR, IR, espectro de masas (estas son técnicas de medición que muestran la estructura de la molécula), YZ ayuda a agrupar los picos y enumerar posibles estructuras. La tarea final es tuya.
• Informes: Produce cuaderno experimental, borrador de artículo, borrador de formulario de seguridad. Es muy poderoso; pero los números deben coincidir con los tuyos.

Consejo: El lugar más seguro para usar la IA es en las áreas "si algo sale mal, se notará y se solucionará de inmediato": borrador de texto, esqueleto de código, descripción de términos. Los lugares más riesgosos son las áreas de "si es falso, se propaga silenciosamente": constantes, referencias, afirmaciones de seguridad, resultados numéricos.

¿Por qué tenemos que tener cuidado? Tres riesgos estructurales

El modelo del gran lenguaje no es una calculadora ni un motor de química. Produce texto que estadísticamente "parece probable". Esto conduce a tres riesgos concretos en la química:

1. Inventado (alucinación): Puede escribir con seguridad un compuesto que no es un modelo, una reacción que no existe o un peso molecular incorrecto. Por ejemplo, dice "El peso molecular del compuesto X es 154,2 g/mol", mientras que el valor correcto es 168,2.
2. Cita falsa: puede proporcionar una fuente que parece realista pero que no existe en absoluto, como "Smith et al., 2019, Journal of Organic Chemistry". Incluso puede inventar un número DOI.
3. Falacia de seguridad: puede presentar una combinación peligrosa de reactivos (por ejemplo, un oxidante y un disolvente orgánico en una proporción inapropiada) como "no hay problema".

Estos tres riesgos aparecerán una y otra vez en cada unidad de este módulo. La solución no es escapar de la IA, sino establecer la disciplina de verificar cada resultado con una fuente independiente.

mini casos

Caso 1: peso molecular ajustado. Un estudiante de posgrado preguntó a AI el peso molecular del paranitrofenol. “139,11 g/mol”, dijo la IA. El estudiante tenía confianza y planeó pesar 6,96 g por 0,05 mol. Sin embargo, el peso molecular del paranitrofenol es 139,11 g/mol, y esta vez era correcto, pero el estudiante nunca lo había comprobado. En el siguiente compuesto (paraaminofenol, valor real 109,13 g/mol), YZ dijo “123,15”; Esta vez el alumno lo captó calculándolo a mano a partir de la fórmula (C6H7NO2): 6×12.011 + 7×1.008 + 14.007 + 2×15.999 = 109.13. Lección: calcular cada peso molecular sin fórmula.

Caso 2: DOI falso. Un investigador pidió a AI cinco fuentes en su revisión de la literatura. El DOI de dos de los cinco devolvió "no encontrado" al hacer clic; Los titulares eran objetivos, pero los artículos no. Pérdida de tiempo 40 minutos. Lección: no todas las citas deben usarse sin verificación en la base de datos (DOI, PubMed, Reaxys).

Caso 3: Peligro que parece seguro. Un usuario preguntó a la IA sobre un procedimiento de limpieza; La IA sugirió indirectamente mezclar una solución que contenga hipoclorito con una solución ácida, una combinación que podría liberar cloro gaseoso. Por suerte el usuario miró la ficha de datos de seguridad (SDS) y se detuvo. Lección: cada procedimiento es inspeccionado por humanos para detectar SDS y peligros antes de implementarse.

Aviso débil / Aviso fuerte

Aviso débil:

Sintetiza esta molécula.

Esta afirmación es vaga: ¿qué molécula, qué materiales de partida, a qué escala, qué limitaciones? La IA compensa las lagunas.

Potente mensaje:

Rol: Eres un asistente experimentado en síntesis orgánica. Molécula objetivo: 4-metoxiacetofenona (SONRISAS: COc1ccc(cc1)C(C)=O). Tenemos anisol como material de partida. Tarea: Dar una propuesta de retrosíntesis de 2 pasos. Para cada paso: reactivos, condiciones (temperatura, disolvente) y POSIBLES reacciones secundarias. Restricción: Marque "VERIFICAR" donde no esté seguro, apropiado. Salida: pasos numerados + lista de puntos a verificar.

Diferencia: rol, objetivo exacto (con SMILES), contexto, número de pasos, formato de salida y restricción de "adaptación". Estos son los cinco componentes de una buena estimulación en química: rol, representación estructural precisa, contexto, tarea y restricción de verificación.

Tipos de herramientas de IA: ¿modelo de lenguaje o herramienta de química?

En química te encuentras con dos "IA" diferentes y es fundamental no confundirlas:

Género

¿Qué hace?

confiabilidad

Uso de ejemplo

Modelo de lenguaje general

Genera texto/código, explica, escribe borradores.

Pocos números, mucho lenguaje

Esquema del procedimiento, explicación de la terminología.

Biblioteca de química (RDKit, etc.)

Procesa la molécula de forma determinista, calcula el peso molecular.

Alto (basado en reglas)

Verificación SMILES, cuenta MA

Modelo de predicción personalizado (retrosíntesis, función)

Ofrece predicción entrenada con datos.

Medio, dependiendo de la zona

Retrosíntesis, estimación de solubilidad.

Literatura/herramienta de búsqueda

Consultas de bases de datos reales

Alto dependiendo de la fuente

Confirmación de atribución, búsqueda de reacciones.

El flujo de trabajo más sólido combina estos: el modelo de lenguaje genera la idea, la biblioteca de química calcula el número de manera determinista, la herramienta literaria verifica la atribución, el humano valida. Estableceremos esta cadena en las próximas unidades.

Disciplina de verificación: CUATRO pasos

Realice cada resultado de IA a través de estos cuatro pasos antes de ingresarlo al laboratorio o informarlo:

1. Estructura: ¿Es válida la notación molécula/reacción (SMILES/InChI)? ¿Se puede analizar con una herramienta (RDKit)?
2. Número: ¿Se han verificado de forma independiente el peso molecular, la estequiometría y el cálculo del rendimiento (a mano o en una biblioteca)?
3. Fuente: ¿Se han verificado todas las afirmaciones y atribuciones en una base de datos real?
4. Seguridad: ¿Se ha leído la SDS de cada reactivo del procedimiento? ¿Existen combinaciones peligrosas?

Nota: Estos cuatro pasos se aplican "siempre", no "a veces". 20 situaciones en las que la IA es correcta no excusan 1 situación en la que es incorrecta; porque en química esa 1 situación podría ser una explosión, un envenenamiento o un artículo retractado.

Errores comunes

• Confundir la salida de la IA con un "recurso". La IA no es un recurso, sino un generador que intenta recordar recursos (a veces de forma incorrecta). Es la base de datos de origen.
• Confiando en el número. Utilizar números como peso molecular, pKa, punto de ebullición sin verificarlos. Estos se pueden calcular/buscar de forma determinista; Preguntar al modelo de lenguaje es la forma más débil.
• Subcontratar la seguridad a la IA. "La IA no dijo que sea peligroso" no significa que sea seguro. La evaluación de peligros es tarea del hombre y de SDS.
• Aviso vago. No dando la molécula por su nombre sino por su estructura (SMILES/InChI); Esto conduce a moléculas incorrectas debido a la confusión de nombres.
• Confiando en un solo intento. Volver a hacer la misma pregunta de forma diferente y no comprobar la coherencia.

En resumen

• La IA es un poderoso asistente de escritorio en química: produce códigos, esquemas, descripciones, escanea esqueletos; pero el laboratorio no lo hace y no verifica su resultado.
• Hay tres riesgos inherentes: compuesto/número falso, atribución falsa y falacia de seguridad.
• Separar y combinar modelos de lenguaje general y herramientas de química determinista (RDKit, bases de datos).
• Realice cada resultado a través de los cuatro pasos de Estructura-Número-Fuente-Seguridad.
• Buen mensaje: incluye rol, representación de estructura explícita, contexto, tarea, restricción de validación.

Tarea de aplicación

Elija una molécula que haya estudiado usted mismo (por ejemplo, aspirina, SMILES: CC(=O)Oc1ccccc1C(=O)O). Pregúntele a AI tres cosas: (1) peso molecular, (2) dos artículos de referencia, (3) un paso de síntesis. Luego verifique cada uno de forma independiente: calcule manualmente el peso molecular a partir de la fórmula, confirme las citas con DOI, examine el paso de síntesis con ojo de seguridad. ¿Qué resultado resultó correcto y cuál requirió corrección? Mantenga un “registro de verificación” de media página.

lista de verificación

• [] Me di cuenta de que la IA es un asistente, no un químico.
• [ ] Reconozco los riesgos de la invención, la atribución falsa y la desconfianza con ejemplos.
• [] Puedo distinguir entre modelo de lenguaje y herramientas de química deterministas.
• [] Aplicaré los cuatro pasos de Estructura-Número-Fuente-Seguridad a cada salida.
• [] Describo las moléculas por notación estructural (SMILES/InChI), no por su nombre.
• [] Mantuve al menos un registro de verificación.