Ganancias:
- Capacidad de combinar imágenes, señales, datos y piezas de regulación en un único flujo de trabajo de IA biomédica responsable.
- Capacidad para aplicar principios de auditoría, trazabilidad y monitoreo posterior a la distribución con intervención humana.
- Capacidad para mantener el límite en cada etapa donde la inteligencia artificial no reemplaza la aprobación de médicos e ingenieros.
Examen del módulo
1. ¿Cuál de los siguientes es el principio básico que determina el riesgo de un resultado de IA en ingeniería biomédica?
- A) El riesgo de la salida es igual al daño que causaría al paciente si fuera incorrecta; la validación se escala en consecuencia ✔
- B) La producción de IA es generalmente segura porque está escrita con fluidez y técnicamente
- C) La validación es innecesaria cuando se utiliza el modelo más actual
- D) Si la salida se refiere a un manual, no se requieren controles adicionales
Explicación: El riesgo de un resultado es igual al daño para el paciente si ese resultado es incorrecto. Si bien un error menor en un resumen de la literatura supone un riesgo bajo, un error al introducir una detección de imágenes o una decisión clínica amenaza directamente la seguridad del paciente; Por lo tanto, la intensidad de la verificación aumenta con el daño potencial, y cada decisión que involucra la seguridad del paciente depende de la aprobación del médico.
2. ¿Cuál es el papel adecuado de un modelo de detección respaldado por IA en el uso clínico en radiología?
- A) Aprobar automáticamente el informe del radiólogo y eliminar la carga de trabajo
- B) Cerrar casos de baja prioridad sin acudir a un radiólogo
- C) Si la probabilidad del modelo es alta, haga un diagnóstico sin examen adicional
- D) Ser una herramienta de apoyo que llama la atención sobre el hallazgo y lo prioriza, pero la responsabilidad del diagnóstico queda en el radiólogo ✔
Descripción: Image AI es una herramienta de apoyo a la toma de decisiones: atrae, prioriza, mide y señala; sin embargo, la responsabilidad del diagnóstico sigue siendo del radiólogo. El resultado del modelo no sustituye la decisión del radiólogo, es sólo un insumo. El resultado se utiliza junto con una evaluación clínica independiente, ya que siempre son posibles falsos positivos y falsos negativos.
3. ¿Cuál es el problema más común al trasladar el rendimiento de un modelo de IA de un laboratorio a otro en patología digital?
- A) El modelo funciona muy rápido.
- B) Los archivos de diapositivas son demasiado pequeños
- C) Cambio de dominio causado por diferencias en teñido y escaneo ✔
- D) Los patólogos no quieren utilizar el modelo en absoluto.
Descripción: El protocolo de tinción, la marca del escáner y el grosor de la sección varían de un laboratorio a otro; Si el modelo ha aprendido basándose en las estadísticas de imágenes de un laboratorio, su rendimiento disminuirá en otro laboratorio. Este fenómeno se denomina cambio de dominio y es la causa más común de fracaso en patología digital; Por eso la validación externa y la normalización del color son fundamentales.
4. ¿Cuál debería ser el primer reflejo de confirmación del ingeniero cuando un modelo de clasificación de ECG etiqueta "fibrilación auricular"?
- A) Escribir la etiqueta directamente en el expediente del paciente como diagnóstico.
- B) Verifique la señal bruta, los artefactos y la plausibilidad fisiológica y deje la decisión al médico ✔
- C) Si la puntuación de confianza del modelo es alta, no hay necesidad de ningún otro control.
- D) Orientar al paciente a tratamiento farmacológico
Explicación: Primero se debe probar la plausibilidad fisiológica y la calidad de la señal de la salida: la deriva de la línea base, el artefacto muscular o la relajación de los electrodos en la grabación pueden imitar el ritmo. Es un error confiar en la etiqueta sin mirar la señal sin procesar y los intervalos R-R; El diagnóstico final del ritmo pertenece al médico. El modelo emite una señal preliminar, no toma una decisión.
5. ¿Cuál es la característica clave del procesamiento de señales EEG por IA que hace que la verificación sea particularmente difícil?
- A) Baja relación señal-ruido y alta artefacto/variabilidad ✔
- B) La señal EEG es de muy alta amplitud y silenciosa.
- C) Grabación de EEG desde un solo canal
- D) Los datos del EEG nunca son digitales
Explicación: El EEG es una señal de muy baja amplitud (rango de microvoltios) y se contamina fácilmente con artefactos como parpadeo, movimiento muscular, electrodos y ruido de red; Además, la variabilidad entre individuos y grabaciones es alta. Esta baja relación señal-ruido hace que los resultados del modelo sean frágiles y requiere la validación de un neurofisiólogo experto.
6. ¿Cuál es el límite más importante cuando se trabaja con datos de frecuencia cardíaca desde un dispositivo portátil de consumo?
- A) La batería del dispositivo se agota rápidamente
- B) Almacenamiento de datos en la nube
- C) El dispositivo a menudo no está certificado médicamente y la señal es susceptible a artefactos/sesgos ✔
- D) El dispositivo es demasiado caro.
Divulgación: la mayoría de los dispositivos portátiles de consumo no están certificados como dispositivos médicos; La señal PPG (fotopletismografía) se ve afectada por artefactos de movimiento y factores como el tono de piel oscuro y los tatuajes pueden reducir la precisión. Estos datos son valiosos para la propensión/conciencia, pero se requieren mediciones clínicas validadas y evaluación médica para la decisión diagnóstica.
7. ¿Qué significa "fuga temporal" al construir un modelo predictivo con datos de registros médicos electrónicos (EHR)?
- A) Almacenamiento cifrado de datos
- B) Fuga de información futura hacia características que aún no existen en el momento de la predicción ✔
- C) Los datos son demasiado antiguos.
- D) Entrenar el modelo demasiado lento
Explicación: la fuga temporal es la interferencia de las funciones de entrenamiento con información que aún no está disponible en el momento de la predicción (futuro); por ejemplo, utilizar el diagnóstico de alta para predecir el riesgo al momento del ingreso. Esto conduce a un alto rendimiento en el laboratorio, pero a un rendimiento deficiente en el uso clínico real y es uno de los defectos más insidiosos de los modelos de datos clínicos.
8. ¿Cuál de los siguientes se vuelve obligatorio cuando un software en sí se describe como "software de dispositivo médico" (SaMD)?
- A) Con trabajar rápido es suficiente
- B) No requiere ninguna documentación
- C) Sólo se requiere una interfaz hermosa
- D) El control del diseño, la gestión de riesgos, la verificación/validación y el cumplimiento normativo se vuelven obligatorios ✔
Descripción: SaMD (Software como dispositivo médico) es un software que funciona con fines de diagnóstico, tratamiento o seguimiento y no depende de ningún hardware. En este caso, los controles de diseño, la gestión de riesgos (ISO 14971), la verificación/validación y el cumplimiento normativo son obligatorios; El software no puede tratarse como "simplemente software" porque su fallo afecta directamente a la seguridad del paciente.
9. ¿Cuál es el riesgo más crítico cuando le pide a AI una cláusula o un número estándar de MDR (Directiva de dispositivos médicos)?
- A) El modelo produce referencias estándar/artículos falsos y los presenta de forma segura ✔
- B) El modelo da la respuesta demasiado corta.
- C) La modelo responde en inglés.
- D) El modelo responde demasiado lento.
Explicación: Los modelos de lenguaje pueden producir con confianza números de artículos inexistentes, versiones estándar incorrectas y referencias inventadas (alucinaciones). En el cumplimiento normativo, una referencia incorrecta de una sustancia conduce a un incumplimiento grave; por lo que cada atribución debe verificarse independientemente del texto oficial, la IA debe usarse únicamente para navegación/redacción.
10. ¿En qué categoría entran los datos de salud dentro del alcance de KVKK y qué significa esto?
- A) Datos personales ordinarios; se puede procesar libremente
- B) No son datos personales; no hay ninguna restricción
- C) Categorías especiales de datos personales; Procesado con condiciones y protecciones más estrictas ✔
- D) Secreto comercial únicamente; no se requiere privacidad
Explicación: Los datos de salud se consideran "datos personales especiales" en KVKK; Por regla general, el tratamiento depende del consentimiento explícito o de las excepciones previstas por la ley y requiere medidas de protección más severas. Por lo tanto, los datos de los pacientes no pueden introducirse en herramientas no controladas; Los acuerdos de anonimización, restricción de acceso y procesamiento de datos son obligatorios.
11. ¿Qué significa "calibración" en un modelo clínico de IA y por qué es importante?
- A) ¿Qué tan rápido corre el modelo?
- B) ¿Cuántos parámetros tiene el modelo?
- C) Color de interfaz del modelo.
- D) Compatibilidad de las probabilidades dadas por el modelo con las frecuencias de eventos reales ✔
Explicación: La calibración es el ajuste de las probabilidades dadas por el modelo a las frecuencias reales: el evento debería ocurrir en aproximadamente el 20% de los pacientes para quienes dice "20% de riesgo". Dado que las decisiones en la clínica se toman en función de umbrales de probabilidad, un modelo mal calibrado conducirá a decisiones de umbral incorrectas incluso si se clasifica correctamente; por lo tanto, se debe verificar la calibración y la discriminación (AUC).
12. ¿Por qué debería comprobarse por separado el 'rendimiento del subgrupo' en modelos de imagen, señal o datos clínicos?
- A) La precisión total siempre es suficiente
- B) Porque los subgrupos afectan la velocidad del modelo.
- C) La métrica genérica puede ocultar un rendimiento deficiente y sesgos en grupos de pacientes específicos ✔
- D) El análisis de subgrupos solo es necesario para marketing.
Explicación: Si bien un modelo puede verse bien en promedio, puede funcionar significativamente peor en ciertos subgrupos (edad, sexo, tono de piel, tipo de dispositivo, hospital); La métrica general oculta esta desigualdad. En la atención sanitaria, esto provoca daños sistemáticos en algunos grupos de pacientes; Por lo tanto, el desempeño debe dividirse en subgrupos e informarse para ser justos.
13. ¿Cuál es el mejor enfoque contra el riesgo de "reidentificación" cuando se trabaja con datos de pacientes?
- A) Eliminar el nombre es suficiente en todas las circunstancias.
- B) Generalizar tanto los identificadores indirectos como los directos y restringir el acceso ✔
- C) Si los datos pertenecen a un número reducido de personas, no se requieren precauciones
- D) Simplemente cambiando el nombre del archivo en lugar de cifrarlo
Descripción: Incluso los datos con nombres eliminados se pueden volver a identificar con combinaciones raras de diagnóstico, fecha de nacimiento, código postal y fecha. Por lo tanto, no basta con extraer identificadores directos; Se deben aplicar conjuntamente técnicas como el cambio de fecha, la generalización, el anonimato k y el control de acceso, y también se debe limpiar el texto libre sensible.
14. ¿Cuál es la razón principal para mantener el control "humano en el circuito" de extremo a extremo en el flujo de trabajo de la IA biomédica?
- A) El control humano sólo crea lentitud y debe eliminarse
- B) Si la puntuación de confianza del modelo es alta, la validación humana es innecesaria
- C) No existe otra razón práctica que la obligación legal
- D) La IA está sujeta a sesgos y errores; Las decisiones y la responsabilidad sobre la seguridad del paciente deben recaer en el especialista calificado ✔
Descripción: La inteligencia artificial genera, prioriza y redacta hipótesis; pero los patrones que aprende de los datos pueden ser incompletos, sesgados o estar fuera de contexto. Es imperativo que las decisiones relativas a la seguridad del paciente queden con la aprobación del médico e ingeniero autorizado, tanto para detectar errores como para mantener la responsabilidad en el lugar correcto; AI no reemplaza esta aprobación en ningún momento.