Ganancias:
- Comprenda los principios de los SMS y la cultura justa y utilice la inteligencia artificial para el análisis de tendencias y la redacción de informes orientados al sistema en notificaciones de seguridad.
- Capacidad de asociar los factores de la Docena Sucia, especialmente la complacencia y el sesgo de automatización, con el uso de inteligencia artificial y gestionarlos como escudo.
- Entender que los datos de seguridad deben ser anónimos y que la decisión/intuición/firma permanece en el ser humano.
La seguridad en la aviación no sólo se logra apretando el perno correcto al par correcto; Se logra a través de una cultura que rige cómo se realiza el trabajo. En esta unidad, aprenderá a utilizar la inteligencia artificial (IA) en el campo de la gestión de calidad, el sistema de gestión de seguridad (SMS) y los factores humanos; Pero discutiremos por qué el juicio humano siempre debe permanecer en el centro de la cultura de seguridad.
SMS y cultura de informes
SMS (Sistema de gestión de seguridad) es un enfoque sistemático basado en la detección proactiva de peligros y la gestión de riesgos. En el fondo se encuentran la cultura justa (un enfoque en el que la persona que informa honestamente un error no es castigada y la negligencia/intención y el error se separan) y la notificación de peligros. Un sistema de seguridad sólo funciona cuando la gente lo denuncia sin miedo.
La IA es una ayuda valiosa en este caso, pero requiere un delicado equilibrio. Usos útiles:
- Clasifique y presente notificaciones de tendencias: agrupe temas recurrentes, secciones ATA y condiciones en cientos de notificaciones de seguridad/calidad.
- Borrador de informe: traducir los hechos de un incidente en un informe estructurado (con un lenguaje que examina el proceso, no la persona).
- Facilitar el análisis de causa raíz: Generar preguntas para los “5 Porqués” o análisis de barreras.
- Borrador de lista de verificación de auditoría de calidad.
- Resúmenes de lecciones de aprendizaje: recopilación de lecciones recurrentes de eventos pasados.
Precaución: las notificaciones de seguridad suelen ser datos personales y confidenciales. La anonimización y la política de datos corporativos son fundamentales a la hora de analizar con IA. Además, no se debe permitir que la IA etiquete un evento como "cuya culpa"; El objetivo de los SMS no es encontrar delincuentes, sino reparar el sistema. Una IA utilizada incorrectamente puede dañar la cultura.
Docena sucia: 12 factores desencadenantes del error humano
El clásico de los factores humanos de mantenimiento es la lista Dirty Dozen de Gordon Dupont: 12 factores humanos comunes que conducen a fallas de mantenimiento: falta de comunicación, complacencia, falta de conocimiento, distracción, falta de trabajo en equipo, fatiga, falta de recursos, presión, falta de asertividad, estrés, falta de conciencia, normas (hábitos fuera de lugar).
El vínculo más crítico con respecto a la IA aquí es la relación entre complacencia (exceso de confianza/complacencia) y sesgo de automatización (exceso de confianza en la automatización, aceptarla como cierta solo porque un sistema lo dice). La producción fluida y segura de la IA puede precisamente generar complacencia. La idea de "eso es lo que dijo el sistema, no es necesario comprobarlo" es una versión moderna de Dirty Dozen.
Consejo: configure el uso de la IA como escudo contra la Docena Sucia, no como desencadenante: es bueno tener un recordatorio de la lista de verificación al final de un turno cansado; pero saltarse el examen físico diciendo "AI ya miró" es la autocomplacencia. La herramienta debe aumentar su atención, no adormecerla.
Asertividad e IA
La "falta de asertividad" en Dirty Dozen es la incapacidad de un técnico para expresar algo que considera incorrecto. Curiosamente, la IA tiene un efecto bidireccional en este caso. Positivo: un técnico puede utilizar la IA para estructurar su inquietud y redactar "¿cómo expreso esto?" Negativo: El tono autoritario de la IA puede llevar al humano a reprimir su propia y verdadera intuición. El equilibrio adecuado: la IA es el insumo, su intuición y observación profesional son quienes toman las decisiones. Su sensación de "algo anda mal" debe superar la respuesta de la IA de "todo es normal": deténgase y mire.
tres mini casos
Caso 1: el análisis de tendencias encontró un error recurrente. Cuando las notificaciones de calidad semestrales se agruparon por YZ (anonimizadas), se destacó un tema recurrente de "fijación instalada incorrectamente" para un tipo de panel en particular. El equipo de calidad llegó a la causa raíz: un paso en la tarjeta de tareas no estaba claro. La tarjeta ha sido aclarada; Se ha cerrado sistemáticamente una fuente recurrente de error.
Caso 2: Se detectó una trampa de sesgo de automatización. En un cansado turno de noche, un técnico quería saltarse una inspección visual basándose en el resumen de la IA de "esta verificación parece normal". El líder del equipo intervino: La IA había resumido los datos pero no había visto la pieza. El examen físico encontró un pequeño rastro de fuga. La complacencia fue rota por la intervención humana.
Caso 3: Apoyo a la asertividad. Un joven técnico pensaba que un plan no era realista pero no sabía cómo expresarlo. Con la IA, estructuró su preocupación en un lenguaje objetivo y respetuoso: “Esa tarea no puede completarse de manera segura en el tiempo dado debido a ese requisito previo”. Objeción estructurada considerada; Se conservó un paso que se habría saltado bajo presión.
Cuatro plantillas copiables
Rol: Analizador de tendencias de notificaciones de seguridad (con datos anónimos). Tarea: Agrupar temas recurrentes, secciones ATA y condiciones en las siguientes notificaciones anónimas. Reglas: Culpar a la persona; NO etiquete “de quién es la culpa”; centrarse en el patrón sistémico. Notificaciones: [datos anónimos]
Rol: Asistente de redacción de informes de incidentes (solo lenguaje cultural). Tarea: Redacte un informe de incidente a partir de los siguientes hechos, examinando el proceso, no la persona. Reglas: No utilices adjetivos acusatorios; Utilice la estructura "qué pasó, qué circunstancias, qué barrera faltaba". Hechos: [información del evento]
Rol: Facilitador de causa raíz (5 porqués). Tarea: Genere preguntas de "5 por qués" para el siguiente evento y pregunte si cada respuesta indica una debilidad sistémica. Reglas: yo doy las respuestas; generas las preguntas correctas; Consulte el proceso, no la culpa personal. Incidente: [resumen]
Rol: Ayuda a la expresión de asertividad. Tarea: Sugiérame una estructura de oración para expresar mi preocupación a continuación en un lenguaje objetivo, respetuoso y claro. Reglas: No seas emotivo/acusativo; centrarse en la lógica de seguridad. Preocupación: [preocupación técnica]
Aviso débil / Aviso fuerte
Débil: "Quién tiene la culpa de este incidente, escriba el informe".
El marco de búsqueda de culpables socava la cultura justa y oscurece la verdadera causa sistémica.
Strong: "Escriba un borrador de informe de incidente a partir de los siguientes hechos. No culpe a la persona; utilice la estructura 'qué pasó, qué circunstancias estuvieron presentes, qué barrera faltaba, qué se puede arreglar sistémicamente'. Datos anónimos, no agregue información personal".
Este mensaje cambia el enfoque de la persona al sistema, del castigo al aprendizaje.
Tabla: Interacción con la Docena Sucia y la IA
factor
Riesgo de IA
Uso adecuado de la IA
complacencia
"Ya parecía" complacencia
Recordatorio de lista de verificación
sesgo de automatización
Confía ciegamente en el resultado
Usar como entrada, confirmar
falta de comunicación
Transferencia de resumen incorrecta
Configurar facturación
Falta de asertividad
El tono autoritario suprime
Ayuda para expresar ansiedad
fatiga
Atajo en el momento crítico
No recuerdes los pasos, deja la firma a la persona.
Errores comunes
- Hacer que la IA se pregunte "¿quién tiene la culpa?" Simplemente estropea la cultura.
- Analizar notificaciones confidenciales sin anonimizarlas. Violación de la privacidad.
- Caer en el sesgo de la automatización. "El sistema dijo" no reemplaza el examen físico.
- Sacrificar la propia intuición al tono de la IA. Preste atención a la sensación de que "algo anda mal".
- Usar IA para atajar bajo presión. El vehículo acelera pero no salta un paso.
En resumen
La seguridad es una cultura y el juicio humano es su núcleo. La IA es una ayuda valiosa para extraer tendencias de las notificaciones de seguridad/calidad, redactar informes en una cultura justa y analizar la causa raíz. Pero el mayor riesgo es que la fluidez de la IA alimente la complacencia y el sesgo de automatización. Construya una IA como escudo contra la Docena Sucia: aumente su atención, no la adormezca; Deja la decisión, la intuición y la firma a la persona.
Tarea de aplicación
Obtenga (o edite) algunas notificaciones anónimas de calidad/seguridad. Con la primera plantilla, solicite a la IA un análisis de tendencias. Luego pregúntese: ¿Qué temas encontró la IA, cuáles pasó por alto, tuvo implicaciones de "quién tiene la culpa"? Redactar una propuesta de "mejora sistémica" y comprobar que cumple con el principio de cultura justa.
lista de verificación
- [ ] He anonimizado los datos de seguridad y he cumplido con la política de datos.
- [] Utilicé la IA en un marco de reparación de sistemas, no en un marco de búsqueda de delincuentes.
- [ ] No me salté el examen físico contra el sesgo de automatización.
- [] Puse mi intuición de "algo anda mal" encima de la salida de la IA.
- [] Mantuve el lenguaje de cultura justa en el informe.
- [ ] Dejé la decisión, interpretación y firma a la persona.