Gains :
- Comprendre les principes des SMS et de la culture juste et utiliser l'intelligence artificielle pour l'analyse des tendances et la rédaction de rapports orientés système dans les notifications de sécurité.
- Capacité à associer les facteurs de la Dirty Dozen, en particulier la complaisance et les biais d'automatisation, à l'utilisation de l'intelligence artificielle et à les gérer comme un bouclier
- Comprendre que les données de sécurité doivent être anonymisées et que la décision/intuition/signature appartient à l'humain.
La sécurité aérienne ne s’obtient pas seulement en serrant le bon boulon au bon couple ; Cet objectif est atteint grâce à une culture qui régit la manière dont le travail est effectué. Dans cette unité, vous apprendrez à utiliser l'intelligence artificielle (IA) dans le domaine de la gestion de la qualité, du système de gestion de la sécurité (SMS) et des facteurs humains ; Mais nous discuterons des raisons pour lesquelles le jugement humain devrait toujours rester au centre de la culture de sécurité.
Culture SMS et reporting
Le SMS (Safety Management System) est une approche systématique basée sur la détection proactive des dangers et la gestion des risques. Au cœur de ce système se trouvent la culture juste (une approche dans laquelle la personne qui signale honnêtement une erreur n’est pas punie, et la négligence/l’intention et l’erreur sont séparées) et le signalement des dangers. Un système de sécurité ne fonctionne que lorsque les gens le signalent sans crainte.
L’IA est ici une aide précieuse, mais elle nécessite un équilibre délicat. Utilisations utiles :
- Classification et tendances des notifications : regroupez les thèmes récurrents, les sections ATA et les conditions dans des centaines de notifications de sécurité/qualité.
- Ébauche de rapport : traduire les faits d'un incident dans un rapport structuré (avec un langage qui examine le processus, pas la personne).
- Faciliter l'analyse des causes profondes : générer des questions pour les « 5 pourquoi » ou l'analyse des obstacles.
- Projet de liste de contrôle d’audit de qualité.
- Résumés des leçons apprises : Compilation des leçons récurrentes des événements passés.
Attention : les notifications de sécurité sont souvent des données personnelles et sensibles. L'anonymisation et la politique des données d'entreprise sont essentielles lors de l'analyse avec l'IA. De plus, l’IA ne devrait pas être autorisée à qualifier un événement de « dont la faute » ; Le but des SMS n’est pas de retrouver les criminels, mais de réparer le système. Une IA mal utilisée peut nuire à la culture juste.
Dirty Dozen : 12 déclencheurs d'erreur humaine
Le classique des facteurs humains de maintenance est la liste Dirty Dozen de Gordon Dupont — 12 facteurs humains courants qui conduisent à un échec de maintenance : manque de communication, complaisance, manque de connaissances, distraction, manque de travail d'équipe, fatigue, manque de ressources, pression, manque d'assurance, stress, manque de sensibilisation, normes (habitudes déplacées).
Le lien le plus critique concernant l’IA ici est la relation entre la complaisance (excès de confiance/complaisance) et le biais d’automatisation (excès de confiance dans l’automatisation – l’accepter comme vrai simplement parce qu’un système le dit). Les résultats fluides et confiants de l’IA peuvent précisément engendrer la complaisance. L'idée du "c'est ce que dit le système, pas besoin de vérifier" est une version moderne de la Dirty Dozen.
Astuce : configurez l'utilisation de l'IA comme un bouclier contre les Dirty Dozen, et non comme un déclencheur : il est bon d'avoir une liste de contrôle de rappel à la fin d'un quart de travail fatigué ; mais sauter l'examen physique en disant "AI a déjà regardé" est de la complaisance en soi. L’outil doit accroître votre attention et non l’engourdir.
Assertivité et IA
Le « manque d'assurance » dans Dirty Dozen est l'incapacité d'un technicien à exprimer quelque chose qu'il considère comme faux. Il est intéressant de noter que l’IA a ici un effet bidirectionnel. Positif : un technicien peut utiliser l’IA pour structurer sa préoccupation et rédiger un « comment formuler cela ? Négatif : Le ton autoritaire de l’IA peut conduire l’humain à supprimer sa propre véritable intuition. Le bon équilibre : l’IA est l’entrée, votre intuition et votre observation professionnelles sont le décideur. Votre sentiment de « quelque chose ne va pas » doit l’emporter sur le résultat de l’IA selon lequel « tout est normal » – arrêtez-vous et regardez.
trois mini-cases
Cas 1 — L'analyse des tendances a révélé une erreur récurrente. Lorsque les notifications de qualité semestrielles ont été regroupées par YZ (anonymisées), un thème récurrent de « fixation mal installée » s'est imposé pour un type de panneau particulier. L'équipe qualité est allée à la cause profonde : une étape de la fiche de tâche n'était pas claire. La carte a été clarifiée ; Une source d’erreur récurrente a été systématiquement fermée.
Cas 2 — Piège de biais d'automatisation détecté. Lors d'un quart de nuit fatigué, un technicien a voulu éviter une inspection visuelle basée sur le résumé de l'IA : « ce contrôle semble normal ». Le chef d'équipe intervint : L'IA avait résumé les données mais n'avait pas vu la pièce. L'examen physique a révélé une petite trace de fuite. La complaisance a été brisée par l’intervention humaine.
Cas 3 — Prise en charge de l’assertivité. Un jeune technicien pensait qu'un plan était irréaliste mais ne savait pas comment le dire. Avec l’IA, il a structuré ses préoccupations dans un langage factuel et respectueux : « Cette tâche ne peut pas être accomplie en toute sécurité dans le délai imparti en raison de cette condition préalable. » Objection structurée examinée ; Une étape qui aurait été sautée sous la pression a été préservée.
Quatre modèles copiables
Rôle : analyseur de tendances des notifications de sécurité (avec données anonymisées). Tâche : regrouper les thèmes récurrents, les sections ATA et les conditions dans les notifications anonymisées suivantes. Règles : blâmer la personne ; NE PAS étiqueter « dont la faute » ; se concentrer sur le modèle systémique.Notifications : [données anonymes]
Rôle : Assistant à la rédaction du rapport d'incident (juste le langage culturel). Tâche : Rédigez un rapport d'incident à partir des faits suivants, en examinant le processus et non la personne. Règles : N'utilisez pas d'adjectifs accusateurs ; Utilisez la structure « ce qui s'est passé, quelles circonstances, quel obstacle manquait ». Faits : [informations sur l'événement]
Rôle : facilitateur des causes profondes (5 pourquoi). Tâche : Générez des questions « 5 pourquoi » pour l'événement suivant et demandez-vous si chaque réponse indique une faiblesse systémique. Règles : je donne les réponses ; vous générez les bonnes questions ; Faites référence au processus et non au blâme personnel. Incident : [résumé]
Rôle : Aide à l’expression de l’assertivité. Tâche : Suggérez-moi une structure de phrase pour exprimer mon inquiétude ci-dessous dans un langage factuel, respectueux et clair. Règles : Ne soyez pas émotif/accusateur ; se concentrer sur les raisons de sécurité. Préoccupation : [préoccupation technique]
Invite faible/Invite forte
Faible : « Qui est responsable de cet incident, rédigez le rapport. »
Le cadre de recherche de coupables sape la culture juste et obscurcit la véritable cause systémique.
Fort : « Rédigez une ébauche de rapport d'incident à partir des faits suivants. Ne blâmez pas la personne ; utilisez la structure « ce qui s'est passé, quelles circonstances étaient présentes, quelle barrière manquait, ce qui peut être corrigé de manière systémique ». Données anonymes, n'ajoutez pas d'informations personnelles. »
Cette invite déplace l’attention de la personne vers le système, de la punition vers l’apprentissage.
Tableau : Dirty Dozen et interaction avec l'IA
facteur
Risque lié à l'IA
Bon usage de l’IA
complaisance
"J'ai déjà regardé" la complaisance
Rappel de la liste de contrôle
biais d'automatisation
Faites aveuglément confiance au résultat
Utiliser comme entrée, confirmer
manque de communication
Transfert récapitulatif incorrect
Configurer le chiffre d'affaires
Manque d'assurance
Le ton autoritaire supprime
Aide à exprimer son anxiété
fatigue
Raccourci au moment critique
Ne rappelez pas les étapes, laissez la signature à la personne
Erreurs courantes
- Faire en sorte que l'IA pose la question « qui est en faute ? » Cela gâche simplement la culture.
- Analyser les notifications sensibles sans les anonymiser. Violation de la vie privée.
- Tomber dans le biais de l’automatisation. "Le système dit" ne remplace pas l'examen physique.
- Sacrifier sa propre intuition au ton de l'IA. Faites attention au sentiment de « quelque chose ne va pas ».
- Utiliser l’IA pour raccourcir sous pression. Le véhicule accélère mais ne saute pas une étape.
En résumé
La sécurité est une culture et le jugement humain est au cœur de celle-ci. L’IA est une aide précieuse pour extraire les tendances des notifications de sécurité/qualité, rédiger des rapports dans une culture juste et analyser les causes profondes. Mais le plus grand risque est que la fluidité de l’IA alimente la complaisance et les préjugés en matière d’automatisation. Construisez l’IA comme un bouclier contre les Dirty Dozen : augmentez votre attention, ne l’engourdissez pas ; Laissez la décision, l’intuition et la signature à la personne.
Tâche de candidature
Recevez (ou modifiez) quelques notifications anonymisées de qualité/sécurité. Avec le premier modèle, demandez à l'IA une analyse des tendances. Ensuite, demandez-vous : quels thèmes l'IA a-t-elle trouvés, lesquels a-t-elle manqué, a-t-elle glissé dans des implications de type « qui est en faute » ? Rédigez une proposition « d’amélioration systémique » et vérifiez qu’elle est conforme au principe de culture juste.
liste de contrôle
- [ ] J'ai anonymisé les données de sécurité et j'ai respecté la politique en matière de données.
- [ ] J'ai utilisé l'IA dans un cadre de réparation du système, pas dans un cadre de recherche de criminels.
- [ ] Je n'ai pas sauté l'examen physique contre le biais d'automatisation.
- [ ] J'ai placé mon intuition « quelque chose ne va pas » au-dessus de la sortie de l'IA.
- [ ] J'ai gardé le langage de la culture juste dans le rapport.
- [ ] J'ai laissé la décision, l'interprétation et la signature à la personne.