Guadagni:
- Comprendere i principi degli SMS e della cultura giusta e utilizzare l'intelligenza artificiale per l'analisi delle tendenze e la redazione di report orientati al sistema nelle notifiche di sicurezza.
- Capacità di associare i fattori di Dirty Dozen, in particolare l'autocompiacimento e il pregiudizio dell'automazione, con l'uso dell'intelligenza artificiale e di gestirli come uno scudo
- Comprendere che i dati di sicurezza dovrebbero essere resi anonimi e che la decisione/intuizione/firma rimane all'essere umano.
La sicurezza aerea non si ottiene solo serrando il bullone giusto alla coppia giusta; Si ottiene attraverso una cultura che governa il modo in cui viene svolto il lavoro. In questa unità imparerai come utilizzare l'intelligenza artificiale (AI) nel campo della gestione della qualità, del sistema di gestione della sicurezza (SMS) e dei fattori umani; Ma discuteremo del motivo per cui il giudizio umano dovrebbe sempre rimanere al centro della cultura della sicurezza.
SMS e cultura della segnalazione
L'SMS (Safety Management System) è un approccio sistematico basato sul rilevamento proattivo dei pericoli e sulla gestione dei rischi. Al centro ci sono solo la cultura (un approccio in cui la persona che segnala onestamente un errore non viene punita e la negligenza/intenzione e l'errore sono separati) e la segnalazione dei rischi. Un sistema di sicurezza funziona solo quando le persone lo segnalano senza paura.
L’intelligenza artificiale è un aiuto prezioso in questo caso, ma richiede un delicato equilibrio. Usi utili:
- Notifiche di classificazione e tendenza: raggruppa temi ricorrenti, sezioni ATA, condizioni attraverso centinaia di notifiche di sicurezza/qualità.
- Bozza di rapporto: tradurre i fatti di un incidente in un rapporto strutturato (con un linguaggio che esamina il processo, non la persona).
- Facilitare l’analisi delle cause profonde: generare domande per i “5 perché” o analisi delle barriere.
- Bozza della lista di controllo della qualità.
- Riepiloghi dell'apprendimento delle lezioni: compilazione di lezioni ricorrenti da eventi passati.
Attenzione: le notifiche di sicurezza sono spesso dati personali e sensibili. L'anonimizzazione e la politica aziendale sui dati sono essenziali quando si analizza con l'intelligenza artificiale. Inoltre, all’IA non dovrebbe essere consentito etichettare un evento come “di chi è la colpa”; Lo scopo degli SMS non è trovare i criminali, ma riparare il sistema. Un’intelligenza artificiale usata in modo errato può danneggiare solo la cultura.
Sporca Dozzina: 12 fattori scatenanti dell'errore umano
Il classico dei fattori umani di manutenzione è l'elenco della Dirty Dozen di Gordon Dupont: 12 fattori umani comuni che portano al fallimento della manutenzione: mancanza di comunicazione, compiacenza, mancanza di conoscenza, distrazione, mancanza di lavoro di squadra, stanchezza, mancanza di risorse, pressione, mancanza di assertività, stress, mancanza di consapevolezza, norme (abitudini fuori luogo).
Il collegamento più critico per quanto riguarda l’intelligenza artificiale in questo caso è la relazione tra compiacenza (eccessiva fiducia/compiacimento) e pregiudizio dell’automazione (eccessiva fiducia nell’automazione – accettandola come vera solo perché lo dice un sistema). I risultati fluidi e sicuri dell'intelligenza artificiale possono proprio favorire l'autocompiacimento. L'idea di "questo è quello che ha detto il sistema, non c'è bisogno di controllare" è una versione moderna di Dirty Dozen.
Suggerimento: imposta l'utilizzo dell'IA come uno scudo contro la sporca dozzina, non come un fattore scatenante: è utile avere un promemoria della lista di controllo alla fine di un turno stanco; ma saltare l'esame fisico dicendo "L'intelligenza artificiale già sembrava" è un atto di autocompiacimento. Lo strumento dovrebbe aumentare la tua attenzione, non intorpidirla.
Assertività e intelligenza artificiale
La "mancanza di assertività" in Dirty Dozen è l'incapacità di un tecnico di esprimere qualcosa che considera sbagliato. È interessante notare che l’intelligenza artificiale qui ha un effetto bidirezionale. Positivo: un tecnico può utilizzare l’intelligenza artificiale per strutturare la sua preoccupazione e abbozzare “come lo dico?” Negativo: il tono autoritario dell'IA può portare l'essere umano a sopprimere la propria vera intuizione. Il giusto equilibrio: l'intelligenza artificiale è l'input, l'intuizione professionale e l'osservazione sono il decisore. La tua sensazione di “qualcosa non va” deve superare l’output dell’intelligenza artificiale di “tutto è normale”: fermati e guarda.
tre mini custodie
Caso 1: l'analisi delle tendenze ha rilevato un errore ricorrente. Quando le notifiche semestrali sulla qualità sono state raggruppate da YZ (anonime), un tema ricorrente di “elemento di fissaggio installato in modo errato” risaltava per un particolare tipo di pannello. Il team della qualità è arrivato alla causa principale: un passaggio nella scheda attività non era chiaro. La carta è stata chiarita; Una fonte di errore ricorrente è stata sistematicamente risolta.
Caso 2: rilevato un bias trap di automazione. Durante uno stanco turno di notte, un tecnico voleva saltare un'ispezione visiva basata sul riepilogo dell'intelligenza artificiale di "questo controllo sembra normale". Il caposquadra intervenne: L'IA aveva riassunto i dati ma non aveva visto il pezzo. L'esame fisico ha rilevato una piccola traccia di perdita. L’autocompiacimento è stato rotto dall’intervento umano.
Caso 3 – Supporto all’assertività. Un giovane tecnico pensava che il piano fosse irrealistico ma non sapeva come dirlo. Con l’intelligenza artificiale ha strutturato la sua preoccupazione in un linguaggio concreto e rispettoso: “A causa di questo prerequisito, quel compito non può essere completato in sicurezza nel tempo dato”. Obiezione strutturata presa in considerazione; È stato preservato un passaggio che sotto pressione sarebbe stato saltato.
Quattro modelli copiabili
Ruolo: Analizzatore dell'andamento delle notifiche di sicurezza (con dati anonimizzati). Compito: Raggruppare temi ricorrenti, sezioni ATA e condizioni nelle seguenti notifiche anonimizzate. Regole: Colpevolizza persona; NON etichettare “di chi è la colpa”; concentrarsi sul modello sistemico.Notifiche: [dati anonimi]
Ruolo: assistente alla stesura del rapporto sull'incidente (solo linguaggio culturale). Compito: redigere un rapporto sull'incidente partendo dai seguenti fatti, esaminando il processo, non la persona. Regole: non usare aggettivi accusatori; Usa la struttura "cosa è successo, quali circostanze, quale barriera è mancata". Fatti: [informazioni sull'evento]
Ruolo: facilitatore della causa principale (5 perché). Compito: generare domande "5 perché" per il seguente evento e chiedersi se ciascuna risposta indica una debolezza sistemica. Regole: do le risposte; generi le domande giuste; Fare riferimento al processo, non alla colpa personale. Incidente: [riepilogo]
Ruolo: aiuto per l'espressione dell'assertività. Compito: suggerirmi una struttura di frase per esprimere la mia preoccupazione di seguito in un linguaggio concreto, rispettoso e chiaro. Regole: non essere emotivo/accusatore; incentrato sulla logica della sicurezza. Preoccupazione: [problema tecnico]
Prompt debole / Prompt forte
Debole: "Chi ha colpa in questo incidente, scriva la relazione".
Il quadro della ricerca del colpevole mina la giusta cultura e oscura la vera causa sistemica.
Forte: "Scrivi una bozza di rapporto sull'incidente partendo dai seguenti fatti. Non incolpare la persona; usa la struttura 'cosa è successo, quali circostanze erano presenti, quale barriera mancava, cosa può essere risolto sistematicamente'. Dati anonimi, non aggiungere informazioni personali."
Questo suggerimento sposta l’attenzione dalla persona al sistema, dalla punizione all’apprendimento.
Tabella: Sporca Dozzina e interazione IA
fattore
Rischio dell'intelligenza artificiale
Uso corretto dell'intelligenza artificiale
Compiacimento
Compiacimento "già guardato".
Promemoria della lista di controllo
pregiudizio dell’automazione
Fidati ciecamente dell'output
Usa come input, conferma
mancanza di comunicazione
Trasferimento riepilogativo errato
Configura il fatturato
Mancanza di assertività
Il tono autoritario sopprime
Aiuta a esprimere l'ansia
stanchezza
Scorciatoia nel momento critico
Non ricordare i passaggi, lascia la firma alla persona
Errori comuni
- Fare in modo che l’intelligenza artificiale ponga la domanda “chi è la colpa?” Rovina solo la cultura.
- Analizzare le notifiche sensibili senza renderle anonime. Violazione della privacy.
- Cadere nel pregiudizio dell’automazione. "Il sistema ha detto" non sostituisce l'esame fisico.
- Sacrificare la propria intuizione al tono dell'IA. Presta attenzione alla sensazione di "qualcosa non va".
- Usare l'intelligenza artificiale per scorciatoie sotto pressione. Il veicolo accelera ma non salta un passo.
In sintesi
La sicurezza è una cultura e il giudizio umano ne è al centro. L’intelligenza artificiale è un valido aiuto per estrarre tendenze dalle notifiche di sicurezza/qualità, redigere rapporti in una cultura giusta e analizzare le cause profonde. Ma il rischio più grande è che la fluidità dell’intelligenza artificiale alimenti l’autocompiacimento e i pregiudizi legati all’automazione. Costruisci l'intelligenza artificiale come scudo contro la sporca dozzina: aumenta la tua attenzione, non intorpidirla; Lasciare alla persona la decisione, l'intuizione e la firma.
Compito dell'applicazione
Ricevi (o modifica) alcune notifiche anonime di qualità/sicurezza. Con il primo modello, chiedi all’intelligenza artificiale l’analisi delle tendenze. Quindi chiediti: quali temi ha trovato l'intelligenza artificiale, cosa ha mancato, è scivolata in qualche implicazione di "chi è la colpa"? Scrivere una proposta di “miglioramento sistemico” e verificare che rispetti il principio della cultura giusta.
lista di controllo
- [ ] Ho reso anonimi i dati di sicurezza e ho rispettato la politica sui dati.
- [] Ho utilizzato l'intelligenza artificiale in un quadro di aggiustamento del sistema, non in un quadro di ricerca dei criminali.
- [ ] Non ho saltato l'esame fisico contro i bias di automazione.
- [] Ho messo la mia intuizione "qualcosa non va" sopra l'output dell'IA.
- [ ] Nel rapporto ho mantenuto il linguaggio della giusta cultura.
- [ ] Ho lasciato alla persona la decisione, l'interpretazione e la firma.