Ieguvumi:
- Izprast SMS un taisnīguma kultūras principus un izmantot mākslīgo intelektu tendenču analīzei un uz sistēmu orientētu ziņojumu sastādīšanai drošības paziņojumos.
- Spēja saistīt netīro duci faktorus, īpaši pašapmierinātību un automatizācijas aizspriedumus, ar mākslīgā intelekta izmantošanu un pārvaldīt tos kā vairogu
- Izpratne par to, ka drošības datiem jābūt anonimizētiem un ka lēmums/intuīcija/paraksts paliek cilvēka ziņā.
Aviācijas drošība tiek panākta ne tikai, pievelkot labo skrūvi ar pareizo griezes momentu; Tas tiek panākts, izmantojot kultūru, kas nosaka darba veikšanu. Šajā nodaļā jūs uzzināsiet, kā izmantot mākslīgo intelektu (AI) kvalitātes vadības, drošības vadības sistēmas (SMS) un cilvēka faktoru jomā; Bet mēs apspriedīsim, kāpēc cilvēka spriedumam vienmēr jāpaliek drošības kultūras centrā.
SMS un ziņošanas kultūra
SMS (drošības pārvaldības sistēma) ir sistemātiska pieeja, kuras pamatā ir proaktīva apdraudējumu noteikšana un riska pārvaldība. Tās pamatā ir tikai kultūra (pieeja, kurā persona, kas godīgi ziņo par kļūdu, netiek sodīta, un nolaidība/nodoms un kļūda ir nodalītas) un ziņošana par briesmām. Drošības sistēma darbojas tikai tad, kad cilvēki bez bailēm par to ziņo.
AI šeit ir vērtīgs palīgs, taču tas prasa smalku līdzsvaru. Noderīgi lietojumi:
- Klasificējiet un tendenču paziņojumus: grupējiet atkārtotas tēmas, ATA sadaļas, nosacījumus simtiem drošības/kvalitātes paziņojumu.
- Ziņojuma projekts: incidenta faktu pārveidošana strukturētā ziņojumā (ar valodu, kas pārbauda procesu, nevis personu).
- Pamatcēloņu analīzes atvieglošana: jautājumu ģenerēšana “5 kāpēc” vai šķēršļu analīzei.
- Kvalitātes audita kontrolsaraksta projekts.
- Nodarbību mācību kopsavilkumi: atkārtotu mācību stundu apkopošana no pagātnes notikumiem.
Uzmanību! Drošības paziņojumi bieži vien ir personas un sensitīvi dati. Anonimizācija un korporatīvo datu politika ir būtiska, veicot analīzi ar AI. Turklāt mākslīgajam intelektam nevajadzētu atļaut notikumu atzīmēt kā "kurš vainīgs"; SMS mērķis nav atrast noziedzniekus, bet gan sakārtot sistēmu. Nepareizi izmantots AI var sabojāt tikai kultūru.
Netīrais ducis: 12 cilvēku kļūdu izraisītāji
Apkopes cilvēcisko faktoru klasika ir Gordona Duponta saraksts Dirty Dozen — 12 bieži sastopami cilvēciskie faktori, kas noved pie apkopes kļūmēm: komunikācijas trūkums, pašapmierinātība, zināšanu trūkums, izklaidība, komandas darba trūkums, nogurums, resursu trūkums, spiediens, pārliecības trūkums, stress, izpratnes trūkums, normas (nevietā ieradumi).
Vissvarīgākā saikne attiecībā uz AI šeit ir saistība starp pašapmierinātību (pārmērīgu pašpārliecinātību/pašapmierinātību) un automatizācijas aizspriedumiem (pārmērīga uzticēšanās automatizācijai — tā pieņemšana par patiesību tikai tāpēc, ka sistēma to saka). AI plūstošais un pārliecinošais rezultāts var radīt pašapmierinātību. Ideja "tā teica sistēma, nav nepieciešams pārbaudīt" ir mūsdienu Dirty Dozen versija.
Padoms: AI lietojumu iestatiet kā vairogu pret netīro duci, nevis kā sprūda: ir labi, ja nogurušas maiņas beigās ir atgādinājums par kontrolsarakstu; bet fiziskās apskates izlaišana, sakot "AI jau izskatījās", ir pašapmierinātība. Instrumentam vajadzētu palielināt jūsu uzmanību, nevis to sastindzis.
Pārliecība un AI
"Pārliecības trūkums" filmā Dirty Dozen ir tehniķa nespēja paust kaut ko tādu, ko viņš uzskata par nepareizu. Interesanti, ka AI šeit ir divvirzienu efekts. Pozitīvi: tehniķis var izmantot AI, lai strukturētu savas bažas un formulētu “kā to formulēt?” Negatīvs: AI autoritārais tonis var likt cilvēkam apspiest savu patieso intuīciju. Pareizais līdzsvars: AI ir ievade, jūsu profesionālā intuīcija un novērojumi ir lēmumu pieņēmēji. Jūsu sajūtai “kaut kas nav kārtībā” ir jāatsver AI “viss ir normāli” — apstājieties un paskaties.
trīs mini futrāļi
1. gadījums — tendenču analīze atklāja atkārtotu kļūdu. Kad sešu mēnešu kvalitātes paziņojumi tika grupēti pēc YZ (anonimizēti), konkrētam paneļa veidam izcēlās atkārtota tēma “nepareizi uzstādīts stiprinājums”. Kvalitātes komanda nokļuva pie galvenā iemesla: uzdevuma kartītē bija neskaidrs solis. Karte ir precizēta; Pastāvīgs kļūdu avots ir sistēmiski slēgts.
2. gadījums — konstatēts automatizācijas novirzes slazds. Nogurušajā nakts maiņā tehniķis vēlējās izlaist vizuālo pārbaudi, pamatojoties uz AI kopsavilkumu “šī pārbaude izskatās normāli”. Komandas vadītājs iejaucās: AI bija apkopojis datus, bet nebija redzējis gabalu. Fiziskā apskate atklāja nelielas noplūdes pēdas. Pašapmierinātību pārtrauca cilvēka iejaukšanās.
3. gadījums — pašpārliecinātības atbalsts. Kāds jauns tehniķis domāja, ka plāns ir nereāls, bet nezināja, kā to pateikt. Ar AI viņš savas rūpes strukturēja faktiskā, cieņpilnā valodā: "Šā priekšnoteikuma dēļ šo uzdevumu nevar droši izpildīt noteiktā laikā." Izskatīts strukturēts iebildums; Tika saglabāts solis, kas būtu izlaists zem spiediena.
Četras kopējamas veidnes
Loma: drošības paziņojumu tendenču analizators (ar anonimizētiem datiem).Uzdevums: Grupējiet periodiskos motīvus, ATA sadaļas un nosacījumus šādos anonimizētajos paziņojumos.Noteikumi: vainojama persona; NEDRĪKST marķēt "kurš vainīgs"; koncentrēties uz sistēmisku modeli.Paziņojumi: [anonīmi dati]
Loma: incidenta ziņojuma projekta asistents (tikai kultūras valoda). Uzdevums: sastādiet incidenta ziņojumu, pamatojoties uz šādiem faktiem, pārbaudot procesu, nevis personu. Noteikumi: Nelietojiet apsūdzošus īpašības vārdus; Izmantojiet struktūru "kas notika, kādi apstākļi, kāda barjera trūka". Fakti: [notikuma informācija]
Loma: pamatcēloņa (5 kāpēc) koordinators. Uzdevums: ģenerējiet "5 Kāpēc" jautājumus sekojošam notikumam un pajautājiet, vai katra atbilde norāda uz sistēmisku vājumu. Noteikumi: es sniedzu atbildes; jūs ģenerējat pareizos jautājumus; Atsaucieties uz procesu, nevis personīgo vainu. Incidents: [kopsavilkums]
Loma: pašpārliecinātības izpausmes palīglīdzeklis. Uzdevums: Iesakiet man teikuma uzbūvi, lai tālāk paustu savas bažas faktiskā, cieņpilnā un skaidrā valodā. Noteikumi: neesiet emocionāls/apsūdzošs; galvenā uzmanība tiek pievērsta drošības pamatojumam. Problēma: [tehniska problēma]
Vāja uzvedne / spēcīga uzvedne
Vājš: "Kas ir vainīgs šajā incidentā, rakstiet ziņojumu."
Vainīgo meklēšanas sistēma grauj taisnīgu kultūru un aizēno patieso sistēmisko cēloni.
Spēcīgs: "Uzrakstiet incidenta ziņojuma projektu, pamatojoties uz šādiem faktiem. Nevainojiet personu; izmantojiet struktūru "kas notika, kādi apstākļi bija, kāda barjera trūka, ko var sistēmiski labot". Dati ir anonīmi, nepievienojiet personisko informāciju."
Šī uzvedne novirza uzmanību no personas uz sistēmu, no soda uz mācīšanos.
Tabula: Dirty Dozen un AI mijiedarbība
faktors
AI risks
Pareiza AI izmantošana
Pašapmierinātība
"Jau izskatījies" pašapmierinātība
Kontrolsaraksta atgādinājums
automatizācijas novirze
Akli uzticieties iznākumam
Izmantojiet kā ievadi, apstipriniet
komunikācijas trūkums
Nepareiza kopsavilkuma pārsūtīšana
Konfigurēt apgrozījumu
Pārliecības trūkums
Autoritārais tonis nomāc
Palīdz izteikt trauksmi
nogurums
Īsceļš kritiskā brīdī
Neatgādiniet soļus, atstājiet parakstu personai
Biežas kļūdas
- AI liekot uzdot jautājumu "kurš ir vainīgs?" Vienkārši sabojā kultūru.
- Sensitīvu paziņojumu analīze, tos anonimizējot. Privātuma pārkāpums.
- Iekļūšana automatizācijas aizspriedumos. "Sistēma teica" neaizstāj fizisko pārbaudi.
- Savas intuīcijas upurēšana AI tonim. Pievērsiet uzmanību sajūtai "kaut kas nav kārtībā".
- AI izmantošana saīsnei zem spiediena. Transportlīdzeklis paātrinās, bet neizlaiž ne soli.
Rezumējot
Drošība ir kultūra, un tās pamatā ir cilvēka spriedums. AI ir vērtīgs palīglīdzeklis tendenču izgūšanā no drošības/kvalitātes paziņojumiem, ziņojumu sastādīšanā taisnīgā kultūrā un pamatcēloņu analīzē. Taču lielākais risks ir tāds, ka AI plūstamība rada pašapmierinātību un automatizācijas aizspriedumus. Veidojiet AI kā vairogu pret netīro duci: palieliniet savu uzmanību, nevis sastindziet to; Lēmumu, intuīciju un parakstu atstājiet cilvēka ziņā.
Lietojumprogrammas uzdevums
Saņemiet (vai rediģējiet) dažus anonimizētus kvalitātes/drošības paziņojumus. Izmantojot pirmo veidni, lūdziet AI tendenču analīzi. Pēc tam pajautājiet sev: kuras tēmas AI atrada, kuras palaida garām, vai tas iekļāvās "kurš ir vainīgs" nozīmē? Uzrakstiet "sistēmisku uzlabojumu" priekšlikumu un pārbaudiet, vai tas atbilst taisnīgas kultūras principam.
kontrolsaraksts
- [ ] Esmu anonimizējis drošības datus un ievērojis datu politiku.
- [ ] Es izmantoju mākslīgo intelektu sistēmas noteikšanas sistēmā, nevis noziedzīgu nodarījumu noteikšanas sistēmā.
- [ ] Es neizlaidu fizisko pārbaudi pret automatizācijas aizspriedumiem.
- [ ] Es novietoju savu “kaut kas nav kārtībā” intuīciju virs AI izejas.
- [ ] Pārskatā saglabāju taisnīgas kultūras valodu.
- [ ] Lēmumu, interpretāciju un parakstu atstāju personas ziņā.