Dobički:
- Razumeti načela SMS in pravične kulture ter uporabljati umetno inteligenco za analizo trendov in sistemsko usmerjeno pripravo poročil v varnostnih obvestilih.
- Sposobnost povezovanja dejavnikov Dirty Dozen, zlasti samozadovoljstva in pristranskosti avtomatizacije, z uporabo umetne inteligence in upravljanja z njimi kot ščita
- Razumevanje, da morajo biti varnostni podatki anonimizirani in da odločitev/intuicija/podpis ostane pri človeku.
Varnost v letalstvu ni dosežena le z zategovanjem pravega vijaka na pravi navor; To se doseže s kulturo, ki ureja, kako se delo opravlja. V tej enoti se boste naučili uporabljati umetno inteligenco (AI) na področju upravljanja kakovosti, sistema upravljanja varnosti (SMS) in človeških dejavnikov; Razpravljali pa bomo o tem, zakaj bi morala človeška presoja vedno ostati v središču varnostne kulture.
SMS in kultura poročanja
SMS (Safety Management System) je sistematičen pristop, ki temelji na proaktivnem zaznavanju nevarnosti in obvladovanju tveganj. V njenem središču sta samo kultura (pristop, pri katerem oseba, ki pošteno prijavi napako, ni kaznovana, malomarnost/namerna in napaka pa sta ločeni) in prijava nevarnosti. Varnostni sistem deluje le, če ga ljudje brez strahu prijavijo.
Umetna inteligenca je tukaj dragocena pomoč, vendar zahteva občutljivo ravnovesje. Useful uses:
- Razvrstite in trendirajte obvestila: Združite ponavljajoče se teme, razdelke ATA, pogoje v stotinah obvestil o varnosti/kakovosti.
- Osnutek poročila: Prevajanje dejstev o dogodku v strukturirano poročilo (z jezikom, ki obravnava postopek, ne osebe).
- Olajšanje analize temeljnih vzrokov: Ustvarjanje vprašanj za "5 zakaj" ali analizo ovir.
- Osnutek kontrolnega seznama za presojo kakovosti.
- Povzetki učnih lekcij: zbiranje ponavljajočih se lekcij iz preteklih dogodkov.
Pozor: varnostna obvestila so pogosto osebni in občutljivi podatki. Anonimizacija in korporativna politika podatkov sta bistvena pri analizi z umetno inteligenco. Poleg tega umetni inteligenci ne bi smeli dovoliti, da dogodek označi kot "čigava krivda"; Namen SMS-a ni iskanje kriminalcev, ampak popravljanje sistema. Nepravilno uporabljena umetna inteligenca lahko škoduje samo kulturi.
Dirty Dozen: 12 sprožilcev človeške napake
Klasika človeških dejavnikov vzdrževanja je seznam Dirty Dozen Gordona Duponta — 12 pogostih človeških dejavnikov, ki vodijo do neuspešnega vzdrževanja: pomanjkanje komunikacije, samozadovoljstvo, pomanjkanje znanja, motnje, pomanjkanje timskega dela, utrujenost, pomanjkanje sredstev, pritisk, pomanjkanje samozavesti, stres, pomanjkanje zavedanja, norme (napačne navade).
Najbolj kritična povezava v zvezi z umetno inteligenco tukaj je razmerje med samozadovoljstvom (pretirano samozavest/samozavestnost) in pristranskostjo avtomatizacije (pretirano zaupanje v avtomatizacijo – sprejemanje tega kot resničnega samo zato, ker tako pravi sistem). Tekoči in samozavestni izhod umetne inteligence lahko vzbudi samozadovoljstvo. Ideja "tako je rekel sistem, ni treba preverjati" je sodobna različica Dirty Dozen.
Namig: nastavite uporabo AI kot ščit pred Dirty Dozen, ne kot sprožilec: dobro je imeti opomnik na kontrolnem seznamu na koncu utrujene izmene; toda preskočiti fizični pregled z besedami "AI je že pogledal" je samozadovoljstvo. Orodje naj poveča vašo pozornost, ne pa da jo omrtviči.
Assertiveness and AI
"Pomanjkanje asertivnosti" v Dirty Dozen je nezmožnost tehnika, da izrazi nekaj, kar se mu zdi napačno. Zanimivo je, da ima AI tukaj dvosmeren učinek. Pozitivno: tehnik lahko uporabi umetno inteligenco za strukturiranje svoje skrbi in osnutek »kako naj to izrazim?« Negativno: avtoritarni ton umetne inteligence lahko povzroči, da človek zatre svojo resnično intuicijo. Pravo ravnovesje: umetna inteligenca je vnos, vaša profesionalna intuicija in opazovanje pa odločata. Vaš občutek, da je »nekaj narobe«, mora prevladati nad rezultatom umetne inteligence »vse je normalno« – ustavite se in poglejte.
trije mini kovčki
Primer 1 – Analiza trenda je odkrila ponavljajočo se napako. Ko so bila šestmesečna obvestila o kakovosti razvrščena po YZ (anonimizirano), je pri določeni vrsti plošče izstopala ponavljajoča se tema »nepravilno nameščen pritrdilni element«. Ekipa za kakovost je prišla do temeljnega vzroka: korak na kartici opravil je bil nejasen. Kartica je bila razčiščena; Ponavljajoči se vir napake je bil sistemsko zaprt.
2. primer – zaznana avtomatska predstranska past. Med utrujeno nočno izmeno je tehnik želel preskočiti vizualni pregled na podlagi povzetka umetne inteligence "ta pregled je videti normalen." Vodja ekipe se je vmešal: AI je povzel podatke, vendar ni videl dela. Fizični pregled je odkril majhno sled puščanja. Samozadovoljstvo je razbilo človeško posredovanje.
Primer 3 – Podpora asertivnosti. Nekemu mlademu tehniku se je načrt zdel nerealen, a ni vedel, kako bi ga povedal. Glede umetne inteligence je strukturiral svojo skrb v stvarnem, spoštljivem jeziku: "Te naloge ni mogoče varno dokončati v danem času zaradi tega predpogoja." Upoštevan strukturiran ugovor; Korak, ki bi bil pod pritiskom preskočen, je bil ohranjen.
Štiri predloge za kopiranje
Vloga: Analizator trendov varnostnih obvestil (z anonimiziranimi podatki). Naloga: Združevanje ponavljajočih se tem, razdelkov ATA in pogojev v naslednjih anonimiziranih obvestilih. Pravila: Okrivi osebo; NE označite "čigava krivda"; osredotočite se na sistemski vzorec. Obvestila: [anonimni podatki]
Vloga: pomočnik pri osnutku poročila o incidentu (samo kulturni jezik). Naloga: Pripravite poročilo o incidentu iz naslednjih dejstev, pri čemer preučite postopek, ne osebe. Pravila: Ne uporabljajte tožilnih pridevnikov; Uporabite strukturo "kaj se je zgodilo, kakšne okoliščine, katera ovira je manjkala". Dejstva: [informacije o dogodku]
Vloga: Posrednik temeljnega vzroka (5 zakaj). Naloga: Ustvarite vprašanja "5 zakaj" za naslednji dogodek in vprašajte, ali vsak odgovor kaže na sistemsko šibkost. Pravila: dajem odgovore; ustvarite prava vprašanja; Sklicujte se na postopek, ne na osebno krivdo. Incident: [povzetek]
Vloga: pomoč pri izražanju asertivnosti. Naloga: Predlagajte strukturo stavka, s katero bom spodaj izrazil svojo zaskrbljenost v stvarnem, spoštljivem in jasnem jeziku. Pravila: Ne bodite čustveni/obtožujoči; center za varnostno utemeljitev. Zaskrbljenost: [tehnična zaskrbljenost]
Šibek poziv/močan poziv
Slab: "Kdo je kriv za ta incident, naj napiše poročilo."
Okvir iskanja krivca spodkopava pravično kulturo in zakriva pravi sistemski vzrok.
Strong: "Napišite osnutek poročila o incidentu iz naslednjih dejstev. Ne krivite osebe; uporabite strukturo 'kaj se je zgodilo, kakšne okoliščine so bile prisotne, katera ovira je manjkala, kaj je mogoče sistemsko popraviti'. Podatki so anonimni, ne dodajajte osebnih podatkov."
Ta poziv premakne fokus z osebe na sistem, s kazni na učenje.
Tabela: Dirty Dozen in interakcija AI
dejavnik
Tveganje AI
Pravilna uporaba AI
Samozadovoljstvo
"Že pogledal" samozadovoljstvo
Opomnik za kontrolni seznam
pristranskost avtomatizacije
Slepo zaupajte rezultatu
Uporabi kot vnos, potrdi
pomanjkanje komunikacije
Napačen prenos povzetka
Konfigurirajte promet
Pomanjkanje asertivnosti
Avtoritarni ton zatira
Pomoč pri izražanju tesnobe
utrujenost
Bližnjica v kritičnem trenutku
Ne spominjajte se korakov, prepustite podpis osebi
Pogoste napake
- Narediti, da AI postavlja vprašanje "kdo je kriv?" Samo kvari kulturo.
- Analiziranje občutljivih obvestil brez njihove anonimizacije. Kršitev zasebnosti.
- Padec v pristranskost avtomatizacije. "Sistem je rekel" ne nadomesti fizičnega pregleda.
- Žrtvovanje lastne intuicije tonu AI. Bodite pozorni na občutek »nekaj ni v redu«.
- Uporaba AI za bližnjico pod pritiskom. Vozilo pospeši, vendar ne preskoči niti koraka.
Če povzamem
Varnost je kultura in človeška presoja je v njenem središču. Umetna inteligenca je dragocen pripomoček pri pridobivanju trendov iz obvestil o varnosti/kakovosti, pripravi poročil v pravični kulturi in analizi temeljnih vzrokov. Toda največje tveganje je, da pretočnost umetne inteligence hrani samozadovoljstvo in pristranskost avtomatizacije. Zgradite AI kot ščit pred Dirty Dozen: povečajte svojo pozornost, ne je omrtvičite; Odločitev, intuicijo in podpis prepustite osebi.
Aplikacijska naloga
Get (or edit) a few anonymized quality/safety notifications. With the first template, ask the AI for trend analysis. Then ask yourself: Which themes did the AI find, which did it miss, did it slip into any "who's at fault" implications? Write a "systemic improvement" proposal and check that it complies with the just culture principle.
kontrolni seznam
- [ ] I have anonymized the security data and complied with the data policy.
- [ ] I used AI in a system-fixing framework, not a criminal-finding framework.
- [ ] I did not skip the physical examination against automation bias.
- [ ] I put my “something is wrong” intuition above the AI output.
- [ ] I kept the just culture language in the report.
- [ ] I left the decision, interpretation and signature to the person.