Pelnas:
- Suprasti SMS ir teisingumo kultūros principus ir naudoti dirbtinį intelektą tendencijų analizei bei į sistemą orientuotų ataskaitų rengimui saugumo pranešimuose.
- Gebėjimas susieti „Dirty Dozen“ veiksnius, ypač pasitenkinimą ir automatizavimo šališkumą, su dirbtinio intelekto naudojimu ir valdyti juos kaip skydą
- Supratimas, kad saugumo duomenys turi būti anonimizuoti ir kad sprendimas/intuicija/parašas lieka žmogui.
Aviacijos sauga pasiekiama ne tik priveržus tinkamą varžtą tinkamu sukimo momentu; Tai pasiekiama per kultūrą, kuri valdo, kaip atliekamas darbas. Šiame skyriuje išmoksite naudoti dirbtinį intelektą (DI) kokybės valdymo, saugos valdymo sistemos (SMS) ir žmogiškųjų faktorių srityse; Tačiau aptarsime, kodėl žmogaus sprendimas visada turėtų likti saugumo kultūros centre.
SMS ir ataskaitų teikimo kultūra
SMS (saugos valdymo sistema) yra sistemingas požiūris, pagrįstas aktyviu pavojų aptikimu ir rizikos valdymu. Jos esmė yra tik kultūra (požiūris, kai asmuo, kuris sąžiningai praneša apie klaidą, nėra baudžiamas, o aplaidumas / tyčia ir klaida yra atskirti) ir pranešimų apie pavojų. Apsaugos sistema veikia tik tada, kai žmonės apie tai praneša be baimės.
AI čia yra vertinga pagalba, tačiau tam reikia subtilaus balanso. Naudingi naudojimo būdai:
- Klasifikuokite ir tendencijų pranešimus: sugrupuokite pasikartojančias temas, ATA skyrius, sąlygas šimtuose saugos / kokybės pranešimų.
- Ataskaitos projektas: incidento faktų pavertimas struktūrizuota ataskaita (su kalba, kuria nagrinėjamas procesas, o ne asmuo).
- Pagrindinių priežasčių analizės palengvinimas: klausimų generavimas „5 Kodėl“ arba barjerų analizei.
- Kokybės audito kontrolinio sąrašo projektas.
- Pamokų mokymosi santraukos: pasikartojančių pamokų iš praeities įvykių sudarymas.
Atsargiai: saugos pranešimai dažnai yra asmeniniai ir neskelbtini duomenys. Anonimizavimas ir įmonės duomenų politika yra būtini atliekant analizę naudojant AI. Be to, AI neturėtų būti leidžiama pažymėti įvykio kaip „kas kaltas“; SMS tikslas – ne surasti nusikaltėlius, o sutvarkyti sistemą. Neteisingai naudojamas AI gali pakenkti tik kultūrai.
Nešvarus tuzinas: 12 žmonių klaidos priežasčių
Techninės priežiūros žmogiškųjų veiksnių klasika yra Gordono Duponto „Dirty Dozen“ sąrašas – 12 bendrų žmogiškųjų veiksnių, lemiančių techninės priežiūros nesėkmes: bendravimo stoka, pasitenkinimas, žinių trūkumas, išsiblaškymas, komandinio darbo trūkumas, nuovargis, išteklių trūkumas, spaudimas, atkaklumas, stresas, sąmoningumo, normų stoka (nepastatyti įpročiai).
Svarbiausias ryšys, susijęs su dirbtiniu intelektu, yra ryšys tarp pasitenkinimo (perdėtas pasitikėjimas savimi / pasitenkinimas) ir automatizavimo šališkumu (per didelis pasitikėjimas automatizavimu – priimti jį kaip teisingą tik todėl, kad tai sako sistema). Sklandi ir patikima AI gali sukelti pasitenkinimą. Idėja „taip pasakė sistema, nereikia tikrinti“ yra moderni „Dirty Dozen“ versija.
Patarimas: AI naudojimą nustatykite kaip skydą nuo „Dirty Dozen“, o ne kaip paleidiklį: gerai turėti kontrolinio sąrašo priminimą pasibaigus pavargusiai pamainai; bet fizinės apžiūros praleidimas sakydamas „AI jau atrodė“ yra pats pasitenkinimas. Priemonė turi padidinti jūsų dėmesį, o ne jį nuslopinti.
Atkaklumas ir AI
„Dirty Dozen“ „pasitikėjimo trūkumas“ yra techniko nesugebėjimas išsakyti to, kas, jo manymu, yra neteisinga. Įdomu tai, kad dirbtinis intelektas čia turi dvipusį poveikį. Teigiama: technikas gali naudoti AI, kad susistemintų savo rūpestį ir suformuluotų „kaip tai suformuluoti? Neigiamas: autoritarinis AI tonas gali paskatinti žmogų nuslopinti savo tikrąją intuiciją. Tinkama pusiausvyra: AI yra įvestis, o jūsų profesinė intuicija ir stebėjimas yra sprendimų priėmėjas. Jūsų jausmas „kažkas negerai“ turi nusverti AI išvestį „viskas normalu“ – sustokite ir pažiūrėkite.
trys mini dėklai
1 atvejis – tendencijų analizė aptiko pasikartojančią klaidą. Kai šešių mėnesių kokybės pranešimai buvo sugrupuoti pagal YZ (anoniminiai), pasikartojanti tema „neteisingai sumontuota tvirtinimo detalė“ išsiskyrė konkretaus skydelio tipui. Kokybės komanda pasiekė pagrindinę priežastį: užduoties kortelės žingsnis buvo neaiškus. Kortelė patikslinta; Pasikartojantis klaidų šaltinis buvo sistemingai uždarytas.
2 atvejis – aptiktas automatikos poslinkio spąstas. Pavargusioje naktinėje pamainoje technikas norėjo praleisti vizualinį patikrinimą, remdamasis AI santrauka „šis patikrinimas atrodo normaliai“. Komandos vadovas įsiterpė: AI apibendrino duomenis, bet nematė kūrinio. Fizinė apžiūra aptiko nedidelį nuotėkio pėdsaką. Pasitenkinimą nutraukė žmogaus įsikišimas.
3 atvejis – pasitikėjimo palaikymas. Vienas jaunas technikas manė, kad planas buvo nerealus, bet nežinojo, kaip tai pasakyti. Dirbdamas dirbtiniu intelektu, jis suformulavo savo rūpestį faktine, pagarbia kalba: „Dėl šios būtinos sąlygos ši užduotis negali būti saugiai atlikta per nurodytą laiką. Svarstytas struktūrinis prieštaravimas; Žingsnis, kuris būtų buvęs praleistas esant spaudimui, buvo išsaugotas.
Keturi kopijuojami šablonai
Vaidmuo: Saugumo pranešimų tendencijų analizatorius (su anoniminiais duomenimis).Užduotis: Grupuokite pasikartojančias temas, ATA skyrius ir sąlygas šiuose anoniminiuose pranešimuose.Taisyklės: Kaltinamas asmuo; NENAUDOKITE etiketės „kas kaltas“; sutelkti dėmesį į sisteminį modelį.Pranešimai: [anoniminiai duomenys]
Vaidmuo: Incidento ataskaitos projekto asistentas (tiesiog kultūros kalba). Užduotis: Parašykite incidento ataskaitą iš šių faktų, tirdami procesą, o ne asmenį. Taisyklės: nevartokite kaltinamųjų būdvardžių; Naudokite struktūrą „kas atsitiko, kokios aplinkybės, kokio barjero trūko“. Faktai: [įvykio informacija]
Vaidmuo: pagrindinės priežasties (5 Kodėl) pagalbininkas. Užduotis: Sugeneruokite „5 Kodėl“ klausimus šiam įvykiui ir paklauskite, ar kiekvienas atsakymas rodo sisteminį silpnumą. Taisyklės: pateikiu atsakymus; generuojate tinkamus klausimus; Nurodykite procesą, o ne asmeninę kaltę. Incidentas: [santrauka]
Vaidmuo: pasitikėjimo išraiškos pagalba. Užduotis: Pasiūlykite sakinio struktūrą, kaip toliau išreikšti savo susirūpinimą faktine, pagarbiai ir aiškia kalba. Taisyklės: nebūkite emocionalus/kaltinantis; sutelkti dėmesį į saugumo pagrindimą. Susirūpinimas: [techninis susirūpinimas]
Silpnas raginimas / Stiprus raginimas
Silpnas: „Kas kaltas dėl šio įvykio, rašyk protokolą“.
Kaltininko paieškos sistema pakerta teisingą kultūrą ir užgožia tikrąją sisteminę priežastį.
Stiprus: "Parašykite incidento ataskaitos projektą iš šių faktų. Nekaltinkite žmogaus; naudokite struktūrą "kas atsitiko, kokios buvo aplinkybės, kokios kliūtys trūko, ką galima sistemiškai pataisyti". Duomenys anonimiški, nepridėkite asmeninės informacijos."
Šis raginimas perkelia dėmesį nuo asmens prie sistemos, nuo bausmės prie mokymosi.
Lentelė: Dirty Dozen ir AI sąveika
veiksnys
AI rizika
Tinkamas AI naudojimas
Pasitenkinimas
„Jau pažiūrėjau“ pasitenkinimas
Kontrolinio sąrašo priminimas
automatizavimo šališkumas
Aklai pasitikėkite produkcija
Naudokite kaip įvestį, patvirtinkite
bendravimo trūkumas
Neteisingas suvestinės perkėlimas
Konfigūruoti apyvartą
Trūksta užsispyrimo
Autoritarinis tonas slopina
Padėkite išreikšti nerimą
nuovargis
Spartusis klavišas kritiniu momentu
Nepriminkite žingsnių, palikite parašą žmogui
Dažnos klaidos
- Priversdamas dirbtinį intelektą užduoti klausimą „kas kaltas? Tiesiog gadina kultūrą.
- Analizuoti neskelbtinus pranešimus jų anonimizuoti. Privatumo pažeidimas.
- Patekimas į automatizavimo šališkumą. „Sistema pasakė“ nepakeičia fizinės apžiūros.
- Savo intuicijos aukojimas dirbtinio intelekto tonui. Atkreipkite dėmesį į jausmą „kažkas ne taip“.
- AI naudojimas nuorodoms esant slėgiui. Transporto priemonė įsibėgėja, bet nepraleidžia nė žingsnio.
Apibendrinant
Saugumas yra kultūra, o žmogaus sprendimas yra jos esmė. AI yra vertinga pagalba, padedanti išgauti tendencijas iš saugos ir (arba) kokybės pranešimų, rengti ataskaitas pagal kultūrą ir analizuoti pagrindines priežastis. Tačiau didžiausia rizika yra ta, kad dirbtinio intelekto sklandumas skatina pasitenkinimą ir automatizavimo šališkumą. Sukurkite dirbtinį intelektą kaip skydą nuo purvino tuzino: padidinkite savo dėmesį, o ne jį nutirpinkite; Sprendimą, intuiciją ir parašą palikite žmogui.
Taikymo užduotis
Gaukite (arba redaguokite) kelis anoniminius kokybės / saugos pranešimus. Naudodami pirmąjį šabloną paprašykite AI atlikti tendencijų analizę. Tada paklauskite savęs: kokias temas AI rado, kurių praleido, ar tai pateko į „kas kaltas“? Parašykite „sisteminio tobulinimo“ pasiūlymą ir patikrinkite, ar jis atitinka teisingos kultūros principą.
kontrolinis sąrašas
- [ ] Saugos duomenis anonimizuojau ir laikiausi duomenų politikos.
- [ ] Dirbtinį intelektą naudojau sistemos nustatymo sistemoje, o ne nusikaltimų paieškos sistemoje.
- [ ] Nepraleidau fizinės apžiūros dėl automatizavimo šališkumo.
- [ ] Savo intuiciją „kažkas ne taip“ padėjau virš AI išvesties.
- [ ] Pranešime laikiausi teisingos kultūros kalbos.
- [ ] Sprendimą, išaiškinimą ir parašą palikau pačiam asmeniui.