Kasu:
- Mõista SMS-i ja õigluse kultuuri põhimõtteid ning kasutada tehisintellekti trendianalüüsiks ja turvateatistes süsteemipõhiseks aruannete koostamiseks.
- Võimalus seostada räpaseid tosinaid tegureid, eriti rahulolu ja automatiseerimise eelarvamusi, tehisintellekti kasutamisega ja hallata neid kaitsekilbina
- Arusaam, et turvaandmed tuleks anonüümseks muuta ja otsus/intuitsioon/allkiri jääb inimesele.
Lennundusohutust ei saavutata ainult õige poldi pingutamisega õige pöördemomendiga; See saavutatakse kultuuri kaudu, mis juhib töö tegemist. Selles üksuses õpid kasutama tehisintellekti (AI) kvaliteedijuhtimise, ohutusjuhtimissüsteemi (SMS) ja inimtegurite valdkonnas; Kuid me arutleme selle üle, miks peaks inimlik otsustusvõime jääma alati julgeolekukultuuri keskmesse.
SMS ja aruandluskultuur
SMS (Safety Management System) on süstemaatiline lähenemine, mis põhineb ohtude ennetaval tuvastamisel ja riskide juhtimisel. Selle keskmes on lihtsalt kultuur (lähenemisviis, kus ausalt veast teatanud inimest ei karistata ning hooletus/kavatsus ja eksitus on eraldatud) ja ohtudest teatamine. Turvasüsteem töötab ainult siis, kui inimesed sellest kartmatult teatavad.
AI on siin väärtuslik abivahend, kuid see nõuab õrna tasakaalu. Kasulikud kasutusalad:
- Klassifitseerige ja suundumuste teatised: rühmitage korduvad teemad, ATA jaotised, tingimused sadade turva-/kvaliteediteadete vahel.
- Aruande mustand: vahejuhtumi faktide tõlkimine struktureeritud raportiks (keelega, mis uurib protsessi, mitte inimest).
- Algpõhjuste analüüsi hõlbustamine: küsimuste genereerimine „5 miks“ või barjäärianalüüsi jaoks.
- Kvaliteediauditi kontrollnimekirja mustand.
- Õppetundide kokkuvõtted: Korduvate õppetundide koostamine minevikusündmustest.
Ettevaatust. Turvateatised on sageli isiklikud ja tundlikud andmed. Anonüümseks muutmine ja ettevõtte andmete poliitika on AI-ga analüüsimisel hädavajalikud. Lisaks ei tohiks AI-l lubada sündmust sildistada "kelle süü"; SMS-i eesmärk ei ole kurjategijate leidmine, vaid süsteemi parandamine. Valesti kasutatud tehisintellekt võib kahjustada ainult kultuuri.
Räpane tosin: 12 inimliku vea käivitajat
Hooldusinimtegurite klassika on Gordon Duponti Dirty Dozen nimekiri — 12 tavalist inimtegurit, mis põhjustavad hooldustõrkeid: suhtlemisvaegus, rahulolu, teadmiste puudumine, hajameelsus, meeskonnatöö puudumine, väsimus, ressursside nappus, surve, enesekehtestamise puudumine, stress, teadlikkuse puudumine, normid (valesti paigutatud harjumused).
Kõige kriitilisem lüli seoses tehisintellektiga on siin rahulolu (liigne enesekindlus/rahulolu) ja automatiseerimise eelarvamuste (liigne enesekindlus automatiseerimises – selle aktsepteerimine tõena lihtsalt sellepärast, et süsteem seda ütleb) vahel. Tehisintellekti sujuv ja enesekindel väljund võib täpselt tekitada rahulolu. Idee "see on see, mida süsteem ütles, pole vaja kontrollida" on Dirty Dozeni kaasaegne versioon.
Näpunäide. Seadistage tehisintellekti kasutamine kaitseks räpase tosina vastu, mitte päästikuks: väsinud vahetuse lõpus on hea, kui teil on kontrollnimekirja meeldetuletus; kuid füüsilise läbivaatuse vahelejätmine, öeldes "AI juba vaatasin", on rahulolu ise. Tööriist peaks suurendama teie tähelepanu, mitte seda tuimestama.
Enesekindlus ja tehisintellekt
Dirty Dozeni "kehtestamise puudumine" on tehniku suutmatus välja öelda midagi, mida ta peab valeks. Huvitaval kombel on AI-l siin kahepoolne mõju. Positiivne: tehnik saab kasutada tehisintellekti oma mure struktureerimiseks ja sõnastada „kuidas ma seda sõnastan?” Negatiivne: AI autoritaarne toon võib panna inimese oma tõelise intuitsiooni alla suruma. Õige tasakaal: AI on sisend, teie professionaalne intuitsioon ja vaatlus on otsustaja. Teie tunne, et "midagi on valesti", peab kaaluma üles tehisintellekti väljundi "kõik on normaalne" – peatuge ja vaadake.
kolm minikarpi
Juhtum 1 – trendianalüüsis leiti korduv viga. Kui kuuekuulised kvaliteediteatised rühmitati YZ (anonüümseks) järgi, paistis teatud paneelitüübi puhul silma korduv teema „valesti paigaldatud kinnitus“. Kvaliteedimeeskond jõudis algpõhjuseni: üks samm ülesandekaardil oli ebaselge. Kaart on selgeks tehtud; Korduv veaallikas on süsteemselt suletud.
Juhtum 2 – tuvastati automaatika kallutatuse lõks. Väsinud öises vahetuses tahtis tehnik vahele jätta visuaalse kontrolli, mis põhines tehisintellekti kokkuvõttel "see kontroll näeb välja normaalne". Meeskonna juht sekkus: AI oli andmed kokku võtnud, kuid polnud tükki näinud. Füüsiline läbivaatus leidis väikese lekkejälje. Rahuloleku murdis inimlik sekkumine.
Juhtum 3 – enesekehtestamise tugi. Üks noor tehnik arvas, et plaan on ebareaalne, kuid ei teadnud, kuidas seda öelda. Tehisintellektiga struktureeris ta oma mure faktilises ja lugupidavas keeles: "Seda ülesannet ei saa selle eelduse tõttu antud aja jooksul ohutult täita." Struktureeritud vastuväidet arvesse võetud; Säilitati samm, mis oleks surve all vahele jäänud.
Neli kopeeritavat malli
Roll: Turvateatiste suundumuste analüsaator (anonüümsete andmetega).Ülesanne: rühmitage korduvad teemad, ATA-lõigud ja tingimused järgmistes anonüümsetes teatistes.Reeglid: süüdistada inimest; ÄRGE märgistage "kelle süü"; keskenduge süsteemsele mustrile.Teavitused: [anonüümsed andmed]
Roll: Juhtumiaruande projekti assistent (lihtsalt kultuurikeel). Ülesanne: Koostage juhtumiaruanne järgmiste faktide põhjal, uurides protsessi, mitte inimest. Reeglid: Ärge kasutage süüdistavaid omadussõnu; Kasutage struktuuri "mis juhtus, millised asjaolud, milline barjäär puudus". Faktid: [sündmuse teave]
Roll: juurpõhjuse (5 miks) abistaja. Ülesanne: genereerige järgmise sündmuse jaoks "5 Miks" küsimust ja küsige, kas iga vastus viitab süsteemsele nõrkusele. Reeglid: annan vastused; genereerite õigeid küsimusi; Viidake protsessile, mitte isiklikule süüle. Juhtum: [kokkuvõte]
Roll: enesekehtestamise väljendusabi. Ülesanne: Soovitage mulle lauseehitus, et väljendada allpool oma muret faktilises, lugupidavas ja selges keeles. Reeglid: ära ole emotsionaalne/süüdistav; keskendub turvalisuse põhjendustele. Mure: [tehniline probleem]
Nõrk viip / Tugev viip
Nõrk: "Kes on selles juhtumis süüdi, kirjutage aruanne."
Süüdlaste otsimise raamistik õõnestab õiglast kultuuri ja varjab tõelise süsteemse põhjuse.
Tugev: "Kirjutage intsidendi aruande mustand järgmistest faktidest. Ärge süüdistage inimest; kasutage struktuuri "mis juhtus, millised asjaolud olid, milline barjäär puudus, mida saab süsteemselt parandada". Andmed anonüümsed, ärge lisage isikuandmeid."
See käsk nihutab fookuse inimeselt süsteemile, karistuselt õppimisele.
Tabel: Dirty Dozen ja AI interaktsioon
tegur
AI risk
AI õige kasutamine
Rahulolu
"Juba vaadanud" rahulolu
Kontrollnimekirja meeldetuletus
automatiseerimise eelarvamus
Pimesi usalda väljundit
Kasutage sisestuseks, kinnitage
suhtlemise puudumine
Vale kokkuvõtlik ülekanne
Käibe seadistamine
Kehtestamise puudumine
Autoritaarne toon surub alla
Aidake väljendada ärevust
väsimus
Otsetee kriitilisel hetkel
Ärge tuletage samme meelde, jätke allkiri inimesele
Levinud vead
- Tehes AI esitama küsimuse "kes on süüdi?" rikub lihtsalt kultuuri ära.
- Tundlike teatiste analüüsimine neid anonüümseks muutmata. Privaatsuse rikkumine.
- Langemine automatiseerimise eelarvamustesse. "Süsteem ütles" ei asenda füüsilist läbivaatust.
- Oma intuitsiooni ohverdamine tehisintellekti toonile. Pöörake tähelepanu tundele, et "midagi on valesti".
- AI kasutamine otseteed surve all. Sõiduk kiirendab, kuid ei jäta sammu vahele.
Kokkuvõttes
Turvalisus on kultuur ja selle keskmes on inimeste otsustusvõime. Tehisintellekt on väärtuslik abimees ohutuse/kvaliteedi teavitustest suundumuste leidmisel, aruannete koostamisel õiglases kultuuris ja algpõhjuste analüüsil. Kuid suurim oht on see, et tehisintellekti sujuvus tekitab rahulolu ja automatiseerimise eelarvamusi. Ehitage tehisintellekt kaitseks räpase tosina vastu: suurendage oma tähelepanu, mitte tuimaks seda; Jäta otsustamine, intuitsioon ja allkiri inimese hooleks.
Rakenduse ülesanne
Hankige (või muutke) mõned anonüümsed kvaliteedi-/ohutusmärguanded. Esimese malli puhul küsige AI-lt trendianalüüsi. Seejärel küsige endalt: millised teemad AI leidis, millised jäid vahele, kas see libises "kes on süüdi" tähendustesse? Kirjutage "süsteemse täiustamise" ettepanek ja kontrollige, kas see vastab õiglase kultuuri põhimõttele.
kontrollnimekiri
- [ ] Olen muutnud turvaandmed anonüümseks ja järginud andmepoliitikat.
- [ ] Kasutasin tehisintellekti süsteemi fikseerimise raamistikus, mitte kuritegude leidmise raamistikus.
- [ ] Ma ei jätnud füüsilist läbivaatust automatiseerimise kallutatuse vastu.
- [ ] Panin oma "midagi on valesti" intuitsiooni AI väljundi kohale.
- [ ] Jätsin raportis alles õiglase kultuurikeele.
- [ ] Otsuse, tõlgenduse ja allkirja jätsin isiku teha.