Mga nadagdag:
- Unawain ang mga prinsipyo ng SMS at makatarungang kultura at gumamit ng artificial intelligence para sa pagsusuri ng trend at pagbalangkas ng ulat na nakatuon sa system sa mga notification sa seguridad.
- Kakayahang iugnay ang Dirty Dozen na mga kadahilanan, lalo na ang kasiyahan at pagkiling sa automation, sa paggamit ng artificial intelligence at pamahalaan ang mga ito bilang isang kalasag
- Pag-unawa na ang data ng seguridad ay dapat na hindi nagpapakilala at ang desisyon/intuition/pirma ay nananatili sa tao.
Ang kaligtasan sa paglipad ay hindi lamang nakakamit sa pamamagitan ng paghigpit ng tamang bolt sa tamang metalikang kuwintas; Ito ay nakakamit sa pamamagitan ng isang kultura na namamahala kung paano ginagawa ang trabaho. Sa yunit na ito, matututunan mo kung paano gumamit ng artificial intelligence (AI) sa larangan ng pamamahala ng kalidad, sistema ng pamamahala sa kaligtasan (SMS) at mga kadahilanan ng tao; Ngunit tatalakayin natin kung bakit ang paghatol ng tao ay dapat palaging manatili sa sentro ng kultura ng seguridad.
SMS at kultura ng pag-uulat
Ang SMS (Safety Management System) ay isang sistematikong diskarte batay sa aktibong pagtuklas ng mga panganib at pamamahala ng panganib. Ang nasa puso nito ay kultura lamang (isang diskarte kung saan ang taong tapat na nag-uulat ng pagkakamali ay hindi pinarurusahan, at ang kapabayaan/intensiyon at pagkakamali ay pinaghihiwalay) at pag-uulat ng panganib. Gumagana lamang ang isang sistema ng seguridad kapag iniulat ito ng mga tao nang walang takot.
Ang AI ay isang mahalagang tulong dito, ngunit nangangailangan ito ng maselang balanse. Mga kapaki-pakinabang na gamit:
- I-classify at trend notification: Pangkatin ang mga umuulit na tema, mga seksyon ng ATA, mga kundisyon sa daan-daang mga notification sa seguridad/kalidad.
- Report draft: Pagsasalin ng mga katotohanan ng isang insidente sa isang structured na ulat (na may wikang sumusuri sa proseso, hindi ang tao,).
- Pangasiwaan ang root cause analysis: Bumubuo ng mga tanong para sa "5 Whys" o barrier analysis.
- De-kalidad na audit checklist draft.
- Mga buod ng pagkatuto ng aralin: Pag-iipon ng mga paulit-ulit na aralin mula sa mga nakaraang kaganapan.
Babala: Ang mga notification sa seguridad ay kadalasang personal at sensitibong data. Mahalaga ang anonymization at corporate data policy kapag nagsusuri gamit ang AI. Bukod pa rito, hindi dapat pahintulutan ang AI na lagyan ng label ang isang kaganapan bilang "na may kasalanan"; Ang layunin ng SMS ay hindi upang mahanap ang mga kriminal, ngunit upang ayusin ang system. Ang isang AI na ginamit nang hindi tama ay maaaring makapinsala sa kultura lamang.
Dirty Dozen: 12 trigger ng human error
Ang klasiko ng pagpapanatili ng mga kadahilanan ng tao ay ang listahan ng Dirty Dozen ni Gordon Dupont — 12 karaniwang mga kadahilanan ng tao na humahantong sa pagkabigo sa pagpapanatili: kawalan ng komunikasyon, kasiyahan, kawalan ng kaalaman, pagkagambala, kawalan ng pagtutulungan ng magkakasama, pagkapagod, kakulangan ng mga mapagkukunan, presyon, kawalan ng paninindigan, stress, kawalan ng kamalayan, mga kaugalian (misplaced habits).
Ang pinaka-kritikal na link patungkol sa AI dito ay ang kaugnayan sa pagitan ng kasiyahan (sobrang kumpiyansa/kasiyahan) at pagkiling sa automation (sobrang kumpiyansa sa automation - tinatanggap ito bilang totoo dahil lang sa sinasabi ng isang system). Ang tuluy-tuloy at kumpiyansa na output ng AI ay maaaring tiyak na magbunga ng kasiyahan. Ang ideya ng "iyan ang sinabi ng system, hindi na kailangang suriin" ay isang modernong bersyon ng Dirty Dozen.
Tip: I-set up ang paggamit ng AI bilang shield laban sa Dirty Dozen, hindi bilang trigger: magandang magkaroon ng checklist na paalala sa pagtatapos ng pagod na shift; ngunit ang paglaktaw sa pisikal na pagsusuri sa pamamagitan ng pagsasabi ng "AI na tumingin" ay kasiyahan mismo. Ang tool ay dapat dagdagan ang iyong pansin, hindi manhid ito.
Pagigiit at AI
Ang "kakulangan ng assertiveness" sa Dirty Dozen ay ang kawalan ng kakayahan ng isang technician na ipahayag ang isang bagay na nakikita niyang mali. Kapansin-pansin, ang AI ay may dalawang-daan na epekto dito. Positibo: maaaring gamitin ng isang technician ang AI para buuin ang kanyang alalahanin at i-draft "paano ko ito sasabihin?" Negatibo: Ang awtoritaryan na tono ng AI ay maaaring humantong sa tao na sugpuin ang kanilang sariling tunay na intuwisyon. Ang tamang balanse: AI ang input, ang iyong propesyonal na intuwisyon at pagmamasid ang gumagawa ng desisyon. Ang iyong pakiramdam ng "may isang bagay ay mali" ay dapat na mas malaki kaysa sa output ng AI na "lahat ay normal" - huminto at tumingin.
tatlong mini case
Kaso 1 — Nakita ng pagsusuri sa trend na umuulit na error. Kapag ang anim na buwanang mga notification sa kalidad ay pinagsama-sama ng YZ (anonymised), isang umuulit na tema ng "maling naka-install na fastener" ang lumabas para sa isang partikular na uri ng panel. Ang pangkat ng kalidad ay nakarating sa pangunahing dahilan: ang isang hakbang sa task card ay hindi malinaw. Ang card ay nilinaw; Ang paulit-ulit na pinagmumulan ng error ay sistematikong isinara.
Kaso 2 — Natukoy ang bitag ng bias ng automation. Sa isang pagod na night shift, nais ng isang technician na laktawan ang isang visual na inspeksyon batay sa buod ng AI ng "mukhang normal ang tseke na ito." Ang pinuno ng koponan ay sumingit: Ang AI ay nagbubuod ng data ngunit hindi nakita ang piraso. May nakitang maliit na bakas ng pagtagas sa pisikal na pagsusuri. Nasira ang kasiyahan sa pamamagitan ng interbensyon ng tao.
Kaso 3 — Suporta sa paninindigan. Naisip ng isang batang technician na ang isang plano ay hindi makatotohanan ngunit hindi niya alam kung paano ito sasabihin. Sa AI, itinayo niya ang kanyang alalahanin sa makatotohanan, magalang na wika: "Ang gawaing iyon ay hindi maaaring makumpleto nang ligtas sa ibinigay na oras dahil sa kinakailangang iyon." Isinaalang-alang ang structured objection; Ang isang hakbang na sana ay nilaktawan sa ilalim ng presyon ay napanatili.
Apat na maaaring kopyahin na mga template
Tungkulin: Tagasuri ng trend ng notification sa seguridad (na may hindi kilalang data).Gawain: Pangkatin ang mga umuulit na tema, seksyon ng ATA, at kundisyon sa mga sumusunod na hindi kilalang notification. Mga Panuntunan: Sisihin ang tao; HUWAG lagyan ng label ang "kanino ang kasalanan"; tumuon sa sistematikong pattern. Mga Notification: [anonymous na data]
Tungkulin: Incident report draft assistant (cultural language lang). Gawain: Bumuo ng ulat ng insidente mula sa mga sumusunod na katotohanan, sinusuri ang proseso, hindi ang tao. Mga Panuntunan: Huwag gumamit ng mga pang-uri na nagpaparatang; Gamitin ang "ano ang nangyari, anong mga pangyayari, anong hadlang ang nawawala" na istraktura. Katotohanan: [impormasyon ng kaganapan]
Tungkulin: Facilitator ng root cause (5 Whys). Gawain: Bumuo ng "5 Bakit" na mga tanong para sa sumusunod na pangyayari at tanungin kung ang bawat sagot ay nagpapahiwatig ng sistematikong kahinaan. Mga Panuntunan: Ibinibigay ko ang mga sagot; bumuo ka ng mga tamang tanong; Sumangguni sa proseso, hindi pansariling paninisi. Insidente: [buod]
Tungkulin: Pantulong sa pagpapahayag ng paninindigan. Gawain: Magmungkahi ng balangkas ng pangungusap para maipahayag ko ang aking alalahanin sa ibaba sa makatotohanan, magalang at malinaw na wika. Mga Panuntunan: Huwag maging emosyonal/akusa; center on security rationale.Concern: [technical concern]
Mahinang prompt / Malakas na prompt
Mahina: "Sino ang may kasalanan sa pangyayaring ito, isulat ang ulat."
Ang balangkas na naghahanap ng salarin ay sumisira sa makatarungang kultura at nakakubli sa tunay na sistematikong dahilan.
Strong: "Sumulat ng draft ng ulat ng insidente mula sa mga sumusunod na katotohanan. Huwag sisihin ang tao; gamitin ang 'ano ang nangyari, anong mga pangyayari ang naroroon, anong hadlang ang nawawala, kung ano ang maaaring ayusin sa sistematikong' istraktura. Data anonymous, huwag magdagdag ng personal na impormasyon."
Inilipat ng prompt na ito ang focus mula sa tao patungo sa sistema, mula sa parusa patungo sa pag-aaral.
Talahanayan: Dirty Dozen at pakikipag-ugnayan ng AI
salik
Panganib sa AI
Wastong paggamit ng AI
Kasiyahan
"Nakatingin na" kasiyahan
Paalala sa checklist
bias ng automation
Blindly trust the output
Gamitin bilang input, kumpirmahin
kawalan ng komunikasyon
Maling paglilipat ng buod
I-configure ang turnover
Kawalan ng paninindigan
Ang awtoritaryan na tono ay pinipigilan
Tumulong sa pagpapahayag ng pagkabalisa
pagkapagod
Shortcut sa kritikal na sandali
Huwag ipaalala ang mga hakbang, iwanan ang pirma sa tao
Mga karaniwang pagkakamali
- Paggawa ng AI na tanungin ang tanong na "sino ang may kasalanan?" Sinisira lang ang kultura.
- Pagsusuri ng mga sensitibong notification nang hindi ina-anonymize ang mga ito. Paglabag sa privacy.
- Nahuhulog sa bias ng automation. "Sinabi ng sistema" ay hindi pinapalitan ang pisikal na pagsusuri.
- Ang pagsasakripisyo ng sariling intuwisyon sa tono ng AI. Bigyang-pansin ang pakiramdam ng "may mali."
- Paggamit ng AI upang mag-shortcut sa ilalim ng presyon. Bumibilis ang sasakyan ngunit hindi lumalaktaw ng isang hakbang.
Sa buod
Ang seguridad ay isang kultura at ang paghatol ng tao ay nasa puso nito. Ang AI ay isang mahalagang tulong sa pagkuha ng mga uso mula sa mga abiso sa kaligtasan/kalidad, pag-draft ng mga ulat sa kultura lamang, at pagsusuri sa ugat. Ngunit ang pinakamalaking panganib ay ang pagkalikido ng AI ay nagpapakain ng kasiyahan at pagkiling sa automation. Bumuo ng AI bilang isang kalasag laban sa Dirty Dozen: dagdagan ang iyong pansin, hindi manhid ito; Iwanan ang desisyon, intuwisyon at lagda sa tao.
Gawain ng aplikasyon
Kumuha (o mag-edit) ng ilang hindi kilalang kalidad/kaligtasan na mga abiso. Gamit ang unang template, tanungin ang AI para sa pagsusuri ng trend. Pagkatapos ay tanungin ang iyong sarili: Aling mga tema ang nahanap ng AI, kung saan ito napalampas, nakapasok ba ito sa anumang "sino ang may kasalanan" na implikasyon? Sumulat ng panukalang "systemic improvement" at suriin kung sumusunod ito sa makatarungang prinsipyo ng kultura.
checklist
- [ ] Na-anonymize ko ang data ng seguridad at sumunod sa patakaran ng data.
- [ ] Gumamit ako ng AI sa isang balangkas ng pag-aayos ng system, hindi isang balangkas ng paghahanap ng kriminal.
- [ ] Hindi ko nilaktawan ang pisikal na pagsusuri laban sa bias ng automation.
- [ ] Inilagay ko ang aking "may mali" na intuwisyon sa itaas ng output ng AI.
- [ ] Iningatan ko ang makatarungang wika ng kultura sa ulat.
- [ ] Ipinaubaya ko sa tao ang desisyon, interpretasyon at lagda.