Nyereség:
- Ismerje meg az SMS és az igazságos kultúra alapelveit, és használja a mesterséges intelligenciát trendelemzéshez és rendszerorientált jelentéskészítéshez a biztonsági értesítésekben.
- Képes a piszkos tucat tényezőket, különösen az önelégültséget és az automatizálási torzítást a mesterséges intelligencia használatával társítani, és pajzsként kezelni
- Annak megértése, hogy a biztonsági adatokat anonimizálni kell, és a döntés/intuíció/aláírás az embernél marad.
A repülésbiztonság nem csak a megfelelő csavar megfelelő nyomatékkal történő meghúzásával érhető el; Ez egy olyan kultúra révén érhető el, amely szabályozza a munkavégzést. Ebben az egységben megtanulja a mesterséges intelligencia (AI) használatát a minőségirányítás, a biztonságirányítási rendszer (SMS) és az emberi tényezők terén; De megvitatjuk, hogy az emberi ítélőképesség miért maradjon mindig a biztonsági kultúra középpontjában.
SMS és jelentési kultúra
Az SMS (Safety Management System) egy szisztematikus megközelítés, amely a veszélyek proaktív észlelésén és a kockázatok kezelésén alapul. Középpontjában csak a kultúra áll (olyan megközelítés, amelyben a hibát őszintén bejelentő személyt nem büntetik meg, és a gondatlanság/szándékosság és a tévedés elkülönül) és a veszélyjelentés. Egy biztonsági rendszer csak akkor működik, ha az emberek félelem nélkül jelentik azt.
Az AI értékes segítség itt, de kényes egyensúlyt igényel. Hasznos felhasználások:
- Osztályozás és trendértesítések: Csoportosítsd az ismétlődő témákat, ATA-szakaszokat, feltételeket több száz biztonsági/minőségi értesítés között.
- Jelentéstervezet: Egy esemény tényeinek lefordítása strukturált jelentésbe (olyan nyelvezetű, amely a folyamatot vizsgálja, nem a személyt).
- A kiváltó okok elemzésének elősegítése: Kérdések generálása az „5 Miért”-hez vagy az akadályelemzéshez.
- Minőségellenőrzési ellenőrzőlista tervezet.
- Tanulási összefoglalók: Visszatérő tanulságok összeállítása a múltbeli eseményekből.
Figyelem: A biztonsági értesítések gyakran személyes és érzékeny adatok. Az anonimizálás és a vállalati adatpolitika elengedhetetlen az AI-val végzett elemzés során. Ezenkívül a mesterséges intelligencia nem jelölhet meg egy eseményt „akinek a hibája”-ként; Az SMS célja nem a bűnözők felkutatása, hanem a rendszer megjavítása. A helytelenül használt mesterséges intelligencia károsíthatja a kultúrát.
Piszkos tucat: 12 emberi hiba kiváltó oka
A karbantartási emberi tényezők klasszikusa Gordon Dupont Dirty Dozen listája – 12 gyakori emberi tényező, amely karbantartási kudarchoz vezet: kommunikáció hiánya, önelégültség, tudáshiány, figyelemelterelés, csapatmunka hiánya, fáradtság, erőforrások hiánya, nyomás, önbizalomhiány, stressz, tudatosság hiánya, normák (rossz szokások).
A mesterséges intelligencia tekintetében itt a legkritikusabb kapcsolat az önelégültség (túlzott magabiztosság/elégedettség) és az automatizálási torzítás (túlzott önbizalom az automatizálásban – igaznak fogadjuk el csak azért, mert egy rendszer ezt mondja). Az AI gördülékeny és magabiztos teljesítménye pontosan önelégültséget szül. Az "ezt mondta a rendszer, nem kell ellenőrizni" ötlet a Dirty Dozen modern változata.
Tipp: A mesterséges intelligencia használatát pajzsként állítsa be a Dirty Dozen ellen, ne pedig triggerként: jó, ha van egy ellenőrzőlista emlékeztető a fáradt műszak végén; de a fizikális vizsgálat kihagyása azzal, hogy „az AI már kinézett”, maga az önelégültség. Az eszköznek növelnie kell a figyelmét, nem pedig el kell zsibbadnia.
Magabiztosság és mesterséges intelligencia
A Dirty Dozenben az önérvényesítés hiánya az, hogy egy technikus képtelen hangot adni valaminek, amit rossznak lát. Érdekes módon az AI-nak itt kétirányú hatása van. Pozitívum: a technikus használhatja az AI-t, hogy felvázolja aggodalmát, és megfogalmazza a „hogyan fogalmazzam meg ezt?” Negatívum: Az AI tekintélyelvű hangvétele arra késztetheti az embert, hogy elnyomja saját valódi intuícióját. A megfelelő egyensúly: a mesterséges intelligencia a bemenet, az Ön szakmai intuíciója és megfigyelése a döntéshozó. A „valami nem stimmel” érzésének meg kell haladnia a mesterséges intelligencia „minden normális” kimenetét – álljon meg és nézze meg.
három mini tok
1. eset – A trendelemzés visszatérő hibát talált. Amikor a hathavi minőségi értesítéseket YZ (anonimizált) csoportosította, a „helytelenül behelyezett rögzítőelem” visszatérő témája kiemelkedett egy adott paneltípusnál. A minőségügyi csapat a kiváltó okhoz ért: a feladatkártyán egy lépés nem volt egyértelmű. A kártya tisztázásra került; Egy visszatérő hibaforrást rendszerszinten lezártak.
2. eset – Automatizálási torzítás csapda észlelve. Egy fáradt éjszakai műszakban egy technikus ki akarta hagyni a szemrevételezést a mesterséges intelligencia „ez az ellenőrzés normálisnak tűnik” összefoglalója alapján. A csapatvezető közbeszólt: Az AI összefoglalta az adatokat, de nem látta a darabot. A fizikális vizsgálat kis szivárgásnyomot talált. Az önelégültséget emberi beavatkozás törte meg.
3. eset – Az asszertivitás támogatása. Egy fiatal technikus azt gondolta, hogy egy terv irreális, de nem tudta, hogyan mondja el. A mesterséges intelligencia kapcsán tényszerű, tiszteletteljes nyelvezeten fogalmazta meg aggodalmát: „Ez a feladat nem hajtható végre biztonságosan az adott időn belül ezen előfeltétel miatt.” Strukturált kifogás figyelembe vétele; Megmaradt egy lépés, amelyet nyomás alatt kihagytak volna.
Négy másolható sablon
Szerep: Biztonsági értesítési trendelemző (anonimizált adatokkal).Feladat: Csoportosítsa az ismétlődő témákat, ATA szakaszokat és feltételeket a következő anonimizált értesítésekben.Szabályok: Személy hibáztatása; NE jelölje meg, hogy „akinek a hibája”; a rendszerszintű mintára összpontosít. Értesítések: [névtelen adatok]
Szerep: Eseményjelentés-tervezet asszisztens (csak kulturális nyelv). Feladat: Készítsen eseményjelentést az alábbi tényekből, a folyamatot, nem a személyt vizsgálva. Szabályok: Ne használj vádaskodó mellékneveket; Használja a „mi történt, milyen körülmények, milyen akadály hiányzott” szerkezetet. Tények: [eseményinformáció]
Szerep: A kiváltó ok (5 miért) segítője. Feladat: Generáljon „5 Miért” kérdést a következő eseményhez, és kérdezze meg, hogy mindegyik válasz rendszerszintű gyengeségre utal-e. Szabályok: én adom a válaszokat; megfelelő kérdéseket generálsz; A folyamatra hivatkozzon, ne a személyes hibára. Incidens: [összefoglaló]
Szerep: Az asszertivitás kifejezésének támogatása. Feladat: Javasoljon egy mondatszerkezetet, amellyel alább aggodalmamat tényszerű, tiszteletteljes és világos nyelvezeten fejezhetem ki. Szabályok: Ne légy érzelmes/vádoló; középpontjában a biztonsági indokok állnak. Aggodalom: [műszaki probléma]
Gyenge felszólítás / Erős felszólítás
Gyenge: "Ki a hibás ebben az incidensben, írja meg a jelentést."
A tetteskereső keret aláássa az igazságos kultúrát, és elhomályosítja a valódi rendszerszintű okot.
Erős: "Írjon incidens jelentéstervezetet a következő tényekből. Ne hibáztassa a személyt; használja a "mi történt, milyen körülmények voltak jelen, milyen akadály hiányzott, mi javítható szisztematikusan" struktúrát. Az adatok anonim, ne adjon hozzá személyes adatokat."
Ez a felszólítás a hangsúlyt személyről rendszerre helyezi, a büntetésről a tanulásra.
Táblázat: Dirty Dozen és AI interakció
tényező
AI kockázat
Az AI megfelelő használata
Önelégültség
„Már kinéztem” önelégültség
Ellenőrzőlista emlékeztető
automatizálási torzítás
Bízzon vakon a kimenetben
Használja bemenetként, erősítse meg
kommunikáció hiánya
Helytelen összefoglaló átvitel
Forgalom konfigurálása
Az asszertivitás hiánya
Az autoriter hang elnyomja
Segítsen kifejezni a szorongást
fáradtság
Parancsikon a kritikus pillanatban
Ne emlékeztesse a lépéseket, hagyja az aláírást a személyre
Gyakori hibák
- A mesterséges intelligencia felteszi a kérdést: "ki a hibás?" Csak elrontja a kultúrát.
- Érzékeny értesítések elemzése anonimizálás nélkül. Adatvédelem megsértése.
- Beesés az automatizálási elfogultságba. A „rendszer azt mondta” nem helyettesíti a fizikális vizsgálatot.
- A saját intuíció feláldozása az AI hangnemének. Ügyeljen a "valami nincs rendben" érzésére.
- AI használata nyomás alatti parancsikonra. A jármű gyorsít, de nem hagy ki egy lépést sem.
Összefoglalva
A biztonság egy kultúra, és az emberi megítélés a középpontjában áll. A mesterséges intelligencia értékes segítség a biztonsági/minőségi értesítésekből származó trendek kinyerésében, a jelentések méltányos kultúrában történő elkészítésében és a kiváltó okok elemzésében. A legnagyobb kockázat azonban az, hogy a mesterséges intelligencia gördülékenysége önelégültséget és automatizálási elfogultságot táplál. Építs mesterséges intelligenciát pajzsként a Dirty Dozen ellen: növeld a figyelmedet, ne pedig elaltatd; A döntést, az intuíciót és az aláírást bízd az illetőre.
Pályázati feladat
Kap (vagy szerkesszen) néhány névtelen minőségi/biztonsági értesítést. Az első sablonnal kérje meg az AI-t trendelemzésre. Ezután kérdezd meg magadtól: mely témákat találta meg a mesterséges intelligencia, melyiket hagyta ki, belecsúszott-e a „ki a hibás” vonatkozásokba? Írjon egy „rendszerszintű fejlesztési” javaslatot, és ellenőrizze, hogy az megfelel-e az igazságos kultúra elvének.
ellenőrző lista
- [ ] A biztonsági adatokat anonimizáltam, és betartottam az adatvédelmi szabályzatot.
- [ ] Az AI-t rendszerjavító keretrendszerben használtam, nem bűnfelderítő keretrendszerben.
- [ ] Nem hagytam ki az automatizálási elfogultság elleni fizikális vizsgálatot.
- [ ] A „valami nincs rendben” intuíciómat az AI-kimenet fölé helyezem.
- [ ] A riportban megtartottam az igazságos kultúra nyelvét.
- [ ] A döntést, a tolmácsolást és az aláírást az illetőre bíztam.