Zyski:
- Zrozum zasady SMS i Just Culture oraz wykorzystaj sztuczną inteligencję do analizy trendów i tworzenia raportów zorientowanych na system w powiadomieniach bezpieczeństwa.
- Umiejętność powiązania czynników Parystej Dwunastki, zwłaszcza samozadowolenia i uprzedzeń do automatyzacji, z wykorzystaniem sztucznej inteligencji i zarządzania nimi jak tarczą
- Zrozumienie, że dane bezpieczeństwa powinny być anonimowe i że decyzja/intuicja/podpis pozostaje w gestii człowieka.
Bezpieczeństwo lotnicze osiąga się nie tylko poprzez dokręcenie właściwej śruby odpowiednim momentem; Osiąga się to poprzez kulturę regulującą sposób wykonywania pracy. W tej jednostce dowiesz się, jak wykorzystać sztuczną inteligencję (AI) w obszarze zarządzania jakością, systemem zarządzania bezpieczeństwem (SMS) i czynnikiem ludzkim; Omówimy jednak, dlaczego ludzki osąd powinien zawsze pozostać w centrum kultury bezpieczeństwa.
Kultura SMS-ów i raportowania
SMS (System Zarządzania Bezpieczeństwem) to systematyczne podejście oparte na proaktywnym wykrywaniu zagrożeń i zarządzaniu ryzykiem. U podstaw leży po prostu kultura (podejście, w którym osoba, która uczciwie zgłasza błąd, nie jest karana, a zaniedbanie/zamiar i błąd są oddzielone) i zgłaszanie zagrożeń. System bezpieczeństwa działa tylko wtedy, gdy ludzie zgłaszają go bez strachu.
Sztuczna inteligencja jest tu cenną pomocą, ale wymaga delikatnej równowagi. Przydatne zastosowania:
- Klasyfikacja i powiadomienia o trendach: grupuj powtarzające się motywy, sekcje ATA, warunki w setkach powiadomień dotyczących bezpieczeństwa/jakości.
- Projekt raportu: przełożenie faktów dotyczących zdarzenia na ustrukturyzowany raport (w języku, który bada proces, a nie osobę).
- Ułatwienie analizy przyczyn źródłowych: Generowanie pytań do analizy „5 powodów” lub analizy barier.
- Projekt listy kontrolnej audytu jakości.
- Podsumowania lekcji: Kompilowanie powtarzających się lekcji z przeszłych wydarzeń.
Uwaga: powiadomienia dotyczące bezpieczeństwa to często dane osobowe i wrażliwe. Anonimizacja i korporacyjna polityka dotycząca danych są niezbędne podczas analiz za pomocą sztucznej inteligencji. Ponadto sztuczna inteligencja nie powinna mieć możliwości etykietowania zdarzenia jako „czyjej winy”; Celem SMS-ów nie jest znalezienie przestępców, ale naprawienie systemu. Niewłaściwie użyta sztuczna inteligencja może zaszkodzić samej kulturze.
Parszywa dwunastka: 12 czynników powodujących błąd ludzki
Klasykiem czynników ludzkich w utrzymaniu ruchu jest lista Dirty Dozen Gordona Duponta — 12 typowych czynników ludzkich, które prowadzą do niepowodzeń w utrzymaniu ruchu: brak komunikacji, samozadowolenie, brak wiedzy, rozproszenie uwagi, brak pracy zespołowej, zmęczenie, brak zasobów, presja, brak asertywności, stres, brak świadomości, normy (niewłaściwie umiejscowione nawyki).
Najważniejszym ogniwem dotyczącym sztucznej inteligencji jest tutaj związek pomiędzy samozadowoleniem (nadmierna pewność/samozadowolenie) a stronniczością w zakresie automatyzacji (nadmierna pewność w automatyzacji – akceptowanie jej jako prawdziwej tylko dlatego, że system tak mówi). Płynne i pewne wyniki AI mogą precyzyjnie wywołać samozadowolenie. Idea „tak powiedział system, nie trzeba sprawdzać” to nowoczesna wersja Parszywej Dwunastki.
Wskazówka: skonfiguruj wykorzystanie sztucznej inteligencji jako tarczę przed Parszywą Dwunastką, a nie jako wyzwalacz: dobrze jest mieć przypomnienie o liście kontrolnej na koniec zmęczonej zmiany; ale pominięcie badania fizykalnego ze stwierdzeniem „AI już spojrzała” jest samo w sobie samozadowoleniem. Narzędzie powinno zwiększać Twoją uwagę, a nie ją paraliżować.
Asertywność i sztuczna inteligencja
„Brak asertywności” w „Pirty Dozen” to niezdolność technika do wyrażenia czegoś, co uważa za niewłaściwe. Co ciekawe, sztuczna inteligencja działa tutaj dwukierunkowo. Pozytywne: technik może wykorzystać sztuczną inteligencję do uporządkowania swojego problemu i opracowania planu „jak to sformułować?” Negatywne: autorytarny ton sztucznej inteligencji może skłonić człowieka do stłumienia własnej prawdziwej intuicji. Właściwa równowaga: sztuczna inteligencja stanowi wkład, a Twoja profesjonalna intuicja i obserwacja podejmują decyzje. Twoje poczucie, że „coś jest nie tak” musi przeważać nad poczuciem sztucznej inteligencji, że „wszystko jest normalne” – zatrzymaj się i spójrz.
trzy mini etui
Przypadek 1 – Analiza trendu wykazała powtarzający się błąd. Kiedy półroczne powiadomienia dotyczące jakości zostały pogrupowane według YZ (anonimowe), w przypadku konkretnego typu panelu wyróżniał się powracający temat „nieprawidłowo zamontowanego elementu złącznego”. Zespół ds. jakości dotarł do pierwotnej przyczyny: krok na karcie zadań był niejasny. Karta została wyjaśniona; Powtarzające się źródło błędów zostało systemowo zamknięte.
Przypadek 2 — wykryto pułapkę błędu automatycznego. Podczas męczącej nocnej zmiany technik chciał pominąć kontrolę wzrokową, uznając, że sztuczna inteligencja stwierdziła, że „ta kontrola wygląda normalnie”. Lider zespołu wtrącił się: Sztuczna inteligencja podsumowała dane, ale nie widziała artykułu. Badanie fizykalne wykazało niewielki ślad wycieku. Samozadowolenie zostało przełamane przez interwencję człowieka.
Przypadek 3 – Wsparcie asertywności. Pewien młody technik uważał, że plan jest nierealistyczny, ale nie wiedział, jak to powiedzieć. W przypadku sztucznej inteligencji sformułował swoje obawy w sposób oparty na faktach i pełen szacunku: „Ze względu na warunek wstępny tego zadania nie można wykonać bezpiecznie w określonym czasie”. Rozpatrzono sprzeciw strukturalny; Zachowano krok, który zostałby pominięty pod presją.
Cztery szablony do kopiowania
Rola: Analizator trendów powiadomień dotyczących bezpieczeństwa (z anonimowymi danymi). Zadanie: Grupuj powtarzające się motywy, sekcje ATA i warunki w następujących zanonimizowanych powiadomieniach. Zasady: Obwinić osobę; NIE oznaczaj „czyja wina”; skoncentruj się na wzorcu systemowym. Powiadomienia: [dane anonimowe]
Rola: Asystent projektu raportu z incydentu (tylko język kulturowy). Zadanie: Sporządź raport z incydentu na podstawie następujących faktów, badając proces, a nie osobę. Zasady: Nie używaj przymiotników oskarżycielskich; Użyj struktury „co się stało, jakie okoliczności, jakiej bariery brakowało”. Fakty: [informacje o wydarzeniu]
Rola: Facylitator przyczyny źródłowej (5 powodów). Zadanie: Ułóż pytania „5 dlaczego” dla następującego zdarzenia i zapytaj, czy każda odpowiedź wskazuje na słabość systemu. Zasady: Podaję odpowiedzi; generujesz właściwe pytania; Odwołuj się do procesu, a nie do osobistej winy. Incydent: [podsumowanie]
Rola: Pomoc w wyrażaniu asertywności. Zadanie: Zaproponuj mi strukturę zdania, w której mogłabym wyrazić swoje obawy w sposób rzeczowy, pełen szacunku i jasny. Zasady: Nie okazuj emocji/oskarżycielstwa; skupiać się na przesłankach bezpieczeństwa. Obawa: [problem techniczny]
Słaba zachęta/silna zachęta
Słabe: „Kto jest winny tego zdarzenia, napisz raport”.
Schemat poszukiwania winnych podważa sprawiedliwą kulturę i przesłania prawdziwą przyczynę systemową.
Strong: „Napisz projekt raportu o zdarzeniu na podstawie następujących faktów. Nie obwiniaj tej osoby; użyj struktury „co się stało, jakie okoliczności miały miejsce, jakich barier brakowało, co można naprawić systemowo”. Dane anonimowe, nie dodawaj danych osobowych”.
Podpowiedź ta przenosi uwagę z osoby na system, z kary na naukę.
Tabela: Interakcja Parszywa Dwunastka i AI
czynnik
Ryzyko AI
Właściwe wykorzystanie sztucznej inteligencji
Samozadowolenie
Samozadowolenie „Już wyglądałem”.
Przypomnienie o liście kontrolnej
stronniczość automatyzacji
Ślepo ufaj wynikom
Użyj jako danych wejściowych, potwierdź
brak komunikacji
Nieprawidłowy przelew zbiorczy
Skonfiguruj obrót
Brak asertywności
Ton autorytarny tłumi
Pomóż wyrazić niepokój
zmęczenie
Skrót w krytycznym momencie
Nie przypominaj o krokach, zostaw podpis osobie
Typowe błędy
- Sprawienie, że sztuczna inteligencja zadaje pytanie „kto jest winny?” Po prostu psuje kulturę.
- Analizowanie wrażliwych powiadomień bez ich anonimizacji. Naruszenie prywatności.
- Popadanie w nastawienie do automatyzacji. „System powiedział” nie zastępuje badania fizykalnego.
- Poświęcenie własnej intuicji dla tonu AI. Zwróć uwagę na poczucie, że „coś jest nie tak”.
- Używanie sztucznej inteligencji do skrótów pod presją. Pojazd przyspiesza, ale nie pomija kroku.
Podsumowując
Bezpieczeństwo to kultura, w której sercu leży ludzki osąd. Sztuczna inteligencja jest cenną pomocą w wyodrębnianiu trendów z powiadomień dotyczących bezpieczeństwa/jakości, sporządzaniu raportów w sposób zgodny z kulturą i analizie przyczyn źródłowych. Jednak największym ryzykiem jest to, że płynność sztucznej inteligencji powoduje samozadowolenie i skłonność do automatyzacji. Zbuduj sztuczną inteligencję jako tarczę przeciwko Parszywej Dwunastce: zwiększ swoją uwagę, a nie ją paraliżuj; Decyzję, intuicję i podpis zostaw osobie.
Zadanie aplikacji
Uzyskaj (lub edytuj) kilka anonimowych powiadomień dotyczących jakości/bezpieczeństwa. W przypadku pierwszego szablonu poproś AI o analizę trendów. Następnie zadaj sobie pytanie: jakie tematy znalazła sztuczna inteligencja, które przeoczyła, czy wkradło się to w jakieś implikacje „kto jest winny”? Napisz propozycję „systemowego usprawnienia” i sprawdź, czy jest ona zgodna z zasadą just Culture.
lista kontrolna
- [ ] Zanonimizowałem dane zabezpieczające i postępowałem zgodnie z polityką dotyczącą danych.
- [ ] Użyłem sztucznej inteligencji w ramach naprawiania systemów, a nie w ramach wykrywania przestępstw.
- [ ] Nie pominąłem badania fizykalnego ze względu na stronniczość automatyzacji.
- [ ] Stawiam moją intuicję „coś jest nie tak” ponad wynikami AI.
- [ ] W raporcie zachowałem język Just Culture.
- [ ] Decyzję, interpretację i podpis pozostawiłem tej osobie.