Добивки:
- Разберете ги принципите на СМС и праведна култура и користете вештачка интелигенција за анализа на трендови и системски ориентирана изработка на извештаи во безбедносните известувања.
- Способност да се поврзат Dirty Dozen фактори, особено самозадоволството и пристрасноста кон автоматизацијата, со употребата на вештачка интелигенција и да се управуваат со нив како штит
- Разбирање дека безбедносните податоци треба да се анонимизираат и дека одлуката/интуицијата/потписот останува кај човекот.
Воздухопловната безбедност не се постигнува само со затегнување на десната завртка до вистинскиот вртежен момент; Тоа се постигнува преку култура која управува со тоа како се работи. Во оваа единица, ќе научите како да користите вештачка интелигенција (ВИ) во областа на управувањето со квалитетот, системот за управување со безбедноста (SMS) и човечките фактори; Но, ќе разговараме зошто човечкото расудување секогаш треба да остане во центарот на безбедносната култура.
СМС и култура на известување
СМС (Систем за управување со безбедноста) е систематски пристап заснован на проактивно откривање опасности и управување со ризик. Во неговото срце се само културата (пристап во кој лицето кое искрено пријави грешка не се казнува, а небрежноста/намерата и грешката се одвоени) и известувањето за опасност. Безбедносниот систем работи само кога луѓето го пријавуваат без страв.
ВИ е вредна помош овде, но бара деликатна рамнотежа. Корисна употреба:
- Класифицирајте и известувања за трендови: Групирајте повторливи теми, ATA секции, услови за стотици безбедносни/квалитетни известувања.
- Нацрт извештај: Преведување на фактите за инцидентот во структуриран извештај (со јазик што го испитува процесот, а не личноста).
- Олеснување на анализата на основните причини: генерирање прашања за „5 зошто“ или анализа на бариерата.
- Нацрт листа за проверка на квалитетот на ревизијата.
- Резиме за учење лекции: Составување повторливи лекции од минати настани.
Внимание: безбедносните известувања често се лични и чувствителни податоци. Анонимизацијата и политиката за корпоративни податоци се од суштинско значење кога се анализира со вештачка интелигенција. Дополнително, на вештачката интелигенција не треба да и се дозволи да означува настан како „чија вина“; Целта на СМС не е да се пронајдат криминалци, туку да се поправи системот. Неправилно употребената вештачка интелигенција може да ја оштети само културата.
Dirty Dozen: 12 предизвикувачи на човечка грешка
Класиката на човечки фактори за одржување е списокот Dirty Dozen на Гордон Дупон - 12 вообичаени човечки фактори кои водат до неуспех во одржувањето: недостаток на комуникација, самозадоволство, недостаток на знаење, расеаност, недостаток на тимска работа, замор, недостаток на ресурси, притисок, недостаток на самоувереност, стрес, недостаток на свест, норми (погрешни навики).
Најкритичната врска во врска со вештачката интелигенција овде е врската помеѓу самозадоволството (прекумерна самодоверба/задоволство) и пристрасноста на автоматизацијата (прекумерна доверба во автоматизацијата - прифаќање како вистина само затоа што системот го кажува тоа). Течниот и сигурен резултат на вештачката интелигенција може прецизно да предизвика самозадоволство. Идејата за „тоа кажа системот, нема потреба да се проверува“ е модерна верзија на Dirty Dozen.
Совет: Поставете ја употребата на вештачката интелигенција како штит против валканата дузина, а не како активирач: добро е да имате потсетник на списокот за проверка на крајот од уморната смена; но прескокнувањето на физичкиот преглед со кажување „Ви веќе изгледаше“ е самозадоволство. Алатката треба да го зголеми вашето внимание, а не да го вкочанува.
Асертивност и вештачка интелигенција
„Недостигот на самоувереност“ во Dirty Dozen е неспособноста на техничарот да изрази нешто што тој го смета за погрешно. Интересно е што вештачката интелигенција овде има двонасочен ефект. Позитивно: техничар може да користи вештачка интелигенција за да ја структурира својата грижа и да нацрта „како да го изразам ова? Негативно: Авторитарниот тон на вештачката интелигенција може да го наведе човекот да ја потисне сопствената вистинска интуиција. Вистинската рамнотежа: ВИ е влезот, вашата професионална интуиција и опсервација се оние што одлучуваат. Вашето чувство за „нешто не е во ред“ мора да го надмине резултатот на вештачката интелигенција за „сè е нормално“ - застанете и погледнете.
три мини футроли
Случај 1 - Анализата на трендот откри повторлива грешка. Кога шестмесечните известувања за квалитет беа групирани по YZ (анонимизирани), се издвојуваше повторлива тема за „неправилно инсталиран прицврстувач“ за одреден тип на панел. Квалитетниот тим дојде до основната причина: чекорот во картичката за задачи беше нејасен. Картичката е разјаснета; Повторувачки извор на грешка е системски затворен.
Случај 2 - Откриена е замка за пристрасност на автоматизација. Во уморна ноќна смена, техничар сакаше да ја прескокне визуелната проверка врз основа на резимето на вештачката интелигенција за „оваа проверка изгледа нормално“. Водачот на тимот се замеша: ВИ ги сумираше податоците, но не го виде делот. Физичкиот преглед констатирал мала трага на истекување. Самозадоволството беше скршено со човечка интервенција.
Случај 3 - Поддршка на самоувереност. Еден млад техничар мислеше дека планот е нереален, но не знаеше како да го каже. Со вештачката интелигенција, тој ја структурираше својата загриженост со фактички јазик со почит: „Таа задача не може безбедно да се заврши во даденото време поради тој предуслов“. Разгледан структурен приговор; Зачуван е чекор што би бил прескокнат под притисок.
Четири шаблони за копирање
Улога: Анализатор на трендови за безбедносни известувања (со анонимизирани податоци). НЕ означувајте „чија вина“; фокусирајте се на системска шема. Известувања: [анонимни податоци]
Улога: Помошник за нацрт-извештај за инцидент (само културен јазик). Задача: Подгответе извештај за инцидент од следните факти, испитувајќи го процесот, а не лицето. Правила: Не користете акузаторни придавки; Користете ја структурата „што се случило, какви околности, каква бариера недостасуваше“. Факти: [информации за настанот]
Улога: основна причина (5 зошто) олеснувач. Задача: Генерирајте прашања „5 зошто“ за следниот настан и прашајте дали секој одговор укажува на системска слабост. Правила: Јас ги давам одговорите; ги генерирате вистинските прашања; Осврнете се на процесот, а не на лична вина. Инцидент: [резиме]
Улога: Помош за изразување на самоувереност. Задача: Предложете ми структура на реченица за да ја изразам мојата загриженост подолу на фактички, почитуван и јасен јазик. Правила: Не бидете емотивни/обвинителски; центар за безбедносна образложение. Загриженост: [техничка загриженост]
Слаб промпт / Силен промпт
Слаб: „Кој е виновен во овој инцидент, напишете го извештајот“.
Рамката за барање виновник ја поткопува праведната култура и ја прикрива вистинската системска кауза.
Силно: „Напишете нацрт-извештај за инцидентот од следните факти. Не обвинувајте го лицето; користете ја структурата „што се случило, какви околности беа присутни, каква бариера недостасуваше, што може да се поправи системски“. Податоци анонимни, не додавајте лични информации“.
Овој поттик го префрла фокусот од човек на систем, од казна до учење.
Табела: Dirty Dozen и интеракција со вештачка интелигенција
фактор
Ризик од вештачка интелигенција
Правилна употреба на вештачката интелигенција
Самозадоволство
„Веќе изгледаше“ самозадоволство
Потсетник за список за проверка
пристрасност на автоматиката
Слепо верувајте на излезот
Користете како влез, потврдете
недостаток на комуникација
Неточен сумарен трансфер
Конфигурирајте го прометот
Недостаток на самоувереност
Авторитарниот тон потиснува
Помогнете да се изрази вознемиреност
замор
Кратенка во критичен момент
Не потсетувајте на чекорите, оставете го потписот на личноста
Вообичаени грешки
- Правејќи вештачката интелигенција да го постави прашањето „кој е виновен? Само ја расипува културата.
- Анализирање на чувствителни известувања без нивно анонимизирање. Прекршување на приватноста.
- Паѓање во предрасуди за автоматизација. „Системот рече“ не го заменува физичкиот преглед.
- Жртвување на сопствената интуиција на тонот на вештачката интелигенција. Обрнете внимание на чувството дека „нешто не е во ред“.
- Користење на вештачка интелигенција за кратенка под притисок. Возилото забрзува, но не прескокнува чекор.
Сумирано
Безбедноста е култура и човечкото расудување е во нејзиното срце. Вештачката интелигенција е драгоцена помош за извлекување трендови од известувања за безбедност/квалитет, изготвување извештаи во само култура и анализа на основните причини. Но, најголемиот ризик е што флуидноста на вештачката интелигенција го храни самозадоволството и пристрасноста кон автоматизацијата. Изградете вештачка интелигенција како штит против валканата дузина: зголемете го вашето внимание, а не отепувај; Одлуката, интуицијата и потписот оставете ги на личноста.
Задача за апликација
Добијте (или изменете) неколку анонимизирани известувања за квалитет/безбедност. Со првиот образец, побарајте анализа на трендот од вештачката интелигенција. Потоа запрашајте се: Кои теми вештачката интелигенција ги пронашла, кои ги пропуштила, дали се лизнала во некакви импликации „кој е виновен“? Напишете предлог за „системско подобрување“ и проверете дали е во согласност со принципот на праведна култура.
листа за проверка
- [ ] Ги анонимизирав безбедносните податоци и се усогласив со политиката за податоци.
- [ ] Користев вештачка интелигенција во рамка за поправање систем, а не рамка за наоѓање криминал.
- [ ] Не го прескокнав физичкиот преглед против пристрасноста на автоматизацијата.
- [ ] Ја ставив мојата интуиција „нешто не е во ред“ над излезот на вештачката интелигенција.
- [ ] Во извештајот го задржав правичниот културен јазик.
- [ ] Одлуката, толкувањето и потписот му ги оставив на личноста.