Добици:
- Схватите принципе СМС-а и културе праведности и користите вештачку интелигенцију за анализу трендова и системски оријентисано састављање извештаја у безбедносним обавештењима.
- Способност повезивања фактора Дирти Дозен, посебно самозадовољства и пристрасности аутоматизације, са употребом вештачке интелигенције и управљање њима као штитом
- Разумевање да безбедносни подаци треба да буду анонимизовани и да одлука/интуиција/потпис остаје на човеку.
Безбедност у ваздухопловству се не постиже само затезањем десног завртња на прави обртни момент; Постиже се кроз културу која управља начином на који се посао обавља. У овој јединици ћете научити како да користите вештачку интелигенцију (АИ) у области управљања квалитетом, система управљања безбедношћу (СМС) и људских фактора; Али разговараћемо о томе зашто људска процена увек треба да остане у центру безбедносне културе.
СМС и култура извештавања
СМС (Сафети Манагемент Систем) је систематски приступ заснован на проактивном откривању опасности и управљању ризиком. У њеном срцу су само култура (приступ у коме се особа која искрено пријави грешку не кажњава, а немар/намера и грешка су раздвојени) и пријављивање опасности. Сигурносни систем функционише само када га људи пријаве без страха.
АИ је овде драгоцена помоћ, али захтева деликатан баланс. Корисне употребе:
- Обавештења о класификацији и трендовима: Групне теме које се понављају, АТА одељци, услови у стотинама обавештења о безбедности/квалитету.
- Нацрт извештаја: Превођење чињеница о инциденту у структурирани извештај (са језиком који испитује процес, а не особу).
- Омогућавање анализе основног узрока: Генерисање питања за „5 Зашто” или анализу препрека.
- Нацрт контролне листе ревизије квалитета.
- Сажеци учења лекција: Састављање понављајућих лекција из прошлих догађаја.
Опрез: Безбедносна обавештења су често лични и осетљиви подаци. Анонимизација и политика корпоративних података су од суштинског значаја када се анализира помоћу вештачке интелигенције. Поред тога, АИ не би требало дозволити да означи догађај као „чију грешку“; Сврха СМС-а није да пронађе криминалце, већ да поправи систем. АИ који се користи погрешно може оштетити само културу.
Дирти Дозен: 12 покретача људске грешке
Класика људских фактора одржавања је листа Дирти Дозен Гордона Дупонта — 12 уобичајених људских фактора који доводе до неуспеха одржавања: недостатак комуникације, самозадовољство, недостатак знања, растресеност, недостатак тимског рада, умор, недостатак ресурса, притисак, недостатак асертивности, стрес, недостатак свести, норме (погрешне навике).
Најкритичнија веза у вези са вештачком интелигенцијом овде је однос између самозадовољства (претерано самопоуздање/самозадовољство) и пристрасности аутоматизације (претерано поверење у аутоматизацију – прихватање тога као истинитог само зато што систем то каже). Течни и самоуверени резултати вештачке интелигенције могу прецизно да подстакну самозадовољство. Идеја „тако је систем рекао, нема потребе да се проверава“ је модерна верзија Прљавог туцета.
Савет: Подесите употребу вештачке интелигенције као штит од Прљавог туцета, а не као окидач: добро је имати подсетник на контролној листи на крају уморне смене; али прескакање физичког прегледа говорећи "АИ је већ погледао" је самозадовољство. Алат треба да повећа вашу пажњу, а не да је отупи.
Асертивност и АИ
„Недостатак асертивности“ у Дирти Дозен-у је неспособност техничара да изрази нешто што види као погрешно. Занимљиво је да АИ овде има двосмерни ефекат. Позитивно: техничар може да користи вештачку интелигенцију да структурише своју забринутост и нацрта „како да ово изразим?“ Негативно: Ауторитарни тон АИ може навести човека да потисне сопствену праву интуицију. Права равнотежа: АИ је улаз, ваша професионална интуиција и запажање су доносиоци одлука. Ваш осећај „нешто није у реду“ мора надмашити излаз вештачке интелигенције „све је нормално“ – застаните и погледајте.
три мини кофера
Случај 1 — Анализа тренда је пронашла понављајућу грешку. Када су шестомесечна обавештења о квалитету груписана по ИЗ (анонимизована), понављајућа тема „погрешно инсталираног причвршћивача“ истакла се за одређени тип панела. Тим за квалитет је дошао до основног узрока: корак на картици задатка био је нејасан. Картица је разјашњена; Понављајући извор грешке је системски затворен.
Случај 2 — Откривена замка пристрасности аутоматизације. Током уморне ноћне смене, техничар је желео да прескочи визуелни преглед на основу резимеа вештачке интелигенције „ова провера изгледа нормално“. Вођа тима се убацио: АИ је сумирао податке, али није видео комад. Физичким прегледом је пронађен мали траг цурења. Самозадовољство је сломљено људском интервенцијом.
Случај 3 — Подршка асертивности. Један млади техничар је мислио да је план нереалан, али није знао како да то каже. Са АИ је своју забринутост структурирао чињеничним, уважавајућим језиком: „Тај задатак се не може безбедно завршити у датом времену због тог предуслова.“ Разматра се структурирани приговор; Сачуван је корак који би под притиском био прескочен.
Четири шаблона за копирање
Улога: Анализатор трендова безбедносних обавештења (са анонимизованим подацима). Задатак: Групирајте понављајуће теме, АТА секције и услове у следећим анонимним обавештењима. Правила: Окривљавање особе; НЕМОЈТЕ означавати „чија је грешка“; фокус на системски образац. Обавештења: [анонимни подаци]
Улога: Помоћник за израду извештаја о инциденту (само језик културе). Задатак: Саставити извештај о инциденту на основу следећих чињеница, испитујући процес, а не особу. Правила: Не употребљавај оптужне придеве; Користите структуру „шта се десило, које околности, која баријера је недостајала“. Чињенице: [информације о догађају]
Улога: Фасилитатор за основни узрок (5 Зашто). Задатак: Генеришите „5 Зашто“ питања за следећи догађај и питајте да ли сваки одговор указује на системску слабост. Правила: дајем одговоре; генеришете права питања; Позовите на процес, а не на личну кривицу. Инцидент: [сажетак]
Улога: Помоћ у изражавању асертивности. Задатак: Предложите структуру реченице како бих у наставку изразио своју забринутост чињеничним, уважавајућим и јасним језиком. Правила: Не будите емотивни/оптужни; центар за безбедносно образложење. Забринутост: [техничка брига]
Слаби промпт / Јаки промпт
Слаб: „Ко је крив за овај инцидент, напишите извештај“.
Оквир тражења кривца подрива праведну културу и замагљује прави системски узрок.
Снажан: „Напишите нацрт извештаја о инциденту на основу следећих чињеница. Немојте кривити особу; користите структуру „шта се десило, које су околности биле присутне, која је препрека недостајала, шта се може системски поправити“. Подаци анонимни, немојте додавати личне податке.“
Овај позив помера фокус са особе на систем, са казне на учење.
Табела: Дирти Дозен и интеракција АИ
фактор
Ризик од вештачке интелигенције
Правилна употреба АИ
Самозадовољство
"Већ погледао" самозадовољство
Подсетник за контролну листу
пристрасност аутоматизације
Слепо верујте резултату
Користите као унос, потврдите
недостатак комуникације
Нетачан пренос сажетка
Конфигуришите промет
Недостатак асертивности
Ауторитарни тон потискује
Помозите у изражавању анксиозности
умор
Пречица у критичном тренутку
Не подсећајте на кораке, оставите потпис особи
Уобичајене грешке
- Натерати АИ да постави питање "ко је крив?" Само квари културу.
- Анализирање осетљивих обавештења без њихове анонимизације. Кршење приватности.
- Падање у пристрасност аутоматизације. „Систем је рекао“ не замењује физички преглед.
- Жртвовање сопствене интуиције тону вештачке интелигенције. Обратите пажњу на осећај „нешто није у реду“.
- Коришћење АИ за пречицу под притиском. Возило убрзава, али не прескаче ни корак.
Укратко
Безбедност је култура и људско расуђивање је у њеном срцу. АИ је драгоцена помоћ у издвајању трендова из обавештења о безбедности/квалитету, изради извештаја у култури праведности и анализи основних узрока. Али највећи ризик је то што флуидност АИ храни самозадовољство и пристрасност аутоматизације. Изградите вештачку интелигенцију као штит против Прљавог Туцета: повећајте своју пажњу, а не умртвните је; Одлуку, интуицију и потпис препустите особи.
Задатак апликације
Добијте (или уредите) неколико анонимних обавештења о квалитету/безбедности. Са првим шаблоном, затражите од АИ анализу тренда. Затим се запитајте: Које је теме АИ пронашао, које је пропустио, да ли је упала у неке импликације „ко је крив“? Напишите предлог „системског побољшања“ и проверите да ли је у складу са принципом праведне културе.
контролна листа
- [ ] Анонимизовао сам безбедносне податке и придржавао се политике података.
- [ ] Користио сам АИ у оквиру за поправљање система, а не у оквиру за откривање криминала.
- [ ] Нисам прескочио физички преглед против пристрасности аутоматизације.
- [ ] Ставио сам своју интуицију „нешто није у реду“ изнад АИ излаза.
- [ ] Задржао сам језик праведне културе у извештају.
- [ ] Одлуку, тумачење и потпис сам оставио особи.