Прибуток:
- Зрозумійте принципи SMS і просто культури та використовуйте штучний інтелект для аналізу тенденцій і системно-орієнтованого складання звітів у сповіщеннях безпеки.
- Здатність пов’язувати фактори Брудної дюжини, особливо самовдоволення та упередженість автоматизації, з використанням штучного інтелекту та керувати ними як щитом
- Розуміння того, що дані безпеки мають бути анонімними, а рішення/інтуїція/підпис залишаються за людиною.
Авіаційна безпека досягається не лише затягуванням правильного болта з правильним крутним моментом; Це досягається через культуру, яка керує тим, як виконується робота. У цьому розділі ви дізнаєтеся, як використовувати штучний інтелект (ШІ) у сфері управління якістю, системи управління безпекою (SMS) і людського фактора; Але ми обговоримо, чому людське судження має завжди залишатися в центрі культури безпеки.
SMS та культура звітності
SMS (Система управління безпекою) — це системний підхід, заснований на проактивному виявленні небезпек і управлінні ризиками. Його основою є просто культура (підхід, за якого особа, яка чесно повідомляє про помилку, не карається, а недбалість/намір і помилка розділені) і повідомлення про небезпеку. Система безпеки працює лише тоді, коли люди повідомляють про це без страху.
Штучний інтелект є тут цінним помічником, але він вимагає тонкого балансу. Корисні способи використання:
- Класифікація та тенденції сповіщень: групуйте повторювані теми, розділи ATA, умови в сотнях сповіщень про безпеку/якість.
- Чернетка звіту: Переклад фактів інциденту в структурований звіт (мовою, яка розглядає процес, а не людину).
- Сприяння аналізу першопричини: Створення запитань для «5 чому» або аналізу перешкод.
- Проект контрольного списку аудиту якості.
- Підсумки уроків: Збір повторюваних уроків із минулих подій.
Застереження: сповіщення безпеки часто є особистими та конфіденційними даними. Анонімізація та політика корпоративних даних є важливими під час аналізу за допомогою ШІ. Крім того, штучному інтелекту не можна дозволяти позначати подію як «чия вина»; Мета СМС не знайти злочинців, а налагодити систему. Неправильне використання ШІ може завдати шкоди лише культурі.
Dirty Dozen: 12 тригерів людської помилки
Класикою людських факторів технічного обслуговування є список «Брудна дюжина» Гордона Дюпона — 12 типових людських факторів, які призводять до збою технічного обслуговування: відсутність спілкування, самовдоволення, брак знань, відволікання, відсутність командної роботи, втома, брак ресурсів, тиск, відсутність наполегливості, стрес, відсутність обізнаності, норми (недоречні звички).
Найважливішим зв’язком щодо штучного інтелекту тут є взаємозв’язок між самовдоволенням (надмірна впевненість/самовдоволення) та упередженням автоматизації (надмірна впевненість в автоматизації – прийняття її за правду лише тому, що це говорить система). Плавний і впевнений результат штучного інтелекту може викликати самовдоволення. Ідея «так сказала система, перевіряти не потрібно» є сучасною версією Dirty Dozen.
Порада: налаштуйте використання штучного інтелекту як щит від брудної дюжини, а не як тригер: добре мати нагадування про контрольний список наприкінці втомленої зміни; але пропуск фізичного огляду, кажучи: «ШІ вже подивився», — це самовдоволення. Засіб має посилювати вашу увагу, а не пригнічувати її.
Асертивність і ШІ
«Відсутність наполегливості» в «Брудній дюжині» — це нездатність техніка озвучити те, що він вважає неправильним. Цікаво, що ШІ тут має двосторонній ефект. Позитивно: технік може використовувати штучний інтелект, щоб структурувати своє занепокоєння та написати «як це сформулювати?» Негативний: авторитарний тон штучного інтелекту може змусити людину придушувати власну справжню інтуїцію. Правильний баланс: штучний інтелект – це вихід, ваша професійна інтуїція та спостереження – це те, що приймає рішення. Ваше відчуття «щось не так» має переважити висновок штучного інтелекту «все нормально» — зупиніться і подивіться.
три міні-чохла
Випадок 1 — Аналіз тенденцій виявив повторювану помилку. Коли сповіщення про якість за півроку були згруповані за YZ (анонімні), повторювана тема «неправильно встановлений кріплення» виділялася для певного типу панелі. Команда з якості з’ясувала першопричину: крок у картці завдання був незрозумілим. Картка була уточнена; Повторюване джерело помилки системно закрито.
Випадок 2 — Виявлено пастку зміщення автоматизації. Під час втомленої нічної зміни технік хотів пропустити візуальний огляд на основі підсумку штучного інтелекту: «ця перевірка виглядає нормально». Керівник групи втрутився: ШІ узагальнив дані, але не бачив фрагмента. Фізичний огляд виявив невеликі сліди витоку. Самовдоволення було порушене втручанням людини.
Випадок 3 — Підтримка напористості. Один молодий технік вважав план нереальним, але не знав, як це сказати. Що стосується штучного інтелекту, він структурував своє занепокоєння фактичною, шанобливою мовою: «Це завдання не може бути безпечно виконано в заданий час через цю передумову». Розглянуто структуроване заперечення; Крок, який можна було б пропустити під тиском, зберігся.
Чотири шаблони, які можна копіювати
Роль: Аналізатор тенденцій сповіщень безпеки (з анонімними даними). Завдання: Групуйте повторювані теми, розділи ATA та умови в наступних анонімних сповіщеннях. Правила: Звинуватити особу; НЕ написуйте «чия вина»; зосередитися на системному шаблоні. Сповіщення: [анонімні дані]
Посада: помічник у складанні звіту про інцидент (тільки культурна мова). Завдання: складіть звіт про подію на основі наступних фактів, досліджуючи процес, а не людину. Правила: не використовуйте звинувальні прикметники; Використовуйте структуру «що сталося, які обставини, якого бар’єру не вистачало». Факти: [інформація про подію]
Роль: фасилітатор першопричини (5 чому). Завдання: Створіть запитання «5 чому» для наступної події та запитайте, чи кожна відповідь вказує на системну слабкість. Правила: даю відповіді; ви формуєте правильні питання; Посилайтеся на процес, а не на особисту провину. Інцидент: [підсумок]
Роль: Допомога у вираженні самовпевненості. Завдання: запропонуйте структуру речення, щоб я висловив свою стурбованість нижче фактами, шанобливою та зрозумілою мовою. Правила: не будьте емоційними/звинувачувальними; центр з обґрунтування безпеки. Занепокоєння: [технічне занепокоєння]
Слабка підказка / Сильна підказка
Слабкий: «Хто винен у цьому інциденті, напишіть протокол».
Рамка пошуку винних підриває справедливу культуру та приховує справжню системну причину.
Сильно: «Напишіть чернетку звіту про інцидент на основі наступних фактів. Не звинувачуйте людину; використовуйте структуру «що сталося, які обставини були, якого бар’єру не вистачало, що можна виправити системно». Дані анонімні, не додавайте особисту інформацію».
Ця підказка переносить фокус з людини на систему, з покарання на навчання.
Таблиця: «Брудна дюжина» та взаємодія ШІ
фактор
Ризик ШІ
Правильне використання ШІ
Самовдоволення
«Вже подивився» самовдоволення
Контрольний список нагадування
ухил автоматизації
Сліпо довіряйте результату
Використовувати як введення, підтвердити
відсутність спілкування
Неправильний підсумковий переказ
Налаштувати оборот
Відсутність напористості
Авторитарний тон пригнічує
Допомога вираження тривоги
втома
Ярлик у критичний момент
Не нагадуйте кроки, залиште підпис людині
Поширені помилки
- Змусити штучний інтелект задавати питання «хто винен?» Просто псує культуру.
- Аналіз конфіденційних сповіщень без їх анонімізації. Порушення конфіденційності.
- Впадання в упередженість автоматизації. «Система сказала» не замінює медичний огляд.
- Приносячи в жертву власну інтуїцію заради тону ШІ. Зверніть увагу на відчуття «щось не так».
- Використання штучного інтелекту для швидкого доступу під тиском. Автомобіль прискорюється, але не пропускає крок.
Підсумовуючи
Безпека — це культура, в основі якої — людське судження. ШІ є цінним помічником у вилученні тенденцій із сповіщень про безпеку/якість, підготовці звітів у культурі справедливості та аналізі першопричин. Але найбільший ризик полягає в тому, що плинність штучного інтелекту сприяє самовдоволенню та упередженню автоматизації. Створіть штучний інтелект як щит від брудної дюжини: збільшуйте свою увагу, а не пригнічуйте її; Залиште рішення, інтуїцію та підпис людині.
Аплікаційне завдання
Отримайте (або відредагуйте) кілька анонімних повідомлень про якість/безпеку. З першим шаблоном попросіть ШІ про аналіз тенденцій. Тоді запитайте себе: які теми знайшов штучний інтелект, які він упустив, чи не сповз він якихось наслідків "хто винен"? Напишіть пропозицію «системного вдосконалення» та перевірте, чи вона відповідає принципу справедливої культури.
контрольний список
- [ ] Я анонімізував дані безпеки та дотримувався політики щодо даних.
- [ ] Я використовував штучний інтелект у структурі фіксації системи, а не в системі пошуку злочинців.
- [ ] Я не пропустив фізичне обстеження щодо упередженості автоматизації.
- [ ] Я ставлю свою інтуїцію «щось не так» вище результату ШІ.
- [ ] Я дотримувався мови справедливої культури у звіті.
- [ ] Я залишив рішення, тлумачення та підпис людині.