Прибыль:
- Понимайте принципы SMS и культуры справедливости и используйте искусственный интеллект для анализа тенденций и составления системно-ориентированных отчетов в уведомлениях безопасности.
- Способность связать факторы «Грязной дюжины», особенно самоуспокоенность и предвзятость к автоматизации, с использованием искусственного интеллекта и управлять ими как щитом.
- Понимание того, что данные безопасности должны быть анонимизированы и что решение/интуиция/подпись остается за человеком.
Авиационная безопасность достигается не только затяжкой нужного болта с нужным моментом; Это достигается за счет культуры, которая определяет, как выполняется работа. В этом модуле вы узнаете, как использовать искусственный интеллект (ИИ) в области управления качеством, системы управления безопасностью (СУБП) и человеческого фактора; Но мы обсудим, почему человеческое суждение всегда должно оставаться в центре культуры безопасности.
СМС и культура отчетности
SMS (система управления безопасностью) — это систематический подход, основанный на упреждающем обнаружении опасностей и управлении рисками. В ее основе лежит культура (подход, при котором человек, честно сообщающий об ошибке, не подвергается наказанию, а халатность/намерение и ошибка разделяются) и сообщение об опасностях. Система безопасности работает только тогда, когда люди без страха сообщают о ней.
ИИ здесь может оказаться ценным помощником, но он требует тонкого баланса. Полезное использование:
- Классифицируйте и отслеживайте тенденции уведомлений: группируйте повторяющиеся темы, разделы ATA, условия в сотнях уведомлений о безопасности и качестве.
- Черновой вариант отчета: перевод фактов инцидента в структурированный отчет (с языком, который рассматривает процесс, а не человека).
- Содействие анализу первопричин: создание вопросов для «5 почему» или анализа барьеров.
- Проект контрольного списка проверки качества.
- Краткое изложение уроков: обобщение повторяющихся уроков из прошлых событий.
Внимание: Уведомления безопасности часто содержат личные и конфиденциальные данные. Анонимизация и корпоративная политика в отношении данных имеют важное значение при анализе с помощью ИИ. Кроме того, ИИ не должно быть разрешено маркировать событие как «чья вина»; Цель SMS – не найти преступников, а исправить систему. Неправильное использование ИИ может нанести вред только культуре.
«Грязная дюжина»: 12 причин человеческих ошибок
Классическим человеческим фактором технического обслуживания является список «Грязная дюжина» Гордона Дюпона — 12 распространенных человеческих факторов, которые приводят к сбоям в обслуживании: недостаток общения, самоуспокоенность, недостаток знаний, отвлечение, недостаток командной работы, усталость, недостаток ресурсов, давление, отсутствие напористости, стресс, недостаточная осведомленность, нормы (неправильные привычки).
Самым важным звеном в отношении ИИ здесь является взаимосвязь между самоуспокоенностью (чрезмерной самоуверенностью/самоуспокоенностью) и предвзятостью к автоматизации (чрезмерной уверенностью в автоматизации – принятием этого как истинного только потому, что так говорит система). Плавная и уверенная работа ИИ может привести к самоуспокоенности. Идея «так сказала система, проверять не надо» — это современный вариант «Грязной дюжины».
Совет: настройте использование ИИ как защиту от «Грязной дюжины», а не как триггер: хорошо иметь напоминание о контрольном списке в конце усталой смены; но пропустить медицинский осмотр, сказав: «ИИ уже посмотрел», — это самоуспокоенность. Инструмент должен повышать ваше внимание, а не притуплять его.
Напористость и ИИ
«Недостаток настойчивости» в «Грязной дюжине» — это неспособность технического специалиста высказать то, что он считает неправильным. Интересно, что ИИ здесь имеет двусторонний эффект. Позитивно: технический специалист может использовать ИИ, чтобы структурировать свою проблему и сформулировать вопрос «как это сформулировать?» Минусы: авторитарный тон ИИ может привести к тому, что человек подавит свою истинную интуицию. Правильный баланс: искусственный интеллект — это входные данные, ваша профессиональная интуиция и наблюдательность — основа принятия решений. Ваше ощущение «что-то не так» должно перевешивать вывод ИИ «все в порядке» — остановитесь и посмотрите.
три мини-кейса
Случай 1. Анализ тенденций обнаружил повторяющуюся ошибку. Когда полугодовые уведомления о качестве были сгруппированы YZ (анонимизированы), для определенного типа панелей выделялась повторяющаяся тема «неправильно установленного крепежа». Команда качества добралась до основной причины: какой-то шаг в карте задач был неясен. Карта уточнена; Повторяющийся источник ошибок систематически закрыт.
Случай 2 — Обнаружена ловушка смещения автоматизации. В утомленную ночную смену техник хотел пропустить визуальный осмотр, основываясь на заключении ИИ: «Эта проверка выглядит нормально». Руководитель группы вмешался: ИИ обобщил данные, но не увидел фрагмента. При физическом осмотре были обнаружены небольшие следы утечки. Самоуспокоенность была нарушена вмешательством человека.
Случай 3 — Поддержка напористости. Один молодой техник подумал, что план нереален, но не знал, как об этом сказать. Что касается искусственного интеллекта, он сформулировал свою озабоченность фактическим, уважительным языком: «Эта задача не может быть безопасно выполнена в заданное время из-за этого предварительного условия». Структурированное возражение рассмотрено; Шаг, который под давлением был бы пропущен, был сохранен.
Четыре копируемых шаблона
Роль: Анализатор тенденций уведомлений безопасности (с анонимизированными данными). Задача: Группировать повторяющиеся темы, разделы ATA и условия в следующих анонимных уведомлениях. Правила: Виновное лицо; НЕ отмечайте «чья вина»; сосредоточьтесь на системной закономерности. Уведомления: [анонимные данные]
Роль: Помощник по составлению отчета об инциденте (просто язык культуры). Задача: Составьте отчет об инциденте на основе следующих фактов, исследуя процесс, а не человека. Правила: Не используйте обвинительные прилагательные; Используйте структуру «что произошло, какие обстоятельства, какого барьера не хватило». Факты: [информация о событии]
Роль: координатор первопричины (5 «почему»). Задача: сформулировать вопросы «5 почему» для следующего события и выяснить, указывает ли каждый ответ на системную слабость. Правила: Я даю ответы; вы генерируете правильные вопросы; Обращайтесь к процессу, а не к личной вине. Инцидент: [краткое содержание]
Роль: Помощь в выражении напористости. Задание: предложите мне структуру предложения, чтобы выразить свою обеспокоенность ниже фактами, уважительным и ясным языком. Правила: Не будьте эмоциональными и обвинительными; центр по обоснованию безопасности. Проблема: [техническая проблема]
Слабая подсказка / Сильная подсказка
Слабое: «Кто виноват в этом происшествии, напишите протокол».
Система поиска виновных подрывает справедливую культуру и скрывает истинную системную причину.
Стронг: «Напишите проект отчета о происшествии, исходя из следующих фактов. Не вините человека; используйте структуру «что произошло, какие обстоятельства присутствовали, какого барьера не хватало, что можно системно исправить». Данные анонимны, не добавляйте личную информацию».
Эта подсказка смещает фокус с человека на систему, с наказания на обучение.
Таблица: «Грязная дюжина» и взаимодействие ИИ
фактор
Риск ИИ
Правильное использование ИИ
Самоуспокоенность
«Уже посмотрел» самоуспокоенность
Напоминание о контрольном списке
предвзятость автоматизации
Слепо доверяйте результату
Использовать в качестве входных данных, подтвердить
отсутствие общения
Неправильный перенос сводки
Настроить оборот
Недостаток напористости
Авторитарный тон подавляет
Помогите выразить тревогу
усталость
Ярлык в критический момент
Не напоминайте шаги, оставьте подпись человеку
Распространенные ошибки
- Заставить ИИ задать вопрос «кто виноват?» Просто портит культуру.
- Анализ конфиденциальных уведомлений без их анонимизации. Нарушение конфиденциальности.
- Впадение в предвзятость к автоматизации. «Система сказала» не заменяет медицинский осмотр.
- Принесение в жертву собственной интуиции в пользу тона ИИ. Обратите внимание на ощущение «что-то не так».
- Использование ИИ для быстрого реагирования под давлением. Автомобиль ускоряется, но не пропускает ни шагу.
В заключение
Безопасность — это культура, и в ее основе лежит человеческое суждение. ИИ является ценным помощником в извлечении тенденций из уведомлений о безопасности/качестве, составлении отчетов в рамках справедливой культуры и анализе первопричин. Но самый большой риск заключается в том, что подвижность ИИ порождает самоуспокоенность и предвзятость к автоматизации. Создайте искусственный интеллект как щит против «Грязной дюжины»: увеличивайте свое внимание, а не притупляйте его; Оставьте решение, интуицию и подпись человеку.
Задача приложения
Получите (или отредактируйте) несколько анонимных уведомлений о качестве/безопасности. С помощью первого шаблона попросите ИИ провести анализ тенденций. Затем спросите себя: какие темы нашел ИИ, какие пропустил, не дошло ли до каких-либо последствий «кто виноват»? Напишите предложение по «системному улучшению» и проверьте, соответствует ли оно принципу справедливой культуры.
контрольный список
- [ ] Я анонимизировал данные безопасности и соблюдаю политику использования данных.
- [ ] Я использовал ИИ для исправления системы, а не для поиска преступников.
- [ ] Я не пропустил медицинский осмотр из-за предвзятости автоматизации.
- [ ] Я ставлю интуицию «что-то не так» выше вывода ИИ.
- [ ] В отчете я сохранил справедливый культурный язык.
- [ ] Я оставил решение, толкование и подпись этому человеку.