Комплексный рабочий процесс, управление, аутентификация и ответственное использование

Прибыль:

• Возможность последовательного внедрения искусственного интеллекта на каждом этапе от проектирования до эксплуатации, с возможностью проверки человеком и переходными условиями, состоящими из одного предложения.
• Способность создать структуру управления с утвержденным списком транспортных средств, классификацией данных, отслеживаемостью, обучением и постоянной проверкой.
• Способность внедрять в рабочий процесс принципы человеческой ответственности, приоритета безопасности, проверки, конфиденциальности, прозрачности и эколого-социальной ответственности.

В предыдущих десяти модулях мы увидели, как безопасно использовать ИИ в отдельных областях химического машиностроения — проектировании, моделировании, кинетике, прогнозировании свойств, оптимизации, контрольных данных, HAZOP, поиске стандартов и Python. В этом заключительном разделе мы собираем детали воедино: мы узнаем, как внедрить ИИ от начала до конца проекта или объекта с последовательной дисциплиной, человеческими воротами проверки и структурой управления — структурой, которая определяет правила, согласно которым инструменты, данные и решения будут использоваться в организации. Цель состоит в том, чтобы создать многоуровневую систему, которая не позволит ни одной ошибке ИИ проникнуть в проект, бизнес-решение или документ безопасности.

Основная идея проста: на каждом этапе размещаются ворота человеческой проверки и четкое условие перехода; Вы не можете пройти через одну дверь, не пройдя через другую. Это спасательная конструкция в химической технологии, а также в криминалистике или медицине — ведь и здесь ошибки имеют последствия не на бумаге, а в реальности, на людях и окружающей среде.

Сквозной рабочий процесс: с воротами проверки

Давайте рассмотрим проект химического машиностроения в пять этапов и определим роль ИИ и проверочных ворот в каждом из них:

1. Дизайн и концепция. ИИ генерирует варианты маршрута и проект PFD. Дверь: соблюдается ли материальный баланс вручную, был ли выбран маршрут инженерно продуманно?

2. Анализ и моделирование. Обобщает результаты моделирования ИИ, дает эскиз кинетики/свойств. Ворота: подходит ли термодинамическая модель, сохраняется ли баланс массы/энергии, зависят ли критические значения от источника эксперимента/базы данных?

3. Оптимизация и калибровка. ИИ производит оптимизацию и проект кода расчета. Дверь: выполнены ли ограничения, проверен ли код, находится ли он в оптимальном окне безопасности?

4. Безопасность и соответствие требованиям. Предоставляет скелет AI HAZOP и стандартную карту. Дверь: Был ли анализ опасностей проведен группой экспертов, проверены ли стандартные изделия на основе первоисточника, получено ли авторизованное одобрение?

5. Эксплуатация и мониторинг. ИИ отслеживает данные датчиков и сигнализирует об аномалиях. Дверь: сигнал реальный или сенсорный, защитная защита в независимой SIS?

Эти ворота предотвращают передачу одного непроверенного результата на следующий этап. Даже если ошибка ускользнет, ​​велика вероятность, что ее поймают у соседней двери.

Совет: напишите «условие перехода» в одно предложение для каждого этапа и сделайте его видимым для команды: «Моделирование нельзя запустить, пока материальный баланс не будет проверен вручную». Такие четкие правила гарантируют поддержание дисциплины даже в условиях нехватки времени.

Структура управления: институциональная дисциплина

Индивидуальная проверка – это хорошо, но необходима система управления в масштабе учреждения. Пять ключевых компонентов:

1. Список утвержденных автомобилей и моделей. Он определяет, какие инструменты ИИ можно использовать для каких задач. Неутвержденные инструменты не используются для учетных записей, критически важных для безопасности.

2. Классификация данных. В какой автомобиль можно внести зарегистрированные предписания, условия эксплуатации и персональные данные? Конфиденциальные/собственные данные не передаются инструментам, которые обеспечивают утечку данных за пределы организации.

3. Регистрация и отслеживание (контрольный журнал). Какой результат был получен с помощью какого инструмента, кто его проверил, с каким источником он был связан? Это должно быть отслежено в случае возникновения проблемы.

4. Обучение и компетентность. Пользователи должны знать пределы возможностей ИИ, риск галлюцинаций и дисциплину проверки. Инструмент мощный, но опасный в плохих руках.

5. Постоянная проверка. Модели и транспортные средства различаются; Надежность выходов периодически проверяется.

Внимание: в учреждении подход «каждый должен предоставить нужные данные тому инструменту искусственного интеллекта, который он хочет» представляет собой риск как утечки конфиденциальной информации, так и сбоя в системе безопасности. Управление – это невидимая, но важная инфраструктура, которая ограничивает эти риски.

Принципы ответственного использования

Подключим модуль с шестью принципами:

1. Человеческая ответственность. Окончательное решение и подпись остается за компетентным экспертом; Результаты работы ИИ не заменяют его одобрения.
2. Приоритет безопасности. Критические для безопасности решения (безопасность, опасность, материал, размер) требуют проверки и авторизованного одобрения.
3. Дисциплина проверки. Каждый выход связан с физикой/источником, проверен независимым методом и пропущен через фильтр интерпретации.
4. Безопасность. Собственные и персональные данные обрабатываются только утвержденным и безопасным способом.
5. Прозрачность. Использование ИИ честно указано в отчетах и ​​документации.
6. Экологическая и социальная ответственность. Решения учитывают не только экономику, но и здоровье человека и окружающую среду.

три мини-кейса

Случай 1 — В двери обнаружился жучок. В одном проекте 4%-ный дисбаланс массы в проекте PFD ИИ был зафиксирован шлюзом баланса перед переходом к фазе моделирования. Ошибка исправлена ​​в источнике; Если бы двери не было, эта ошибка распространилась бы на моделирование, а затем на определение размеров. Многоуровневая структура сработала.

Случай 2 — Управление предотвратило утечку данных. Инженер собирался вставить запатентованный рецепт катализатора в открытый автомобиль с искусственным интеллектом. В правиле классификации данных агентства говорится, что эти данные могут обрабатываться только с помощью утвержденного внутри компании инструмента. Это правило предотвратило коммерчески важную утечку.

Случай 3. Прослеживаемость принесла доверие. В ходе одного аудита нас спросили, как было принято дизайнерское решение. Благодаря дисциплине записи в учреждении удалось задокументировать, что ИИ создал только черновик, что каждое критическое значение было отнесено к экспериментальному источнику и что решение было одобрено уполномоченным инженером. Прозрачность обеспечила как доверие, так и правовую защиту.

Четыре копируемых шаблона

1) План ворот рабочего процесса:

Ваша роль: консультант по обеспечению проекта. Мой проект: [описание]. Подготовьте мне план VERIFICATION GATE по этапам (проектирование, анализ, определение размеров, безопасность, эксплуатация): что делает ИИ на каждом этапе, какое условие перехода из одного предложения НЕ МОЖЕТ быть передано на следующий этап без выполнения, кто проверяет. Особое внимание уделяется дверям, критичным для безопасности.

2) Саморегулирование управления:

Для использования ИИ в нашей организации выдается контрольный список самоаудита: (1) существует ли список утвержденных инструментов, (2) определена ли классификация данных, (3) ведется ли запись/отслеживаемость, (4) проводится ли обучение пользователей, (5) проводится ли постоянная проверка? Запросите оценку «да/частично/нет» и предложения по улучшению каждого пункта. Контекст: [определение]

3) Прозрачность/декларация об использовании:

Разработайте параграф о прозрачности, который честно описывает использование ИИ для инженерного отчета: на каких этапах ИИ использовался для составления/анализа, как проверялись результаты, с окончательной ответственностью на ответственном инженере. Преувеличение; просто отразите, что было сделано на самом деле.Действия: [описание]

4) Последняя проверка перед принятием решения:

Я собираюсь принять это решение: [решение]. Проведите мне окончательный контрольный список, прежде чем раздавать его: (1) критично ли это для безопасности, (2) были ли какие-либо значения, на которые я полагаюсь, получены/экспериментированы, (3) проводилась ли независимая проверка, (4) требуется ли одобрение органа власти, (5) соблюдалась ли конфиденциальность/соответствие? Отметьте шаг, который, по вашему мнению, отсутствует. Решение за мной; Вы следуете контрольному списку.

Слабая подсказка / Сильная подсказка

Слабая подсказка:

Как мне использовать ИИ в своем проекте?

Нет контекста, нет структуры проверки. ИИ дает общий ответ, минуя критически важные для безопасности шлюзы.

Мощная подсказка:

Ваша роль: консультант по обеспечению проекта. Я хочу использовать ИИ от проектирования до эксплуатации в проекте химического производства мощностью 50 000 тонн в год. Для каждого этапа я получаю структуру роли ИИ, структуру проверки, которую нельзя пройти без прохождения, кто ее будет утверждать и какие данные какому инструменту можно передать. Также отметьте критически важные для безопасности шаги и укажите, где одобрение человека является обязательным.

Разница очевидна: контекст проекта, шлюзы, правила утверждения и данных систематизируют использование ИИ.

Распределение ролей в сквозной структуре

Этап

Роль ИИ

ворота проверки

Дизайн

Маршрут, проект ПФО

Баланс + подтверждение маршрута

Анализ

Сводка моделирования, прогноз

Модель + подтверждение источника

Размеры

оптимизация, код

Ограничение + тест + безопасность

Безопасность/соответствие

Скелет HAZOP, карта

Экспертная группа + первоисточник

Бизнес

Отслеживание аномалий

Реальный/сенсорный + независимый SIS

Распространенные ошибки

• Прыжки через двери в условиях цейтнота. Пропуск шлюза позволит ошибке распространиться на последующие этапы.
• Пренебрежение управлением. Нерегулярное использование инструментов и данных создает риски утечки и безопасности.
• Сокрытие использования. Если использование ИИ не документируется прозрачно, подрываются как доверие, так и правовая защита.
• Критически важное для безопасности утверждение, чтобы увидеть формальное. Санкционированное одобрение — это не формальность подписания, а реальная ответственность за проверку.
• Забывая об экологических и социальных аспектах. Решения взвешиваются не только с экономической точки зрения, но также с точки зрения здоровья и окружающей среды.

В итоге

В сквозной структуре ИИ встроен в систему контроля человеком на каждом этапе химического машиностроения; Вы не можете пройти через одну дверь, не пройдя через другую. Структура управления (сертифицированные инструменты, классификация данных, отслеживаемость, обучение, непрерывная проверка) выводит эту дисциплину на уровень предприятия. Основой ответственного использования являются шесть принципов: ответственность человека, приоритет безопасности, дисциплина проверки, конфиденциальность, прозрачность и ответственность экологического общества. ИИ — мощный помощник; Но за дизайном, безопасностью и последним словом всегда стоит компетентный специалист.

Задача приложения

Создайте пятиэтапный план проверки для вашего собственного (или воображаемого) проекта с помощью шаблона «План прохода рабочего процесса»; Напишите условие перехода из одного предложения для каждого этапа. Затем с помощью шаблона «самоаудита управления» оцените эффективность использования ИИ в этом проекте с точки зрения утвержденных инструментов, классификации данных, отслеживания и обучения, и определите как минимум два улучшения.

контрольный список

• [ ] На каждом этапе я установил человеческую проверку и условие прохождения в одно предложение.
• [ ] Я определил утвержденный список инструментов и классификацию данных.
• [ ] Я вел запись/отслеживание (какие результаты, кто проверял, какой источник).
• [ ] В отчете я открыто заявил об использовании ИИ.
• [ ] Я приписываю критически важные для безопасности решения одобрению уполномоченных экспертов и ответственности перед обществом.

Модульный экзамен

1. Что из перечисленного является наиболее точным позиционированием искусственного интеллекта в химической технологии?

• А) Искусственный интеллект может записывать расчеты безопасности непосредственно в проект без одобрения человека.
• Б) ИИ — это ускоритель учетных записей и генератор проектов; Ответственность за определение безопасности конструкции и окончательное решение лежит на человеке ✔
• В) Поскольку искусственный интеллект всегда более надежен, чем человек, решения по безопасности следует оставить на его усмотрение.
• Г) Искусственный интеллект полезен только для обобщения текста, к инженерным расчетам он не имеет никакого отношения.

Описание: Искусственный интеллект; Это помощник, который сортирует объемные данные, отмечает шаблоны и производит расчеты/черновики кода. Ответственность и утверждение критически важных вопросов, таких как безопасность проекта, интерпретация моделирования и окончательное решение, принадлежат компетентному эксперту; Неподтвержденный результат может привести к утечке реактора или взрыву. Таким образом, результаты искусственного интеллекта не заменяют одобрение компетентных экспертов.

2. Какова процедура трехэтапной проверки результатов инженерных расчетов, полученных с помощью искусственного интеллекта?

• А) Проверка того, является ли вывод плавным и уверенным
• Б) Задайте один и тот же вопрос искусственному интеллекту три раза и возьмите среднее значение.
• C) Подключите его к физике/источнику, протестируйте независимо, пропустите через фильтр границ комментариев ✔
• Г) Непосредственное принятие результата и его проверка только на этапе отчета

Пояснение: каждый выходной сигнал сначала подключается к физике/источнику (какое уравнение, какой источник, какое предположение), затем он тестируется независимым методом (ручной расчет, моделирование, справочные данные, проверка порядка) и, наконец, проходит через фильтр комментариев и границ (сохраняется ли масса/энергия, реалистично ли значение). Эти три шага позволяют выявить большинство галлюцинаций.

3. Что делать, если общая масса входящей и выходящей не соответствует проекту материального баланса, установленному искусственным интеллектом в технологическом проекте?

• А) Небольшая разница не имеет значения, игнорируйте ее и продолжайте проектирование.
• Б) Разница найдена и исправлена; часто бывает забытый поток или двойной зачет ✔
• В) Баланс считается правильным, потому что искусственный интеллект рассчитывает его именно так.
• D) Значение исходящего потока вручную увеличивается, чтобы компенсировать разницу.

Пояснение: В химической технологии масса либо сохраняется, либо нет; «стоит примерно» неприемлемо. Если уравнение вход = выход не удовлетворяется, часто возникает забытый побочный поток, повторный цикл с двойным счетом или ошибка. Проект не может быть продолжен до тех пор, пока это не будет найдено и исправлено; в противном случае ошибка распространится на все последующие размеры.

4. Моделирование процесса «сблизилось и дало четкую картину». Каков наиболее критический риск для точности этого результата?

• А) Таблица представлена не в цветном и разборчивом виде
• Б) Моделирование сходится слишком быстро
• В) Термодинамическая модель, не подходящая по характеристикам системы, дает убедительные, но неверные результаты ✔
• D) Слишком много десятичных знаков в таблице потоков.

Пояснение: Большинство ошибок моделирования не числовые, а обусловлены выбором термодинамической модели (пакета свойств). Применение идеальной модели к полярной смеси может сделать азеотроп невидимым, и результат будет гладким, но совершенно неверным. Казалось бы, сходящаяся и красивая картина не соответствует действительности; Требуется подбор модели и экспериментальное сравнение.

5. Как следует действовать, если искусственный интеллект дает значение константы скорости реакции (k) для конструкции реактора?

• А) Значение следует определять экспериментально; Прогнозы ИИ не используются в качестве проектных данных ✔
• Б) Ценность закладывается непосредственно в дизайн, поскольку ИИ уверенно справляется с поставленными задачами.
• В) Предполагается, что величина одинакова для каждой реакции независимо от условий.
• Г) Значение будет достаточным, как только подобное число появится в Интернете.

Описание: Константы скорости, энергия активации и механизм определяются только экспериментально; Одна и та же реакция ведет себя по-разному с разными катализаторами, примесями или фазами. Значение k, возвращаемое AI, может быть первоначальным предположением, но это не проектные данные. Каждый кинетический параметр, лежащий в основе конструкции, должен быть основан на эмпирическом источнике.

6. Как следует определять теплоту экзотермической реакции (энтальпию реакции) для проектирования безопасного охлаждения?

• А) Начальное значение, заданное искусственным интеллектом, напрямую вводится в проект охлаждения.
• Б) Значение измеряется методом калориметрии и оценивается уполномоченным инженером, оно не основано на прогнозах искусственного интеллекта ✔
• В) Если реакция экзотермическая, то тепловой нагрузкой можно пренебречь.
• Г) Значение аналогичного соединения используют независимо от состояния

Описание: Реакционное тепло и потенциал неконтролируемого теплового выхода являются критически важными проблемами с точки зрения безопасности. Значение, возвращаемое искусственным интеллектом, может относиться к другому растворителю/состоянию и может существенно искажать фактическую тепловую нагрузку. Эти значения измеряются методом калориметрии (например, реакционной калориметрии) и оцениваются компетентным инженером; Он никогда не основывается только на прогнозах искусственного интеллекта.

7. Искусственный интеллект выдал давление паров растворителя с уверенной цифрой. Что следует сделать перед использованием этого значения?

• А) Поскольку значение задается бегло, оно помещается непосредственно в оформление столбца
• Б) Управляется только блок, на источник смотреть не надо
• В) Значение проверено надежной базой данных (DIPPR/NIST) или экспериментом с условием ✔
• Г) Если значение сравнивается со значением другого растворителя и оно аналогично, оно принимается.

Пояснение: Оценка характеристик является численной основой проектирования, и здесь ошибка распространяется по всему расчету. Значение AI может принадлежать другому соединению, находиться в неправильном состоянии или быть галлюцинацией. Таким образом, каждая критическая функция проверяется с помощью надежной базы данных (DIPPR/NIST) или эксперимента; также необходимо запрашивать вместе со значением условия (температура, давление, фаза).

8. Что произойдет, если искусственному интеллекту прикажут «минимизировать потребление энергии» при оптимизации процесса, но при этом не будет задано ограничение на чистоту продукта?

• А) Результат всегда безопасный и качественный, ограничений нет.
• Б) Может возникнуть вводящий в заблуждение оптимум, который хорошо выглядит на бумаге, но приносит в жертву чистоту или безопасность ✔
• В) Искусственный интеллект спонтанно и правильно дополняет недостающие ограничения.
• Г) Оптимизация не работает и не дает результатов

Объяснение: Неограниченная оптимизация вводит в заблуждение: ИИ или алгоритм могут предлагать «оптимум», который на бумаге снижает потребление энергии, но на самом деле снижает чистоту продукта ниже спецификации или превышает запас безопасности. Следовательно, все ограничения качества и безопасности, а также цели и переменные решения должны быть полностью определены; Математический оптимум также должен быть проверен на безопасность и осуществимость.

9. Что следует делать в первую очередь, когда ИИ отмечает внезапный скачок данных датчиков как «возможную утечку»?

• А) Немедленно остановить процесс, поскольку искусственный интеллект сообщил, что произошла утечка
• Б) Игнорирование сигнала, поскольку датчики всегда ошибаются
• C) Проверка с помощью фильтра надежности, является ли сигнал реальным технологическим событием или проблемой датчика/измерения ✔
• D) Автоматически удалять прыжок из набора данных.

Пояснение: Датчики могут врать: калибровка сбивается, соединение рвется, в линии появляются помехи. Сигнал аномалии сначала необходимо отфильтровать для обеспечения надежности данных: согласуется ли он с соседними/связанными датчиками, физически возможен, соответствует ли он записи обслуживания/калибровки? Только после их прохождения оно расследуется как реальное событие процесса; В противном случае вмешательство может произойти по причине ложной тревоги.

10. Какова подходящая и безопасная роль ИИ в исследовании HAZOP?

• А) Создание полной HAZOP, зная процесс и делая встречу ненужной.
• Б) Точная классификация уровней риска и принятие мер предосторожности.
• C) Обеспечение рабочей основы, контрольные вопросы и подготовка протоколов; Оставьте фактическую оценку опасности команде экспертов ✔
• D) Прийти на место встречи и подписать окончательный отчет о рисках в одиночку.

Описание: HAZOP — это деятельность специалистов, критически важных для безопасности. Искусственный интеллект; Матричная структура узлов/параметров/руководящих слов ускоряет документацию, например, вызов типичных сценариев и минутное редактирование. Но какое отклонение представляет собой реальную опасность, серьезность последствий и адекватность мер предосторожности принадлежат многопрофильной экспертной группе; Более того, в искусственном интеллекте не обнаруживаются опасности, специфичные для процесса. Проект ИИ — это вклад, а не результат совещания экспертов.

11. Что является наиболее важным предостережением относительно ИИ в исследованиях стандартов и нормативных требований?

• А) Искусственный интеллект никогда не ошибается в своих стандартных знаниях, его можно использовать напрямую.
• Б) Каждый номер вещества, предельное значение и дата должны быть проверены на основе первичного и текущего источника; ИИ только указывает направление ✔
• В) Проверка обновлений не требуется, поскольку стандарты никогда не меняются.
• D) Само по себе создание контрольного списка доказывает соблюдение требований.

Пояснение: Исследование стандартов — одна из областей, где галлюцинации ИИ могут оказаться наиболее разрушительными: несуществующий номер элемента, неверная точка останова или устаревшие требования могут быть представлены очень убедительно. Соответствие означает и безопасность, и закон. Таким образом, каждое вещество, предельное значение и дата не могут использоваться без подтверждения из первичного и текущего источника; ИИ только обеспечивает направление.

12. Код инженерных расчетов Python, написанный искусственным интеллектом, работал без ошибок и выдавал числа. Что нужно сделать, чтобы поверить в этот вывод?

• А) Безошибочная работа кода доказывает правильность результата.
• Б) Код должен быть протестирован с известным результатом, должны быть проверены единичные и крайние случаи, а расчет безопасности также должен быть проверен уполномоченным органом ✔
• В) Если код длинный и выглядит сложным, его можно считать правильным
• Г) Поскольку написано искусственным интеллектом, дополнительная проверка не требуется.

Пояснение: «Рабочий» и «правильный» — это разные вещи: код может работать без ошибок и выдавать неправильное число (путаница единиц измерения, ошибка знака, сдвиг индекса). Поэтому каждый код должен тестироваться на тестовом примере (аналитическая выборка, ручной расчет, справочные данные), ответ на который известен независимо; единицы измерения и крайние случаи должны быть проверены; Критически важные для безопасности расчеты также должны быть проверены уполномоченным инженером.

13. Каков наиболее эффективный способ защитить сквозной процесс химического машиностроения с использованием искусственного интеллекта от утечки единственной ошибки в проект или документ безопасности?

• А) Делегировать весь процесс одному инструменту искусственного интеллекта и смотреть на результат
• Б) Удаление промежуточных проверок на скорость и проверка только на завершающем этапе
• В) Установка шлюза проверки человеком и условия прохождения одним предложением на каждом этапе (многоуровневая проверка) ✔
• Г) Каждый инженер может свободно пользоваться своим транспортным средством без ведения учета.

Описание: На каждом этапе (проектирование, анализ, калибровка, безопасность, эксплуатация) размещаются ворота человеческой проверки и четкое условие перехода (стабилен ли он, подключен ли к источнику, протестирован ли код, получено ли одобрение экспертов). Вы не можете пройти через одну дверь, не пройдя через другую; Эта многоуровневая структура предотвращает попадание одной ошибки ИИ на последующие этапы.

14. Какое из следующих приложений делает использование искусственного интеллекта в учреждении безопасным с точки зрения управления?

• А) Каждый пользователь может свободно вводить собственные данные в любой открытый инструмент по своему выбору.
• Б) Система управления, включающая утвержденный список транспортных средств, классификацию данных, отслеживаемость, обучение и постоянную проверку ✔
• В) Использование искусственного интеллекта вообще не зафиксировано
• Г) Использование одного неутвержденного инструмента для каждого задания, включая учетные записи, критически важные для безопасности.

Пояснение: Подход «Каждый должен передать нужные данные тому транспортному средству, которое хочет» создает риск как утечки конфиденциальной информации, так и ошибок безопасности. Прочная структура управления; Он включает в себя список одобренных транспортных средств и моделей, классификацию данных (какое транспортное средство может регистрировать зарегистрированные/личные данные), регистрацию и отслеживание (контрольный журнал), обучение пользователей и постоянную проверку. Это критическая инфраструктура, которая ограничивает риски.