Человек в эксперименте: этика, конфиденциальность, ответственность и сквозной рабочий процесс — Искусственный интеллект в химии (фундаментальная наука)

Прибыль:

Интеграция человеческого принципа в сквозной рабочий процесс эксперимента и возможность разделения ролей искусственного интеллекта и человека на каждом этапе.
Возможность работать с общими примерами прокси, не передавая конфиденциальную структуру и данные общему искусственному интеллекту.
Возможность размещать шлюзы одобрения людей в критических точках и брать на себя максимальную ответственность за прозрачность и отслеживаемость.

В этом последнем разделе мы объединяем весь модуль в единую структуру: «человек в цикле». Этот принцип гласит, что независимо от того, насколько способен ИИ, человек должен понимать, контролировать и одобрять каждый критический момент химического решения. В этом модуле мы сначала проясним этические аспекты и аспекты конфиденциальности, затем создадим сквозной рабочий процесс, который проходит путь от идеи до отчета, и увидим, как ИИ и люди разделяют работу на каждом этапе. Цель — превратить все, чему вы научились, в систему, которая впишется в повседневную работу.

Конфиденциальность: что нельзя давать ИИ?

Химия часто работает с конфиденциальной информацией: незапатентованными молекулами, секретными маршрутами синтеза компаний, неопубликованными данными, образцами пациентов. Текст, который вы вводите в общедоступную службу ИИ, может храниться или обрабатываться в соответствии с политикой службы. Поэтому:

Проверьте свою институциональную политику, прежде чем публиковать неопубликованные оригинальные структуры (предзапатентованные молекулы) для публичного ИИ.
Никогда не вводите личные данные/пациентские данные (клинические образцы) в идентифицируемой форме.
Прежде чем делиться информацией о путях синтеза коммерческой тайны, ознакомьтесь с соглашениями о конфиденциальности.
При необходимости выбирайте собственные или пользовательские инструменты искусственного интеллекта.

Внимание: расспросить обычного ИИ о молекуле может означать раскрытие структуры этой молекулы. Для уникальной конструкции, которая не была запатентована, это может поставить под угрозу ваш приоритет (патентное право). Попросите скрытые структуры с общими/суррогатными примерами.

Этика: четыре принципа

Прозрачность: не скрывайте, где вы используете ИИ; Соблюдать публикационную и институциональную политику.
Ответственность: человек несет ответственность за окончательное решение; «Предложено ИИ» не оправдывает нарушение безопасности или целостности.
Непричинение вреда: не используйте ИИ для опасного/незаконного синтеза и приложений двойного назначения (потенциал оружия).
Справедливость и честность: не искажать данные, не приукрашивать результаты, не выдумывать атрибуции.

Комплексный рабочий процесс: молекула → отчет

Теперь объединим весь модуль в один поток. На каждом этапе обращайте внимание на различие между тем, что делает ИИ, и тем, что делает человек.

Этап

Роль ИИ

(Критическая) роль человека

1. Идея/литература

Краткое описание концепции, поисковый запрос

Нахождение настоящего источника, подтверждение авторства

2. Описание структуры

создание УЛЫБКИ

Аутентификация с помощью RDKit, InChIKey

3. План синтеза

Ретросинтез, альтернативы

Подтверждение литературы, выбор пути

4. Безопасность

Сводка паспортов безопасности, предварительное несоответствие

Чтение Паспорта безопасности, утверждение, решение по СИЗ

5. Приложение

(Нет)

Все лабораторные работы

6. Анализ

Поддержка комментариев Spectrum

Окончательное задание структуры

7. Обработка данных

написание кода

Запустите код, проверьте результат

8. Документация

Форматирование, контроль

Наблюдение, отклонение, подпись

9. Отчетность

проект текста

Проверка номера/цитирования, подотчетность

В этой таблице показано, как 11 модулей модуля объединены в одно задание. ИИ ускоряется; люди проверяют и владеют.

Шаг за шагом: настройка рабочего процесса

Уточните роли: для каждой задачи: «Решает ли ИИ или человек?» определиться с самого начала.
Настройте фильтр конфиденциальности: не сообщая что-либо ИИ, вы можете спросить: «Это личное/частное?» просить.
Установите ворота проверки: этап проверки в конце каждого этапа (таблица в модуле 10).
Сохраняйте отслеживаемость: какие данные были получены от ИИ, как они были проверены, кто их утвердил.
Установите точки одобрения: одобрение человека обязательно в критических точках, таких как безопасность и конечный результат.
Обратная связь: записывайте каждую обнаруженную ошибку и улучшайте рабочий процесс.

Четыре копируемых шаблона

1) Предварительный фильтр конфиденциальности:

Прежде чем задавать вопрос, подумайте над этим: Содержание: [ЧТО Я СПРАШИВАЮ] Задача: содержит ли этот контент неопубликованные оригинальные артефакты, личные данные или коммерческую тайну? Если да, предложите, как я могу переписать вопрос, используя общий/суррогатный пример, который скроет структуру.

2) Ворота проверки завершения фазы:

Я завершил следующий этап: [ФАЗА, например. план синтеза]. Задача: Перечислить все элементы, которые необходимо проверить на этом этапе (количество, цитирование, структура, утверждение безопасности). Для каждого напишите способ проверки и кто должен ее подтверждать. Отметьте все открытые элементы, которые необходимо закрыть, прежде чем переходить к следующему шагу.

3) План распределения ролей человека и ИИ:

Мой проект: [КРАТКОЕ ОПИСАНИЕ]. Задача: Разделить проект на этапы. Для каждого этапа различайте: - Что может сделать ИИ (проект, код, резюме) - Что должен решить человек (безопасность, последствия, одобрение). Отметьте критические точки, где конечная ответственность лежит на человеке.

4) Проверка целостности отчета:

Ниже приведен черновой вариант моего отчета: [ЧЕРНОВИК] Задача: Отметьте и отметьте следующее: 1) Есть ли какие-либо непроверенные цифры/цитаты? 2) Прозрачно ли заявлено об использовании ИИ? 3) Выглядят ли данные «украшенными» (скрываются выбросы)? 4) Есть ли какие-либо нарушения безопасности/этики? [ПРОВЕРЬТЕ], если вы не уверены.

Слабая подсказка / Сильная подсказка

Слабый:

Как лучше всего синтезировать новую секретную молекулу нашей компании? [фактическая исходная структура]

Это делает исходную предпатентную структуру доступной для общего обслуживания; Это ставит под угрозу приоритет и конфиденциальность.

Сильный:

Я хотел бы изучить общую стратегию ретросинтеза аналогичного по структуре класса ароматических кетонов. Объясните на общем примере (производное ацетофенона), не раскрывая конкретную исходную структуру. Я применю эту стратегию к своей собственной молекуле.

Отличие: без выявления скрытой структуры было достигнуто то же обучение, что и в обычном суррогатном примере.

мини-чехлы

Случай 1 — Раскрыта первоначальная структура. Прежде чем подать заявку на патент, команда спросила у общего ИИ об уникальной молекуле. Юридическое подразделение заявило, что это может поставить под вопрос приоритет; Процесс затянулся. Урок: запрашивайте уникальные структуры с общим прокси, соблюдайте политику конфиденциальности.

Случай 2 — Аварию предотвратило согласие человека. В автоматизированном рабочем процессе ИИ создал проект процедуры, который должен был быть реализован напрямую; Но опытный химик поймал на проточном затворе «безопасности» несовместимую пару реагентов. Урок: в критические моменты ворота человеческого одобрения спасают жизни.

Случай 3 — Сквозная дисциплина. Магистрант реализовал весь модуль в одном проекте: обзор литературы + фактическая проверка цитирования с помощью AI, проверка структуры с помощью RDKit, анализ данных с помощью кода, безопасность с помощью SDS, честная документация, прозрачная отчетность. Результат оказался и быстрее, и надежнее; на защите диссертации «Как вы проверяли ИИ?» Он четко ответил на вопрос. Урок: ИИ + дисциплина проверки лучше всего работают вместе.

Распространенные ошибки

Придание скрытой структуры общему ИИ. Это ставит под угрозу приоритет патента и коммерческую тайну.
Ввод идентифицируемых личных данных/данных пациента. Нарушение конфиденциальности и юридический риск.
Обход ворот одобрения. Безопасность и, в конечном итоге, движение вперед без одобрения человека.
Передача ответственности ИИ. «Предложение ИИ» не оправдывает никаких ошибок.
Избегание прозрачности. Сокрытие использования ИИ подрывает честность.
Игнорирование риска двойного использования. Неэтично использовать ИИ для вредоносных приложений.

Совет: спланируйте свой рабочий процесс так, чтобы «каждое критическое решение, которое человек принимает и одобряет», — это ваш рабочий процесс. Сделайте ИИ звеном, ускоряющим цепочку, а узлом, удерживающим цепочку, всегда будет человек.

В заключение

Человеческий принцип в экспериментировании: каждое критическое химическое решение человек понимает, контролирует и одобряет.
Конфиденциальность: не предоставляйте общедоступным ИИ уникальные артефакты, персональные данные и коммерческую тайну; Используйте универсальный прокси.
Этика: прозрачность, ответственность, непричинение вреда, честность — четыре основных принципа.
В сквозном рабочем процессе ИИ ускоряется на каждом этапе; люди проверяют и владеют.
Установите шлюзы одобрения людей в критических точках (безопасность, конечный результат) и обеспечьте отслеживаемость.

Задача приложения

Выберите собственный проект (реальный или гипотетический) и спроектируйте рабочий процесс искусственного интеллекта и человека от начала до конца. Адаптируйте приведенную выше таблицу из 9 этапов под свой проект: что будет делать ИИ на каждом этапе, что одобрит человек? Примените предварительный фильтр конфиденциальности: какую информацию вы не передаете ИИ, как вы ее обобщаете? Определите как минимум два шлюза одобрения человеком и один метод отслеживания. Напишите одностраничный «план рабочего процесса и проверки».

контрольный список

[ ] В эксперименте я понял человеческий принцип и почему это было необходимо.
[ ] Я обобщаю скрытую структуру/данные, не передавая их общему ИИ.
[ ] Я соблюдаю принципы прозрачности, ответственности, непричинения вреда и честности.
[ ] Я разделил роли ИИ и человека в сквозном рабочем процессе.
[ ] Я устанавливаю ворота человеческого одобрения в критических точках.
[ ] Я отслеживаю, какой вывод поступает от ИИ и как он проверяется.

Модульный экзамен

1. Что из перечисленного является наиболее точным позиционированием искусственного интеллекта в химии?

А) Искусственный интеллект — помощник по кодированию, черновикам и редактированию; Ответственность за структуру, количество, ресурсы, безопасность и этические решения лежит на людях ✔
Б) Искусственный интеллект — это химический двигатель, и молекулярные массы, которые он дает, всегда точны.
В) Искусственный интеллект работает только при обзоре литературы, к анализу и безопасности он не имеет никакого отношения.
Г) Поскольку искусственный интеллект более беспристрастен, чем люди, решения по безопасности следует оставить на его усмотрение.

Описание: Искусственный интеллект; Это помощник, который пишет код, создает черновики, строит скелет ретросинтеза, помогает и организует интерпретацию спектра. Однако детерминистический расчет молекулярной массы и стехиометрии, проверка структуры с помощью RDKit, подтверждение цитат в базе данных, принятие решения о безопасности с помощью SDS/GHS и окончательная ответственность принадлежат компетентному химику. Большая языковая модель — это не калькулятор и не химическая машина; Это генератор текста, который генерирует «следующее наиболее вероятное слово», и его непроверенный вывод может привести к неправильной структуре, числу или опасности.

2. Какой самый надежный способ описать молекулу искусственному интеллекту?

А) Написание только общетурецкого имени
Б) Придание представления структуры типа УЛЫБКИ и подтверждение личности с помощью InChIKey ✔
В) Просто сообщаем молекулярную массу
Г) Достаточно написать товарный знак

Пояснение: Названия (особенно торговые названия и синонимы) неоднозначны и могут привести к неправильной молекуле. Присвоение молекуле структурного обозначения, такого как SMILES, обеспечивает точность; Его личность подтверждена в базе данных InChIKey. Кроме того, SMILES, выданные искусственным интеллектом, необходимо проанализировать с помощью RDKit и проверить путем канонизации.

3. Как следует использовать молекулярную массу, полученную искусственным интеллектом?

А) Использование напрямую, потому что ИИ надежен в цифрах
Б) Посчитать и проверить самостоятельно по формуле вручную или с помощью RDKit ✔
В) Достаточно просто спросить у другого искусственного интеллекта и сравнить
Г) Молекулярная масса не имеет значения, в проверке нет необходимости.

Пояснение: Молекулярная масса — это величина, рассчитанная детерминистически на основе молекулярной формулы. Поэтому запрос языковой модели — самый слабый способ; Его следует проверить независимо с помощью такого инструмента, как RDKit, или рассчитать его вручную по формуле. Языковая модель может соответствовать таким числам «вероятно выглядящему» значению.

4. Что следует сделать перед использованием ссылки на литературу (статью/DOI), возвращенной искусственным интеллектом?

А) Ничего; Если искусственный интеллект дает ссылку, то она реальна
Б) Достаточно просто взглянуть на заголовок, чтобы он выглядел убедительно.
В) Подтверждение каждой цитаты и DOI путем их расшифровки в базе данных (doi.org, Crossref) ✔
D) Длинный номер DOI доказывает, что он настоящий.

Описание. Языковая модель может генерировать статьи, авторов и DOI, которые выглядят реалистично, но не существуют (ложное цитирование). Тот факт, что он дает DOI, не означает, что он действителен. Каждая цитата должна быть подтверждена разрешением в базе данных, такой как doi.org, Crossref или на сайте издателя; Самый безопасный способ — найти настоящую статью и обобщить текст с помощью искусственного интеллекта.

5. В какой области искусственный интеллект наиболее слаб и требует подтверждения при планировании реагирования?

А) При определении того, к какому общему классу принадлежит реакция
Б) Точные номера состояния, значения выхода и названия реагентов/катализаторов ✔
В) Объяснение механизма простым языком
D) Мозговой штурм альтернативных маршрутов.

Пояснение: ИИ обычно хорошо предсказывает тип реакции и основной продукт хорошо документированных реакций. Однако точные числа состояний (температура, время, эквивалент), значения выхода, редкие реакции и названия реагентов/катализаторов являются самыми слабыми и наиболее подверженными фальсификации; это должно быть подтверждено литературой и каталогами.

6. Каков наиболее надежный способ использования искусственного интеллекта при интерпретации спектра?

А) Просто укажите несколько пиков и спросите: «Что это за спектр?» спросить
Б) Предоставление ожидаемой структуры и полных исходных данных, а также проверка согласованности (проверка гипотез) ✔
В) Запись только значений сдвига без выполнения интегрирования и деления
D) Наличие окончательного назначения структуры, выполненного с помощью одного метода (только IR)

Описание: Спросите ИИ: «Какое соединение представляет собой этот спектр?» Если вы задаете вопрос с нуля, увеличивается вероятность ошибок. Самый надежный способ — объединить ожидаемую структуру (SMILES) и необработанные данные (интеграция, разделение, решатель, список пиков) и задать вопрос: «Соответствуют ли эти данные этой структуре?» это спросить; то есть использование искусственного интеллекта в качестве средства проверки гипотез. Последнее задание – для химика, исследующего экспериментальный спектр.

7. Как наиболее надежно получить результат химического расчета (например, процентный выход)?

А) Запрос результата непосредственно у искусственного интеллекта в устной форме
Б) Распечатайте и запустите код Python учетной записи и протестируйте его на известном примере ✔
В) Задайте один и тот же вопрос несколько раз и получите число, которое встречается чаще всего.
Г) Быстрая оценка без указания единицы измерения.

Пояснение: языковая модель выполняет арифметические действия, «предсказывая вероятный результат», и может ошибаться даже при очень простых умножениях. Самый надежный способ — заставить ИИ написать свой КОД (например, Python), а не саму учетную запись, и запустить этот код; код является детерминированным и проверяемым. Код также следует протестировать на небольшом образце, ответ на который известен.

8. Что означает понятие «область применимости» при прогнозировании молекулярных свойств?

А) Вычислительная мощность компьютера, на котором работает модель.
Б) Молекулярная область аналогична обучающим данным, где модель дает надежные прогнозы ✔
C) Область уверенности, где число, заданное моделью, всегда точное.
Г) Диапазон температур, в котором молекулу можно синтезировать в лаборатории.

Пояснение: Модель QSAR/прогнозирования хорошо работает на молекулах, похожих на молекулы, на которых она обучалась. Учитывая молекулу, которая сильно отличается от обучающих данных, модель все равно выдает число, но это ненадежно; это называется «находиться за пределами применимости». Модель всегда дает ответ; Человек сам должен оценить, достоверен ответ или нет.

9. Как правильно обращаться с наблюдениями в документации эксперимента?

А) Запись наблюдений в искусственный интеллект для экономии времени
Б) Человек, проводящий эксперимент, записывает свои наблюдения; ИИ только форматирует и проверяет ✔
В) Достаточно не записывать наблюдения, а написать итоговую доходность
Г) Скрытие отклонений от плана, чтобы отчет выглядел красиво

Пояснение: Искусственный интеллект не знает, что это такое; Вписывая в него наблюдения (изменение цвета, выделение газа и т. д.), получаются записи, которые кажутся правдоподобными, но не происходили, и это научное мошенничество. ИИ форматирует запись, вспоминает пропущенные поля и проверяет повторяемость; но человек-экспериментатор должен предоставить наблюдения и факты. Отклонения от плана также необходимо фиксировать.

10. Какова роль искусственного интеллекта в лабораторной безопасности и источнике истины?

А) Если искусственный интеллект говорит «безопасно», нет необходимости в другом источнике
Б) Источником истины являются SDS и GHS; ИИ полезен, но не может сказать последнее слово ✔
В) Решения по безопасности можно полностью делегировать искусственному интеллекту.
D) Паспорт безопасности не требуется; Интернет-форумы предоставляют достаточную информацию.

Описание: Безопасность — высший приоритет в химии, и последнее слово здесь никогда не останется за искусственным интеллектом. Источником фактической информации о безопасности являются SDS (паспорт безопасности) и классификация GHS, предоставленные производителем. ИИ может обобщать текст паспорта безопасности, генерировать проекты форм и выполнять предварительную проверку на несоответствие; Однако все претензии должны быть подтверждены паспортом безопасности, а процедура должна быть одобрена опытным лицом/сотрудником службы безопасности.

11. Какая из следующих комбинаций реагентов является заведомо опасной (несовместимой)?

А) Смешивание воды и поваренной соли
Б) Смешивание кислого раствора с раствором, содержащим гипохлорит (опасность газообразного хлора) ✔
В) Смешивание этанола и воды
г) растворение сахара в воде

Пояснение: Хотя некоторые химические вещества относительно безопасны по отдельности, они опасны вместе. При смешивании кислоты и гипохлорита выделяется газообразный хлор; Окислитель + органические вещества создают опасность возгорания/взрыва, вода + химически активный металл – тепло/водород. Хотя ИИ знает большинство этих комбинаций, он не гарантирует их всех и иногда может представить опасное предположение невинным языком; каждая процедура должна быть проверена на несоответствие паспорту безопасности.

12. Какое наиболее точное выражение означает «галлюцинация» (искусственный интеллект, создающий сфабрикованную информацию)?

А) Это редкая программная ошибка, которая полностью устраняется обновлением.
Б) Это поведение, присущее языковой модели; Решение — независимая проверка каждого вывода ✔
В) Оно появляется только в неправильно написанных подсказках, но не в правильных.
Г) Если искусственный интеллект говорит на безопасном языке, это не галлюцинация.

Пояснение: Галлюцинация — это не неисправность, а результат особенностей языковой модели, которая производит «следующее наиболее вероятное слово»; Модель нацелена на возможное, а не на истинное. Самое коварное то, что ложная информация подается тем же уверенным языком, что и правда. Решение состоит не в том, чтобы пытаться исправить модель, а в том, чтобы построить вокруг каждого результата соответствующую типу оболочку проверки; Беглость никогда не является доказательством точности.

13. Что означает «триангуляция» для проверки критического значения (например, молекулярной массы)?

А) Задать один и тот же вопрос одному и тому же искусственному интеллекту три раза.
Б) Сравнивая и придя к одному и тому же выводу более чем одним независимым способом ✔
В) Вычисление веса трех разных молекул одновременно
Г) Округление результата до трех знаков после запятой.

Пояснение: Триангуляция позволяет прийти к одному и тому же выводу, используя несколько независимых путей; Например, сравнение молекулярной массы по данным искусственного интеллекта, расчета RDKit и ручного расчета. Если два независимых пути пересекаются, доверие высокое; Если кто-то отклоняется, это останавливается и расследуется. Вместо того, чтобы полагаться на один источник, следует искать как минимум два независимых метода.

14. Как правильно спросить общую службу искусственного интеллекта об уникальной молекуле, которая не была запатентована?

А) Непосредственное указание исходной структуры, поскольку важна скорость
Б) Изучение стратегии на общем/суррогатном примере без раскрытия исходной структуры ✔
В) Структурировать не проблема, ИИ никогда не скрывает информацию
D) Не называть название молекулы, а только делиться всей ее УЛЫБКОЙ — достаточная защита.

Описание. Контент, введенный в общую службу искусственного интеллекта, может храниться или обрабатываться в соответствии с политикой службы; Предоставление оригинальной структуры сопряжено с риском конфиденциальности и приоритета патента. Правильный подход — изучить стратегию на общем/суррогатном примере (аналогичный класс структур) и применить ее к собственной молекуле собственными силами, не раскрывая исходную структуру. Личные данные/данные пациента также не следует вводить в идентифицируемой форме.