Этика, биобезопасность, конфиденциальность и научная честность

Прибыль:

• Возможность защитить конфиденциальные человеческие/генетические данные в соответствии с правилами KVKK, GDPR и комитета по этике и не допускать их передачи в открытую модель.
• Способность подвергать сомнению достоверность результатов путем оценки рисков биобезопасности/двойного использования и предвзятости населения.
• Понимание того, что этическая ответственность не может быть делегирована транспортному средству и что необходимо значимое участие человека в процессе работы.

Активное использование искусственного интеллекта в биологии дополняется его ответственным использованием. Биология — чувствительная область, которая затрагивает здоровье человека, генетическую конфиденциальность, окружающую среду и даже биобезопасность. В этом модуле мы обсудим этические, юридические обязанности и ответственность за безопасность, с которыми вы столкнетесь при использовании искусственного интеллекта в биологических исследованиях. Этот модуль представляет собой структуру, построенную на принципах проверки и честности, изложенных во всех предыдущих модулях.

Основной принцип: ИИ — это инструмент; Этическая ответственность всегда лежит на людях. «Предложенная модель» не является оправданием.

Четыре зоны ответственности

1. Конфиденциальность данных и человеческие данные

Генетические, клинические или медицинские данные участников чрезвычайно чувствительны. Последовательность ДНК человека может выявить риск заболевания и личность его самого и его родственников; Даже геномные данные, которые считаются анонимными, могут быть повторно идентифицированы. Вставка этих данных в общедоступную модель искусственного интеллекта может нарушить законы о защите данных (KVKK в Турции, GDPR в Европе) и одобрения совета по этике (IRB/комитет по этике).

• Не предоставляйте личные/клинические данные в открытую модель.
• Избегайте использования, выходящего за рамки согласия; На что согласился участник?
• Выбирайте корпоративные/локальные (локальные) инструменты или инструменты контракта на обработку данных.

2. Биобезопасность и двойное использование

Некоторая биологическая информация имеет «двойное назначение»: она может быть как полезной, так и вредной; например, последовательности патогенов (вызывающих заболевания), выработка токсинов. Запрашивать у ИИ информацию об усилении опасных патогенов или разработке вредных биологических агентов в большинстве стран неэтично и незаконно.

• Не делайте опасных запросов двойного назначения.
• Следуйте рекомендациям Совета по биобезопасности вашего учреждения (IBC).

3. Научная честность

Здесь собрано все, что мы видели в предыдущих частях: никакой ложной атрибуции, никакого украшения данных, никакого взлома, никаких выборочных репортажей. Искусственный интеллект может сделать это проще или сложнее; Разница в вашей честности.

• Сообщайте обо всех результатах (включая отрицательные).
• Заявить об использовании искусственного интеллекта.
• Поддерживайте воспроизводимость путем обмена необработанными данными и кодом (если возможно).

4. Предвзятость и справедливость

Модели ИИ несут в себе предвзятость данных, на которых они обучаются. Геномные базы данных в основном основаны на популяциях европейского происхождения; это приводит к ухудшению прогнозов в других популяциях. Модель изображения может работать плохо в условиях, которые недостаточно представлены в обучающих данных.

• Задайте вопрос, на какой совокупности/данных была обучена модель.
• Оцените, сохраняются ли результаты во всех группах.

Совет: Спросите себя: «Если я передам эти данные модели, кому они принадлежат и дал ли этот человек разрешение?» Если ответ расплывчатый, не давайте его. Нарушение конфиденциальности является необратимым.

Шаг за шагом: ответственное управление ИИ

1. Классифицируйте источник данных: личный/конфиденциальный или общедоступный?
2. Проверьте согласие и разрешения: покрывается ли такое использование?
3. Выберите правильный инструмент: безопасную/собственную среду для конфиденциальных данных.
4. Учитывайте риск двойного использования.
5. Предвзятость вопроса: действителен ли результат во всех группах?
6. Документируйте и декларируйте использование.

Копируемые шаблоны подсказок

Ознакомьтесь с приведенным ниже планом анализа с этической точки зрения: перечислите предостережения относительно конфиденциальности данных, согласия участников, потенциальной предвзятости и риска двойного использования. План: [текст] (Примечание: я НЕ делюсь реальными данными о пациентах, а только планом.)

На какие вопросы о конфиденциальности и согласии мне следует ответить, прежде чем использовать этот набор геномных данных? Контрольный список подготовлен с учетом KVKK/GDPR и комитета по этике.

Как мне следует прозрачно объявить инструмент искусственного интеллекта, который я использую, в разделе методов моей статьи? Напишите пример повествовательного предложения; какую информацию (инструмент, версия, сфера использования) он должен содержать?

Как мне оценить, имеют ли результаты этой модели предвзятость к совокупности? Перечислите вопросы, которые мне следует задать относительно данных обучения и этапов проверки.

Слабая подсказка / Сильная подсказка

Слабое: «Проанализируйте генетические данные следующего пациента: [реальные данные]».

Гючлю: «Я составляю план анализа, который работает с клиническими геномными данными, но я не делюсь реальными данными о пациентах. Только с методологической точки зрения: какие меры конфиденциальности я должен принять, в какой среде я должен обрабатывать данные, какие условия одобрения и этического комитета я должен выполнить? Вы можете показать поток с помощью фиктивных/образцовых данных».

Разница: в мощном приглашении не передаются фактические конфиденциальные данные; Спрашивается только метод. Конфиденциальность сохраняется, модель по-прежнему помогает.

три мини-кейса

Случай 1 — Нарушение конфиденциальности: исследователь вставил, по его мнению, анонимные данные экзома пациента в открытую модель для ее анализа. Когда комитет по этике узнал об этом, исследование было приостановлено; Соглашение об обработке данных не заключалось. Урок: конфиденциальные данные никогда не попадают в открытую модель.

Случай 2. Популяционная систематическая ошибка: инструмент оценки полигенного риска был обучен на данных европейского происхождения; В другой группе населения оценки риска были существенно неточными. Когда модель предложила подвергнуть сомнению состав обучающих данных, команда решила не использовать инструмент в этой популяции. Урок: предвзятость спасает или вредит жизням.

Случай 3. Раскрытие информации и прозрачность: команда написала код очистки данных с помощью ИИ и четко заявила об этом в разделе методов; Он также поделился кодом. Рецензенты приветствовали это, поскольку повторяемость была высокой. Урок: прозрачность порождает доверие.

сравнительная таблица

площадь

безопасное поведение

рискованное поведение

данные пациента

Локальная/безопасная среда

Вставить, чтобы открыть модель

согласие

Использовать в рамках

Не выходите за рамки

Биобезопасность

Как избежать двойного использования

опасный спрос

целостность

Сообщить обо всех результатах

выборочная отчетность

предвзятость

Опрос населения

Подавайте заявку вслепую

прозрачность

Объявить использование

прячется

Распространенные ошибки

• Передача конфиденциальных данных в открытую модель: необратимое нарушение конфиденциальности.
• Выход за рамки согласия: использование не разрешено участником.
• Игнорирование предвзятости: обобщение результатов на все группы.
• Сокрытие использования: не декларирование вклада ИИ.
• Защита «предложенная модель»: возложение ответственности на транспортное средство.

Внимание: в биологических работах с серьезными последствиями (клиническое решение, биобезопасность, человеческие данные) результаты ИИ не заменяют компетентную экспертную проверку и этический надзор; это только ускоряет его. Конечная ответственность всегда лежит на человеке, наряду с этическими и научными последствиями решения.

Окружающая среда, экология и традиционные знания

Этическая ответственность не ограничивается человеческими данными. Осторожность также необходима при использовании искусственного интеллекта в экологии и природоохранной биологии. Например, точные данные о местонахождении (координаты фотоловушек) исчезающих видов чувствительны из-за риска браконьерства; Публикация этих данных для открытой модели или общественности может нанести вред этому виду. Аналогичным образом, этические и юридические проблемы (например, Нагойский протокол) возникают, когда традиционные биологические знания местных сообществ (например, использование растений) используются без разрешения. Прежде чем использовать данные, «кому принадлежит эта информация и кто пострадает от ее раскрытия?» Всегда задавайте вопрос.

Человеческий надзор и окончательное решение

Суть всего этого модуля сводится к одному принципу: осмысленный человеческий контроль. ИИ выдвигает предложение, пишет черновик, показывает образец; Но биологическое, клиническое или этическое решение никогда не основывается непосредственно на результатах модели. Роль модели заключается не в принятии решений, а в ускорении принятия решения экспертом, особенно в областях высокого риска (диагностика, лечение, решение о сохранении вида, выпуск). Подход «человек в курсе» — это не лозунг, а необходимость.

Чтобы такое наблюдение работало, руководитель должен быть компетентным. Слепое согласие («модель сказала, принятие») не является надзором. Настоящий надзор требует опыта, который может подвергнуть сомнению результаты, выявить ошибки и отклонить их, когда это необходимо. Таким образом, искусственный интеллект не заменяет эксперта; Это делает эксперта еще более незаменимым. Тот, кто лучше всего использует транспортное средство, тот лучше всего может им управлять.

В заключение

Ответственное использование ИИ в биологии охватывает четыре области: конфиденциальность данных (защита конфиденциальных человеческих данных), биобезопасность (избежание двойного использования), научная честность (честная и полная отчетность) и осведомленность о предвзятости (достоверность результатов для всех групп). Не предоставляйте конфиденциальные данные для открытой модели, открыто декларируйте использование, ставьте под сомнение предвзятость населения. Этическая ответственность никогда не может быть делегирована агенту; Оно всегда есть в человеке.

Задача приложения

Рассмотрите сценарий из своего рабочего пространства (например, с использованием набора данных о людях или модели изображения). Попросите ИИ составить этический контрольный список для этого сценария (конфиденциальность, согласие, предвзятость, двойное использование, прозрачность), не разглашая реальных данных. Для каждого пункта отметьте его как «подходящий/рискованный/неопределенный» в вашей ситуации и напишите план действий для тех, которые являются рискованными/неопределенными. Также подготовьте для своей статьи заявление об использовании ИИ.

контрольный список

• [ ] Я не предоставил конфиденциальные/личные данные для открытой модели.
• [ ] Я проверил объем согласия и комитет по этике.
• [ ] Я оценил риск двойного использования/биобезопасности.
• [ ] Я честно сообщил обо всех результатах.
• [ ] Я поставил под сомнение предвзятость населения/данных.
• [ ] Я открыто заявил об использовании искусственного интеллекта и взял на себя ответственность.

Модульный экзамен

1. Студент спросил языковую модель: «Сколько строк в этом файле FASTA?» — спрашивает он, и модель отвечает «48». Какой подход наиболее правильный?

• А) Непосредственно используя номер 48, заданный моделью; Модель надежна, поскольку видит файл
• Б) Спросите номер еще раз и примите его как правильный, если два ответа совпадают.
• В) Чтение файла с помощью Biopython, подсчет количества последовательностей с кодом и использование вывода ✔
• D) Открытие файла вручную и подсчет на глаз

Объяснение: Детерминированные задачи, такие как подсчет и измерение, следует оставить на усмотрение запускаемого вами кода, а не языковой модели. Модель не «помнит» число, она выдает вероятностное значение и может ошибаться; Подсчет с помощью такого инструмента, как Biopython, дает точные и воспроизводимые результаты.

2. Вы хотите посчитать клетки на снимке микроскопа и измерить площадь каждой. Какой подход наиболее подходит для этой задачи?

• А) Использование экспертного инструмента сегментации, такого как Cellpose/StarDist, и проверка результата вручную ✔
• Б) Вставьте изображение в общую языковую модель и спросите «сколько там ячеек»
• В) Опишите изображение модели и попросите приблизительное количество.
• Г) Принятие количества пикселей за количество ячеек без какой-либо калибровки

Пояснение: Сегментация и измерение клеток — это область не общей языковой модели, а специализированных моделей изображений (Cellpose, StarDist), специально обученных для этой задачи. Языковая модель пишет код, вызывающий эти инструменты; Экспертная модель производит измерение, а биолог проверяет результат.

3. Аспирант добавляет к введению в диссертацию 8 источников, созданных по языковой модели. Консультант обнаруживает, что 3 из них вообще не существуют. Как можно было предотвратить эту ситуацию?

• А) Попросив модель еще раз произвести ресурсы
• Б) Выбрав только цитаты с DOI (если есть DOI, то оно реальное)
• В) Запрос списка, давая указание модели «подогнаться»
• Г) Самостоятельно проверять каждую цитату на PubMed/doi.org и цитировать только прочитанные статьи ✔

Объяснение: Общие языковые модели не являются базой данных литературы; Вместо поиска реальных записей он «генерирует» реалистично звучащие атрибуции (сфабрикованная атрибуция). Не следует использовать каждую подпись и DOI без независимой проверки в таких источниках, как PubMed/doi.org, и с цитированием только тех статей, которые действительно были прочитаны.

4. Какой самый эффективный способ обеспечить точность кода очистки данных, написанного искусственным интеллектом?

• А) Если код работает без ошибок, примите его как правильный.
• Б) Проверка результата на небольшой известной выборке и проверка ожидания с помощью утверждения ✔
• В) Спросите модель: «Правильен ли код?» спрашивая и доверяя ответу «да»
• D) Запустите код несколько раз и каждый раз получите один и тот же результат.

Примечание. Тот факт, что код работает без ошибок, не означает, что он корректен; «неправильный код, работающий без ошибок» — самая опасная ситуация в биологии. Тестирование на небольшой выборке, результат которой известен заранее, и встраивание ожиданий в код с помощью Assert — самая сильная защита от молчаливых неверных результатов.

5. При анализе секвенирования РНК тестируется 20 000 генов, и 3800 генов оказываются «значимыми» с p<0,05 без коррекции. В чем основная проблема этого вывода?

• А) Количество образцов слишком велико, его следует уменьшить
• Б) порог p слишком высок, следует использовать значение 0,10.
• C) Коррекция множественного сравнения (FDR) не выполнялась; Много ложных срабатываний ✔
• D) Образцы должны были быть протестированы вместо генов

Пояснение: Когда вы тестируете тысячи генов одновременно, многие гены случайно оказываются «значимыми», даже если реальной разницы нет; Это называется проблемой множественного сравнения. Решение состоит в том, чтобы применить коррекцию FDR (коэффициента ложного обнаружения) с помощью такого метода, как Бенджамини-Хохберг; При коррекции список обычно сокращается до десятков-нескольких сотен генов.

6. Лучшее совпадение в результате BLAST имеет E-значение 2,0. Что это значит?

• А) Совпадение, скорее всего, случайное; ✔ ненадежное совпадение
• Б) Связь очень сильная; Чем больше значение e, тем лучше
• C) Последовательность совпала с вероятностью 2%
• D) Между двумя последовательностями имеется разница в 2 основания.

Пояснение: Значение E указывает на то, что совпадение будет случайным; Лучше быть маленьким. Значение e больше 1 указывает на то, что совпадение, скорее всего, случайное. Для надежных совпадений обычно ищут очень маленькие пороговые значения, такие как e < 1e-5.

7. В модели AlphaFold концевая область белка демонстрирует низкий показатель pLDDT (<50). Как следует интерпретировать этот регион?

• А) AlphaFold допустил ошибку в этом регионе, регион следует удалить из анализа
• Б) Эта область определенно представляет собой альфа-спираль.
• В) Модель совершенно ненадежна, конструкцию использовать нельзя
• D) Область, вероятно, нерегулярная/эластичная; следует интерпретировать как «неясное», а не как «ложное» ✔

Описание: pLDDT — это локальный показатель достоверности для каждой аминокислоты; Значения ниже 50 часто отражают действительно нерегулярные (гибкие, нефиксированные) регионы. Неправильно автоматически удалять эти регионы как «неверные предположения»; Низкий балл следует рассматривать как «неопределенный/гибкий» и оценивать его биологическую значимость.

8. Исследователь сообщает о площади клеток только в пикселях, и результаты не соответствуют литературным данным. Какой пропущенный шаг?

• А) Необходимо было подсчитать больше клеток
• Б) Калибровка шкалы (пересчет пикселей в микрометры) не проводилась, результаты не переводились в физические единицы ✔
• В) Инструмент сегментации был выбран неправильно
• D) Разрешение изображения слишком высокое.

Пояснение: Калибровка масштаба (сколько микрометров на пиксель) необходима для определения физического размера изображения. Если этот шаг пропустить, значения останутся несравнимыми в зависимости от настроек микроскопа. Площади необходимо преобразовать в физические единицы, такие как квадратные микрометры.

9. Учащийся берет 10 образцов тканей у одной мыши и использует в статистике n=10. Почему это неверно?

• А) 10 выборок слишком мало для статистики, нужно как минимум 30
• Б) Образцы тканей пришлось брать из разных органов
• В) Эти 10 примеров являются техническими повторениями; биологическое n по-прежнему равно 1, это так называемое повторение ✔
• D) Образцы недействительны, поскольку они были взяты в один и тот же день.

Пояснение: Повторные измерения, проведенные у одного и того же человека, являются техническими повторами; где статистическое n — количество биологических единиц (здесь мышей). Рассмотрение технического повторения как биологического (псевдорепликация) приводит к ложному значению. Правильный дизайн означает работу с несколькими людьми.

10. Один анализ показал p=0,03. Какова правильная интерпретация этого значения?

• А) Вероятность увидеть такой или более экстремальный результат составляет 3%, хотя на самом деле разницы нет ✔
• Б) Вероятность того, что эффект окажется реальным, составляет 97 %.
• В) Вероятность того, что нулевая гипотеза окажется верной, равна 3%.
• D) Результат повторяется на 97%.

Пояснение: значение p не является «вероятностью того, что гипотеза верна» или «вероятностью того, что эффект верен». Значение p — это вероятность увидеть разницу, которая будет такой же или более экстремальной, чем наблюдаемая, когда на самом деле разницы нет. Следовательно, p=0,03 не означает, что «эффект реален на 97%»; результаты также следует оценивать по величине эффекта и доверительному интервалу.

11. В презентации разница в 3% между двумя группами показана как огромная за счет сжатия оси Y до диапазона 95–100. Что это за пример?

• А) Хорошая техника визуализации; подчеркивает разницу
• Б) Проблема палитры, дружественной дальтоникам
• В) Приемлемый выбор стиля
• Г) Вводящая в заблуждение и нечестная диаграмма, преувеличивающая разницу с усеченной осью ✔

Пояснение: Не инициализация оси с нуля (усеченная ось) вводит зрителя в заблуждение, визуально преувеличивая небольшую разницу. Это нарушение принципа честности; Особенно в гистограммах ось должна начинаться с нуля, а разница должна отображаться с ее фактическим размером.

12. Исследователь вставляет то, что, по его мнению, является анонимными данными экзома пациента, в общедоступную языковую модель для ее анализа. Почему такое поведение проблематично?

• А) Проблем нет; данные могут быть переданы, если они анонимны
• Б) Предоставление конфиденциальных данных пациентов в открытой модели является нарушением конфиденциальности и этических/юридических норм (KVKK/GDPR) и не может быть отменено ✔
• В) Проблематично только потому, что анализ будет медленным
• D) Модель проблематична, поскольку она не может понять данные.

Описание: Генетические/клинические данные пациентов чрезвычайно чувствительны; Даже геномные данные, считающиеся анонимными, могут быть повторно идентифицированы. Предоставление этих данных общедоступной модели нарушает одобрения KVKK/GDPR и комитета по этике (IRB) и является необратимым нарушением конфиденциальности. Конфиденциальные данные должны обрабатываться в локальных/безопасных средах по контракту.

13. В одном исследовании разница, которую они считали «пациент против контроля», на самом деле была связана с тем, что образцы обрабатывались в два разных дня. Как называется такая ситуация и как с ней справиться?

• А) Это эффект выброса; точки следует удалить
• Б) Это отсутствие нормализации; достаточно только коррекции масштаба
• В) Это пакетный эффект; должно быть сбалансировано в проекте и добавлено в модель как пакетная переменная ✔
• Г) р-хакинг; тест надо поменять

Пояснение: Техническая разница, возникающая в зависимости от партии отбора проб/дня обработки, называется эффектом партии и ее можно спутать с биологической разницей. Правильный подход — сбалансировать партии в проекте и добавить переменную партии в статистическую модель (например, «~партия + состояние»), отделив таким образом технический сигнал от биологического сигнала.

14. Вы хотите рассчитать соотношение GC последовательности ДНК. Какой подход является правильным и повторяемым?

• А) Распечатайте код, который рассчитывает скорость GC с помощью Biopython, запустите его и используйте выходные данные ✔
• Б) Дайте модели последовательность и попросите ее устно сообщить скорость GC.
• В) Подтверждение соотношения, заданного моделью, другой моделью
• Г) Смотрим на первые 100 букв ряда и угадываем на глаз

Пояснение: Скорость GC — это детерминированный расчет; должен быть основан на коде, обрабатывающем массив, а не на значении, которое «запоминает» языковая модель. Вместо того, чтобы заставлять модель рассчитывать его, распечатайте расчетный код с помощью такого инструмента, как Biopython, и запустите его самостоятельно, чтобы получить точный результат, который дает один и тот же результат каждый раз, когда вы его запускаете.