Добици:
- Способност препознавања ризика од двоструке употребе (ДУРЦ), одбацивања штетне употребе вештачке интелигенције и усвајања рефлекса да се то пријави корпоративном каналу за биобезбедност.
- Способност заштите поверљивости де-идентификовањем података о пацијенту и генетским подацима и њиховом обрадом у одобреном окружењу иу оквиру пристанка
- Способност да се обезбеди људска одговорност и транспарентност обезбеђивањем документоване верификације (ГкП валидација) модела вештачке интелигенције у регулисаним одлукама
Биоинжењеринг је област која директно утиче на здравље људи, безбедност хране и животну средину; тако да се овде постављају питања као и „да ли треба” и „да ли ми је дозвољено” као и „могу ли”. АИ додатно изоштрава ова питања: генеративни модел може предложити токсин једнако лако као и бенигни ензим; језички модел може претворити податке о пацијенту у цурење; Непроверени излаз модела може нехотице ући у регулисану производну линију. Ова јединица је оквир сигурности и одговорности који се налази на врху свих претходних јединица. Принципи које ћете овде научити су важнији, а не мање, од техничке вештине.
У овој јединици ћемо покрити четири осе: ризик биолошке безбедности и двоструке употребе, приватност података и права пацијената, усклађеност са прописима и валидација (ГкП, валидација) и одговорност и транспарентност.
Биолошка сигурност и двострука употреба
Двострука употреба (забрињавајуће истраживање двоструке употребе — ДУРЦ — истраживање које има потенцијал и за корист и за озбиљну штету) је најтежи етички терет биоинжењеринга. Повећање инфективности патогена, дизајнирање токсина, модификација агенса да би се избегао откривање — то су опасни задаци који се могу тражити од АИ, свесно или несвесно. Правило је јасно: немојте користити вештачку интелигенцију за повећање способности потенцијално штетних агенаса; Ако наиђете на такав захтев, одбијте га, зауставите га и пријавите га институционалном комитету за биолошку безбедност/етику. Чак и легитимна истраживања (нпр. одбрамбени рад на патогену) захтевају институционално одобрење, ограничен приступ и транспарентно снимање.
Опрез: Није увек очигледно да ли је мисија двоструке намене или не. „Повећајте ово својство овог ензима“ може изгледати невино и повећати ефикасност токсина. Када сте у недоумици, зауставите се и консултујте се; Ризик од неповратне штете је увек вредан неколико дана одлагања.
Приватност података и права пацијената
Подаци о биоинжењерингу често укључују генетске и клиничке податке — најосетљивији тип личних података. Геном се може поново идентификовати чак и ако се чини да је деидентификован. Прописи као што су КВКК и ГДПР стриктно штите ове податке. Основна правила: никада не дајте необрађене податке о пацијентима неодобреном јавном алату АИ; де-идентификовати податке; користити одобрена корпоративна/локална окружења са уговорима о обради података; и не прелазе сврху за коју се подаци прикупљају (информисани пристанак).
Савет: Пре него што дате било какве податке АИ алату, поставите три питања: (1) Може ли се особа идентификовати у овим подацима? (2) Да ли су услови обраде података овог алата погодни за одржавање ефикасности? (3) Да ли је ова употреба у оквиру сврхе за коју је пацијент пристао? Ако кажете „не“ или „нисам сигуран“ било ком од ова три, немојте давати податке.
Усклађеност са прописима и верификација
Фармацеутска, медицинска и клиничка производња је регулисана у оквиру ГкП (Добра пракса – правила добре праксе; ГМП производња, ГЛП лабораторија, ГЦП клиника). Сваки систем који се користи у овим окружењима — укључујући АИ модел — мора бити валидиран (доказујући да систем ради свој предвиђени посао на доследан и документован начин). Коришћење АИ модела у регулисаној одлуци; Захтева документовање како је модел обучен, са којим подацима је тестиран, колико је поуздан и како се његов излаз потврђује. Непроверени излаз модела "црне кутије" не може да иде у ГМП линију.
Одговорност и транспарентност
АИ не доноси одлуке; Човек је тај који одлучује и одговорност је на човеку. Чак и ако АИ сугерише налаз, молекул или процесну одлуку, коначни потпис припада стручњаку који га верификује. Транспарентност је други стуб: ако сте користили вештачку интелигенцију у публикацији, извештају или поднеску, јасно наведите ово и како сте то верификовали. Употреба тајне, непроверене вештачке интелигенције крши и научни интегритет и регулативу.
три мини кофера
Случај 1 — Захтев за двоструку употребу је заустављен. Корисник је од АИ тражио мутације које би повећале ефикасност бактеријског токсина. Модел је одбио и објаснио зашто је под ДУРЦ; Корпоративни тим за биосигурност истражио је ситуацију. Одбијање је рано прекинуло потенцијалну злоупотребу.
Случај 2 — Повратак од повреде приватности. Један тим се спремао да пренесе податке о геному 500 пацијената у јавни облак ради анализе. Службеник за заштиту података је схватио да се подаци могу поново идентификовати и да су превазишли обим сагласности. Анализа је извршена са деидентификованим подацима иу сертификованом локалном окружењу; спречено кршење.
Случај 3 — Празнина у валидацији. Производни објекат је почео да користи непотврђени АИ класификатор у одлукама о квалитету. Ревизија је открила да модел није имао ГМП верификацију и документацију о свом резултату која се може пратити. Систем је повучен из производње док се не заврши потпуна валидација.
Четири шаблона за копирање
1) Прелиминарна евалуација за двоструку употребу:
Ваша улога: саветник за биобезбедност. Процените следећу студију за ДУРЦ: да ли постоји потенцијал за штету, у којој категорији (инфективност, токсичност, избегавање откривања, итд.), која одобрења и ограничења су потребна? Немојте давати никакве штетне техничке савете; само наведите процену ризика и потребне дозволе.Студија: [дефиниција]
2) Контрола приватности података:
Желим да извршим проверу приватности пре него што дам скуп података у анализу вештачке интелигенције. Дајте ми контролну листу: поља за идентификацију, ризик од поновне идентификације, обим сагласности, услови обраде података о возилу. Реците ми са јасним праговима у којим случајевима НЕ треба да извозим податке.
3) План валидације:
Ваша улога: специјалиста за осигурање квалитета. Желим да користим АИ модел у регулисаној одлуци. Наведите компоненте плана верификације у контексту ГкП-а: дефиниција сврхе, извор података, метрика учинка, критеријуми прихватања, следљивост, периодична поновна валидација. Како да смањим ризик од „црне кутије“?
4) Нацрт изјаве о транспарентности:
Желео бих да транспарентно изјавим да користим АИ у публикацији/извештају. Дајте ми нацрт изјаве: који алат, у ком кораку, како је коришћен, како је потврђен резултат и где је људска одговорност. Користите јасан и искрен језик.
Слаби промпт / Јаки промпт
Слабо обавештење:
Учините овај патоген ефикаснијим.
Ово је прекршај двоструке употребе; морају бити одбијени и пријављени. Такав захтев никада не би требало постављати.
Снажан упит:
Ваша улога: саветник за биобезбедност. Планирам одбрамбени напор за откривање патогена. Наведите ми ДУРЦ оцену ове студије, потребна институционална одобрења, захтеве поверљивости података и безбедносне мере које ће ограничити потенцијалну штету студије. Немојте давати никакве техничке детаље који би повећали заразу или токсичност.
Разлика: сврха самоодбране, фокус на безбедност и сагласност, порицање штетног садржаја.
Оквир етике и усклађености
области
Главни принцип
Ризик
обавеза
Биосигурност
Повећајте могућност штете
ДУРЦ/злоупотреба
Одбиј + пријави
Приватност података
Заштитите податке о пацијентима
редефинисање
Де-идентификација + одобрено окружење
сагласност
прекорачивши меру
етичко кршење
Останите под пристанком
Уређивање
ГкП верификација
Неуспех ревизије
Документована валидација
Одговорност
човек одлучује
слепи обрт
Стручно одобрење + транспарентност
Уобичајене грешке
- Не схватајући ризик двоструке употребе. Наизглед невини захтеви могу носити потенцијалну штету; Будите у недоумици.
- Давање података о пацијенту неконтролисаном возилу. То је прекршај без деидентификације и одобреног окружења.
- Прекорачење обима сагласности. Подаци се не могу користити у друге сврхе осим у сврху за коју су прикупљени.
- Коришћење непровереног модела у регулисаној одлуци. ГкП је забрањен без валидације.
- Скривање употребе АИ. Транспарентност је услов и за научну искреност и за усаглашеност.
Укратко
У биоинжењерингу, етика и безбедност имају предност над техничким вештинама. АИ се не користи на штетан начин у радовима који носе ризике двоструке намене; такви захтеви ће бити одбијени и пријављени. Подаци о пацијентима се не идентификују и обрађују у одобреним окружењима иу оквиру пристанка. У регулисаним одлукама, АИ модел се валидира на документован начин; Неверификовани излаз „црне кутије“ ГМП не може да уђе у ред. И увек: човек је тај који одлучује, човек је одговоран, употреба вештачке интелигенције је транспарентна. АИ излаз није замена за одобрење компетентног стручњака.
Задатак апликације
Оцените свој рад (или хипотетички пројекат) на три осе. (1) Наведите потенцијалне штете и потребна одобрења са шаблоном за претходну процену за двоструку употребу. (2) Одлучите да ли се подаци које користите могу дати АИ алату са контролном листом приватности података. (3) Напишите нацрт изјаве о транспарентности: Где сте користили вештачку интелигенцију и како сте је верификовали? Ставите све три заједно у кратку „напомену о одговорном коришћењу“.
контролна листа
- [ ] Проценио сам ризик од двоструке употребе студије; Нисам користио АИ на штетан начин.
- [ ] Деидентификовао сам пацијенте/поверљиве податке и обрадио их у одобреном окружењу у оквиру пристанка.
- [ ] Имам документовану верификацију модела који користим у регулисаним одлукама.
- [ ] Коначну реч о критичним одлукама препустио сам стручном одобрењу.
- [ ] Ја сам транспарентно изјавио да користим АИ.
- [ ] Ако наиђем на сумњив/ризичан захтев, усвојио сам рефлекс заустављања и пријављивања.