Добивки:
- Способност да се препознае ризикот од двојна употреба (DURC), да се одбие штетната употреба на вештачката интелигенција и да се прифати рефлексот за да се пријави на корпоративниот канал за биосигурност.
- Способност да се заштити доверливоста со деидентификување на пациентот и генетските податоци и нивна обработка во одобрена средина и во рамките на согласноста
- Способност да се обезбеди човечка одговорност и транспарентност преку обезбедување документирана верификација (GxP валидација) на моделот на вештачка интелигенција во регулираните одлуки
Биоинженерството е област која директно влијае на здравјето на луѓето, безбедноста на храната и животната средина; така што тука има прашања како и „дали“ и „дали ми е дозволено“ како и „дали можам“. Вештачката интелигенција дополнително ги изострува овие прашања: генеративен модел може да сугерира токсин лесно како бениген ензим; јазичниот модел може да ги претвори податоците за пациентот во протекување; Непроверениот излез на моделот може ненамерно да влезе во регулирана производна линија. Оваа единица е рамка за безбедност и одговорност што се наоѓа на врвот на сите претходни единици. Принципите што ќе ги научите овде се поважни, не помалку од техничката вештина.
Во оваа единица ќе опфатиме четири оски: биосигурност и ризик од двојна употреба, приватност на податоците и правата на пациентите, усогласеност и валидација на регулативата (GxP, валидација) и одговорност и транспарентност.
Биосигурност и двојна употреба
Двојна употреба (загрижувачки истражувања со двојна употреба - DURC - истражување кое има потенцијал и за корист и за сериозна штета) е најтешкиот етички товар на биоинженерството. Зголемување на заразноста на патогенот, дизајнирање токсини, модифицирање на агент за избегнување на откривање - ова се опасни задачи што може да се побараат од вештачката интелигенција, свесно или несвесно. Правилото е јасно: не користете вештачка интелигенција за да ги зголемите можностите на потенцијално штетните агенси; Доколку наидете на такво барање, отфрлете го, прекинете го и пријавете го на институционалниот комитет за биосигурност/етика. Дури и легитимното истражување (на пример, одбранбена работа на патоген) бара институционално одобрение, ограничен пристап и транспарентно снимање.
Внимание: Не е секогаш очигледно дали мисијата е со двојна употреба или не. „Зголемете го ова својство на овој ензим“ може да изгледа невино и да ја зголеми ефикасноста на токсинот. Кога се сомневате, застанете и консултирајте се; Ризикот од неповратна штета секогаш вреди неколку дена доцнење.
Приватност на податоците и правата на пациентите
Податоците од биоинженерството често вклучуваат генетски и клинички податоци - најчувствителниот тип на лични податоци. Геномот може повторно да се идентификува дури и ако изгледа дека е идентификуван. Регулативите како KVKK и GDPR строго ги штитат овие податоци. Правила на палецот: никогаш не давајте необработени податоци за пациентот на неодобрена, јавна алатка за вештачка интелигенција; де-идентификуваат податоци; користат одобрени корпоративни/локални средини со договори за обработка на податоци; и не ја надминуваат целта за која се собираат податоците (информирана согласност).
Совет: Пред да дадете какви било податоци на алатка за вештачка интелигенција, поставете три прашања: (1) Дали може да се идентификува личност во овие податоци? (2) Дали условите за обработка на податоците на оваа алатка се погодни за одржување на ефикасноста? (3) Дали оваа употреба е во рамките на целта за која пациентот се согласил? Ако кажете „не“ или „не сум сигурен“ на било кој од трите, не давајте ги податоците.
Регулаторна усогласеност и верификација
Фармацевтското, медицинските помагала и клиничкото производство е регулирано во рамките на GxP (Good Practice - good practic rules; GMP продукција, GLP лабораторија, GCP клиника). Секој систем што се користи во овие средини - вклучително и модел на вештачка интелигенција - мора да биде потврден (докажувајќи дека системот ја врши својата предвидена работа на конзистентен и документиран начин). Користење на модел на вештачка интелигенција во регулирана одлука; Потребно е да се документира како моделот бил обучен, со какви податоци е тестиран, колку е доверлив и како се потврдува неговиот излез. Непроверениот излез на моделот „црна кутија“ не може да влезе во линијата GMP.
Одговорност и транспарентност
ВИ не донесува одлуки; Човекот е тој што одлучува и одговорноста е на човекот. Дури и ако вештачката интелигенција сугерира наод, молекула или процесна одлука, конечниот потпис му припаѓа на експертот кој го потврдува. Транспарентноста е вториот столб: ако сте користеле вештачка интелигенција во публикација, извештај или поднесок, јасно наведете го ова и како сте го потврдиле. Употребата на тајна, непроверена вештачка интелигенција ги нарушува и научниот интегритет и регулативата.
три мини футроли
Случај 1 - Барањето за двојна употреба е запрено. Еден корисник побарал од вештачката интелигенција мутации кои би ја зголемиле ефикасноста на бактерискиот токсин. Моделот одби и објасни зошто е под DURC; Тимот за корпоративна биосигурност ја истражуваше ситуацијата. Одбивањето рано ја прекина потенцијалната злоупотреба.
Случај 2 - Враќање од нарушување на приватноста. Еден тим требаше да ги постави податоците за геномот на 500 пациенти на јавен облак за анализа. Службеникот за заштита на податоци сфатил дека податоците може повторно да се идентификуваат и го надминале опсегот на согласност. Анализата е извршена со деидентификувани податоци и во сертифицирана локална средина; прекршување е спречено.
Случај 3 - Јаз во валидација. Производствен капацитет почна да користи невалиден класификатор за вештачка интелигенција во одлуките за квалитет. Ревизијата откри дека моделот нема верификација на GMP и нема документација за неговото производство што може да се следи. Системот е повлечен од производство додека не заврши целосната валидација.
Четири шаблони за копирање
1) Прелиминарна евалуација за двојна употреба:
Вашата улога: советник за биосигурност. Оценете ја следната студија за DURC: дали постои потенцијал за штета, во која категорија (инфективност, токсичност, избегнување на откривање, итн.), какви одобренија и ограничувања се потребни? Не давајте никакви штетни технички совети; само наведете ја проценката на ризикот и потребните дозволи.Студија: [дефиниција]
2) Контрола на приватноста на податоците:
Сакам да направам проверка на приватноста пред да дадам сет на податоци за анализа на вештачката интелигенција. Дајте ми листа за проверка: полиња за идентификување, ризик од повторна идентификација, опсег на согласност, услови за обработка на податоците за возилото. Кажете ми со јасни прагови во кои случаи НЕ треба да извезувам податоци.
3) План за валидација:
Вашата улога: специјалист за обезбедување квалитет. Сакам да користам модел на вештачка интелигенција во регулирана одлука. Наведете ги компонентите на планот за верификација во контекст на GxP: дефиниција на цел, извор на податоци, метрика на перформанси, критериуми за прифаќање, следливост, периодична ревалидација. Како да го намалам ризикот од „црна кутија“?
4) Нацрт изјава за транспарентност:
Би сакал транспарентно да се изјаснам за мојата употреба на вештачка интелигенција во публикација/извештај. Дајте ми нацрт-изјава: која алатка, на кој чекор, како се користеше, како беше потврден резултатот и каде е човечката одговорност. Користете јасен и искрен јазик.
Слаб промпт / Силен промпт
Слаба навестување:
Направете го овој патоген поефикасен.
Ова е повреда на двојна употреба; мора да се отфрли и пријави. Такво барање никогаш не треба да се поднесе.
Моќен потсетник:
Вашата улога: советник за биосигурност. Планирам одбранбен обид за откривање на патоген. Наведете ми го рејтингот DURC на оваа студија, потребните институционални одобренија, барањата за доверливост на податоците и безбедносните мерки што ќе го ограничат потенцијалот за штета на студијата. Не давајте никакви технички детали што би ја зголемиле заразата или токсичноста.
Разлика: цел на самоодбрана, фокус на безбедност и согласност, негирање на штетна содржина.
Рамка за етика и усогласеност
област
Главен принцип
Ризик
обврска
Биосигурност
Зголемете го потенцијалот за штета
DURC/злоупотреба
Одбиј + пријави
Приватност на податоците
Заштитете ги податоците за пациентот
редефинирање
Де-идентификувајте + одобрена околина
согласност
пречекорување на границата
етичко прекршување
Останете под согласност
Уредување
GxP верификација
Неуспех на ревизијата
Документирана валидација
Одговорност
човекот одлучува
слеп промет
Експертско одобрение + транспарентност
Вообичаени грешки
- Не сфаќајќи го ризикот од двојна употреба. Наизглед невините барања може да носат потенцијал за штета; Бидете во сомнеж.
- Давање податоци за пациентот на неконтролирано возило. Тоа е прекршување без деидентификација и одобрена средина.
- Надминување на опсегот на согласност. Податоците не можат да се користат за други цели освен за целта за која се собрани.
- Користење на непроверен модел во регулирана одлука. GxP е забранет без валидација.
- Сокривање на употребата на вештачка интелигенција. Транспарентноста е услов и за научна чесност и усогласеност.
Сумирано
Во биоинженерството, етиката и безбедноста имаат предност пред техничката вештина. ВИ не се користи на штетен начин во работи кои носат ризици за двојна употреба; таквите барања ќе бидат одбиени и пријавени. Податоците за пациентот се деидентификуваат и се обработуваат во одобрени средини и во рамките на согласноста. Во регулираните одлуки, моделот на ВИ се потврдува на документиран начин; Непроверениот излез на „црната кутија“ GMP не може да влезе во линија. И секогаш: човекот е тој што одлучува, човекот е одговорен, употребата на вештачката интелигенција е транспарентна. Излезот за вештачка интелигенција не е замена за одобрение од компетентно стручно лице.
Задача за апликација
Оценете ја сопствената работа (или хипотетички проект) на три оски. (1) Наведете ги потенцијалните штети и потребните одобренија со образец за предоценка за двојна употреба. (2) Одлучете дали податоците што ги користите може да се дадат на алатка за вештачка интелигенција со списокот за проверка за приватност на податоците. (3) Напишете нацрт-изјава за транспарентност: Каде користевте вештачка интелигенција и како ја потврдивте? Ставете ги сите три заедно во кратка „забелешка за одговорна употреба“.
листа за проверка
- [ ] Го оценив ризикот за двојна употреба од студијата; Не користев вештачка интелигенција на штетен начин.
- [ ] Ги деидентификував податоците за пациентот/доверливите и ги обработив во одобрена средина во рамките на опсегот на согласност.
- [ ] Имам документирана документирана верификација на моделот што го користам во регулираните одлуки.
- [ ] Конечниот збор за критичните одлуки го оставив на одобрување од експерти.
- [ ] Јас транспарентно изјавив дека користам вештачка интелигенција.
- [ ] Доколку наидам на сомнително/ризично барање, го прифатив рефлексот на запирање и пријавување.