Faida:
- Uwezo wa kutambua hatari ya matumizi mawili (DURC), kukataa matumizi mabaya ya akili ya bandia na kupitisha kielelezo cha kuripoti kwa kituo cha usalama cha shirika.
- Uwezo wa kulinda usiri kwa kutotambua data ya mgonjwa na jeni na kuichakata katika mazingira yaliyoidhinishwa na ndani ya wigo wa idhini.
- Uwezo wa kuhakikisha uwajibikaji wa binadamu na uwazi kwa kutoa uthibitishaji wa kumbukumbu (uthibitisho wa GxP) wa mfano wa akili ya bandia katika maamuzi yaliyodhibitiwa.
Bioengineering ni uwanja unaoathiri moja kwa moja afya ya binadamu, usalama wa chakula na mazingira; kwa hivyo kuna maswali hapa na vile vile "lazima" na "niruhusiwe kufanya" na "naweza". AI inazidi kunoa maswali haya: kielelezo cha kuzalisha kinaweza kupendekeza sumu kwa urahisi kama kimeng'enya kisicho na madhara; modeli ya lugha inaweza kugeuza data ya mgonjwa kuwa uvujaji; Toleo la muundo ambalo halijathibitishwa linaweza kuingia bila kukusudia laini ya uzalishaji iliyodhibitiwa. Kitengo hiki ni mfumo wa usalama na dhima ambao uko juu ya vitengo vyote vilivyotangulia. Kanuni utakazojifunza hapa ni muhimu zaidi, sio chini, kuliko ujuzi wa kiufundi.
Katika kitengo hiki tutashughulikia mihimili minne: usalama wa viumbe hai na hatari ya matumizi mawili, faragha ya data na haki za mgonjwa, kufuata kanuni na uthibitishaji (GxP, uthibitishaji), na uwajibikaji na uwazi.
Usalama wa viumbe na matumizi mawili
Matumizi mawili (utafiti wa matumizi mawili ya wasiwasi - DURC - utafiti ambao una uwezekano wa manufaa na madhara makubwa) ni mzigo mzito zaidi wa kimaadili wa uhandisi wa viumbe. Kuongezeka kwa maambukizi ya pathojeni, kubuni sumu, kurekebisha wakala ili kukwepa kutambuliwa - haya ni kazi hatari ambazo zinaweza kuulizwa na AI, kwa kujua au kutojua. Sheria iko wazi: usitumie AI ili kuongeza uwezo wa mawakala wanaoweza kuwa na madhara; Ukikumbana na ombi kama hilo, likatae, lisitishe, na uripoti kwa kamati ya kitaasisi ya usalama wa viumbe/maadili. Hata utafiti halali (k.m., kazi ya ulinzi kwenye pathojeni) inahitaji idhini ya kitaasisi, ufikiaji mdogo, na kurekodi kwa uwazi.
Tahadhari: Sio wazi kila wakati ikiwa misheni ni ya matumizi mawili au la. "Ongeza mali hii ya enzyme hii" inaweza kuonekana kuwa haina hatia na kuongeza ufanisi wa sumu. Unapokuwa na shaka, simama na kushauriana; Hatari ya uharibifu usioweza kutenduliwa daima inafaa kuchelewa kwa siku chache.
Faragha ya data na haki za mgonjwa
Data ya bioengineering mara nyingi hujumuisha data ya kijeni na kiafya—aina nyeti zaidi ya data ya kibinafsi. Jenomu inaweza kutambuliwa tena hata kama inaonekana kuwa haijatambulika. Kanuni kama vile KVKK na GDPR hulinda data hii kikamilifu. Sheria za kidole gumba: usiwahi kutoa data mbichi ya mgonjwa kwa chombo kisichoidhinishwa, cha umma cha AI; kufuta data; kutumia mazingira yaliyoidhinishwa ya ushirika/eneo na makubaliano ya usindikaji wa data; na usizidi madhumuni ambayo data inakusanywa (kibali cha taarifa).
Kidokezo: Kabla ya kutoa data yoyote kwa zana ya AI, uliza maswali matatu: (1) Je, mtu anaweza kutambuliwa katika data hii? (2) Je, masharti ya usindikaji wa data ya zana hii yanafaa kwa kudumisha ufanisi? (3) Je, matumizi haya yamo ndani ya mawanda ya madhumuni ambayo mgonjwa alikubali? Ukisema "hapana" au "sina uhakika" kwa yeyote kati ya hizo tatu, usitoe data.
Uzingatiaji wa udhibiti na uthibitishaji
Uzalishaji wa dawa, kifaa cha matibabu na kimatibabu hudhibitiwa ndani ya mfumo wa GxP (Mazoezi Mazuri - sheria nzuri za mazoezi; uzalishaji wa GMP, maabara ya GLP, kliniki ya GCP). Mfumo wowote unaotumika katika mazingira haya—ikiwa ni pamoja na muundo wa AI—lazima uthibitishwe (kuthibitisha kwamba mfumo hufanya kazi iliyokusudiwa kwa njia thabiti na iliyoandikwa). Kutumia mfano wa AI katika uamuzi uliodhibitiwa; Inahitaji kuweka kumbukumbu jinsi modeli ilifunzwa, ni data gani ilijaribiwa, jinsi inavyoaminika, na jinsi matokeo yake yanavyothibitishwa. Toleo ambalo halijathibitishwa la muundo wa "sanduku jeusi" haliwezi kwenda kwenye laini ya GMP.
Uwajibikaji na uwazi
AI haifanyi maamuzi; Mwanadamu ndiye anayeamua na jukumu liko kwa mwanadamu. Hata kama AI inapendekeza kutafuta, molekuli, au uamuzi wa mchakato, sahihi ya mwisho ni ya mtaalam anayeithibitisha. Uwazi ndio nguzo ya pili: ikiwa ulitumia AI katika chapisho, ripoti, au wasilisho, eleza hili kwa uwazi na jinsi ulivyoithibitisha. Matumizi ya siri, AI ambayo haijathibitishwa inakiuka uadilifu na udhibiti wa kisayansi.
kesi tatu ndogo
Kesi ya 1 - Ombi la matumizi mawili limesimamishwa. Mtumiaji aliuliza AI kwa mabadiliko ambayo yanaweza kuongeza ufanisi wa sumu ya bakteria. Mwanamitindo huyo alikataa na kueleza kwa nini ilikuwa chini ya DURC; Timu ya shirika ya usalama wa viumbe ilichunguza hali hiyo. Kukataliwa kumekata matumizi mabaya yanayoweza kutokea mapema.
Kesi ya 2 - Kurudi kutoka kwa uvunjaji wa faragha. Timu moja ilikuwa karibu kupakia data ya jenomu ya wagonjwa 500 kwenye wingu la umma kwa uchambuzi. Afisa wa ulinzi wa data aligundua kuwa data hiyo iliweza kutambulika tena na ilizidi upeo wa idhini. Uchambuzi ulifanyika kwa data isiyotambuliwa na katika mazingira ya ndani yaliyothibitishwa; ukiukaji umezuiwa.
Kesi ya 3 - Pengo la uthibitishaji. Kituo cha utengenezaji kilianza kutumia kiainishaji cha AI ambacho hakijathibitishwa katika maamuzi ya ubora. Ukaguzi ulibaini kuwa modeli hiyo haikuwa na uthibitishaji wa GMP na hakuna nyaraka zinazoweza kufuatiliwa za matokeo yake. Mfumo umeondolewa kutoka kwa uzalishaji hadi uthibitisho kamili ukamilike.
Violezo vinne vinavyoweza kunakiliwa
1) Tathmini ya awali ya matumizi mawili:
Jukumu lako: mshauri wa usalama wa viumbe. Tathmini utafiti ufuatao wa DURC: je, kuna uwezekano wa madhara, katika kategoria gani (uambukizi, sumu, kukwepa kugunduliwa, n.k.), ni idhini gani na vikwazo vipi vinavyohitajika? Usitoe ushauri wowote wa kiufundi unaodhuru; orodhesha tu tathmini ya hatari na vibali muhimu.Somo: [ufafanuzi]
2) Udhibiti wa faragha wa data:
Ninataka kufanya ukaguzi wa faragha kabla ya kutoa seti ya data kwa uchanganuzi wa AI. Nipe orodha ya ukaguzi: kutambua sehemu, hatari ya kutambuliwa upya, upeo wa idhini, masharti ya usindikaji wa data ya gari. Niambie kwa vizingiti vilivyo wazi ambavyo SIKUTAKIWI kusafirisha data.
3) Mpango wa uthibitishaji:
Jukumu lako: mtaalamu wa uhakikisho wa ubora. Ninataka kutumia mfano wa AI katika uamuzi uliodhibitiwa. Orodhesha vipengele vya mpango wa uthibitishaji katika muktadha wa GxP: ufafanuzi wa madhumuni, chanzo cha data, vipimo vya utendaji, vigezo vya kukubalika, ufuatiliaji, uthibitishaji wa mara kwa mara. Ninawezaje kupunguza hatari ya "sanduku nyeusi"?
4) Rasimu ya taarifa ya uwazi:
Ningependa kutangaza kwa uwazi matumizi yangu ya AI katika uchapishaji/ripoti. Nipe taarifa ya rasimu: chombo gani, kwa hatua gani, kilitumikaje, matokeo yalithibitishwaje, na uwajibikaji wa binadamu uko wapi. Tumia lugha nyepesi na mwaminifu.
Mwongozo dhaifu / Mwongozo thabiti
Agizo dhaifu:
Fanya pathojeni hii iwe na ufanisi zaidi.
Huu ni ukiukaji wa matumizi mawili; lazima kukataliwa na kuripotiwa. Ombi kama hilo halipaswi kufanywa kamwe.
Agizo lenye nguvu:
Jukumu lako: mshauri wa usalama wa viumbe. Ninapanga juhudi za kujilinda za kugundua vimelea. Niorodheshe ukadiriaji wa DURC wa utafiti huu, uidhinishaji wa kitaasisi unaohitajika, mahitaji ya usiri wa data na hatua za usalama ambazo zitapunguza uwezekano wa madhara wa utafiti. Usitoe maelezo yoyote ya kiufundi ambayo yanaweza kuongeza uambukizaji au sumu.
Tofauti: madhumuni ya kujilinda, umakini wa usalama na ridhaa, kunyimwa maudhui hatari.
Maadili na mfumo wa kufuata
eneo
Kanuni kuu
Hatari
wajibu
Usalama wa viumbe
Kuongeza uwezekano wa madhara
DURC/matumizi mabaya
Kataa + ripoti
Faragha ya data
Kinga data ya mgonjwa
ufafanuzi upya
Ondoa kutambua + mazingira yaliyoidhinishwa
ridhaa
kupita alama
ukiukaji wa maadili
Kaa chini ya idhini
Kuhariri
Uthibitishaji wa GxP
Kushindwa kwa ukaguzi
Uthibitishaji wa kumbukumbu
Wajibu
mwanadamu anaamua
mauzo ya vipofu
Idhini ya mtaalamu + uwazi
Makosa ya kawaida
- Bila kutambua hatari ya matumizi mawili. Maombi yanayoonekana kuwa yasiyo na hatia yanaweza kubeba uwezekano wa madhara; Kuwa na shaka.
- Kutoa data ya mgonjwa kwa gari lisilodhibitiwa. Ni ukiukaji bila kutambuliwa na mazingira yaliyoidhinishwa.
- Kuzidi upeo wa idhini. Data haiwezi kutumika kwa madhumuni mengine isipokuwa madhumuni ambayo ilikusanywa.
- Kutumia mfano ambao haujathibitishwa katika uamuzi uliodhibitiwa. GxP imepigwa marufuku bila uthibitishaji.
- Kuficha matumizi ya AI. Uwazi ni hitaji la uaminifu na kufuata kisayansi.
Kwa muhtasari
Katika uhandisi wa kibaiolojia, maadili na usalama huchukua kipaumbele kuliko ujuzi wa kiufundi. AI haitumiki kwa njia yenye madhara katika kazi zinazobeba hatari za matumizi mawili; maombi hayo yatakataliwa na kuripotiwa. Data ya mgonjwa haitambuliki na kuchakatwa katika mazingira yaliyoidhinishwa na ndani ya mawanda ya idhini. Katika maamuzi yaliyodhibitiwa, mfano wa AI unathibitishwa kwa njia iliyoandikwa; Pato la "black box" ambalo halijathibitishwa GMP haiwezi kuingiza laini. Na daima: ni mwanadamu anayeamua, mwanadamu anajibika, matumizi ya AI ni ya uwazi. Utoaji wa AI sio mbadala wa idhini ya mtaalamu aliyestahiki.
Jukumu la maombi
Tathmini kazi yako mwenyewe (au mradi wa dhahania) kwenye shoka tatu. (1) Orodhesha uwezekano wa madhara na idhini zinazohitajika kwa kutumia kiolezo cha tathmini ya awali ya matumizi mawili. (2) Amua ikiwa data unayotumia inaweza kutolewa kwa zana ya AI iliyo na orodha hakiki ya faragha ya data. (3) Andika rasimu ya taarifa ya uwazi: Ulitumia wapi AI na uliithibitisha vipi? Weka zote tatu pamoja katika "notizo fupi la uwajibikaji."
orodha ya ukaguzi
- [ ] Nilitathmini hatari ya matumizi mawili ya utafiti; Sikutumia AI kwa njia mbaya.
- [ ] Niliondoa utambuzi wa data ya mgonjwa/siri na kuichakata katika mazingira yaliyoidhinishwa ndani ya mawanda ya idhini.
- [ ] Nimeandika uthibitishaji wa kumbukumbu wa muundo ninaotumia katika maamuzi yaliyodhibitiwa.
- [ ] Niliacha usemi wa mwisho kuhusu maamuzi muhimu ili kupata idhini ya wataalamu.
- [ ] Nimetangaza kwa uwazi matumizi yangu ya AI.
- [ ] Nikikumbana na ombi la kutiliwa shaka/hatari, nimekubali hali ya kusimamisha na kuripoti.