Kasu:
- Võimalus ära tunda kahesuguse kasutuse (DURC) ohtu, tõrjuda tehisintellekti kahjulikku kasutamist ja võtta kasutusele refleks, et teavitada sellest ettevõtte bioturvakanalit.
- Võimalus kaitsta konfidentsiaalsust patsiendi ja geneetiliste andmete identifitseerimise ja nende töötlemisega heakskiidetud keskkonnas ja nõusoleku piires
- Võimalus tagada inimese vastutus ja läbipaistvus tehisintellekti mudeli dokumenteeritud verifitseerimise (GxP validation) kaudu reguleeritud otsustes
Biotehnika on valdkond, mis mõjutab otseselt inimeste tervist, toiduohutust ja keskkonda; nii et siin on nii küsimusi kui ka "kas ma peaksin" ja "kas mul on lubatud" kui ka "kas ma saan". AI teravdab neid küsimusi veelgi: generatiivne mudel võib vihjata toksiinile sama lihtsalt kui healoomulise ensüümi kohta; keelemudel võib muuta patsiendi andmed lekkeks; Kontrollimata mudeli väljund võib kogemata sattuda reguleeritud tootmisliinile. See üksus on turvalisuse ja vastutuse raamistik, mis on kõigi eelmiste üksuste peal. Siin õpitavad põhimõtted on olulisemad, mitte vähem kui tehnilised oskused.
Selles üksuses käsitleme nelja telge: bioohutus ja kahesuguse kasutusega risk, andmete privaatsus ja patsientide õigused, eeskirjade järgimine ja valideerimine (GxP, valideerimine) ning vastutus ja läbipaistvus.
Bioohutus ja kahekordne kasutamine
Kahekordne kasutamine (murettekitavad kahesuguse kasutusega uuringud – DURC – teadusuuringud, mis võivad tuua nii kasu kui ka tõsist kahju) on biotehnoloogia kõige raskem eetiline koorem. Patogeenide nakkavuse suurendamine, toksiinide kujundamine, agensi muutmine tuvastamisest kõrvalehoidmiseks – need on ohtlikud ülesanded, mida tehisintellektilt võib teadlikult või teadmata küsida. Reegel on selge: ärge kasutage tehisintellekti potentsiaalselt kahjulike ainete võimekuse suurendamiseks; Kui teil tekib selline taotlus, lükake see tagasi, lõpetage see ja teavitage sellest asutuse bioohutuse/eetikakomiteed. Isegi seaduslikud uuringud (nt patogeeni kaitsmine) nõuavad institutsioonilist heakskiitu, piiratud juurdepääsu ja läbipaistvat registreerimist.
Ettevaatust. Alati pole selge, kas missioon on kahesuguse kasutusega või mitte. "Selle ensüümi omaduse suurendamine" võib tunduda süütu ja suurendada toksiini efektiivsust. Kahtluse korral peatuge ja konsulteerige; Pöördumatu kahju oht on alati väärt mõnepäevast viivitust.
Andmete privaatsus ja patsientide õigused
Bioinseneri andmed sisaldavad sageli geneetilisi ja kliinilisi andmeid – kõige tundlikumat tüüpi isikuandmeid. Genoomi saab uuesti identifitseerida isegi siis, kui see näib olevat identifitseerimata. Sellised määrused nagu KVKK ja GDPR kaitsevad neid andmeid rangelt. Rusikareegel: ärge kunagi andke patsiendi töötlemata andmeid heakskiitmata avalikule tehisintellekti tööriistale; deidentifitseerida andmed; kasutada heakskiidetud ettevõtte/kohalikke keskkondi andmetöötluslepingutega; ja ei tohi ületada andmete kogumise eesmärki (teadlik nõusolek).
Näpunäide. Enne tehisintellekti tööriistale andmete andmist esitage kolm küsimust: (1) Kas isikut saab nende andmete põhjal tuvastada? (2) Kas selle tööriista andmetöötlustingimused sobivad efektiivsuse säilitamiseks? (3) Kas see kasutamine jääb patsiendi nõusoleku otstarbe piiresse? Kui ütlete mõnele neist kolmest "ei" või "ei ole kindel", ärge esitage andmeid.
Õigusnormide järgimine ja kontrollimine
Farmaatsia-, meditsiiniseadmete ja kliiniliste seadmete tootmine on reguleeritud GxP (Good Practice - good practice Regulations; GMP tootmine, GLP labor, GCP clinic) raames. Kõik nendes keskkondades kasutatavad süsteemid, sealhulgas tehisintellekti mudel, peavad olema valideeritud (tõestades, et süsteem teeb oma ettenähtud tööd järjepidevalt ja dokumenteeritud viisil). AI mudeli kasutamine reguleeritud otsuses; See nõuab dokumenteerimist, kuidas mudelit koolitati, milliste andmetega seda testiti, kui usaldusväärne see on ja kuidas selle väljundit valideeritakse. "Musta kasti" mudeli kontrollimata väljund ei saa minna GMP-liinile.
Vastutus ja läbipaistvus
AI ei tee otsuseid; Inimene on see, kes otsustab ja vastutus lasub inimesel. Isegi kui tehisintellekt soovitab leidu, molekuli või protsessiotsust, kuulub lõplik allkiri eksperdile, kes seda kontrollib. Läbipaistvus on teine sammas: kui kasutasite tehisintellekti väljaandes, aruandes või esituses, märkige selgelt see ja kuidas te seda kinnitasite. Salajase kontrollimata tehisintellekti kasutamine rikub nii teaduslikku terviklikkust kui ka regulatsiooni.
kolm minikarpi
Juhtum 1 – kahesuguse kasutusega taotlus peatati. Kasutaja küsis AI-lt mutatsioone, mis suurendaksid bakteriaalse toksiini efektiivsust. Modell keeldus ja selgitas, miks ta oli DURC all; Ettevõtte bioturvalisuse meeskond uuris olukorda. Tagasilükkamine katkestas võimaliku kuritarvitamise varakult.
Juhtum 2 – naasmine privaatsusrikkumisest. Üks meeskond kavatses 500 patsiendi genoomi andmed analüüsimiseks avalikku pilve üles laadida. Andmekaitseametnik sai aru, et andmed on uuesti tuvastatavad ja ületas nõusoleku ulatust. Analüüs viidi läbi identifitseerimata andmetega ja sertifitseeritud kohalikus keskkonnas; rikkumine ära hoitud.
Juhtum 3 – Valideerimislünk. Tootmisüksus hakkas kvaliteediotsuste tegemisel kasutama valideerimata tehisintellekti klassifikaatorit. Audit näitas, et mudelil puudus hea tootmistava kontrollimine ja selle toodangu kohta ei olnud jälgitavat dokumentatsiooni. Süsteem on tootmisest eemaldatud kuni täieliku valideerimise lõpuni.
Neli kopeeritavat malli
1) Kahesuguse kasutusega toodete esialgne hindamine:
Teie roll: bioohutusnõustaja. Hinnake järgmist DURC uuringut: kas on võimalik kahju, millises kategoorias (nakkus, toksilisus, tuvastamisest kõrvalehoidmine jne), milliseid kinnitusi ja piiranguid on vaja? Ärge andke kahjulikke tehnilisi nõuandeid; lihtsalt loetlege riskianalüüs ja vajalikud load.Uuring: [definitsioon]
2) Andmete privaatsuse kontroll:
Soovin teha privaatsuskontrolli enne andmekogumi andmist tehisintellekti analüüsile. Andke mulle kontrollnimekiri: väljade tuvastamine, uuesti tuvastamise oht, nõusoleku ulatus, sõiduki andmete töötlemise tingimused. Öelge mulle selgete piirmääradega, millistel juhtudel EI TOHI andmeid eksportida.
3) Valideerimiskava:
Sinu roll: kvaliteedi tagamise spetsialist. Soovin reguleeritud otsuses kasutada tehisintellekti mudelit. Loetlege kontrolliplaani komponendid GxP kontekstis: eesmärgi määratlus, andmeallikas, toimivusmõõdikud, aktsepteerimiskriteeriumid, jälgitavus, perioodiline kordusvalideerimine. Kuidas vähendada "musta kasti" ohtu?
4) Läbipaistvusavalduse projekt:
Soovin avaldada/aruandes läbipaistvalt deklareerida oma tehisintellekti kasutamist. Andke mulle avalduse mustand: milline tööriist, millisel etapil, kuidas seda kasutati, kuidas väljundit valideeriti ja kus on inimese vastutus. Kasutage lihtsat ja ausat keelt.
Nõrk viip / Tugev viip
Nõrk viip:
Muutke see patogeen tõhusamaks.
See on kahesuguse kasutuse rikkumine; tuleb tagasi lükata ja teatada. Sellist taotlust ei tohiks kunagi esitada.
Võimas viip:
Teie roll: bioohutusnõustaja. Kavandan kaitsvat patogeeni tuvastamist. Loetlege mulle selle uuringu DURC reiting, nõutavad institutsioonilised kinnitused, andmete konfidentsiaalsusnõuded ja turvameetmed, mis piiravad uuringu võimalikku kahju. Ärge esitage tehnilisi üksikasju, mis suurendaksid nakkust või toksilisust.
Erinevus: enesekaitse eesmärk, turvalisuse ja nõusoleku fookus, kahjuliku sisu eitamine.
Eetika ja vastavusraamistik
ala
Peamine põhimõte
Risk
kohustus
Bioturvalisus
Suurendage kahju tekkimise võimalust
DURC/kuritarvitamine
Keeldu + teata
Andmete privaatsus
Kaitske patsiendi andmeid
ümberdefineerimine
Deidentifitseerimine + heakskiidetud keskkond
nõusolekut
piiri ületamine
eetiline rikkumine
Jääge nõusoleku alla
Redigeerimine
GxP kinnitus
Auditi ebaõnnestumine
Dokumenteeritud valideerimine
Vastutus
mees otsustab
pimekäive
Ekspertide kinnitus + läbipaistvus
Levinud vead
- Ei mõista kahesuguse kasutuse ohtu. Pealtnäha süütud taotlused võivad kaasa tuua kahju; Kahtlema.
- Patsiendi andmete andmine kontrollimatusse sõidukisse. See on rikkumine ilma tuvastamise ja heakskiidetud keskkonnata.
- Nõusoleku ulatuse ületamine. Andmeid ei saa kasutada muudel eesmärkidel kui sellel, milleks need koguti.
- Kontrollimata mudeli kasutamine reguleeritud otsuses. GxP on ilma kinnitamiseta keelatud.
- AI kasutamise peitmine. Läbipaistvus on nii teadusliku aususe kui ka vastavuse nõue.
Kokkuvõttes
Biotehnoloogias on eetika ja ohutus tehniliste oskuste ees ülimuslikud. Tehisintellekti ei kasutata kahjulikul viisil tööde puhul, mis sisaldavad kahesuguse kasutusega riske; sellised taotlused lükatakse tagasi ja neist teatatakse. Patsiendi andmed deidentifitseeritakse ja neid töödeldakse heakskiidetud keskkondades ja nõusoleku piires. Reguleeritud otsustes on AI-mudel dokumenteeritud; Kontrollimata "musta kasti" väljund GMP ei saa reale siseneda. Ja alati: inimene on see, kes otsustab, inimene vastutab, tehisintellekti kasutamine on läbipaistev. AI väljund ei asenda pädeva eksperdi heakskiitu.
Rakenduse ülesanne
Hinnake oma tööd (või hüpoteetilist projekti) kolmel teljel. (1) Loetlege võimalikud kahjud ja nõutavad kinnitused kahesuguse kasutusega eelhindamise malliga. (2) Otsustage, kas teie kasutatavaid andmeid saab anda tehisintellekti tööriistale andmete privaatsuse kontroll-loendiga. (3) Kirjutage läbipaistvusavalduse mustand: kus te AI-d kasutasite ja kuidas seda kontrollisite? Pange kõik kolm kokku lühikeseks "vastutustundliku kasutamise märkuseks".
kontrollnimekiri
- [ ] Hindasin uuringu kahesuguse kasutuse riski; Ma ei kasutanud tehisintellekti kahjulikul viisil.
- [ ] Tuvastasin patsiendi/konfidentsiaalsed andmed ja töötlesin neid heakskiidetud keskkonnas nõusoleku piires.
- [ ] Olen dokumenteerinud reguleeritud otsustes kasutatava mudeli dokumenteeritud kontrolli.
- [ ] Jätsin kriitiliste otsuste tegemise viimase sõna eksperdi heakskiidule.
- [ ] Olen selgelt teatanud, et kasutan tehisintellekti.
- [ ] Kui kohtan kahtlast/riskantset taotlust, olen kasutanud peatumise ja teatamise refleksi.