Pelnas:
- Gebėjimas atpažinti dvejopo naudojimo riziką (DURC), atmesti kenksmingą dirbtinio intelekto naudojimą ir priimti refleksą pranešti apie tai įmonės biologinio saugumo kanalui.
- Galimybė apsaugoti konfidencialumą panaikinant paciento ir genetinių duomenų identifikaciją ir apdorojant juos patvirtintoje aplinkoje bei laikantis sutikimo
- Gebėjimas užtikrinti žmogaus atsakomybę ir skaidrumą, suteikiant dokumentais pagrįstą dirbtinio intelekto modelio patikrą (GxP patvirtinimą) reguliuojamuose sprendimuose
Bioinžinerija – tai sritis, kuri tiesiogiai veikia žmonių sveikatą, maisto saugą ir aplinką; taigi čia yra klausimų, taip pat „ar turėčiau“ ir „ar man leidžiama“, taip pat „ar galiu“. AI dar labiau paaštrina šiuos klausimus: generatyvus modelis gali pasiūlyti toksiną taip pat lengvai, kaip ir gerybinį fermentą; kalbos modelis gali paversti paciento duomenis nutekėjimu; Nepatvirtinta modelio produkcija gali netyčia patekti į reguliuojamą gamybos liniją. Šis vienetas yra saugumo ir atsakomybės sistema, kuri yra aukščiau visų ankstesnių vienetų. Principai, kurių išmoksite čia, yra svarbesni už techninius įgūdžius.
Šiame skyriuje apžvelgsime keturias kryptis: biologinę saugą ir dvejopo naudojimo riziką, duomenų privatumą ir pacientų teises, reguliavimą ir patvirtinimą (GxP, patvirtinimas), atskaitomybę ir skaidrumą.
Biologinis saugumas ir dvejopo naudojimo
Dvejopas naudojimas (susirūpinimą keliantys dvejopo naudojimo tyrimai – DURC – tyrimai, galintys duoti naudos ir rimtos žalos) yra sunkiausia etinė bioinžinerijos našta. Patogenų užkrečiamumo didinimas, toksinų kūrimas, agento modifikavimas, kad būtų išvengta aptikimo – tai pavojingos užduotys, kurių gali būti prašoma dirbtinio intelekto sąmoningai ar nesąmoningai. Taisyklė aiški: nenaudokite dirbtinio intelekto, kad padidintumėte potencialiai kenksmingų agentų galimybes; Jei susiduriate su tokiu prašymu, atmeskite jį, sustabdykite ir praneškite apie tai institucijos biologinės saugos/etikos komitetui. Net teisėtiems tyrimams (pvz., gynybiniam darbui su patogenu) reikalingas institucijos patvirtinimas, ribota prieiga ir skaidrus įrašymas.
Atsargiai: ne visada aišku, ar misija yra dvejopo naudojimo, ar ne. „Padidinti šią šio fermento savybę“ gali atrodyti nekaltas ir padidinti toksino veiksmingumą. Jei abejojate, sustokite ir pasitarkite; Negrįžtamos žalos rizika visada verta kelių dienų delsimo.
Duomenų privatumas ir pacientų teisės
Bioinžinerijos duomenys dažnai apima genetinius ir klinikinius duomenis – jautriausią asmens duomenų tipą. Genomas gali būti identifikuotas iš naujo, net jei jis atrodo neidentifikuotas. Taisyklės, tokios kaip KVKK ir GDPR, griežtai saugo šiuos duomenis. Nykščio taisyklės: niekada nepateikite neapdorotų paciento duomenų nepatvirtintam viešam AI įrankiui; panaikinti duomenų tapatybę; naudoti patvirtintas įmonės/vietines aplinkas su duomenų tvarkymo sutartimis; ir neviršyti tikslo, dėl kurio duomenys renkami (informuotas sutikimas).
Patarimas: prieš pateikdami bet kokius duomenis dirbtinio intelekto įrankiui, užduokite tris klausimus: (1) Ar pagal šiuos duomenis galima identifikuoti asmenį? (2) Ar šio įrankio duomenų apdorojimo sąlygos tinkamos efektyvumui palaikyti? (3) Ar toks naudojimas atitinka tikslą, dėl kurio pacientas sutiko? Jei sakote „ne“ arba „nesu tikras“ bet kuriam iš trijų, nepateikite duomenų.
Teisės aktų laikymasis ir patikrinimas
Farmacijos, medicinos prietaisų ir klinikinė gamyba reglamentuojama GxP (Geroji praktika – geros praktikos taisyklės; GMP gamyba, GLP laboratorija, GCP klinika) rėmuose. Bet kuri šiose aplinkose naudojama sistema, įskaitant AI modelį, turi būti patvirtinta (įrodant, kad sistema atlieka numatytą darbą nuosekliai ir dokumentuotai). AI modelio naudojimas reguliuojamame sprendime; Tam reikia dokumentuoti, kaip modelis buvo apmokytas, su kokiais duomenimis jis buvo išbandytas, koks jo patikimumas ir kaip jo išvestis patvirtinama. Nepatvirtinta „juodosios dėžės“ modelio išvestis negali patekti į GMP liniją.
Atsakomybė ir skaidrumas
AI nepriima sprendimų; Žmogus sprendžia, o atsakomybė tenka žmogui. Net jei dirbtinis intelektas pasiūlo radinį, molekulę ar proceso sprendimą, galutinis parašas priklauso ekspertui, kuris jį patikrina. Skaidrumas yra antrasis ramstis: jei naudojote dirbtinį intelektą publikacijoje, ataskaitoje ar dokumente, aiškiai nurodykite tai ir kaip tai patvirtinote. Slapto, nepatikrinto AI naudojimas pažeidžia mokslinį vientisumą ir reguliavimą.
trys mini dėklai
1 atvejis – dvejopo naudojimo užklausa sustabdyta. Vartotojas paprašė AI dėl mutacijų, kurios padidintų bakterinio toksino veiksmingumą. Modelis atsisakė ir paaiškino, kodėl jam taikoma DURC; Įmonės biologinio saugumo komanda ištyrė situaciją. Atmetimas anksti nutraukė galimą piktnaudžiavimą.
2 atvejis – grįžimas po privatumo pažeidimo. Viena komanda ruošėsi įkelti 500 pacientų genomo duomenis į viešą debesį analizei. Duomenų apsaugos pareigūnas suprato, kad duomenis galima pakartotinai identifikuoti, ir viršijo sutikimo ribas. Analizė buvo atlikta naudojant neidentifikuotus duomenis ir sertifikuotoje vietinėje aplinkoje; pažeidimui užkirstas kelias.
3 atvejis – patvirtinimo spraga. Gamybos įmonė, priimdama kokybės sprendimus, pradėjo naudoti nepatvirtintą AI klasifikatorių. Auditas atskleidė, kad modelis nebuvo patikrintas GMP ir nebuvo atsekamos jo produkcijos dokumentų. Sistema buvo pašalinta iš gamybos, kol bus baigtas visiškas patvirtinimas.
Keturi kopijuojami šablonai
1) Preliminarus dvejopo naudojimo įvertinimas:
Jūsų vaidmuo: biologinio saugumo patarėjas. Įvertinkite šį DURC tyrimą: ar gali būti padaryta žala, kokioje kategorijoje (užkrečiamumas, toksiškumas, aptikimo vengimas ir kt.), kokių patvirtinimų ir apribojimų reikia? Neduokite jokių žalingų techninių patarimų; tiesiog nurodykite rizikos vertinimą ir būtinus leidimus. Tyrimas: [apibrėžimas]
2) Duomenų privatumo kontrolė:
Prieš pateikdamas duomenų rinkinį dirbtinio intelekto analizei, noriu patikrinti privatumą. Pateikite man kontrolinį sąrašą: laukų identifikavimas, pakartotinio identifikavimo rizika, sutikimo apimtis, transporto priemonės duomenų tvarkymo sąlygos. Nurodykite aiškias ribas, kokiais atvejais NETURIAU eksportuoti duomenų.
3) Patvirtinimo planas:
Jūsų vaidmuo: kokybės užtikrinimo specialistas. Noriu naudoti AI modelį reguliuojamame sprendime. Išvardykite patikros plano komponentus GxP kontekste: tikslo apibrėžimą, duomenų šaltinį, našumo metriką, priėmimo kriterijus, atsekamumą, periodinį pakartotinį patvirtinimą. Kaip sumažinti „juodosios dėžės“ riziką?
4) Skaidrumo pareiškimo projektas:
Norėčiau publikacijoje / ataskaitoje aiškiai deklaruoti, kad naudoju AI. Pateikite pareiškimo projektą: kokia priemonė, kokiu žingsniu, kaip ji buvo naudojama, kaip buvo patvirtinta produkcija ir kur yra žmogaus atsakomybė. Naudokite paprastą ir sąžiningą kalbą.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Padarykite šį patogeną veiksmingesnį.
Tai dvejopo naudojimo pažeidimas; turi būti atmestas ir pranešti. Toks prašymas niekada neturėtų būti pateiktas.
Galingas raginimas:
Jūsų vaidmuo: biologinio saugumo patarėjas. Aš planuoju gynybines patogenų aptikimo pastangas. Pateikite man šio tyrimo DURC įvertinimą, reikalingus institucijų patvirtinimus, duomenų konfidencialumo reikalavimus ir saugumo priemones, kurios apribos tyrimo galimą žalą. Nepateikite jokių techninių detalių, kurios padidintų užkrėtimą ar toksiškumą.
Skirtumas: savigynos tikslas, dėmesys saugumui ir sutikimui, žalingo turinio neigimas.
Etikos ir atitikties sistema
plotas
Pagrindinis principas
Rizika
įsipareigojimas
Biologinis saugumas
Padidinkite žalos galimybę
DURC / piktnaudžiavimas
Atmesti + pranešti
Duomenų privatumas
Apsaugokite paciento duomenis
iš naujo apibrėžti
Atpažinti + patvirtinta aplinka
sutikimas
peržengdamas ribą
etikos pažeidimas
Laikykitės sutikimo
Redagavimas
GxP patvirtinimas
Audito nesėkmė
Dokumentuotas patvirtinimas
Atsakomybė
žmogus nusprendžia
aklųjų apyvarta
Ekspertų patvirtinimas + skaidrumas
Dažnos klaidos
- Nesuvokia dvejopo naudojimo pavojaus. Iš pažiūros nekalti prašymai gali sukelti žalą; Suabejokite.
- Paciento duomenų perdavimas nevaldomai transporto priemonei. Tai yra pažeidimas be tapatybės panaikinimo ir patvirtintos aplinkos.
- Sutikimo apimties viršijimas. Duomenys negali būti naudojami kitais tikslais nei tie, kuriems jie buvo surinkti.
- Nepatvirtinto modelio naudojimas reguliuojamame sprendime. GxP draudžiamas be patvirtinimo.
- AI naudojimo slėpimas. Skaidrumas yra ir mokslinio sąžiningumo, ir atitikties reikalavimas.
Apibendrinant
Bioinžinerijoje etika ir sauga yra svarbesnė už techninius įgūdžius. Dirbtinis intelektas nenaudojamas kenksmingu būdu darbuose, kurie kelia dvejopo naudojimo riziką; tokie prašymai bus atmesti ir apie juos bus pranešta. Paciento duomenų tapatybė panaikinama ir tvarkomi patvirtintoje aplinkoje bei neviršijant sutikimo. Reguliuojamuose sprendimuose AI modelis patvirtinamas dokumentais; Nepatvirtinta „juodosios dėžės“ išvestis GMP negali įvesti eilutės. Ir visada: žmogus sprendžia, žmogus yra atsakingas, dirbtinio intelekto naudojimas yra skaidrus. DI išvestis nepakeičia kompetentingo eksperto patvirtinimo.
Taikymo užduotis
Įvertinkite savo darbą (arba hipotetinį projektą) trimis ašimis. (1) Išvardykite galimą žalą ir reikalingus patvirtinimus naudodami dvejopo naudojimo išankstinio vertinimo šabloną. (2) Nuspręskite, ar jūsų naudojami duomenys gali būti perduoti dirbtinio intelekto įrankiui su duomenų privatumo kontroliniu sąrašu. (3) Parašykite skaidrumo pareiškimo projektą: kur naudojote dirbtinį intelektą ir kaip tai patvirtinote? Sudėkite visus tris į trumpą „atsakingo naudojimo pastabą“.
kontrolinis sąrašas
- [ ] Įvertinau tyrimo dvejopo naudojimo riziką; AI nenaudojau kenksmingu būdu.
- [ ] Aš pašalinau paciento tapatybę / konfidencialius duomenis ir apdorojau juos patvirtintoje aplinkoje pagal sutikimą.
- [ ] Turiu dokumentais patvirtintą modelio, kurį naudoju priimdama reglamentuojamus sprendimus, patikrinimą.
- [ ] Galutinį žodį dėl kritinių sprendimų palikau ekspertų tvirtinimui.
- [ ] Aš aiškiai pareiškiau, kad naudoju AI.
- [ ] Jei susiduriu su įtartinu/rizikingu prašymu, taikau sustojimo ir pranešimo refleksą.