Hagnaður:
- Geta til að viðurkenna hættuna á tvíþættri notkun (DURC), hafna skaðlegri notkun gervigreindar og tileinka sér viðbragðið að tilkynna það til líföryggisrásar fyrirtækja.
- Geta til að vernda trúnað með því að afagreina gögn um sjúklinga og erfðaefni og vinna úr þeim í viðurkenndu umhverfi og innan samþykkis.
- Hæfni til að tryggja mannlega ábyrgð og gagnsæi með því að veita skjalfesta sannprófun (GxP validation) á gervigreindarlíkaninu í skipulegum ákvörðunum
Lífverkfræði er svið sem hefur bein áhrif á heilsu manna, matvælaöryggi og umhverfið; svo það eru spurningar hér sem og "ætti ég" og "má ég að gera" sem og "má ég". gervigreind skerpir enn frekar á þessum spurningum: kynslóðarlíkan getur gefið til kynna eiturefni eins auðveldlega og góðkynja ensím; tungumálalíkan getur breytt gögnum sjúklinga í leka; Óstaðfest framleiðsla líkans getur óvart farið inn í eftirlitsbundna framleiðslulínu. Þessi eining er öryggis- og ábyrgðarramminn sem situr ofan á allar fyrri einingar. Meginreglurnar sem þú munt læra hér eru mikilvægari, ekki síður, en tæknikunnátta.
Í þessari einingu munum við fjalla um fjóra ása: líföryggi og tvínotkunaráhættu, gagnavernd og réttindi sjúklinga, reglufylgni og fullgildingu (GxP, fullgilding) og ábyrgð og gagnsæi.
Líffræðilegt öryggi og tvínota
Tvínotkun (tvínotkunarrannsóknir sem vekja áhyggjuefni — DURC — rannsóknir sem hafa möguleika á bæði ávinningi og alvarlegum skaða) er þyngsta siðferðilega byrði lífverkfræði. Auka sýkingargetu, hanna eiturefni, breyta efni til að komast hjá uppgötvun - þetta eru hættuleg verkefni sem hægt er að biðja um gervigreind, meðvitað eða óafvitandi. Reglan er skýr: ekki nota gervigreind til að auka getu hugsanlegra skaðlegra efna; Ef þú lendir í slíkri beiðni skaltu hafna henni, hætta henni og tilkynna það til líföryggis-/siðanefndar stofnana. Jafnvel lögmætar rannsóknir (t.d. varnarvinna á sýkla) krefjast samþykkis stofnana, takmarkaðs aðgangs og gagnsærrar upptöku.
Varúð: Það er ekki alltaf augljóst hvort verkefni er tvínota eða ekki. „Auka þennan eiginleika þessa ensíms“ kann að virðast saklaus og auka virkni eiturefnis. Ef þú ert í vafa skaltu hætta og ráðfæra þig við; Hættan á óafturkræfum skemmdum er alltaf nokkurra daga töf virði.
Persónuvernd gagna og réttindi sjúklinga
Lífverkfræðigögn innihalda oft erfðafræðileg og klínísk gögn - viðkvæmasta tegund persónuupplýsinga. Hægt er að auðkenna erfðamengi aftur jafnvel þótt það virðist afakennt. Reglur eins og KVKK og GDPR vernda þessi gögn stranglega. Þumalfingursreglur: gefðu aldrei ósamþykktu, opinberu gervigreindarverkfæri ósamþykkt sjúklingagögn; afgreina gögn; nota samþykkt fyrirtæki/staðbundið umhverfi með gagnavinnslusamningum; og fara ekki fram úr þeim tilgangi sem gögnunum er safnað fyrir (upplýst samþykki).
Ábending: Áður en þú gefur gögn til gervigreindartækis skaltu spyrja þriggja spurninga: (1) Er hægt að bera kennsl á mann í þessum gögnum? (2) Eru gagnavinnsluskilyrði þessa tóls hentug til að viðhalda skilvirkni? (3) Er þessi notkun innan þess markmiðs sem sjúklingurinn samþykkti? Ef þú segir "nei" eða "ekki viss" við eitthvað af þremur skaltu ekki gefa upp gögnin.
Reglufesting og sannprófun
Lyfja-, lækningatækja- og klínísk framleiðsla er stjórnað innan ramma GxP (Good Practice - Good Practice rules; GMP framleiðsla, GLP rannsóknarstofa, GCP heilsugæslustöð). Öll kerfi sem notuð eru í þessu umhverfi - þar á meðal gervigreind líkan - verða að vera fullgilt (sönnun þess að kerfið vinnur fyrirhugað starf sitt á samkvæman og skjalfestan hátt). Notkun gervigreindarlíkans í skipulegri ákvörðun; Það krefst þess að skjalfesta hvernig líkanið var þjálfað, með hvaða gögnum það var prófað, hversu áreiðanlegt það er og hvernig framleiðsla þess er staðfest. Óstaðfest framleiðsla „svarta kassa“ líkans getur ekki farið inn í GMP línu.
Ábyrgð og gagnsæi
gervigreind tekur ekki ákvarðanir; Það er maðurinn sem ræður og ábyrgðin er hjá manneskjunni. Jafnvel þótt gervigreind stingi upp á niðurstöðu, sameind eða ferlisákvörðun, þá tilheyrir endanleg undirskrift sérfræðingsins sem staðfestir hana. Gagnsæi er önnur stoðin: ef þú notaðir gervigreind í riti, skýrslu eða innsendingu, taktu það skýrt fram og hvernig þú staðfestir það. Notkun leynilegrar, óstaðfestrar gervigreindar brýtur bæði í bága við vísindalega heiðarleika og reglur.
þrjú smámál
Tilfelli 1 — Beiðni um tvínotkun stöðvuð. Notandi bað gervigreindina um stökkbreytingar sem myndu auka virkni bakteríueitursins. Líkanið neitaði og útskýrði hvers vegna það væri undir DURC; Líföryggisteymi fyrirtækja kannaði aðstæður. Höfnun stöðvaði hugsanlega misnotkun snemma.
Tilfelli 2 - Heimkoma eftir brot á friðhelgi einkalífsins. Eitt teymi ætlaði að hlaða erfðamengisgögnum 500 sjúklinga upp í almenningsský til greiningar. Persónuverndarfulltrúinn áttaði sig á því að gögnin voru endurgreinanleg og fóru út fyrir samþykki. Greiningin var gerð með afgreindum gögnum og í vottuðu nærumhverfi; komið í veg fyrir brot.
Mál 3 — Gildismunur. Framleiðsluaðstaða byrjaði að nota ógildan gervigreindarflokkara við gæðaákvarðanir. Úttekt leiddi í ljós að líkanið hafði enga GMP sannprófun og engin rekjanleg skjöl um framleiðslu þess. Kerfið hefur verið tekið úr framleiðslu þar til fullri staðfestingu er lokið.
Fjögur afritanleg sniðmát
1) Tvínota bráðabirgðamat:
Þitt hlutverk: líföryggisráðgjafi. Metið eftirfarandi rannsókn fyrir DURC: er möguleiki á skaða, í hvaða flokki (smitvirkni, eiturhrif, forðast uppgötvun o.s.frv.), hvaða samþykki og takmarkanir eru nauðsynlegar? Ekki gefa nein skaðleg tæknileg ráð; skráðu bara áhættumatið og nauðsynleg leyfi.Rannsókn: [skilgreining]
2) Gagnaverndareftirlit:
Ég vil gera persónuverndarathugun áður en ég gef gagnasett til gervigreindargreiningar. Gefðu mér gátlista: auðkenningarreitir, hætta á endurauðkenningu, umfang samþykkis, aðstæður til vinnslu gagna ökutækja. Segðu mér með skýrum þröskuldum í hvaða tilvikum ég ætti EKKI að flytja út gögn.
3) Löggildingaráætlun:
Þitt hlutverk: sérfræðingur í gæðatryggingu. Ég vil nota gervigreind líkan í skipulegri ákvörðun. Skráðu íhluti sannprófunaráætlunar í samhengi við GxP: tilgangsskilgreiningu, gagnagjafa, frammistöðumælingar, samþykkisviðmið, rekjanleika, reglubundin endurfullgilding. Hvernig dregur ég úr hættu á „svartum kassa“?
4) Drög að gagnsæisyfirlýsingu:
Mig langar að lýsa yfir notkun minni á gervigreind á gagnsæjan hátt í riti/skýrslu. Gefðu mér drög að yfirlýsingu: hvaða tæki, í hvaða skrefi, hvernig var það notað, hvernig var framleiðslan staðfest og hvar er ábyrgð mannsins. Notaðu látlaust og heiðarlegt orðalag.
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Gerðu þennan sjúkdómsvald skilvirkari.
Þetta er tvíþætt brot; verður að hafna og tilkynna. Slík beiðni ætti aldrei að koma fram.
Öflug tilvitnun:
Þitt hlutverk: líföryggisráðgjafi. Ég er að skipuleggja tilraun til varnar sýklaleitar. Skráðu mig DURC einkunn þessarar rannsóknar, nauðsynlegar samþykki stofnana, kröfur um gagnaleynd og öryggisráðstafanir sem takmarka möguleika rannsóknarinnar á skaða. Ekki gefa upp neinar tæknilegar upplýsingar sem gætu aukið smit eða eiturhrif.
Mismunur: sjálfsvarnartilgangur, öryggis- og samþykkisáhersla, afneitun á skaðlegu efni.
Siðareglur og reglufylgni
svæði
Meginregla
Áhætta
skylda
Líföryggi
Auka möguleika á skaða
DURC/misnotkun
Hafna + tilkynna
Persónuvernd gagna
Verndaðu gögn sjúklinga
endurskilgreiningu
Af-auðkenni + samþykkt umhverfi
samþykki
fara yfir markið
siðferðisbrot
Vertu undir samþykki
Klippingu
GxP staðfesting
Úttektarbilun
Skjalfest staðfesting
Ábyrgð
maður ákveður
blind velta
Samþykki sérfræðinga + gagnsæi
Algeng mistök
- Gerir sér ekki grein fyrir hættunni á tvínotkun. Að því er virðist saklausar beiðnir geta valdið skaða; Vertu í vafa.
- Að gefa sjúklingagögn til stjórnlauss farartækis. Það er brot án afskilgreiningar og viðurkennds umhverfis.
- Farið yfir gildissvið samþykkis. Ekki er hægt að nota gögn í öðrum tilgangi en þeim tilgangi sem þeim var safnað í.
- Nota óstaðfest líkan í skipulegum ákvörðunum. GxP er bannað án staðfestingar.
- Að fela notkun gervigreindar. Gagnsæi er krafa fyrir bæði vísindalegan heiðarleika og samræmi.
Í stuttu máli
Í lífverkfræði eru siðfræði og öryggi framar tæknikunnáttu. Gervigreind er ekki notuð á skaðlegan hátt í verkum sem hafa tvíþætta notkun áhættu; slíkum beiðnum verður hafnað og tilkynnt. Sjúklingagögn eru afgreind og unnin í viðurkenndu umhverfi og innan samþykkis. Í eftirlitsskyldum ákvörðunum er gervigreind líkanið fullgilt á skjalfestan hátt; Óstaðfest „svartur kassi“ úttak GMP getur ekki slegið inn línu. Og alltaf: það er maðurinn sem ákveður, maðurinn ber ábyrgð, notkun gervigreindar er gagnsæ. AI framleiðsla kemur ekki í staðinn fyrir hæft samþykki sérfræðinga.
Umsóknarverkefni
Metið eigið verk (eða tilgátuverkefni) á þremur ásum. (1) Skráðu mögulega skaða og nauðsynlegar samþykki með tvínota formatssniðmáti. (2) Ákveða hvort hægt sé að gefa gögnin sem þú notar til gervigreindarverkfæris með gátlistanum um persónuvernd. (3) Skrifaðu drög að gagnsæisyfirlýsingu: Hvar notaðir þú gervigreind og hvernig staðfestir þú það? Settu allt þrennt saman í stutta „ábyrga notkunarskýrslu“.
gátlisti
- [ ] Ég lagði mat á tvínotkunarhættu rannsóknarinnar; Ég notaði ekki gervigreind á skaðlegan hátt.
- [ ] Ég afmerkti sjúklinga-/trúnaðargögn og vann úr þeim í viðurkenndu umhverfi innan samþykkis.
- [ ] Ég hef skjalfest skjalfest staðfestingu á líkaninu sem ég nota í eftirlitsskyldum ákvörðunum.
- [ ] Ég lét lokaorðið um mikilvægar ákvarðanir eftir samþykki sérfræðinga.
- [ ] Ég hef á gagnsæjan hátt lýst yfir notkun minni á gervigreind.
- [ ] Ef ég lendi í grunsamlegri/áhættusamri beiðni hef ég tileinkað mér það viðbragð að hætta og tilkynna.