Etika, biosigurnost, povjerljivost i naučni integritet

Dobici:

• Sposobnost zaštite osjetljivih ljudskih/genetskih podataka u skladu s pravilima KVKK, GDPR-a i etičkog odbora i izbjegavanje davanja otvorenog modela
• Sposobnost dovođenja u pitanje valjanosti rezultata procjenom rizika biološke sigurnosti/dvostruke upotrebe i pristrasnosti stanovništva
• Razumijevanje da se etička odgovornost ne može prenijeti na vozilo i da je neophodan smisleni čovjek u petlji

Snažno korištenje umjetne inteligencije u biologiji dopunjuje se odgovornim korištenjem. Biologija je osjetljiva oblast koja dotiče ljudsko zdravlje, genetsku privatnost, okoliš, pa čak i biosigurnost. U ovoj jedinici ćemo razgovarati o etičkim, pravnim i sigurnosnim odgovornostima s kojima ćete se suočiti kada koristite umjetnu inteligenciju u biološkim studijama. Ova jedinica je okvir izgrađen na principima verifikacije i poštenja u svim prethodnim jedinicama.

Osnovni princip: AI je alat; Etička odgovornost uvijek leži na ljudima. "Predloženi model" nije izgovor.

Četiri područja odgovornosti

1. Privatnost podataka i ljudski podaci

Genetski, klinički ili zdravstveni podaci od ljudskih učesnika izuzetno su osjetljivi. DNK sekvenca osobe može otkriti rizik od bolesti i identitet njihove i njenih rođaka; Čak se i genomski podaci za koje se smatra da su anonimni mogu ponovo identificirati. Lijepljenje ovih podataka u javno dostupan AI model može kršiti zakone o zaštiti podataka (KVKK u Turskoj, GDPR u Europi) i odobrenja etičkog odbora (IRB/etičkog odbora).

• Nemojte davati lične/kliničke podatke otvorenom modelu.
• Izbjegavajte korištenje izvan okvira pristanka; Na šta je učesnik pristao?
• Odlučite se za poslovne/lokalne (on-premise) ili ugovorne alate za obradu podataka.

2. Biosigurnost i dvostruka upotreba

Neke biološke informacije su "dvostruke upotrebe": mogu biti i korisne i štetne; na primjer, sekvence patogena (koji izazivaju bolest), proizvodnju toksina. Tražiti od AI informacije o poboljšanju opasnih patogena ili dizajniranju štetnih bioloških agenasa je neetično i nezakonito na većini mjesta.

• Ne postavljajte opasne zahtjeve za dvostruku namjenu.
• Slijedite smjernice odbora za biološku sigurnost (IBC) vaše institucije.

3. Naučni integritet

Ovdje se spaja sve što smo vidjeli u prethodnim jedinicama: bez lažnog pripisivanja, bez uljepšavanja podataka, bez p-hakiranja, bez selektivnog izvještavanja. Umjetna inteligencija ih može učiniti lakšim ili težim; Razlika je u vašoj iskrenosti.

• Prijavite sve rezultate (uključujući negativne).
• Izjaviti upotrebu umjetne inteligencije.
• Podržite reproduktivnost dijeljenjem sirovih podataka i koda (ako je moguće).

4. Pristrasnost i pravičnost

AI modeli nose pristranosti podataka na kojima su obučeni. Genomske baze podataka uglavnom potiču od populacija evropskog porijekla; ovo dovodi do lošijih predviđanja u drugim populacijama. Model slike može biti loš u stanju koje je nedovoljno zastupljeno u podacima obuke.

• Postavite pitanje na kojoj populaciji/podacima je model obučen.
• Procijenite da li se rezultati primjenjuju u svim grupama.

Savjet: Zapitajte se: "Ako dam ove podatke modelu, kome oni pripadaju i da li je ta osoba dala dozvolu?" Ako je odgovor nejasan, nemojte ga davati. Kršenje povjerljivosti je nepovratno.

Korak po korak: odgovorna AI kontrola

1. Klasificirati izvor podataka: lični/osjetljivi ili javni?
2. Provjerite saglasnost i dozvole: Da li je ova upotreba pokrivena?
3. Odaberite pravi alat: bezbedno/prirodno okruženje za osetljive podatke.
4. Uzmite u obzir rizik dvostruke upotrebe.
5. Pristrasnost pitanja: Da li je rezultat validan u svim grupama?
6. Dokumentirati i prijaviti upotrebu.

Predlošci upita koji se mogu kopirati

Pregledajte moj plan analize u nastavku iz etičke perspektive: navedite mjere opreza u vezi s povjerljivošću podataka, pristankom učesnika, potencijalnom pristrasnošću i rizikom od dvostruke upotrebe. Plan: [tekst] (Napomena: NE dijelim stvarne podatke o pacijentu, samo plan.)

Na koja pitanja o privatnosti i pristanku trebam odgovoriti prije korištenja ovog skupa genomskih podataka? Kontrolna lista je pripremljena u smislu KVKK/GDPR i etičkog komiteta.

Kako bih trebao transparentno deklarirati alat umjetne inteligencije koji koristim u odjeljku o metodama u svom članku? Napišite primjer izjavne rečenice; koje informacije (alat, verzija, obim upotrebe) treba da sadrži?

Kako mogu procijeniti da li rezultati ovog modela imaju pristrasnost stanovništva? Navedite pitanja koja bih trebao postaviti o podacima o obuci i koracima provjere.

Slaba prompt / Jaka prompt

Slabo: "Analizirajte genetske podatke sljedećeg pacijenta: [stvarni podaci]."

Güçlü: "Postavljam plan analize koji radi s kliničkim genomskim podacima, ali ne dijelim stvarne podatke o pacijentima. Samo iz metodološke perspektive: koje mjere povjerljivosti trebam preduzeti, u kakvom okruženju trebam obraditi podatke, koje uslove odobrenja i etičkog odbora treba da ispunim? Možete prikazati tok pomoću lažnih/uzorka podataka."

Razlika: U moćnom promptu ne dijele se nikakvi stvarni osjetljivi podaci; Pita se samo metoda. Privatnost je očuvana, model i dalje pomaže.

tri mini kofera

Slučaj 1 — Kršenje privatnosti: Istraživač je zalijepio ono što je mislio da su anonimni podaci o egzomu pacijenata u otvoreni model kako bi ga analizirali. Kada je etički komitet saznao za ovo, studija je obustavljena; Nije bilo sporazuma o obradi podataka. Pouka: osjetljivi podaci nikada ne ulaze u otvoreni model.

Slučaj 2 — Populaciona pristrasnost: Alat za poligensku ocenu rizika je obučen na podacima evropskog porekla; U drugoj populaciji, procjene rizika su bile značajno netačne. Kada je model predložio preispitivanje sastava podataka o obuci, tim je odlučio da ne koristi alat u toj populaciji. Pouka: pristrasnost spašava ili šteti životima.

Slučaj 3 — Otkrivanje i transparentnost: Tim je napisao kod za čišćenje podataka pomoću AI i to jasno naveo u odjeljku o metodama; On je također podijelio šifru. Recenzenti su to pozdravili jer je ponovljivost bila jaka. Pouka: transparentnost rađa povjerenje.

uporedni grafikon

području

sigurno ponašanje

rizično ponašanje

podaci o pacijentima

Lokalno/bezbedno okruženje

Zalijepite da otvorite model

saglasnost

Koristite u okviru obima

Nemojte prekoračiti opseg

Biosigurnost

Izbjegavanje dvostruke upotrebe

opasna potražnja

integritet

Prijavite sve rezultate

selektivno izvještavanje

pristrasnost

Ispitajte populaciju

Primijeniti slijepo

transparentnost

Deklarirajte upotrebu

skrivanje

Uobičajene greške

• Davanje osjetljivih podataka otvorenom modelu: nepovratno kršenje privatnosti.
• Prekoračenje obima pristanka: Upotreba nije odobrena od strane učesnika.
• Ignoriranje pristrasnosti: Uopštavanje rezultata za sve grupe.
• Prikrivanje upotrebe: Ne deklarišu doprinos AI.
• Odbrana "predložen model": Pripisivanje odgovornosti vozilu.

Oprez: U biološkom radu sa visokim posljedicama (klinička odluka, biološka sigurnost, ljudski podaci) izlaz AI nije zamjena za kompetentnu stručnu verifikaciju i etički nadzor; to samo ubrzava. Konačna odgovornost uvijek leži na ljudskom biću, zajedno sa etičkim i naučnim posljedicama odluke.

Životna sredina, ekologija i tradicionalno znanje

Etička odgovornost nije ograničena na ljudske podatke. Oprez je također potreban pri korištenju umjetne inteligencije u ekologiji i biologiji očuvanja. Na primjer, precizni podaci o lokaciji (koordinate zamke kamere) ugrožene vrste su osjetljivi zbog rizika od krivolova; Objavljivanje ovih podataka otvorenom modelu ili javnosti moglo bi naštetiti vrsti. Slično tome, etička i pravna pitanja (kao što je Protokol iz Nagoje) nastaju kada se tradicionalno biološko znanje lokalnih zajednica (npr. upotreba biljke) koristi bez dozvole. Prije korištenja podataka, "kome pripadaju ove informacije i tko bi bio oštećen njihovim otkrivanjem?" Uvijek postavljajte pitanje.

Ljudski nadzor i konačna odluka

Suština cijelog ovog modula svodi se na jedan princip: smislen ljudski nadzor. AI proizvodi prijedlog, piše nacrt, pokazuje obrazac; Ali biološka, ​​klinička ili etička odluka nikada se ne zasniva direktno na rezultatu modela. Naročito u područjima visokog rizika (dijagnoza, liječenje, odluka o očuvanju vrsta, oslobađanje), uloga modela nije da donosi odluke, već da ubrza odluku stručnjaka. Pristup "ljudi u petlji" nije slogan, već nužnost.

Da bi ovaj nadzor funkcionirao, nadzornik mora biti kompetentan. Slijepi pristanak („naveden model, prihvatanje“) nije nadzor. Pravi nadzor zahtijeva stručnost koja može dovesti u pitanje rezultat, uhvatiti njegovu grešku i odbiti ga kada je to potrebno. Stoga, umjetna inteligencija ne zamjenjuje stručnjaka; To čini stručnjaka još nezamjenjivijim. Onaj koji najbolje koristi vozilo je onaj koji ga najbolje može kontrolisati.

Ukratko

Odgovorno korištenje AI u biologiji pokriva četiri oblasti: privatnost podataka (zaštita osjetljivih ljudskih podataka), biosigurnost (izbjegavanje dvostruke upotrebe), naučni integritet (iskreno i potpuno izvještavanje) i svijest o pristrasnosti (važnost rezultata u svim grupama). Ne dajte osjetljive podatke otvorenom modelu, transparentno deklarirajte upotrebu, dovedite u pitanje pristrasnost stanovništva. Etička odgovornost se nikada ne može prenijeti na agenta; Uvijek je u ljudima.

Zadatak aplikacije

Razmislite o scenariju iz vlastitog radnog prostora (npr. korištenjem ljudskog skupa podataka ili modela slike). Neka AI izradi etičku kontrolnu listu ovog scenarija (povjerljivost, pristanak, pristranost, dvostruka upotreba, transparentnost) bez dijeljenja stvarnih podataka. Za svaku stavku označite je kao „prikladnu/rizično/neizvjesnu” u vašoj situaciji i napišite akcioni plan za one koji su rizični/neizvjesni. Za svoj članak pripremite i izjavu o upotrebi umjetne inteligencije.

kontrolna lista

• [ ] Nisam pružio osjetljive/lične podatke otvorenom modelu.
• [ ] Provjerio sam obim pristanka i etičku komisiju.
• [ ] Procijenio sam rizik dvostruke upotrebe/biosigurnosti.
• [ ] Iskreno sam prijavio sve rezultate.
• [ ] Doveo sam u pitanje pristrasnost stanovništva/podataka.
• [ ] Transparentno sam se izjasnio o upotrebi vještačke inteligencije i preuzeo odgovornost.

Modul Exam

1. Student je pitao jezički model 'koliko nizova ima ovaj FASTA fajl?' pita on, a model odgovara '48'. Koji je najispravniji pristup?

• A) Direktno koristeći broj 48 dat modelom; Model je pouzdan jer vidi fajl
• B) Još jednom pitajte broj i prihvatite ga kao tačan ako su dva odgovora ista
• C) Čitanje datoteke pomoću Biopython-a, brojanje sekvenci sa kodom i korištenje izlaza ✔
• D) Otvaranje fajla ručno i brojanje po odluci oka

Objašnjenje: Deterministički zadaci kao što su brojanje i mjerenje trebaju biti prepušteni kodu koji izvodite, a ne jezičkom modelu. Model ne 'pamti' broj, on proizvodi vjerovatnoću vrijednosti i može pogriješiti; Brojanje pomoću alata kao što je Biopython daje precizne i ponovljive rezultate.

2. Želite da prebrojite ćelije na mikroskopskoj slici i izmerite površinu svake. Koji je najprikladniji pristup za ovaj zadatak?

• A) Korištenje stručnog alata za segmentaciju kao što je Cellpose/StarDist i ručna provjera rezultata ✔
• B) Zalijepite sliku u opći jezički model i pitajte 'koliko ćelija ima'
• C) Opišite sliku modelu i zatražite procijenjeni broj
• D) Prihvatanje broja piksela kao broja ćelija bez ikakve kalibracije

Objašnjenje: Segmentacija i mjerenje ćelije nije domena općeg jezičkog modela, već specijaliziranih modela slike (Cellpose, StarDist) posebno obučenih za ovaj zadatak. Jezički model piše kod koji poziva ove alate; Stručni model vrši mjerenje, a biolog provjerava rezultat.

3. Podiplomski student dodaje 8 izvora proizvedenih od strane jezičkog modela u uvod u svoj rad. Konsultant nalazi da 3 od njih uopšte ne postoje. Kako se ova situacija može spriječiti?

• A) Traženjem modela da još jednom proizvede resurse
• B) Odabirom samo citata sa DOI (ako postoji DOI, pravi je)
• C) Zahtjev za listu upućivanjem modela da se 'uklopi'
• D) Nezavisno provjerava svaki citat na PubMed/doi.org i citira samo članke koje je pročitao ✔

Objašnjenje: Opći jezički modeli nisu baza podataka literature; Umjesto da traži stvarne zapise, on 'generira' atribucije koje zvuče realno (fabricirana atribucija). Svaki autorski red i DOI ne bi trebalo koristiti bez nezavisne provjere u izvorima kao što je PubMed/doi.org i samo citirajući članke koji su stvarno pročitani.

4. Koji je najmoćniji način da se osigura tačnost koda za čišćenje podataka koji je napisala umjetna inteligencija?

• A) Ako kod radi bez grešaka, prihvatite ga kao ispravan.
• B) Testiranje rezultata sa malim poznatim uzorkom i provjera očekivanja sa assert ✔
• C) Pitajte model 'da li je kod tačan?' pitati i vjerovati odgovoru 'da'
• D) Pokrenite kod nekoliko puta i svaki put dobijete isti izlaz

Napomena: Samo zato što kod radi bez grešaka ne znači da je ispravan; 'pogrešan kod koji radi bez grešaka' je najopasnija situacija u biologiji. Testiranje s malim uzorkom čiji rezultat znate unaprijed i ugrađivanje očekivanja u kod sa assert-om je najjači štit od tihih pogrešnih rezultata.

5. U RNA-seq analizi, 20.000 gena je testirano i 3.800 gena je pronađeno kao 'značajno' sa p<0,05 bez korekcije. Šta je glavni problem ovog zaključka?

• A) Broj uzoraka je prevelik, treba ga smanjiti
• B) p prag je previsok, trebalo je koristiti 0,10
• C) Korekcija višestrukog poređenja (FDR) nije izvršena; Postoji mnogo lažnih pozitivnih rezultata ✔
• D) Trebalo je testirati uzorke umjesto gena

Objašnjenje: Kada testirate hiljade gena istovremeno, mnogi geni se slučajno čine 'značajnim', čak i ako nema stvarne razlike; To se zove problem višestrukog poređenja. Rješenje je primijeniti korekciju FDR-a (stopa lažnog otkrivanja) metodom kao što je Benjamini-Hochberg; Uz korekciju, lista se obično smanjuje na desetine do nekoliko stotina gena.

6. Najbolji meč u BLAST rezultatu ima E-vrijednost 2,0. Šta ovo znači?

• A) Podudaranje je najvjerovatnije nasumično; ✔ nije pouzdano podudaranje
• B) Spoj je veoma jak; Što je veća e-vrijednost, to bolje
• C) Slijed se podudara sa stopom od 2%
• D) Postoje 2 osnovne razlike između dva niza

Objašnjenje: E-vrijednost ukazuje na očekivanje da će podudaranje biti nasumično; Bolje je biti mali. E-vrijednost veća od 1 ukazuje da je podudaranje najvjerovatnije nasumično. Za pouzdana podudaranja općenito se traže vrlo mali pragovi kao što je e < 1e-5.

7. U AlphaFold modelu, terminalna regija proteina pokazuje nizak pLDDT rezultat (<50). Kako treba tumačiti ovu regiju?

• A) AlphaFold je napravio grešku u ovoj regiji, region treba ukloniti iz analize
• B) Ovo područje je definitivno alfa spirala
• C) Model je potpuno nepouzdan, struktura se ne bi trebala koristiti
• D) Region je vjerovatno nepravilan/elastičan; treba tumačiti kao 'nejasno' umjesto 'netačno' ✔

Opis: pLDDT je lokalni rezultat pouzdanosti za svaku aminokiselinu; Vrijednosti ispod 50 često odražavaju zaista nepravilne (fleksibilne, nefiksne) regije. Pogrešno je automatski brisati ove regije kao 'pogrešna nagađanja'; Nizak rezultat treba čitati kao 'neizvjestan/fleksibilan' i procijeniti njegov biološki značaj.

8. Istraživač navodi područja ćelija samo u pikselima i rezultati nisu u skladu sa literaturom. Koji korak nedostaje?

• A) Trebalo je izbrojati više ćelija
• B) Kalibracija skale (konverzija piksel-mikrometar) nije izvršena, rezultati nisu konvertovani u fizičke jedinice ✔
• C) Alat za segmentiranje je pogrešno odabran
• D) Rezolucija slike je previsoka

Objašnjenje: Kalibracija skale (koliko mikrometara po pikselu) je neophodna za izdvajanje fizičke veličine iz slike. Ako se ovaj korak preskoči, vrijednosti ostaju neuporedive, ovisno o postavci mikroskopa. Površine se moraju pretvoriti u fizičke jedinice kao što su kvadratni mikrometri.

9. Učenik uzima 10 uzoraka tkiva od jednog miša i koristi 'n=10' u statistici. Zašto je ovo netačno?

• A) 10 uzoraka je premalo za statistiku, potrebno ih je najmanje 30
• B) Trebalo je uzeti uzorke tkiva iz različitih organa
• C) Ovih 10 primjera su tehnička ponavljanja; biološki n je i dalje 1, ovo je takozvano ponavljanje ✔
• D) Uzorci su nevažeći jer su uzeti istog dana

Objašnjenje: Ponovljena mjerenja uzeta od iste osobe su tehnička ponavljanja; gdje je statistički n broj bioloških jedinica (ovdje miševa). Smatrati tehničko ponavljanje biološkim (pseudoreplikacija) proizvodi lažni značaj. Pravilan dizajn znači rad sa više pojedinaca.

10. Jednom analizom utvrđeno je p=0,03. Koja je ispravna interpretacija ove vrijednosti?

• A) Postoji 3% šanse da vidite ovaj ili ekstremniji rezultat kada u stvarnosti nema razlike ✔
• B) Vjerovatnoća da je efekat stvaran je 97%
• C) Vjerovatnoća da je nulta hipoteza tačna je 3%
• D) Rezultat je 97% ponovljiv

Objašnjenje: p-vrijednost nije 'vjerovatnoća da je hipoteza tačna' ili 'vjerovatnoća da je učinak istinit'. P-vrijednost je vjerovatnoća da se razlika vidi kao ili ekstremnija od one uočene kada razlika zapravo i nema. Stoga p=0,03 ne znači 'efekat je 97% stvaran'; rezultate takođe treba proceniti po veličini efekta i intervalu poverenja.

11. U prezentaciji, razlika od 3% između dvije grupe je prikazana kao ogromna kompresijom y-ose na raspon 95-100. Šta je ovo primjer?

• A) Dobra tehnika vizualizacije; naglašava razliku
• B) Problem palete prilagođene daltonistima
• C) Prihvatljiv izbor stila
• D) Pogrešan i nepošten grafikon koji preuveličava razliku sa skraćenom osom ✔

Objašnjenje: Neinicijaliziranje ose od nule (skraćena osa) dovodi u zabludu gledatelja vizualno preuveličavajući malu razliku. Ovo je kršenje principa poštenja; Osovina treba da počinje od nule, a razlika treba da bude prikazana njenom stvarnom veličinom.

12. Istraživač lijepi ono što misli da su anonimni podaci o egzomu pacijenata u model javnog jezika kako bi ga analizirali. Zašto je ovo ponašanje problematično?

• A) Nema problema; podaci se mogu dijeliti ako su anonimni
• B) Pružanje osjetljivih podataka o pacijentima na otvorenom modelu predstavlja kršenje privatnosti i etičkih/pravnih (KVKK/GDPR) i ne može se poništiti ✔
• C) Problematično je samo zato što će analiza biti spora
• D) Model je problematičan jer ne može razumjeti podatke

Opis: genetski/klinički podaci o pacijentu su izuzetno osjetljivi; Čak se i genomski podaci za koje se smatra da su anonimni mogu ponovo identificirati. Davanje ovih podataka javnom modelu krši odobrenja KVKK/GDPR i etičkog odbora (IRB) i predstavlja nepovratnu povredu privatnosti. Osjetljive podatke treba obrađivati ​​u lokalnim/sigurnim, ugovorenim okruženjima.

13. U jednoj studiji, razlika za koju su mislili da je 'pacijent u odnosu na kontrolu' zapravo je nastala zbog uzoraka koji su obrađeni dva različita dana. Kako se zove ova situacija i kako se rješava?

• A) To je izvanredni efekat; tačke treba obrisati
• B) To je nedostatak normalizacije; dovoljna je samo korekcija skale
• C) To je efekat serije; treba biti uravnotežen u dizajnu i dodati modelu kao batch varijabla ✔
• D) p-hakovanje; test treba promijeniti

Objašnjenje: Tehnička razlika zbog uzorkovanja serije/dana obrade naziva se efekt serije i može se zamijeniti s biološkom razlikom. Ispravan pristup je balansirati serije u dizajnu i dodati varijablu serije u statistički model (npr. '~serija + stanje'), čime se odvaja tehnički signal od biološkog signala.

14. Želite da izračunate GC omjer DNK sekvence. Koji je ispravan i ponovljiv pristup?

• A) Odštampajte kod koji izračunava GC stopu sa Biopython-om, pokrenite ga i koristite izlaz ✔
• B) Dajte modelu sekvencu i zamolite ga da usmeno kaže brzinu GC
• C) Potvrđivanje omjera koji je model dao drugim modelom
• D) Gledajući u prvih 100 slova serije i pogađajući okom

Objašnjenje: GC stopa je deterministički proračun; treba da se zasniva na kodu koji obrađuje niz, a ne na vrednosti koju jezički model 'pamti'. Umjesto da ga model izračuna, štampanje koda za izračunavanje pomoću alata kao što je Biopython i pokretanje samog njega će dati precizan izlaz koji daje isti rezultat svaki put kada ga pokrenete.