Dobici:
- Sposobnost primjene principa informiranog pristanka, nezlonamjernosti i povjerljivosti na društvena istraživanja
- Sposobnost ispravne anonimizacije podataka brisanjem svih direktnih i indirektnih identifikatora prije nego što ih date umjetnoj inteligenciji
- Mogućnost postavljanja upita o politici zadržavanja podataka korištenog alata umjetne inteligencije i korištenja samo odobrenih medija za osjetljive podatke
Društvena istraživanja se rade sa ljudima, a to dolazi sa velikom odgovornošću. Ljudi vam govore o svojim životima, svojim mišljenjima, ponekad svojim najkrhkijim iskustvima. Istraživačka etika je skup pravila za održavanje ovog povjerenja: ne štetiti učesniku, dobiti njegov pristanak, zaštititi njihov identitet i ne koristiti njegove podatke. U doba AI, ova odgovornost je još više porasla, jer lijepljenje podataka učesnika u AI alat sada može značiti nesvjesno curenje tih podataka. U ovoj cjelini naučit ćete osnovne principe istraživačke etike, kako zaštititi povjerljivost prilikom korištenja AI i kako pravilno anonimizirati podatke (činiti osobu neprepoznatljivom).
Tri osnovna principa su okosnica svakog društvenog istraživanja. Informirani pristanak: učesnik mora razumjeti šta je istraživanje i kako će se njegovi podaci koristiti i slobodno reći "da". Ne-zlonamjernost: istraživanje ne bi trebalo prouzročiti fizičku, psihičku ili socijalnu štetu učesniku. Povjerljivost i povjerljivost: identitet i podaci učesnika moraju biti zaštićeni. Alati za umjetnu inteligenciju mogu olakšati ove politike (npr. sastavljanje teksta pristanka, kontrola anonimizacije) ili ih ugroziti (npr. otpremanje transkripta koji se može lično identificirati u oblak). Razlika je u tome da li je korisnik pri svijesti ili ne.
Korak po korak: etičko i sigurno istraživanje
1. Dobijte etičko odobrenje. U većini institucija (univerziteti, instituti) istraživanja koja uključuju ljude zahtijevaju odobrenje etičkog odbora (komiteta koji osigurava da istraživanje ne šteti učesniku). AI pomaže u izradi teksta aplikacije; Samo odobrenje pripada instituciji.
2. Jasno napišite tekst saglasnosti. Učesnik treba da bude informisan na jeziku koji on/ona razume, a ne teškim pravnim jezikom. AI sastavlja jednostavan i potpun tekst saglasnosti; Vi potvrđujete svaku stavku.
3. Anonimizirajte podatke prije nego što ih date AI. Treba ukloniti ime, adresu, broj telefona, radno mjesto i identifikacijske podatke. Samo brisanje imena često nije dovoljno; Opis poput "sa troje djece, jedini farmaceut u naselju X" također odaje osobu.
4. Znati koji alat pohranjuje podatke i kako. Podaci koje zalijepite u AI alat se obrađuju na serverima tog alata i mogu se koristiti u obuci u nekim uslugama. Za osjetljive podatke to može biti neprihvatljivo; Koristite alate sa garancijom zaštite podataka koje je odobrila vaša institucija.
5. Čuvajte podatke bezbedno i izbrišite ih na vreme. Poštujte period zadržavanja i obavezu brisanja koje ste obećali u svom pristanku.
Oprez: lijepljenje neobrađenih podataka učesnika koji sadrže lične informacije (imenovani transkript, kontakt informacije, osjetljive lične podatke) u bilo koji AI alat predstavlja ozbiljno etičko i zakonsko kršenje. Prvo anonimizirajte podatke; Ako ga ne možete anonimizirati, nikada ne dajte te podatke vanjskom alatu.
tri mini kofera
Slučaj 1 — Nedovoljna anonimizacija. Istraživač je izbrisao imena iz transkripata i dao ih AI. Ali jedan učesnik je rekao: "Prošle godine, kao jedina žena inspektor u opštini..."; Sama ova definicija odaje osobu. Rekavši AI da „pronađe identifikacione detalje u svakom transkriptu“, pojavilo se 11 takvih latentnih identifikatora koji su generalizovani.
Slučaj 2 — Pojednostavljeni tekst pristanka. Obrazac za pristanak jednog tima bio je napisan teškim legalnim jezikom; Učesnici su potpisivali bez razumijevanja. YZ je smanjio tekst na nivo čitanja 8. razreda i napravio svaki članak na čistom turskom jeziku. Učesnici su sada zaista razumjeli i dali pristanak; Etička komisija je to također odobrila.
Slučaj 3 — Izborom vozila izbjegnuta je kriza. Doktorant je trebao da učita osjetljive intervjue sa žrtvama u opći alat za umjetnu inteligenciju kako bi ih sumirao. Njegov savjetnik je podsjetio da podaci nisu anonimni i da je politika čuvanja podataka vozila nepoznata. Podaci su prvo u potpunosti anonimizirani i obrađeni samo u okruženju sa zaštitom podataka koje je odobrila institucija.
Četiri šablona za kopiranje
1) Kontrola anonimizacije:
Označite SVAKI detalj u tekstu ispod koji bi mogao direktno ili indirektno identificirati osobu: ime, lokaciju, radno mjesto, jedinstvene uloge („jedinstvene”), datum, vezu, bolest, rijetke karakteristike. Predložite anonimni odgovor na svaki (npr. "Učesnik 7", "Okrug X"). Tekst: [ovdje]
2) Nacrt informiranog pristanka:
Nacrtajte tekst informisanog pristanka na jednostavnom jeziku (nivo 8. razreda) za studiju. Uključuje: svrhu istraživanja, šta će se raditi, trajanje, dobrovoljnost i pravo na povlačenje, kako će podaci biti pohranjeni/brisani, osiguranje povjerljivosti, komunikacija. Izbjegavajte pravni žargon. Predmet: [x]
3) Provjera etičkog rizika:
Moj dizajn istraživanja: [sažetak]. Učesnici: [ko]. Navedite moguće etičke rizike: mogućnost štete, neravnoteža moći, ranjiva grupa, rizik privatnosti, problemi pristanka. Dajte preporuku za ublažavanje za svaki rizik. Ako postoje krhke grupe, navedite posebne točke pažnje.
4) AI sigurnosna kontrola vozila:
Imam sljedeću vrstu podataka: [tip]. Napravi kontrolnu listu sigurnosnih pitanja koja bih trebao postaviti prije nego što ovo obradim u AI alatu: gdje su podaci pohranjeni, da li se koriste u obrazovanju, da li su anonimni, postoji li institucionalno odobrenje, da li su to osjetljivi podaci. Predložite kriterije odluke.
Slaba prompt / Jaka prompt
Slab upit:
Sažmite ovaj zapis intervjua: "Ja sam Ayşe Yılmaz, učiteljica u Kadıköyu, moja supruga je bila prošle godine..." [tekst sa punim imenom, lična karta]
Ovo propušta vjerodajnice direktno u vanjski alat - ozbiljno kršenje privatnosti. Podaci uopće nisu anonimizirani.
Snažan upit:
Sumirajte tekst u nastavku. Tekst je bio unaprijed anonimiziran: imena su zamijenjena kodovima poput "Učesnik 3", lokacije su zamijenjene generičkim frazama poput "Okrug X", identifikacijski detalji su izostavljeni. Dodavanje novog identifikatora; nemojte praviti zaključak koji bi narušio anonimnost. Tekst: [anonimizirani tekst]
Razlika: u drugom pristupu, identitet učesnika uopšte ne dopire do alata; Privatnost je zaštićena od samog početka.
Etički principi i AI praksa
princip
Značenje
rizik sa AI
zaštita
Informirani pristanak
Informirani slobodni pristanak
—
Jednostavan tekst saglasnosti
ne naškodi
Nema štete za učesnika
pogrešno pripisivanje
Revizija lojalnosti
Privatnost
Identitet je zaštićen
curenje podataka
Anonimizacija
Sigurnost podataka
Sigurno skladištenje
obrada u oblaku
Odobreno vozilo
poštenje
Nema uklapanja
halucinacije
provjera izvora
Uobičajene greške
- Mislim da sam upravo izbrisao ime i anonimizirao ga. Indirektni deskriptori ("jedini") odaju osobu.
- Lijepljenje neobrađenih ID podataka u vanjski alat. To je jedno od najozbiljnijih kršenja privatnosti.
- Pisanje teksta saglasnosti u žargonu. Pristanak koji nije shvaćen nije stvarni pristanak.
- Nepoznavanje politike podataka o vozilu. Saznajte gdje se vaši podaci pohranjuju i koriste.
- Tretiranje etičkog odobrenja kao formalnosti. Etička komisija štiti učesnika; shvati to ozbiljno.
Ukratko
Srž društvenog istraživanja je odgovornost prema učesniku. Informirani pristanak, nezlonamjernost i povjerljivost su okosnica svake studije. AI; Može pomoći u pojednostavljenju teksta pristanka, skriningu etičkih rizika i kontroli anonimizacije. Ali davanje neobrađenih ID podataka AI alatu je ozbiljan prekršaj; Prvo potpuno anonimizirajte podatke, očistite indirektne identifikatore, koristite samo sigurne alate koje je odobrila vaša institucija i ispunite svako obećanje koje ste dali. Etika nije ukras istraživanja, već preduvjet.
Zadatak aplikacije
Pripremite kratki uzorak transkripta (uredite sami) koji uključuje identifikacijske informacije. Pronađite i generalizirajte sve direktne i indirektne identifikatore iz AI pomoću predloška "kontrola anonimizacije"; Izbrojite koliko tajnih identifikatora izlazi. Zatim kreirajte jednostavan tekst pristanka koristeći "nacrt informiranog pristanka" i zamolite prijatelja da ga pročita da provjeri da li je zaista razumljiv.
kontrolna lista
- [ ] Provjerio sam zahtjeve i proces etičkog odobrenja.
- [ ] Napisao sam tekst saglasnosti na jednostavnom, razumljivom jeziku.
- [ ] Obrisao sam sve direktne i indirektne identifikatore prije nego što sam dao podatke AI.
- [ ] Naučio sam politiku zadržavanja podataka AI alata koji koristim.
- [ ] Koristio sam samo odobrene, sigurne medije za osjetljive podatke.