Dobici:
- Sposobnost primjene načela informiranog pristanka, nezlonamjernosti i povjerljivosti na društvena istraživanja
- Sposobnost pravilne anonimizacije podataka brisanjem svih izravnih i neizravnih identifikatora prije davanja umjetnoj inteligenciji
- Mogućnost postavljanja upita o politici zadržavanja podataka korištenog alata umjetne inteligencije i korištenja samo odobrenih medija za osjetljive podatke
Društvena istraživanja provode se s ljudima, a to uključuje veliku odgovornost. Ljudi vam govore o svojim životima, svojim mišljenjima, ponekad i o svojim najkrhkijim iskustvima. Istraživačka etika skup je pravila za održavanje tog povjerenja: ne nauditi sudioniku, dobiti njegov pristanak, zaštititi njegov identitet i ne zlouporabiti njegove podatke. U doba umjetne inteligencije ta je odgovornost još više porasla jer lijepljenje podataka o sudionicima u alat umjetne inteligencije sada može značiti nesvjesno curenje tih podataka. U ovoj ćete jedinici naučiti osnovna načela istraživačke etike, kako zaštititi povjerljivost pri korištenju umjetne inteligencije i kako ispravno anonimizirati podatke (činiti osobu neprepoznatljivom).
Tri temeljna načela okosnica su svakog društvenog istraživanja. Informirani pristanak: sudionik mora razumjeti što je istraživanje i kako će se njegovi podaci koristiti te slobodno reći "da". Neškodljivost: istraživanje ne bi trebalo uzrokovati fizičku, psihičku ili društvenu štetu sudioniku. Povjerljivost i povjerljivost: identitet i podaci sudionika moraju biti zaštićeni. Alati umjetne inteligencije mogu olakšati ova pravila (npr. sastavljanje teksta pristanka, kontrola anonimizacije) ili ih kompromitirati (npr. prijenos prijepisa koji se može osobno identificirati u oblak). Razlika je u tome je li korisnik pri svijesti ili ne.
Korak po korak: etičko i sigurno istraživanje
1. Dobiti etičko odobrenje. U većini institucija (sveučilišta, instituti) istraživanja koja uključuju ljude zahtijevaju odobrenje etičkog povjerenstva (povjerenstva koje osigurava da istraživanje ne šteti sudioniku). AI pomaže u izradi teksta prijave; Samo odobrenje pripada ustanovi.
2. Jasno napišite tekst privole. Sudionika treba informirati na jeziku koji on/ona može razumjeti, a ne na teškom pravnom jeziku. AI izrađuje jednostavan i potpun tekst suglasnosti; Vi potvrđujete svaku stavku.
3. Anonimizirajte podatke prije nego što ih date umjetnoj inteligenciji. Ime, adresu, broj telefona, radno mjesto i identifikacijske podatke treba ukloniti. Samo brisanje imena često nije dovoljno; Opis poput "s troje djece, jedina ljekarnica u susjedstvu X" također odaje osobu.
4. Znati koji alat pohranjuje podatke i kako. Podaci koje zalijepite u AI alat obrađuju se na poslužiteljima tog alata i mogu se koristiti u obuci u nekim uslugama. Za osjetljive podatke to može biti neprihvatljivo; Koristite alate s jamstvom zaštite podataka koje je odobrila vaša ustanova.
5. Podatke čuvajte na sigurnom i pravovremeno ih brišite. Pridržavajte se roka zadržavanja i obveze brisanja koje ste obećali u svom pristanku.
Oprez: lijepljenje neobrađenih podataka o sudionicima koji sadrže osobne informacije (nazvani transkript, podaci za kontakt, osjetljivi osobni podaci) u bilo koji AI alat ozbiljno je etičko i zakonsko kršenje. Najprije anonimizirajte podatke; Ako ih ne možete anonimizirati, nikada ne dajte te podatke vanjskom alatu.
tri mini kućišta
Slučaj 1 — Nedovoljna anonimizacija. Istraživač je izbrisao imena iz transkripata i dao ih AI-ju. Ali jedna sudionica je rekla: "Prošle godine, kao jedina inspektorica u općini..."; Sama ova definicija odala je osobu. Rekavši umjetnoj inteligenciji da "pronađe identifikacijske detalje u svakom transkriptu", pojavilo se 11 takvih latentnih identifikatora koji su generalizirani.
Slučaj 2 — tekst pristanka pojednostavljen. Obrazac za pristanak jednog tima bio je napisan teškim pravnim jezikom; Sudionici su se potpisivali bez razumijevanja. YZ je smanjio tekst na razinu čitanja za 8. razred i napravio svaki članak na čistom turskom jeziku. Sudionici su sada uistinu razumjeli i dali pristanak; Etičko povjerenstvo također ga je odobrilo.
Slučaj 3 — Izbor vozila izbjegao krizu. Doktorand se spremao prenijeti osjetljive intervjue sa žrtvama u opći alat umjetne inteligencije kako bi ih sažeo. Njegov savjetnik podsjetio je da podaci nisu anonimizirani i da je nepoznata politika zadržavanja podataka vozila. Podaci su najprije potpuno anonimizirani i obrađeni samo u zaštićenom okruženju koje je odobrila institucija.
Četiri predloška za kopiranje
1) Kontrola anonimizacije:
Označite SVAKI detalj u donjem tekstu koji bi mogao izravno ili neizravno identificirati osobu: ime, mjesto, radno mjesto, jedinstvene uloge (“one of a kind”), datum, vezu, bolest, rijetke karakteristike. Predložite anonimni odgovor na svaki (npr. "Sudionik 7", "Županija X"). Tekst: [ovdje]
2) Nacrt informiranog pristanka:
Nacrtajte tekst informiranog pristanka na jednostavnom jeziku (razina 8. razreda) za studiju. Uključuje: svrhu istraživanja, što će se učiniti, trajanje, dobrovoljnost i pravo na odustajanje, kako će podaci biti pohranjeni/brisani, osiguranje povjerljivosti, komunikacija. Izbjegavajte pravni žargon. Predmet: [x]
3) Provjera etičkog rizika:
Moj istraživački dizajn: [sažetak]. Sudionici: [tko]. Navedite moguće etičke rizike: mogućnost štete, neravnoteža moći, ranjiva skupina, rizik privatnosti, problemi s pristankom. Dajte preporuku za ublažavanje svakog rizika. Ako postoje osjetljive skupine, označite posebne točke pažnje.
4) AI kontrola sigurnosti vozila:
Imam sljedeću vrstu podataka: [vrsta]. Smislite kontrolni popis sigurnosnih pitanja koja bih trebao postaviti prije obrade ovoga u alatu umjetne inteligencije: gdje su podaci pohranjeni, koriste li se u obrazovanju, jesu li anonimni, postoji li institucionalno odobrenje, jesu li to osjetljivi podaci. Predložite kriterije odlučivanja.
Slab upit / Jak upit
Slab upit:
Sažmite ovaj zapis intervjua: "Ja sam Ayşe Yılmaz, učiteljica u Kadıköyu, moja žena je bila prošle godine..." [tekst s punim imenom, ID]
Time vjerodajnice cure izravno u vanjski alat — ozbiljno kršenje privatnosti. Podaci uopće nisu anonimizirani.
Snažan upit:
Sažmite donji tekst. Tekst je prethodno anonimiziran: imena su zamijenjena kodovima poput "Sudionik 3", lokacije su zamijenjene generičkim izrazima poput "Okrug X", identifikacijski detalji su izostavljeni. Dodavanje novog identifikatora; nemojte donositi zaključke koji bi narušili anonimnost.Tekst: [anonimizirani tekst]
Razlika: u drugom pristupu identitet sudionika uopće ne dopire do alata; Privatnost je zaštićena od samog početka.
Etička načela i AI praksa
princip
Značenje
rizik s AI
zaštita
Informirani pristanak
Informirani slobodni pristanak
—
Jednostavan tekst pristanka
ne naškoditi
Bez štete za sudionika
pogrešna atribucija
Revizija lojalnosti
Privatnost
Identitet je zaštićen
curenje podataka
Anonimizacija
Sigurnost podataka
Sigurno skladištenje
obrada u oblaku
Odobreno vozilo
iskrenost
Nema uklapanja
halucinacija
provjera izvora
Uobičajene greške
- Mislim da sam upravo izbrisao ime i učinio ga anonimnim. Neizravni deskriptori ("jedini") odaju osobu.
- Lijepljenje neobrađenih ID podataka u vanjski alat. To je jedna od najtežih povreda privatnosti.
- Pisanje teksta suglasnosti u žargonu. Pristanak koji se ne razumije nije pravi pristanak.
- Nepoznavanje politike podataka vozila. Saznajte gdje se vaši podaci pohranjuju i koriste.
- Tretiranje etičkog odobrenja kao formalnosti. Etičko povjerenstvo štiti sudionika; shvati to ozbiljno.
Ukratko
Srž društvenog istraživanja je odgovornost prema sudioniku. Informirani pristanak, neškodljivost i povjerljivost okosnica su svake studije. AI; Može pomoći u pojednostavljenju teksta pristanka, provjeru etičkog rizika i kontrolu anonimizacije. Ali davanje neobrađenih ID podataka AI alatu ozbiljno je kršenje; Najprije potpuno anonimizirajte podatke, očistite neizravne identifikatore, koristite samo sigurne alate koje je odobrila vaša institucija i održite svako obećanje koje ste dali. Etika nije ukras istraživanja, već preduvjet.
Zadatak aplikacije
Pripremite kratki primjer prijepisa (uredite sami) koji uključuje identifikacijske podatke. Pronađite i generalizirajte sve izravne i neizravne identifikatore iz AI s predloškom "kontrola anonimizacije"; Izbrojite koliko tajnih identifikatora izlazi. Zatim izradite jednostavan tekst pristanka pomoću "skice informiranog pristanka" i neka ga prijatelj pročita da provjeri je li doista razumljiv.
popis za provjeru
- [ ] Provjerio sam zahtjev i postupak etičkog odobrenja.
- [ ] Tekst privole sam napisao jednostavnim, razumljivim jezikom.
- [ ] Izbrisao sam sve izravne i neizravne identifikatore prije davanja podataka AI-ju.
- [ ] Naučio sam politiku zadržavanja podataka AI alata koji koristim.
- [ ] Koristio sam samo odobrene, sigurne medije za osjetljive podatke.