zisky:
- Schopnost aplikovat principy informovaného souhlasu, neškodlivosti a důvěrnosti na sociální výzkum
- Schopnost správně anonymizovat data vymazáním všech přímých a nepřímých identifikátorů před jejich předáním umělé inteligenci
- Možnost dotazovat se na zásady uchovávání dat použitého nástroje umělé inteligence a používat pouze schválená média pro citlivá data
Sociální výzkum se provádí s lidmi, a to s sebou nese velkou odpovědnost. Lidé vám vyprávějí o svých životech, názorech, někdy i o svých nejkřehčích zkušenostech. Etika výzkumu je soubor pravidel pro udržení této důvěry: nepoškozovat účastníka, získat jeho souhlas, chránit jeho identitu a nezneužívat jeho data. Ve věku umělé inteligence tato odpovědnost ještě vzrostla, protože vkládání dat účastníků do nástroje umělé inteligence může nyní znamenat nevědomý únik těchto dat. V této lekci se naučíte základní principy výzkumné etiky, jak chránit důvěrnost při používání AI a jak správně anonymizovat data (proměnit osobu k nepoznání).
Páteří každého sociálního výzkumu jsou tři základní principy. Informovaný souhlas: účastník musí rozumět tomu, co je výzkum a jak budou jeho data použita, a svobodně říci „ano“. Non-maleficence: výzkum by neměl způsobit účastníkovi fyzickou, psychickou nebo sociální újmu. Důvěrnost a důvěrnost: totožnost a údaje účastníka musí být chráněny. Nástroje umělé inteligence mohou tyto zásady usnadnit (např. vypracování textu souhlasu, kontrola anonymizace) nebo je kompromitovat (např. nahrání přepisu umožňujícího zjištění totožnosti do cloudu). Rozdíl je v tom, zda je uživatel při vědomí nebo ne.
Krok za krokem: etický a bezpečný výzkum
1. Získejte etický souhlas. Ve většině institucí (univerzity, ústavy) vyžaduje výzkum zahrnující lidi souhlas etické komise (komise, která zajišťuje, že výzkum nepoškodí účastníka). AI pomáhá navrhovat text aplikace; Samotné schválení náleží instituci.
2. Napište jasně text souhlasu. Účastník by měl být informován v jazyce, kterému rozumí, nikoli v těžkém právním jazyce. AI navrhne jednoduchý a úplný text souhlasu; Každou položku potvrdíte.
3. Anonymizujte data, než je předáte AI. Jméno, adresa, telefonní číslo, pracoviště a identifikační údaje by měly být odstraněny. Pouhé smazání jména často nestačí; Popis jako "se třemi dětmi, jediný lékárník v sousedství X" také prozrazuje osobu.
4. Vědět, který nástroj ukládá data a jak. Data, která vložíte do nástroje AI, se zpracovávají na serverech tohoto nástroje a mohou být použita při školení v některých službách. U citlivých údajů to může být nepřijatelné; Používejte nástroje se zárukou ochrany dat, které jsou schváleny vaší institucí.
5. Uchovávejte data bezpečně a včas je vymažte. Dodržujte dobu uchování a závazek k odstranění, které jste slíbili ve svém souhlasu.
Upozornění: Vkládání nezpracovaných údajů o účastnících obsahujících osobně identifikovatelné informace (pojmenovaný přepis, kontaktní údaje, citlivé osobní údaje) do jakéhokoli nástroje umělé inteligence je vážným etickým a právním porušením. Nejprve anonymizujte data; Pokud je nemůžete anonymizovat, nikdy tato data nedávejte externímu nástroji.
tři mini pouzdra
Případ 1 – Nedostatečná anonymizace. Výzkumník vymazal jména z přepisů a dal je AI. Ale jedna účastnice řekla: "Loni jako jediná inspektorka v obci..."; Tato definice sama o sobě osobu prozradila. Tím, že řekl AI, aby „našla identifikační detaily v každém přepisu“, se objevilo a zobecnilo 11 takových latentních identifikátorů.
Případ 2 – Zjednodušený text souhlasu. Formulář souhlasu jednoho týmu byl napsán těžkou právní řečí; Účastníci podepisovali bez porozumění. YZ zredukoval text na úroveň čtení 8. třídy a vytvořil každý článek v jednoduché turečtině. Účastníci nyní skutečně pochopili a dali souhlas; Schválila to i etická komise.
Případ 3 – Volba vozidla odvrátila krizi. Doktorand se chystal nahrát citlivé rozhovory s oběťmi do obecného nástroje umělé inteligence, aby je shrnul. Jeho poradce připomněl, že data nebyla anonymizována a politika uchovávání dat vozidla je neznámá. Údaje byly nejprve plně anonymizovány a zpracovávány pouze v prostředí se zajištěnou ochranou údajů schváleném institucí.
Čtyři kopírovatelné šablony
1) Kontrola anonymizace:
V níže uvedeném textu označte KAŽDÝ detail, který by mohl přímo nebo nepřímo identifikovat osobu: jméno, místo, pracoviště, jedinečné role („jediné svého druhu“), datum, vztah, nemoc, vzácné vlastnosti. Ke každému navrhněte anonymní odpověď (např. „Účastník 7“, „Okres X“). Text: [zde]
2) Návrh informovaného souhlasu:
Navrhněte text informovaného souhlasu pro studii v otevřeném jazyce (úroveň 8. třídy). Zahrnuje: účel výzkumu, co bude provedeno, dobu trvání, dobrovolnost a právo na odstoupení od smlouvy, jak budou údaje uloženy/vymazány, zajištění důvěrnosti, komunikace. Vyhněte se právnímu žargonu. Předmět: [x]
3) Screening etického rizika:
Můj výzkumný design: [shrnutí]. Účastníci: [kdo]. Uveďte možná etická rizika: možnost poškození, nerovnováha moci, zranitelná skupina, riziko soukromí, problémy se souhlasem. U každého rizika uveďte doporučení ke zmírnění. Pokud existují křehké skupiny, uveďte zvláštní body, kterým je třeba věnovat pozornost.
4) AI řízení bezpečnosti vozidla:
Mám následující typ dat: [typ]. Vymyslete kontrolní seznam bezpečnostních otázek, které bych si měl položit, než to zpracuji v nástroji AI: kde jsou data uložena, jsou používána ve vzdělávání, jsou anonymní, existuje institucionální schválení, jsou to citlivá data. Navrhněte kritéria rozhodování.
Slabá výzva / Silná výzva
Slabá výzva:
Shrňte tento záznam rozhovoru: "Jsem Ayşe Yılmaz, učitelka v Kadıköy, moje žena byla minulý rok..." [text s celým jménem, ID]
Tím dojde k úniku přihlašovacích údajů přímo do externího nástroje – vážné porušení soukromí. Data nejsou vůbec anonymizována.
Výkonná výzva:
Shrňte text níže. Text byl předem anonymizován: jména byla nahrazena kódy jako „Účastník 3“, místa byla nahrazena obecnými frázemi jako „County X“, identifikační údaje byly vynechány. Přidání nového identifikátoru; nevytvářejte závěry, které by porušovaly anonymitu.Text: [anonymizovaný text]
Rozdíl: ve druhém přístupu identita účastníka k nástroji vůbec nedosáhne; Soukromí je chráněno od začátku.
Etické principy a praxe AI
princip
Význam
riziko s AI
ochranu
Informovaný souhlas
Informovaný svobodný souhlas
—
Jednoduchý text souhlasu
neubližovat
Účastníkovi žádná újma
nesprávná atribuce
Věrnostní audit
soukromí
Identita je chráněna
únik dat
anonymizace
Zabezpečení dat
Bezpečné skladování
cloudové zpracování
Schválené vozidlo
poctivost
Žádná montáž
halucinace
ověření zdroje
Časté chyby
- Myslím, že jsem to jméno smazal a anonymizoval. Nepřímé deskriptory („jediné“) osobu prozradí.
- Vložení nezpracovaných dat ID do externího nástroje. Je to jedno z nejzávažnějších porušení soukromí.
- Psaní textu souhlasu v žargonu. Souhlas, který není pochopen, není skutečným souhlasem.
- Neznáte datovou politiku vozidla. Zjistěte, kde jsou vaše data uložena a používána.
- Považovat etické schválení za formalitu. Etická komise chrání účastníka; berte to vážně.
V souhrnu
Jádrem sociálního výzkumu je odpovědnost vůči účastníkovi. Informovaný souhlas, neškodlivost a důvěrnost jsou základem každé studie. AI; Může pomoci se zjednodušením textu souhlasu, prověřováním etických rizik a kontrolou anonymizace. Ale poskytnutí nezpracovaných dat ID nástroji AI je vážným porušením; Nejprve zcela anonymizujte data, vymažte nepřímé identifikátory, používejte pouze bezpečné nástroje schválené vaší institucí a dodržujte každý svůj slib. Etika není ozdobou výzkumu, ale předpokladem.
Aplikační úkol
Připravte si krátký vzorový přepis (upravte sami), který obsahuje identifikační údaje. Najděte a zobecněte všechny přímé a nepřímé identifikátory z AI pomocí šablony „anonymization control“; Spočítejte, kolik tajných identifikátorů vyjde. Poté vytvořte jednoduchý text souhlasu pomocí „návrhu informovaného souhlasu“ a požádejte přítele, aby si jej přečetl, aby otestoval, zda je skutečně srozumitelný.
kontrolní seznam
- [ ] Zkontroloval jsem požadavek a proces etického schválení.
- [ ] Text souhlasu jsem napsal jednoduchým a srozumitelným jazykem.
- [ ] Před předáním dat AI jsem vymazal všechny přímé a nepřímé identifikátory.
- [ ] Naučil jsem se zásady uchovávání dat nástroje AI, který používám.
- [ ] Použil jsem pouze schválená, bezpečná média pro citlivá data.