Добици:
- Способност примене принципа информисаног пристанка, незлонамерности и поверљивости на друштвена истраживања
- Способност да се подаци правилно анонимизују брисањем свих директних и индиректних идентификатора пре него што их дају вештачкој интелигенцији
- Могућност постављања упита о политици задржавања података коришћеног алата за вештачку интелигенцију и коришћење само одобрених медија за осетљиве податке
Друштвена истраживања се раде са људима, а то долази са великом одговорношћу. Људи вам говоре о својим животима, својим мишљењима, понекад и најкрхкијим искуствима. Истраживачка етика је скуп правила за одржавање овог поверења: не наношење штете учеснику, добијање његовог пристанка, заштита његовог идентитета и незлоупотреба његових података. У доба вештачке интелигенције, ова одговорност је још више порасла, јер лепљење података учесника у АИ алат сада може значити несвесно цурење тих података. У овој јединици ћете научити основне принципе истраживачке етике, како заштитити поверљивост приликом коришћења вештачке интелигенције и како правилно анонимизовати податке (чинити особу непрепознатљивом).
Три основна принципа су окосница сваког друштвеног истраживања. Информисани пристанак: учесник мора да разуме шта је истраживање и како ће се његови подаци користити и слободно рећи „да“. Не-злонамерност: истраживање не би требало да проузрокује физичку, психолошку или социјалну штету учеснику. Поверљивост и поверљивост: идентитет и подаци учесника морају бити заштићени. Алати за вештачку интелигенцију могу да олакшају ове смернице (нпр. израда текста сагласности, контрола анонимизације) или да их угрозе (нпр. отпремање транскрипта који може да се идентификује у облак). Разлика је у томе да ли је корисник свестан или не.
Корак по корак: етичко и сигурно истраживање
1. Добијте етичко одобрење. У већини институција (универзитети, институти) истраживања која укључују људе захтевају одобрење етичког одбора (комитета који обезбеђује да истраживање не штети учеснику). АИ помаже у изради текста апликације; Само одобрење припада институцији.
2. Јасно напишите текст сагласности. Учесник треба да буде информисан на језику који он/она разуме, а не тешким правним језиком. АИ саставља једноставан и потпун текст сагласности; Ви потврђујете сваку ставку.
3. Анонимизирајте податке пре него што их дате АИ. Треба уклонити име, адресу, број телефона, радно место и идентификационе детаље. Само брисање имена често није довољно; Опис као што је „са троје деце, једини фармацеут у насељу Кс“ такође одаје особу.
4. Знати која алатка чува податке и како. Подаци које налепите у АИ алат се обрађују на серверима тог алата и могу се користити у обуци у неким услугама. За осетљиве податке ово може бити неприхватљиво; Користите алате са гаранцијом о заштити података које је одобрила ваша институција.
5. Чувајте податке безбедно и избришите их на време. Поштујте период задржавања и обавезу брисања које сте обећали у својој сагласности.
Опрез: Лепљење необрађених података учесника који садрже личне информације (именовани транскрипт, контакт информације, осетљиви лични подаци) у било који алат за вештачку интелигенцију представља озбиљно етичко и законско кршење. Прво анонимизирајте податке; Ако не можете да их анонимизујете, никада не дајте те податке спољном алату.
три мини кофера
Случај 1 — Недовољна анонимност. Истраживач је избрисао имена из транскрипата и дао их АИ. Али један учесник је рекао: "Прошле године, као једина жена инспектор у општини..."; Сама ова дефиниција дала је особу. Рекавши АИ да „пронађе идентификационе детаље у сваком транскрипту“, појавило се 11 таквих латентних идентификатора који су генерализовани.
Случај 2 — Текст сагласности је поједностављен. Образац за сагласност једног тима био је написан тешким легалним језиком; Учесници су потписивали без разумевања. ИЗ је свео текст на ниво читања 8. разреда и направио сваки чланак на чистом турском језику. Учесници су сада заиста разумели и дали сагласност; Етички комитет је то такође одобрио.
Случај 3 — Избор возила спречио је кризу. Студент докторских студија се спремао да пренесе осетљиве интервјуе са жртвама у општи алат за вештачку интелигенцију да их сумира. Његов саветник је подсетио да подаци нису анонимни и да је политика чувања података возила непозната. Подаци су прво потпуно анонимизовани и обрађени само у окружењу са заштитом података које је одобрила институција.
Четири шаблона за копирање
1) Контрола анонимизације:
Означите СВАКИ детаљ у тексту испод који би директно или индиректно могао да идентификује особу: име, локацију, радно место, јединствене улоге („јединствене”), датум, везу, болест, ретке карактеристике. Предложите анонимни одговор на сваки (нпр. „Учесник 7“, „Округ Кс“). Текст: [овде]
2) Нацрт информисане сагласности:
Нацртајте текст о информисаној сагласности за студију на једноставном језику (ниво 8. разреда). То укључује: сврху истраживања, шта ће се урадити, трајање, добровољност и право на повлачење, како ће се подаци чувати/брисати, осигурање поверљивости, комуникација. Избегавајте правни жаргон. Тема: [к]
3) Провера етичког ризика:
Мој истраживачки дизајн: [сажетак]. Учесници: [ко]. Наведите могуће етичке ризике: потенцијал за штету, неравнотежа моћи, рањива група, ризик приватности, питања сагласности. Дајте препоруку за ублажавање за сваки ризик. Ако постоје крхке групе, наведите посебне тачке пажње.
4) АИ контрола безбедности возила:
Имам следећу врсту података: [тип]. Направи контролну листу безбедносних питања која треба да поставим пре него што ово обрадим у АИ алату: где се чувају подаци, да ли се користе у образовању, да ли су анонимни, да ли постоји институционално одобрење, да ли су осетљиви подаци. Предложите критеријуме одлуке.
Слаби промпт / Јаки промпт
Слабо обавештење:
Сумирајте овај запис интервјуа: „Ја сам Ајше Јилмаз, учитељица у Кадикоју, моја жена је била прошле године...“ [текст са пуним именом, лична карта]
Ово пропушта акредитиве директно у спољни алат - озбиљно кршење приватности. Подаци уопште нису анонимни.
Снажан упит:
Сумирајте текст у наставку. Текст је био унапред анонимизован: имена су замењена шифрама попут „Учесник 3“, локације су замењене генеричким фразама као што је „Округ Кс“, детаљи за идентификацију су изостављени. Додавање новог идентификатора; немојте правити закључак који би нарушио анонимност. Текст: [анонимизовани текст]
Разлика: у другом приступу, идентитет учесника уопште не допире до алата; Приватност је заштићена од самог почетка.
Етички принципи и пракса вештачке интелигенције
принцип
Значење
ризик са АИ
заштите
Информисани пристанак
Информисани слободни пристанак
—
Једноставан текст сагласности
не чини штету
Нема штете за учесника
погрешно приписивање
Ревизија лојалности
Приватност
Идентитет је заштићен
цурење података
Анонимизација
Сигурност података
Безбедно складиштење
обрада облака
Одобрено возило
поштење
Нема уклапања
халуцинације
верификација извора
Уобичајене грешке
- Мислим да сам управо обрисао име и анонимизирао га. Индиректни дескриптори („једини“) одају особу.
- Лепљење необрађених ИД података у спољну алатку. То је једно од најозбиљнијих кршења приватности.
- Писање текста сагласности у жаргону. Сагласност која се не разуме није стварна сагласност.
- Не знајући политику података о возилу. Сазнајте где се ваши подаци чувају и користе.
- Третирање етичког одобрења као формалности. Етичка комисија штити учесника; схватите то озбиљно.
Укратко
Срж друштвеног истраживања је одговорност према учеснику. Информисани пристанак, незлонамерност и поверљивост су окосница сваке студије. АИ; Може помоћи у поједностављивању текста сагласности, скринингу етичког ризика и контроли анонимизације. Али давање необрађених ИД података АИ алату је озбиљан прекршај; Прво потпуно анонимизујте податке, јасните индиректне идентификаторе, користите само безбедне алате које је одобрила ваша институција и држите свако обећање које дате. Етика није украс истраживања, већ предуслов.
Задатак апликације
Припремите кратак узорак транскрипта (уредите сами) који укључује идентификационе информације. Пронађите и генерализујте све директне и индиректне идентификаторе из АИ помоћу шаблона „контрола анонимизације“; Израчунајте колико тајних идентификатора излази. Затим направите једноставан текст сагласности користећи „нацрт обавештене сагласности“ и замолите пријатеља да га прочита да тестира да ли је заиста разумљив.
контролна листа
- [ ] Проверио сам етичко одобрење и процес.
- [ ] Написао сам текст сагласности на једноставном, разумљивом језику.
- [ ] Обрисао сам све директне и индиректне идентификаторе пре него што сам дао податке АИ.
- [ ] Научио сам политику задржавања података АИ алата који користим.
- [ ] Користио сам само одобрене, безбедне медије за осетљиве податке.