Печалби:
- Способност за прилагане на принципите на информирано съгласие, невредимост и поверителност към социални изследвания
- Възможност за правилно анонимизиране на данни чрез изчистване на всички преки и непреки идентификатори, преди да ги дадете на изкуствен интелект
- Възможност за запитване относно политиката за запазване на данни на използвания инструмент за изкуствен интелект и използване само на одобрени медии за чувствителни данни
Социалните изследвания се правят с хора и това е свързано с голяма отговорност. Хората ви разказват за живота си, за мненията си, понякога за най-крехките си преживявания. Изследователската етика е набор от правила за поддържане на това доверие: ненараняване на участниците, получаване на тяхното съгласие, защита на тяхната самоличност и не злоупотреба с техните данни. В ерата на AI тази отговорност е нараснала още повече, тъй като поставянето на данни на участниците в инструмент на AI вече може да означава несъзнателно изтичане на тези данни. В този модул ще научите основните принципи на изследователската етика, как да защитите поверителността при използване на AI и как правилно да анонимизирате данните (правейки човека неразпознаваем).
Три основни принципа са гръбнакът на всяко социално изследване. Информирано съгласие: участникът трябва да разбере какво представлява изследването и как ще бъдат използвани неговите данни и да каже свободно „да“. Безвредност: изследването не трябва да причинява физическа, психологическа или социална вреда на участника. Поверителност и конфиденциалност: самоличността и данните на участника трябва да бъдат защитени. AI инструментите могат да улеснят тези политики (напр. изготвяне на текст за съгласие, контрол на анонимизирането) или да ги компрометират (напр. качване на препис, който може да бъде идентифициран лично в облак). Разликата е дали потребителят е в съзнание или не.
Стъпка по стъпка: етично и безопасно изследване
1. Получете етично одобрение. В повечето институции (университети, институти) изследванията, включващи хора, изискват одобрение от комисия по етика (комисията, която гарантира, че изследването не вреди на участника). AI помага при изготвянето на текста на приложението; Самото одобрение принадлежи на институцията.
2. Напишете текста на съгласието ясно. Участникът трябва да бъде информиран на език, който разбира, а не на тежък юридически език. AI изготвя опростен и пълен текст за съгласие; Вие потвърждавате всеки артикул.
3. Анонимизирайте данните, преди да ги дадете на AI. Име, адрес, телефонен номер, работно място и идентификационни данни трябва да бъдат премахнати. Просто изтриването на името често не е достатъчно; Описание като "с три деца, единствената аптекарка в квартал Х" също издава човека.
4. Знайте кой инструмент съхранява данни и как. Данните, които поставяте в AI инструмент, се обработват на сървърите на този инструмент и може да се използват при обучение в някои услуги. За чувствителни данни това може да е неприемливо; Използвайте инструменти с гаранция за защита на данните, които са одобрени от вашата институция.
5. Съхранявайте данните сигурно и ги изтривайте своевременно. Спазвайте ангажимента за период на съхранение и изтриване, който сте обещали във вашето съгласие.
Внимание: Поставянето на необработени данни за участници, съдържащи лична информация (наименован препис, информация за контакт, чувствителни лични данни) в който и да е AI инструмент е сериозно етично и правно нарушение. Първо анонимизирайте данните; Ако не можете да го анонимизирате, никога не предоставяйте тези данни на външен инструмент.
три мини калъфа
Случай 1 — Недостатъчна анонимност. Изследовател изтри имена от преписите и ги даде на AI. Но един участник каза: „Миналата година като единствената жена инспектор в общината...“; Само това определение издаде човека. Като каза на AI да „намери идентифициращи подробности във всеки препис“, 11 такива латентни идентификатора се появиха и бяха обобщени.
Случай 2 — Текстът на съгласието е опростен. Формулярът за съгласие на един отбор беше написан на тежък юридически език; Участниците се подписваха, без да разбират. YZ намали текста до нивото на четене за 8 клас и направи всяка статия на обикновен турски. Сега участниците наистина разбраха и дадоха съгласие; Етичната комисия също го одобри.
Случай 3 — Предотвратена криза при избор на превозно средство. Докторант се канеше да качи чувствителни интервюта с жертви в общ инструмент за изкуствен интелект, за да ги обобщи. Неговият съветник напомни, че данните не са анонимизирани и политиката за запазване на данни на превозното средство е неизвестна. Първоначално данните бяха напълно анонимизирани и обработвани само в среда с гарантирана защита на данните, одобрена от институцията.
Четири копируеми шаблона
1) Контрол на анонимизирането:
Маркирайте ВСЕКИ детайл в текста по-долу, който може пряко или косвено да идентифицира лицето: име, местоположение, работно място, уникални роли („единствен по рода си“), дата, връзка, болест, редки характеристики. Предложете анонимен отговор на всеки (напр. „Участник 7“, „Област X“). Текст: [тук]
2) Проект на информирано съгласие:
Изготвяне на текст на обикновен език (ниво от 8-ми клас) за информирано съгласие за изследване. То включва: цел на изследването, какво ще се прави, продължителност, доброволност и право на отказ, как данните ще бъдат съхранявани/изтрити, гаранция за поверителност, комуникация. Избягвайте правния жаргон. Тема: [x]
3) Проверка на етичен риск:
Моят изследователски дизайн: [резюме]. Участници: [кой]. Избройте възможните етични рискове: потенциал за вреда, дисбаланс на властта, уязвима група, риск за поверителността, проблеми със съгласието. Дайте препоръка за смекчаване на всеки риск. Ако има уязвими групи, посочете специални точки на внимание.
4) AI контрол на безопасността на превозното средство:
Имам следния тип данни: [тип]. Измислете контролен списък с въпроси за сигурността, които трябва да задам, преди да обработя това в инструмент с изкуствен интелект: къде се съхраняват данните, използвани ли са в образованието, анонимни ли са, има ли институционално одобрение, чувствителни данни ли са. Предложете критерии за вземане на решение.
Слаба подкана / Силна подкана
Слаба подкана:
Обобщете този запис на интервюто: „Аз съм Айше Йълмаз, учителка в Кадъкьой, съпругата ми беше миналата година...“ [текст с пълно име, ID]
Това изтича идентификационни данни директно към външния инструмент - сериозно нарушение на поверителността. Данните изобщо не са анонимизирани.
Мощна подкана:
Резюмирайте текста по-долу. Текстът беше предварително анонимизиран: имената бяха заменени с кодове като „Участник 3“, местоположенията бяха заменени с общи фрази като „Област X“, идентифициращите подробности бяха пропуснати. Добавяне на нов идентификатор; не правете заключение, което би нарушило анонимността.Текст: [анонимизиран текст]
Разликата: при втория подход самоличността на участника изобщо не достига до инструмента; Поверителността е защитена от самото начало.
Етични принципи и AI практика
принцип
Значение
риск с AI
защита
Информирано съгласие
Информирано свободно съгласие
—
Прост текст за съгласие
не вреди
Без вреда за участника
погрешно приписване
Одит на лоялността
Поверителност
Самоличността е защитена
изтичане на данни
Анонимизиране
Сигурност на данните
Безопасно съхранение
облачна обработка
Одобрено превозно средство
честност
Без монтаж
халюцинация
проверка на източника
Често срещани грешки
- Мисля, че току-що изтрих името и го анонимизирах. Косвените дескриптори („единственият“) издават човека.
- Поставяне на необработените ID данни във външния инструмент. Това е едно от най-сериозните нарушения на поверителността.
- Писане на текста на съгласието на жаргон. Съгласие, което не е разбрано, не е истинско съгласие.
- Непознаване на политиката за данни на превозното средство. Разберете къде се съхраняват и използват вашите данни.
- Третиране на етичното одобрение като формалност. Комисията по етика защитава участника; вземете го на сериозно.
В обобщение
Сърцето на социалните изследвания е отговорността към участниците. Информираното съгласие, невредимостта и поверителността са гръбнакът на всяко проучване. AI; Може да помогне за опростяване на текста на съгласието, скрининг на етичен риск и контрол на анонимизирането. Но предоставянето на сурови идентификационни данни на AI инструмент е сериозно нарушение; Първо напълно анонимизирайте данните, изчистете косвените идентификатори, използвайте само сигурни инструменти, одобрени от вашата институция, и спазвайте всяко дадено обещание. Етиката не е украшение на изследването, а предпоставка.
Задача за приложение
Подгответе кратък примерен препис (редактирайте сами), който включва идентифицираща информация. Намерете и обобщете всички преки и косвени идентификатори от AI с шаблона „контрол на анонимизирането“; Пребройте колко секретни идентификатора излизат. След това създайте прост текст за съгласие, като използвате „черновата за информирано съгласие“ и накарайте приятел да го прочете, за да провери дали е наистина разбираем.
контролен списък
- [ ] Проверих изискването за етично одобрение и процеса.
- [ ] Написах текста на съгласието на прост, разбираем език.
- [ ] Изчистих всички преки и непреки идентификатори, преди да дам данните на AI.
- [ ] Научих политиката за запазване на данни на инструмента за изкуствен интелект, който използвам.
- [ ] Използвах само одобрени, сигурни носители за чувствителни данни.