Прибуток:
- Здатність застосовувати принципи інформованої згоди, нешкідливості та конфіденційності до соціальних досліджень
- Можливість належним чином анонімізувати дані шляхом очищення всіх прямих і непрямих ідентифікаторів перед передачею їх штучному інтелекту
- Можливість запитувати політику збереження даних використовуваного інструменту штучного інтелекту та використовувати лише затверджені носії для конфіденційних даних
Соціальні дослідження проводяться з людьми, і це пов’язано з великою відповідальністю. Люди розповідають вам про своє життя, свої думки, іноді про свій найкрихкіший досвід. Дослідницька етика — це набір правил для підтримки цієї довіри: не завдавати шкоди учасникам, отримувати їхню згоду, захищати їх особистість і не використовувати їх дані неналежним чином. В епоху штучного інтелекту ця відповідальність зросла ще більше, оскільки вставлення даних учасників у інструмент ШІ тепер може означати несвідомий витік цих даних. У цьому розділі ви дізнаєтесь про основні принципи дослідницької етики, як захистити конфіденційність під час використання штучного інтелекту та як правильно анонімізувати дані (щоб зробити людину невпізнаною).
Три основні принципи є основою кожного соціального дослідження. Інформована згода: учасник повинен розуміти, що таке дослідження і як будуть використовуватися його дані, і вільно сказати «так». Незловмисність: дослідження не повинно завдавати фізичної, психологічної чи соціальної шкоди учаснику. Конфіденційність і конфіденційність: особа та дані учасника повинні бути захищені. Інструменти штучного інтелекту можуть полегшити ці політики (наприклад, складання тексту згоди, контроль анонімізації) або скомпрометувати їх (наприклад, завантаження стенограми, що дозволяє ідентифікувати особу, у хмару). Різниця в тому, чи є користувач у свідомості чи ні.
Крок за кроком: етичні та безпечні дослідження
1. Отримайте етичне схвалення. У більшості установ (університетів, інститутів) дослідження за участю людей вимагають схвалення комітету з етики (комітету, який гарантує, що дослідження не зашкодить учаснику). AI допомагає скласти текст заявки; Саме погодження належить установі.
2. Чітко напишіть текст згоди. Учасник має бути поінформований мовою, яку він/вона може зрозуміти, а не важкою юридичною мовою. ШІ складає простий і повний текст згоди; Ви підтверджуєте кожен пункт.
3. Анонімізуйте дані перед тим, як передати їх ШІ. Ім’я, адресу, номер телефону, місце роботи та ідентифікаційні дані слід видалити. Просто видалити ім'я часто недостатньо; Опис на кшталт «з трьома дітьми, єдиний фармацевт у районі X» також видає людину.
4. Знати, який інструмент зберігає дані та як. Дані, які ви вставляєте в інструмент штучного інтелекту, обробляються на серверах цього інструменту та можуть використовуватися для навчання в деяких службах. Для конфіденційних даних це може бути неприйнятним; Використовуйте інструменти з гарантією захисту даних, схвалені вашою установою.
5. Надійно зберігайте дані та своєчасно видаляйте їх. Дотримуйтеся терміну зберігання та зобов’язань щодо видалення, які ви обіцяли у своїй згоді.
Застереження: вставлення необроблених даних учасників, що містять особисту інформацію (іменна стенограма, контактна інформація, конфіденційні особисті дані) у будь-який інструмент штучного інтелекту є серйозним порушенням етики та законодавства. Спочатку анонімізуйте дані; Якщо ви не можете зробити це анонімним, ніколи не передавайте ці дані зовнішньому інструменту.
три міні-чохла
Випадок 1 — Недостатня анонімізація. Дослідник видалив імена зі стенограм і передав їх ШІ. Але один учасник сказав: «Минулого року, як єдина жінка-інспектор у муніципалітеті...»; Вже одне це визначення видавало людину. Коли штучному інтелекту наказано «знайти ідентифікаційні деталі в кожній транскрипції», з’явилося 11 таких прихованих ідентифікаторів, які були узагальнені.
Випадок 2 — спрощений текст згоди. Форма згоди однієї команди була написана важким юридичним мовою; Учасники підписувалися, не розуміючи. YZ зменшив текст до рівня читання для 8-го класу та зробив кожну статтю простою турецькою мовою. Тепер учасники дійсно зрозуміли та дали згоду; Його також схвалив комітет з етики.
Випадок 3 — Вибір транспортного засобу запобіг кризі. Аспірант збирався завантажити конфіденційні інтерв’ю з жертвами в загальний інструмент ШІ, щоб узагальнити їх. Його радник нагадав, що дані не були анонімними, а політика збереження даних транспортного засобу невідома. Спочатку дані були повністю анонімні та оброблялися лише в середовищі із гарантованим захистом даних, схваленим установою.
Чотири шаблони, які можна копіювати
1) Контроль анонімізації:
Позначте КОЖНУ деталь у тексті нижче, яка може прямо чи опосередковано ідентифікувати особу: ім’я, місцезнаходження, місце роботи, унікальні ролі («єдині в своєму роді»), дату, стосунки, захворювання, рідкісні характеристики. Запропонуйте анонімну відповідь на кожен (наприклад, «Учасник 7», «Країна X»). Текст: [тут]
2) Проект інформованої згоди:
Створіть простий текст (рівень 8-го класу) для інформованої згоди для дослідження. Він включає: мету дослідження, що буде зроблено, тривалість, добровільність і право відмови, як дані зберігатимуться/видалятимуться, забезпечення конфіденційності, комунікація. Уникайте юридичного жаргону. Тема: [x]
3) Скринінг етичного ризику:
Мій дизайн дослідження: [резюме]. Учасники: [хто]. Перелічіть можливі етичні ризики: потенціал шкоди, дисбаланс влади, вразлива група, ризик конфіденційності, проблеми згоди. Надайте рекомендації щодо зменшення ризику для кожного ризику. Якщо є крихкі групи, вкажіть особливу увагу.
4) ШІ контроль безпеки автомобіля:
У мене є такий тип даних: [тип]. Придумайте контрольний список питань безпеки, які я маю поставити перед обробкою в інструменті штучного інтелекту: де зберігаються дані, чи використовуються вони в освіті, чи є вони анонімними, чи є інституційне схвалення, чи це конфіденційні дані. Запропонуйте критерії рішення.
Слабка підказка / Сильна підказка
Слабка підказка:
Коротко опишіть цей запис інтерв’ю: «Я Айше Їлмаз, вчителька в Кадикей, моя дружина минулого року...» [текст із повним ім’ям, ідентифікатором]
Це призводить до витоку облікових даних безпосередньо до зовнішнього інструменту — серйозне порушення конфіденційності. Дані взагалі не знеособлені.
Потужна підказка:
Підсумуйте наведений нижче текст. Текст було попередньо анонімізовано: імена були замінені кодами, як-от «Учасник 3», місцезнаходження замінено загальними фразами, як-от «Округ X», ідентифікаційні деталі були опущені. Додавання нового ідентифікатора; не робіть висновків, які порушують анонімність. Текст: [анонімний текст]
Відмінність: у другому підході особистість учасника взагалі не досягає інструменту; Конфіденційність захищена з самого початку.
Етичні принципи та практика ШІ
принцип
Значення
ризик з ШІ
захисту
Інформована згода
Інформована вільна згода
—
Простий текст згоди
не нашкодити
Без шкоди для учасника
неправильне віднесення
Аудит лояльності
Конфіденційність
Ідентичність захищена
витік даних
Анонімізація
Безпека даних
Безпечне зберігання
хмарна обробка
Схвалений транспортний засіб
чесність
Без примірки
галюцинація
перевірка джерела
Поширені помилки
- Здається, я просто видалив ім’я та зробив його анонімним. Непрямі дескриптори («єдиний») видають особу.
- Вставлення необроблених ідентифікаційних даних у зовнішній інструмент. Це одне з найсерйозніших порушень конфіденційності.
- Написання тексту згоди на жаргоні. Незрозуміла згода не є справжньою згодою.
- Незнання політики даних автомобіля. Дізнайтеся, де зберігаються та використовуються ваші дані.
- Ставлення до етичного схвалення як до формальності. Комісія з етики захищає учасника; сприйміть це серйозно.
Підсумовуючи
Серцем соціального дослідження є відповідальність перед учасником. Інформована згода, нешкідливість і конфіденційність є основою кожного дослідження. ШІ; Це може допомогти у спрощенні тексту згоди, перевірці етичних ризиків і контролі анонімізації. Але надання необроблених ідентифікаційних даних інструменту ШІ є серйозним порушенням; Спочатку повністю анонімізуйте дані, очистіть непрямі ідентифікатори, використовуйте лише безпечні інструменти, схвалені вашою установою, і дотримуйтеся всіх своїх обіцянок. Етика - це не прикраса дослідження, а обов'язкова умова.
Аплікаційне завдання
Підготуйте короткий зразок стенограми (відредагуйте самостійно), який містить ідентифікаційну інформацію. Знайти та узагальнити всі прямі та непрямі ідентифікатори з AI за допомогою шаблону «контроль анонімізації»; Порахуйте, скільки секретних ідентифікаторів виходить. Потім створіть простий текст згоди, використовуючи «чернетку інформованої згоди», і попросіть друга прочитати його, щоб перевірити, чи він справді зрозумілий.
контрольний список
- [ ] Я перевірив етичні вимоги та процес схвалення.
- [ ] Я написав текст згоди простою, зрозумілою мовою.
- [ ] Я очистив усі прямі та непрямі ідентифікатори, перш ніж надати дані штучному інтелекту.
- [ ] Я дізнався про політику збереження даних інструменту ШІ, яким я користуюся.
- [ ] Я використовував лише схвалені безпечні носії для конфіденційних даних.