Конфіденційність, КВКК, Етика та професійні принципи

Прибуток:

• Здатність класифікувати та анонімізувати дані студентів у рамках КВКК та спеціальних концепцій персональних даних та застосовувати безпечний вибір транспортного засобу
• Здатність адаптувати принципи професійної етики PDR (конфіденційність, доброзичливість, нешкідливість, автономія) до використання штучного інтелекту
• Здатність розпізнавати упередженість, культурну нечутливість і галюцинації в результатах штучного інтелекту та створювати етичну політику використання

Довіра є основою професії PDR. Якщо студент може розповісти фахівцеві про свої найсокровенніші почуття, сім’ю, страхи, то лише тому, що він вірить, що інформація буде захищена. Інструменти штучного інтелекту ставлять серйозне випробування для цієї довіри: найбільш конфіденційні дані можуть вийти з-під контролю в реченні. У цьому розділі ми систематично обговорюємо конфіденційність, KVKK, професійну етику PDR і їхнє застосування до використання штучного інтелекту. Ми застосовували ці принципи частина за частиною в попередніх розділах; Тут ми об’єднаємо це в єдине ціле і перетворимо на постійний поліс.

КВКК і типи даних: що захищеніше

KVKK (Закон про захист персональних даних) – це закон, який регулює законну обробку даних людей. Особливо важливі дві концепції. Персональними даними є будь-яка інформація, яка ідентифікує або ідентифікує особу: ім’я, прізвище, номер школи, клас, адреса, фотографія. Спеціальні персональні дані - це тип конфіденційних даних, які потребують підвищеного захисту: здоров'я, психічний стан, діагноз, сексуальне життя, релігія, етнічна приналежність, кримінальний статус. Більшість записів PDR належить до цієї другої, конфіденційної категорії; тому що психічний стан, сімейні проблеми та історія підтримки є безпосередньо приватними даними. Це означає, що дані PDR ніколи не слід вводити в необробленому вигляді в публічні інструменти.

На практиці це означає три правила: (1) Мінімізація даних — працюйте з найменшою кількістю даних, необхідних для виконання роботи. (2) Анонімізація — зробити дані неможливими для особи шляхом видалення особистої інформації. (3) Безпечні засоби та межі цілей — використовуйте корпоративні інструменти із захищеними даними, де це можливо, і обробляйте дані лише з метою, для якої вони були зібрані.

Увага: недостатньо сказати «Я це якось анонімізував». Навіть якщо ім’я пропущено в тексті, унікальний опис ситуації (дуже конкретна ситуація в одного учня в невеликій школі) може зробити особу ідентифікованою. При анонімізації узагальнюйте не лише ім’я, але й деталі, які разом вказують на особу.

Практика анонімізації: процедура контролю

Перш ніж експортувати текст до інструменту, виконайте цю процедуру: (a) Видаліть прямі ідентифікатори, такі як ім’я, прізвище, номер, клас-філія, ім’я батьків, адреса, телефон, назва школи. (b) Узагальніть непрямі дескриптори: «учень середньої школи» замість «єдиний учень із вадами зору в 12-Б». (c) За потреби розмити дату та деталі події. (d) Післячитання: «Чи може будь-хто, хто читає цей текст, дізнатися, про кого йдеться?» Якщо відповідь нечітка, узагальнюйте далі. Автентифікований запис записується лише в закриту захищену систему установи; Інструмент AI знаходиться поза цією системою.

PDR професійна етика та ШІ

Професійна етика PDR базується на чотирьох основних принципах, кожен з яких безпосередньо стосується використання ШІ:

• Конфіденційність (збереження таємниці): Інформація про студента захищена. Не вводити необроблені дані в AI, анонімізувати їх і вибрати безпечний інструмент є вимогою цього принципу.
• Благодійність: усе, що робиться, повинно служити благополуччю учня. ШІ використовується для зручності, а не таким чином, щоб поставити під загрозу користь студента.
• Нешкідливість: пріоритет – не завдати шкоди. Неперевірені результати, неточна статистика, маркування та використання штучного інтелекту під час кризи є ризиками завдати шкоди; тому перевірка та межа кризи є етичним імперативом.
• Автономія: право студента приймати власне рішення захищено. ШІ не повинен навішувати на учня ярлик або приймати рішення від його/її імені.

До цього додається відповідальність: відповідальність за кожен використаний результат лежить на експерті; «ШІ створив це» не є захистом.

Упередженість, культурна чутливість і прозорість

ШІ може відображати соціальні моделі в навчальних даних. У PDR це питання справедливості: результати, які створюють стереотипи щодо учня відповідно до його статі, культури чи соціально-економічного статусу, підривають рівність можливостей. Експерт перевіряє створений контент на культурну чутливість і упередженість. Також прозорість: у відповідних випадках має бути чітко вказано, що ШІ використовувався під час підготовки матеріалу чи чернетки; Не варто використовувати його як таємницю «магії». Конфіденційність є важливою у стосунках зі студентом; Те, що студент пояснює, не переноситься на транспортний засіб.

Крок за кроком: створення політики використання ШІ

1. Класифікуйте дані. Розділіть всю інформацію, яку ви маєте, на «особисту/приватну/публічну».
2. Виберіть транспортний засіб. Єдиний безпечний корпоративний інструмент для конфіденційних даних; Працювати анонімно для загального плану.
3. Виконайте процедуру анонімізації. Запустіть процедуру перевірки перед кожним записом.
4. Валідація та перевірка упередженості. Перевірте кожен вихід на факти та справедливість.
5. Дотримання кризового ліміту. Тримайте кризу та консультаційні відносини поза транспортним засобом.
6. Беріть на себе відповідальність і будьте прозорими. Остаточне затвердження належить експерту; Використання відкрите всередині організації.

Шаблони, які можна копіювати

1) Контроль анонімізації:

Ваша роль: асистент аудиту конфіденційності. Перелічіть у тексті нижче кожне твердження, яке може ПРЯМО чи НЕПРЯМО ідентифікувати особу (ім’я, номер, клас, школа, унікальний опис ситуації), і запропонуйте більш загальну альтернативу для кожного. Вміст коментарів. Текст: [вставити текст]

2) Аудит упередженості та культурної чутливості:

Перевірте наведений нижче матеріал PDR на предмет упередженості та культурної делікатності: чи містить він стереотипи щодо статі, культури, соціально-економічного статусу чи структури сім’ї? Хто може виключити? Позначте ризиковані твердження та запропонуйте інклюзивні альтернативи. Матеріал: [вставити матеріал]

3) Проект корпоративної політики використання ШІ:

Ваша роль: помічник з написання PDR. Для служби керівництва розробіть коротку внутрішню політику щодо використання засобів штучного інтелекту. Рубрики: на яких роботах використовується, на яких не використовується (криза, діагностика, консультація), правило анонімізації даних, обов'язковість перевірки, відповідальність несе експерт. Коротко і актуально.

Слабка підказка / Сильна підказка

Слабкий:

Підсумовуючи ситуацію Ахмета Їлмаза 8-C, він піддавався насильству вдома.

Вносить найбільш конфіденційні дані (ПІБ, клас, особливий статус) в транспортний засіб у необробленому вигляді — серйозне порушення КВКК та етики; Крім того, це може бути ситуація повідомлення (блок 9).

Сильний:

Ваша роль: помічник з контролю конфіденційності. Примітка: я анонімізував наведений нижче текст перед тим, як надіслати його в інструмент. Однак перевірте ще раз: чи залишилися деталі, за якими можна ідентифікувати особу? Текст: «Середньокласник натякнув, що відчуває напругу вдома».

три міні-чохла

Випадок 1 — Непряме розкриття. Експерт збирався ввести в інструмент текст, у якому він пропустив назву; але він зрозумів, що фраза «єдиний учень школи, який користується інвалідним візком» прямо стосується цієї людини. Він узагальнив це до «студента». Самого створення імен було недостатньо; Опис унікальної ситуації також був ідентифікаційним.

Випадок 2 — Корекція зсуву. Експерт, який перевіряв кар’єрний матеріал, виявив, що AI завжди використовував чоловічі імена в інженерних прикладах і жіночі імена в професіях догляду. Це збалансувало зразки та зламало форму. Це, здавалося б, незначне виправлення зберегло справедливість повідомлення, надісланого студентам.

Випадок 3 — Встановлення політики. Служба інструкцій створила загальний текст внутрішньої політики, щоб усунути плутанину, яка виникає через те, що кожен використовує ШІ по-різному: у яких завданнях він використовується, а не під час кризи та діагностики, дані анонімні, результати перевіряються, відповідальність лежить на експерті. ШІ дав проект; Команда завершила зміст із власними цінностями. Невизначеність поступилася місцем чітким рамкам.

Поширені помилки

• Введення необроблених даних. Запис на автомобіль із назвою/статусом. Рішення: процедура анонімізації, безпечний інструмент.
• Просто видалення назви. Забути непрямі ідентифікатори. Рішення: також узагальніть унікальні деталі.
• Ігнорування упередженості. Прийняття стереотипного висновку. Рішення: аудит упередженості та культури.
• Покладання відповідальності на транспортний засіб. Це означає "це створив ШІ". Рішення: відповідальність несе експерт.
• Неправильне використання. Обробка даних, зібраних для однієї мети, для іншої. Рішення: дотримуйтесь обмеження мети.

Таблиця: Тип даних і правило ШІ

Тип даних

приклад

Правило ШІ

громадськість

Загальне ознайомлення з професією

у вільному доступі

особисті дані

Ім'я, номер, клас

Неможливо ввести без анонімізації

Особливі дані про якість

Психічний стан, сім'я, діагноз

Його ніколи не можна вводити в сирому вигляді.

кризові дані

Ризик, зловживання, самогубство

Ніколи не заходити в транспортний засіб (блок 9)

Підсумовуючи

У PDR конфіденційність є основою довіри до професії та найбільш перевіреним принципом в епоху ШІ. КВКК розділяє дані на персональні та приватні; Більшість даних PDR є конфіденційними та не вводяться в інструмент у необробленому вигляді. Мінімізація даних, анонімізація (за допомогою прямих і непрямих ідентифікаторів) і безпечний вибір інструментів є основними правилами. Чотири принципи професійної етики — конфіденційність, доброзичливість, нешкідливість, автономія — є обов’язковими для використання ШІ; Упередженість контролюється, відповідальність залишається за експертом, а використання в організації є прозорим.

Аплікаційне завдання

Створіть коротку «Політику використання штучного інтелекту» для вашої власної служби орієнтування. Отримайте перевагу з шаблоном «Проект політики використання ШІ підприємства»; Потім налаштуйте його відповідно до реальності вашого власного закладу. Також передайте (вигаданий) текст через шаблон «перевірка анонімізації» та зафіксуйте та узагальніть принаймні один непрямий ідентифікатор.

контрольний список

• [ ] Я класифікував свої дані як особисті/приватні/публічні.
• [ ] Я узагальнив прямі та непрямі ідентифікатори в анонімізації.
• [ ] Я використовував безпечний/корпоративний інструмент для конфіденційних даних.
• [ ] Я перевірив результат на упередженість і культурну чутливість.
• [ ] Я взяв на себе відповідальність і зберіг прозорість використання.