Печалби:
- Възможност за класифициране и анонимизиране на данните на учениците в рамките на KVKK и специални концепции за лични данни и прилагане на безопасен избор на превозно средство
- Способност за адаптиране на принципите на професионалната етика на PDR (конфиденциалност, благотворителност, безвредност, автономност) към използването на изкуствен интелект
- Способност за разпознаване на пристрастия, културна нечувствителност и халюцинации в продукцията на изкуствения интелект и създаване на политика за етична употреба
Доверието е в основата на професията PDR. Ако ученикът може да разкаже най-съкровените си чувства, семейство и страхове на специалист, то е само защото вярва, че информацията ще бъде защитена. Инструментите за изкуствен интелект поставят сериозен нов тест за това доверие: най-чувствителните данни могат да излязат извън контрол в едно изречение. В този раздел ние систематично обсъждаме поверителността, KVKK, професионалната етика на PDR и как те се прилагат при използването на изкуствен интелект. Приложихме тези принципи част по част в предишни части; Тук ще го обединим в едно цяло и ще го превърнем в постоянна полица.
KVKK и типове данни: какво е по-защитено
KVKK (Закон за защита на личните данни) е законът, който регулира законосъобразното обработване на лични данни. Две концепции са особено важни. Лични данни е всяка информация, която идентифицира или идентифицира дадено лице: име, фамилия, номер на училище, клас, адрес, снимка. Специалните лични данни са вид чувствителни данни, които изискват по-висока защита: здраве, психическо състояние, диагноза, сексуален живот, религия, етническа принадлежност, криминален статус. По-голямата част от PDR записите попадат в тази втора, чувствителна категория; тъй като психичното състояние, семейните проблеми и историята на подкрепата са директно лични данни. Това означава, че PDR данните никога не трябва да се въвеждат в необработен вид в публични инструменти.
На практика това се изразява в три правила: (1) Минимизиране на данните — работете с най-малкото количество данни, необходими за извършване на работа. (2) Анонимизиране — направете данните невъзможни за свързване с индивида чрез премахване на информация, позволяваща лично идентифициране. (3) Сигурни средства и граница на целта — използвайте защитени с данни корпоративни инструменти, когато е възможно, и обработвайте данни само за целта, за която са събрани.
Внимание: Не е достатъчно да кажете „Анонимизирах го по някакъв начин“. Дори ако име е пропуснато от текст, уникалното описание на ситуацията (много специфична ситуация в един ученик в малко училище) може да направи лицето разпознаваемо. При анонимизирането обобщете не само името, но и подробностите, които заедно показват лицето.
Практика на анонимизиране: контролна процедура
Преди да експортирате текст към инструмента, следвайте тази процедура: (a) Премахнете директни идентификатори като име, фамилия, номер, клас-отрасъл, име на родител, адрес, телефон, име на училище. (б) Обобщете косвените дескриптори: „ученик в средно училище“ вместо „единственият ученик с увредено зрение в 12-B.“ (c) Замъглете датата и подробностите за събитието, ако е необходимо. (d) След четене: „Може ли някой, който чете този текст, да разбере кой е споменат?“ Ако отговорът е неясен, обобщете допълнително. Удостовереният запис се записва само в затворената, защитена система на институцията; AI инструментът е извън тази система.
PDR професионална етика и AI
Професионалната етика на PDR се основава на четири основни принципа, всеки от които се отнася пряко за използването на AI:
- Поверителност (пазене на тайни): Информацията за учениците е защитена. Невъвеждането на необработени данни в AI, анонимизирането им и изборът на безопасен инструмент е изискване на този принцип.
- Благотворителност: Всичко направено трябва да служи за благополучието на ученика. AI се използва за удобство, а не по начин, който би компрометирал ползата за ученика.
- Безвредност: Приоритетът е да не причинявате вреда. Непроверената продукция, неточната статистика, етикетирането и използването на AI в криза са рискове от вреда; следователно проверката и границата на кризата е етичен императив.
- Автономия: Правото на ученика да вземе собствено решение е защитено. ИИ не трябва да свежда ученика до етикет или да взема решения от негово/нейно име.
Към това се добавя отговорност: Отговорността за всеки използван резултат е на експерта; „ИИ го е произвел“ не е защита.
Пристрастност, културна чувствителност и прозрачност
AI може да отразява социални модели в данните за обучение. В PDR това е въпрос на справедливост: резултатите, които стереотипизират ученик според техния пол, култура или социално-икономически статус, подкопават равните възможности. Експертът проверява създаденото съдържание за културна чувствителност и пристрастия. Също така прозрачност: когато е подходящо, трябва да бъде изяснено вътрешно, че AI е използван при подготовката на материал или чернова; Не трябва да се използва като тайна "магия". Поверителността е от съществено значение в отношенията с ученика; Това, което ученикът обяснява, не се пренася върху превозно средство.
Стъпка по стъпка: създаване на политика за използване на AI
- Класифицирайте данните. Разделете цялата информация, която имате, като „лична / частна / публична“.
- Изберете превозно средство. Единственият защитен, корпоративен инструмент за чувствителни данни; Работете анонимно за общата схема.
- Следвайте процедурата за анонимизиране. Изпълнете рутинната проверка преди всяко въвеждане.
- Валидиране и проверка на пристрастия. Проверете всеки резултат за факти и справедливост.
- Поддържайте кризисен лимит. Дръжте отношенията на криза и консултация извън автомобила.
- Поемете отговорност и бъдете прозрачни. Окончателното одобрение принадлежи на експерта; Използването е отворено в рамките на организацията.
Копируеми шаблони
1) Контрол на анонимизирането:
Вашата роля: асистент за проверка на поверителността. Избройте всяко твърдение в текста по-долу, което може ПРЯКО или НЕПРЯКО да идентифицира лицето (име, номер, клас, училище, описание на уникална ситуация) и предложете по-обща алтернатива за всяко. Коментиране на съдържание. Текст: [поставяне на текст]
2) Одит на пристрастия и културна чувствителност:
Проверете следния PDR материал за пристрастия и културна чувствителност: Съдържа ли стереотипи относно пола, културата, социално-икономическия статус или семейната структура? Кой може да изключи? Маркирайте рискови твърдения и предложете алтернативи, включващи. Материал: [материал за поставяне]
3) Проект на корпоративна политика за използване на AI:
Вашата роля: асистент по писане на PDR. За услугата за ориентиране изгответе кратка вътрешна политика относно използването на инструменти за изкуствен интелект. Рубрики: в кои работни места се използва, в кои не се използва (криза, диагностика, консултация), правило за анонимизиране на данните, задължение за проверка, отговорност носи експертът. Кратко и приложимо.
Слаба подкана / Силна подкана
Слаб:
За да обобщим ситуацията на Ахмет Йълмаз 8-C, той е бил подложен на насилие у дома.
Въвежда най-чувствителните данни (име, клас, специален статус) в автомобила в необработен вид — сериозно нарушение на KVKK и етиката; Освен това това може да бъде ситуация на уведомяване (единица 9).
Силен:
Вашата роля: асистент за контрол на поверителността. Забележка: Анонимизирах текста по-долу, преди да го изпратя на инструмента. Въпреки това, проверете отново: остана ли някакъв детайл, който прави лицето разпознаваемо? Текст: „Ученик от средното училище намекна, че изпитва напрежение у дома.“
три мини калъфа
Случай 1 — Непряко разкриване. Експерт се канеше да въведе текст в инструмента, от който беше пропуснал името; но осъзна, че фразата „единственият ученик в училището, който използва инвалидна количка“ се отнася директно за този човек. Той обобщи това на "студент". Само създаването на имена не беше достатъчно; Описанието на уникалната ситуация също беше идентифициращо.
Случай 2 — Корекция на отклонение. Експерт, който одитира материал за кариера, установи, че AI винаги използва мъжки имена в инженерни примери и женски имена в професии за грижи. Той балансира пробите и разби калъпа. Тази на пръв поглед незначителна корекция запази честността на посланието, изпратено до учениците.
Случай 3 — Създаване на политика. Услуга за насоки създаде общ вътрешен текст на политиката, за да елиминира объркването, произтичащо от факта, че всеки използва AI по различен начин: в кои задачи се използва, не при криза и диагностика, данните са анонимни, изходът е проверен, отговорността е на експерта. AI даде чернова; Екипът финализира съдържанието със собствените си ценности. Несигурността отстъпи място на ясна рамка.
Често срещани грешки
- Въвеждане на необработени данни. Писане на автомобил с име/статус. Решение: процедура за анонимизиране, защитен инструмент.
- Само премахване на името. Забравяне на косвени идентификатори. Решение: обобщете и уникалните детайли.
- Игнориране на пристрастия. Приемане на стереотипни резултати. Решение: одит на пристрастия и култура.
- Прехвърляне на отговорността върху автомобила. Това означава "AI го е произвел". Решение: отговорността е на експерта.
- Злоупотреба. Обработка на данни, събрани за една цел за друга цел. Решение: спазвайте ограничението за целта.
Таблица: Тип данни и AI правило
Тип данни
пример
AI правило
публичен
Общо въведение в професията
свободно достъпни
лични данни
Име, номер, клас
Не може да се въведе без анонимизиране
Специални данни за качество
Психичен статус, семейство, диагноза
Никога не може да се въведе в суров вид.
данни за кризата
Риск, малтретиране, самоубийство
Никога не влизайте в превозното средство (блок 9)
В обобщение
В PDR поверителността е основата на доверието в професията и най-тестваният принцип в ерата на AI. KVKK разделя данните на лични и лични данни; Повечето PDR данни са чувствителни и не се въвеждат в инструмента в необработен вид. Минимизиране на данните, анонимизиране (с преки и непреки идентификатори) и безопасен избор на инструменти са основните правила. Четирите принципа на професионалната етика – конфиденциалност, благотворителност, безвредност, автономност – са задължителни за използването на AI; Пристрастията се контролират, отговорността остава на експерта, а използването е прозрачно в рамките на организацията.
Задача за приложение
Изгответе кратка „Политика за използване на AI“ за вашата собствена услуга за ориентиране. Вземете преднина с шаблона „Проект на корпоративна политика за използване на AI“; След това го коригирайте според реалността на вашата институция. Също така прекарайте (измислен) текст през шаблона „проверка за анонимизиране“ и уловете и обобщете поне един индиректен идентификатор.
контролен списък
- [ ] Класифицирах данните, които имам, като лични/частни/публични.
- [ ] Имам обобщени преки и непреки идентификатори в анонимизирането.
- [ ] Използвах защитен/корпоративен инструмент за чувствителни данни.
- [ ] Проверих резултата за пристрастия и културна чувствителност.
- [ ] Поех отговорност и запазих използването прозрачно.