Печалби:
- Способност за разбиране и прилагане на факта, че данните на детето са специални данни и че трябва да бъдат анонимизирани в рамките на обхвата на KVKK и поверителността и изисква съгласието на семейството.
- Възможност за оценка на инструментите за изкуствен интелект по отношение на сигурността на данните, съхранението и използването им в обучението на модели и избор на безопасния
- Способност за поддържане на етични граници като диагностичен авторитет, стигма, дискриминация и най-добрия интерес на детето в работния процес
Досието за развитие на детето съдържа най-интимната информация за това дете: история на развитието, семейна ситуация, резултати от скрининг, наблюдения и понякога медицинска информация. Когато тази информация попадне в грешни ръце или бъде злоупотребена, тя може да навреди на детето за години напред: етикет, стигма, дискриминация. Ето защо защитата на данните на децата е една от най-сериозните отговорности на специалиста по детско развитие; В ерата на изкуствения интелект тази отговорност се умножава, тъй като поставянето на данни в инструмент отнема секунди и не може да бъде отменено. В този раздел ще разгледаме правния статус на данните за деца, оценката на инструментите за изкуствен интелект по отношение на поверителността и етичните граници.
Първо, правното основание: В Турция KVKK (Закон за защита на личните данни) регулира обработката на лични данни. Данните за здравословното състояние и развитието на детето са в категорията специални лични данни; Тази категория подлежи на най-високо ниво на защита. В Европа неговият еквивалент е GDPR. В случай на дете чувствителността е още по-голяма, тъй като детето не може да даде валидно съгласие за собствените си данни; Съгласието (изрично информирано съгласие) се получава от законния представител, тоест семейството. При всяко решение надделява принципът „най-добрият интерес на детето“.
Анонимизиране: най-основната и мощна стъпка
Най-основната и най-практична стъпка, която защитава поверителността при работа с изкуствен интелект, е анонимизирането: премахване на цялата информация, разкриваща самоличността (име, фамилия, TR ID номер, дата на раждане, име на училище/институция, адрес, номер на протокол/файл, фамилни имена) от данните и използване само на неидентифицираната информация, необходима за вашата задача. Изписването на „момиче на 3 години и 2 месеца“ вместо „Елиф Кая, 3 години и 2 месеца, детска градина „Папатя““ върши работа с данните, но запазва самоличността.
Внимание: самоличността може да се появи отново, когато се съберат множество малки детайли (това се нарича повторна идентификация). Например подробности като „Единственият близнак в село X, баща му е началник“ могат да идентифицират лицето, дори ако няма име. Следователно е необходимо не само да се изтрие името, но и да се обобщят детайлите, които го правят уникален.
Суров (не може да се споделя)
Анонимен (с възможност за споделяне)
Елиф Кая, ТК 123..., родена на 12.03.2022г.
Момиченце на 3 години и 2 месеца
ЦДГ "Папатя" 3-А клас
предучилищна институция
Майка му е Айше, а баща му е Мухтар.
родители
Дело номер 2024/187
(премахнато)
Внимание: Качването на информация за самоличността на детето, пълен отчет или снимка в публично достъпен инструмент за изкуствен интелект е нарушение на KVKK и поверителността и не може да бъде оттеглено. Данните отиват на външен сървър и някои инструменти могат да ги използват за обучение на модели. Винаги анонимизирайте преди качване.
Избор на инструменти и жизнен цикъл на данните
Не всеки AI инструмент има същото ниво на поверителност. Когато оценявате инструмент, попитайте: използва ли ефективност при обучението на модела? Къде съхранява данни и за колко време? Предлага ли споразумение за обработка на данни (за корпоративна употреба)? Къде са им сървърите? Корпоративни, договорени и обучителни инструменти, които не използват вашите данни, са по-безопасни от публично достъпните безплатни инструменти. Въпреки това, дори и в най-сигурния инструмент, не споделяйте ненужни идентификационни данни - анонимизирането е първата защита при всички обстоятелства.
Обмислете жизнения цикъл на данните: събирайте данни (валидирайте), обработвайте (ако е необходимо), съхранявайте (сигурно, във времето), споделяйте (само оторизирано, анонимно) и изтривайте (когато сте готови). Всичко, което поставите в инструментите за изкуствен интелект, крие риск да изпадне извън този цикъл.
Съвет: Поставете строго правило в горната част на любимите си подкани: „Няма да споделя никаква информация, която идентифицира детето или семейството в този разговор.“ Превръщането на това в контролен рефлекс предотвратява най-често срещаното нарушение (разсеяно поставяне на ID).
Етични граници: диагноза, стигма, дискриминация
Поверителността е технически въпрос, но етиката е по-широка. Три граници са критични. Диагностичен орган: специалист по детско развитие провежда скрининг и оценка на развитието; Окончателната диагноза е работа на съответния лекар/клиничен екип. Изкуственият интелект не познава тази граница; ще защитиш. Стигма: маркирането на дете с ранен и постоянен етикет (в досието, в семейството, в собственото ви съзнание) е несправедливо спрямо детето и може да повлияе негативно на неговото развитие. Дискриминация и пристрастия: AI може да отразява пристрастия в данните за обучението; Може да доведе до пристрастни резултати по отношение на определена култура, пол или социално-икономическа група. Експертът трябва да ги забележи и да ги коригира. Над всичко това стои принципът на най-добрия интерес на детето: дали всяко решение е за доброто на детето?
Четири подкани за копиране
1) Подкана за анонимизиране:
Ще ви дам текст. Премахнете всяка информация, която може да разкрие самоличността на детето или семейството (име, фамилия, TR ID, дата на раждане, училище/институция, адрес, номер на файл, уникални данни); заменете с общ израз ([момиче], [предучилищна институция]). Обобщете не само името, но и уникални подробности, които могат да идентифицират лицето. Избройте какво сте премахнали. Текст: [суров]
2) Подкана за оценка на поверителността на превозното средство:
Дайте ми контролен списък с въпроси относно поверителността, които трябва да задам, за да реша дали мога да използвам AI инструмент с дъщерни данни (дали данните се използват при обучение, задържане, договор, местоположение на сървъра, изтриване). Не измисляйте отговорите; просто избройте въпросите.
3) Етика/ограничение на контрола на властта:
Прегледайте етично следния текст: (1) поставя ли/предполага ли диагноза? (2) има ли стигматизиращ етикет? (3) има ли културни/полови/социално-икономически пристрастия? Маркирайте всеки проблем и предложете коригирана, предпазлива алтернатива. Текст: [чернова]
4) Текстова подкана за информация за съгласие на семейството:
Напишете кратък текст за УВЕДОМЛЕНИЕ/СЪГЛАСИЕ до семейството, който просто обяснява как ще използвам и защитавам данните на детето. То включва: кои данни, с каква цел, как са защитени, с кого се споделят, право на отказ. Предоставяне на правни консултации; Имайте предвид, че това е проект и трябва да бъде одобрен от институцията.
три мини калъфа
Случай 1 — Нарушение при качване на самоличност. В един натоварен ден специалист поставя доклад за развитието на дете, пълен с пълно име и лична карта, в публичен инструмент и казва „обобщи“. Данните са напуснали институцията и съгласието на семейството не е получено. Правилният начин беше да анонимизирате данните с 1-вата подкана и да използвате само анонимна информация в защитен инструмент. Това нарушение е както правен, така и етичен проблем и не може да бъде отменено.
Случай 2 — Повторна идентификация. Експерт изтрива името, но оставя детайла „единственият тризнак в селото, баща му е имам“. Този детайл идентифицира детето дори без име. Експертът задълбочава анонимизацията, за да обобщи уникални подробности: „дете на многоплодна бременност, живеещо в селски район“. Идентичността вече е защитена.
Случай 3 — Корекция на отклонение. AI създава предубедено предположение, имплицитно в съдържанието, за семейство с ниски доходи, като например „включването често е недостатъчно в тези семейства“. Експертът улавя това с 3-та подкана; намира изявлението за немотивирано, заклеймяващо и дискриминационно и го отстранява. Той пренаписва съдържанието на език, който разглежда всяко семейство като равно и уважавано.
Слаба подкана / Силна подкана
Слаба подкана:
Поставям пълния доклад на Елиф тук, преценете и препоръчайте диагноза.
Проблем: споделя се информация за самоличност (нарушение на KVKK), изисква се диагностика (превишаване на разрешението), няма съгласие, безопасното превозно средство не се поставя под въпрос.
Мощна подкана:
Редактирайте следното АНОНИМНО резюме на разработката (идентификационната информация е премахната) за ЧЕРНОВА за оценка. Поставяне на диагноза; използване на стигматизиращи етикети; Избягвайте пристрастните предположения. Маркирайте [оставете експерт да оцени] там, където не сте сигурни. Резюме: [анонимен]
Често срещани грешки
- Качване на идентификационни данни: Най-често срещаното и най-тежко нарушение; винаги анонимни.
- Повърхностна анонимизация: Само изтриването на името не е достатъчно; обобщете и уникални детайли.
- Без да поставяте под въпрос поверителността на инструментите: Избягвайте инструменти, които използват вашите данни за образование.
- Преминаване на диагностичната граница: Оценката не е диагноза; Правомощията са на лекаря/екипа.
- Неразпознаване на пристрастия: Коригирайте стигматизиращите/дискриминационни предположения за AI.
В обобщение
Данните за деца са специални лични данни; Изисква най-висока степен на защита в обхвата на KVKK и поверителност и съгласие се получава от семейството. Най-силната защита при работа с AI е анонимизирането - обобщавайте не само името, но и уникални подробности, които могат да идентифицират индивида. Оценете инструментите за поверителност; Изберете безопасното, което не използва вашите данни в обучението. Поддържайте етични граници (диагностичен авторитет, стигма, дискриминация/пристрастия) и вземайте предвид най-добрите интереси на детето при всяко решение.
Задача за приложение
Вземете неанонимизирана (автентична, от вашите собствени записи) бележка за напредъка; Без да го отразявате на екрана, анонимизирайте го ръчно, като използвате логиката на първата подкана и избройте всяка информация, която сте извлекли. Оценете AI инструмент, който използвате от гледна точка на поверителността с 2-ро подканяне. Проверете черновата за етичност/пристрастност с подкана 3. Отбележете поне три корекции, които сте направили (една анонимизация, една етика, една пристрастност).
контролен списък
- [] Анонимизирах данните; Обобщих и уникални детайли.
- [ ] Оцених инструмента, който използвах, по отношение на поверителността; Избрах сигурното.
- [ ] Получих съгласието на семейството, когато е необходимо.
- [ ] Поддържах лимита за диагностичен авторитет; Приложих разграничението оценка-диагностика.
- [ ] Премахнах стигматизиращи етикети и дискриминационни/предубедени изрази.
- [ ] При всяко решение взех предвид най-добрия интерес на детето.
- [ ] Не съм качил идентификационните данни на нито едно превозно средство.