Добици:
- Способност разумевања и примене чињенице да су подаци о детету посебни подаци и да морају бити анонимизовани у оквиру КВКК-а и поверљивости и захтева сагласност породице.
- Способност процене алата вештачке интелигенције у смислу безбедности података, складиштења и употребе у обуци модела и одабира безбедног
- Способност одржавања етичких граница као што су дијагностички ауторитет, стигма, дискриминација и најбољи интерес детета у току рада
Досије о развоју детета носи најинтимније информације о том детету: историју развоја, породичну ситуацију, резултате скрининга, запажања, а понекад и медицинске информације. Када ова информација падне у погрешне руке или се злоупотреби, може наштетити детету годинама које долазе: етикета, стигма, дискриминација. Стога је заштита података о деци једна од најозбиљнијих одговорности специјалисте за развој детета; У доба вештачке интелигенције ова одговорност је вишеструко увећана, јер лепљење података у алат траје неколико секунди и не може се поништити. У овој јединици ћемо покрити правни статус података о деци, процену алата вештачке интелигенције у смислу приватности и етичке границе.
Прво, правни основ: У Турској, КВКК (Закон о заштити података о личности) регулише обраду личних података. Подаци о здрављу и развоју детета су у категорији посебних података о личности; Ова категорија подлеже највишем степену заштите. У Европи, његов еквивалент је ГДПР. У случају детета осетљивост је још већа, јер дете не може дати валидан пристанак на своје податке; Сагласност (информисана изричита сагласност) се добија од законског заступника, односно породице. У свакој одлуци преовладава принцип „најбољег интереса детета”.
Анонимизација: најосновнији и најмоћнији корак
Најосновнији, најпрактичнији корак који штити приватност при раду са вештачком интелигенцијом је анонимизација: уклањање свих информација које откривају идентитет (име, презиме, ТР ИД број, датум рођења, назив школе/установе, адреса, број протокола/фајла, презимена) из података и коришћење само неидентификованих информација које су неопходне за ваш задатак. Писање „девојчица од 3 године и 2 месеца“ уместо „Елиф Каиа, 3 године и 2 месеца, вртић Папатија“ обавља посао података, али чува идентитет.
Реч опреза: идентитет се може поново појавити када се више малих детаља споји (ово се зове поновна идентификација). На пример, детаљи попут „Једини близанац у селу Кс, његов отац је старешина“ могу да идентификују особу чак и ако нема имена. Због тога је потребно не само избрисати име већ и генерализовати детаље који га чине јединственим.
Сирово (не може да се дели)
Анонимно (за дељење)
Елиф Каиа, ТЦ 123..., рођена 12.03.2022.
3 године и 2 месеца девојчица
Вртић Папатија, 3-А разред
предшколске установе
Његова мајка је Ајше, а отац Мукхтар.
родитељи
Број предмета 2024/187
(уклоњено)
Пажња: Отпремање информација о идентитету детета, целог извештаја или фотографије на јавно доступном алату вештачке интелигенције представља кршење КВКК-а и приватности и не може се повући. Подаци иду на спољни сервер и неки алати их могу користити за обуку модела. Увек анонимизирајте пре отпремања.
Избор алата и животни циклус података
Нема сваки алат за вештачку интелигенцију исти ниво приватности. Када процењујете алат, питајте: Да ли користи ефикасност у обучавању модела? Где чува податке и колико дуго? Да ли нуди уговор о обради података (за корпоративну употребу)? Где су им сервери? Корпоративни, уговорени алати и алати за обуку који не користе ваше податке сигурнији су од јавно доступних бесплатних алата. Међутим, чак и у најбезбеднијој алатки, немојте делити непотребне акредитиве — анонимизација је прва одбрана у свим околностима.
Узмите у обзир животни циклус података: прикупљање података (потврђивање), обрада (по потреби), складиштење (безбедно, временски ограничено), дељење (само овлашћено, анонимно) и брисање (када се заврши). Све што задржите у АИ алатима ризикује да падне ван ове петље.
Савет: Ставите чврсто правило на врх својих омиљених упита: „Нећу делити никакве информације које идентификују дете или породицу у овом разговору.“ Ако ово постане контролни рефлекс, спречава се најчешће кршење (одсутно лепљење ИД-а).
Етичке границе: дијагноза, стигма, дискриминација
Приватност је техничко питање, али етика је шира. Три границе су критичне. Дијагностички орган: специјалиста за развој детета спроводи скрининг и процену развоја; Дефинитивна дијагноза је посао релевантног лекара/клиничког тима. Вештачка интелигенција не познаје ову границу; заштитићете. Стигма: означавање детета раном и трајном етикетом (у досијеу, у породици, у сопственом уму) је неправедно према детету и може негативно утицати на његов развој. Дискриминација и пристрасност: АИ може одражавати пристрасности у подацима о обуци; Може произвести пристрасне резултате у погледу одређене културе, пола или социоекономске групе. Стручњак треба да их примети и исправи. Изнад свега овога стоји принцип најбољег интереса детета: да ли је свака одлука за добро детета?
Четири упита за копирање
1) Упит за анонимност:
Даћу вам текст. Уклоните све информације које могу открити идентитет детета или породице (име, презиме, ТР ИД, датум рођења, школа/институција, адреса, број досијеа, јединствени детаљи); заменити општим изразом([девојчица], [предшколска установа]). Генерализујте не само име, већ и јединствене детаље који могу идентификовати особу. Наведите шта сте уклонили. Текст: [необрађен]
2) Упозорење за процену приватности возила:
Дајте ми контролну листу питања о приватности која треба да поставим да бих одлучио да ли могу да користим АИ алат са подацима о деци (да ли се подаци користе у образовању, задржавању, уговору, локацији сервера, брисању). Не измишљајте одговоре; само наведите питања.
3) Етичност/ограничење овлашћења контроле:
Етички прегледајте следећи текст: (1) да ли он поставља/имплицира дијагнозу? (2) да ли постоји етикета стигматизације? (3) да ли постоје културне/родне/социоекономске предрасуде? Истакните сваки проблем и предложите исправљену, опрезну алтернативу. Текст: [нацрт]
4) Текст обавештења о породичном пристанку:
Нацртајте кратки текст ОБАВЕШТЕЊЕ/САГЛАСНОСТ породици који једноставно објашњава како ћу користити и штитити податке детета. Укључује: које податке, у коју сврху, како су заштићени, са ким се деле, право на повлачење. Пружање правних савета; Имајте на уму да је то нацрт и мора да га одобри институција.
три мини кофера
Случај 1 — Кршење отпремања идентитета. Током напорног дана, специјалиста налепи извештај о развоју детета, заједно са пуним именом и личном картом, у јавни алат и каже „сажми“. Подаци су изашли из установе и није добијена сагласност породице. Исправан начин је био да се подаци анонимизирају са 1. промптом и користе само анонимне информације у безбедном алату. Ово кршење је и правно и етичко питање и не може се поништити.
Случај 2 — Поновна идентификација. Стручњак брише име, али оставља детаљ „једина тројка у селу, отац му је имам“. Овај детаљ идентификује дете чак и без имена. Експерт продубљује анонимизацију како би генерализовао јединствене детаље: „дете вишеструке трудноће које живи у руралном подручју“. Идентитет је сада заштићен.
Случај 3 — Корекција пристрасности. АИ производи пристрасну претпоставку имплицитну у садржају о породици са ниским примањима, као што је „укљученост је често неадекватна у овим породицама“. Експерт хвата ово са 3. промптом; сматра да је изјава непоткрепљена, стигматизирајућа и дискриминаторна и да је отклања. Преписује садржај на језику који сваку породицу види као једнаку и поштовану.
Слаби промпт / Јаки промпт
Слабо обавештење:
Овде лепим цео Елифин извештај, процените и препоручите дијагнозу.
Проблем: информације о идентитету се деле (кршење КВКК), захтева се дијагноза (вишак ауторизације), нема сагласности, безбедно возило се не доводи у питање.
Снажан упит:
Уредите следећи АНОНИМНИ резиме развоја (информације о идентификацији су уклоњене) за НАЦРТ евалуације. Постављање дијагнозе; коришћење стигматизујућих етикета; Избегавајте пристрасне претпоставке. Означите [нека стручњак процени] тамо где нисте сигурни. Резиме: [анонимно]
Уобичајене грешке
- Отпремање акредитива: Најчешћи и најтежи прекршај; увек анонимни.
- Површна анонимизација: Само брисање имена није довољно; генерализују и јединствене детаље.
- Не доводите у питање приватност алата: Избегавајте алате који користе ваше податке за образовање.
- Прелазак дијагностичке границе: Процена није дијагноза; Ауторитет је на лекару/тиму.
- Непрепознавање пристрасности: Исправите стигматизирајуће/дискриминаторне претпоставке АИ.
Укратко
Подаци о деци су посебни лични подаци; Захтева највишу заштиту у оквиру КВКК и поверљивост и сагласност се добија од породице. Најјача одбрана када радите са АИ је анонимизација — генерализујте не само име, већ и јединствене детаље који могу идентификовати појединца. Процените алате за приватност; Изаберите онај безбедан који не користи ваше податке у обуци. Одржавајте етичке границе (дијагностички ауторитет, стигма, дискриминација/пристрасност) и узмите у обзир најбољи интерес детета у свакој одлуци.
Задатак апликације
Узмите неанонимизовану (аутентичну, из сопствене евиденције) белешку о напретку; Без одраза на екрану, анонимизирајте га ручно користећи логику првог одзива и наведите све информације које сте издвојили. Процените АИ алат који користите у смислу приватности помоћу 2. одзивника. Проверите нацрт за етичност/пристрасност уз помоћ 3. Забележите најмање три исправке које сте направили (једна анонимизација, једна етика, једна пристрасност).
контролна листа
- [ ] Анонимизовао сам податке; Такође сам генерализовао јединствене детаље.
- [ ] Оценио сам алат који сам користио у смислу приватности; Изабрао сам онај сигуран.
- [ ] Добио сам сагласност породице када је то било потребно.
- [ ] Задржао сам ограничење овлашћења за дијагностику; Применио сам разлику између евалуације и дијагнозе.
- [ ] Уклонио сам стигматизирајуће ознаке и дискриминаторне/пристрасне изразе.
- [ ] При свакој одлуци сам водио рачуна о најбољем интересу детета.
- [ ] Нисам отпремио акредитиве ни у једно возило.