Zyski:
- Umiejętność zrozumienia i wdrożenia faktu, że dane dziecka są danymi szczególnymi, że muszą zostać zanonimizowane w ramach KVKK i poufności oraz wymagają zgody rodziny.
- Umiejętność oceny narzędzi sztucznej inteligencji pod kątem bezpieczeństwa danych, przechowywania i wykorzystania w szkoleniu modeli oraz wyboru bezpiecznego
- Umiejętność utrzymania granic etycznych, takich jak autorytet diagnostyczny, piętno, dyskryminacja i najlepszy interes dziecka w toku pracy
Akta rozwoju dziecka zawierają najbardziej intymne informacje o dziecku: historię rozwoju, sytuację rodzinną, wyniki badań przesiewowych, obserwacje, a czasami informacje medyczne. Kiedy informacja ta wpadnie w niepowołane ręce lub zostanie niewłaściwie wykorzystana, może wyrządzić dziecku krzywdę na długie lata: etykieta, piętno, dyskryminacja. Dlatego ochrona danych dzieci jest jednym z najpoważniejszych obowiązków specjalisty ds. rozwoju dziecka; W dobie sztucznej inteligencji ta odpowiedzialność jest zwielokrotniona, gdyż wklejenie danych do narzędzia zajmuje sekundy i nie da się tego cofnąć. W tej jednostce omówimy status prawny danych dzieci, ocenę narzędzi sztucznej inteligencji pod kątem prywatności i granic etycznych.
Po pierwsze, podstawa prawna: w Turcji przetwarzanie danych osobowych reguluje KVKK (ustawa o ochronie danych osobowych). Dane dotyczące zdrowia i rozwoju dziecka należą do kategorii szczególnych danych osobowych; Kategoria ta podlega najwyższemu poziomowi ochrony. W Europie jego odpowiednikiem jest RODO. W przypadku dziecka wrażliwość jest jeszcze większa, gdyż nie może ono wyrazić ważnej zgody na własne dane; Zgodę (świadomą wyraźną zgodę) uzyskuje się od przedstawiciela prawnego, czyli rodziny. Przy każdej decyzji kieruje się zasadą „najlepszego interesu dziecka”.
Anonimizacja: najbardziej podstawowy i potężny krok
Najbardziej podstawowym, najbardziej praktycznym krokiem chroniącym prywatność podczas pracy ze sztuczną inteligencją jest anonimizacja: usunięcie z danych wszystkich informacji ujawniających tożsamość (imię, nazwisko, numer TR ID, data urodzenia, nazwa szkoły/instytucji, adres, numer protokołu/pliku, nazwiska rodziny) i wykorzystanie wyłącznie informacji niezidentyfikowanych niezbędnych do wykonania zadania. Wpisanie „3 lata i 2 miesiące dziewczynka” zamiast „Elif Kaya, 3 lata i 2 miesiące, Papatya Kindergarten” spełnia zadanie gromadzenia danych, ale zachowuje tożsamość.
Jedna uwaga: tożsamość może ujawnić się ponownie, gdy połączy się wiele drobnych szczegółów (nazywa się to ponowną identyfikacją). Na przykład szczegóły takie jak „Jedyny bliźniak we wsi X, jego ojciec jest naczelnikiem” mogą zidentyfikować osobę, nawet jeśli nie ma ona imienia. Dlatego konieczne jest nie tylko usunięcie nazwy, ale także uogólnienie szczegółów, które czynią ją wyjątkową.
Surowe (nie można udostępniać)
Anonimowy (można udostępniać)
Elif Kaya, TC 123..., ur. 12.03.2022.
Dziewczynka 3 lata i 2 miesiące
Przedszkole Papatya, klasa 3-A
placówka przedszkolna
Jego matką jest Ayşe, a ojcem Mukhtar.
rodzice
Numer akt 2024/187
(usunięty)
Uwaga: Przesyłanie informacji o tożsamości dziecka, pełnego raportu lub zdjęcia do publicznie dostępnego narzędzia sztucznej inteligencji stanowi naruszenie KVKK i prywatności i nie może zostać wycofane. Dane trafiają na serwer zewnętrzny i niektóre narzędzia mogą je wykorzystać do uczenia modeli. Zawsze anonimizuj przed przesłaniem.
Wybór narzędzia i cykl życia danych
Nie każde narzędzie AI zapewnia ten sam poziom prywatności. Oceniając narzędzie, zadaj sobie pytanie: Czy wykorzystuje ono efektywność w szkoleniu modelu? Gdzie przechowuje dane i jak długo? Czy oferuje umowę o przetwarzaniu danych (do użytku korporacyjnego)? Gdzie są ich serwery? Narzędzia korporacyjne, kontraktowe i szkoleniowe, które nie wykorzystują Twoich danych, są bezpieczniejsze niż publicznie dostępne bezpłatne narzędzia. Jednak nawet w przypadku najbezpieczniejszego narzędzia nie udostępniaj niepotrzebnych danych uwierzytelniających — anonimizacja jest pierwszą obroną w każdych okolicznościach.
Weź pod uwagę cykl życia danych: zbieraj dane (weryfikuj), przetwarzaj (w razie potrzeby), przechowuj (bezpieczne, w określonym czasie), udostępniaj (tylko autoryzowane, anonimowe) i usuwaj (po zakończeniu). Wszystko, co umieścisz w narzędziach AI, wiąże się z ryzykiem wypadnięcia z tej pętli.
Wskazówka: umieść sztywną zasadę na górze ulubionych podpowiedzi: „W tej rozmowie nie będę udostępniać żadnych informacji identyfikujących dziecko lub rodzinę”. Uczynienie tego odruchem kontrolnym zapobiega najczęstszemu naruszeniu (roztargnione wklejanie identyfikatora).
Granice etyczne: diagnoza, piętno, dyskryminacja
Prywatność to kwestia techniczna, ale etyka jest szersza. Trzy granice są krytyczne. Organ diagnostyczny: specjalista ds. rozwoju dziecka przeprowadza badania przesiewowe i ocenę rozwoju; Ostateczna diagnoza jest zadaniem odpowiedniego lekarza/zespołu klinicznego. Sztuczna inteligencja nie zna tego limitu; będziesz chronić. Piętno: nadanie dziecku wczesnej i trwałej etykiety (w aktach, w rodzinie, we własnym mniemaniu) jest niesprawiedliwe wobec dziecka i może negatywnie wpłynąć na jego rozwój. Dyskryminacja i stronniczość: sztuczna inteligencja może odzwierciedlać stronniczość w danych szkoleniowych; Może dawać stronnicze wyniki dotyczące określonej kultury, płci lub grupy społeczno-ekonomicznej. Ekspert powinien je zauważyć i skorygować. Przede wszystkim stoi tu zasada dobra dziecka: czy każda decyzja jest podejmowana dla dobra dziecka?
Cztery kopiowalne podpowiedzi
1) Monit o anonimizację:
Dam ci tekst. Usuń wszelkie informacje, które mogą ujawnić tożsamość dziecka lub rodziny (imię, nazwisko, TR ID, data urodzenia, szkoła/instytucja, adres, numer akt, unikalne dane); zastąpić wyrażeniem ogólnym([dziewczynka], [przedszkole]). Uogólniaj nie tylko imię i nazwisko, ale także unikalne szczegóły, które mogą zidentyfikować osobę. Wypisz, co usunąłeś. Tekst: [surowy]
2) Monit dotyczący oceny prywatności pojazdu:
Podaj mi listę kontrolną pytań dotyczących prywatności, które powinienem zadać, aby zdecydować, czy mogę używać narzędzia AI w przypadku danych dzieci (czy dane są wykorzystywane w edukacji, przechowywaniu, umowie, lokalizacji serwera, usuwaniu). Nie wymyślaj odpowiedzi; po prostu wypisz pytania.
3) Podpowiedź dotycząca kontroli etyki/ograniczeń uprawnień:
Dokonaj etycznego przeglądu następującego tekstu: (1) czy stawia on/sugeruje diagnozę? (2) czy istnieje etykieta stygmatyzująca? (3) czy istnieją uprzedzenia kulturowe/płciowe/społeczno-ekonomiczne? Podkreśl każdy problem i zaproponuj poprawioną, ostrożną alternatywę. Tekst: [wersja robocza]
4) Treść monitu o zgodę rodziny:
Przygotuj krótki tekst POWIADOMIENIA/ZGODY dla rodziny, który po prostu wyjaśni, w jaki sposób będę wykorzystywać i chronić dane dziecka. Obejmuje: jakie dane, w jakim celu, w jaki sposób są chronione, komu są udostępniane, prawo do odstąpienia od umowy. Udzielanie porad prawnych; Należy pamiętać, że jest to wersja robocza i musi zostać zatwierdzona przez instytucję.
trzy mini etui
Przypadek 1 — Naruszenie przesyłania tożsamości. W pracowity dzień specjalista wkleja raport o rozwoju dziecka, wraz z pełnym imieniem i nazwiskiem oraz dokumentem tożsamości, do narzędzia publicznego i mówi „podsumuj”. Dane opuściły placówkę, nie uzyskano zgody rodziny. Prawidłowym sposobem była anonimizacja danych już przy pierwszym zapytaniu i wykorzystywanie wyłącznie anonimowych informacji w bezpiecznym narzędziu. Naruszenie to ma charakter zarówno prawny, jak i etyczny i nie można go cofnąć.
Przypadek 2 – Ponowna identyfikacja. Ekspert usuwa nazwisko, ale pozostawia szczegół: „jedyna trojaczka we wsi, jego ojciec jest imamem”. Ten szczegół identyfikuje dziecko nawet bez imienia. Ekspert pogłębia anonimizację, aby uogólnić unikalne szczegóły: „dziecko w ciąży mnogiej mieszkające na wsi”. Tożsamość jest teraz chroniona.
Przypadek 3 — Korekta odchylenia. Sztuczna inteligencja tworzy stronnicze założenie zawarte w treści dotyczącej rodziny o niskich dochodach, takie jak „zaangażowanie w te rodziny jest często niewystarczające”. Ekspert łapie to za pomocą trzeciego podpowiedzi; uznaje to stwierdzenie za bezpodstawne, stygmatyzujące i dyskryminujące i usuwa je. Przepisuje treść na język, w którym każda rodzina jest równa i szanowana.
Słaba zachęta/silna zachęta
Słaba zachęta:
Wklejam tutaj pełny raport Elif, oceniam i polecam diagnozę.
Problem: informacje o tożsamości są udostępniane (naruszenie KVKK), żądana jest diagnostyka (przekroczenie uprawnień), brak zgody, bezpieczny pojazd nie jest kwestionowany.
Potężny monit:
Edytuj następujące ANONIMOWE podsumowanie rozwoju (usunięto informacje identyfikacyjne) na potrzeby wersji roboczej wersji ewaluacyjnej. Postawienie diagnozy; używanie stygmatyzujących etykiet; Unikaj stronniczych założeń. Zaznacz [pozwól ekspertowi ocenić], gdzie nie jesteś pewien. Podsumowanie: [anonimowy]
Typowe błędy
- Przesyłanie danych uwierzytelniających: najczęstsze i najpoważniejsze naruszenie; zawsze anonimizuj.
- Powierzchowna anonimizacja: samo usunięcie nazwy nie wystarczy; uogólniaj również unikalne szczegóły.
- Nie kwestionując prywatności narzędzi: Unikaj narzędzi, które wykorzystują Twoje dane w celach edukacyjnych.
- Przekraczanie granicy diagnostycznej: Ocena nie jest diagnozą; Władza należy do lekarza/zespołu.
- Nierozpoznawanie uprzedzeń: Napraw stygmatyzujące/dyskryminujące założenia dotyczące sztucznej inteligencji.
Podsumowując
Dane dziecka to szczególne dane osobowe; Wymaga najwyższej ochrony w ramach KVKK oraz poufności i uzyskania zgody rodziny. Najsilniejszą obroną podczas pracy ze sztuczną inteligencją jest anonimizacja — uogólniaj nie tylko imię i nazwisko, ale także unikalne szczegóły, które mogą zidentyfikować daną osobę. Oceń narzędzia zapewniające prywatność; Wybierz ten bezpieczny, który nie wykorzystuje Twoich danych w szkoleniach. Utrzymuj granice etyczne (autorytet diagnostyczny, piętno, dyskryminacja/uprzedzenia) i przy każdej decyzji bierz pod uwagę najlepszy interes dziecka.
Zadanie aplikacji
Weź niezanonimizowaną (autentyczną, z własnych rejestrów) notatkę z postępu prac; Bez odzwierciedlania tego na ekranie, zanonimizuj go ręcznie, korzystając z logiki pierwszego monitu i wypisz wszystkie wyodrębnione informacje. Oceń narzędzie AI, którego używasz pod kątem prywatności, za pomocą drugiego monitu. Sprawdź wersję roboczą pod kątem etyki/stronniczości, korzystając z podpowiedzi 3. Zanotuj co najmniej trzy wprowadzone poprawki (jedna anonimizacja, jedna etyka, jedna stronniczość).
lista kontrolna
- [ ] Zanonimizowałem dane; Uogólniłem także unikalne szczegóły.
- [ ] Oceniłem narzędzie, z którego korzystałem, pod kątem prywatności; Wybrałem ten bezpieczny.
- [ ] W razie potrzeby uzyskałem zgodę rodziny.
- [ ] Utrzymałem limit uprawnień diagnostycznych; Zastosowałem rozróżnienie ocena-diagnoza.
- [ ] Usunąłem stygmatyzujące tagi i dyskryminujące/stronnicze wyrażenia.
- [ ] Przy każdej decyzji brałem pod uwagę najlepszy interes dziecka.
- [ ] Nie przesłałem danych uwierzytelniających do żadnego pojazdu.