zisky:
- Schopnosť pochopiť a implementovať skutočnosť, že údaje dieťaťa sú špeciálnymi údajmi a že musia byť anonymizované v rámci KVKK a dôvernosti a vyžadujú súhlas rodiny.
- Schopnosť vyhodnotiť nástroje umelej inteligencie z hľadiska bezpečnosti dát, ukladania a použitia pri modelovom tréningu a vybrať si ten bezpečný
- Schopnosť zachovať etické hranice, ako je diagnostická autorita, stigma, diskriminácia a najlepší záujem dieťaťa o pracovný postup
Vývojový súbor dieťaťa obsahuje najintímnejšie informácie tohto dieťaťa: vývojovú históriu, rodinnú situáciu, výsledky skríningu, pozorovania a niekedy aj lekárske informácie. Keď sa tieto informácie dostanú do nesprávnych rúk alebo sa zneužijú, môžu dieťaťu uškodiť na dlhé roky: nálepka, stigma, diskriminácia. Preto je ochrana údajov o deťoch jednou z najvážnejších povinností špecialistu na rozvoj dieťaťa; V dobe umelej inteligencie sa táto zodpovednosť znásobuje, pretože vloženie údajov do nástroja trvá niekoľko sekúnd a nedá sa vrátiť späť. V tejto časti sa budeme zaoberať právnym postavením údajov o dieťati, hodnotením nástrojov umelej inteligencie z hľadiska súkromia a etickými hranicami.
Po prvé, právny základ: V Turecku upravuje spracovanie osobných údajov KVKK (zákon o ochrane osobných údajov). Údaje o zdravotnom stave a vývoji dieťaťa patria do kategórie osobitných osobných údajov; Táto kategória podlieha najvyššej úrovni ochrany. V Európe je jeho ekvivalentom GDPR. V prípade dieťaťa je citlivosť ešte väčšia, pretože dieťa nemôže dať platný súhlas na svoje vlastné údaje; Súhlas (informovaný výslovný súhlas) sa získava od zákonného zástupcu, teda rodiny. Pri každom rozhodnutí prevláda zásada „najlepší záujem dieťaťa“.
Anonymizácia: najzákladnejší a najvýkonnejší krok
Najzákladnejším a najpraktickejším krokom, ktorý chráni súkromie pri práci s umelou inteligenciou, je anonymizácia: odstránenie všetkých informácií prezrádzajúcich identitu (meno, priezvisko, IČO, dátum narodenia, názov školy/inštitúcie, adresa, číslo protokolu/súboru, priezviská) z údajov a používanie len neidentifikovateľných informácií potrebných pre vašu úlohu. Písanie „3 roky a 2 mesiace dievčatko“ namiesto „Elif Kaya, 3 roky a 2 mesiace, Papatya Kindergarten“ vykoná prácu s údajmi, ale zachová identitu.
Upozornenie: identita sa môže znovu objaviť, keď sa spojí viaceré malé detaily (toto sa nazýva opätovná identifikácia). Napríklad podrobnosti ako „Jediné dvojča v dedine X, jeho otec je riaditeľ“ môžu identifikovať osobu, aj keď nie je uvedené žiadne meno. Preto je potrebné nielen vymazať názov, ale aj zovšeobecniť detaily, ktoré ho robia jedinečným.
Surové (nedá sa zdieľať)
Anonymný (zdieľateľný)
Elif Kaya, TC 123..., narodená 12.03.2022.
Dievčatko 3 roky 2 mesiace
Materská škola Papatya, 3-A trieda
predškolská inštitúcia
Jeho matka je Ayşe a jeho otec je Mukhtar.
rodičov
Číslo spisu 2024/187
(odstránené)
Upozornenie: Nahranie informácií o identite dieťaťa, úplnej správy alebo fotografie do verejne dostupného nástroja umelej inteligencie je porušením KVKK a súkromia a nemožno ho stiahnuť. Údaje idú na externý server a niektoré nástroje ich môžu použiť na trénovanie modelu. Pred odovzdaním vždy anonymizujte.
Výber nástroja a životný cyklus údajov
Nie každý nástroj AI má rovnakú úroveň súkromia. Pri hodnotení nástroja sa opýtajte: Využíva efektívnosť pri trénovaní modelu? Kde ukladá dáta a ako dlho? Ponúka zmluvu o spracovaní údajov (na firemné použitie)? Kde sú ich servery? Firemné, zmluvné a školiace nástroje, ktoré nepoužívajú vaše údaje, sú bezpečnejšie ako verejne dostupné bezplatné nástroje. Ani v najbezpečnejšom nástroji však nezdieľajte zbytočné prihlasovacie údaje – anonymizácia je prvou obranou za každých okolností.
Zvážte životný cyklus údajov: zbierajte údaje (overujte), spracovávajte (podľa potreby), ukladajte (zabezpečené, načasované), zdieľajte (len autorizované, anonymné) a odstráňte (po dokončení). Čokoľvek, čo vložíte do nástrojov AI, riskuje, že vypadne z tejto slučky.
Tip: Na začiatok svojich obľúbených výziev vložte pevné pravidlo: „V tejto konverzácii nebudem zdieľať žiadne informácie, ktoré by identifikovali dieťa alebo rodinu.“ Tým, že sa to stane kontrolným reflexom, sa zabráni najbežnejšiemu narušeniu (neprítomnému prilepeniu ID).
Etické hranice: diagnóza, stigma, diskriminácia
Ochrana osobných údajov je technický problém, ale etika je širšia. Rozhodujúce sú tri hranice. Diagnostická autorita: špecialista na vývoj dieťaťa vykonáva skríning a hodnotenie vývoja; Definitívna diagnóza je úlohou príslušného lekára/klinického tímu. Umelá inteligencia túto hranicu nepozná; budete chrániť. Stigma: Označenie dieťaťa včasnou a trvalou nálepkou (v spise, v rodine, vo vlastnej mysli) je voči dieťaťu nespravodlivé a môže negatívne ovplyvniť jeho vývoj. Diskriminácia a zaujatosť: AI môže odrážať zaujatosti v tréningových údajoch; Môže to viesť k skresleným výsledkom týkajúcim sa konkrétnej kultúry, pohlavia alebo socioekonomickej skupiny. Odborník by si ich mal všimnúť a opraviť. Nad tým všetkým stojí zásada najlepšieho záujmu dieťaťa: je každé rozhodnutie pre dobro dieťaťa?
Štyri kopírovateľné výzvy
1) Výzva na anonymizáciu:
Pošlem vám textovú správu. Odstráňte všetky informácie, ktoré môžu odhaliť totožnosť dieťaťa alebo rodiny (meno, priezvisko, TR ID, dátum narodenia, škola/inštitúcia, adresa, číslo spisu, jedinečné údaje); nahradiť všeobecným výrazom([dievča], [predškolské zariadenie]). Zovšeobecňujte nielen meno, ale aj jedinečné detaily, ktoré môžu osobu identifikovať. Uveďte, čo ste odstránili. Text: [raw]
2) Výzva na vyhodnotenie súkromia vozidla:
Poskytnite mi kontrolný zoznam otázok týkajúcich sa ochrany osobných údajov, ktoré by som mal položiť, aby som sa rozhodol, či môžem použiť nástroj AI s údajmi dieťaťa (sú údaje používané pri vzdelávaní, uchovávaní, zmluve, umiestnení servera, vymazaní). Nevymýšľajte si odpovede; stačí uviesť otázky.
3) Výzva na kontrolu etiky/obmedzenia právomocí:
Eticky si preštudujte nasledujúci text: (1) určuje/predpokladá diagnózu? (2) existuje stigmatizujúce označenie? (3) Existujú kultúrne/rodové/socioekonomické predsudky? Zvýraznite každý problém a navrhnite opravenú, opatrnú alternatívu.Text: [návrh]
4) Textová výzva na získanie súhlasu rodiny:
Navrhnite rodine krátky text OZNÁMENIE/SÚHLAS, ktorý jednoducho vysvetlí, ako budem používať a chrániť údaje dieťaťa. Zahŕňa: ktoré údaje, na aký účel, ako sú chránené, s kým sú zdieľané, právo na odstúpenie od zmluvy. Poskytovanie právneho poradenstva; Upozorňujeme, že ide o návrh a musí byť schválený inštitúciou.
tri mini prípady
Prípad 1 – Porušenie nahrávania identity. Počas rušného dňa špecialista vloží správu o vývoji dieťaťa spolu s celým menom a ID do verejného nástroja a povie „zhrnúť“. Údaje opustili inštitúciu a súhlas rodiny nebol získaný. Správnym spôsobom bolo anonymizovať údaje s 1. výzvou a používať iba anonymné informácie v bezpečnom nástroji. Toto porušenie je právnym aj etickým problémom a nemožno ho vrátiť späť.
Prípad 2 – Opätovná identifikácia. Odborník meno vymaže, ale ponechá detail „jediná trojica v dedine, jeho otec je imám“. Tento detail identifikuje dieťa aj bez mena. Odborník prehlbuje anonymizáciu, aby zovšeobecnil jedinečné detaily: „dieťa viacpočetného tehotenstva žijúce na vidieku“. Identita je teraz chránená.
Prípad 3 – Korekcia zaujatosti. Umelá inteligencia vytvára zaujatý predpoklad implicitný v obsahu o rodine s nízkymi príjmami, ako napríklad „zapojenie je v týchto rodinách často nedostatočné“. Odborník to zachytí 3. výzvou; považuje výrok za nepodložený, stigmatizujúci a diskriminačný a odstraňuje ho. Prepisuje obsah do jazyka, ktorý považuje každú rodinu za rovnocennú a rešpektovanú.
Slabá výzva / Silná výzva
Slabá výzva:
Prilepím sem celú Elifinu správu, zhodnotím a odporučím diagnózu.
Problém: zdieľajú sa informácie o identite (porušenie KVKK), vyžaduje sa diagnostika (nadmerná autorizácia), žiadny súhlas, bezpečné vozidlo nie je spochybňované.
Výkonná výzva:
Upravte nasledujúci ANONYMNÝ súhrn vývoja (odstránili sa identifikačné informácie) pre NÁVRH hodnotenia. Stanovenie diagnózy; používanie stigmatizačných označení; Vyhnite sa neobjektívnym predpokladom. Označte [nech posúdi odborníka] tam, kde si nie ste istý. Zhrnutie: [anonym]
Časté chyby
- Odovzdávanie poverení: Najbežnejšie a najzávažnejšie porušenie; vždy anonymizovať.
- Povrchná anonymizácia: Len vymazanie mena nestačí; zovšeobecňovať aj jedinečné detaily.
- Nespochybňujte súkromie nástroja: Vyhnite sa nástrojom, ktoré používajú vaše údaje na vzdelávanie.
- Prekročenie diagnostickej hranice: Hodnotenie nie je diagnóza; Autoritu má lekár/tím.
- Nerozpoznávanie zaujatosti: Opravte stigmatizujúce/diskriminačné predpoklady AI.
V súhrne
Údaje o dieťati sú osobitné osobné údaje; Vyžaduje si najvyššiu ochranu v rámci KVKK a mlčanlivosť a súhlas sa získava od rodiny. Najsilnejšou obranou pri práci s AI je anonymizácia – zovšeobecňujte nielen meno, ale aj jedinečné detaily, ktoré môžu jednotlivca identifikovať. Vyhodnotiť nástroje na ochranu súkromia; Vyberte si ten bezpečný, ktorý nepoužíva vaše údaje pri tréningu. Udržiavať etické hranice (diagnostická autorita, stigma, diskriminácia/zaujatosť) a pri každom rozhodnutí zohľadňovať najlepší záujem dieťaťa.
Aplikačná úloha
Urobte si neanonymizovanú (autentickú, z vašich vlastných záznamov) poznámku o pokroku; Bez toho, aby sa to odrážalo na obrazovke, anonymizujte ho manuálne pomocou logiky prvej výzvy a uveďte všetky informácie, ktoré ste získali. Vyhodnoťte nástroj AI, ktorý používate, z hľadiska ochrany osobných údajov pomocou druhej výzvy. Skontrolujte návrh z hľadiska etiky/predpojatosti s výzvou 3. Zaznamenajte si aspoň tri opravy, ktoré ste urobili (jedna anonymizácia, jedna etika, jedna zaujatosť).
kontrolný zoznam
- [ ] Údaje som anonymizoval; Zovšeobecnil som aj jedinečné detaily.
- [ ] Nástroj, ktorý som použil, som vyhodnotil z hľadiska ochrany osobných údajov; Vybral som si ten bezpečný.
- [ ] V prípade potreby som získal súhlas rodiny.
- [ ] Dodržal som limit diagnostickej autority; Aplikoval som rozlíšenie hodnotenie – diagnóza.
- [ ] Odstránil som stigmatizujúce značky a diskriminačné/zaujaté výrazy.
- [ ] Pri každom rozhodnutí som zohľadňoval najlepší záujem dieťaťa.
- [ ] Nenahral som prihlasovacie údaje do žiadneho vozidla.