Dobički:
- Sposobnost razumevanja in uresničevanja dejstva, da so podatki o otroku posebni podatki in da morajo biti v okviru KVKK in zaupnosti anonimizirani ter zahtevajo soglasje družine.
- Sposobnost ovrednotenja orodij umetne inteligence z vidika varnosti podatkov, shranjevanja in uporabe pri modelnem usposabljanju ter izbire varnega
- Sposobnost ohranjanja etičnih meja, kot so diagnostična avtoriteta, stigma, diskriminacija in najboljše koristi otroka v delovnem procesu
Otrokova razvojna datoteka vsebuje otrokove najintimnejše podatke: zgodovino razvoja, družinske razmere, rezultate presejalnih pregledov, opazovanja in včasih zdravstvene podatke. Ko te informacije padejo v napačne roke ali se zlorabijo, lahko otroku škodijo še leta: etiketa, stigma, diskriminacija. Zato je varovanje otrokovih podatkov ena najresnejših nalog strokovnjaka za razvoj otroka; V dobi umetne inteligence se ta odgovornost pomnoži, saj prilepljanje podatkov v orodje traja nekaj sekund in ga ni mogoče razveljaviti. V tej enoti bomo obravnavali pravni status podatkov o otrocih, vrednotenje orodij umetne inteligence v smislu zasebnosti in etične meje.
Prvič, pravna podlaga: V Turčiji KVKK (Zakon o varstvu osebnih podatkov) ureja obdelavo osebnih podatkov. Podatki o zdravstvenem stanju in razvoju otroka so v kategoriji posebnih osebnih podatkov; Za to kategorijo velja najvišja stopnja zaščite. V Evropi je njegov ekvivalent GDPR. Pri otroku je občutljivost še toliko večja, saj otrok ne more dati veljavne privolitve v svoje podatke; Privolitev (informirana izrecna privolitev) se pridobi od zakonitega zastopnika, to je družine. Pri vsaki odločitvi prevlada načelo »najboljše koristi otroka«.
Anonimizacija: najosnovnejši in najmočnejši korak
Najosnovnejši in najbolj praktičen korak, ki ščiti zasebnost pri delu z umetno inteligenco, je anonimizacija: odstranitev vseh informacij, ki razkrivajo identiteto (ime, priimek, ID številka TR, datum rojstva, ime šole/ustanove, naslov, številka protokola/datoteke, priimki) iz podatkov in uporaba samo neidentificiranih informacij, ki so potrebne za vašo nalogo. Napis "3 leta in 2 meseca stara punčka" namesto "Elif Kaya, 3 leta in 2 meseca, vrtec Papatya" opravi nalogo podatkov, vendar ohrani identiteto.
Previdno: identiteta se lahko ponovno pojavi, ko se združi več majhnih podrobnosti (to se imenuje ponovna identifikacija). Na primer, podrobnosti, kot je "Edini dvojček v vasi X, njegov oče je glavar", lahko identificirajo osebo, tudi če ni imena. Zato ni treba samo izbrisati imena, ampak tudi posplošiti podrobnosti, zaradi katerih je edinstveno.
Surovo (ni mogoče deliti)
Anonimno (za skupno rabo)
Elif Kaya, TC 123..., rojena 12.03.2022.
3 leta in 2 meseca punčka
Vrtec Papatya, 3-A razred
vrtec
Njegova mati je Ayşe, oče pa Mukhtar.
starši
Številka spisa 2024/187
(odstranjeno)
Pozor: Nalaganje podatkov o identiteti otroka, celotnega poročila ali fotografije v javno dostopno orodje umetne inteligence je kršitev KVKK in zasebnosti in je ni mogoče preklicati. Podatki gredo na zunanji strežnik in nekatera orodja jih lahko uporabijo za usposabljanje modela. Pred nalaganjem vedno anonimiziraj.
Izbira orodja in življenjski cikel podatkov
Vsako orodje AI nima enake ravni zasebnosti. Ko ocenjujete orodje, se vprašajte: Ali uporablja učinkovitost pri usposabljanju modela? Kje shranjuje podatke in kako dolgo? Ali ponuja pogodbo o obdelavi podatkov (za poslovno uporabo)? Kje so njihovi strežniki? Poslovna, pogodbena in izobraževalna orodja, ki ne uporabljajo vaših podatkov, so varnejša od javno dostopnih brezplačnih orodij. Vendar tudi v najbolj varnem orodju ne delite nepotrebnih poverilnic – anonimizacija je prva obramba v vseh okoliščinah.
Upoštevajte življenjski cikel podatkov: zbirajte podatke (preverite), obdelajte (po potrebi), shranite (varno, časovno določeno), delite (samo pooblaščeno, anonimno) in izbrišite (ko končate). Vse, kar vstavite v orodja AI, tvega, da bo padlo zunaj te zanke.
Namig: na vrh priljubljenih pozivov postavite trdo pravilo: »V tem pogovoru ne bom razkril nobenih informacij, ki bi identificirale otroka ali družino.« Če to naredite za nadzorni refleks, preprečite najpogostejšo kršitev (odsotno lepljenje ID-ja).
Etične meje: diagnoza, stigma, diskriminacija
Zasebnost je tehnično vprašanje, etika pa je širša. Tri meje so kritične. Diagnostični organ: specialist za razvoj otroka izvaja presejanje in oceno razvoja; Dokončna diagnoza je naloga ustreznega zdravnika/klinične ekipe. Umetna inteligenca te meje ne pozna; boste zaščitili. Stigma: zgodnje in trajno označevanje otroka (v kartoteki, družini, lastnem umu) je nepravično do otroka in lahko negativno vpliva na njegov razvoj. Diskriminacija in pristranskost: umetna inteligenca lahko odraža pristranskost v podatkih o usposabljanju; Lahko povzroči pristranske rezultate glede določene kulture, spola ali socialno-ekonomske skupine. Strokovnjak bi jih moral opaziti in popraviti. Nad vsem tem stoji načelo največje koristi otroka: ali je vsaka odločitev v dobro otroka?
Štirje pozivi za kopiranje
1) Poziv za anonimizacijo:
Dal ti bom besedilo. Odstranite vse podatke, ki bi lahko razkrili identiteto otroka ali družine (ime, priimek, TR ID, datum rojstva, šola/institucija, naslov, številka datoteke, edinstveni podatki); zamenjati s splošnim izrazom([deklica], [vrtec]). Posplošite ne samo ime, ampak tudi edinstvene podrobnosti, ki lahko identificirajo osebo. Naštejte, kaj ste odstranili. Besedilo: [surovo]
2) Poziv za oceno zasebnosti vozila:
Daj mi kontrolni seznam vprašanj o zasebnosti, ki jih moram zastaviti, da se odločim, ali lahko uporabljam orodje AI z otroškimi podatki (ali so podatki uporabljeni pri izobraževanju, hrambi, pogodbi, lokaciji strežnika, brisanju). Ne izmišljujte si odgovorov; samo naštejte vprašanja.
3) Poziv za nadzor etike/meje avtoritete:
Etično preglejte naslednje besedilo: (1) ali postavlja/nakazuje diagnozo? (2) Ali obstaja stigmatizirajoča oznaka? (3) ali obstajajo kulturne/spolne/socioekonomske pristranskosti? Označite vsako težavo in predlagajte popravljeno, previdno alternativo. Besedilo: [osnutek]
4) Besedilni poziv z informacijami o soglasju družine:
Pripravite kratko besedilo OBVESTILA/SOGLASJA za družino, ki preprosto pojasnjuje, kako bom uporabljal in varoval otrokove podatke. Vključuje: katere podatke, za kakšen namen, kako so zaščiteni, s kom se delijo, pravico do odstopa. Nudenje pravnega svetovanja; Upoštevajte, da gre za osnutek in ga mora potrditi institucija.
trije mini kovčki
1. primer — Kršitev nalaganja identitete. Na naporen dan specialist prilepi poročilo o otrokovem razvoju, skupaj s polnim imenom in osebnim dokumentom, v javno orodje in reče "povzeti". Podatki so zapustili zavod in soglasje družine ni bilo pridobljeno. Pravilen način je bil anonimizirati podatke s prvim pozivom in uporabiti samo anonimne informacije v varnem orodju. Ta kršitev je pravno in etično vprašanje in je ni mogoče odpraviti.
Primer 2 – Ponovna identifikacija. Strokovnjak izbriše ime, pusti pa podrobnost "edini trojček v vasi, njegov oče je imam." Ta podrobnost identificira otroka tudi brez imena. Strokovnjak poglobi anonimizacijo, da posploši edinstvene podrobnosti: "otrok v večplodni nosečnosti, ki živi na podeželju." Identiteta je zdaj zaščitena.
Primer 3 – Popravek pristranskosti. Umetna inteligenca ustvari pristransko domnevo, ki je implicitna v vsebini o družini z nizkimi dohodki, kot je "vključevanje v teh družinah pogosto neustrezno." Strokovnjak to ujame s 3. pozivom; ugotovi, da je izjava neutemeljena, stigmatizirajoča in diskriminatorna ter jo odstrani. Vsebino prepisuje v jeziku, ki vsako družino vidi kot enakopravno in spoštovano.
Šibek poziv/močan poziv
Šibek poziv:
Tukaj prilepim celoten Elifin izvid, ocenim in priporočim diagnozo.
Težava: delijo se podatki o identiteti (kršitev KVKK), zahteva se diagnoza (presežek pooblastila), ni soglasja, varno vozilo ni postavljeno pod vprašaj.
Močan poziv:
Uredite naslednji ANONIMNI razvojni povzetek (identifikacijski podatki odstranjeni) za ocenjevalni OSNUTEK. Postavitev diagnoze; uporaba stigmatizirajočih etiket; Izogibajte se pristranskim predpostavkam. Označite [naj oceni strokovnjak], kjer niste prepričani. Povzetek: [anonimno]
Pogoste napake
- Nalaganje poverilnic: najpogostejša in najhujša kršitev; vedno anonimiziraj.
- Površinska anonimizacija: samo brisanje imena ni dovolj; posplošite tudi edinstvene podrobnosti.
- Brez dvoma o zasebnosti orodja: Izogibajte se orodjem, ki vaše podatke uporabljajo za izobraževanje.
- Prestopanje diagnostične meje: Ocena ni diagnoza; Pristojnost je v rokah zdravnika/tima.
- Neprepoznavanje pristranskosti: Popravite stigmatizirajoče/diskriminatorne predpostavke o AI.
Če povzamem
Podatki o otroku so posebni osebni podatki; Zahteva najvišjo raven varstva v okviru KVKK ter zaupnost in soglasje družine. Najmočnejša obramba pri delu z umetno inteligenco je anonimizacija – posplošite ne le ime, ampak tudi edinstvene podrobnosti, ki lahko identificirajo posameznika. Ocenite orodja za zasebnost; Izberite varnega, ki pri treningu ne uporablja vaših podatkov. Ohranjajte etične meje (diagnostična avtoriteta, stigma, diskriminacija/pristranskost) in pri vsaki odločitvi upoštevajte najboljše koristi otroka.
Aplikacijska naloga
Vzemite neanonimiziran (verodostojen, iz lastnih zapisov) zapisek o napredku; Brez odseva na zaslonu, ga anonimizirajte ročno z uporabo logike prvega poziva in navedite vse informacije, ki ste jih pridobili. Z 2. pozivom ocenite orodje AI, ki ga uporabljate, glede zasebnosti. Preverite osnutek glede etike/pristranskosti s pozivom 3. Zabeležite vsaj tri popravke, ki ste jih naredili (ena anonimizacija, ena etika, ena pristranskost).
kontrolni seznam
- [ ] Podatke sem anonimiziral; Posplošil sem tudi edinstvene podrobnosti.
- [ ] Orodje, ki sem ga uporabil, sem ocenil z vidika zasebnosti; Izbrala sem varno.
- [ ] Po potrebi sem pridobil soglasje družine.
- [ ] Ohranil sem omejitev diagnostične avtoritete; Uporabil sem razliko ocenjevanje-diagnoza.
- [ ] Odstranil sem stigmatizirajoče oznake in diskriminatorne/pristranske izraze.
- [ ] Pri vsaki odločitvi sem upošteval največjo korist otroka.
- [ ] Poverilnice nisem naložil v nobeno vozilo.