Câștiguri:
- Capacitatea de a înțelege și implementa faptul că datele copilului sunt date speciale și că trebuie anonimizate în sfera de aplicare a KVKK și a confidențialității și necesită acordul familiei.
- Abilitatea de a evalua instrumentele de inteligență artificială în ceea ce privește securitatea datelor, stocarea și utilizarea în formarea modelelor și de a alege pe cea sigură
- Abilitatea de a menține limite etice, cum ar fi autoritatea de diagnostic, stigmatizarea, discriminarea și interesul superior al copilului în fluxul de lucru
Dosarul de dezvoltare al unui copil conține cele mai intime informații ale copilului: istoricul dezvoltării, situația familiei, rezultatele screening-ului, observațiile și, uneori, informații medicale. Când această informație cad în mâini greșite sau este folosită greșit, poate dăuna copilului pentru anii următori: o etichetă, o stigmatizare, o discriminare. Prin urmare, protejarea datelor copiilor este una dintre cele mai serioase responsabilități ale specialistului în dezvoltarea copilului; În era inteligenței artificiale, această responsabilitate este înmulțită, deoarece lipirea datelor într-un instrument durează câteva secunde și nu poate fi anulată. În această unitate, vom acoperi statutul juridic al datelor despre copii, evaluarea instrumentelor de inteligență artificială în ceea ce privește confidențialitatea și limitele etice.
În primul rând, temeiul juridic: în Türkiye, KVKK (Legea privind protecția datelor cu caracter personal) reglementează prelucrarea datelor cu caracter personal. Datele privind sănătatea și dezvoltarea copilului sunt în categoria datelor personale speciale; Această categorie este supusă celui mai înalt nivel de protecție. În Europa, echivalentul său este GDPR. În cazul unui copil, sensibilitatea este și mai mare, deoarece copilul nu poate da consimțământ valabil asupra propriilor date; Consimțământul (consimțământul explicit informat) se obține de la reprezentantul legal, adică de la familie. Principiul „interesului superior al copilului” primează în fiecare decizie.
Anonimizarea: cel mai de bază și mai puternic pas
Cel mai elementar, cel mai practic pas care protejează confidențialitatea atunci când lucrați cu inteligența artificială este anonimizarea: eliminarea tuturor informațiilor care dezvăluie identitatea (nume, prenume, numărul ID TR, data nașterii, numele școlii/instituției, adresa, numărul de protocol/dosar, nume de familie) din date și utilizarea numai a informațiilor neidentificate necesare sarcinii dvs. Scriind „fată de 3 ani și 2 luni” în loc de „Elif Kaya, 3 ani și 2 luni, grădinița Papatya” face treaba de date, dar păstrează identitatea.
Un cuvânt de precauție: identitatea poate reapărea atunci când mai multe detalii mici se unesc (aceasta se numește reidentificare). De exemplu, detalii precum „Singurul geamăn din satul X, tatăl lui este conducătorul” pot identifica persoana chiar dacă nu există un nume. Prin urmare, este necesar nu doar ștergerea numelui, ci și generalizarea detaliilor care îl fac unic.
Raw (nu poate fi partajat)
Anonim (disponibil)
Elif Kaya, TC 123..., născut la 12.03.2022.
fetita de 3 ani si 2 luni
Grădinița Papatya, clasa 3-A
instituție preșcolară
Mama lui este Ayşe, iar tatăl său este Mukhtar.
parintii
Dosar numărul 2024/187
(eliminat)
Atenție: încărcarea informațiilor despre identitatea copilului, a raportului complet sau a unei fotografii într-un instrument de inteligență artificială disponibil public este o încălcare a KVKK și a confidențialității și nu poate fi retrasă. Datele ajung la un server extern și unele instrumente le pot folosi pentru antrenamentul modelului. Anonimizați întotdeauna înainte de a încărca.
Selectarea instrumentului și ciclul de viață al datelor
Nu toate instrumentele AI au același nivel de confidențialitate. Când evaluați un instrument, întrebați: folosește eficiența în formarea modelului? Unde stochează datele și pentru cât timp? Oferă un acord de prelucrare a datelor (pentru uz corporativ)? Unde sunt serverele lor? Instrumentele corporative, contractate și de instruire care nu vă folosesc datele sunt mai sigure decât instrumentele gratuite disponibile public. Cu toate acestea, chiar și în cel mai sigur instrument, nu împărtășiți acreditările inutile - anonimizarea este prima apărare în toate circumstanțele.
Luați în considerare ciclul de viață al datelor: colectați date (validați), procesați (după caz), stocați (securizat, cronometrat), partajați (numai autorizat, anonim) și ștergeți (când este finalizat). Orice inserați în instrumentele AI riscă să nu se încadreze în această buclă.
Sfat: puneți o regulă strictă în partea de sus a solicitărilor dvs. preferate: „Nu voi împărtăși nicio informație care să identifice copilul sau familia în această conversație”. Făcând acest lucru un reflex de control, previne cea mai frecventă încălcare (lipirea absentă a ID-ului).
Limite etice: diagnostic, stigmatizare, discriminare
Confidențialitatea este o problemă tehnică, dar etica este mai largă. Trei limite sunt critice. Autoritate de diagnostic: specialistul în dezvoltarea copilului efectuează screening-ul și evaluarea dezvoltării; Diagnosticul definitiv este sarcina medicului/echipei clinice relevante. Inteligența artificială nu cunoaște această limită; vei proteja. Stigmatizarea: marcarea unui copil cu o etichetă timpurie și permanentă (în dosar, în familie, în propria ta minte) este nedreaptă față de copil și poate avea un impact negativ asupra dezvoltării acestuia. Discriminare și părtinire: AI poate reflecta părtiniri în datele de antrenament; Poate produce rezultate părtinitoare cu privire la o anumită cultură, gen sau grup socioeconomic. Expertul ar trebui să le observe și să le corecteze. Mai presus de toate acestea se află principiul interesului superior al copilului: orice decizie este pentru binele copilului?
Patru solicitări copiabile
1) Solicitare de anonimizare:
Îți voi da un text. Eliminați orice informații care ar putea dezvălui identitatea copilului sau familiei (nume, prenume, ID TR, data nașterii, școală/instituție, adresă, număr dosar, detalii unice); înlocuiți cu expresia generală([fată], [instituție preșcolară]). Generalizați nu doar numele, ci și detalii unice care pot identifica persoana. Enumerați ceea ce ați eliminat.Text: [raw]
2) Solicitare de evaluare a confidențialității vehiculului:
Dă-mi o listă de întrebări de confidențialitate pe care ar trebui să le pun pentru a decide dacă pot folosi un instrument AI cu date despre copii (sunt datele folosite în educație, reținere, contract, locația serverului, ștergere). Nu inventați răspunsurile; enumerați doar întrebările.
3) Etica/limita de control al autorității prompt:
Revizuiți din punct de vedere etic următorul text: (1) pune/implică un diagnostic? (2) există o etichetă stigmatizantă? (3) există părtiniri culturale/de gen/socioeconomice? Evidențiați fiecare problemă și sugerați o alternativă corectată și prudentă.Text: [schiță]
4) Solicitare text cu informații despre consimțământul familiei:
Întocmește un scurt text de NOTIFICARE/CONSIMAMENT către familie care explică pur și simplu cum voi folosi și proteja datele copilului. Include: ce date, în ce scop, cum sunt protejate, cu cine sunt partajate, dreptul de retragere. Oferirea de consultanță juridică; Rețineți că este un proiect și trebuie aprobat de instituție.
trei mini cutii
Cazul 1 – Încălcarea încărcării identității. Într-o zi plină, un specialist lipește într-un instrument public un raport de dezvoltare a copilului, complet cu numele complet și actul de identitate și spune „rezumat”. Datele au părăsit instituția și nu a fost obținut acordul familiei. Modul corect a fost anonimizarea datelor cu primul prompt și folosirea numai informațiilor anonime într-un instrument securizat. Această încălcare este atât o problemă legală, cât și etică și nu poate fi anulată.
Cazul 2 — Reidentificare. Un expert șterge numele, dar lasă detaliul „singurul triplet din sat, tatăl său este imam”. Acest detaliu identifică copilul chiar și fără nume. Expertul aprofundează anonimizarea pentru a generaliza detalii unice: „un copil cu sarcini multiple care trăiește într-o zonă rurală”. Identitatea este acum protejată.
Cazul 3 — Corectarea părtinirii. AI produce o presupunere părtinitoare implicită în conținutul despre o familie cu venituri mici, cum ar fi „implicarea este adesea inadecvată în aceste familii”. Expertul prinde acest lucru cu al treilea prompt; consideră afirmația nefondată, stigmatizantă și discriminatorie și o înlătură. Rescrie conținutul într-o limbă care vede fiecare familie ca fiind egală și respectată.
Prompt slab / Prompt puternic
Prompt slab:
Lipesc aici raportul complet al lui Elif, evaluez și recomand un diagnostic.
Problemă: informațiile de identitate sunt partajate (încălcarea KVKK), se solicită diagnosticul (exces de autorizare), fără consimțământ, vehiculul sigur nu este pus la îndoială.
Solicitare puternică:
Editați următorul rezumat ANONIM al dezvoltării (informațiile de identificare eliminate) pentru SCORUL de evaluare. Efectuarea unui diagnostic; utilizarea etichetelor stigmatizante; Evitați presupunerile părtinitoare. Marcați [lăsați un expert să evalueze] acolo unde nu sunteți sigur. Rezumat: [anonim]
Greșeli comune
- Încărcarea acreditărilor: cea mai frecventă și mai gravă încălcare; anonimizați întotdeauna.
- Anonimizarea superficială: doar ștergerea numelui nu este suficientă; generalizează și detalii unice.
- Nu puneți la îndoială confidențialitatea instrumentului: evitați instrumentele care vă folosesc datele pentru educație.
- Depășirea limitei diagnosticului: Evaluarea nu este diagnostic; Autoritatea revine medicului/echipei.
- Nerecunoașterea părtinirii: remediați ipotezele stigmatizante/discriminatorii ale IA.
Pe scurt
Datele copilului sunt date personale speciale; Necesită cea mai înaltă protecție în domeniul de aplicare al KVKK și confidențialitatea și consimțământul sunt obținute din partea familiei. Cea mai puternică apărare atunci când lucrați cu AI este anonimizarea - generalizați nu doar numele, ci și detaliile unice care pot identifica individul. Evaluați instrumentele pentru confidențialitate; Alegeți cel sigur care nu vă folosește datele la antrenament. Menține limitele etice (autoritate de diagnostic, stigmatizare, discriminare/prejudecăți) și ține cont de interesul superior al copilului în fiecare decizie.
Sarcina de aplicare
Luați o notă de progres neanonimizată (autentică, din propriile înregistrări); Fără a-l reflecta pe ecran, anonimizați-l manual folosind logica primului prompt și enumerați toate informațiile pe care le-ați extras. Evaluați un instrument AI pe care îl utilizați în ceea ce privește confidențialitatea cu al doilea prompt. Verificați o versiune nefinalizată pentru etică/părținere cu promptul 3. Notați cel puțin trei corecții pe care le-ați făcut (o anonimizare, una etică, o părtinire).
lista de verificare
- [ ] Am anonimizat datele; Am generalizat și detalii unice.
- [ ] Am evaluat instrumentul pe care l-am folosit în ceea ce privește confidențialitatea; Am ales-o pe cea sigură.
- [ ] Am obținut acordul familiei atunci când a fost necesar.
- [ ] Am menținut limita de autoritate de diagnosticare; Am aplicat distincția evaluare-diagnostic.
- [ ] Am eliminat etichetele de stigmatizare și expresiile discriminatorii/părtinitoare.
- [ ] Am luat în considerare interesul superior al copilului în fiecare decizie.
- [ ] Nu am încărcat acreditările în niciun vehicul.