KVKK, Confidențialitate și guvernare responsabilă a inteligenței artificiale publice

Câștiguri:

• Aplica principiile KVKK și minimizarea datelor atunci când procesează datele personale ale cetățenilor în instrumente AI.
• Acesta stabilește un cadru de guvernanță pentru o organizație care include o politică de utilizare a AI, o pistă de audit și un lanț de responsabilitate.
• Susține holistic că IA publică responsabilă se bazează pe supravegherea umană, transparență și responsabilitate.

Pe parcursul acestui modul, am văzut cum AI este un accelerator puternic în public: răspuns la întrebările cetățenilor, petiții și corespondență, cercetare legislativă, analiză de politici, raportare, luare a deciziilor bazate pe date, guvernare electronică și transparență. Acum ajungem la cadrul care ține totul împreună: protecția datelor cu caracter personal și guvernanța responsabilă. Publicul, prin natura sa, prelucrează datele cele mai sensibile ale cetățeanului: identitate, adresă, venituri, sănătate, cazier judiciar, situație familială. Prelucrarea acestor date cu instrumente AI trebuie să respecte pe deplin cadrul KVKK (Legea privind protecția datelor cu caracter personal nr. 6698; legea care reglementează prelucrarea legală, limitată și sigură a datelor cu caracter personal). În această unitate finală, vom stabili coloana vertebrală a confidențialității și guvernării utilizării AI publice - ce date pot fi furnizate cărui instrument, ce politici se aplică, cine este responsabil, cum o organizație gestionează AI în siguranță. Această unitate este acoperișul plasat peste zece unități anterioare.

Principiile de bază ale KVKK care ating IA publică

KVKK stabilește câteva principii de bază, fiecare limitând direct utilizarea AI:

• Respectarea legii și respectarea scopului: Datele cu caracter personal sunt prelucrate numai pentru un scop specific, legitim. Datele colectate într-un singur scop (de exemplu, solicitarea de ajutor) nu pot fi utilizate în alt scop (de exemplu, antrenamentul unui model) fără permisiune.
• Minimizarea datelor: Nu se prelucrează mai multe date decât este necesar în acest scop. Dacă nu este necesar un nume pentru o analiză de categorie, nu este dat niciun nume.
• Securitate: Datele sunt protejate împotriva accesului neautorizat. Lipirea datelor cetățenilor într-un instrument public de inteligență artificială înseamnă scoaterea acestor date în afara organizației - este o încălcare a politicii de securitate.
• Perioada de stocare: Datele sunt șterse la încheierea scopului; Nu se păstrează la infinit.
• Informații și drepturi: cetățenii au dreptul de a ști cum sunt prelucrate datele lor, de a corecta, de a șterge și de a se opune deciziilor automatizate.

Atenție: Încărcarea datelor unui cetățean într-un instrument public de inteligență artificială pe care instituția nu l-a aprobat, unde sunt stocate datele și cine are acces la acestea este neclar, este în majoritatea cazurilor o încălcare a KVKK și deschide instituția la sancțiuni. Regulile nu sunt niciodată îndoite „pentru a face treaba mai ușoară”.

Ce date, la ce vehicul? Model cu trei zone

Ca regulă generală, împărțiți datele în trei regiuni:

1. Roșu (nu intră niciodată în vehiculul public): număr de identitate, sănătate, criminalitate, religie, etnie, biometrie, adresa completă, orice identifică persoana respectivă. Acestea sunt procesate numai într-un mediu contractat/intern și conform KVKK, aprobat de instituție.
2. Galben (atenție, prin mascare): date care pot fi legate indirect de persoană. Anonimizați/agregați mai întâi, apoi procesați.
3. Verde (gratuit): Informații impersonale, publice, generale (text legislativ, statistici publice, procedură generală). Le puteți procesa cu ușurință cu AI.

Sfat: înainte de a oferi un text AI, faceți testul de 5 secunde: „Există ceva în acest conținut care ar putea identifica o persoană?” Dacă răspunsul este „da/poate”, mascați sau conduceți un vehicul omologat. Dacă aveți îndoieli, luați în considerare roșu.

Guvernanța corporativă: de la persoană la sistem

IA publică responsabilă nu poate fi lăsată în voia bună a funcționarilor publici individuali; Este necesar un cadru instituțional:

• Politică: Instituția trebuie să aibă o politică de utilizare a AI: ce instrumente sunt aprobate, ce date pot fi introduse, cine este responsabil.
• Lista de instrumente aprobate: Personalul ar trebui să utilizeze instrumente pe care instituția le-a evaluat și aprobat, nu în mod aleatoriu.
• Instruire: personalul trebuie să cunoască disciplina de verificare și regiunile de date (cum ar fi acest modul).
• Înregistrare și auditare: ar trebui păstrată o pistă de audit a deciziilor produse cu AI.
• Responsabilitate: Fiecare ieșire alimentată de AI trebuie să aibă un proprietar uman și aprobare. Responsabilitatea revine instituției și ofițerului, nu vehiculului.
• Principiul centrat pe om: Nicio decizie finală de creare/restricționare a drepturilor nu este luată fără consimțământul uman.

trei mini cutii

Cazul 1 — Scurgerea de date roșie a fost prevenită. Un membru al personalului era pe cale să încarce un rezumat al unei liste de beneficii pentru sănătate pentru 1.200 de persoane într-un instrument public. Datorită politicii de vehicule aprobate de agenție și instruirii „date roșii”, s-a oprit; Datele au fost prelucrate într-un mediu aprobat intern și cu câmpuri de identitate mascate. O posibilă încălcare a KVKK și pierderea încrederii pentru zeci de mii de oameni a fost prevenită.

Cazul 2 – Utilizare greșită. O unitate a dorit să folosească datele colectate pentru a le informa pentru un plan de comunicare pre-electorală. Responsabilul cu protecția datelor a reamintit principiul respectării scopului: aceasta a fost o utilizare a datelor în afara scopului pentru care au fost colectate și a fost ilegală. Solicitarea a fost respinsă.

Cazul 3 – Decalajul de guvernare a fost eliminat. Într-o municipalitate, diferite unități foloseau diferite instrumente AI fără control; Nimeni nu știa ce date au mers unde. Agenția a introdus o politică de utilizare a AI, o listă de vehicule aprobată și o pistă de audit; În decurs de 3 luni, utilizarea vehiculelor neînmatriculate a scăzut cu 90% și a fost creat un inventar de date.

Patru șabloane copiabile

1) Clasificarea regiunii de date (înainte de a exporta către vehicul):

Rolul dumneavoastră: consilier pentru protecția datelor. Clasificați următorul conținut înainte de a-l oferi unui agent AI: ROȘU (identifică persoana, nu intră niciodată în vehiculul public), GALBEN (conectabil indirect, mască), VERDE (non-personal, gratuit). Marcați zonele roșii/galbene una câte una și spuneți-le cum să mascheze. Numără suspectul drept roșu. CONȚINUT: [text]

2) Mascare/anonimizare:

Anonimizați toate datele personale înainte de a procesa următorul text: nume -> [PERSOANĂ-1], număr ID -> [IDENTITATE], adresă ->[ADRESA], sănătate/penalizare -> [SENSIBIL]. Etichetează aceeași persoană. Exportați textul anonimizat separat. Nu scrieți niciodată date reale la ieșire. TEXT: [text]

3) Lista de verificare a conformității KVKK (pentru utilizarea unui AI):

Rolul dumneavoastră: specialist în conformitate KVKK. Produceți o listă de verificare a conformității pentru următoarea utilizare a IA: (1) este scopul prelucrării legitim și specific, (2) este conectat la scop (se trece la un alt scop), (3) este optimizat, (4) este instrumentul securizat/aprobat, (5) este perioada de păstrare sigură, (6) sunt drepturile cetățenilor (obiecție, ștergere) protejate. Marcați articolele lipsă cu un steag roșu. UTILIZARE: [reteta]

4) Cadrul de politici corporative privind inteligența artificială:

Rolul dumneavoastră: expert public în guvernanță IT. Producem un cadru de politică de utilizare a AI pentru organizația noastră: domeniul de aplicare, instrumente aprobate, zone de date (roșu/galben/verde), utilizări interzise, ​​puncte de aprobare umană, pistă de audit, responsabilități, instruire și notificare de încălcare. Completați fiecare titlu cu 1-2 propoziții. INSTITUȚIE: [unitate și locuri de muncă tipice]

Prompt slab / Prompt puternic

Slab: „Rezumați această listă de referințe”.

Puternic: „Rolul dvs. este consultant în protecția datelor. În primul rând, clasificați această listă după regiunea de date (roșu/galben/verde) și marcați toate câmpurile care identifică persoana. Mascați câmpurile roșii/galbene cu [PERSOANĂ]/[IDENTITATE]/[SENSITIVE], păstrați aceeași persoană cu aceeași etichetă. Produceți doar un rezumat al categoriei cu anonimat; notați, nu procesați aceste date personale. necesită atenție în ceea ce privește KVKK (scop, depozitare, securitatea vehiculului) adăugare."

Diferența: promptul puternic clasifică, maschează, minimizează și integrează principiile KVKK înainte de procesarea datelor.

Regiuni de date și regulă

Regiunea

exemplu

regulă

roșu

Număr ID TR, sănătate, penalizare, adresa completă

Nu intrați niciodată într-un vehicul public; mediu aprobat

galbenă

Vârsta+cartier+ocupație, identificator indirect

Mascați/agregați, apoi procesați

verde

Legislație, statistică publică, procedură generală

munca independenta

Greșeli comune

• Exportarea datelor roșii în instrumentul public. Cea mai gravă încălcare; Datele de identitate/sănătate/penalități nu părăsesc mediul aprobat.
• Folosire greșită. Este împotriva legii utilizarea datelor colectate într-un scop în alt scop (formare model, comunicare) fără permisiune.
• Prelucrează prea multe date. Nu mutați câmpuri inutile (nume, adresă) în acest scop; Minimizați.
• Conducerea fără aprobare. Nu este clar unde se îndreaptă datele în vehiculele pe care instituția nu le-a evaluat.
• Nedeterminarea perioadei de păstrare. Datele trebuie șterse atunci când scopul este îndeplinit; nu trebuie păstrat la infinit.
• Punerea responsabilitatii asupra vehiculului. Ieșirea este deținută și aprobată de om; „AI a făcut-o” nu este o apărare.

Pe scurt

Cadrul pentru IA publică responsabilă este protecția datelor cu caracter personal și guvernanța corporativă. Principiile KVKK — scopul, minimizarea, securitatea, limita de păstrare, drepturile cetățenilor — limitează orice utilizare a AI. Separați datele în zone roșii/galbene/verzi, nu dați niciodată roșu unui instrument public, mascați datele personale, utilizați numai instrumente aprobate și conectați un proprietar uman la fiecare decizie. Politica la nivel instituțional, lista vehiculelor aprobate, formarea și fișa de inspecție; Disciplina verificării la nivel de persoană. Astfel, AI servește publicul prin protejarea drepturilor cetățenilor.

Sarcina de aplicare

Alegeți o utilizare reală a AI pe care ați făcut-o (sau vă gândiți să o faceți) în unitatea dvs. Separați conținutul pe care îl veți procesa în roșu/galben/verde cu șablonul „Clasificarea regiunii de date”. Aplicați șablonul „Lista de verificare a conformității KVKK” și găsiți cel puțin un punct lipsă/risc. În cele din urmă, redactați o politică scurtă potrivită pentru unitatea dvs. cu „scheletul politicii corporative AI”.

lista de verificare

• [ ] Am impartit continutul in zona rosu/galben/verde; L-am numărat pe suspect ca fiind roșu.
• [ ] Nu am furnizat datele roșii instrumentului public; Am folosit medii aprobate.
• [ ] Am mascat datele personale și am eliminat câmpurile inutile (minimizare).
• [ ] Am verificat scopul procesării, perioada de depozitare și securitatea vehiculului.
• [ ] Am respectat drepturile de obiecție/de ștergere ale cetățenilor.
• [ ] Am atașat un proprietar uman și aprobarea fiecărei rezultate; Am ținut o pistă de audit.

Examenul modulului

1. În calitate de funcționar public, care este cea mai bună întrebare prioritară pe care ar trebui să o puneți înainte de a preda un loc de muncă către AI?

• A) Ce pierde cetățeanul dacă această ieșire este greșită? ✔
• B) Cât de repede poate AI să facă această treabă?
• C) Este acest instrument AI gratuit?
• D) O altă unitate va folosi și această ieșire?

Explicație: Decizia de transfer se ia pe baza prejudiciului pe care cetățeanul îl va suferi dacă rezultatul este incorect. Daunele sunt ușor de transferat dacă sunt doar câteva minute de rescriere; Dacă este respingere nedreaptă, penalizare greșită sau pierderea drepturilor, AI produce doar un proiect, decizia și verificarea aparțin oficialului.

2. Cum se numește atunci când AI prezintă o lege inexistentă sau o hotărâre judecătorească fabricată ca fiind reală?

• A) Memorarea în cache
• B) Triajul
• C) Anonimizarea
• D) Halucinații ✔

Explicație: halucinația este atunci când AI produce cu încredere informații care nu există de fapt (substanță fabricată, regulament abrogat, număr greșit). În domeniul legislației, acesta este unul dintre cele mai periculoase riscuri, deoarece poate duce la pierderea drepturilor și anularea acțiunii administrative.

3. Un ofițer este pe cale să respingă cererea în baza unui articol de reglementare subliniat de YZ. Care este cel mai corect comportament?

• A) AI scrie direct respingerea pentru că pare încrezător
• B) Pune aceeași întrebare unui alt vehicul AI și obține confirmare
• C) Confirmă articolul din textul consolidat actual pe Çözüm.gov.tr ✔
• D) Cere verbal decizia unui superior

Descriere: datele de antrenament ale AI sunt înghețate la o anumită dată; Articolul pe care îl arată este posibil să fi fost abrogat sau modificat. Confirmarea că articolul este în vigoare și versiunea sa finală din textul consolidat actual de pe Çözüm.gov.tr ​​​​înainte de decizie împiedică o respingere neloială și o posibilă acțiune în anulare.

4. De ce este asigurarea calității ca un chatbot cetățean să poată spune „Nu știu, te transfer la un funcționar”?

• A) Îmbunătățește statisticile prin creșterea ratei de rotație
• B) Previne dezinformarea prin delegarea informațiilor către oameni atunci când nu sunt siguri ✔
• C) Prelungește timpul de apel prin distragerea atenției cetățenilor
• D) Permite chatbot-ului să primească mai puține întrebări

Explicație: în public, un răspuns greșit încrezător este mult mai costisitor decât o interpretare sinceră; Aceasta duce la pierderea drepturilor și la neîncrederea în instituție. Capacitatea chatbot-ului de a preda omului atunci când nu este sigur este un mecanism de siguranță care previne dezinformarea halucinantă.

5. Care este cel mai important risc de luat în considerare atunci când „simplificați” corespondența oficială cu AI?

• A) Textul este prea scurt
• B) Schimbarea fontului
• C) Renunțarea la o condiție sau o excepție ✔
• D) Scrierea greșită a numelui destinatarului

Explicație: Adaptarea stilistică nu trebuie să modifice conținutul. Când simplifică, AI renunță uneori la o excepție, o condiție sau o durată. Prin urmare, textul simplificat ar trebui să fie întotdeauna comparat cu decizia sau legislația inițială.

6. Nume și T.R. într-un set de date. Cum îl numești atunci când combinația „cartier + an de naștere + tip de dizabilitate” poate dezvălui o persoană chiar dacă numărul de identificare a fost șters?

• A) Redefinirea ✔
• B) Minimizarea datelor
• C) Rata de acoperire
• D) Consolidare

Explicație: Reidentificarea înseamnă găsirea unei persoane printr-o combinație de identificatori indirecti din date considerate a fi anonime. Dacă o categorie rară este găsită la o singură persoană, ștergerea numelui nu va fi suficientă; Sunt necesare măsuri suplimentare, cum ar fi conversia vârstei în interval și combinarea categoriilor rare.

7. Cum se numește atunci când un model de inspecție marchează un cartier care a fost intens inspectat în trecut drept „riscant” și trimite mai multe inspecții acolo, ceea ce împinge modelul să vadă acel cartier ca mai riscant?

• A) Minimizarea datelor
• B) Halucinații
• C) Anonimizare
• D) Bucla de feedback ✔

Explicație: Bucla de feedback este atunci când rezultatul modelului afectează datele de antrenament ulterioare, consolidând prejudecățile existente. Diferența crește nu în ceea ce privește riscul real, ci în locul în care se privește. Modul de a vă proteja este să monitorizați impactul, nu rezultatul și să controlați distribuția deciziilor pe bază de grup.

8. După ce o cerere de beneficii a fost mutată în întregime online, numărul cererilor a scăzut cu 30 la sută în prima lună. Care este cea mai probabilă explicație pentru asta?

• A) Nevoile reale ale cetățenilor au scăzut
• B) Cetăţenii fără internet şi alfabetizare digitală au fost lăsaţi afară ✔
• C) Dobânda a scăzut deoarece valoarea ajutorului a scăzut
• D) Sistemul a aprobat automat toate cererile

Descriere: Decalajul digital este incapacitatea cetățenilor fără acces la internet sau alfabetizare digitală de a accesa servicii. Numărul scade deoarece grupul cel mai nevoiaș, bătrânii și cetățenii fără internet, nu pot aplica. Soluția este să părăsești canale alternative, cum ar fi punctele de trimitere asistată.

9. În timp ce rata reală de succes într-un raport anual este de 63%, rezumatul executiv produs de YZ spune că „majoritatea mare a aplicațiilor au fost pozitive”. Care este comportamentul corect?

• A) Expresia este lăsată așa pentru că este pozitivă.
• B) Raportul se șterge și se folosește doar expresia calitativă
• C) Expresia se înlocuiește cu numărul real 63 la sută ✔
• D) Rezumatul este eliminat complet din raport

Explicație: Percepția pozitivă exagerată în raportul public pune instituția într-o situație dificilă în auditurile ulterioare. Fiecare afirmație din rezumatul executiv ar trebui comparată cu datele brute și numărul real (63 la sută) ar trebui să fie scris; Rezumatele AI nu sunt incluse în raport fără a fi auditate.

10. Atunci când luăm decizii bazate pe date în sectorul public, dacă „numărul de dosare închise lunar” crește în timp ce „rata de rezoluție la primul contact” scade, ce ne învață acest lucru mai întâi?

• A) Alegerea indicatorului potrivit este mai importantă decât înmulțirea numărului ✔
• B) Numărul de personal ar trebui mărit
• C) Graficele trebuie colorate
• D) Chatbot-ul ar trebui să răspundă la mai multe întrebări

Explicație: Indicatorul greșit duce la o decizie greșită chiar și cu date corecte. Fișierele pot fi închise și redeschise rapid. Alegerea indicatorului potrivit și citirea împreună a indicatorilor previne lăudarea pe baza unui număr înșelător.

11. Într-o diagramă, axa verticală începe la 40 în loc de zero și o creștere de 2 procente arată ca un salt dramatic este un exemplu al ce problemă?

• a) halucinații
• B) Minimizarea datelor
• C) Decalajul digital
• D) Vizualizare înșelătoare ✔

Explicație: Vizualizarea înșelătoare este denaturarea percepției prin tehnici precum axa care nu începe de la zero, scară disproporționată sau perioada de timp selectată. Face parte din guvernanța vizuală onestată a datelor publice; Tabelul real ar trebui să fie afișat trăgând axa la zero.

12. De ce este inacceptabil să spui „AI a scris asta” ca justificare pentru o acțiune administrativă?

• A) Pentru că instrumentele AI sunt prea scumpe
• B) Acțiunea administrativă trebuie să fie justificată, iar responsabilitatea revine ofițerului ✔
• C) Pentru că AI nu știe turcă
• D) Pentru că cetățenilor nu le place AI

Explicație: Acțiunea administrativă trebuie să fie motivată și auditabilă; Responsabilitatea nu revine AI, ci funcționarului public și instituției care utilizează rezultatul fără a-l verifica. „AI a spus așa” nu este o justificare și nu susține acțiunea administrativă.

13. Care sunt cele patru principii care deosebesc utilizarea IA în sectorul public de cel privat și care ar trebui respectate suplimentar?

• A) Viteza, ieftinitatea, rentabilitatea, concurența
• B) Automatizare, scară, marketing, brand
• C) Egalitatea, transparența, responsabilitatea, protecția datelor cu caracter personal ✔
• D) Confidențialitate, confidențialitate, confidențialitate și confidențialitate

Explicație: În lucrările în care se utilizează puterea publică, IA este încadrată de principiile egalității (tratamentul similar al unei situații similare), transparenței (explicabilitatea justificării deciziei), responsabilitatea (responsabilă pentru fiecare tranzacție și pistă de audit) și protecția datelor cu caracter personal (KVKK).

14. Ce ar trebui să facă un sistem automatizat de zbor în prealabil atunci când nu este sigur de un tip de document rar?

• A) Să respingă cererea în tăcere
• B) Redirecționarea cererii către revizuire umană ✔
• C) Aprobați automat cererea
• D) Ștergeți aplicația

Explicație: o automatizare bună direcționează modelul către ofițer atunci când nu este sigur, mai degrabă decât să-l respingă în tăcere. În caz contrar, aplicațiile legitime vor cădea într-un punct orb și va avea loc victimizarea. Menținerea oamenilor la punctul de decizie este baza managementului excepțiilor.