KVKK, Zasebnost in odgovorno javno upravljanje umetne inteligence

Dobički:

• Pri obdelavi osebnih podatkov državljanov v orodjih AI uporablja načela KVKK in minimizacijo podatkov.
• Vzpostavlja okvir upravljanja za organizacijo, ki vključuje politiko uporabe umetne inteligence, revizijsko sled in verigo odgovornosti.
• Holistično trdi, da odgovorna javna umetna inteligenca temelji na človeškem nadzoru, preglednosti in odgovornosti.

V tem modulu smo videli, kako je umetna inteligenca močan pospeševalnik v javnosti: odgovori na vprašanja državljanov, peticije in korespondenca, zakonodajne raziskave, analiza politike, poročanje, odločanje na podlagi podatkov, e-uprava in preglednost. Zdaj smo prišli do okvira, ki drži vse skupaj: varstvo osebnih podatkov in odgovorno upravljanje. Javnost po svoji naravi obdeluje najbolj občutljive podatke državljana: identiteto, naslov, dohodek, zdravstveno stanje, kazensko evidenco, družinske razmere. Obdelava teh podatkov z orodji AI mora biti v celoti skladna z okvirom KVKK (Zakon o varstvu osebnih podatkov št. 6698; zakon, ki ureja zakonito, omejeno in varno obdelavo osebnih podatkov). V tej zadnji enoti bomo vzpostavili hrbtenico zasebnosti in upravljanja javne uporabe umetne inteligence – katere podatke je mogoče dati kateremu orodju, kateri pravilniki veljajo, kdo je odgovoren, kako organizacija varno upravlja umetno inteligenco. Ta enota je streha nad prejšnjimi desetimi enotami.

Osnovna načela KVKK, ki se dotikajo javne umetne inteligence

KVKK določa več osnovnih načel, od katerih vsako neposredno omejuje uporabo AI:

• Skladnost z zakonodajo in spoštovanje namena: Osebni podatki se obdelujejo samo za določen, zakonit namen. Podatkov, zbranih za en namen (na primer prošnja za pomoč), brez dovoljenja ni mogoče uporabiti za drug namen (na primer za usposabljanje modela).
• Zmanjšanje podatkov: ne obdeluje se več podatkov, kot je potrebno za ta namen. Če ime ni potrebno za analizo kategorije, ime ni navedeno.
• Varnost: Podatki so zaščiteni pred nepooblaščenim dostopom. Lepljenje podatkov o državljanih v javno orodje AI pomeni prenos teh podatkov izven organizacije – to je kršitev varnostne politike.
• Obdobje shranjevanja: Podatki se izbrišejo, ko preneha namen; Ne hrani se za nedoločen čas.
• Informacije in pravice: Državljani imajo pravico vedeti, kako se njihovi podatki obdelujejo, popraviti, izbrisati in ugovarjati avtomatiziranim odločitvam.

Pozor: Nalaganje državljanovih podatkov v javno orodje AI, ki ga zavod ni odobril, kje se podatki shranjujejo in kdo ima dostop do njih ni jasno, je v večini primerov kršitev KVKK in zavod odpira sankcije. Pravila se nikoli ne spreminjajo, "da bi olajšali delo".

Katere podatke, na katero vozilo? Triconski model

Praviloma razdelite podatke na tri področja:

1. Rdeča (nikoli ne vstopi v javno vozilo): številka osebne izkaznice, zdravstveno stanje, kriminal, vera, etnična pripadnost, biometrični podatki, polni naslov, vse, kar identificira osebo. Ti se obdelujejo samo v pogodbenem/internem okolju, skladnem s KVKK, ki ga odobri institucija.
2. Rumena (previdno, z maskiranjem): podatki, ki jih je mogoče posredno povezati z osebo. Najprej anonimiziraj/združi, nato obdelaj.
3. Zelena (prosto): Neosebne, javne, splošne informacije (zakonodajno besedilo, javna statistika, splošni postopek). Te lahko preprosto obdelate z AI.

Namig: Preden umetni inteligenci posredujete besedilo, izvedite 5-sekundni test: »Ali je v tej vsebini kaj, kar bi lahko identificiralo osebo?« Če je odgovor "da/morda", se maskirajte ali vozite odobreno vozilo. Če ste v dvomih, razmislite o rdeči barvi.

Korporativno upravljanje: od osebe do sistema

Odgovorna javna umetna inteligenca ne more biti prepuščena dobri volji posameznih javnih uslužbencev; Potreben je institucionalni okvir:

• Politika: Institucija mora imeti politiko uporabe AI: katera orodja so odobrena, katere podatke je mogoče vnesti, kdo je odgovoren.
• Seznam odobrenih orodij: osebje bi moralo uporabljati orodja, ki jih je institucija ocenila in odobrila, ne naključno.
• Usposabljanje: osebje mora poznati disciplino preverjanja in področja podatkov (kot je ta modul).
• Beleženje in revizija: Voditi je treba revizijsko sled odločitev, izdelanih z AI.
• Odgovornost: vsak izhod, ki ga poganja AI, mora imeti lastnika in odobritev. Odgovornost nosi institucija in uradnik, ne vozilo.
• Načelo, osredotočeno na človeka: Nobena končna odločitev o ustvarjanju/omejevanju pravic ni sprejeta brez soglasja človeka.

trije mini kovčki

Primer 1 – Preprečeno rdeče uhajanje podatkov. Član osebja je nameraval v javno orodje naložiti povzetek seznama zdravstvenih koristi za 1200 ljudi. Zahvaljujoč odobreni politiki agencije o vozilih in usposabljanju za "rdeče podatke" se je ustavilo; Podatki so bili obdelani v interno odobrenem okolju in s prikritimi identifikacijskimi polji. Preprečena je bila morebitna kršitev KVKK in izguba zaupanja več deset tisoč ljudi.

Primer 2 – Napačna uporaba. Ena enota je želela podatke, zbrane za ozaveščanje, uporabiti za načrt predvolilnega komuniciranja. Pooblaščena oseba za varstvo podatkov je spomnila na načelo spoštovanja namena: šlo je za uporabo podatkov zunaj namena, za katerega so bili zbrani, in je bila nezakonita. Zahteva je bila zavrnjena.

Primer 3 – Odpravljena vrzel v upravljanju. V eni občini so različne enote brez nadzora uporabljale različna orodja umetne inteligence; Nihče ni vedel, kateri podatki so šli kam. Agencija je uvedla politiko uporabe umetne inteligence, odobren seznam vozil in revizijsko sled; V 3 mesecih se je uporaba neregistriranih vozil zmanjšala za 90 % in izdelan je bil popis podatkov.

Štiri predloge za kopiranje

1) Razvrstitev podatkovne regije (pred izvozom v vozilo):

Vaša vloga: svetovalec za varstvo podatkov. Razvrstite naslednjo vsebino, preden jo daste agentu AI: RDEČA (prepozna osebo, nikoli ne vstopi v javno vozilo), RUMENA ​​(posredno povezljiva, maska), ZELENA (neosebna, brezplačna). Označite rdeča/rumena področja enega za drugim in jim povejte, kako naj se maskirajo. Štejte osumljenca za rdečega. VSEBINA: [besedilo]

2) Maskiranje/anonimizacija:

Anonimizirajte vse osebne podatke pred obdelavo naslednjega besedila: ime -> [OSEBA-1], ID številka -> [IDENTITETA], naslov ->[NASLOV], zdravstveno stanje/kazen -> [OBČUTLJIVO]. Označi isto osebo. Ločeno izvozite anonimizirano besedilo. Na izhod nikoli ne zapisujte dejanskih podatkov. BESEDILO: [besedilo]

3) Kontrolni seznam skladnosti s predpisi KVKK (za uporabo AI):

Vaša vloga: specialist za skladnost KVKK. Izdelajte kontrolni seznam skladnosti za naslednjo uporabo umetne inteligence: (1) ali je namen obdelave zakonit in specifičen, (2) ali je povezan z namenom (ali se preusmeri v drug namen), (3) ali je optimiziran, (4) ali je orodje varno/odobreno, (5) ali je obdobje hrambe določeno, (6) ali so pravice državljanov (ugovor, izbris) zaščitene. Označite manjkajoče elemente z rdečo zastavico. UPORABA: [recept]

4) Okvir politike umetne inteligence podjetja:

Vaša vloga: javni strokovnjak za upravljanje IT. Izdelajte okvir politike uporabe AI za našo organizacijo: obseg, odobrena orodja, podatkovna območja (rdeča/rumena/zelena), prepovedane uporabe, točke odobritve ljudi, revizijska sled, odgovornosti, usposabljanje in obvestilo o kršitvah. Izpolnite vsak naslov z 1-2 stavkoma. USTANOVA: [enota in tipična delovna mesta]

Šibek poziv/močan poziv

Slabo: "Povzemite ta seznam referenc."

Strong: "Vaša vloga je svetovalec za varstvo podatkov. Najprej razvrstite ta seznam glede na podatkovno regijo (rdeča/rumena/zelena) in označite vsa polja, ki identificirajo osebo. Zakrijte rdeča/rumena polja z [OSEBA]/[IDENTITETA]/[OBČUTLJIVO], ohranite isto osebo z isto oznako. Izdelajte samo povzetek kategorije z anonimiziranimi, združenimi podatki; v izpis ne zapisujte resničnih osebnih podatkov. Na koncu zabeležite, kje ta proces zahteva pozornost z vidika KVKK (namen, skladiščenje, varnost vozila) dod."

Razlika: zmogljiv poziv razvršča, maskira, minimizira in integrira načela KVKK pred obdelavo podatkov.

Podatkovne regije in pravilo

Regija

primer

pravilo

rdeča

TR ID številka, zdravje, kazen, polni naslov

Nikoli ne vstopajte v javno vozilo; odobreno okolje

rumena

Starost+soseska+poklic, posredni identifikator

Maska/agregat, nato obdelava

zelena

Zakonodaja, javna statistika, splošni postopek

svobodno delo

Pogoste napake

• Izvoz rdečih podatkov v javno orodje. Najhujša kršitev; ID/zdravstveni podatki/podatki o kazni ne zapustijo odobrenega okolja.
• Zloraba. Uporaba podatkov, zbranih za en namen, za drug namen (usposabljanje modela, komunikacija) brez dovoljenja je protizakonska.
• Obdelava preveč podatkov. Ne premikajte nepotrebnih polj (ime, naslov) za ta namen; Zmanjšaj.
• Vožnja brez odobritve. Kam gredo podatki v vozilih, ki jih institucija ni ovrednotila, ni jasno.
• Brez določitve obdobja hrambe. Podatke je treba izbrisati, ko je namen izpolnjen; ne bi smeli hraniti za nedoločen čas.
• Prelaganje odgovornosti na vozilo. Rezultat je v lasti in odobritvi človeka; "Umetna inteligenca je to storila" ni obramba.

Če povzamem

Okvir za odgovorno javno umetno inteligenco je varstvo osebnih podatkov in korporativno upravljanje. Načela KVKK — namenskost, minimizacija, varnost, omejitev hrambe, pravice državljanov — omejujejo vsako uporabo AI. Ločite podatke v rdeča/rumena/zelena območja, nikoli ne dajte rdečega javnemu orodju, maskirajte osebne podatke, uporabljajte samo odobrena orodja in pri vsaki odločitvi povežite človeškega lastnika. Politika na institucionalni ravni, seznam odobrenih vozil, zapis o usposabljanju in pregledih; Disciplina preverjanja na osebni ravni. Tako AI služi javnosti z zaščito pravic državljanov.

Aplikacijska naloga

Izberite dejansko uporabo umetne inteligence, ki ste jo uporabili (ali jo nameravate uporabiti) v svoji enoti. Vsebino, ki jo boste obdelali, ločite na rdečo/rumeno/zeleno s predlogo »Klasifikacija podatkovne regije«. Uporabite predlogo "Kontrolni seznam skladnosti KVKK" in poiščite vsaj eno manjkajočo/tvegano točko. Nazadnje pripravite kratek pravilnik, primeren za vašo enoto, z "okostjem pravilnika o umetni inteligenci podjetja".

kontrolni seznam

• [ ] Vsebino sem razdelil na rdečo/rumeno/zeleno cono; Osumljenca sem štel za rdečega.
• [ ] Rdečih podatkov nisem posredoval javnemu orodju; Uporabil sem odobrene medije.
• [ ] Osebne podatke sem zamaskiral in odstranil nepotrebna polja (minimizacija).
• [ ] Preveril sem namen obdelave, rok hrambe in varnost vozila.
• [ ] Upošteval sem pravice državljanov do ugovora/izbrisa.
• [ ] Vsakemu izhodu sem priložil človeškega lastnika in odobritev; Vodil sem revizijsko sled.

Modulni izpit

1. Katero vprašanje je najbolje, da si kot javni uslužbenec zastavite, preden službo predate AI?

• A) Kaj državljan izgubi, če je ta rezultat napačen? ✔
• B) Kako hitro lahko AI opravi to delo?
• C) Ali je to orodje AI brezplačno?
• D) Ali bo ta izhod uporabljala tudi druga enota?

Pojasnilo: Odločitev o prenosu je sprejeta na podlagi škode, ki jo bo državljan utrpel, če bo rezultat nepravilen. Škoda se zlahka prenese, če gre za le nekaj minut prepisovanja; Če gre za neupravičeno zavrnitev, napačno kazen ali izgubo pravic, AI pripravi samo osnutek, odločitev in preverjanje pa pripada uradniku.

2. Kako se imenuje, ko umetna inteligenca predstavi neobstoječ zakon ali izmišljeno sodno odločbo kot resnično?

• A) Predpomnjenje
• B) Triaža
• C) Anonimizacija
• D) Halucinacije ✔

Pojasnilo: halucinacija je, ko umetna inteligenca samozavestno proizvede informacije, ki dejansko ne obstajajo (izmišljena snov, razveljavljena uredba, napačna številka). Na zakonodajnem področju je to eno najnevarnejših tveganj, saj lahko povzroči izgubo pravic in preklic upravne tožbe.

3. Uradnik namerava zavrniti vlogo na podlagi člena uredbe, na katerega opozarja YZ. Katero vedenje je najbolj pravilno?

• A) AI neposredno napiše zavrnitev, ker se zdi samozavestna
• B) Zastavite isto vprašanje drugemu vozilu z umetno inteligenco in pridobite potrditev
• C) Potrjuje članek iz trenutnega prečiščenega besedila na Çözüm.gov.tr ✔
• D) Verbalno prosi za odločitev nadrejenega

Opis: podatki o usposabljanju AI so zamrznjeni na določen datum; Članek, ki ga prikazuje, je bil morda razveljavljen ali spremenjen. Potrditev, da je člen v veljavi, in njegova končna različica iz trenutnega prečiščenega besedila na Çözüm.gov.tr ​​​​pred odločitvijo preprečuje neupravičeno zavrnitev in morebitno tožbo za razveljavitev.

4. Zakaj je zagotovilo kakovosti za državljanskega chatbota, da lahko reče "Ne vem, premeščam te k uradniku"?

• A) Izboljša statistiko s povečanjem stopnje fluktuacije
• B) Preprečuje dezinformacije s prenosom informacij na ljudi, kadar niste prepričani ✔
• C) Podaljša čas klica z motenjem državljanov
• D) Omogoča, da chatbot prejme manj vprašanj

Pojasnilo: V javnosti je samozavesten napačen odgovor veliko dražji od poštenega odgovora; Vodi v izgubo pravic in nezaupanje v institucijo. Sposobnost klepetalnega robota, da preda človeku, ko ni prepričan, je varnostni mehanizem, ki preprečuje halucinacijske napačne informacije.

5. Katero je najpomembnejše tveganje, ki ga je treba upoštevati pri 'poenostavitvi' uradne korespondence z AI?

• A) Besedilo je prekratko
• B) Spreminjanje pisave
• C) Opustitev pogoja ali izjeme ✔
• D) Napačno črkovanje imena naslovnika

Pojasnilo: Stilska prilagoditev ne sme spremeniti vsebine. Pri poenostavljanju AI včasih opusti izjemo, pogoj ali trajanje. Zato je treba poenostavljeno besedilo vedno primerjati z izvirnim sklepom ali zakonodajo.

6. Ime in T.R. v nizu podatkov. Kako pravite temu, ko kombinacija 'soseska + leto rojstva + vrsta invalidnosti' lahko razkrije osebo, tudi če je matična številka izbrisana?

• A) Redefinicija ✔
• B) Minimizacija podatkov
• C) Stopnja kritja
• D) Utrjevanje

Pojasnilo: Ponovna identifikacija je iskanje osebe s kombinacijo posrednih identifikatorjev iz podatkov, za katere velja, da so anonimni. Če je redka kategorija najdena pri eni sami osebi, brisanje imena ne bo dovolj; Potrebni so dodatni ukrepi, kot je pretvorba starosti v obseg in združevanje redkih kategorij.

7. Kako se imenuje, ko inšpekcijski model označi sosesko, ki je bila v preteklosti močno inšpekcijska, kot 'tvegano' in tja pošlje več inšpekcij, zaradi česar model to sosesko vidi kot bolj tvegano?

• A) Minimizacija podatkov
• B) Halucinacije
• C) Anonimizacija
• D) Povratna zanka ✔

Pojasnilo: Povratna zanka je, ko izhod modela vpliva na nadaljnje podatke o usposabljanju in krepi obstoječo pristranskost. Razlika se ne poveča v dejanskem tveganju, ampak v tem, kam gledamo. Način, da se zaščitite, je, da spremljate učinek, ne rezultatov, in da nadzorujete porazdelitev odločitev v skupini.

8. Potem ko se je aplikacija za ugodnosti v celoti preselila na splet, se je število prijav v prvem mesecu zmanjšalo za 30 odstotkov. Kakšna je najverjetnejša razlaga za to?

• A) Dejanske potrebe državljanov so se zmanjšale
• B) Državljani brez interneta in digitalne pismenosti so bili izključeni ✔
• C) Obresti so se zmanjšale, ker se je znesek pomoči zmanjšal
• D) Sistem je samodejno odobril vse prijave

Opis: Digitalni razkorak je nezmožnost dostopa do storitev državljanov brez dostopa do interneta ali digitalne pismenosti. Število se zmanjšuje, ker se najbolj ogrožena skupina, starejši in občani brez interneta, ne more prijaviti. Rešitev je, da zapustite alternativne kanale, kot so podprte referenčne točke.

9. Medtem ko je dejanska stopnja uspešnosti v letnem poročilu 63 odstotkov, povzetek, ki ga je pripravil YZ, pravi, da je bila "velika večina vlog pozitivnih." Kakšno je pravilno vedenje?

• A) Izraz ostane tak, kot je, ker je pozitiven.
• B) Razmerje se izbriše in uporabi samo kvalitativni izraz
• C) Izraz se nadomesti z realnim številom 63 odstotkov ✔
• D) Povzetek je popolnoma odstranjen iz poročila

Pojasnilo: Pretirana pozitivna zaznava v javnem poročilu postavlja zavod v težji položaj pri kasnejših revizijah. Vsako trditev v povzetku je treba primerjati z neobdelanimi podatki in zapisati dejansko število (63 odstotkov); Povzetki AI niso vključeni v poročilo, ne da bi bili revidirani.

10. Pri sprejemanju odločitev, ki temeljijo na podatkih, v javnem sektorju, če se »število mesečno zaprtih datotek« poveča, medtem ko se »stopnja razrešitve ob prvem stiku« zmanjša, kaj nas to najprej nauči?

• A) Izbira pravega indikatorja je pomembnejša od množenja števila ✔
• B) Število osebja je treba povečati
• C) Grafi naj bodo obarvani
• D) Klepetalni robot bi moral odgovoriti na več vprašanj

Pojasnilo: Napačen indikator vodi do napačne odločitve tudi s pravilnimi podatki. Datoteke se lahko hitro zaprejo in znova odprejo. Izbira pravega kazalnika in skupno branje kazalnikov preprečuje hvalisanje samo na podlagi zavajajoče številke.

11. V grafikonu se navpična os začne pri 40 namesto pri nič in 2-odstotno povečanje je videti kot dramatičen skok, primer katere težave?

• A) Halucinacije
• B) Minimizacija podatkov
• C) Digitalni razkorak
• D) Zavajajoča vizualizacija ✔

Pojasnilo: Zavajajoča vizualizacija izkrivlja zaznavanje s tehnikami, kot je os, ki se ne začne od nič, nesorazmerno merilo ali izbrano časovno obdobje. Je del poštenega vizualnega upravljanja javnih podatkov; Pravo tabelo je treba prikazati s potegom osi na nič.

12. Zakaj je nesprejemljivo reči "AI je to napisal" kot utemeljitev za upravni ukrep?

• A) Ker so orodja AI predraga
• B) Upravni ukrep mora biti utemeljen, odgovornost pa nosi uradnik ✔
• C) Ker AI ne zna turško
• D) Ker državljani ne marajo AI

Pojasnilo: Upravni ukrep mora biti utemeljen in revizijski; Odgovornost ni na strani umetne inteligence, temveč na javnem uradniku in instituciji, ki uporablja rezultate, ne da bi jih preverila. "Umetna inteligenca je tako rekla" ni utemeljitev in ne podpira upravnega ukrepa.

13. Katera so štiri načela, ki razlikujejo uporabo umetne inteligence v javnem sektorju od zasebnega sektorja in ki jih je treba dodatno upoštevati?

• A) Hitrost, poceni, donosnost, konkurenca
• B) Avtomatizacija, obseg, trženje, blagovna znamka
• C) Enakost, preglednost, odgovornost, varstvo osebnih podatkov ✔
• D) Zasebnost, zaupnost, zasebnost in zaupnost

Pojasnilo: Pri delih, kjer se uporablja javno pooblastilo, je AI uokvirjena po načelih enakosti (podobna obravnava podobne situacije), transparentnosti (razložljivost utemeljitve odločitve), odgovornosti (odgovornost za vsako transakcijo in revizijska sled) in varstva osebnih podatkov (KVKK).

14. Kaj naj stori avtomatizirani sistem pred tiskom, ko ni prepričan o redki vrsti dokumenta?

• A) Tiho zavrniti vlogo
• B) Posredovanje aplikacije v človeški pregled ✔
• C) Samodejno odobri aplikacijo
• D) Izbrišite aplikacijo

Pojasnilo: Dobra avtomatizacija usmeri model k policistu, ko ni prepričan, namesto da bi ga tiho zavrnila. V nasprotnem primeru bodo zakonite aplikacije padle v slepo pego in prišlo bo do viktimizacije. Zadrževanje ljudi na točki odločitve je osnova upravljanja izjem.