KVKK, Privatnost i odgovorno javno upravljanje umjetnom inteligencijom

Dobici:

• Primjenjuje KVKK principe i minimiziranje podataka prilikom obrade ličnih podataka građana u AI alatima.
• On uspostavlja okvir upravljanja za organizaciju koji uključuje politiku upotrebe AI, revizijski trag i lanac odgovornosti.
• Holistički se tvrdi da je odgovorna javna umjetna inteligencija izgrađena na ljudskom nadzoru, transparentnosti i odgovornosti.

Kroz ovaj modul vidjeli smo kako je AI moćan akcelerator u javnosti: odgovori na pitanja građana, peticije i prepiske, zakonodavna istraživanja, analiza politika, izvještavanje, donošenje odluka na osnovu podataka, e-vlada i transparentnost. Sada dolazimo do okvira koji sve to drži zajedno: zaštitu ličnih podataka i odgovorno upravljanje. Javnost, po svojoj prirodi, obrađuje najosjetljivije podatke o građaninu: identitet, adresa, primanja, zdravstveno stanje, kazneni dosije, porodična situacija. Obrada ovih podataka pomoću AI alata mora biti u potpunosti u skladu sa okvirom KVKK (Zakon o zaštiti ličnih podataka br. 6698; zakon koji reguliše zakonitu, ograničenu i sigurnu obradu ličnih podataka). U ovoj završnoj jedinici uspostavit ćemo okosnicu privatnosti i upravljanja javne upotrebe AI – koji podaci se mogu dati kojem alatu, koje politike se primjenjuju, ko je odgovoran, kako organizacija bezbedno upravlja AI. Ova jedinica je krov postavljen preko prethodnih deset jedinica.

Osnovni principi KVKK-a koji se dotiču javne AI

KVKK postavlja nekoliko osnovnih principa, od kojih svaki direktno ograničava upotrebu AI:

• Usklađenost sa zakonom i poštivanje svrhe: Lični podaci se obrađuju samo za određenu, legitimnu svrhu. Podaci prikupljeni u jednu svrhu (na primjer, podnošenje zahtjeva za pomoć) ne mogu se koristiti u drugu svrhu (na primjer, obuka modela) bez dozvole.
• Minimiziranje podataka: Ne obrađuje se više podataka nego što je potrebno za tu svrhu. Ako ime nije potrebno za analizu kategorije, naziv se ne daje.
• Sigurnost: Podaci su zaštićeni od neovlaštenog pristupa. Lepljenje podataka o građanima u javni AI alat je iznošenje tih podataka izvan organizacije — to je kršenje bezbednosne politike.
• Period skladištenja: Podaci se brišu kada svrha istekne; Ne čuva se neograničeno.
• Informacije i prava: Građani imaju pravo da znaju kako se njihovi podaci obrađuju, ispravljaju, brišu i prigovore na automatske odluke.

Pažnja: Učitavanje podataka o građaninu na javni AI alat koji institucija nije odobrila, gdje se podaci pohranjuju i ko im ima pristup, nejasno je u većini slučajeva kršenje KVKK-a i otvara instituciju za sankcije. Pravila nikada nisu savijena "da bi se olakšao posao".

Koji podaci, na koje vozilo? Model sa tri zone

Kao pravilo, podijelite podatke u tri regije:

1. Crvena (nikada ne ulazi u javno vozilo): matični broj, zdravstveno stanje, kriminal, religija, etnička pripadnost, biometrija, puna adresa, sve što identifikuje osobu. Oni se obrađuju samo u ugovorenom/internom okruženju i okruženju usklađenom s KVKK koje je odobrila institucija.
2. Žuta (pažljivo, maskiranjem): Podaci koji se mogu indirektno povezati sa osobom. Prvo anonimizirajte/agregirajte, a zatim obradite.
3. Zeleno (besplatno): Bezlične, javne, opšte informacije (tekst zakona, javna statistika, opšta procedura). Možete ih lako obraditi pomoću AI.

Savjet: Prije nego što date tekst AI-u, uradite test od 5 sekundi: „Postoji li nešto u ovom sadržaju što bi moglo identificirati osobu?“ Ako je odgovor „da/možda“, maskirajte se ili vozite odobreno vozilo. Ako ste u nedoumici, razmislite o crvenoj boji.

Korporativno upravljanje: od osobe do sistema

Odgovorna javna AI ne može biti prepuštena dobroj volji pojedinačnih državnih službenika; Potreban je institucionalni okvir:

• Politika: Institucija mora imati politiku upotrebe AI: koji alati su odobreni, koji podaci se mogu unositi, ko je odgovoran.
• Lista odobrenih alata: Osoblje treba da koristi alate koje je institucija procijenila i odobrila, a ne nasumično.
• Obuka: Osoblje mora znati disciplinu verifikacije i regione podataka (kao što je ovaj modul).
• Evidentiranje i revizija: Treba voditi revizijski trag odluka proizvedenih pomoću AI.
• Odgovornost: Svaki izlaz koji pokreće AI mora imati ljudskog vlasnika i odobrenje. Odgovornost je na instituciji i službeniku, a ne na vozilu.
• Princip usmjeren na čovjeka: Nijedna konačna odluka o stvaranju/ograničavanju prava se ne donosi bez ljudske saglasnosti.

tri mini kofera

Slučaj 1 — Spriječeno crveno curenje podataka. Član osoblja se spremao da prenese sažetak liste zdravstvenih beneficija za 1200 ljudi na javni alat. Zahvaljujući odobrenoj politici o vozilima od strane agencije i obuci za „crvene podatke“, to je prestalo; Podaci su obrađeni u in-house odobrenom okruženju i sa maskiranim poljima identiteta. Spriječeno je moguće kršenje KVKK-a i gubitak povjerenja za desetine hiljada ljudi.

Slučaj 2 — Zloupotreba. Jedna jedinica željela je koristiti prikupljene podatke za dopiranje do predizbornog komunikacijskog plana. Službenik za zaštitu podataka podsjetio je na princip pridržavanja svrhe: radilo se o korištenju podataka izvan svrhe za koju su prikupljeni i bilo je nezakonito. Zahtjev je odbijen.

Slučaj 3 — jaz u upravljanju zatvoren. U jednoj opštini, različite jedinice su koristile različite AI alate bez kontrole; Niko nije znao koji podaci kuda idu. Agencija je uvela politiku upotrebe AI, odobrenu listu vozila i revizijski trag; U roku od 3 mjeseca korištenje neregistrovanih vozila smanjeno je za 90% i napravljen je inventar podataka.

Četiri šablona za kopiranje

1) Klasifikacija regiona podataka (prije izvoza u vozilo):

Vaša uloga: savjetnik za zaštitu podataka. Klasificirajte sljedeći sadržaj prije nego što ga date AI agentu: CRVENI (identifikuje osobu, nikada ne ulazi u javno vozilo), ŽUTO (posredno povezivanje, maska), ZELENO (nelično, besplatno). Označite crvene/žute oblasti jednu po jednu i recite im kako da maskiraju. Računajte osumnjičenog kao crvenog. SADRŽAJ: [tekst]

2) Maskiranje/anonimizacija:

Anonimizirajte sve lične podatke prije obrade sljedećeg teksta: ime -> [OSOBA-1], matični broj -> [IDENTITET], adresa ->[ADRESA], zdravlje/kazna -> [OSJETLJIV]. Označite istu osobu. Izvezite anonimni tekst zasebno. Nikada nemojte upisivati ​​stvarne podatke na izlaz. TEKST: [tekst]

3) Kontrolna lista usklađenosti s KVKK (za korištenje AI):

Vaša uloga: KVKK specijalista za usklađenost. Napravite kontrolnu listu usklađenosti za sljedeću upotrebu AI: (1) je svrha obrade legitimna i specifična, (2) da li je povezana sa svrhom (da li se prebacuje na drugu svrhu), (3) da li je optimizirana, (4) da li je alat siguran/odobren, (5) da li je period zadržavanja siguran, (6) da li su prava građana (prigovor, brisanje) Označite stavke koje nedostaju crvenom zastavicom. UPOTREBA: [recept]

4) Okvir korporativne AI politike:

Vaša uloga: stručnjak za javno IT upravljanje. Napravite okvir politike upotrebe AI za našu organizaciju: opseg, odobreni alati, zone podataka (crvene/žute/zelene), zabranjene upotrebe, tačke odobrenja od strane ljudi, revizorski trag, odgovornosti, obuka i obavještenje o kršenju. Popunite svaki naslov sa 1-2 rečenice. INSTITUCIJA: [jedinica i tipični poslovi]

Slaba prompt / Jaka prompt

Slabo: "Sažmite ovu listu referenci."

Jaka: "Vaša uloga je konsultant za zaštitu podataka. Prvo, klasificirajte ovu listu prema regionu podataka (crveno/žuto/zeleno) i označite sva polja koja identifikuju osobu. Maskirajte crvena/žuta polja sa [OSOBA]/[IDENTITET]/[OSJETLJIVA], zadržite istu osobu sa istom oznakom. Napravite samo sažetak kategorije sa anonimnim podacima; ne pišite stvarne podatke na kraju gdje ne pišete stvarne podatke. ovaj proces zahtijeva pažnju u smislu KVKK (svrha, skladištenje, sigurnost vozila) dodaj."

Razlika: moćni prompt klasifikuje, maskira, minimizira i integriše KVKK principe pre obrade podataka.

Područja podataka i pravila

Region

primjer

pravilo

crvena

TR ID broj, zdravstveno stanje, kazna, puna adresa

Nikada ne ulazite u javno vozilo; odobreno okruženje

žuta

Dob+susjedstvo+zanimanje, indirektni identifikator

Maskirajte/agregirajte, a zatim obradite

zeleno

Zakonodavstvo, javna statistika, opšta procedura

slobodni rad

Uobičajene greške

• Izvoz crvenih podataka u javni alat. Najozbiljniji prekršaj; Podaci o ličnim/zdravstvenim/kaznama ne napuštaju odobreno okruženje.
• Zloupotreba. Protivzakonito je koristiti podatke prikupljene u jednu svrhu u drugu svrhu (obuka modela, komunikacija) bez dozvole.
• Obrada previše podataka. Nemojte premještati nepotrebna polja (ime, adresu) u tu svrhu; Minimizirajte.
• Vožnja bez odobrenja. Nejasno je gdje idu podaci u vozilima koja institucija nije ocijenila.
• Neodređivanje roka zadržavanja. Podatke treba izbrisati kada se svrha ispuni; ne treba čuvati neograničeno.
• Prebacivanje odgovornosti na vozilo. Rezultat je u vlasništvu i odobren od strane čovjeka; “AI je to uradio” nije odbrana.

Ukratko

Okvir za odgovornu javnu AI je zaštita ličnih podataka i korporativno upravljanje. KVKK principi — svrsishodnost, minimizacija, sigurnost, ograničenje zadržavanja, prava građana — ograničavaju bilo kakvu upotrebu AI. Odvojite podatke u crvene/žute/zelene zone, nikada ne dajte crvenu boju javnom alatu, maskirajte lične podatke, koristite samo odobrene alate i povežite ljudskog vlasnika sa svakom odlukom. Politika na institucionalnom nivou, odobrena lista vozila, evidencija o obuci i inspekcijama; Disciplina verifikacije na nivou osobe. Dakle, AI služi javnosti štiteći prava građana.

Zadatak aplikacije

Odaberite stvarnu upotrebu AI koju ste koristili (ili razmišljate o tome) u svojoj jedinici. Odvojite sadržaj koji ćete obraditi na crveno/žuto/zeleno sa šablonom "Klasifikacija regiona podataka". Primijenite šablon "KVKK kontrolna lista usklađenosti" i pronađite barem jednu tačku koja nedostaje/rizična. Konačno, izradite kratku politiku prikladnu za vašu jedinicu sa "kosturom politike korporativne AI".

kontrolna lista

• [ ] Podijelio sam sadržaj na crvenu/žutu/zelenu zonu; Osumnjičenog sam računao kao crvenog.
• [ ] Nisam dao crvene podatke javnom alatu; Koristio sam odobrene medije.
• [ ] Sakrio sam lične podatke i uklonio nepotrebna polja (minimiziranje).
• [ ] Provjerio sam svrhu obrade, rok skladištenja i sigurnost vozila.
• [ ] Poštovao sam prava građana na prigovor/brisanje.
• [ ] Priložio sam ljudskog vlasnika i odobrenje za svaki izlaz; Vodio sam revizorski trag.

Modul Exam

1. Kao javni službenik, koje je najbolje prioritetno pitanje koje biste trebali postaviti prije nego što predate posao AI?

• A) Šta građanin gubi ako je ovaj izlaz pogrešan? ✔
• B) Koliko brzo AI može obaviti ovaj posao?
• C) Da li je ovaj AI alat besplatan?
• D) Hoće li druga jedinica također koristiti ovaj izlaz?

Obrazloženje: Odluka o transferu se donosi na osnovu štete koju će građanin pretrpjeti ako je izlaz netačan. Šteta se lako prenosi ako je potrebno samo nekoliko minuta ponovnog pisanja; Ako je u pitanju nepravedno odbijanje, pogrešna kazna ili gubitak prava, AI samo proizvodi nacrt, odluka i verifikacija pripada službeniku.

2. Kako se to zove kada AI nepostojeći zakon ili izmišljenu sudsku odluku predstavlja stvarnim?

• A) Keširanje
• B) Trijaža
• C) Anonimizacija
• D) Halucinacije ✔

Objašnjenje: Halucinacija je kada AI pouzdano proizvodi informacije koje zapravo ne postoje (izmišljena supstanca, ukinuti propis, pogrešan broj). U oblasti zakonodavstva, ovo je jedan od najopasnijih rizika, jer može dovesti do gubitka prava i poništenja administrativnog postupka.

3. Službenik će odbiti prijavu na osnovu člana propisa na koji je ukazao YZ. Koje je najispravnije ponašanje?

• A) AI direktno piše odbijanje jer se čini samouvjerenim
• B) Postavite isto pitanje drugom AI vozilu i dobijete potvrdu
• C) Potvrđuje članak iz trenutnog konsolidovanog teksta na Çözüm.gov.tr ✔
• D) Usmeno traži odluku nadređenom

Opis: Podaci o obuci AI su zamrznuti na određeni datum; Članak koji prikazuje možda je ukinut ili izmijenjen. Potvrđivanje da je članak na snazi ​​i njegova konačna verzija iz trenutnog prečišćenog teksta na Çözüm.gov.tr ​​prije donošenja odluke sprječava nepravedno odbijanje i moguću tužbu za poništenje.

4. Zašto je garancija kvaliteta da čet-bot građana može reći 'Ne znam, prebacujem te na službenika'?

• A) Poboljšava statistiku povećanjem stope fluktuacije
• B) Sprečava dezinformacije delegiranjem informacija ljudima kada niste sigurni ✔
• C) Produžuje vrijeme poziva ometajući građane
• D) Dozvoljava chatbotu da prima manje pitanja

Objašnjenje: U javnosti, siguran i pogrešan odgovor je mnogo skuplji od iskrenog tumačenja; To dovodi do gubitka prava i nepovjerenja u instituciju. Sposobnost chatbota da preda čovjeku kada nije siguran je sigurnosni mehanizam koji sprječava halucinantne dezinformacije.

5. Koji je najvažniji rizik koji treba uzeti u obzir prilikom 'pojednostavljenja' službene korespondencije sa AI?

• A) Tekst je prekratak
• B) Promjena fonta
• C) Odbacivanje uslova ili izuzetka ✔
• D) Pogrešno napisano ime primaoca

Objašnjenje: Stilska adaptacija ne bi trebala mijenjati sadržaj. Kada pojednostavljuje, AI ponekad ispušta izuzetak, uslov ili trajanje. Stoga, pojednostavljeni tekst uvijek treba upoređivati ​​sa originalnom odlukom ili zakonodavstvom.

6. Ime i T.R. u skupu podataka. Kako se to zove kada kombinacija 'komšiluk + godina rođenja + vrsta invaliditeta' može otkriti osobu čak i ako je matični broj izbrisan?

• A) Redefinicija ✔
• B) Minimizacija podataka
• C) Stopa pokrivenosti
• D) Konsolidacija

Objašnjenje: Ponovna identifikacija je pronalaženje osobe kroz kombinaciju indirektnih identifikatora iz podataka za koje se smatra da su anonimni. Ako se rijetka kategorija nađe u jednoj osobi, brisanje imena neće biti dovoljno; Potrebne su dodatne mjere, kao što je pretvaranje starosti u raspon i kombiniranje rijetkih kategorija.

7. Kako se to zove kada inspekcijski model označi naselje koje je u prošlosti bilo intenzivno inspekirano kao 'rizično' i pošalje tamo više inspekcija, što tjera model da vidi taj kvart kao rizičniji?

• A) Minimizacija podataka
• B) Halucinacije
• C) Anonimizacija
• D) Petlja povratne informacije ✔

Objašnjenje: Petlja povratne sprege je kada izlaz modela utječe na naknadne podatke obuke, pojačavajući postojeću pristranost. Razlika se ne povećava u stvarnom riziku, već u tome gdje se gleda. Način da se zaštitite jeste da nadgledate uticaj, a ne rezultat, i da kontrolišete grupnu distribuciju odluka.

8. Nakon što se aplikacija za beneficije u potpunosti preselila na internet, broj aplikacija je opao za 30 posto u prvom mjesecu. Koje je najvjerovatnije objašnjenje za ovo?

• A) Stvarne potrebe građana su smanjene
• B) Građani bez interneta i digitalne pismenosti su izostavljeni ✔
• C) Kamata je smanjena jer se smanjio iznos pomoći
• D) Sistem je automatski odobrio sve aplikacije

Opis: Digitalni jaz je nemogućnost građana bez pristupa internetu ili digitalne pismenosti da pristupe uslugama. Broj se smanjuje jer se ne mogu prijaviti najpotrebitiji, stariji i građani bez interneta. Rješenje je ostaviti alternativne kanale, kao što su asistirane referentne tačke.

9. Dok je stvarna stopa uspješnosti u godišnjem izvještaju 63 posto, izvršni sažetak koji je napravio YZ kaže da je 'velika većina prijava bila pozitivna.' Koje je ispravno ponašanje?

• A) Izraz je ostavljen takav kakav jeste jer je pozitivan.
• B) Omjer se briše i koristi se samo kvalitativni izraz
• C) Izraz se zamjenjuje realnim brojem 63 posto ✔
• D) Sažetak je potpuno uklonjen iz izvještaja

Obrazloženje: Preuveličana pozitivna percepcija u javnom izvještaju stavlja instituciju u tešku situaciju u narednim revizijama. Svaki zahtjev u sažetku treba uporediti sa sirovim podacima i napisati stvarni broj (63 posto); AI sažetci nisu uključeni u izvještaj bez revizije.

10. Prilikom donošenja odluka zasnovanih na podacima u javnom sektoru, ako se 'broj dosijea zatvorenih mjesečno' povećava dok se 'stopa rezolucije pri prvom kontaktu' smanjuje, čemu nas ovo prvo uči?

• A) Odabir pravog indikatora je važniji od množenja broja ✔
• B) Treba povećati broj osoblja
• C) Grafikoni trebaju biti obojeni
• D) Chatbot bi trebao odgovoriti na više pitanja

Objašnjenje: Pogrešan indikator dovodi do pogrešne odluke čak i sa ispravnim podacima. Fajlovi se mogu brzo zatvoriti i ponovo otvoriti. Odabir pravog indikatora i zajedničko čitanje indikatora sprječava hvalisanje samo na osnovu obmanjujućeg broja.

11. Na grafikonu, vertikalna osa počinje od 40 umjesto od nule, a povećanje od 2 posto izgleda kao dramatičan skok je primjer kog problema?

• A) Halucinacije
• B) Minimizacija podataka
• C) Digitalni jaz
• D) Obmanjujuća vizualizacija ✔

Objašnjenje: Obmanjujuća vizualizacija iskrivljuje percepciju kroz tehnike kao što su osa koja ne počinje od nule, nesrazmjerna skala ili odabrani vremenski period. To je dio poštenog vizualnog upravljanja javnim podacima; Pravu tabelu treba prikazati povlačenjem ose na nulu.

12. Zašto je neprihvatljivo reći 'AI je to napisao' kao opravdanje za administrativnu akciju?

• A) Zato što su AI alati preskupi
• B) Administrativna radnja mora biti opravdana i odgovornost je na službeniku ✔
• C) Zato što AI ne zna turski
• D) Zato što građani ne vole AI

Objašnjenje: Administrativna akcija mora biti obrazložena i podložna reviziji; Odgovornost nije na AI, već na javnom službeniku i instituciji koja koristi izlaz bez verifikacije. 'AI je tako rekao' nije opravdanje i ne podržava administrativnu akciju.

13. Koja su četiri principa koji razlikuju upotrebu AI u javnom sektoru od privatnog sektora i koja treba dodatno poštovati?

• A) Brzina, jeftinost, profitabilnost, konkurencija
• B) Automatizacija, skala, marketing, brend
• C) Jednakost, transparentnost, odgovornost, zaštita ličnih podataka ✔
• D) Privatnost, povjerljivost, privatnost i povjerljivost

Obrazloženje: U poslovima u kojima se koristi javna moć, AI je uokvirena principima jednakosti (sličan tretman slične situacije), transparentnosti (objašnjivost opravdanosti odluke), odgovornosti (odgovoran za svaku transakciju i revizijski trag) i zaštite ličnih podataka (KVKK).

14. Šta treba da uradi automatizovani sistem pre letenja kada nije siguran za retku vrstu dokumenta?

• A) Odbiti molbu u tišini
• B) Prosljeđivanje prijave na ljudski pregled ✔
• C) Automatski odobrite aplikaciju
• D) Izbrišite aplikaciju

Objašnjenje: Dobra automatizacija usmjerava model prema službeniku kada nije siguran, umjesto da ga prešutno odbacuje. U suprotnom, legitimne aplikacije će pasti u slijepu tačku i doći će do viktimizacije. Održavanje ljudi na mjestu odlučivanja je osnova upravljanja iznimkama.