KVKK, Privatnost i odgovorno upravljanje javnom umjetnom inteligencijom

Dobici:

• Primjenjuje načela KVKK i minimiziranje podataka pri obradi osobnih podataka građana u AI alatima.
• Uspostavlja okvir upravljanja za organizaciju koji uključuje politiku korištenja umjetne inteligencije, revizijski trag i lanac odgovornosti.
• Holistički tvrdi da je odgovorna javna umjetna inteligencija izgrađena na ljudskom nadzoru, transparentnosti i odgovornosti.

Tijekom ovog modula vidjeli smo kako je umjetna inteligencija moćan akcelerator u javnosti: odgovori na pitanja građana, peticije i korespondenciju, istraživanje zakonodavstva, analiza politike, izvješćivanje, donošenje odluka temeljeno na podacima, e-uprava i transparentnost. Sada dolazimo do okvira koji sve drži na okupu: zaštita osobnih podataka i odgovorno upravljanje. Javnost, po svojoj prirodi, obrađuje najosjetljivije podatke građana: identitet, adresu, prihode, zdravstveno stanje, kazneni dosje, obiteljsko stanje. Obrada ovih podataka AI alatima mora u potpunosti biti u skladu s okvirom KVKK (Zakon o zaštiti osobnih podataka br. 6698; zakon koji uređuje zakonitu, ograničenu i sigurnu obradu osobnih podataka). U ovoj završnoj jedinici uspostavit ćemo okosnicu privatnosti i upravljanja javnom upotrebom umjetne inteligencije — koji se podaci mogu dati kojem alatu, koja se pravila primjenjuju, tko je odgovoran, kako organizacija sigurno upravlja umjetnom inteligencijom. Ova jedinica je krov postavljen iznad prethodnih deset jedinica.

Osnovna načela KVKK koja se dotiču javne AI

KVKK postavlja nekoliko osnovnih načela, od kojih svako izravno ograničava upotrebu umjetne inteligencije:

• Usklađenost sa zakonom i poštivanje svrhe: Osobni podaci obrađuju se samo za određenu, legitimnu svrhu. Podaci prikupljeni u jednu svrhu (na primjer, prijava za pomoć) ne mogu se koristiti u drugu svrhu (na primjer, obuka modela) bez dopuštenja.
• Minimizacija podataka: Ne obrađuje se više podataka nego što je potrebno za tu svrhu. Ako naziv nije potreban za analizu kategorije, naziv se ne daje.
• Sigurnost: Podaci su zaštićeni od neovlaštenog pristupa. Lijepljenje podataka o građanima u javni alat umjetne inteligencije predstavlja iznošenje tih podataka izvan organizacije — to je kršenje sigurnosnih pravila.
• Razdoblje pohrane: Podaci se brišu kada namjena završi; Ne čuva se unedogled.
• Informacije i prava: Građani imaju pravo znati kako se njihovi podaci obrađuju, ispravljati, brisati i prigovoriti automatiziranim odlukama.

Pažnja: Učitavanje podataka građanina u javni AI alat koji institucija nije odobrila, gdje se podaci pohranjuju i tko ima pristup njima nije jasno, u većini slučajeva je kršenje KVKK i otvara instituciju ka sankcijama. Pravila se nikada ne mijenjaju "kako bi se olakšao posao".

Koji podaci, na koje vozilo? Trozonski model

Kao pravilo, podijelite podatke u tri regije:

1. Crveno (nikada ne ulazi u javno vozilo): broj osobne iskaznice, zdravstveno stanje, kriminalitet, vjera, etnička pripadnost, biometrija, puna adresa, sve što identificira osobu. Oni se obrađuju samo u ugovorenom/internom okruženju koje je usklađeno s KVKK-om i koje je odobrila institucija.
2. Žuto (pažljivo, maskiranjem): Podaci koji se neizravno mogu povezati s osobom. Prvo anonimiziraj/agregiraj, a zatim obradi.
3. Zeleno (besplatno): Neosobne, javne, opće informacije (zakonski tekst, javna statistika, opći postupak). Možete ih jednostavno obraditi pomoću umjetne inteligencije.

Savjet: Prije nego što pošaljete tekst umjetnoj inteligenciji, napravite test od 5 sekundi: "Postoji li nešto u ovom sadržaju što bi moglo identificirati osobu?" Ako je odgovor "da/možda", maskirajte se ili vozite odobreno vozilo. Ako ste u nedoumici, razmislite o crvenoj boji.

Korporativno upravljanje: od osobe do sustava

Odgovorna javna AI ne može se prepustiti dobroj volji pojedinih državnih službenika; Potreban je institucionalni okvir:

• Politika: Institucija mora imati politiku korištenja umjetne inteligencije: koji su alati odobreni, koji se podaci mogu unijeti, tko je odgovoran.
• Popis odobrenih alata: Osoblje treba koristiti alate koje je institucija ocijenila i odobrila, a ne nasumično.
• Obuka: Osoblje mora poznavati disciplinu verifikacije i područja podataka (kao ovaj modul).
• Bilježenje i revizija: Treba voditi revizijski trag odluka donesenih pomoću umjetne inteligencije.
• Odgovornost: Svaki izlaz pokretan umjetnom inteligencijom mora imati ljudskog vlasnika i odobrenje. Odgovornost je na ustanovi i službeniku, a ne na vozilu.
• Načelo usmjereno na čovjeka: Konačna odluka o stvaranju/ograničavanju prava ne donosi se bez pristanka čovjeka.

tri mini kućišta

Slučaj 1 — spriječeno crveno curenje podataka. Član osoblja se spremao učitati sažetak popisa zdravstvenih beneficija za 1200 ljudi na javni alat. Zahvaljujući odobrenoj agencijskoj politici vozila i obuci za "crvene podatke", prestalo je; Podaci su obrađeni u internom odobrenom okruženju i s maskiranim poljima identiteta. Spriječeno je moguće kršenje KVKK i gubitak povjerenja desetaka tisuća ljudi.

Slučaj 2 — Zlouporaba. Jedna je jedinica željela koristiti podatke prikupljene za informiranje za predizborni komunikacijski plan. Službenik za zaštitu podataka podsjetio je na načelo svrsishodnosti: radi se o korištenju podataka izvan svrhe za koju su prikupljeni i protuzakonito. Zahtjev je odbijen.

Slučaj 3 — Otklonjen jaz u upravljanju. U jednoj su općini različite jedinice koristile različite alate umjetne inteligencije bez kontrole; Nitko nije znao koji su podaci kamo otišli. Agencija je uvela politiku korištenja umjetne inteligencije, popis odobrenih vozila i revizijski trag; Unutar 3 mjeseca korištenje neregistriranih vozila smanjilo se za 90% te je napravljen popis podataka.

Četiri predloška za kopiranje

1) Klasifikacija regije podataka (prije izvoza u vozilo):

Vaša uloga: savjetnik za zaštitu podataka. Klasificirajte sljedeći sadržaj prije nego što ga date AI agentu: CRVENI (identificira osobu, nikada ne ulazi u javno vozilo), ŽUTI (neizravno poveziv, maska), ZELENI (neosobno, besplatno). Označite crveno/žuto područje jedno po jedno i recite im kako maskirati. Osumnjičenog smatrajte crvenim. SADRŽAJ: [tekst]

2) Maskiranje/anonimizacija:

Anonimizirajte sve osobne podatke prije obrade sljedećeg teksta: ime -> [OSOBA-1], ID broj -> [IDENTITET], adresa ->[ADRESA], zdravlje/kazna -> [OSJETLJIVO]. Taguj istu osobu. Odvojeni izvoz anonimiziranog teksta. Nikada ne zapisujte stvarne podatke na izlaz. TEKST: [tekst]

3) Kontrolni popis usklađenosti s KVKK (za korištenje umjetne inteligencije):

Vaša uloga: KVKK stručnjak za sukladnost. Napravite popis za provjeru sukladnosti za sljedeću upotrebu umjetne inteligencije: (1) je li svrha obrade legitimna i specifična, (2) je li povezana sa svrhom (prebacuje li se na drugu svrhu), (3) je li optimizirana, (4) je li alat siguran/odobren, (5) je li određeno razdoblje zadržavanja, (6) jesu li prava građana (prigovor, brisanje) zaštićena. Označite stavke koje nedostaju crvenom zastavicom. UPOTREBA: [recept]

4) Okvir korporativne politike umjetne inteligencije:

Vaša uloga: javni stručnjak za IT upravljanje. Izradite okvir politike korištenja umjetne inteligencije za našu organizaciju: opseg, odobreni alati, podatkovne zone (crveno/žuto/zeleno), zabranjene upotrebe, točke ljudskog odobrenja, revizijski trag, odgovornosti, obuka i obavijest o kršenju. Ispunite svaki naslov s 1-2 rečenice. USTANOVA: [jedinica i tipični poslovi]

Slab upit / Jak upit

Slab: "Sažeti ovaj popis referenci."

Jaka: "Vaša uloga je savjetnik za zaštitu podataka. Prvo klasificirajte ovaj popis prema području podataka (crveno/žuto/zeleno) i označite sva polja koja identificiraju osobu. Maskirajte crvena/žuta polja s [OSOBA]/[IDENTITET]/[OSJETLJIVO], zadržite istu osobu s istom oznakom. Izradite samo sažetak kategorije s anonimiziranim, agregiranim podacima; nemojte pisati stvarne osobne podatke u izlaz. Na kraju, zabilježite gdje ovaj proces zahtijeva pozornost u smislu KVKK (namjena, skladištenje, sigurnost vozila) add."

Razlika: moćni prompt klasificira, maskira, minimizira i integrira KVKK principe prije obrade podataka.

Regije podataka i pravilo

Regija

primjer

pravilo

crvena

TR ID broj, zdravstvena, kazna, puna adresa

Nikada ne ulazite u javno vozilo; odobreno okruženje

žuti

Dob+susjedstvo+zanimanje, neizravni identifikator

Maska/agregat, zatim obrada

zelena

Zakonodavstvo, javna statistika, opći postupak

slobodni rad

Uobičajene greške

• Izvoz crvenih podataka u javni alat. Najteža povreda; ID/zdravstveni podaci/podaci o kazni ne napuštaju odobreno okruženje.
• Zlouporaba. Protuzakonito je koristiti podatke prikupljene u jednu svrhu u drugu svrhu (obuka modela, komunikacija) bez dopuštenja.
• Obrada previše podataka. Ne premještajte nepotrebna polja (ime, adresa) za tu svrhu; Minimiziraj.
• Vožnja bez odobrenja. Nejasno je kamo idu podaci u vozilima koja institucija nije procijenila.
• Neodređivanje razdoblja čuvanja. Podatke treba izbrisati kada je svrha ispunjena; ne treba čuvati neograničeno dugo.
• Prebacivanje odgovornosti na vozilo. Rezultat posjeduje i odobrava čovjek; "AI je to učinio" nije obrana.

Ukratko

Okvir za odgovornu javnu umjetnu inteligenciju je zaštita osobnih podataka i korporativno upravljanje. Načela KVKK — svrhovitost, minimizacija, sigurnost, ograničenje zadržavanja, prava građana — ograničavaju svaku upotrebu AI. Odvojite podatke u crvene/žute/zelene zone, nikada ne dajte crveno javnom alatu, maskirajte osobne podatke, koristite samo odobrene alate i povežite ljudskog vlasnika sa svakom odlukom. Politika na institucionalnoj razini, popis odobrenih vozila, evidencija o obuci i inspekciji; Disciplina provjere na razini osobe. Dakle, AI služi javnosti štiteći prava građana.

Zadatak aplikacije

Odaberite stvarnu upotrebu umjetne inteligencije koju ste koristili (ili razmišljate o tome) u svojoj jedinici. Odvojite sadržaj koji ćete obrađivati ​​u crveno/žuto/zeleno s predloškom "Klasifikacija regije podataka". Primijenite predložak "KVKK popis usklađenosti" i pronađite barem jednu točku koja nedostaje/rizičnu. Na kraju izradite kratku politiku prikladnu za vašu jedinicu s "Kosturom korporativne politike umjetne inteligencije".

popis za provjeru

• [ ] Sadržaj sam podijelio u crvenu/žutu/zelenu zonu; Osumnjičenog sam računao kao crvenog.
• [ ] Nisam dao crvene podatke javnom alatu; Koristio sam odobrene medije.
• [ ] Maskirao sam osobne podatke i uklonio nepotrebna polja (minimizacija).
• [ ] Provjerio sam svrhu obrade, rok skladištenja i sigurnost vozila.
• [ ] Pridržavao sam se prava građana na prigovor/brisanje.
• [] Priložio sam ljudskog vlasnika i odobrenje svakom izlazu; Zadržao sam revizijski trag.

Modul ispit

1. Kao javnom dužnosniku, koje je najbolje prioritetno pitanje koje trebate postaviti prije nego što predate posao AI-ju?

• A) Što građanin gubi ako je ovaj rezultat pogrešan? ✔
• B) Koliko brzo AI može obaviti ovaj posao?
• C) Je li ovaj AI alat besplatan?
• D) Hoće li druga jedinica također koristiti ovaj izlaz?

Objašnjenje: Odluka o prijenosu donosi se na temelju štete koju će građanin pretrpjeti ako rezultat nije točan. Šteta se lako prenosi ako se radi o samo nekoliko minuta prepisivanja; Ako se radi o nepravednom odbijanju, pogrešnoj kazni ili gubitku prava, AI samo proizvodi nacrt, odluka i provjera pripadaju službenoj osobi.

2. Kako se zove kada AI nepostojeći zakon ili izmišljenu sudsku odluku predstavlja kao stvarnu?

• A) Predmemoriranje
• B) Trijaža
• C) Anonimizacija
• D) Halucinacije ✔

Objašnjenje: Halucinacija je kada umjetna inteligencija samouvjereno proizvodi informacije koje zapravo ne postoje (izmišljena tvar, ukinuta regulativa, krivi broj). U području zakonodavstva ovo je jedan od najopasnijih rizika jer može dovesti do gubitka prava i poništenja upravne radnje.

3. Službenik će odbiti zahtjev na temelju članka propisa na koji ukazuje YZ. Koje je najispravnije ponašanje?

• A) AI izravno piše odbijenicu jer se čini pouzdanom
• B) Postavite isto pitanje drugom vozilu s umjetnom inteligencijom i dobijete potvrdu
• C) Potvrđuje članak iz trenutnog pročišćenog teksta na Çözüm.gov.tr ✔
• D) Usmeno pita nadređenog za odluku

Opis: podaci o obuci umjetne inteligencije zamrznuti su na određeni datum; Članak koji prikazuje možda je ukinut ili promijenjen. Potvrđivanje da je članak na snazi ​​i njegova konačna verzija iz trenutnog pročišćenog teksta na Çözüm.gov.tr ​​​​prije odluke sprječava nepravedno odbijanje i moguću tužbu za poništenje.

4. Zašto je osiguranje kvalitete da chatbot za građane može reći 'ne znam, prebacujem te službeniku'?

• A) Poboljšava statistiku povećanjem stope fluktuacije
• B) Sprječava dezinformacije delegiranjem informacija ljudima kada niste sigurni ✔
• C) Produžuje vrijeme poziva odvraćanjem pažnje građana
• D) Omogućuje chatbotu primanje manje pitanja

Objašnjenje: U javnosti je pouzdan pogrešan odgovor mnogo skuplji od iskrenog odgovora; To dovodi do gubitka prava i nepovjerenja u instituciju. Sposobnost chatbota da preda čovjeku kada nije siguran sigurnosni je mehanizam koji sprječava halucinantne dezinformacije.

5. Koji je najvažniji rizik koji treba uzeti u obzir prilikom 'pojednostavljivanja' službene korespondencije s umjetnom inteligencijom?

• A) Tekst je prekratak
• B) Promjena fonta
• C) Ispuštanje uvjeta ili iznimke ✔
• D) Pogrešno napisano ime primatelja

Obrazloženje: Stilska prilagodba ne smije mijenjati sadržaj. Prilikom pojednostavljivanja, AI ponekad ispušta iznimku, uvjet ili trajanje. Stoga se pojednostavljeni tekst uvijek treba usporediti s izvornom odlukom ili zakonodavstvom.

6. Ime i T.R. u skupu podataka. Kako se zove kada kombinacija 'komšiluk + godina rođenja + vrsta invaliditeta' može otkriti osobu čak i ako je matični broj izbrisan?

• A) Redefinicija ✔
• B) Minimizacija podataka
• C) Stopa pokrivenosti
• D) Konsolidacija

Objašnjenje: Ponovna identifikacija je pronalaženje osobe kombinacijom neizravnih identifikatora iz podataka za koje se smatra da su anonimni. Ako se rijetka kategorija nalazi u jednoj osobi, brisanje imena neće biti dovoljno; Potrebne su dodatne mjere, poput pretvaranja dobi u raspon i kombiniranja rijetkih kategorija.

7. Kako se zove kada model inspekcije označi susjedstvo koje je u prošlosti bilo intenzivno pregledano kao 'rizično' i tamo pošalje više inspekcija, što tjera model da to susjedstvo vidi kao rizičnije?

• A) Minimizacija podataka
• B) Halucinacije
• C) Anonimizacija
• D) Petlja povratne veze ✔

Objašnjenje: petlja povratne informacije je kada izlaz modela utječe na naknadne podatke obuke, pojačavajući postojeću pristranost. Razlika se ne povećava u stvarnom riziku, već u tome gdje se gleda. Način da se zaštitite je praćenje utjecaja, a ne rezultata, te kontroliranje grupne distribucije odluka.

8. Nakon što se zahtjev za beneficije u potpunosti preselio online, broj zahtjeva pao je 30 posto u prvom mjesecu. Koje je najvjerojatnije objašnjenje za ovo?

• A) Stvarne potrebe građana su se smanjile
• B) Građani bez interneta i digitalne pismenosti izostavljeni su ✔
• C) Kamate su se smanjile jer se smanjio iznos potpore
• D) Sustav je automatski odobrio sve prijave

Opis: Digitalni jaz je nemogućnost građana bez pristupa internetu ili digitalne pismenosti da pristupe uslugama. Broj se smanjuje jer se najpotrebitija skupina, starije osobe i građani bez interneta, ne mogu prijaviti. Rješenje je napustiti alternativne kanale, kao što su potpomognute referentne točke.

9. Dok je stvarna stopa uspješnosti u godišnjem izvješću 63 posto, izvršni sažetak koji je napravio YZ kaže da je 'velika većina prijava bila pozitivna.' Što je ispravno ponašanje?

• A) Izraz ostaje takav kakav jest jer je pozitivan.
• B) Omjer se briše i koristi se samo kvalitativni izraz
• C) Izraz je zamijenjen realnim brojem 63 posto ✔
• D) Sažetak je u potpunosti uklonjen iz izvješća

Obrazloženje: Pretjerana pozitivna percepcija u javnom izvješću dovodi ustanovu u tešku situaciju u kasnijim revizijama. Svaku tvrdnju u izvršnom sažetku treba usporediti s neobrađenim podacima i treba napisati stvarni broj (63 posto); Sažeci AI nisu uključeni u izvješće bez revizije.

10. Pri donošenju odluka temeljenih na podacima u javnom sektoru, ako se 'broj mjesečno zatvorenih datoteka' povećava dok se 'stopa rješavanja pri prvom kontaktu' smanjuje, čemu nas to prvo uči?

• A) Odabir pravog pokazatelja važniji je od množenja broja ✔
• B) Treba povećati broj osoblja
• C) Grafikoni trebaju biti obojeni
• D) Chatbot bi trebao odgovoriti na više pitanja

Objašnjenje: pogrešan indikator dovodi do pogrešne odluke čak i s točnim podacima. Datoteke se mogu brzo zatvoriti i ponovno otvoriti. Odabir pravog pokazatelja i zajedničko čitanje pokazatelja sprječava hvalisanje samo na temelju lažnog broja.

11. Na grafikonu okomita os počinje na 40 umjesto na nuli, a povećanje od 2 posto izgleda kao dramatičan skok, primjer je kojeg problema?

• A) Halucinacija
• B) Minimizacija podataka
• C) Digitalni jaz
• D) Pogrešna vizualizacija ✔

Objašnjenje: Pogrešna vizualizacija iskrivljuje percepciju pomoću tehnika kao što je os koja ne počinje od nule, neproporcionalno mjerilo ili odabrano vremensko razdoblje. To je dio poštenog vizualnog upravljanja javnim podacima; Pravu tablicu treba prikazati povlačenjem osi na nulu.

12. Zašto je neprihvatljivo reći 'AI je to napisao' kao opravdanje za administrativnu radnju?

• A) Zato što su AI alati preskupi
• B) Upravni postupak mora biti opravdan, a odgovornost je na službeniku ✔
• C) Zato što AI ne zna turski
• D) Zato što građani ne vole AI

Objašnjenje: Upravni postupak mora biti obrazložen i podložan reviziji; Odgovornost nije na umjetnoj inteligenciji, već na javnom službeniku i instituciji koja koristi izlaz bez provjere. 'AI je tako rekao' nije opravdanje i ne podupire administrativnu radnju.

13. Koja su četiri načela koja razlikuju korištenje umjetne inteligencije u javnom sektoru od privatnog sektora i koja treba dodatno poštovati?

• A) Brzina, jeftinoća, isplativost, konkurencija
• B) Automatizacija, skala, marketing, marka
• C) Jednakost, transparentnost, odgovornost, zaštita osobnih podataka ✔
• D) Privatnost, povjerljivost, privatnost i povjerljivost

Obrazloženje: U radovima u kojima se koristi javna ovlast, AI je uokviren načelima jednakosti (slično tretiranje slične situacije), transparentnosti (obrazloživost opravdanosti odluke), odgovornosti (odgovornost za svaku transakciju i revizijski trag) i zaštite osobnih podataka (KVKK).

14. Što bi automatizirani sustav prije leta trebao učiniti kada nije siguran u rijetku vrstu dokumenta?

• A) Tiho odbiti zahtjev
• B) Prosljeđivanje aplikacije na ljudski pregled ✔
• C) Automatski odobrite aplikaciju
• D) Izbrišite aplikaciju

Objašnjenje: Dobra automatizacija usmjerava model na službenika kada nije siguran, umjesto da ga šutke odbija. Inače će legitimne aplikacije pasti u slijepu točku i doći će do viktimizacije. Zadržavanje ljudi na točki odlučivanja osnova je upravljanja iznimkama.