KVKK, privaatsus ja vastutustundlik avalik tehisintellekti juhtimine

Kasu:

• Kodaniku isikuandmete töötlemisel tehisintellekti tööriistades rakendatakse KVKK põhimõtteid ja andmete minimeerimist.
• See loob organisatsiooni juhtimisraamistiku, mis hõlmab tehisintellekti kasutamise poliitikat, kontrolljälge ja vastutusahelat.
• See väidab terviklikult, et vastutustundlik avalik tehisintellekt põhineb inimlikul järelevalvel, läbipaistvusel ja vastutusel.

Kogu selle mooduli jooksul nägime, kuidas tehisintellekt on võimas kiirendi avalikkuse ees: vastused kodanike küsimustele, petitsioonidele ja kirjavahetusele, seadusandlikud uuringud, poliitikaanalüüs, aruandlus, andmepõhine otsuste tegemine, e-valitsus ja läbipaistvus. Nüüd jõuame raamistikuni, mis seda kõike koos hoiab: isikuandmete kaitse ja vastutustundlik valitsemine. Avalikkus töötleb oma olemuselt kodaniku kõige tundlikumaid andmeid: isik, aadress, sissetulek, tervis, karistusregister, perekondlik olukord. Nende andmete töötlemine tehisintellekti vahenditega peab täielikult vastama KVKK (isikuandmete kaitse seadus nr 6698; isikuandmete seaduslikku, piiratud ja turvalist töötlemist reguleeriv seadus) raamistikule. Selles viimases üksuses paneme paika avaliku tehisintellekti kasutamise privaatsus- ja halduspõhimõtted – milliseid andmeid millisele tööriistale anda, millised poliitikad kehtivad, kes vastutab, kuidas organisatsioon tehisintellekti ohutult haldab. See seade on katus, mis on asetatud eelmise kümne üksuse kohale.

KVKK põhiprintsiibid puudutavad avalikku tehisintellekti

KVKK sätestab mitu aluspõhimõtet, millest igaüks piirab otseselt tehisintellekti kasutamist:

• Seaduse täitmine ja eesmärgist kinnipidamine: Isikuandmeid töödeldakse ainult konkreetsel, legitiimsel eesmärgil. Ühel eesmärgil (näiteks abi taotlemiseks) kogutud andmeid ei saa ilma loata kasutada muul eesmärgil (näiteks modelli koolitamiseks).
• Andmete minimeerimine: andmeid ei töödelda rohkem, kui on eesmärgi saavutamiseks vajalik. Kui kategooriaanalüüsi jaoks nime ei nõuta, siis nime ei anta.
• Turvalisus: andmed on kaitstud volitamata juurdepääsu eest. Kodanike andmete kleepimine avalikku tehisintellekti tööriista viib need andmed organisatsioonist välja – see on turvapoliitika rikkumine.
• Säilitusperiood: andmed kustutatakse eesmärgi lõppemisel; Seda ei säilitata lõputult.
• Teave ja õigused: kodanikel on õigus teada, kuidas nende andmeid töödeldakse, parandada, kustutada ja automatiseeritud otsustele vastu vaielda.

Tähelepanu: Kodaniku andmete üleslaadimine avalikku tehisintellekti tööriista, mida asutus pole heaks kiitnud, kus andmeid hoitakse ja kellel on neile juurdepääs, on ebaselge, on enamikul juhtudel KVKK rikkumine ja avab asutuse sanktsioonidele. Reegleid pole kunagi painutatud "töö hõlbustamiseks".

Millised andmed, millisele sõidukile? Kolmetsooniline mudel

Rusikareeglina jagage andmed kolme piirkonda:

1. Punane (ei sisene kunagi ühissõidukisse): isikukood, tervis, kriminaal, religioon, etniline kuuluvus, biomeetria, täielik aadress, kõik, mis isikut tuvastab. Neid töödeldakse ainult asutuse poolt heaks kiidetud lepingulises/majasiseses ja KVKK-le vastavas keskkonnas.
2. Kollane (ettevaatlikult, maskeerides): andmed, mida saab isikuga kaudselt seostada. Esmalt anonüümseks muutmine/koondamine, seejärel töötlemine.
3. Roheline (tasuta): Isikupäratu, avalik, üldine teave (õigusakt, avalik statistika, üldine menetlus). Saate neid hõlpsasti AI-ga töödelda.

Näpunäide. Enne tehisintellektile teksti edastamist tehke 5-sekundiline test: "Kas selles sisus on midagi, mis võiks isiku tuvastada?" Kui vastus on jah/võib-olla, maskeerige end või sõitke heakskiidetud sõidukiga. Kui kahtlete, kaaluge punast värvi.

Ettevõtte juhtimine: inimeselt süsteemile

Vastutustundlikku avalikku tehisintellekti ei saa jätta üksikute riigiteenistujate hea tahte hooleks; Vaja on institutsionaalset raamistikku:

• Poliitika: asutusel peab olema tehisintellekti kasutamise poliitika: millised tööriistad on kinnitatud, milliseid andmeid tohib sisestada, kes vastutab.
• Heakskiidetud tööriistade loend: töötajad peaksid kasutama tööriistu, mida asutus on hinnanud ja heaks kiitnud, mitte juhuslikult.
• Koolitus: töötajad peavad teadma kontrollimise distsipliini ja andmepiirkondi (nagu see moodul).
• Salvestamine ja auditeerimine: tehisintellektiga tehtud otsuste kontrolljälg tuleks säilitada.
• Vastutus: igal AI-toega väljundil peab olema inimese omanik ja heakskiit. Vastutus lasub asutusel ja ametnikul, mitte sõidukil.
• Inimkeskne põhimõte: ilma inimese nõusolekuta ei tehta lõplikku õigusi loovat/piiravat otsust.

kolm minikarpi

Juhtum 1 – punaste andmete leke on välistatud. Üks töötaja kavatses avalikku tööriista üles laadida kokkuvõtet 1200 inimese tervisehüvede loendist. Tänu agentuuri kinnitatud sõidukipoliitikale ja "punaste andmete" koolitusele see peatus; Andmeid töödeldi ettevõttesiseses heakskiidetud keskkonnas ja identiteediväljad olid maskeeritud. Hoidati ära võimalik KVKK rikkumine ja usalduse kaotus kümnete tuhandete inimeste jaoks.

Juhtum 2 – väärkasutus. Üks üksus soovis kasutada teabevahetuseks kogutud andmeid valimiseelse kommunikatsiooniplaani koostamiseks. Andmekaitseametnik tuletas meelde eesmärgist kinnipidamise põhimõtet: see oli andmete kasutamine väljaspool nende kogumise eesmärki ja oli ebaseaduslik. Taotlus lükati tagasi.

Juhtum 3 – valitsemislünk on kõrvaldatud. Ühes omavalitsuses kasutasid erinevad üksused ilma kontrollita erinevaid tehisintellekti tööriistu; Keegi ei teadnud, millised andmed kuhu läksid. Agentuur võttis kasutusele tehisintellekti kasutamise poliitika, heaks kiidetud sõidukite nimekirja ja kontrolljälje; 3 kuuga vähenes registreerimata sõidukikasutus 90% ja tekkis andmeinventuur.

Neli kopeeritavat malli

1) Andmepiirkonna klassifikatsioon (enne sõidukisse eksportimist):

Sinu roll: andmekaitsenõustaja. Enne tehisintellekti agendile andmist klassifitseerige järgmine sisu: PUNANE (identifitseerib isiku, ei sisene kunagi ühissõidukisse), KOLLANE (kaudselt ühendatav, mask), ROHELINE (mitteisiklik, tasuta). Märkige ükshaaval punased/kollased alad ja öelge neile, kuidas maskeerida. Lugege kahtlustatav punaseks. SISU: [tekst]

2) Maskeerimine/anonüümseks muutmine:

Anonüümseks muutke kõik isikuandmed enne järgmise teksti töötlemist: nimi -> [ISIK-1], ID number -> [IDENTSIOON], aadress -> [ADRESS], tervis/karistus -> [SENSITIIVNE]. Märkige sama inimene. Ekspordi anonüümne tekst eraldi. Ärge kunagi kirjutage väljundisse tegelikke andmeid. TEKST: [tekst]

3) KVKK nõuetele vastavuse kontrollnimekiri (AI kasutamiseks):

Sinu roll: KVKK vastavusspetsialist. Koostage vastavuse kontrollnimekiri järgmiste tehisintellekti kasutusviiside jaoks: (1) kas töötlemise eesmärk on seaduslik ja konkreetne, (2) kas see on eesmärgiga seotud (kas see nihkub teisele eesmärgile), (3) kas see on optimeeritud, (4) kas tööriist on turvaline/kinnitatud, (5) kas säilitusperiood on kindel, (6) kas kodanike õigused (vastuväide, kustutamine) on kaitstud. Märkige puuduvad esemed punase lipuga. KASUTAMINE: [retsept]

4) Ettevõtte AI poliitikaraamistik:

Sinu roll: avaliku IT-juhtimise ekspert. Koostage meie organisatsioonile tehisintellekti kasutuspoliitika raamistik: ulatus, heakskiidetud tööriistad, andmetsoonid (punane/kollane/roheline), keelatud kasutusalad, inimeste heakskiidupunktid, kontrolljälg, kohustused, koolitus ja rikkumistest teatamine. Täitke iga pealkiri 1-2 lausega. INSTITUTSIOON: [üksus ja tüüpilised töökohad]

Nõrk viip / Tugev viip

Nõrk: "Võtke see viidete loend kokku."

Tugev: "Teie roll on andmekaitsekonsultant. Esmalt klassifitseerige see loend andmepiirkonna järgi (punane/kollane/roheline) ja märkige kõik väljad, mis isikut tuvastavad. Maskeerige punased/kollased väljad märgiga [ISIK]/[IDENTITEET]/[SENSITIIVNE], säilitage sama isik sama sildiga. Tehke ainult kategooria kokkuvõte koos anonüümsete andmetega, kui see töötlemine nõuab tähelepanu, mitte koondandmete väljastamiseks. KVKK osas (otstarve, panipaik, sõiduki turvalisus) lisa."

Erinevus: võimas viip klassifitseerib, maskeerib, minimeerib ja integreerib KVKK põhimõtted enne andmete töötlemist.

Andmepiirkonnad ja reegel

Piirkond

näide

reegel

punane

TR ID number, tervis, karistus, täielik aadress

Ärge kunagi sisenege ühissõidukisse; heakskiidetud keskkond

kollane

Vanus+naabruskond+amet, kaudne tunnus

Mask/agregaat, seejärel töötle

roheline

Õigusaktid, avalik statistika, üldmenetlus

vabakutseline töö

Levinud vead

• Punaste andmete eksportimine avalikku tööriista. Kõige tõsisem rikkumine; ID/tervise/karistuse andmed ei välju kinnitatud keskkonnast.
• Väärkasutus. Ühel eesmärgil kogutud andmete loata kasutamine teisel eesmärgil (modellikoolitus, suhtlus) on seadusevastane.
• Töötletakse liiga palju andmeid. Ärge teisaldage selleks otstarbeks mittevajalikke välju (nimi, aadress); Minimeeri.
• Sõitmine ilma loata. Kuhu lähevad andmed sõidukites, mida asutus pole hinnanud, jääb selgusetuks.
• Säilitusperioodi ei määra. Andmed tuleks kustutada, kui eesmärk on täidetud; ei tohiks lõputult säilitada.
• Vastutuse panemine sõidukile. Väljund kuulub inimesele ja on tema poolt heaks kiidetud; "AI tegi seda" ei ole kaitse.

Kokkuvõttes

Vastutustundliku avaliku tehisintellekti raamistik on isikuandmete kaitse ja ettevõtte juhtimine. KVKK põhimõtted – eesmärgipärasus, minimeerimine, turvalisus, säilituspiir, kodanike õigused – piiravad igasugust tehisintellekti kasutamist. Eraldage andmed punasteks/kollasteks/rohelisteks tsoonideks, ärge kunagi andke avalikule tööriistale punast, maskeerige isikuandmeid, kasutage ainult heakskiidetud tööriistu ja ühendage iga otsusega inimesest omanik. Asutuse tasandi poliitika, kinnitatud sõidukite nimekiri, koolituse ja ülevaatuse protokoll; Kontrollimise distsipliin isiku tasandil. Seega teenib tehisintellekt avalikkust, kaitstes kodanike õigusi.

Rakenduse ülesanne

Valige AI tegelik kasutus, mille olete oma seadmes kasutanud (või kavatsete seda teha). Eraldage töödeldav sisu punaseks/kollaseks/roheliseks malliga „Andmepiirkonna klassifikatsioon”. Rakenda mall "KVKK vastavuse kontrollnimekiri" ja leidke vähemalt üks puuduv/riskantne punkt. Lõpuks koostage oma üksuse jaoks sobiv lühike poliitika koos "Ettevõtte AI poliitika luustikuga".

kontrollnimekiri

• [ ] Jagasin sisu punaseks/kollaseks/roheliseks tsooniks; Lugesin kahtlusaluse punaseks.
• [ ] Ma ei esitanud punaseid andmeid avalikule tööriistale; Kasutasin heakskiidetud meediat.
• [ ] Maskeerisin isikuandmed ja eemaldasin mittevajalikud väljad (minimeerimine).
• [ ] Olen kontrollinud töötlemise eesmärki, säilitusaega ja sõiduki turvalisust.
• [ ] Olen järginud kodanike õigust esitada vastuväiteid/kustutamist.
• [ ] Lisasin igale väljundile inimese omaniku ja heakskiidu; Pidasin kontrolljälge.

Mooduli eksam

1. Mis on riigiametnikuna parim prioriteetne küsimus, mida peaksite enne tehisintellektile töö üleandmist küsima?

• A) Mida kodanik kaotab, kui see väljund on vale? ✔
• B) Kui kiiresti suudab tehisintellekt seda tööd teha?
• C) Kas see AI-tööriist on tasuta?
• D) Kas seda väljundit kasutab ka mõni teine ​​seade?

Selgitus: üleandmise otsus tehakse lähtuvalt kahjust, mida kodanik kannatab, kui väljund on vale. Kahju kandub kergesti üle, kui see on vaid paar minutit ümberkirjutamist; Kui tegemist on ebaõiglase tagasilükkamise, vale karistuse või õiguste kaotamisega, koostab AI ainult mustandi, otsus ja kontrollimine kuulub ametnikule.

2. Kuidas nimetatakse seda, kui tehisintellekt esitab olematu seaduse või väljamõeldud kohtuotsuse tõelisena?

• A) Vahemälu
• B) Triaaž
• C) Anonüümseks muutmine
• D) Hallutsinatsioonid ✔

Selgitus: Hallutsinatsioonid on siis, kui tehisintellekt toodab enesekindlalt teavet, mida tegelikult ei eksisteeri (väljamõeldud aine, kehtetuks tunnistatud määrus, vale number). Seadusandluse valdkonnas on see üks ohtlikumaid riske, kuna see võib kaasa tuua õiguste kaotamise ja haldustoimingu tühistamise.

3. Ametnik lükkab taotluse tagasi määruse artikli alusel, millele viitas YZ. Milline on kõige õigem käitumine?

• A) AI kirjutab otse tagasilükkamise, kuna see tundub enesekindel
• B) Esitage sama küsimus teisele tehisintellekti sõidukile ja saate kinnitust
• C) Kinnitab artiklit praegusest koondtekstist saidil Çözüm.gov.tr ✔
• D) Küsib otsust suuliselt ülemusele

Kirjeldus: AI treeninguandmed on teatud kuupäeval külmutatud; Selles kuvatav artikkel võib olla kehtetuks tunnistatud või muudetud. Kui kinnitate enne otsust, et artikkel on jõus ja selle lõplik versioon praegusest koondtekstist saidil Çözüm.gov.tr, välditakse ebaõiglast tagasilükkamist ja võimalikku tühistamishagi.

4. Miks on kvaliteedi tagamine, kui kodanike vestlusrobot saab öelda "ma ei tea, ma annan teid üle ametniku juurde"?

• A) Parandab statistikat käibemäära suurendamise kaudu
• B) Väldib valeinformatsiooni, delegeerides teabe inimestele, kui te pole kindel ✔
• C) Pikendab kõneaega, hajutades kodanike tähelepanu
• D) Võimaldab vestlusrotil saada vähem küsimusi

Selgitus: avalikult on enesekindel vale vastus palju kulukam kui aus vastus; See toob kaasa õiguste kaotamise ja institutsiooni usaldamatuse. Vestlusroboti võimalus anda inimesele üle, kui ta pole kindel, on turvamehhanism, mis hoiab ära hallutsinatiivse valeinformatsiooni.

5. Mis on kõige olulisem risk, mida tuleb arvestada tehisintellektiga peetava ametliku kirjavahetuse lihtsustamisel?

• A) Tekst on liiga lühike
• B) Fondi muutmine
• C) Tingimuse või erandi väljajätmine ✔
• D) Adressaadi nime vale kirjapilt

Selgitus: Stiililine kohandamine ei tohiks sisu muuta. Lihtsustamisel jätab AI mõnikord kõrvale erandi, tingimuse või kestuse. Seetõttu tuleks lihtsustatud teksti alati võrrelda esialgse otsuse või õigusaktiga.

6. Nimi ja T.R. andmekogus. Kuidas nimetada seda, kui kombinatsioon "naabruskond + sünniaasta + puude tüüp" võib paljastada inimese isegi siis, kui ID-number on kustutatud?

• A) Uuesti määratlemine ✔
• B) Andmete minimeerimine
• C) Katvusmäär
• D) Konsolideerimine

Selgitus. Uuesti tuvastamine on isiku leidmine anonüümseks peetavate andmete põhjal kaudsete identifikaatorite kombinatsiooni kaudu. Kui ühel inimesel leitakse haruldane kategooria, siis nime kustutamisest ei piisa; Vaja on lisameetmeid, näiteks vanuse teisendamine vahemikku ja haruldaste kategooriate kombineerimine.

7. Kuidas nimetatakse seda, kui inspekteerimismudel märgib naabruskonna, mida on varem põhjalikult kontrollitud, „riskantseks” ja saadab sinna rohkem kontrolle, mis sunnib mudelit nägema seda piirkonda riskantsemana?

• A) Andmete minimeerimine
• B) Hallutsinatsioonid
• C) Anonüümseks muutmine
• D) Tagasiside ✔

Selgitus: tagasiside ahel on siis, kui mudeli väljund mõjutab järgnevaid treeningandmeid, tugevdades olemasolevat eelarvamust. Erinevus ei suurene mitte tegelikus riskis, vaid selles, kuhu vaadata. Enda kaitsmise viis on jälgida mõju, mitte väljundit, ja kontrollida otsuste grupipõhist jaotust.

8. Pärast seda, kui hüvitiste taotlus kolis täielikult veebi, vähenes taotluste arv esimesel kuul 30 protsenti. Mis on selle kõige tõenäolisem seletus?

• A) Kodanike tegelikud vajadused on vähenenud
• B) Interneti- ja digitaalse kirjaoskuseta kodanikud jäid kõrvale ✔
• C) Intress vähenes, kuna abisumma vähenes
• D) Süsteem kinnitas automaatselt kõik taotlused

Kirjeldus: digitaalne lõhe seisneb Interneti-juurdepääsu või digitaalse kirjaoskuseta kodanike võimetuses teenustele juurde pääseda. Arv väheneb, sest kõige abivajavam rühm, eakad ja internetita kodanikud ei saa kandideerida. Lahenduseks on jätta alternatiivsed kanalid, näiteks abistatud suunamispunktid.

9. Kuigi tegelik edukuse määr aastaaruandes on 63 protsenti, ütleb YZ koostatud kokkuvõte, et „enamik taotlusi olid positiivsed”. Milline on õige käitumine?

• A) Avaldis jäetakse nii nagu ta on, kuna see on positiivne.
• B) Suhe kustutatakse ja kasutatakse ainult kvalitatiivset avaldist
• C) Avaldis asendatakse reaalarvuga 63 protsenti ✔
• D) Kokkuvõte eemaldatakse aruandest täielikult

Selgitus: liialdatud positiivne arusaam avalikus aruandes seab asutuse järgmistes auditites keerulisse olukorda. Iga nõuet kommenteeritud kokkuvõttes tuleks võrrelda algandmetega ja kirjutada tegelik arv (63 protsenti); AI kokkuvõtteid ei lisata aruandesse ilma auditeerimata.

10. Mida see meile esmalt õpetab, kui avalikus sektoris andmepõhiste otsuste tegemisel suureneb igakuiselt suletavate failide arv, samas kui lahutusvõime esimesel kontaktil väheneb?

• A) Õige näitaja valimine on olulisem kui arvu ✔ korrutamine
• B) Personali tuleks suurendada
• C) Graafikud peaksid olema värvilised
• D) Vestlusbot peaks vastama rohkematele küsimustele

Selgitus: vale indikaator viib vale otsuseni isegi õigete andmete korral. Faile saab kiiresti sulgeda ja uuesti avada. Õige indikaatori valimine ja indikaatorite koos lugemine hoiab ära ainuüksi eksitava numbri põhjal praalimise.

11. Diagrammis algab vertikaaltelg nulli asemel 40-st ja 2-protsendiline tõus näib, et dramaatiline hüpe on näide sellest, millise probleemi kohta?

• A) Hallutsinatsioonid
• B) Andmete minimeerimine
• C) Digitaalne lõhe
• D) Eksitav visualiseerimine ✔

Selgitus. Eksitav visualiseerimine moonutab taju selliste tehnikate kaudu nagu telg, mis ei alga nullist, ebaproportsionaalne skaala või valitud ajaperiood. See on osa avalike andmete ausast visuaalsest juhtimisest; Tegelikku tabelit tuleks näidata, tõmmates telje nulli.

12. Miks on vastuvõetamatu öelda, et AI kirjutas nii, et õigustada haldustoimingut?

• A) Kuna AI tööriistad on liiga kallid
• B) Haldustegevus peab olema põhjendatud ja vastutus lasub ametnikul ✔
• C) Kuna AI ei oska türgi keelt
• D) Kuna kodanikele ei meeldi AI

Selgitus: Haldustegevus peab olema põhjendatud ja auditeeritav; Vastutus ei lasu tehisintellektil, vaid riigiametnikul ja institutsioonil, kes kasutab väljundit ilma seda kontrollimata. "AI ütles nii" ei ole õigustus ega toeta haldustoiminguid.

13. Millised on neli põhimõtet, mis eristavad tehisintellekti kasutamist avalikus sektoris erasektorist ja mida tuleks lisaks järgida?

• A) Kiirus, odavus, kasumlikkus, konkurents
• B) Automatiseerimine, ulatus, turundus, bränd
• C) Võrdsus, läbipaistvus, vastutus, isikuandmete kaitse ✔
• D) Privaatsus, konfidentsiaalsus, privaatsus ja konfidentsiaalsus

Selgitus: Töödes, kus kasutatakse avalikku võimu, on tehisintellekti raamistatud võrdsuse (sarnase olukorra sarnane käsitlemine), läbipaistvuse (otsuse põhjenduse selgitatavus), vastutuse (iga tehingu ja kontrolljälje eest vastutav) ja isikuandmete kaitse (KVKK) põhimõtted.

14. Mida peaks automaatne eelkontrollisüsteem tegema, kui ta pole kindel haruldases dokumenditüübis?

• A) Taotluse vaikselt tagasilükkamine
• B) Taotluse edastamine inimese läbivaatamisele ✔
• C) Kinnitage taotlus automaatselt
• D) Kustutage rakendus

Selgitus: hea automatiseerimine suunab mudeli ametnikule, kui ta pole kindel, selle asemel, et seda vaikselt tagasi lükata. Vastasel juhul langevad õigustatud rakendused pimealasse ja toimub ohvriks langemine. Inimeste hoidmine otsustuspunktis on erandite juhtimise alus.