KVKK, Personvern og ansvarlig offentlig styring av kunstig intelligens

Gevinster:

• Den anvender KVKK-prinsipper og dataminimering ved behandling av borgers personopplysninger i AI-verktøy.
• Den etablerer et styringsrammeverk for en organisasjon som inkluderer en AI-brukspolicy, revisjonsspor og ansvarskjede.
• Den argumenterer holistisk for at ansvarlig offentlig AI er bygget på menneskelig tilsyn, åpenhet og ansvarlighet.

Gjennom denne modulen så vi hvordan AI er en kraftig akselerator i offentligheten: svar på spørsmål fra innbyggere, begjæringer og korrespondanse, lovforskning, politikkanalyse, rapportering, datadrevet beslutningstaking, e-forvaltning og åpenhet. Nå kommer vi til rammeverket som holder det hele sammen: beskyttelse av personopplysninger og ansvarlig styring. Offentlig, etter sin natur, behandler de mest sensitive dataene til innbyggeren: identitet, adresse, inntekt, helse, kriminalitet, familiesituasjon. Behandling av disse dataene med AI-verktøy må være i samsvar med rammeverket til KVKK (lov om beskyttelse av personopplysninger nr. 6698; loven som regulerer lovlig, begrenset og sikker behandling av personopplysninger). I denne siste enheten vil vi etablere ryggraden for personvern og styring av offentlig AI-bruk – hvilke data kan gis til hvilket verktøy, hvilke retningslinjer som gjelder, hvem som er ansvarlig, hvordan en organisasjon administrerer AI trygt. Denne enheten er taket plassert over de ti foregående enhetene.

Grunnleggende prinsipper for KVKK som berører offentlig AI

KVKK angir flere grunnleggende prinsipper, som hver direkte begrenser bruken av AI:

• Overholdelse av lov og overholdelse av formål: Personopplysninger behandles kun for et spesifikt, legitimt formål. Data som samles inn for ett formål (for eksempel å søke om hjelp) kan ikke brukes til et annet formål (for eksempel opplæring av en modell) uten tillatelse.
• Dataminimering: Det behandles ikke mer data enn nødvendig for formålet. Hvis det ikke kreves navn for en kategorianalyse, oppgis det ikke noe navn.
• Sikkerhet: Data er beskyttet mot uautorisert tilgang. Å lime inn borgerdata i et offentlig AI-verktøy tar disse dataene utenfor organisasjonen – det er et brudd på sikkerhetspolitikken.
• Lagringsperiode: Data slettes når formålet opphører; Den holdes ikke på ubestemt tid.
• Informasjon og rettigheter: Innbyggere har rett til å vite hvordan deres data behandles, korrigere, slette og protestere mot automatiserte avgjørelser.

Oppmerksomhet: Å laste opp en borgers data til et offentlig AI-verktøy som institusjonen ikke har godkjent, hvor dataene er lagret og hvem som har tilgang til dem er uklart, er i de fleste tilfeller et brudd på KVKK og åpner institusjonen for sanksjoner. Reglene er aldri bøyd "for å gjøre jobben enklere".

Hvilke data, til hvilket kjøretøy? Tre-sone modell

Som en tommelfingerregel deler du dataene inn i tre regioner:

1. Rød (kjører aldri inn i offentlig kjøretøy): ID-nummer, helse, kriminell, religion, etnisitet, biometri, full adresse, alt som identifiserer personen. Disse behandles kun i et avtalt/in-house og KVKK-kompatibelt miljø godkjent av institusjonen.
2. Gul (forsiktig, ved maskering): Data som indirekte kan knyttes til personen. Anonymiser/aggreger først, bearbeid deretter.
3. Grønn (gratis): Upersonlig, offentlig, generell informasjon (lovtekst, offentlig statistikk, generell prosedyre). Du kan enkelt behandle disse med AI.

Tips: Før du gir en tekst til AI, gjør 5-sekunders testen: "Er det noe i dette innholdet som kan identifisere en person?" Hvis svaret er "ja/kanskje", masker deg eller kjør et godkjent kjøretøy. Hvis du er i tvil, vurder rødt.

Corporate governance: fra person til system

Ansvarlig offentlig AI kan ikke overlates til individuelle embetsmenns gode vilje; Det kreves et institusjonelt rammeverk:

• Policy: Institusjonen må ha en AI-brukspolicy: hvilke verktøy er godkjent, hvilke data som kan legges inn, hvem er ansvarlig.
• Godkjent verktøyliste: Personalet skal bruke verktøy som institusjonen har evaluert og godkjent, ikke tilfeldig.
• Opplæring: Personalet må kjenne verifikasjonsdisiplinen og dataregionene (som denne modulen).
• Registrering og revisjon: Et revisjonsspor av beslutninger laget med AI bør føres.
• Ansvarlighet: Hver AI-drevet utgang må ha en menneskelig eier og godkjenning. Ansvaret ligger hos institusjonen og tjenestemannen, ikke kjøretøyet.
• Menneskesentrert prinsipp: Ingen endelig rettighetsskapende/begrensende beslutning tas uten menneskelig samtykke.

tre minisaker

Tilfelle 1 — Rød datalekkasje forhindret. En medarbeider var i ferd med å laste opp et sammendrag av en liste over helsefordeler for 1200 personer til et offentlig verktøy. Takket være byråets godkjente kjøretøypolicy og «røde data»-opplæring stoppet det opp; Dataene ble behandlet i et internt godkjent miljø og med identitetsfelt maskert. Et mulig KVKK-brudd og tap av tillit for titusenvis av mennesker ble forhindret.

Sak 2 – Misbruk. En enhet ønsket å bruke data som ble samlet inn for å nå ut til en kommunikasjonsplan før valget. Databeskyttelsesansvarlig husket prinsippet om overholdelse av formålet: dette var en bruk av dataene utenfor formålet de ble samlet inn for og var ulovlig. Forespørselen ble avslått.

Sak 3 – Governance gap lukket. I en kommune brukte forskjellige enheter forskjellige AI-verktøy uten kontroll; Ingen visste hvilke data som gikk hvor. Byrået introduserte en AI-brukspolicy, godkjent kjøretøyliste og revisjonsspor; I løpet av 3 måneder sank uregistrert kjøretøybruk med 90 % og en databeholdning ble opprettet.

Fire kopierbare maler

1) Dataområdeklassifisering (før eksport til kjøretøyet):

Din rolle: Databeskyttelsesrådgiver. Klassifiser følgende innhold før du gir det til en AI-agent: RØD (identifiserer person, går aldri inn i offentlig kjøretøy), GUL (indirekte tilkoblingsbar, maske), GRØNN (ikke-personlig, gratis). Merk de røde/gule områdene en etter en og fortell dem hvordan de skal maskere. Regner den mistenkte som rød. INNHOLD: [tekst]

2) Maskering/anonymisering:

Anonymiser alle personopplysninger før du behandler følgende tekst: navn -> [PERSON-1], ID-nummer -> [IDENTITET], adresse ->[ADRESSE], helse/straff -> [SENSITIV]. Tagg samme person. Eksporter anonymisert tekst separat. Skriv aldri faktiske data til utgangen. TEKST: [tekst]

3) KVKK-samsvarssjekkliste (for bruk av en AI):

Din rolle: KVKK compliance spesialist. Lag en samsvarssjekkliste for følgende AI-bruk: (1) er formålet med behandlingen legitim og spesifikk, (2) er den koblet til formålet (skifter den til et annet formål), (3) er den optimalisert, (4) er verktøyet sikkert/godkjent, (5) er oppbevaringsperioden sikker, (6) er borgerrettigheter (innsigelse, sletting) beskyttet. Merk de manglende gjenstandene med et rødt flagg. BRUK: [oppskrift]

4) Bedriftens AI-policyramme:

Din rolle: ekspert på offentlig IT-styring. Lag et AI-brukspolicyrammeverk for organisasjonen vår: omfang, godkjente verktøy, datasoner (rød/gul/grønn), forbudt bruk, menneskelige godkjenningspunkter, revisjonsspor, ansvar, opplæring og bruddvarsel. Fyll ut hver overskrift med 1-2 setninger. INSTITUTION: [enhet og typiske jobber]

Svak forespørsel / Sterk forespørsel

Svak: "Oppsummer denne referanselisten."

Sterk: "Din rolle er databeskyttelseskonsulent. Først klassifiser denne listen etter dataregion (rød/gul/grønn) og merk alle feltene som identifiserer personen. Masker de røde/gule feltene med [PERSON]/[IDENTITET]/[SENSITIV], hold samme person med samme etikett. Lag bare et kategorisammendrag med anonymiserte, aggregerte data, ikke skriv reell oppmerksomhet i denne prosessen ved slutten av prosessen. av KVKK (formål, lagring, kjøretøysikkerhet) legg til."

Forskjellen: den kraftige ledeteksten klassifiserer, maskerer, minimerer og integrerer KVKK-prinsipper før dataene behandles.

Dataregioner og regel

Region

eksempel

regel

rødt

TR ID-nummer, helse, straff, full adresse

Gå aldri inn i et offentlig kjøretøy; godkjent miljø

gul

Alder+nabolag+yrke, indirekte identifikator

Maske/aggregat, deretter behandle

grønn

Lovgivning, offentlig statistikk, generell prosedyre

frilansarbeid

Vanlige feil

• Eksporterer røde data til offentlig verktøy. Det alvorligste bruddet; ID/helse/straffdata forlater ikke det godkjente miljøet.
• Misbruke. Det er i strid med loven å bruke data som er samlet inn til ett formål til et annet formål (modellopplæring, kommunikasjon) uten tillatelse.
• Behandler for mye data. Ikke flytt unødvendige felt (navn, adresse) for formålet; Minimer.
• Kjører uten godkjenning. Det er uklart hvor dataene går i kjøretøy som institusjonen ikke har evaluert.
• Fastsetter ikke oppbevaringsperioden. Data bør slettes når formålet er fullført; bør ikke oppbevares på ubestemt tid.
• Legger ansvaret på kjøretøyet. Utgangen eies og godkjennes av mennesket; "AI gjorde det" er ikke et forsvar.

Oppsummert

Rammeverket for ansvarlig offentlig AI er beskyttelse av personopplysninger og selskapsstyring. KVKK-prinsipper – målrettethet, minimering, sikkerhet, oppbevaringsgrense, borgernes rettigheter – begrenser all bruk av AI. Separer data i røde/gule/grønne soner, gi aldri rødt til et offentlig verktøy, masker personlige data, bruk kun godkjente verktøy og koble en menneskelig eier til hver beslutning. Retningslinjer på institusjonsnivå, godkjent kjøretøyliste, opplærings- og inspeksjonsjournal; Disiplinen verifisering på personnivå. Dermed tjener AI publikum ved å beskytte rettighetene til innbyggerne.

Søknadsoppgave

Velg en faktisk AI-bruk du har gjort (eller vurderer å gjøre) i enheten din. Skill innholdet du skal behandle til rødt/gult/grønt med malen "Dataregionsklassifisering". Bruk malen "KVKK-samsvarssjekkliste" og finn minst ett manglende/risikofylt punkt. Til slutt, lag utkast til en kort policy som passer for enheten din med "Corporate AI policy-skjelettet".

sjekkliste

• [ ] Jeg delte innholdet inn i rød/gul/grønn sone; Jeg regnet den mistenkte som rød.
• [ ] Jeg ga ikke de røde dataene til det offentlige verktøyet; Jeg brukte godkjente medier.
• [ ] Jeg maskerte personlige data og fjernet unødvendige felt (minimering).
• [ ] Jeg har sjekket formålet med behandling, lagringstid og kjøretøysikkerhet.
• [ ] Jeg har observert innbyggernes rettigheter til innsigelse/sletting.
• [ ] Jeg knyttet en menneskelig eier og godkjenning til hver utgang; Jeg holdt et revisjonsspor.

Moduleksamen

1. Som offentlig tjenestemann, hva er det best prioriterte spørsmålet du bør stille før du overlater en jobb til AI?

• A) Hva taper innbyggeren hvis denne utgangen er feil? ✔
• B) Hvor raskt kan AI gjøre denne jobben?
• C) Er dette AI-verktøyet gratis?
• D) Vil en annen enhet også bruke denne utgangen?

Forklaring: Beslutningen om overføring tas basert på skaden som borgeren vil lide dersom utgangen er feil. Skaden overføres enkelt hvis det bare er noen få minutter med omskriving; Hvis det er urettferdig avvisning, feil straff eller tap av rettigheter, produserer AI kun et utkast, avgjørelsen og verifiseringen tilhører tjenestemannen.

2. Hva kalles det når AI presenterer en ikke-eksisterende lov eller en oppdiktet rettsavgjørelse som reell?

• A) Caching
• B) Triage
• C) Anonymisering
• D) Hallusinasjoner ✔

Forklaring: Hallusinasjon er når AI trygt produserer informasjon som faktisk ikke eksisterer (fabrikert stoff, opphevet regulering, feil nummer). På lovgivningsområdet er dette en av de farligste risikoene, da det kan føre til tap av rettigheter og kansellering av den administrative handlingen.

3. En tjenestemann er i ferd med å avslå søknaden basert på en regelartikkel påpekt av YZ. Hva er den mest korrekte oppførselen?

• A) AI skriver direkte avslaget fordi det virker selvsikkert
• B) Still det samme spørsmålet til et annet AI-kjøretøy og få bekreftelse
• C) Bekrefter artikkelen fra gjeldende konsoliderte tekst på Çözüm.gov.tr ✔
• D) Spør muntlig om avgjørelsen til en overordnet

Beskrivelse: AI-ens treningsdata fryses på en bestemt dato; Artikkelen den viser kan ha blitt opphevet eller endret. Bekreftelse av at artikkelen er i kraft og dens endelige versjon fra gjeldende konsoliderte tekst på Çözüm.gov.tr ​​før avgjørelsen forhindrer en urettferdig avvisning og mulig annullering.

4. Hvorfor er det kvalitetssikring for en innbygger chatbot å kunne si 'Jeg vet ikke, jeg overfører deg til en tjenestemann'?

• A) Forbedrer statistikken ved å øke omsetningshastigheten
• B) Forhindrer feilinformasjon ved å delegere informasjon til mennesker når de er usikre ✔
• C) Forlenger ringetiden ved å distrahere innbyggerne
• D) Lar chatboten motta færre spørsmål

Forklaring: I offentligheten er et sikkert feil svar mye dyrere enn et ærlig svar; Det fører til tap av rettigheter og mistillit til institusjonen. Chatbotens evne til å overlate til mennesket når det er usikkert, er en sikkerhetsmekanisme som forhindrer hallusinerende feilinformasjon.

5. Hva er den viktigste risikoen å vurdere når man "forenkler" offisiell korrespondanse med AI?

• A) Teksten er for kort
• B) Endre font
• C) Slippe en betingelse eller unntak ✔
• D) Feil stavemåte av adressatens navn

Forklaring: Stilistisk tilpasning skal ikke endre innholdet. Når du forenkler, slipper AI noen ganger et unntak, en betingelse eller varighet. Derfor bør den forenklede teksten alltid sammenlignes med det opprinnelige vedtaket eller lovverket.

6. Navn og T.R. i et datasett. Hva kaller man det når kombinasjonen av 'nabolag + fødselsår + type funksjonshemming' kan avsløre en person selv om ID-nummeret er slettet?

• A) Omdefinering ✔
• B) Dataminimering
• C) Dekningsgrad
• D) Konsolidering

Forklaring: Re-identifikasjon er å finne en person gjennom en kombinasjon av indirekte identifikatorer fra data som antas å være anonyme. Hvis en sjelden kategori blir funnet hos en enkelt person, vil det ikke være nok å slette navnet; Ytterligere tiltak er påkrevd, for eksempel å konvertere alder til område og kombinere sjeldne kategorier.

7. Hva kalles det når en inspeksjonsmodell markerer et nabolag som har vært kraftig inspisert tidligere som "risikofylt" og sender flere inspeksjoner dit, noe som presser modellen til å se det nabolaget som mer risikabelt?

• A) Dataminimering
• B) Hallusinasjoner
• C) Anonymisering
• D) Tilbakemeldingssløyfe ✔

Forklaring: Tilbakemeldingssløyfen er når modellens utdata påvirker påfølgende treningsdata, og forsterker eksisterende skjevhet. Forskjellen øker ikke i den faktiske risikoen, men i hvor man ser. Måten å beskytte deg selv på er å overvåke virkningen, ikke resultatet, og å kontrollere den gruppebaserte fordelingen av beslutninger.

8. Etter at en fordelssøknad ble flyttet helt på nettet, falt antallet søknader med 30 prosent den første måneden. Hva er den mest sannsynlige forklaringen på dette?

• A) Innbyggernes reelle behov har gått ned
• B) Innbyggere uten internett og digital kompetanse ble utelatt ✔
• C) Rentene gikk ned fordi støttebeløpet gikk ned
• D) Systemet godkjente automatisk alle søknader

Beskrivelse: Det digitale skillet er manglende evne til innbyggere uten internettilgang eller digital kompetanse til å få tilgang til tjenester. Antallet går ned fordi den mest trengende gruppen, eldre og innbyggere uten internett, ikke kan søke. Løsningen er å forlate alternative kanaler, som for eksempel assisterte henvisningspunkter.

9. Mens den faktiske suksessraten i en årsrapport er 63 prosent, sier sammendraget produsert av YZ at "de aller fleste søknader var positive." Hva er riktig oppførsel?

• A) Uttrykket blir stående som det er fordi det er positivt.
• B) Forholdet slettes og kun det kvalitative uttrykket brukes
• C) Uttrykket erstattes med det reelle tallet 63 prosent ✔
• D) Sammendraget er helt fjernet fra rapporten

Forklaring: Overdreven positiv oppfatning i den offentlige rapporten setter institusjonen i en vanskelig situasjon ved påfølgende tilsyn. Hver påstand i sammendraget skal sammenlignes med rådata og det faktiske antallet (63 prosent) skal skrives; AI-sammendrag er ikke inkludert i rapporten uten å være revidert.

10. Når du tar databaserte beslutninger i offentlig sektor, hvis 'antall filer som lukkes månedlig' øker mens 'oppløsningsraten ved første kontakt' synker, hva lærer dette oss først?

• A) Å velge riktig indikator er viktigere enn å multiplisere tallet ✔
• B) Antall personell bør økes
• C) Grafer skal fargelegges
• D) Chatboten bør svare på flere spørsmål

Forklaring: Feil indikator fører til feil beslutning selv med korrekte data. Filer kan raskt lukkes og åpnes igjen. Å velge riktig indikator og lese indikatorene sammen forhindrer skryt basert på et misvisende tall alene.

11. I et diagram starter den vertikale aksen på 40 i stedet for null og en økning på 2 prosent ser ut som et dramatisk hopp er et eksempel på hvilket problem?

• A) Hallusinasjoner
• B) Dataminimering
• C) Digitalt skille
• D) Villedende visualisering ✔

Forklaring: Villedende visualisering er å forvrenge oppfatningen gjennom teknikker som akse som ikke starter fra null, uforholdsmessig skala eller valgt tidsperiode. Det er en del av ærlig visuell styring i offentlige data; Den virkelige tabellen skal vises ved å trekke aksen til null.

12. Hvorfor er det uakseptabelt å si "AI skrev det" som en begrunnelse for en administrativ handling?

• A) Fordi AI-verktøy er for dyre
• B) Administrativ handling må være begrunnet og ansvaret ligger hos offiseren ✔
• C) Fordi AI ikke kan tyrkisk
• D) Fordi innbyggerne ikke liker AI

Forklaring: Administrativ handling må være begrunnet og reviderbar; Ansvaret ligger ikke hos AI, men hos den offentlige tjenestemannen og institusjonen som bruker resultatet uten å verifisere det. 'AI'en sa det' er ikke en begrunnelse og støtter ikke den administrative handlingen.

13. Hva er de fire prinsippene som skiller bruken av AI i offentlig sektor fra privat sektor, og som bør følges i tillegg?

• A) Hastighet, billighet, lønnsomhet, konkurranse
• B) Automatisering, skalering, markedsføring, merkevare
• C) Likhet, åpenhet, ansvarlighet, beskyttelse av personopplysninger ✔
• D) Personvern, konfidensialitet, personvern og konfidensialitet

Forklaring: I verk der offentlig makt brukes, er AI innrammet av prinsippene om likhet (lik behandling av en lignende situasjon), åpenhet (forklarlighet av beslutningens begrunnelse), ansvarlighet (ansvarlig for hver transaksjon og revisjonsspor) og beskyttelse av personopplysninger (KVKK).

14. Hva skal et automatisert forhåndskontrollsystem gjøre når det er usikkert på en sjelden dokumenttype?

• A) Å avslå søknaden stille
• B) Videresende søknaden til menneskelig vurdering ✔
• C) Godkjenne søknaden automatisk
• D) Slett applikasjonen

Forklaring: God automatisering leder modellen til betjenten når den er usikker i stedet for å avvise den i stillhet. Ellers vil legitime søknader falle i en blindsone, og utsatthet vil oppstå. Å holde folk ved beslutningspunktet er grunnlaget for unntakshåndtering.