KVKK, Privatliv og ansvarlig offentlig forvaltning af kunstig intelligens

Gevinster:

• Den anvender KVKK-principper og dataminimering ved behandling af borgernes persondata i AI-værktøjer.
• Det etablerer en styringsramme for en organisation, der inkluderer en AI-brugspolitik, revisionsspor og ansvarskæde.
• Det argumenterer holistisk for, at ansvarlig offentlig AI er bygget på menneskeligt tilsyn, gennemsigtighed og ansvarlighed.

Igennem dette modul så vi, hvordan AI er en kraftfuld accelerator i offentligheden: svar på borgerspørgsmål, andragender og korrespondance, lovgivningsforskning, politikanalyse, rapportering, datadrevet beslutningstagning, e-forvaltning og gennemsigtighed. Nu kommer vi til rammerne, der holder det hele sammen: beskyttelse af persondata og ansvarlig forvaltning. Offentligheden behandler i sagens natur de mest følsomme oplysninger om borgeren: identitet, adresse, indkomst, helbred, straffeattest, familiesituation. Behandling af disse data med AI-værktøjer skal fuldt ud overholde rammerne for KVKK (lov om beskyttelse af personoplysninger nr. 6698; loven om lovlig, begrænset og sikker behandling af personoplysninger). I denne sidste enhed vil vi etablere privatlivets fred og styring rygraden i offentlig AI-brug - hvilke data kan gives til hvilket værktøj, hvilke politikker der gælder, hvem der er ansvarlig, hvordan en organisation administrerer AI sikkert. Denne enhed er taget placeret over de foregående ti enheder.

Grundlæggende principper for KVKK, der berører offentlig AI

KVKK opstiller flere grundlæggende principper, som hver især direkte begrænser brugen af AI:

• Overholdelse af lovgivning og overholdelse af formål: Personoplysninger behandles kun til et specifikt, legitimt formål. Data indsamlet til ét formål (f.eks. at søge om hjælp) kan ikke uden tilladelse bruges til et andet formål (f.eks. træning af en model).
• Dataminimering: Der behandles ikke flere data end nødvendigt til formålet. Hvis der ikke kræves et navn til en kategorianalyse, gives der intet navn.
• Sikkerhed: Data er beskyttet mod uautoriseret adgang. Indsættelse af borgerdata i et offentligt AI-værktøj tager disse data uden for organisationen – det er en overtrædelse af sikkerhedspolitikken.
• Opbevaringsperiode: Data slettes, når formålet ophører; Den opbevares ikke i det uendelige.
• Oplysninger og rettigheder: Borgere har ret til at vide, hvordan deres data behandles, rette, slette og gøre indsigelse mod automatiserede beslutninger.

OBS: At uploade en borgers data til et offentligt AI-værktøj, som institutionen ikke har godkendt, hvor dataene opbevares, og hvem der har adgang til dem er uklart, er i de fleste tilfælde en overtrædelse af KVKK og åbner institutionen for sanktioner. Reglerne bøjes aldrig "for at gøre arbejdet lettere".

Hvilke data, til hvilket køretøj? Tre-zone model

Som en tommelfingerregel skal du opdele dataene i tre områder:

1. Rød (kører aldrig ind i offentligt køretøj): ID-nummer, helbred, kriminel, religion, etnicitet, biometri, fuld adresse, alt, hvad der identificerer personen. Disse behandles kun i et af institutionen godkendt/in-house og KVKK-kompatibelt miljø.
2. Gul (omhyggeligt, ved maskering): Data, der indirekte kan knyttes til personen. Anonymiser/saml først, bearbejd derefter.
3. Grøn (gratis): Upersonlig, offentlig, generel information (lovtekst, offentlig statistik, generel procedure). Du kan nemt behandle disse med AI.

Tip: Før du giver en tekst til AI'en, skal du udføre 5-sekunders testen: "Er der noget i dette indhold, der kan identificere en person?" Hvis svaret er "ja/måske", masker op eller kør et godkendt køretøj. Hvis du er i tvivl, så overvej rød.

Corporate governance: fra person til system

Ansvarlig offentlig AI kan ikke overlades til individuelle embedsmænds gode vilje; Der kræves en institutionel ramme:

• Politik: Institutionen skal have en AI-brugspolitik: hvilke værktøjer er godkendt, hvilke data kan indtastes, hvem er ansvarlig.
• Godkendt værktøjsliste: Personale bør bruge værktøjer, som institutionen har evalueret og godkendt, ikke tilfældigt.
• Træning: Personalet skal kende verifikationsdisciplinen og dataregionerne (som dette modul).
• Registrering og revision: Der skal opbevares et revisionsspor over beslutninger, der er produceret med AI.
• Ansvarlighed: Ethvert AI-drevet output skal have en menneskelig ejer og godkendelse. Ansvaret ligger hos institutionen og betjenten, ikke køretøjet.
• Menneskecentreret princip: Ingen endelig rettighedsskabende/begrænsende beslutning træffes uden menneskeligt samtykke.

tre minisager

Tilfælde 1 — Rødt datalæk forhindret. En medarbejder var ved at uploade en oversigt over en liste over sundhedsmæssige fordele for 1.200 mennesker til et offentligt værktøj. Takket være agenturets godkendte køretøjspolitik og "røde data"-uddannelse stoppede det; Dataene blev behandlet i et internt godkendt miljø og med maskerede identitetsfelter. En mulig KVKK-krænkelse og tab af tillid for titusindvis af mennesker blev forhindret.

Sag 2 — Misbrug. En enhed ønskede at bruge data indsamlet til opsøgende kommunikation til en kommunikationsplan før valget. Den databeskyttelsesansvarlige mindede om princippet om overholdelse af formålet: dette var en brug af dataene uden for det formål, hvortil de blev indsamlet, og var ulovlig. Anmodningen blev afvist.

Sag 3 — Governance gap lukket. I én kommune brugte forskellige enheder forskellige AI-værktøjer uden kontrol; Ingen vidste, hvilke data der gik hvorhen. Agenturet indførte en AI-brugspolitik, godkendt køretøjsliste og revisionsspor; Inden for 3 måneder faldt uregistreret køretøjsbrug med 90 %, og der blev oprettet en dataopgørelse.

Fire kopierbare skabeloner

1) Dataregionsklassificering (før eksport til køretøjet):

Din rolle: Databeskyttelsesrådgiver. Klassificer følgende indhold, før du giver det til en AI-agent: RØD (identificerer person, går aldrig ind i offentligt køretøj), GUL (kan indirekte forbindes, maske), GRØN (ikke-personlig, gratis). Marker de røde/gule områder et efter et, og fortæl dem, hvordan de skal maskere. Tæl den mistænkte som rød. INDHOLD: [tekst]

2) Maskering/anonymisering:

Anonymiser alle personlige data, før du behandler følgende tekst: navn -> [PERSON-1], ID-nummer -> [IDENTITET], adresse ->[ADRESSE], helbred/straf -> [SENSITIV]. Tag den samme person. Eksporter anonymiseret tekst separat. Skriv aldrig faktiske data til outputtet. TEKST: [tekst]

3) KVKK-overholdelsestjekliste (til brug af en AI):

Din rolle: KVKK compliance specialist. Lav en overholdelsestjekliste til følgende AI-brug: (1) er formålet med behandlingen legitim og specifik, (2) er den forbundet med formålet (skifter den til et andet formål), (3) er den optimeret, (4) er værktøjet sikkert/godkendt, (5) er opbevaringsperioden sikker, (6) er borgerrettigheder (indsigelse, sletning) beskyttet. Marker de manglende genstande med et rødt flag. BRUG: [opskrift]

4) Virksomhedens AI politikramme:

Din rolle: ekspert i offentlig IT-styring. Producer en AI-brugspolitikramme for vores organisation: omfang, godkendte værktøjer, datazoner (rød/gul/grøn), forbudt brug, menneskelige godkendelsespunkter, revisionsspor, ansvar, træning og overtrædelsesmeddelelse. Udfyld hver overskrift med 1-2 sætninger. INSTITUTION: [enhed og typiske jobs]

Svag prompt / Stærk prompt

Svag: "Opsummer denne liste over referencer."

Stærk: "Din rolle er databeskyttelseskonsulent. Klassificer først denne liste efter dataregion (rød/gul/grøn) og markér alle felter, der identificerer personen. Maskér de røde/gule felter med [PERSON]/[IDENTITET]/[SENSITIV], hold den samme person med samme etiket. Lav kun en kategorioversigt med anonymiserede, aggregerede data, hvor der ikke er behov for, at outputtet i denne proces er reelt. af KVKK (formål, opbevaring, køretøjssikkerhed) tilføje."

Forskellen: den kraftfulde prompt klassificerer, maskerer, minimerer og integrerer KVKK-principperne før behandling af dataene.

Dataregioner og regel

Region

eksempel

regel

rød

TR ID-nummer, helbred, straf, fuld adresse

Gå aldrig ind i et offentligt køretøj; godkendt miljø

gul

Alder+kvarter+erhverv, indirekte identifikator

Mask/aggregat, bearbejd derefter

grøn

Lovgivning, offentlig statistik, generel procedure

freelance arbejde

Almindelige fejl

• Eksport af røde data til offentligt værktøj. Den alvorligste krænkelse; ID-/sundheds-/strafdata forlader ikke det godkendte miljø.
• Misbruge. Det er i strid med loven at bruge data indsamlet til ét formål til et andet formål (modeltræning, kommunikation) uden tilladelse.
• Behandler for mange data. Flyt ikke unødvendige felter (navn, adresse) til formålet; Minimer.
• Kørsel uden godkendelse. Det er uklart, hvor dataene bliver af i køretøjer, som institutionen ikke har vurderet.
• Fastlægger ikke opbevaringsperioden. Data bør slettes, når formålet er fuldført; bør ikke opbevares på ubestemt tid.
• At lægge ansvaret på køretøjet. Outputtet er ejet og godkendt af mennesket; "AI gjorde det" er ikke et forsvar.

Sammenfattende

Rammen for ansvarlig offentlig AI er beskyttelse af persondata og virksomhedsledelse. KVKK-principperne — målrettethed, minimering, sikkerhed, fastholdelsesgrænse, borgernes rettigheder — begrænser enhver brug af kunstig intelligens. Adskil data i røde/gule/grønne zoner, giv aldrig rødt til et offentligt værktøj, masker personlige data, brug kun godkendte værktøjer og tilslut en menneskelig ejer til enhver beslutning. Politik på institutionsniveau, godkendt køretøjsliste, trænings- og inspektionsrekord; Verifikationsdisciplinen på personniveau. Således tjener AI offentligheden ved at beskytte borgernes rettigheder.

Ansøgningsopgave

Vælg en faktisk brug af kunstig intelligens, du har gjort (eller overvejer) i din enhed. Adskil det indhold, du vil behandle, til rødt/gult/grønt med skabelonen "Dataregionsklassifikation". Anvend skabelonen "KVKK compliance checklist" og find mindst ét ​​manglende/risikofyldt punkt. Til sidst skal du udarbejde en kort politik, der passer til din enhed med "Corporate AI policy skeletet".

tjekliste

• [ ] Jeg opdelte indholdet i rød/gul/grøn zone; Jeg regnede den mistænkte som rød.
• [ ] Jeg leverede ikke de røde data til det offentlige værktøj; Jeg brugte godkendte medier.
• [ ] Jeg maskerede personlige data og fjernede unødvendige felter (minimering).
• [ ] Jeg har kontrolleret formålet med behandling, opbevaringsperiode og køretøjssikkerhed.
• [ ] Jeg har iagttaget borgernes ret til indsigelse/sletning.
• [ ] Jeg vedhæftede en menneskelig ejer og godkendelse til hvert output; Jeg holdt et revisionsspor.

Modul eksamen

1. Som offentlig embedsmand, hvad er det bedst prioriterede spørgsmål, du bør stille, før du overdrager et job til AI?

• A) Hvad mister borgeren, hvis dette output er forkert? ✔
• B) Hvor hurtigt kan AI udføre dette job?
• C) Er dette AI-værktøj gratis?
• D) Vil en anden enhed også bruge denne udgang?

Forklaring: Beslutningen om overførsel træffes på baggrund af den skade, borgeren vil lide, hvis outputtet er forkert. Skaden overføres let, hvis det blot er et par minutters omskrivning; Hvis det er uretfærdig afvisning, forkert straf eller tab af rettigheder, producerer AI kun et udkast, afgørelsen og verifikationen tilhører embedsmanden.

2. Hvad hedder det, når AI præsenterer en ikke-eksisterende lov eller en opdigtet retsafgørelse som reel?

• A) Caching
• B) Triage
• C) Anonymisering
• D) Hallucination ✔

Forklaring: Hallucination er, når AI med sikkerhed producerer information, der faktisk ikke eksisterer (fremstillet stof, ophævet regulering, forkert nummer). På lovgivningsområdet er dette en af ​​de farligste risici, da det kan føre til tab af rettigheder og annullering af den administrative handling.

3. En officer er ved at afvise ansøgningen baseret på en forordningsartikel, som YZ har påpeget. Hvilken er den mest korrekte adfærd?

• A) AI'en skriver direkte afvisningen, fordi den virker selvsikker
• B) Stil det samme spørgsmål til et andet AI-køretøj og få bekræftelse
• C) Bekræfter artiklen fra den aktuelle konsoliderede tekst på Çözüm.gov.tr ✔
• D) Spørger mundtligt beslutningen til en overordnet

Beskrivelse: AI'ens træningsdata fryses på en bestemt dato; Artiklen, den viser, kan være blevet ophævet eller ændret. Bekræftelse af, at artiklen er i kraft og dens endelige version fra den nuværende konsoliderede tekst på Çözüm.gov.tr, før afgørelsen, forhindrer en uretfærdig afvisning og mulig annullationssag.

4. Hvorfor er det kvalitetssikring for en borgerchatbot at kunne sige 'Jeg ved det ikke, jeg overfører dig til en embedsmand'?

• A) Forbedrer statistik ved at øge omsætningshastigheden
• B) Forebygger misinformation ved at uddelegere information til mennesker, når de er i tvivl ✔
• C) Forlænger ringetiden ved at distrahere borgerne
• D) Giver chatbotten mulighed for at modtage færre spørgsmål

Forklaring: I offentligheden er et sikkert forkert svar meget dyrere end et ærligt svar; Det fører til tab af rettigheder og mistillid til institutionen. Chatbottens evne til at overdrage til mennesket, når det er usikkert, er en sikkerhedsmekanisme, der forhindrer hallucinatorisk misinformation.

5. Hvad er den vigtigste risiko at overveje, når man "forenkler" officiel korrespondance med AI?

• A) Teksten er for kort
• B) Ændring af skrifttype
• C) Ophævelse af en betingelse eller undtagelse ✔
• D) Forkert stavning af adressatens navn

Forklaring: Stilistisk tilpasning bør ikke ændre indholdet. Ved forenkling dropper AI nogle gange en undtagelse, betingelse eller varighed. Derfor bør den forenklede tekst altid sammenlignes med den oprindelige afgørelse eller lovgivning.

6. Navn og T.R. i et datasæt. Hvad kalder man det, når kombinationen af ​​'naboskab + fødselsår + handicaptype' kan afsløre en person, selvom id-nummeret er slettet?

• A) Omdefinering ✔
• B) Dataminimering
• C) Dækningsgrad
• D) Konsolidering

Forklaring: Genidentifikation er at finde en person gennem en kombination af indirekte identifikatorer fra data, der menes at være anonyme. Hvis en sjælden kategori findes hos en enkelt person, vil det ikke være nok at slette navnet; Yderligere foranstaltninger er påkrævet, såsom at konvertere alder til rækkevidde og kombinere sjældne kategorier.

7. Hvad kaldes det, når en inspektionsmodel markerer et kvarter, der tidligere har været stærkt inspiceret, som 'risikofyldt' og sender flere inspektioner dertil, hvilket skubber modellen til at se kvarteret som mere risikabelt?

• A) Dataminimering
• B) Hallucination
• C) Anonymisering
• D) Feedback loop ✔

Forklaring: Feedback-loopet er, når modellens output påvirker efterfølgende træningsdata, hvilket forstærker eksisterende bias. Forskellen øges ikke i den faktiske risiko, men i hvor man kigger. Måden at beskytte dig selv på er at overvåge virkningen, ikke outputtet, og at kontrollere den gruppebaserede fordeling af beslutninger.

8. Efter at en ansøgning om fordele blev flyttet helt online, faldt antallet af ansøgninger med 30 procent i den første måned. Hvad er den mest sandsynlige forklaring på dette?

• A) Borgernes reelle behov er faldet
• B) Borgere uden internet og digitale færdigheder blev udeladt ✔
• C) Renterne faldt, fordi støttebeløbet faldt
• D) Systemet godkendte automatisk alle ansøgninger

Beskrivelse: Den digitale kløft er den manglende evne for borgere uden internetadgang eller digitale færdigheder til at få adgang til tjenester. Antallet falder, fordi den mest trængende gruppe, ældre og borgere uden internet, ikke kan søge. Løsningen er at forlade alternative kanaler, såsom assisterede henvisningspunkter.

9. Mens den faktiske succesrate i en årsrapport er 63 procent, siger den executive oversigt, der er udarbejdet af YZ, "langt de fleste ansøgninger var positive." Hvad er den korrekte adfærd?

• A) Udtrykket lades som det er, fordi det er positivt.
• B) Forholdet slettes og kun det kvalitative udtryk anvendes
• C) Udtrykket erstattes med det reelle tal 63 procent ✔
• D) Resuméet fjernes fuldstændigt fra rapporten

Forklaring: Overdreven positiv opfattelse i den offentlige rapport sætter institutionen i en vanskelig situation ved efterfølgende revisioner. Hver påstand i resuméet skal sammenlignes med rådata, og det faktiske antal (63 procent) skal skrives; AI-resuméer er ikke inkluderet i rapporten uden at være blevet revideret.

10. Når der træffes databaserede beslutninger i den offentlige sektor, hvis 'antal af filer lukket månedligt' stiger, mens 'opløsningsraten ved første kontakt' falder, hvad lærer det os så først?

• A) At vælge den rigtige indikator er vigtigere end at gange tallet ✔
• B) Antallet af personale bør øges
• C) Grafer skal farvelægges
• D) Chatbotten burde besvare flere spørgsmål

Forklaring: Den forkerte indikator fører til den forkerte beslutning selv med korrekte data. Filer kan hurtigt lukkes og genåbnes. At vælge den rigtige indikator og læse indikatorerne sammen forhindrer pral alene baseret på et vildledende tal.

11. I et diagram starter den lodrette akse ved 40 i stedet for nul, og en stigning på 2 procent ligner et dramatisk spring er et eksempel på hvilket problem?

• A) Hallucination
• B) Dataminimering
• C) Digital kløft
• D) Vildledende visualisering ✔

Forklaring: Vildledende visualisering er at forvrænge opfattelsen gennem teknikker som f.eks. akse, der ikke starter fra nul, uforholdsmæssig skala eller valgt tidsperiode. Det er en del af ærlig visuel styring i offentlige data; Den rigtige tabel skal vises ved at trække aksen til nul.

12. Hvorfor er det uacceptabelt at sige "AI skrev det" som begrundelse for en administrativ handling?

• A) Fordi AI-værktøjer er for dyre
• B) Administrativ handling skal være begrundet, og ansvaret ligger hos betjenten ✔
• C) Fordi AI ikke kan tyrkisk
• D) Fordi borgerne ikke kan lide AI

Forklaring: Administrativ handling skal være begrundet og reviderbar; Ansvaret ligger ikke hos AI, men hos den offentlige embedsmand og institution, der bruger outputtet uden at verificere det. 'AI'en sagde det' er ikke en begrundelse og understøtter ikke den administrative handling.

13. Hvad er de fire principper, der adskiller brugen af ​​kunstig intelligens i den offentlige sektor fra den private sektor, og som yderligere bør overholdes?

• A) Hastighed, billighed, rentabilitet, konkurrence
• B) Automatisering, skalering, marketing, brand
• C) Ligestilling, gennemsigtighed, ansvarlighed, beskyttelse af personoplysninger ✔
• D) Privatliv, fortrolighed, privatliv og fortrolighed

Forklaring: I værker, hvor offentlig magt bruges, er AI indrammet af principperne om lighed (lignende behandling af en lignende situation), gennemsigtighed (forklarlighed af begrundelsen for beslutningen), ansvarlighed (ansvarlig for hver transaktion og revisionsspor) og beskyttelse af personoplysninger (KVKK).

14. Hvad skal et automatiseret preflight-system gøre, når det er usikkert på en sjælden dokumenttype?

• A) At afvise ansøgningen lydløst
• B) Videresendelse af ansøgningen til menneskelig gennemgang ✔
• C) Godkend automatisk ansøgningen
• D) Slet applikationen

Forklaring: God automatisering leder modellen til betjenten, når den er usikker, frem for at afvise den stille. Ellers vil legitime ansøgninger falde i en blind plet, og der vil opstå ofre. At holde folk ved beslutningspunktet er grundlaget for undtagelseshåndtering.