KVKK, Integritet och ansvarsfull offentlig förvaltning av artificiell intelligens

Vinster:

• Den tillämpar KVKK-principer och dataminimering vid behandling av medborgares personuppgifter i AI-verktyg.
• Den upprättar ett styrningsramverk för en organisation som inkluderar en AI-användningspolicy, revisionsspår och ansvarskedja.
• Det argumenterar holistiskt att ansvarsfull offentlig AI bygger på mänsklig tillsyn, transparens och ansvarsskyldighet.

Under den här modulen såg vi hur AI är en kraftfull accelerator i offentligheten: svar på medborgarfrågor, framställningar och korrespondens, lagstiftningsforskning, policyanalys, rapportering, datadrivet beslutsfattande, e-förvaltning och transparens. Nu kommer vi till ramverket som håller ihop det hela: skydd av personuppgifter och ansvarsfull styrning. Offentligheten, till sin natur, behandlar medborgarens mest känsliga uppgifter: identitet, adress, inkomst, hälsa, brottsregister, familjesituation. Behandling av dessa uppgifter med AI-verktyg måste helt överensstämma med ramverket för KVKK (Personal Data Protection Law No. 6698; lagen som reglerar laglig, begränsad och säker behandling av personuppgifter). I den här sista enheten kommer vi att fastställa ryggraden för integritet och styrning av offentlig AI-användning – vilken data kan ges till vilket verktyg, vilka policyer som gäller, vem som är ansvarig, hur en organisation hanterar AI säkert. Denna enhet är taket placerat över de tidigare tio enheterna.

Grundläggande principer för KVKK rörande offentlig AI

KVKK anger flera grundläggande principer, som var och en direkt begränsar användningen av AI:

• Efterlevnad av lag och efterlevnad av ändamål: Personuppgifter behandlas endast för ett specifikt, legitimt syfte. Data som samlas in för ett ändamål (till exempel att ansöka om hjälp) kan inte användas för ett annat ändamål (till exempel att utbilda en modell) utan tillstånd.
• Dataminimering: Inga fler uppgifter behandlas än vad som är nödvändigt för ändamålet. Om ett namn inte krävs för en kategorianalys ges inget namn.
• Säkerhet: Data skyddas mot obehörig åtkomst. Att klistra in medborgardata i ett offentligt AI-verktyg tar dessa data utanför organisationen – det är ett brott mot säkerhetspolicyn.
• Lagringsperiod: Data raderas när syftet upphör; Den förvaras inte på obestämd tid.
• Information och rättigheter: Medborgare har rätt att få veta hur deras uppgifter behandlas, korrigera, radera och invända mot automatiserade beslut.

Observera: Att ladda upp en medborgares data till ett offentligt AI-verktyg som institutionen inte har godkänt, var uppgifterna lagras och vem som har tillgång till dem är oklart, är i de flesta fall ett brott mot KVKK och öppnar institutionen för sanktioner. Reglerna är aldrig böjda "för att göra jobbet lättare".

Vilken data, till vilket fordon? Trezonsmodell

Som en tumregel, dela in data i tre regioner:

1. Röd (går aldrig in i det allmänna fordonet): ID-nummer, hälsa, brottsling, religion, etnicitet, biometri, fullständig adress, allt som identifierar personen. Dessa behandlas endast i en kontrakterad/in-house och KVKK-kompatibel miljö som godkänts av institutionen.
2. Gul (försiktigt, genom maskering): Data som indirekt kan kopplas till personen. Anonymisera/aggregera först, bearbeta sedan.
3. Grön (gratis): Opersonlig, offentlig, allmän information (lagtext, offentlig statistik, allmänt förfarande). Du kan enkelt bearbeta dessa med AI.

Tips: Innan du ger en text till AI:n, gör det femsekunders testet: "Finns det något i det här innehållet som kan identifiera en person?" Om svaret är "ja/kanske", maskera eller kör ett godkänt fordon. Om du är osäker, överväg rött.

Bolagsstyrning: från person till system

Ansvarsfull offentlig AI kan inte överlåtas till enskilda tjänstemäns goda vilja; En institutionell ram krävs:

• Policy: Institutionen måste ha en AI-användningspolicy: vilka verktyg är godkända, vilken data kan matas in, vem är ansvarig.
• Lista över godkända verktyg: Personal ska använda verktyg som institutionen har utvärderat och godkänt, inte slumpmässigt.
• Utbildning: Personalen måste känna till verifieringsdisciplinen och dataregionerna (som den här modulen).
• Registrering och revision: En revisionsspår av beslut som tagits med AI bör föras.
• Ansvar: Varje AI-driven utgång måste ha en mänsklig ägare och godkännande. Ansvaret ligger på institutionen och tjänstemannen, inte fordonet.
• Människocentrerad princip: Inget slutgiltigt rättighetsskapande/begränsande beslut fattas utan mänskligt samtycke.

tre minifodral

Fall 1 — Rött dataläckage förhindras. En anställd var på väg att ladda upp en sammanfattning av en lista över hälsofördelar för 1 200 personer till ett offentligt verktyg. Tack vare myndighetens godkända fordonspolicy och utbildning i "röda data" tog det stopp; Uppgifterna behandlades i en intern godkänd miljö och med maskerade identitetsfält. En möjlig KVKK-kränkning och förlust av förtroende för tiotusentals människor förhindrades.

Fall 2 — Missbruk. En enhet ville använda data som samlats in för att nå ut till en kommunikationsplan före valet. Dataskyddsombudet påminde om principen om efterlevnad av syftet: detta var en användning av uppgifterna utanför det syfte för vilket de samlades in och var olaglig. Begäran avslogs.

Fall 3 – Klyftan i förvaltningen sluten. I en kommun använde olika enheter olika AI-verktyg utan kontroll; Ingen visste vilken data som gick vart. Byrån införde en AI-användningspolicy, godkänd fordonslista och revisionsspår; Inom 3 månader minskade den oregistrerade fordonsanvändningen med 90 % och en datainventering skapades.

Fyra kopierbara mallar

1) Dataregionsklassificering (innan du exporterar till fordonet):

Din roll: dataskyddsrådgivare. Klassificera följande innehåll innan du ger det till en AI-agent: RÖTT (identifierar person, går aldrig in i ett allmänt fordon), GUL (indirekt anslutbar, mask), GRÖN (icke-personlig, gratis). Markera de röda/gula områdena en efter en och berätta hur de ska maskera. Räkna den misstänkte som röd. INNEHÅLL: [text]

2) Maskering/anonymisering:

Anonymisera alla personuppgifter innan du behandlar följande text: namn -> [PERSON-1], ID-nummer -> [IDENTITET], adress ->[ADRESS], hälsa/straff -> [KÄNSLIG]. Tagga samma person. Exportera anonymiserad text separat. Skriv aldrig faktiska data till utgången. TEXT: [text]

3) KVKK-efterlevnadschecklista (för användning av en AI):

Din roll: KVKK-efterlevnadsspecialist. Ta fram en efterlevnadschecklista för följande AI-användning: (1) är syftet med behandlingen legitim och specifik, (2) är den kopplad till syftet (förskjuts den till ett annat ändamål), (3) är den optimerad, (4) är verktyget säkert/godkänt, (5) är lagringsperioden säker, (6) är medborgarrättigheter (invändning, radering) skyddade. Markera de saknade föremålen med en röd flagga. ANVÄNDNING: [recept]

4) Företags AI policyram:

Din roll: expert på offentlig IT-styrning. Ta fram en AI-användningspolicy för vår organisation: omfattning, godkända verktyg, datazoner (röd/gul/grön), förbjuden användning, mänskliga godkännandepunkter, revisionsspår, ansvar, utbildning och överträdelsemeddelanden. Fyll i varje rubrik med 1-2 meningar. INSTITUTION: [enhet och typiska jobb]

Svag prompt / Stark prompt

Svag: "Sammanfatta den här listan med referenser."

Stark: "Din roll är dataskyddskonsult. Först, klassificera den här listan efter dataregion (röd/gul/grön) och markera alla fält som identifierar personen. Maskera de röda/gula fälten med [PERSON]/[IDENTITET]/[KÄNSLIG], håll samma person med samma etikett. Gör bara en kategorisammanfattning med anonymiserad, aggregerad data, för att inte skriva riktiga personliga uppgifter i slutet av processen. av KVKK (ändamål, förvaring, fordonssäkerhet) lägg till."

Skillnaden: den kraftfulla prompten klassificerar, maskerar, minimerar och integrerar KVKK-principerna innan data bearbetas.

Dataregioner och regel

Region

exempel

regel

rött

TR ID-nummer, hälsa, straffavgift, fullständig adress

Gå aldrig in i ett allmänt fordon; godkänd miljö

gul

Ålder+kvarter+yrke, indirekt identifierare

Maskera/aggregat, bearbeta sedan

grönt

Lagstiftning, offentlig statistik, allmänt förfarande

frilansarbete

Vanliga misstag

• Exporterar röd data till offentligt verktyg. Den allvarligaste kränkningen; ID-/hälso-/påföljdsdata lämnar inte den godkända miljön.
• Missbruka. Det är olagligt att använda data som samlats in för ett ändamål för ett annat ändamål (modellutbildning, kommunikation) utan tillstånd.
• Bearbetar för mycket data. Flytta inte onödiga fält (namn, adress) för ändamålet; Minimera.
• Körning utan godkännande. Det är oklart var uppgifterna tar vägen i fordon som institutionen inte har utvärderat.
• Fastställer inte lagringstiden. Data bör raderas när syftet är fullbordat; bör inte behållas på obestämd tid.
• Att lägga ansvaret på fordonet. Resultatet ägs och godkänns av människan; "AI gjorde det" är inget försvar.

Sammanfattningsvis

Ramverket för ansvarsfull offentlig AI är skydd av personuppgifter och bolagsstyrning. KVKK-principerna — målmedvetenhet, minimering, säkerhet, retentionsgräns, medborgarnas rättigheter — begränsar all användning av AI. Separera data i röda/gula/gröna zoner, ge aldrig rött till ett offentligt verktyg, maskera personlig data, använd endast godkända verktyg och koppla en mänsklig ägare till varje beslut. Policy på institutionsnivå, godkänd fordonslista, utbildnings- och inspektionsregister; Disciplinen verifiering på personnivå. Således tjänar AI allmänheten genom att skydda medborgarnas rättigheter.

Applikationsuppgift

Välj en faktisk AI-användning som du har gjort (eller funderar på att göra) i din enhet. Separera innehållet du ska bearbeta till rött/gult/grönt med mallen "Dataregionsklassificering". Använd mallen "KVKK-efterlevnadschecklista" och hitta minst en punkt som saknas/risk. Slutligen, utarbeta en kort policy som passar din enhet med "Corporate AI policy skeleton".

checklista

• [ ] Jag delade in innehållet i röd/gul/grön zon; Jag räknade den misstänkte som röd.
• [ ] Jag lämnade inte de röda uppgifterna till det offentliga verktyget; Jag använde godkänd media.
• [ ] Jag maskerade personuppgifter och tog bort onödiga fält (minimering).
• [ ] Jag har kontrollerat syftet med behandlingen, lagringstid och fordonssäkerhet.
• [ ] Jag har iakttagit medborgarnas rätt till invändning/radering.
• [ ] Jag bifogade en mänsklig ägare och godkännande till varje utgång; Jag höll ett revisionsspår.

Modulexamen

1. Som offentlig tjänsteman, vilken är den bästa prioriterade frågan du bör ställa innan du lämnar över ett jobb till AI?

• A) Vad förlorar medborgaren om denna utgång är fel? ✔
• B) Hur snabbt kan AI göra det här jobbet?
• C) Är detta AI-verktyg gratis?
• D) Kommer en annan enhet också att använda denna utgång?

Förklaring: Beslutet om överlåtelse fattas utifrån den skada som medborgaren kommer att drabbas av om resultatet är felaktigt. Skadan överförs enkelt om det bara är några minuters omskrivning; Om det är orättvist avslag, fel straff eller förlust av rättigheter, producerar AI bara ett utkast, beslutet och verifieringen tillhör tjänstemannen.

2. Vad kallas det när AI presenterar en icke-existerande lag eller ett påhittat domstolsbeslut som verkligt?

• A) Cachning
• B) Triage
• C) Anonymisering
• D) Hallucinationer ✔

Förklaring: Hallucination är när AI med säkerhet producerar information som faktiskt inte finns (tillverkat ämne, upphävd förordning, fel nummer). På lagstiftningsområdet är detta en av de farligaste riskerna, eftersom det kan leda till förlust av rättigheter och upphävande av den administrativa åtgärden.

3. En tjänsteman är på väg att avslå ansökan baserat på en förordningsartikel som påpekats av YZ. Vilket är det mest korrekta beteendet?

• A) AI:n skriver direkt avslaget eftersom det verkar självsäkert
• B) Ställ samma fråga till ett annat AI-fordon och få bekräftelse
• C) Bekräftar artikeln från den nuvarande konsoliderade texten på Çözüm.gov.tr ✔
• D) Frågar muntligt beslutet till en överordnad

Beskrivning: AI:s träningsdata fryses vid ett visst datum; Artikeln som den visar kan ha upphävts eller ändrats. Att bekräfta att artikeln är i kraft och dess slutgiltiga version från den nuvarande konsoliderade texten på Çözüm.gov.tr ​​före beslutet förhindrar ett orättvist avslag och en eventuell ogiltigförklaring.

4. Varför är det kvalitetssäkring för en medborgarchatbot att kunna säga 'jag vet inte, jag överför dig till en tjänsteman'?

• A) Förbättrar statistiken genom att öka omsättningshastigheten
• B) Förhindrar felaktig information genom att delegera information till människor när de är osäker ✔
• C) Förlänger samtalstiden genom att distrahera medborgarna
• D) Låter chatboten ta emot färre frågor

Förklaring: Offentligt är ett säkert fel svar mycket dyrare än ett ärligt svar; Det leder till förlust av rättigheter och misstro mot institutionen. Chatbotens förmåga att lämna över till människan när den är osäker är en säkerhetsmekanism som förhindrar hallucinatorisk desinformation.

5. Vilken är den viktigaste risken att tänka på när man "förenklar" officiell korrespondens med AI?

• A) Texten är för kort
• B) Ändra teckensnitt
• C) Ta bort ett villkor eller undantag ✔
• D) Felstavning av adressatens namn

Förklaring: Stilistisk anpassning bör inte ändra innehållet. Vid förenkling släpper AI ibland ett undantag, ett villkor eller en varaktighet. Därför bör den förenklade texten alltid jämföras med det ursprungliga beslutet eller lagstiftningen.

6. Namn och T.R. i en datamängd. Vad kallar man det när kombinationen 'grannskap + födelseår + typ av funktionsnedsättning' kan avslöja en person även om id-numret är raderat?

• A) Omdefiniering ✔
• B) Dataminimering
• C) Täckningsgrad
• D) Konsolidering

Förklaring: Omidentifiering är att hitta en person genom en kombination av indirekta identifierare från data som tros vara anonyma. Om en sällsynt kategori hittas hos en enda person räcker det inte att ta bort namnet; Ytterligare åtgärder krävs, som att konvertera ålder till intervall och kombinera sällsynta kategorier.

7. Vad kallas det när en inspektionsmodell markerar en stadsdel som tidigare har varit hårt inspekterad som "risk" och skickar fler inspektioner dit, vilket driver modellen att se det området som mer riskfyllt?

• A) Dataminimering
• B) Hallucinationer
• C) Anonymisering
• D) Återkopplingsslinga ✔

Förklaring: Återkopplingsslingan är när modellens utdata påverkar efterföljande träningsdata, vilket förstärker befintlig bias. Skillnaden ökar inte i den faktiska risken, utan i var man tittar. Sättet att skydda dig själv är att övervaka effekten, inte resultatet, och att kontrollera den gruppbaserade fördelningen av beslut.

8. Efter att en förmånsansökan flyttades helt online sjönk antalet ansökningar med 30 procent under den första månaden. Vad är den mest troliga förklaringen till detta?

• A) Medborgarnas verkliga behov har minskat
• B) Medborgare utan internet och digital kompetens lämnades utanför ✔
• C) Räntan minskade på grund av att stödbeloppet minskade
• D) Systemet godkände automatiskt alla ansökningar

Beskrivning: Den digitala klyftan är oförmågan hos medborgare utan tillgång till internet eller digital kompetens att få tillgång till tjänster. Antalet minskar eftersom den mest behövande gruppen, äldre och medborgare utan internet, inte kan söka. Lösningen är att lämna alternativa kanaler, såsom assisterade remisspunkter.

9. Medan den faktiska framgångsfrekvensen i en årsrapport är 63 procent, säger den sammanfattning som producerats av YZ att "den stora majoriteten av ansökningarna var positiva." Vad är det korrekta beteendet?

• A) Uttrycket lämnas som det är eftersom det är positivt.
• B) Förhållandet raderas och endast det kvalitativa uttrycket används
• C) Uttrycket ersätts med det reella talet 63 procent ✔
• D) Sammanfattningen är helt borttagen från rapporten

Förklaring: Överdriven positiv uppfattning i den offentliga rapporten försätter institutionen i en svår situation vid efterföljande revisioner. Varje påstående i sammanfattningen ska jämföras med rådata och det faktiska antalet (63 procent) ska skrivas; AI-sammanfattningar ingår inte i rapporten utan att ha granskats.

10. När man fattar databaserade beslut inom den offentliga sektorn, om "antalet filer som stängs varje månad" ökar medan "upplösningsgraden vid första kontakten" minskar, vad lär det oss först?

• A) Att välja rätt indikator är viktigare än att multiplicera talet ✔
• B) Antalet personal bör utökas
• C) Grafer ska vara färgade
• D) Chatboten borde svara på fler frågor

Förklaring: Fel indikator leder till fel beslut även med korrekt data. Filer kan snabbt stängas och öppnas igen. Att välja rätt indikator och läsa av indikatorerna tillsammans förhindrar skryt baserat på enbart ett missvisande tal.

11. I ett diagram börjar den vertikala axeln vid 40 istället för noll och en ökning med 2 procent ser ut som ett dramatiskt hopp är ett exempel på vilket problem?

• A) Hallucination
• B) Dataminimering
• C) Digital klyfta
• D) Vilseledande visualisering ✔

Förklaring: Vilseledande visualisering är att förvränga uppfattningen genom tekniker som axel som inte börjar från noll, oproportionerlig skala eller vald tidsperiod. Det är en del av ärlig visuell styrning i offentliga data; Den verkliga tabellen ska visas genom att dra axeln till noll.

12. Varför är det oacceptabelt att säga att "AI skrev det" som motivering för en administrativ åtgärd?

• A) Eftersom AI-verktyg är för dyra
• B) Administrativa åtgärder måste vara motiverade och ansvaret ligger på tjänstemannen ✔
• C) Eftersom AI inte kan turkiska
• D) För att medborgarna inte gillar AI

Förklaring: Administrativa åtgärder måste vara motiverade och revisionsbara; Ansvaret ligger inte hos AI:n, utan hos den offentliga tjänstemannen och institutionen som använder resultatet utan att verifiera det. "AI har sagt det" är inte en motivering och stöder inte de administrativa åtgärderna.

13. Vilka är de fyra principerna som skiljer användningen av AI i den offentliga sektorn från den privata sektorn och som dessutom bör följas?

• A) Snabbhet, billighet, lönsamhet, konkurrens
• B) Automation, skala, marknadsföring, varumärke
• C) Jämlikhet, transparens, ansvarighet, skydd av personuppgifter ✔
• D) Sekretess, konfidentialitet, integritet och konfidentialitet

Förklaring: I verk där offentlig makt används, ramas AI av principerna om jämlikhet (liknande behandling av en liknande situation), transparens (förklaring av beslutets motivering), ansvarighet (ansvarig för varje transaktion och revisionsspår) och skydd av personuppgifter (KVKK).

14. Vad ska ett automatiserat preflight-system göra när det är osäkert på en sällsynt dokumenttyp?

• A) Att avslå ansökan tyst
• B) Vidarebefordra ansökan till mänsklig granskning ✔
• C) Godkänn ansökan automatiskt
• D) Ta bort applikationen

Förklaring: Bra automatisering riktar modellen till officeren när den är osäker snarare än att tyst förkasta den. Annars kommer legitima ansökningar att hamna i en blind fläck och kränkning kommer att inträffa. Att hålla människor vid beslutspunkten är grunden för undantagshantering.