Kvkk, súkromie a zodpovedné verejné riadenie umelej inteligencie

zisky:

• Pri spracovaní osobných údajov občanov v nástrojoch AI uplatňuje princípy KVKK a minimalizáciu údajov.
• Vytvára rámec riadenia pre organizáciu, ktorý zahŕňa politiku používania AI, audit trail a reťazec zodpovednosti.
• Holisticky tvrdí, že zodpovedná verejná AI je postavená na ľudskom dohľade, transparentnosti a zodpovednosti.

Počas tohto modulu sme videli, ako je AI silným akcelerátorom na verejnosti: odpovede na otázky občanov, petície a korešpondencia, legislatívny výskum, analýza politiky, podávanie správ, rozhodovanie na základe údajov, elektronická verejná správa a transparentnosť. Teraz sa dostávame k rámcu, ktorý to všetko drží pohromade: ochrana osobných údajov a zodpovedné riadenie. Verejnosť zo svojej podstaty spracúva najcitlivejšie údaje občana: totožnosť, adresu, príjem, zdravotný stav, register trestov, rodinnú situáciu. Spracovanie týchto údajov nástrojmi AI musí byť plne v súlade s rámcom KVKK (zákon o ochrane osobných údajov č. 6698; zákon upravujúci zákonné, obmedzené a bezpečné spracovanie osobných údajov). V tejto záverečnej časti vytvoríme chrbticu ochrany súkromia a správy verejného používania AI – aké údaje možno poskytnúť ktorému nástroju, aké pravidlá sa uplatňujú, kto je zodpovedný, ako organizácia bezpečne spravuje AI. Táto jednotka je strecha umiestnená nad predchádzajúcimi desiatimi jednotkami.

Základné princípy KVKK dotýkajúce sa verejnej AI

KVKK stanovuje niekoľko základných princípov, z ktorých každý priamo obmedzuje používanie AI:

• Súlad s právnymi predpismi a dodržanie účelu: Osobné údaje sa spracúvajú iba na konkrétny, legitímny účel. Údaje zhromaždené na jeden účel (napríklad žiadosť o pomoc) nemožno bez povolenia použiť na iný účel (napríklad školenie modelky).
• Minimalizácia údajov: Nespracováva sa viac údajov, ako je potrebné na daný účel. Ak sa pre analýzu kategórie nevyžaduje názov, neuvedie sa žiadne meno.
• Bezpečnosť: Údaje sú chránené pred neoprávneným prístupom. Prilepením údajov o občanoch do verejného nástroja AI sa tieto údaje dostanú mimo organizácie – ide o porušenie bezpečnostnej politiky.
• Doba uchovávania: Údaje sa vymažú po skončení účelu; Neuchováva sa donekonečna.
• Informácie a práva: Občania majú právo vedieť, ako sa ich údaje spracúvajú, opravujú, vymazávajú a namietajú proti automatizovanému rozhodovaniu.

Pozor: Nahrávanie údajov občana do verejného nástroja AI, ktorý inštitúcia neschválila, kde sú údaje uložené a kto k nim má prístup, je vo väčšine prípadov porušením KVKK a otvára inštitúciu sankciám. Pravidlá sa nikdy neohýbajú „aby bola práca jednoduchšia“.

Aké údaje, na ktoré vozidlo? Trojzónový model

Spravidla rozdeľte údaje do troch oblastí:

1. Červená (nikdy nevstupuje do verejného vozidla): IČO, zdravotný stav, zločinec, náboženstvo, etnická príslušnosť, biometrické údaje, úplná adresa, čokoľvek, čo identifikuje osobu. Tieto sú spracovávané len v zmluvnom/internom prostredí vyhovujúcom KVKK a schválenom inštitúciou.
2. Žltá (opatrne, maskovaním): Údaje, ktoré môžu byť nepriamo spojené s osobou. Najprv anonymizovať/agregovať, potom spracovať.
3. Zelená (zadarmo): Neosobné, verejné, všeobecné informácie (legislatívny text, verejná štatistika, všeobecný postup). Môžete ich ľahko spracovať pomocou AI.

Tip: Pred odoslaním textu AI vykonajte 5-sekundový test: „Je v tomto obsahu niečo, čo by mohlo identifikovať osobu?“ Ak je odpoveď „áno/možno“, maskujte sa alebo šoférujte schválené vozidlo. Ak máte pochybnosti, zvážte červenú.

Corporate governance: od človeka k systému

Zodpovednú verejnú AI nemožno ponechať na dobrú vôľu jednotlivých štátnych zamestnancov; Vyžaduje sa inštitucionálny rámec:

• Zásady: Inštitúcia musí mať zásady používania AI: ktoré nástroje sú schválené, aké údaje možno zadávať, kto je zodpovedný.
• Zoznam schválených nástrojov: Personál by mal používať nástroje, ktoré inštitúcia vyhodnotila a schválila, nie náhodne.
• Školenie: Zamestnanci musia poznať disciplínu overovania a oblasti údajov (ako tento modul).
• Zaznamenávanie a audit: Mal by sa viesť auditný záznam rozhodnutí vytvorených pomocou AI.
• Zodpovednosť: Každý výstup poháňaný AI musí mať ľudského vlastníka a súhlas. Zodpovednosť nesie inštitúcia a úradník, nie vozidlo.
• Princíp zameraný na človeka: Žiadne konečné rozhodnutie o vytvorení/obmedzení práv sa neprijíma bez ľudského súhlasu.

tri mini prípady

Prípad 1 – Zabránenie úniku červených údajov. Zamestnanec sa chystal nahrať súhrn zoznamu zdravotných výhod pre 1 200 ľudí do verejného nástroja. Vďaka schválenej politike vozidiel a školení „červených údajov“ agentúry to prestalo; Údaje boli spracované vo vnútropodnikovom schválenom prostredí a s maskovanými poliami identity. Zabránilo sa možnému narušeniu KVKK a strate dôvery pre desaťtisíce ľudí.

Prípad 2 – Zneužitie. Jedna jednotka chcela použiť zozbierané údaje na dosah pre predvolebný komunikačný plán. Úradník pre ochranu údajov pripomenul zásadu dodržiavania účelu: išlo o použitie údajov mimo účel, na ktorý boli zhromaždené, a bolo nezákonné. Žiadosť bola zamietnutá.

Prípad 3 – medzera v správe vecí verejných sa uzavrela. V jednej obci rôzne jednotky používali rôzne nástroje AI bez kontroly; Nikto nevedel, ktoré údaje kam idú. Agentúra zaviedla politiku používania AI, zoznam schválených vozidiel a audit trail; V priebehu 3 mesiacov sa používanie neregistrovaných vozidiel znížilo o 90 % a vytvorila sa inventarizácia údajov.

Štyri kopírovateľné šablóny

1) Klasifikácia oblasti údajov (pred exportom do vozidla):

Vaša úloha: poradca pre ochranu údajov. Pred odovzdaním agentovi AI klasifikujte nasledujúci obsah: ČERVENÁ (identifikuje osobu, nikdy nevstupuje do verejného vozidla), ŽLTÁ (nepriamo pripojiteľné, maska), ZELENÁ (neosobná, bezplatná). Označte červené/žlté oblasti jednu po druhej a povedzte im, ako maskovať. Počítajte podozrivého ako červeného. OBSAH: [text]

2) Maskovanie/anonymizácia:

Anonymizujte všetky osobné údaje pred spracovaním nasledovného textu: meno -> [OSOBA-1], IČO -> [IDENTITA], adresa ->[ADRESA], zdravotný stav/trest -> [CITLIVÉ]. Označte tú istú osobu. Exportujte anonymizovaný text samostatne. Nikdy nezapisujte skutočné údaje na výstup. TEXT: [text]

3) Kontrolný zoznam zhody KVKK (na použitie AI):

Vaša úloha: Špecialista na dodržiavanie predpisov KVKK. Vytvorte kontrolný zoznam súladu pre nasledujúce použitie AI: (1) je účel spracovania legitímny a špecifický, (2) je spojený s účelom (prechádza na iný účel), (3) je optimalizovaný, (4) je nástroj zabezpečený/schválený, (5) je určitá doba uchovávania, (6) sú chránené práva občanov (námietka, vymazanie). Chýbajúce položky označte červenou vlajkou. POUŽITIE: [recept]

4) Rámec podnikovej politiky AI:

Vaša úloha: verejný odborník na správu IT. Vytvorte rámec politiky používania AI pre našu organizáciu: rozsah, schválené nástroje, dátové zóny (červená/žltá/zelená), zakázané použitia, body schvaľovania ľuďmi, audit trail, zodpovednosti, školenia a oznámenia o porušení. Do každého nadpisu vyplňte 1-2 vety. INŠTITÚCIA: [jednotkové a typické úlohy]

Slabá výzva / Silná výzva

Slabé: "Zhrňte tento zoznam referencií."

Strong: "Vašou úlohou je poradca pre ochranu údajov. Najprv klasifikujte tento zoznam podľa oblasti údajov (červená/žltá/zelená) a označte všetky polia, ktoré identifikujú osobu. Zamaskujte červené/žlté polia nápisom [PERSON]/[IDENTITY]/[CITLIVÉ], rovnakú osobu ponechajte s rovnakým štítkom. Vytvorte iba súhrn kategórie s anonymizovanou poznámkou agregovaných údajov; na výstupný proces si nepíšte skutočné osobné údaje. (účel, sklad, zabezpečenie vozidla) doplniť.“

Rozdiel: výkonný prompt pred spracovaním údajov klasifikuje, maskuje, minimalizuje a integruje princípy KVKK.

Údajové oblasti a pravidlo

región

príklad

pravidlo

červená

IČO, zdravotný stav, trest, úplná adresa

Nikdy nevstupujte do verejného vozidla; schválené prostredie

žltá

Vek+okolie+povolanie, nepriamy identifikátor

Maskujte/agregujte, potom spracujte

zelená

Legislatíva, verejná štatistika, všeobecný postup

práca na voľnej nohe

Časté chyby

• Export červených údajov do verejného nástroja. Najzávažnejšie porušenie; ID/zdravotné údaje/údaje o sankciách neopúšťajú schválené prostredie.
• Zneužitie. Používanie údajov zhromaždených na jeden účel na iný účel (modelové školenia, komunikácia) bez povolenia je v rozpore so zákonom.
• Spracováva sa príliš veľa údajov. Na tento účel nepresúvajte nepotrebné polia (meno, adresa); Minimalizovať.
• Jazda bez povolenia. Nie je jasné, kam idú údaje vo vozidlách, ktoré inštitúcia nevyhodnotila.
• Neurčenie doby uchovávania. Údaje by sa mali po splnení účelu vymazať; by sa nemali uchovávať na neurčito.
• Prenesenie zodpovednosti na vozidlo. Výstup vlastní a schvaľuje človek; „Urobila to AI“ nie je obrana.

V súhrne

Rámcom pre zodpovednú verejnú AI je ochrana osobných údajov a podnikové riadenie. Princípy KVKK — účelnosť, minimalizácia, bezpečnosť, retenčný limit, občianske práva — obmedzujú akékoľvek použitie AI. Rozdeľte údaje do červených/žltých/zelených zón, nikdy nedávajte červenú verejným nástrojom, maskujte osobné údaje, používajte iba schválené nástroje a ku každému rozhodnutiu pripojte ľudského vlastníka. Politika na inštitucionálnej úrovni, zoznam schválených vozidiel, záznam o školení a inšpekcii; Disciplína overovania na úrovni osôb. Umelá inteligencia teda slúži verejnosti tým, že chráni práva občanov.

Aplikačná úloha

Vyberte si skutočné využitie AI, ktoré ste vo svojej jednotke použili (alebo o tom uvažujete). Rozdeľte obsah, ktorý budete spracovávať, na červenú/žltú/zelenú pomocou šablóny „Klasifikácia oblasti údajov“. Použite šablónu „Kontrolný zoznam súladu s KVKK“ a nájdite aspoň jeden chýbajúci/rizikový bod. Nakoniec načrtnite krátku politiku vhodnú pre vašu jednotku s „kosterou firemnej politiky AI“.

kontrolný zoznam

• [ ] Rozdelil som obsah na červenú/žltú/zelenú zónu; Počítal som podozrivého ako červeného.
• [ ] Neposkytol som červené údaje verejnému nástroju; Použil som schválené médiá.
• [ ] Zamaskoval som osobné údaje a odstránil som nepotrebné polia (minimalizácia).
• [ ] Skontroloval som účel spracovania, dobu uloženia a zabezpečenie vozidla.
• [ ] Dodržal som právo občanov na námietku/vymazanie.
• [ ] Ku každému výstupu som pripojil ľudského vlastníka a súhlas; Zachoval som si revíznu stopu.

Modulová skúška

1. Akú otázku by ste si ako verejný činiteľ mali položiť pred odovzdaním úlohy AI?

• A) Čo občan stratí, ak je tento výstup chybný? ✔
• B) Ako rýchlo dokáže AI urobiť túto prácu?
• C) Je tento nástroj AI bezplatný?
• D) Bude tento výstup využívať aj iná jednotka?

Vysvetlenie: Rozhodnutie o prevode sa robí na základe škody, ktorú občan utrpí, ak je výstup nesprávny. Poškodenie sa ľahko prenesie, ak ide len o niekoľko minút prepisovania; Ak ide o nespravodlivé odmietnutie, nesprávny trest alebo stratu práv, AI vypracuje iba návrh, rozhodnutie a overenie patrí úradníkovi.

2. Ako sa nazýva, keď AI prezentuje neexistujúci zákon alebo vykonštruované súdne rozhodnutie ako skutočné?

• A) Ukladanie do vyrovnávacej pamäte
• B) Triedenie
• C) Anonymizácia
• D) Halucinácie ✔

Vysvetlenie: Halucinácia je, keď AI s istotou produkuje informácie, ktoré v skutočnosti neexistujú (vymyslená látka, zrušené nariadenie, nesprávne číslo). V oblasti legislatívy ide o jedno z najnebezpečnejších rizík, ktoré môže viesť k strate práv a zrušeniu správnej žaloby.

3. Úradník sa chystá zamietnuť žiadosť na základe článku nariadenia, na ktorý poukázal YZ. Aké je najsprávnejšie správanie?

• A) AI priamo píše odmietnutie, pretože pôsobí sebavedomo
• B) Položte rovnakú otázku inému vozidlu AI a získajte potvrdenie
• C) Potvrdzuje článok z aktuálneho konsolidovaného textu na Çözüm.gov.tr ​​✔
• D) Ústne požiada o rozhodnutie nadriadeného

Popis: Tréningové dáta AI sú zmrazené k určitému dátumu; Článok, ktorý zobrazuje, mohol byť zrušený alebo zmenený. Potvrdenie platnosti článku a jeho konečná verzia z aktuálneho konsolidovaného textu na Çözüm.gov.tr ​​​​pred rozhodnutím zabráni nespravodlivému zamietnutiu a prípadnej žalobe na zrušenie.

4. Prečo je pre občianskeho chatbota zárukou kvality, že môže povedať „neviem, preraďujem vás na úradníka“?

• A) Zlepšuje štatistiky zvýšením miery fluktuácie
• B) Zabraňuje dezinformáciám delegovaním informácií na ľudí, keď si nie ste istí ✔
• C) Rozptyľovaním pozornosti občanov predlžuje čas hovoru
• D) Umožňuje chatbotovi dostávať menej otázok

Vysvetlenie: Na verejnosti je sebavedomá nesprávna odpoveď oveľa drahšia ako úprimné prijatie; Vedie to k strate práv a nedôvere voči inštitúcii. Schopnosť chatbota odovzdať sa človeku, keď si nie je istý, je bezpečnostný mechanizmus, ktorý zabraňuje halucinačným dezinformáciám.

5. Aké je najdôležitejšie riziko, ktoré treba zvážiť pri „zjednodušovaní“ úradnej korešpondencie s AI?

• A) Text je príliš krátky
• B) Zmena písma
• C) Zrušenie podmienky alebo výnimky ✔
• D) Nesprávne napísané meno adresáta

Vysvetlenie: Štylistická úprava by nemala meniť obsah. Pri zjednodušení niekedy AI vypustí výnimku, podmienku alebo trvanie. Zjednodušený text by sa preto mal vždy porovnávať s pôvodným rozhodnutím alebo právnym predpisom.

6. Meno a T.R. v súbore údajov. Ako to nazvať, keď kombinácia 'okolie + rok narodenia + druh zdravotného postihnutia' dokáže odhaliť človeka aj keď má vymazané IČO?

• A) Predefinovanie ✔
• B) Minimalizácia dát
• C) Miera krytia
• D) Konsolidácia

Vysvetlenie: Opätovná identifikácia je nájdenie osoby prostredníctvom kombinácie nepriamych identifikátorov z údajov považovaných za anonymné. Ak sa u jednej osoby nájde zriedkavá kategória, vymazanie mena nebude stačiť; Potrebné sú ďalšie opatrenia, ako je premena veku na rozsah a kombinovanie zriedkavých kategórií.

7. Ako sa nazýva, keď model inšpekcie označí štvrť, ktorá bola v minulosti intenzívne kontrolovaná, ako „rizikovú“ a pošle tam viac inšpekcií, čo tlačí model k tomu, aby túto štvrť považoval za rizikovejšiu?

• A) Minimalizácia údajov
• B) Halucinácie
• C) Anonymizácia
• D) Slučka spätnej väzby ✔

Vysvetlenie: Slučka spätnej väzby je, keď výstup modelu ovplyvňuje následné trénovacie údaje, čím sa posilňuje existujúca odchýlka. Rozdiel sa nezväčšuje v skutočnom riziku, ale v tom, kam sa človek pozerá. Spôsob, ako sa chrániť, je sledovať dopad, nie výstup, a kontrolovať skupinovú distribúciu rozhodnutí.

8. Po tom, čo sa žiadosť o výhody presunula úplne online, počet žiadostí klesol v prvom mesiaci o 30 percent. Aké je pre to najpravdepodobnejšie vysvetlenie?

• A) Skutočné potreby občanov sa znížili
• B) Občania bez internetu a digitálnej gramotnosti boli vynechaní ✔
• C) Úrok sa znížil, pretože sa znížila výška pomoci
• D) Systém automaticky schválil všetky žiadosti

Popis: Digitálna priepasť je neschopnosť občanov bez prístupu na internet alebo digitálnej gramotnosti získať prístup k službám. Počet klesá, pretože sa nemôže prihlásiť najpotrebnejšia skupina, seniori a občania bez internetu. Riešením je opustiť alternatívne kanály, ako sú asistované referenčné body.

9. Zatiaľ čo skutočná miera úspešnosti vo výročnej správe je 63 percent, zhrnutie vypracované YZ hovorí, že „prevažná väčšina žiadostí bola pozitívna“. Aké je správne správanie?

• A) Výraz je ponechaný tak, ako je, pretože je pozitívny.
• B) Vypúšťa sa pomer a používa sa len kvalitatívne vyjadrenie
• C) Výraz sa nahradí skutočným číslom 63 percent ✔
• D) Súhrn je úplne odstránený z prehľadu

Vysvetlenie: Prehnané pozitívne vnímanie vo verejnej správe stavia inštitúciu do zložitej situácie pri následných auditoch. Každé tvrdenie v zhrnutí by sa malo porovnať s nespracovanými údajmi a mal by sa zapísať skutočný počet (63 percent); Súhrny AI nie sú zahrnuté v správe bez toho, aby boli podrobené auditu.

10. Čo nás to naučí ako prvé pri rozhodovaní vo verejnom sektore na základe údajov, ak sa „počet spisov uzavretých mesačne“ zvyšuje, zatiaľ čo „miera vyriešenia pri prvom kontakte“ klesá?

• A) Výber správneho indikátora je dôležitejší ako násobenie čísla ✔
• B) Mal by sa zvýšiť počet zamestnancov
• C) Grafy by mali byť farebné
• D) Chatbot by mal odpovedať na viac otázok

Vysvetlenie: Nesprávny ukazovateľ vedie k nesprávnemu rozhodnutiu aj pri správnych údajoch. Súbory je možné rýchlo zavrieť a znova otvoriť. Výber správneho indikátora a spoločné čítanie indikátorov zabráni vychvaľovaniu len na základe zavádzajúceho čísla.

11. V grafe začína vertikálna os číslom 40 namiesto nuly a nárast o 2 percentá vyzerá ako dramatický skok, čo je príkladom akého problému?

• A) Halucinácie
• B) Minimalizácia dát
• C) Digitálna priepasť
• D) Zavádzajúca vizualizácia ✔

Vysvetlenie: Zavádzajúca vizualizácia skresľuje vnímanie prostredníctvom techník, ako je os, ktorá nezačína od nuly, neprimeraná mierka alebo zvolené časové obdobie. Je súčasťou poctivého vizuálneho riadenia verejných údajov; Skutočná tabuľka by sa mala zobraziť vytiahnutím osi na nulu.

12. Prečo je neprijateľné povedať „AI to napísala“ ako odôvodnenie správneho konania?

• A) Pretože nástroje AI sú príliš drahé
• B) Administratívne opatrenie musí byť odôvodnené a zodpovednosť nesie úradník ✔
• C) Pretože AI nevie turecky
• D) Pretože občania nemajú radi AI

Vysvetlenie: Administratívne opatrenia musia byť odôvodnené a kontrolovateľné; Zodpovednosť nenesie AI, ale verejný činiteľ a inštitúcia, ktorá používa výstup bez toho, aby ho overila. „Umelá inteligencia to povedala“ nie je odôvodnením a nepodporuje správne konanie.

13. Aké sú štyri zásady, ktoré odlišujú používanie AI vo verejnom sektore od súkromného sektora a ktoré by sa mali dodatočne dodržiavať?

• A) Rýchlosť, lacnosť, ziskovosť, konkurencia
• B) Automatizácia, rozsah, marketing, značka
• C) Rovnosť, transparentnosť, zodpovednosť, ochrana osobných údajov ✔
• D) Súkromie, dôvernosť, súkromie a dôvernosť

Vysvetlenie: V dielach, kde sa využíva verejná moc, je AI rámcovaná princípmi rovnosti (podobné riešenie podobnej situácie), transparentnosti (vysvetliteľnosť odôvodnenia rozhodnutia), zodpovednosti (zodpovedná za každú transakciu a audit trail) a ochrany osobných údajov (KVKK).

14. Čo by mal robiť automatizovaný systém kontroly pred výstupom, keď si nie je istý typom vzácneho dokumentu?

• A) Ticho odmietnuť žiadosť
• B) Preposlanie žiadosti na kontrolu človekom ✔
• C) Automaticky schváliť žiadosť
• D) Odstráňte aplikáciu

Vysvetlenie: Dobrá automatizácia nasmeruje model k dôstojníkovi, keď si nie je istý, namiesto toho, aby ho ticho odmietol. V opačnom prípade sa legitímne aplikácie dostanú do slepej uhlu a dôjde k viktimizácii. Udržať ľudí pri rozhodovaní je základom riadenia výnimiek.