Kvkk, soukromí a odpovědná veřejná správa umělé inteligence

zisky:

• Uplatňuje zásady KVKK a minimalizaci dat při zpracování osobních údajů občanů v nástrojích AI.
• Zavádí rámec řízení pro organizaci, který zahrnuje zásady používání AI, audit trail a řetězec odpovědnosti.
• Holisticky tvrdí, že odpovědná veřejná umělá inteligence je postavena na lidském dohledu, transparentnosti a odpovědnosti.

V tomto modulu jsme viděli, jak je umělá inteligence mocným akcelerátorem na veřejnosti: reakce na otázky občanů, petice a korespondence, legislativní výzkum, analýza politik, reporting, rozhodování na základě dat, e-government a transparentnost. Nyní se dostáváme k rámci, který to vše drží pohromadě: ochrana osobních údajů a odpovědná správa. Veřejnost ze své podstaty zpracovává nejcitlivější údaje občana: totožnost, adresu, příjem, zdravotní stav, výpis z rejstříku trestů, rodinnou situaci. Zpracování těchto údajů pomocí nástrojů AI musí být plně v souladu s rámcem KVKK (zákon o ochraně osobních údajů č. 6698; zákon upravující zákonné, omezené a bezpečné zpracování osobních údajů). V této závěrečné části vytvoříme páteř ochrany soukromí a správy veřejného používání umělé inteligence – jaká data lze poskytnout kterému nástroji, jaké zásady platí, kdo je odpovědný, jak organizace bezpečně spravuje AI. Tato jednotka je střecha umístěná nad předchozími deseti jednotkami.

Základní principy KVKK dotýkající se veřejné AI

KVKK stanoví několik základních principů, z nichž každý přímo omezuje použití AI:

• Dodržování zákona a dodržování účelu: Osobní údaje jsou zpracovávány pouze pro konkrétní, legitimní účel. Údaje shromážděné pro jeden účel (například žádost o pomoc) nelze bez povolení použít k jinému účelu (například školení modelky).
• Minimalizace údajů: Nezpracovává se více údajů, než je nutné pro daný účel. Pokud pro analýzu kategorií není vyžadován název, neuvede se žádný.
• Zabezpečení: Data jsou chráněna proti neoprávněnému přístupu. Vložení občanských dat do veřejného nástroje umělé inteligence znamená vyvedení těchto dat mimo organizaci – je to porušení bezpečnostní politiky.
• Doba uložení: Data jsou vymazána, když účel skončí; Neuchovává se donekonečna.
• Informace a práva: Občané mají právo vědět, jak se jejich údaje zpracovávají, opravují, vymazávají a vznášejí námitky proti automatizovanému rozhodování.

Pozor: Nahrávání dat občana do veřejného nástroje AI, který instituce neschválila, kde jsou data uložena a kdo k nim má přístup, je ve většině případů porušením KVKK a otevírá instituci sankcím. Pravidla se nikdy neohýbají „aby byla práce jednodušší“.

Které údaje, ke kterému vozidlu? Třízónový model

Zpravidla rozdělte data do tří oblastí:

1. Červená (nikdy nevstupuje do veřejného vozidla): Identifikační číslo, zdraví, zločinec, náboženství, etnická příslušnost, biometrie, úplná adresa, cokoliv, co identifikuje osobu. Ty se zpracovávají pouze ve smluvním/vnitropodnikovém a institucí vyhovujícím prostředí vyhovujícímu KVKK.
2. Žlutá (opatrně, maskováním): Data, která mohou být nepřímo spojena s osobou. Nejprve anonymizovat/agregovat, poté zpracovat.
3. Zelená (zdarma): Neosobní, veřejné, obecné informace (legislativní text, veřejné statistiky, obecný postup). Ty můžete snadno zpracovat pomocí AI.

Tip: Než odešlete text AI, proveďte 5sekundový test: „Je v tomto obsahu něco, co by mohlo identifikovat osobu?“ Pokud je odpověď „ano/možná“, maskujte se nebo řiďte schválené vozidlo. Pokud máte pochybnosti, zvažte červenou.

Corporate governance: od člověka k systému

Odpovědnou veřejnou umělou inteligenci nelze ponechat na dobré vůli jednotlivých státních zaměstnanců; Je vyžadován institucionální rámec:

• Zásady: Instituce musí mít zásady používání AI: které nástroje jsou schváleny, jaká data lze zadávat, kdo je odpovědný.
• Seznam schválených nástrojů: Personál by měl používat nástroje, které instituce vyhodnotila a schválila, nikoli náhodně.
• Školení: Personál musí znát ověřovací disciplínu a datové oblasti (jako tento modul).
• Záznam a audit: Měl by být uchováván auditní záznam rozhodnutí vytvořených pomocí AI.
• Odpovědnost: Každý výstup poháněný umělou inteligencí musí mít lidského vlastníka a schválení. Odpovědnost leží na instituci a úředníkovi, nikoli na vozidle.
• Princip zaměřený na člověka: Žádné konečné rozhodnutí o vytváření/omezování práv není učiněno bez lidského souhlasu.

tři mini pouzdra

Případ 1 — Zabráněno úniku červených dat. Pracovník se chystal nahrát souhrn seznamu zdravotních výhod pro 1200 lidí do veřejného nástroje. Díky schválené politice vozidel a školení „červených dat“ agentury to přestalo; Data byla zpracována v interním schváleném prostředí a s maskovanými poli identity. Bylo zabráněno možnému porušení KVKK a ztrátě důvěry pro desítky tisíc lidí.

Případ 2 – Nesprávné použití. Jedna jednotka chtěla nasbíraná data využít pro dosah pro předvolební komunikační plán. Pověřenec pro ochranu údajů připomněl zásadu dodržování účelu: šlo o použití údajů mimo účel, pro který byly shromážděny, a bylo nezákonné. Žádost byla zamítnuta.

Případ 3 – Mezera ve správě uzavřena. V jedné obci používaly různé jednotky různé nástroje umělé inteligence bez kontroly; Nikdo nevěděl, která data kam šla. Agentura zavedla zásady používání umělé inteligence, seznam schválených vozidel a auditní stopu; Během 3 měsíců se používání neregistrovaných vozidel snížilo o 90 % a byla vytvořena datová inventura.

Čtyři kopírovatelné šablony

1) Klasifikace oblasti dat (před exportem do vozidla):

Vaše role: poradce pro ochranu osobních údajů. Před předáním agentovi AI klasifikujte následující obsah: ČERVENÁ (identifikuje osobu, nikdy nevstupuje do veřejného vozidla), ŽLUTÁ (nepřímo připojitelná, maska), ZELENÁ (neosobní, zdarma). Označte červené/žluté oblasti jednu po druhé a řekněte jim, jak maskovat. Počítejte s podezřelým jako s červeným. OBSAH: [text]

2) Maskování/anonymizace:

Anonymizujte všechny osobní údaje před zpracováním následující text: jméno -> [OSOBA-1], IČO -> [IDENTITA], adresa ->[ADRESA], zdravotní stav/trest -> [CITLIVÉ]. Označte stejnou osobu. Exportujte anonymizovaný text samostatně. Nikdy nezapisujte na výstup skutečná data. TEXT: [text]

3) Kontrolní seznam shody KVKK (pro použití AI):

Vaše role: specialista na compliance KVKK. Vytvořte kontrolní seznam souladu pro následující použití AI: (1) je účel zpracování legitimní a konkrétní, (2) je spojen s účelem (přechází na jiný účel), (3) je optimalizován, (4) je nástroj zabezpečený/schválený, (5) je určitá doba uchování, (6) jsou chráněna občanská práva (námitka, výmaz). Chybějící položky označte červenou vlajkou. POUŽITÍ: [recept]

4) Rámec firemních zásad AI:

Vaše role: odborník na veřejnou správu IT. Vytvořte rámec zásad používání AI pro naši organizaci: rozsah, schválené nástroje, datové zóny (červená/žlutá/zelená), zakázaná použití, body schvalování člověkem, audit trail, odpovědnosti, školení a oznámení o porušení. Do každého nadpisu vyplňte 1-2 věty. INSTITUCE: [jednotka a typická pracovní místa]

Slabá výzva / Silná výzva

Slabé: "Shrňte tento seznam referencí."

Strong: "Vaše role je poradce pro ochranu dat. Nejprve klasifikujte tento seznam podle oblasti dat (červená/žlutá/zelená) a označte všechna pole, která identifikují osobu. Zamaskujte červená/žlutá pole pomocí [OSOBA]/[IDENTITA]/[CITLIVÉ], stejnou osobu ponechte se stejným štítkem. Vytvořte pouze souhrn kategorie s anonymizovanou poznámkou agregovaných dat; nezapisujte pozornost ve smyslu výstupního procesu KVK, na konci zpracování osobních údajů. (účel, skladování, zabezpečení vozidla) přidat.“

Rozdíl: výkonný prompt před zpracováním dat klasifikuje, maskuje, minimalizuje a integruje principy KVKK.

Datové oblasti a pravidlo

Kraj

příklad

pravidlo

červený

TR ID číslo, zdraví, trest, úplná adresa

Nikdy nevstupujte do veřejného vozidla; schválené prostředí

žluť

Věk+okolí+povolání, nepřímý identifikátor

Maska/agregát, pak proces

zelený

Legislativa, veřejná statistika, obecný postup

práce na volné noze

Časté chyby

• Export červených dat do veřejného nástroje. Nejzávažnější porušení; ID/zdravotní údaje/údaje o sankcích neopouštějí schválené prostředí.
• Zneužít. Použití údajů shromážděných pro jeden účel pro jiný účel (modelové školení, komunikace) bez povolení je v rozporu se zákonem.
• Zpracovává se příliš mnoho dat. Nepřesouvejte zbytečná pole (jméno, adresa) za tímto účelem; Minimalizovat.
• Jízda bez povolení. Není jasné, kam jdou data ve vozidlech, která instituce nevyhodnotila.
• Bez určení doby uchování. Údaje by měly být vymazány po splnění účelu; by neměly být uchovávány donekonečna.
• Přenesení odpovědnosti na vozidlo. Výstup je vlastněn a schválen člověkem; „Udělala to AI“ není obrana.

V souhrnu

Rámcem odpovědné veřejné umělé inteligence je ochrana osobních údajů a podnikové řízení. Principy KVKK — účelovost, minimalizace, bezpečnost, retenční limit, občanská práva — omezují jakékoli použití AI. Rozdělte data do červených/žlutých/zelených zón, nikdy nedávejte červenou veřejnému nástroji, maskujte osobní údaje, používejte pouze schválené nástroje a ke každému rozhodnutí připojte lidského vlastníka. Politika na institucionální úrovni, seznam schválených vozidel, záznamy o školení a kontrole; Disciplína ověřování na úrovni osoby. Umělá inteligence tedy slouží veřejnosti tím, že chrání práva občanů.

Aplikační úkol

Vyberte skutečné využití AI, které jste ve své jednotce použili (nebo o něm uvažujete). Rozdělte obsah, který budete zpracovávat, na červenou/žlutou/zelenou pomocí šablony „Klasifikace oblasti dat“. Použijte šablonu "Kontrolní seznam shody KVKK" a najděte alespoň jeden chybějící/rizikový bod. Nakonec navrhněte krátkou politiku vhodnou pro vaši jednotku s „kostru zásad firemní AI“.

kontrolní seznam

• [ ] Rozdělil jsem obsah na červenou/žlutou/zelenou zónu; Počítal jsem podezřelého za červeného.
• [ ] Neposkytl jsem červené údaje veřejnému nástroji; Použil jsem schválená média.
• [ ] Zamaskoval jsem osobní údaje a odstranil nepotřebná pole (minimalizace).
• [ ] Zkontroloval jsem účel zpracování, dobu uložení a zabezpečení vozidla.
• [ ] Dodržel jsem práva občanů na námitku/výmaz.
• [ ] Ke každému výstupu jsem připojil lidského vlastníka a souhlas; Vedl jsem si auditní stopu.

Modulová zkouška

1. Jakou prioritní otázku byste si jako veřejný činitel měli položit, než předáte práci AI?

• A) Co občan ztrácí, pokud je tento výstup chybný? ✔
• B) Jak rychle dokáže umělá inteligence tuto práci provést?
• C) Je tento nástroj AI zdarma?
• D) Bude tento výstup používat i jiná jednotka?

Vysvětlení: Rozhodnutí o převodu se provádí na základě škody, kterou občan utrpí, pokud je výstup nesprávný. Poškození se snadno přenese, pokud je to jen pár minut přepisování; Pokud se jedná o nespravedlivé odmítnutí, nesprávný trest nebo ztrátu práv, AI vypracuje pouze návrh, rozhodnutí a ověření náleží úředníkovi.

2. Jak se nazývá, když AI prezentuje neexistující zákon nebo vykonstruované soudní rozhodnutí jako skutečné?

• A) Ukládání do mezipaměti
• B) Třídění
• C) Anonymizace
• D) Halucinace ✔

Vysvětlení: Halucinace je, když AI sebevědomě produkuje informace, které ve skutečnosti neexistují (vymyšlená látka, zrušené nařízení, špatné číslo). V oblasti legislativy jde o jedno z nejnebezpečnějších rizik, neboť může vést ke ztrátě práv a zrušení správní žaloby.

3. Úředník se chystá zamítnout žádost na základě článku nařízení, na který upozornil YZ. Jaké je nejsprávnější chování?

• A) AI přímo zapíše odmítnutí, protože působí sebejistě
• B) Položte stejnou otázku jinému vozidlu AI a získejte potvrzení
• C) Potvrzuje článek z aktuálního konsolidovaného textu na Çözüm.gov.tr ​​✔
• D) Ústně požádá o rozhodnutí nadřízeného

Popis: Tréninková data AI jsou zmrazena k určitému datu; Článek, který zobrazuje, mohl být zrušen nebo změněn. Potvrzení platnosti článku a jeho konečná verze z aktuálního konsolidovaného textu na Çözüm.gov.tr ​​​​před rozhodnutím zabrání nespravedlivému zamítnutí a případné žalobě na zrušení.

4. Proč je pro občanského chatbota zárukou kvality, když může říct „nevím, převádím vás na úředníka“?

• A) Zlepšuje statistiky zvýšením míry fluktuace
• B) Předchází dezinformacím delegováním informací na lidi, když si nejste jisti ✔
• C) Prodlužuje dobu hovoru rozptýlením pozornosti občanů
• D) Umožňuje chatbotovi dostávat méně otázek

Vysvětlení: Na veřejnosti je sebevědomá špatná odpověď mnohem dražší než upřímné přijetí; Vede ke ztrátě práv a nedůvěře k instituci. Schopnost chatbota předat se člověku, když si není jistý, je bezpečnostním mechanismem, který zabraňuje halucinačním dezinformacím.

5. Jaké je nejdůležitější riziko, které je třeba vzít v úvahu při „zjednodušování“ úřední korespondence s AI?

• A) Text je příliš krátký
• B) Změna písma
• C) Zrušení podmínky nebo výjimky ✔
• D) Špatně napsané jméno adresáta

Vysvětlení: Stylistická úprava by neměla změnit obsah. Při zjednodušení někdy AI vynechá výjimku, podmínku nebo trvání. Zjednodušený text by proto měl být vždy porovnán s původním rozhodnutím nebo právním předpisem.

6. Jméno a T.R. v sadě dat. Jak říkáte tomu, když kombinace 'sousedství + rok narození + druh postižení' dokáže prozradit člověka i po vymazání IČ?

• A) Předefinování ✔
• B) Minimalizace dat
• C) Míra pokrytí
• D) Konsolidace

Vysvětlení: Opětovná identifikace je nalezení osoby pomocí kombinace nepřímých identifikátorů z dat považovaných za anonymní. Pokud je u jedné osoby nalezena vzácná kategorie, smazání jména nebude stačit; Jsou vyžadována další opatření, jako je převod věku na rozsah a kombinování vzácných kategorií.

7. Jak se nazývá, když model inspekce označí čtvrť, která byla v minulosti intenzivně kontrolována, jako „rizikovou“ a pošle tam více kontrol, což tlačí model k tomu, aby tuto čtvrť považoval za riskantnější?

• A) Minimalizace dat
• B) Halucinace
• C) Anonymizace
• D) Smyčka zpětné vazby ✔

Vysvětlení: Zpětná vazba je, když výstup modelu ovlivní následná trénovací data a posílí existující zkreslení. Rozdíl neroste ve skutečném riziku, ale v tom, kam se člověk podívá. Způsob, jak se chránit, je sledovat dopad, nikoli výstup, a řídit skupinovou distribuci rozhodnutí.

8. Poté, co se žádost o výhody přesunula zcela online, počet žádostí klesl během prvního měsíce o 30 procent. Jaké je pro to nejpravděpodobnější vysvětlení?

• A) Skutečné potřeby občanů se snížily
• B) Občané bez internetu a digitální gramotnosti byli vynecháni ✔
• C) Úrok se snížil, protože se snížila částka podpory
• D) Systém automaticky schválil všechny žádosti

Popis: Digitální propast je neschopnost občanů bez přístupu k internetu nebo digitální gramotnosti získat přístup ke službám. Počet se snižuje, protože se nemůže přihlásit nejpotřebnější skupina, senioři a občané bez internetu. Řešením je opustit alternativní kanály, jako jsou asistované referenční body.

9. Zatímco skutečná úspěšnost ve výroční zprávě je 63 procent, shrnutí vytvořené YZ říká, že „převážná většina žádostí byla pozitivní“. Jaké je správné chování?

• A) Výraz je ponechán tak, jak je, protože je kladný.
• B) Poměr se vymaže a použije se pouze kvalitativní vyjádření
• C) Výraz je nahrazen skutečným číslem 63 procent ✔
• D) Souhrn je z přehledu zcela odstraněn

Vysvětlení: Přehnané pozitivní vnímání ve veřejné zprávě staví instituci do obtížné situace při následných auditech. Každé tvrzení v exekutivním shrnutí by mělo být porovnáno s nezpracovanými údaji a měl by být zapsán skutečný počet (63 procent); Souhrny AI nejsou součástí zprávy, aniž by byly auditovány.

10. Pokud se při rozhodování na základě dat ve veřejném sektoru zvyšuje „počet měsíčně uzavřených souborů“, zatímco „míra řešení při prvním kontaktu“ klesá, co nás to naučí jako první?

• A) Výběr správného ukazatele je důležitější než násobení čísla ✔
• B) Měl by se zvýšit počet zaměstnanců
• C) Grafy by měly být barevné
• D) Chatbot by měl odpovědět na více otázek

Vysvětlení: Špatný indikátor vede k nesprávnému rozhodnutí i se správnými údaji. Soubory lze rychle zavřít a znovu otevřít. Výběr správného ukazatele a společné čtení ukazatelů zabrání vychloubání pouze na základě zavádějícího čísla.

11. V grafu začíná svislá osa na 40 místo na nule a 2procentní nárůst vypadá jako dramatický skok, což je příkladem jakého problému?

• A) Halucinace
• B) Minimalizace dat
• C) Digitální propast
• D) Zavádějící vizualizace ✔

Vysvětlení: Zavádějící vizualizace zkresluje vnímání pomocí technik, jako je osa nezačínající od nuly, nepřiměřené měřítko nebo zvolené časové období. Je součástí poctivé vizuální správy veřejných dat; Skutečná tabulka by se měla zobrazit vytažením osy na nulu.

12. Proč je nepřijatelné říkat „AI to napsala“ jako odůvodnění správní žaloby?

• A) Protože nástroje AI jsou příliš drahé
• B) Správní opatření musí být odůvodněné a odpovědnost nese úředník ✔
• C) Protože AI neumí turecky
• D) Protože občané nemají rádi AI

Vysvětlení: Správní opatření musí být odůvodněné a kontrolovatelné; Odpovědnost nenese AI, ale veřejný činitel a instituce, která výstup používá, aniž by ho ověřovala. „Umělá inteligence to řekla“ není ospravedlněním a nepodporuje správní opatření.

13. Jaké jsou čtyři zásady, které odlišují používání umělé inteligence ve veřejném sektoru od soukromého a které by měly být navíc dodržovány?

• A) Rychlost, levnost, ziskovost, konkurence
• B) Automatizace, měřítko, marketing, značka
• C) Rovnost, transparentnost, odpovědnost, ochrana osobních údajů ✔
• D) Soukromí, důvěrnost, soukromí a důvěrnost

Vysvětlení: V dílech, kde se využívá veřejná moc, je AI rámována principy rovnosti (obdobné zacházení s podobnou situací), transparentnosti (vysvětlitelnost odůvodnění rozhodnutí), odpovědnosti (zodpovědnost za každou transakci a audit trail) a ochrany osobních údajů (KVKK).

14. Co by měl automatizovaný systém předběžné kontroly dělat, když si není jistý vzácným typem dokumentu?

• A) Tiše odmítnout žádost
• B) Předání žádosti ke kontrole člověkem ✔
• C) Automaticky schválit žádost
• D) Smažte aplikaci

Vysvětlení: Dobrá automatizace nasměruje model k důstojníkovi, když si není jistý, místo aby jej tiše odmítl. Jinak se legitimní aplikace dostanou do slepého úhlu a dojde k viktimizaci. Základem správy výjimek je udržení lidí v bodě rozhodování.