Kvkk, adatvédelem és felelős nyilvános mesterséges intelligencia-irányítás

Nyereség:

• Alkalmazza a KVKK elveit és az adatminimalizálást az állampolgárok személyes adatainak AI-eszközökben történő feldolgozásakor.
• Olyan irányítási keretet hoz létre a szervezet számára, amely magában foglalja a mesterséges intelligencia használati politikáját, az ellenőrzési nyomvonalat és a felelősségi láncot.
• Holisztikusan azt állítja, hogy a felelős nyilvános AI az emberi felügyeletre, átláthatóságra és elszámoltathatóságra épül.

A modul során láthattuk, hogy a mesterséges intelligencia milyen erőteljes gyorsító a nyilvánosság előtt: válaszadás állampolgári kérdésekre, petíciók és levelezés, jogalkotási kutatás, szakpolitikai elemzés, jelentéstétel, adatvezérelt döntéshozatal, e-kormányzat és átláthatóság. Most elérkeztünk ahhoz a kerethez, amely mindent egyben tart: a személyes adatok védelméhez és a felelős kormányzáshoz. A nyilvánosság természeténél fogva az állampolgár legérzékenyebb adatait dolgozza fel: személyazonosság, lakcím, jövedelem, egészségi állapot, büntetlen előélet, családi helyzet. Ezen adatok mesterséges intelligencia eszközökkel történő feldolgozásának teljes mértékben meg kell felelnie a KVKK (személyes adatok védelméről szóló 6698. számú törvény; a személyes adatok jogszerű, korlátozott és biztonságos kezelését szabályozó törvény) kereteinek. Ebben az utolsó részben felállítjuk a nyilvános mesterséges intelligencia használatának adatvédelmi és irányítási gerincét – milyen adatok adhatók melyik eszközhöz, milyen irányelvek vonatkoznak rájuk, ki a felelős, hogyan kezeli a szervezet biztonságosan az AI-t. Ez az egység az előző tíz egység fölé helyezett tető.

A KVKK alapelvei a nyilvános mesterséges intelligenciával kapcsolatban

A KVKK számos alapelvet határoz meg, amelyek mindegyike közvetlenül korlátozza az MI használatát:

• Jogszabályok betartása és a cél betartása: Személyes adatokat csak meghatározott, jogszerű célból kezelünk. Az egy célra gyűjtött adatok (például segítségkérés) engedély nélkül nem használhatók fel más célra (például modell képzésére).
• Adatminimalizálás: A cél eléréséhez szükségesnél több adat feldolgozása nem történik meg. Ha a kategóriaelemzéshez nincs szükség név megadására, akkor a rendszer nem ad nevet.
• Biztonság: Az adatok védve vannak az illetéktelen hozzáférés ellen. Az állampolgári adatok nyilvános mesterséges intelligencia-eszközbe való beillesztése azt jelenti, hogy az adatokat a szervezeten kívülre helyezik – ez sérti a biztonsági politikát.
• Tárolási időszak: Az adatok törlődnek, amikor a cél véget ér; Nem őrzik meg a végtelenségig.
• Tájékoztatás és jogok: Az állampolgároknak joguk van tudni, hogyan kezelik adataikat, helyesbíthetik, törölhetik és tiltakozhatnak az automatizált döntések ellen.

Figyelem: Az állampolgár adatainak feltöltése egy nyilvános mesterséges intelligencia eszközbe, amelyet az intézmény nem hagyott jóvá, ahol az adatokat tárolják és ki fér hozzá, az esetek többségében a KVKK megsértésének minősül, és szankciókat nyit meg az intézmény előtt. A szabályok soha nem azért vannak meghajlítva, "hogy megkönnyítsék a munkát".

Milyen adatokra, melyik járműre? Háromzónás modell

Ökölszabályként ossza fel az adatokat három régióra:

1. Piros (soha nem száll be tömegközlekedési járműbe): személyi igazolványszám, egészségi állapot, bűnöző, vallás, etnikai hovatartozás, biometrikus adatok, teljes lakcím, bármi, ami azonosítja a személyt. Ezek feldolgozása csak az intézmény által jóváhagyott szerződéses/házon belüli és a KVKK-nak megfelelő környezetben történik.
2. Sárga (óvatosan, maszkolással): Az adott személyhez közvetve köthető adatok. Először anonimizál/összesítse, majd feldolgozza.
3. Zöld (ingyenes): Személytelen, nyilvános, általános tájékoztatás (jogalkotási szöveg, nyilvános statisztika, általános eljárás). Ezeket könnyen feldolgozhatod AI-val.

Tipp: Mielőtt szöveget adna az MI-nek, végezze el az 5 másodperces tesztet: „Van valami ebben a tartalomban, ami azonosítani tudna egy személyt?” Ha a válasz „igen/talán”, maszkolja magát, vagy vezessen jóváhagyott járművet. Ha kétségei vannak, fontolja meg a pirosat.

Vállalatirányítás: személytől rendszerig

A felelős nyilvános mesterséges intelligencia nem hagyható az egyes köztisztviselők jóakaratára; Intézményi keretre van szükség:

• Házirend: Az intézménynek rendelkeznie kell mesterséges intelligencia felhasználási szabályzattal: mely eszközöket hagyják jóvá, milyen adatok vihetők be, ki a felelős.
• Jóváhagyott eszközlista: A személyzetnek olyan eszközöket kell használnia, amelyeket az intézmény értékelt és jóváhagyott, nem véletlenszerűen.
• Képzés: A személyzetnek ismernie kell az ellenőrzési fegyelmet és az adatrégiókat (mint ez a modul).
• Rögzítés és auditálás: A mesterséges intelligencia segítségével hozott döntések ellenőrzési nyomvonalát meg kell őrizni.
• Elszámoltathatóság: Minden mesterséges intelligencia által működtetett kimenetnek emberi tulajdonossal és jóváhagyással kell rendelkeznie. A felelősség az intézményt és a tisztet terheli, nem a járművet.
• Emberközpontú elv: Emberi beleegyezés nélkül nem születik végső jogteremtő/korlátozó döntés.

három mini tok

1. eset – A piros adatszivárgás megakadályozva. Egy munkatárs egy nyilvános eszközbe készült egy összefoglalót feltölteni az 1200 embert érintő egészségügyi előnyök listájáról. Az ügynökség jóváhagyott járműszabályzatának és a "vörös adatok" képzésének köszönhetően leállt; Az adatokat házon belül jóváhagyott környezetben dolgozták fel, az identitásmezőket maszkolva. A KVKK esetleges megsértését és több tízezer ember bizalmának elvesztését sikerült megakadályozni.

2. eset – Visszaélés. Az egyik egység a tájékoztatáshoz gyűjtött adatokat egy választás előtti kommunikációs tervhez kívánta felhasználni. Az adatvédelmi tiszt emlékeztetett a célhoz való ragaszkodás elvére: ez az adatok gyűjtési céltól eltérő és jogellenes felhasználása. A kérést elutasították.

3. eset – Az irányítási szakadék megszűnt. Egy településen különböző egységek különböző mesterséges intelligencia-eszközöket használtak ellenőrzés nélkül; Senki sem tudta, melyik adat hova került. Az ügynökség bevezette a mesterséges intelligencia használatára vonatkozó szabályzatot, jóváhagyott járműlistát és ellenőrzési nyomvonalat; 3 hónap alatt 90%-kal csökkent a nem regisztrált járműhasználat és adatleltár készült.

Négy másolható sablon

1) Adatrégió besorolás (a járműbe történő exportálás előtt):

Az Ön szerepe: adatvédelmi tanácsadó. Osztályozza a következő tartalmat, mielőtt átadná egy MI-ügynöknek: PIROS (személyazonosító, soha nem száll be tömegközlekedési járműbe), SÁRGA (közvetetten csatlakoztatható, maszk), ZÖLD (nem személyes, ingyenes). Jelölje meg egyenként a piros/sárga területeket, és mondja el nekik, hogyan kell maszkolni. Számolja a gyanúsítottat vörösnek. TARTALOM: [szöveg]

2) Maszkolás/anonimizálás:

A következő szöveg feldolgozása előtt minden személyes adatot anonimizáljon: név -> [SZEMÉLY-1], azonosítószám -> [AZONOSÍTÁS], lakcím ->[CÍM], egészségi állapot/büntetés -> [ÉRZÉKENY]. Jelölje meg ugyanazt a személyt. Az anonimizált szöveget külön exportálhatja. Soha ne írjon tényleges adatokat a kimenetre. SZÖVEG: [szöveg]

3) KVKK megfelelőségi ellenőrző lista (MI használatához):

Az Ön szerepe: KVKK megfelelőségi szakértője. Készítsen megfelelőségi ellenőrzőlistát a következő mesterséges intelligencia felhasználásra: (1) a feldolgozás célja jogos és konkrét, (2) kapcsolódik-e a célhoz (másik célra való áttérés), (3) optimalizált-e, (4) biztonságos-e/jóváhagyott-e az eszköz, (5) a megőrzési időszak bizonyos, (6) védettek-e az állampolgári jogok (kifogás, törlés). Jelölje piros zászlóval a hiányzó elemeket. FELHASZNÁLÁS: [recept]

4) Vállalati mesterséges intelligencia keretrendszere:

Az Ön szerepe: állami informatikai irányítási szakértő. Készítsen mesterséges intelligencia felhasználási szabályzati keretet szervezetünk számára: hatókör, jóváhagyott eszközök, adatzónák (piros/sárga/zöld), tiltott felhasználások, emberi jóváhagyási pontok, ellenőrzési nyomvonal, felelősségek, képzés és szabálysértési értesítés. Töltsd ki mindegyik címsort 1-2 mondattal! INTÉZMÉNY: [egység és tipikus munkák]

Gyenge felszólítás / Erős felszólítás

Gyenge: "Összefoglalja ezt a hivatkozási listát."

Erős: "Az Ön szerepköre adatvédelmi tanácsadó. Először is osztályozza ezt a listát adatrégió szerint (piros/sárga/zöld), és jelölje meg az összes személyt azonosító mezőt. A piros/sárga mezőket maszkolja [SZEMÉLY]/[AZONOSÍTÁS]/[ÉRZÉKENY], ugyanazt a személyt tartsa ugyanazzal a címkével. Csak kategória-összefoglalót készítsen névtelenül, ahol ez a folyamat végére kerüljön sor, az összesített adatokhoz ne írjon ki valós adatokat. a KVKK szempontjából (cél, tárolás, járműbiztonság) add."

A különbség: a hatékony prompt osztályozza, maszkolja, minimalizálja és integrálja a KVKK elveit az adatok feldolgozása előtt.

Adatrégiók és szabály

Régió

példa

szabály

piros

TR azonosító szám, egészség, büntetés, teljes cím

Soha ne szálljon be tömegjárműbe; jóváhagyott környezet

sárga

Életkor+szomszédság+foglalkozás, közvetett azonosító

Maszk/aggregátum, majd feldolgozzuk

zöld

Jogszabályok, közstatisztika, általános eljárás

szabadúszó munka

Gyakori hibák

• Piros adatok exportálása nyilvános eszközbe. A legsúlyosabb jogsértés; Az azonosító/egészségügyi/büntetési adatok nem hagyják el a jóváhagyott környezetet.
• Visszaélés. Törvénysértő az egy célra gyűjtött adatok engedély nélküli felhasználása más célra (modellképzés, kommunikáció).
• Túl sok adat feldolgozása. Ne helyezze át a felesleges mezőket (név, cím) a cél érdekében; Minimalizálás.
• Vezetés engedély nélkül. Nem világos, hogy az intézmény által nem értékelt járművekben hova kerülnek az adatok.
• Nem határozza meg a megőrzési időt. Az adatokat törölni kell, ha a cél megvalósul; nem szabad a végtelenségig megőrizni.
• A felelősséget a járműre hárítani. A kimenetet az ember birtokolja és jóváhagyja; Az „AI megcsinálta” nem védekezés.

Összefoglalva

A felelős nyilvános mesterséges intelligencia kerete a személyes adatok védelme és a vállalatirányítás. A KVKK elvei – céltudatosság, minimalizálás, biztonság, megőrzési korlát, állampolgári jogok – korlátozzák az MI használatát. Az adatokat vörös/sárga/zöld zónákba különítse el, soha ne adjon pirosat nyilvános eszköznek, takarja el a személyes adatokat, csak engedélyezett eszközöket használjon, és minden döntéshez kössön emberi tulajdonost. Intézményi szintű szabályzat, jóváhagyott járműlista, képzési és ellenőrzési jegyzőkönyv; A személyi szintű verifikáció fegyelme. Így a mesterséges intelligencia a nyilvánosságot szolgálja azáltal, hogy védi az állampolgárok jogait.

Pályázati feladat

Válasszon ki egy tényleges AI-használatot, amelyet az egységében alkalmazott (vagy fontolgat). Válassza szét a feldolgozni kívánt tartalmat pirosra/sárgára/zöldre az „Adatrégió-besorolás” sablon segítségével. Alkalmazza a „KVKK megfelelőségi ellenőrzőlista” sablont, és keressen meg legalább egy hiányzó/kockázatos pontot. Végül készítsen egy rövid szabályzatot, amely megfelel az egységnek a „Corporate AI policy skeleton” segítségével.

ellenőrző lista

• [ ] A tartalmat piros/sárga/zöld zónára osztottam; A gyanúsítottat vörösnek tartottam.
• [ ] A piros adatokat nem adtam meg a nyilvános eszköznek; Jóváhagyott médiát használtam.
• [ ] Maszkíroztam a személyes adatokat és eltávolítottam a felesleges mezőket (minimalizálás).
• [ ] Ellenőriztem az adatkezelés célját, a tárolási időt és a jármű biztonságát.
• [ ] Figyelembe vettem az állampolgárok tiltakozási/törlési jogát.
• [ ] Minden kimenethez csatoltam egy emberi tulajdonost és jóváhagyást; Ellenőrző nyomvonalat vezettem.

Modul vizsga

1. Köztisztviselőként mi a legfontosabb kérdés, amelyet fel kell tennie, mielőtt átadna egy munkát az MI-nek?

• A) Mit veszít az állampolgár, ha ez a kimenet rossz? ✔
• B) Milyen gyorsan tudja az AI elvégezni ezt a munkát?
• C) Ez az AI-eszköz ingyenes?
• D) Más egység is használja ezt a kimenetet?

Magyarázat: Az átruházásról szóló döntés az állampolgárt hibás kimenet esetén elszenvedő kár alapján történik. A sebzés könnyen átvihető, ha csak néhány percnyi újraírásról van szó; Ha tisztességtelen elutasításról, hibás büntetésről vagy jogvesztésről van szó, az AI csak tervezetet készít, a döntés és az ellenőrzés a hivatalos személyt illeti meg.

2. Hogy hívják azt, amikor a mesterséges intelligencia valósnak mutat be egy nem létező törvényt vagy egy koholt bírósági határozatot?

• A) Gyorsítótár
• B) osztályozás
• C) Anonimizálás
• D) Hallucinációk ✔

Magyarázat: A hallucináció az, amikor a mesterséges intelligencia magabiztosan olyan információkat állít elő, amelyek valójában nem is léteznek (kitalált anyag, hatályon kívül helyezett szabályozás, rossz szám). A jogalkotás területén ez az egyik legveszélyesebb kockázat, mivel jogvesztéshez és a közigazgatási intézkedés visszavonásához vezethet.

3. Egy tiszt az YZ által hivatkozott rendeleti cikk alapján a kérelmet elutasítja. Melyik a leghelyesebb viselkedés?

• A) Az AI közvetlenül írja ki az elutasítást, mert magabiztosnak tűnik
• B) Tegye fel ugyanezt a kérdést egy másik AI járműnek, és kapjon megerősítést
• C) Megerősíti a cikket a Çözüm.gov.tr ​​oldalon található jelenlegi egységes szerkezetbe foglalt szövegből ✔
• D) Szóban megkérdezi a döntést egy felettesétől

Leírás: A mesterséges intelligencia képzési adatai egy bizonyos napon lefagynak; Lehet, hogy a benne szereplő cikket hatályon kívül helyezték vagy módosították. Ha a határozat meghozatala előtt megerősítjük, hogy a cikk és annak végleges változata a jelenlegi egységes szerkezetbe foglalt szövegből a Çözüm.gov.tr‐on hatályos, megakadályozza a tisztességtelen elutasítást és az esetleges megsemmisítési keresetet.

4. Miért minőségbiztosítás, ha egy állampolgári chatbot azt mondhatja, hogy „nem tudom, áthelyezlek egy tisztviselőhöz”?

• A) Javítja a statisztikákat azáltal, hogy növeli a forgási arányt
• B) Megakadályozza a félretájékoztatást azáltal, hogy emberekre ruházza át az információkat, ha bizonytalan ✔
• C) Meghosszabbítja a hívási időt azáltal, hogy elvonja az állampolgárok figyelmét
• D) Lehetővé teszi, hogy a chatbot kevesebb kérdést kapjon

Magyarázat: Nyilvánosan egy magabiztos rossz válasz sokkal költségesebb, mint egy őszinte válasz; Ez a jogok elvesztéséhez és az intézmény iránti bizalmatlansághoz vezet. A chatbot azon képessége, hogy átadja az embernek, ha bizonytalan, olyan biztonsági mechanizmus, amely megakadályozza a hallucinációs félretájékoztatást.

5. Mi a legfontosabb kockázat, amelyet figyelembe kell venni az MI-vel folytatott hivatalos levelezés „egyszerűsítése” során?

• A) A szöveg túl rövid
• B) Betűtípus módosítása
• C) Feltétel vagy kivétel elvetése ✔
• D) A címzett nevének hibás írása

Magyarázat: A stilisztikai adaptáció nem változtathatja meg a tartalmat. Az egyszerűsítés során a mesterséges intelligencia néha elvet egy kivételt, feltételt vagy időtartamot. Ezért az egyszerűsített szöveget mindig össze kell hasonlítani az eredeti határozattal vagy jogszabálylal.

6. Név és T.R. egy adathalmazban. Hogy hívják azt, ha a 'környék + születési év + fogyatékosság típusa' kombináció felfedheti az embert akkor is, ha az azonosítószámot törölték?

• A) Újradefiníció ✔
• B) Adatminimalizálás
• C) Lefedettségi ráta
• D) Konszolidáció

Magyarázat: Az újraazonosítás egy személy megtalálása közvetett azonosítók kombinációjával a névtelennek vélt adatokból. Ha egy személyben ritka kategória található, a név törlése nem lesz elég; További intézkedésekre van szükség, mint például az életkor tartományra való konvertálása és a ritka kategóriák kombinálása.

7. Hogyan nevezik azt, amikor egy ellenőrzési modell egy korábban erősen ellenőrzött környéket „kockázatosnak” jelöl, és több ellenőrzést küld oda, ami arra készteti a modellt, hogy azt a környéket kockázatosabbnak tekintse?

• A) Adatminimalizálás
• B) Hallucináció
• C) Anonimizálás
• D) Visszacsatoló hurok ✔

Magyarázat: A visszacsatolási hurok az, amikor a modell kimenete befolyásolja a későbbi betanítási adatokat, megerősítve a meglévő torzítást. A különbség nem a tényleges kockázatban növekszik, hanem abban, hogy honnan nézzük. A védekezés módja a hatás figyelése, nem a kimenet, és a döntések csoportalapú eloszlásának ellenőrzése.

8. Miután egy ellátási kérelem teljesen online költözött, az első hónapban 30 százalékkal csökkent a kérelmek száma. Mi ennek a legvalószínűbb magyarázata?

• A) A polgárok valós szükségletei csökkentek
• B) Kimaradtak az internettel és digitális írástudással nem rendelkező polgárok ✔
• C) Csökkent a kamat, mert csökkent a támogatási összeg
• D) A rendszer automatikusan jóváhagyott minden kérelmet

Leírás: A digitális megosztottság az, hogy az internet-hozzáféréssel vagy digitális írástudással nem rendelkező polgárok nem tudnak hozzáférni a szolgáltatásokhoz. Csökken a létszám, mert a leginkább rászoruló csoport, az idősek és az internettel nem rendelkező polgárok nem tudnak jelentkezni. A megoldás az alternatív csatornák, például a támogatott hivatkozási pontok elhagyása.

9. Míg a tényleges sikerarány egy éves jelentésben 63 százalék, az YZ által készített vezetői összefoglaló szerint „a pályázatok túlnyomó többsége pozitív volt”. Mi a helyes viselkedés?

• A) A kifejezést hagyjuk úgy, ahogy van, mert pozitív.
• B) Az arány törlődik, és csak a minőségi kifejezés kerül felhasználásra
• C) A kifejezés helyére a valós szám 63 százalék ✔
• D) Az összefoglaló teljesen kikerül a jelentésből

Magyarázat: A nyilvános jelentésben szereplő túlzó pozitív megítélés nehéz helyzetbe hozza az intézményt a későbbi ellenőrzések során. A vezetői összefoglalóban minden egyes követelést össze kell hasonlítani a nyers adatokkal, és meg kell írni a tényleges számot (63 százalék); A mesterséges intelligencia összefoglalóit auditálás nélkül nem tartalmazza a jelentés.

10. Ha a közszférában adatalapú döntéseket hozunk, ha a „havonta lezárt ügyiratok száma” növekszik, miközben az „első kapcsolatfelvételi feloldási arány” csökken, mit tanít ez nekünk először?

• A) A megfelelő mutató kiválasztása fontosabb, mint a ✔ szám szorzása
• B) Növelni kell a létszámot
• C) A grafikonokat ki kell színezni
• D) A chatbotnak több kérdésre kell válaszolnia

Magyarázat: A rossz mutató még helyes adatok mellett is rossz döntéshez vezet. A fájlok gyorsan bezárhatók és újra megnyithatók. A megfelelő indikátor kiválasztása és a mutatók együttes leolvasása megakadályozza a pusztán félrevezető számon alapuló kérkedést.

11. Egy diagramon a függőleges tengely nulla helyett 40-nél kezdődik, és a 2 százalékos növekedés drámai ugrásnak tűnik, milyen probléma példája?

• A) Hallucináció
• B) Adatminimalizálás
• C) Digitális megosztottság
• D) Félrevezető vizualizáció ✔

Magyarázat: A félrevezető megjelenítés olyan technikák révén torzítja az észlelést, mint a tengely nem nulláról indul ki, aránytalan lépték vagy kiválasztott időszak. A nyilvános adatok becsületes vizuális irányításának része; A valós táblázatot úgy kell megjeleníteni, hogy a tengelyt nullára húzzuk.

12. Miért elfogadhatatlan egy adminisztratív intézkedés indoklásaként azt mondani, hogy „az AI ezt írta”?

• A) Mert az AI-eszközök túl drágák
• B) Az adminisztratív intézkedésnek indokoltnak kell lennie, és a felelősség a tisztviselőt terheli ✔
• C) Mert a mesterséges intelligencia nem tud törökül
• D) Mert a polgárok nem szeretik az AI-t

Magyarázat: Az adminisztratív intézkedésnek indokoltnak és ellenőrizhetőnek kell lennie; A felelősség nem az MI-t terheli, hanem azt az állami tisztviselőt és intézményt, amely a kimenetet ellenőrzés nélkül használja fel. „Az AI azt mondta” nem indok, és nem támogatja az adminisztratív intézkedést.

13. Mi az a négy alapelv, amely megkülönbözteti a mesterséges intelligencia közszférában való használatát a magánszektorban, és amelyeket ezenkívül be kell tartani?

• A) Gyorsaság, olcsóság, jövedelmezőség, verseny
• B) Automatizálás, méretarány, marketing, márka
• C) Egyenlőség, átláthatóság, elszámoltathatóság, személyes adatok védelme ✔
• D) Adatvédelem, titoktartás, adatvédelem és titoktartás

Magyarázat: Azoknál a műveknél, ahol közhatalmat használnak, az AI keretein belül az egyenlőség (hasonló helyzet hasonló kezelése), az átláthatóság (a döntés indoklásának megmagyarázhatósága), az elszámoltathatóság (minden egyes tranzakcióért és az ellenőrzési nyomvonalért felelős) és a személyes adatok védelme (KVKK) elve áll.

14. Mit tegyen egy automatizált elővizsgálati rendszer, ha nem biztos a ritka dokumentumtípusban?

• A) A kérelmet csendben elutasítani
• B) A kérelem továbbítása emberi felülvizsgálatra ✔
• C) A kérelem automatikus jóváhagyása
• D) Törölje az alkalmazást

Magyarázat: A jó automatizálás a modellt a tiszthez irányítja, ha az bizonytalan, nem pedig csendben elutasítja. Ellenkező esetben a jogos alkalmazások holttérbe kerülnek, és áldozattá válnak. Az emberek döntési ponton tartása a kivételkezelés alapja.