KVKK, поверителност и отговорно управление на публичния изкуствен интелект

Печалби:

• Той прилага принципите на KVKK и минимизиране на данните при обработката на лични данни на гражданите в инструменти на AI.
• Той установява рамка за управление на организация, която включва политика за използване на AI, одитна пътека и верига от отговорност.
• Той холистично твърди, че отговорният публичен ИИ е изграден върху човешки надзор, прозрачност и отчетност.

По време на този модул видяхме как AI е мощен ускорител в обществото: отговор на граждански въпроси, петиции и кореспонденция, законодателни изследвания, анализ на политиката, докладване, вземане на решения, базирано на данни, електронно управление и прозрачност. Сега стигаме до рамката, която държи всичко заедно: защита на личните данни и отговорно управление. Публичното по своята същност обработва най-чувствителните данни на гражданина: самоличност, адрес, доход, здраве, криминално досие, семейно положение. Обработването на тези данни с AI инструменти трябва да отговаря изцяло на рамката на KVKK (Закон за защита на личните данни № 6698; законът, регулиращ законосъобразното, ограничено и сигурно обработване на лични данни). В тази последна част ще установим гръбнака на поверителността и управлението на публичното използване на AI – какви данни могат да бъдат предоставени на кой инструмент, какви политики се прилагат, кой е отговорен, как една организация управлява безопасно AI. Тази единица е покривът, поставен върху предишните десет единици.

Основни принципи на KVKK, засягащи публичния AI

KVKK определя няколко основни принципа, всеки от които директно ограничава използването на AI:

• Спазване на закона и спазване на целта: Личните данни се обработват само за конкретна, законна цел. Данните, събрани за една цел (например кандидатстване за помощ), не могат да се използват за друга цел (например обучение на модел) без разрешение.
• Минимизиране на данните: Не се обработват повече данни, отколкото е необходимо за целта. Ако не се изисква име за анализ на категория, не се дава име.
• Сигурност: Данните са защитени срещу неоторизиран достъп. Поставянето на граждански данни в публичен AI инструмент извежда тези данни извън организацията — това е нарушение на политиката за сигурност.
• Период на съхранение: Данните се изтриват, когато целта приключи; Не се пази безкрайно време.
• Информация и права: Гражданите имат право да знаят как се обработват техните данни, коригират, изтриват и възразяват срещу автоматизирани решения.

Внимание: Качването на данни на гражданин в публичен AI инструмент, който институцията не е одобрила, къде се съхраняват данните и не е ясно кой има достъп до тях, в повечето случаи е нарушение на KVKK и отваря институцията за санкции. Правилата никога не се променят "за да улеснят работата".

Кои данни, към кое превозно средство? Тризонов модел

Като основно правило, разделете данните на три области:

1. Червено (никога не влиза в обществено превозно средство): личен номер, здравословно състояние, криминална принадлежност, религия, етническа принадлежност, биометрични данни, пълен адрес, всичко, което идентифицира лицето. Те се обработват само в договорена/вътрешна и съвместима с KVKK среда, одобрена от институцията.
2. Жълто (внимателно, чрез маскиране): Данни, които могат да бъдат косвено свързани с лицето. Първо анонимизирайте/обединете, след това обработете.
3. Зелено (безплатно): Безлична, публична, обща информация (законодателен текст, публична статистика, обща процедура). Можете лесно да ги обработвате с AI.

Съвет: Преди да дадете текст на AI, направете 5-секундния тест: „Има ли нещо в това съдържание, което може да идентифицира човек?“ Ако отговорът е „да/може би“, маскирайте се или карайте одобрено превозно средство. Ако се съмнявате, помислете за червено.

Корпоративно управление: от човек към система

Отговорният публичен ИИ не може да бъде оставен на добрата воля на отделните държавни служители; Необходима е институционална рамка:

• Политика: Институцията трябва да има политика за използване на AI: кои инструменти са одобрени, какви данни могат да се въвеждат, кой е отговорен.
• Списък с одобрени инструменти: Персоналът трябва да използва инструменти, които институцията е оценила и одобрила, а не на случаен принцип.
• Обучение: Персоналът трябва да познава дисциплината за проверка и регионите на данни (като този модул).
• Записване и одит: Трябва да се поддържа одитна пътека на решенията, направени с AI.
• Отчетност: Всеки изход, задвижван от AI, трябва да има човешки собственик и одобрение. Отговорността е на институцията и служителя, а не на превозното средство.
• Принцип, ориентиран към човека: Никакво окончателно решение за създаване/ограничаване на права не се взема без съгласието на човека.

три мини калъфа

Случай 1 — Предотвратено червено изтичане на данни. Член на персонала се канеше да качи резюме на списък със здравни ползи за 1200 души в публичен инструмент. Благодарение на одобрената от агенцията политика за превозни средства и обучението за „червени данни“, той спря; Данните бяха обработени във вътрешно одобрена среда и с маскирани полета за самоличност. Беше предотвратено евентуално нарушение на КВКК и загуба на доверие на десетки хиляди хора.

Случай 2 — Злоупотреба. Едно звено искаше да използва събраните данни за обхват за предизборен комуникационен план. Длъжностното лице по защита на данните припомни принципа на спазване на целта: това е използване на данните извън целта, за която са събрани, и е незаконно. Искането беше отхвърлено.

Случай 3 — Премахване на пропуските в управлението. В една община различни звена използваха различни AI инструменти без контрол; Никой не знаеше кои данни къде отиват. Агенцията въведе политика за използване на AI, списък с одобрени превозни средства и одитна пътека; В рамките на 3 месеца използването на нерегистрирани превозни средства е намаляло с 90% и е създаден списък с данни.

Четири копируеми шаблона

1) Класификация на региона на данните (преди експортиране към превозното средство):

Вашата роля: съветник по защита на данните. Класифицирайте следното съдържание, преди да го дадете на AI агент: ЧЕРВЕНО (идентифицира лице, никога не влиза в обществено превозно средство), ЖЪЛТО (непряко свързано, маска), ЗЕЛЕНО (не е лично, безплатно). Маркирайте червените/жълтите области една по една и им кажете как да маскират. Бройте заподозрения като червен. СЪДЪРЖАНИЕ: [текст]

2) Маскиране/анонимизиране:

Анонимизирайте всички лични данни, преди да обработите следния текст: име -> [ЛИЦЕ-1], личен номер -> [САМОЛИЧНОСТ], адрес ->[АДРЕС], здраве/наказание -> [ЧУВСТВИТЕЛНО]. Тагнете същия човек. Експортирайте анонимизиран текст отделно. Никога не записвайте действителни данни в изхода. ТЕКСТ: [текст]

3) Контролен списък за съответствие с KVKK (за използване на AI):

Вашата роля: специалист по съответствие на KVKK. Създайте контролен списък за съответствие за следната употреба на ИИ: (1) законна и конкретна ли е целта на обработката, (2) свързана ли е с целта (преминава ли към друга цел), (3) оптимизирана ли е, (4) защитен/одобрен ли е инструментът, (5) сигурен ли е периодът на съхранение, (6) защитени ли са правата на гражданите (възражение, изтриване). Маркирайте липсващите елементи с червен флаг. УПОТРЕБА: [рецепта]

4) Рамка на корпоративната политика за ИИ:

Вашата роля: публичен експерт по ИТ управление. Създайте рамка на правила за използване на AI за нашата организация: обхват, одобрени инструменти, зони за данни (червено/жълто/зелено), забранени употреби, точки за одобрение от хора, одитна пътека, отговорности, обучение и известие за нарушение. Попълнете всяко заглавие с 1-2 изречения. ИНСТИТУЦИЯ: [звено и типични работни места]

Слаба подкана / Силна подкана

Слаб: „Обобщете този списък с препратки.“

Силно: „Вашата роля е консултант по защита на данните. Първо, класифицирайте този списък по регион на данните (червен/жълт/зелен) и маркирайте всички полета, които идентифицират лицето. Маскирайте червените/жълти полета с [ЛИЦЕ]/[САМОЛИЧНОСТ]/[ЧУВСТВИТЕЛНО], запазете същото лице със същия етикет. Създайте само резюме на категория с анонимизирани, обобщени данни; не пишете истински лични данни в изхода. Накрая отбележете къде този процес изисква внимание по отношение на KVKK (предназначение, съхранение, сигурност на превозното средство).

Разликата: мощната подкана класифицира, маскира, минимизира и интегрира принципите на KVKK преди обработка на данните.

Области на данни и правило

Регион

пример

правило

червено

TR ID номер, здраве, наказание, пълен адрес

Никога не влизайте в обществено превозно средство; одобрена среда

жълто

Възраст+квартал+професия, индиректен идентификатор

Маскиране/агрегиране, след това обработка

зелено

Законодателство, публична статистика, общ ред

работа на свободна практика

Често срещани грешки

• Експортиране на червени данни към публичен инструмент. Най-сериозното нарушение; Данните за самоличност/здраве/наказания не напускат одобрената среда.
• Злоупотреба. Използването на данни, събрани за една цел, за друга цел (обучение на модели, комуникация) без разрешение е противозаконно.
• Обработват се твърде много данни. Не премествайте ненужните за целта полета (име, адрес); Минимизиране.
• Шофиране без разрешение. Не е ясно къде отиват данните в превозните средства, които институцията не е оценила.
• Без определяне на периода на съхранение. Данните трябва да бъдат изтрити, когато целта е изпълнена; не трябва да се съхранява за неопределено време.
• Прехвърляне на отговорността върху автомобила. Резултатът е собственост и одобрен от човека; „ИИ го направи“ не е защита.

В обобщение

Рамката за отговорен публичен ИИ е защитата на личните данни и корпоративното управление. Принципите на KVKK — целенасоченост, минимизиране, сигурност, лимит на задържане, права на гражданите — ограничават всяко използване на AI. Разделете данните в червени/жълти/зелени зони, никога не давайте червено на обществен инструмент, маскирайте лични данни, използвайте само одобрени инструменти и свързвайте човешки собственик с всяко решение. Политика на институционално ниво, списък с одобрени превозни средства, запис за обучение и проверка; Дисциплината на проверката на ниво човек. По този начин AI служи на обществеността, като защитава правата на гражданите.

Задача за приложение

Изберете действително използване на AI, което сте направили (или обмисляте да направите) във вашето устройство. Разделете съдържанието, което ще обработите, на червено/жълто/зелено с шаблона „Класификация на региона на данни“. Приложете шаблона „KVKK контролен списък за съответствие“ и намерете поне една липсваща/рискова точка. И накрая, начертайте кратка политика, подходяща за вашето звено с „корпоративен скелет на политиката за ИИ“.

контролен списък

• [ ] Разделих съдържанието на червена/жълта/зелена зона; Преброих заподозрения като червен.
• [ ] Не предоставих червените данни на публичния инструмент; Използвах одобрени медии.
• [ ] Маскирах личните данни и премахнах ненужните полета (минимизиране).
• [ ] Проверих целта на обработката, срока на съхранение и сигурността на автомобила.
• [ ] Спазих правата на гражданите на възражение/изтриване.
• [ ] Прикачих човешки собственик и одобрение към всеки изход; Поддържах одитна пътека.

Изпит по модул

1. Като държавен служител, кой е най-приоритетният въпрос, който трябва да зададете, преди да възложите работа на AI?

• А) Какво губи гражданинът, ако този резултат е грешен? ✔
• B) Колко бързо AI може да свърши тази работа?
• C) Безплатен ли е този AI инструмент?
• D) Друго устройство също ще използва ли този изход?

Обяснение: Решението за прехвърляне се взема въз основа на щетите, които гражданинът ще понесе, ако резултатът е неправилен. Щетите се прехвърлят лесно, ако са само няколко минути пренаписване; Ако това е несправедливо отхвърляне, грешно наказание или загуба на права, AI изготвя само чернова, решението и проверката принадлежат на длъжностното лице.

2. Как се нарича, когато AI представя несъществуващ закон или скалъпено съдебно решение за реално?

• А) Кеширане
• Б) Триаж
• В) Анонимизиране
• D) Халюцинации ✔

Обяснение: Халюцинация е, когато AI уверено произвежда информация, която всъщност не съществува (изфабрикувана субстанция, отменен регламент, грешен номер). В областта на законодателството това е един от най-опасните рискове, тъй като може да доведе до загуба на права и отмяна на административното действие.

3. Служител е на път да отхвърли молбата въз основа на член от регламента, посочен от YZ. Кое е най-правилното поведение?

• A) AI директно пише отказа, защото изглежда уверен
• B) Задайте същия въпрос на друго превозно средство с изкуствен интелект и получете потвърждение
• C) Потвърждава статията от текущия консолидиран текст на Çözüm.gov.tr ✔
• Г) Пита устно решението на началник

Описание: Данните за обучение на AI са замразени на определена дата; Статията, която показва, може да е била отменена или променена. Потвърждаването, че членът е в сила и окончателната му версия от текущия консолидиран текст на Çözüm.gov.tr ​​​​преди решението предотвратява несправедливо отхвърляне и евентуално дело за анулиране.

4. Защо е гаранция за качество за граждански чатбот да може да каже „Не знам, прехвърлям ви към длъжностно лице“?

• A) Подобрява статистиката чрез увеличаване на текучеството
• B) Предотвратява дезинформация, като делегира информация на хората, когато не сте сигурни ✔
• В) Удължава времето за разговор, като разсейва гражданите
• Г) Позволява на чатбота да получава по-малко въпроси

Обяснение: В публичното пространство увереният грешен отговор е много по-скъп от честния отговор; Води до загуба на права и недоверие към институцията. Способността на чатбота да предава на човека, когато не е сигурен, е механизъм за безопасност, който предотвратява халюцинаторна дезинформация.

5. Какъв е най-важният риск, който трябва да имате предвид, когато „опростявате“ официалната кореспонденция с AI?

• А) Текстът е твърде кратък
• Б) Промяна на шрифта
• C) Отпадане на условие или изключение ✔
• Г) Грешно изписване на името на адресата

Обяснение: Стилистичната адаптация не трябва да променя съдържанието. Когато опростява, AI понякога пропуска изключение, условие или продължителност. Следователно опростеният текст трябва винаги да се сравнява с оригиналното решение или закон.

6. Име и Т.Р. в набор от данни. Как го наричате, когато комбинацията от „квартал + година на раждане + вид увреждане“ може да разкрие човек, дори ако личният номер е изтрит?

• A) Предефиниране ✔
• B) Минимизиране на данните
• В) Степен на покритие
• Г) Консолидация

Обяснение: Повторната идентификация е намиране на човек чрез комбинация от косвени идентификатори от данни, които се смятат за анонимни. Ако се намери рядка категория в един човек, изтриването на името няма да е достатъчно; Необходими са допълнителни мерки, като преобразуване на възраст в обхват и комбиниране на редки категории.

7. Как се нарича, когато модел за инспекция маркира квартал, който е бил силно инспектиран в миналото, като „рисков“ и изпраща повече инспекции там, което тласка модела да вижда този квартал като по-рисков?

• А) Минимизиране на данните
• Б) Халюцинации
• В) Анонимизиране
• D) Цикъл за обратна връзка ✔

Обяснение: Веригата за обратна връзка е, когато изходът на модела засяга последващи данни за обучение, засилвайки съществуващото отклонение. Разликата се увеличава не в реалния риск, а в това къде се гледа. Начинът да се предпазите е да наблюдавате въздействието, а не резултата, и да контролирате груповото разпределение на решенията.

8. След като заявление за обезщетения се премести изцяло онлайн, броят на заявленията спадна с 30 процента през първия месец. Какво е най-вероятното обяснение за това?

• А) Реалните потребности на гражданите са намалели
• Б) Гражданите без интернет и цифрова грамотност бяха пропуснати ✔
• В) Лихвите намаляха, защото сумата на помощта намаля
• Г) Системата автоматично одобри всички заявления

Описание: Цифровото разделение е неспособността на гражданите без достъп до интернет или цифрова грамотност да получат достъп до услуги. Броят намалява, тъй като най-нуждаещата се група, възрастните и гражданите без интернет, не може да кандидатства. Решението е да оставите алтернативни канали, като например подпомогнати точки за препращане.

9. Въпреки че действителният процент на успеваемост в годишен отчет е 63 процента, в резюмето, направено от YZ, се казва, че „по-голямата част от кандидатурите са положителни“. Какво е правилното поведение?

• А) Изразът се оставя така, защото е положителен.
• B) Съотношението се изтрива и се използва само качественият израз
• В) Изразът се заменя с реалното число 63 процента ✔
• Г) Резюмето е напълно премахнато от отчета

Обяснение: Преувеличената положителна представа в публичния доклад поставя институцията в трудна ситуация при последващи одити. Всяко твърдение в резюмето трябва да бъде сравнено с необработените данни и трябва да бъде написан действителният брой (63 процента); Обобщенията на AI не се включват в доклада, без да бъдат одитирани.

10. Когато вземаме решения, базирани на данни в публичния сектор, ако „броят на файловете, затворени месечно“ се увеличава, докато „процентът на разрешаване при първи контакт“ намалява, на какво първо ни учи това?

• A) Изборът на правилния индикатор е по-важен от умножаването на числото ✔
• Б) Броят на персонала трябва да се увеличи
• В) Графиките трябва да са оцветени
• Г) Чатботът трябва да отговаря на повече въпроси

Обяснение: Грешният индикатор води до грешно решение дори при правилни данни. Файловете могат бързо да се затварят и отварят отново. Изборът на правилния индикатор и четенето на индикаторите заедно предотвратява самохвалство, основано само на подвеждащо число.

11. В диаграмата вертикалната ос започва от 40 вместо от нула и пример за какъв проблем е увеличението от 2 процента изглежда като драматичен скок?

• А) Халюцинации
• B) Минимизиране на данните
• В) Цифрово разделение
• D) Подвеждаща визуализация ✔

Обяснение: Подвеждащата визуализация изкривява възприятието чрез техники като ос, която не започва от нула, непропорционален мащаб или избран период от време. Това е част от честното визуално управление на публичните данни; Истинската таблица трябва да се покаже чрез издърпване на оста до нула.

12. Защо е неприемливо да се каже „AI е написал това“ като оправдание за административно действие?

• A) Защото инструментите за изкуствен интелект са твърде скъпи
• B) Административното действие трябва да бъде обосновано и отговорността се носи от служителя ✔
• В) Защото AI не знае турски
• Г) Защото гражданите не харесват ИИ

Обяснение: Административното действие трябва да бъде обосновано и подлежащо на проверка; Отговорността не е на AI, а на държавния служител и институцията, които използват изхода, без да го проверяват. „ИИ каза така“ не е оправдание и не поддържа административното действие.

13. Кои са четирите принципа, които отличават използването на AI в публичния сектор от частния сектор и които трябва да се спазват допълнително?

• А) Бързина, евтиност, доходност, конкуренция
• B) Автоматизация, мащаб, маркетинг, марка
• В) Равенство, прозрачност, отчетност, защита на личните данни ✔
• Г) Поверителност, поверителност, поверителност и поверителност

Обяснение: В работите, където се използва публична власт, AI е рамкиран от принципите на равенство (подобно третиране на подобна ситуация), прозрачност (обяснимост на обосновката на решението), отчетност (отговорност за всяка транзакция и одитна пътека) и защита на личните данни (KVKK).

14. Какво трябва да направи автоматизираната система за предварителен преглед, когато не е сигурна за рядък тип документ?

• А) Да отхвърлите молбата мълчаливо
• B) Препращане на приложението за проверка от човек ✔
• C) Автоматично одобряване на приложението
• Г) Изтрийте приложението

Обяснение: Добрата автоматизация насочва модела към служителя, когато не е сигурен, вместо мълчаливо да го отхвърля. В противен случай легитимните приложения ще попаднат в сляпо петно ​​и ще възникне виктимизация. Задържането на хората в момента на вземане на решение е в основата на управлението на изключения.