Добици:
- Примењује КВКК принципе и минимизирање података приликом обраде личних података грађана у АИ алатима.
- Он успоставља оквир управљања за организацију који укључује политику употребе вештачке интелигенције, ревизијски траг и ланац одговорности.
- Он холистички тврди да је одговорна јавна вештачка интелигенција изграђена на људском надзору, транспарентности и одговорности.
Током овог модула видели смо како је вештачка интелигенција моћан акцелератор у јавности: одговори на питања грађана, петиције и преписка, законодавна истраживања, анализа политика, извештавање, доношење одлука засновано на подацима, е-влада и транспарентност. Сада долазимо до оквира који све то држи заједно: заштиту личних података и одговорно управљање. Јавност, по својој природи, обрађује најосетљивије податке о грађанину: идентитет, адреса, примања, здравствено стање, кривични досије, породична ситуација. Обрада ових података помоћу АИ алата мора бити у потпуности у складу са оквиром КВКК (Закон о заштити података о личности бр. 6698; закон који регулише закониту, ограничену и безбедну обраду личних података). У овој последњој јединици ћемо успоставити окосницу приватности и управљања јавне употребе вештачке интелигенције – који подаци се могу дати ком алату, које политике се примењују, ко је одговоран, како организација безбедно управља вештачком интелигенцијом. Ова јединица је кров постављен на претходних десет јединица.
Основни принципи КВКК-а који се дотичу јавне АИ
КВКК поставља неколико основних принципа, од којих сваки директно ограничава употребу АИ:
- Усклађеност са законом и придржавање сврхе: Лични подаци се обрађују само за одређену, легитимну сврху. Подаци прикупљени у једну сврху (на пример, пријављивање за помоћ) не могу се користити у другу сврху (на пример, обука модела) без дозволе.
- Минимизација података: Не обрађује се више података него што је потребно за ту сврху. Ако име није потребно за анализу категорије, име се не даје.
- Безбедност: Подаци су заштићени од неовлашћеног приступа. Лепљење података о грађанима у јавни алат за вештачку интелигенцију извлачи те податке ван организације — то је кршење безбедносне политике.
- Период складиштења: Подаци се бришу када се сврха заврши; Не чува се бесконачно.
- Информације и права: Грађани имају право да знају како се њихови подаци обрађују, исправљају, бришу и приговарају аутоматизованим одлукама.
Пажња: Учитавање података о грађанину на јавни алат за вештачку интелигенцију који институција није одобрила, где се подаци чувају и ко има приступ њима је нејасно, у већини случајева представља кршење КВКК-а и отвара институцију за санкције. Правила се никада не савијају „да би се олакшао посао“.
Који подаци, на које возило? Модел са три зоне
Као правило, поделите податке у три региона:
- Црвена (никада не улази у јавно возило): матични број, здравствено стање, криминал, религија, етничка припадност, биометрија, пуна адреса, све што идентификује особу. Они се обрађују само у уговореном/интерном окружењу и окружењу усклађеном са КВКК које је одобрила институција.
- Жута (пажљиво, маскирањем): Подаци који се могу индиректно повезати са особом. Прво анонимизујте/агрегирајте, а затим обрадите.
- Зелено (бесплатно): Безличне, јавне, опште информације (текст закона, јавна статистика, општа процедура). Можете их лако обрадити помоћу вештачке интелигенције.
Савет: Пре него што дате текст АИ, урадите тест од 5 секунди: „Да ли у овом садржају постоји нешто што би могло да идентификује особу?“ Ако је одговор „да/можда“, маскирајте се или возите одобрено возило. Ако сте у недоумици, размислите о црвеној боји.
Корпоративно управљање: од особе до система
Одговорна јавна АИ не може бити препуштена доброј вољи појединачних државних службеника; Потребан је институционални оквир:
- Политика: Институција мора имати политику употребе АИ: који алати су одобрени, који подаци се могу уносити, ко је одговоран.
- Листа одобрених алата: Особље треба да користи алате које је институција проценила и одобрила, а не насумично.
- Обука: Особље мора знати дисциплину верификације и регионе података (као овај модул).
- Евидентирање и ревизија: Ревизијски траг одлука произведених помоћу АИ треба да се води.
- Одговорност: Сваки излаз који покреће АИ мора имати људског власника и одобрење. Одговорност је на институцији и службенику, а не на возилу.
- Принцип усредсређен на човека: Ниједна коначна одлука о стварању/ограничавању права се не доноси без људске сагласности.
три мини кофера
Случај 1 — Спречено је црвено цурење података. Члан особља се спремао да постави резиме листе здравствених бенефиција за 1.200 људи на јавни алат. Захваљујући одобреној политици о возилима агенције и обуци „црвених података“, то је престало; Подаци су обрађени у окружењу одобреном од стране компаније и са маскираним пољима идентитета. Спречено је могуће кршење КВКК-а и губитак поверења за десетине хиљада људи.
Случај 2 — Злоупотреба. Једна јединица је хтела да користи податке прикупљене за информисање о предизборном комуникацијском плану. Службеник за заштиту података је подсетио на принцип придржавања сврхе: ово је било коришћење података ван сврхе за коју су прикупљени и било је незаконито. Захтев је одбијен.
Случај 3 — јаз у управљању је затворен. У једној општини, различите јединице су користиле различите АИ алате без контроле; Нико није знао који су подаци куда отишли. Агенција је увела политику употребе вештачке интелигенције, одобрену листу возила и ревизијски траг; У року од 3 месеца, употреба нерегистрованих возила је смањена за 90% и направљен је инвентар података.
Четири шаблона за копирање
1) Класификација региона података (пре извоза у возило):
Ваша улога: саветник за заштиту података. Класификујте следећи садржај пре него што га дате АИ агенту: ЦРВЕНИ (идентификује особу, никада не улази у јавно возило), ЖУТО (посредно повезивање, маска), ЗЕЛЕНО (нелично, бесплатно). Означите црвене/жуте области једну по једну и реците им како да маскирају. Рачунајте осумњиченог као црвеног. САДРЖАЈ: [текст]
2) Маскирање/анонимизација:
Анонимизујте све личне податке пре обраде следећег текста: име -> [ОСОБА-1], матични број -> [ИДЕНТИТЕТ], адреса ->[АДРЕСА], здравље/казна -> [ОСЕТЉИВО]. Означите исту особу. Извезите анонимни текст засебно. Никада немојте писати стварне податке на излаз. ТЕКСТ: [текст]
3) Контролна листа усклађености са КВКК (за коришћење АИ):
Ваша улога: КВКК специјалиста за усклађеност. Направите контролну листу усклађености за следећу употребу АИ: (1) је сврха обраде легитимна и специфична, (2) да ли је повезана са сврхом (да ли се пребацује на другу сврху), (3) да ли је оптимизована, (4) да ли је алат сигуран/одобрен, (5) да ли је период задржавања сигуран, (6) да ли су права грађана (приговор, брисање) Означите ставке које недостају црвеном заставицом. УПОТРЕБА: [рецепт]
4) Оквир корпоративне политике вештачке интелигенције:
Ваша улога: стручњак за јавно ИТ управљање. Направите оквир политике коришћења вештачке интелигенције за нашу организацију: обим, одобрене алатке, зоне података (црвене/жуте/зелене), забрањене употребе, тачке одобрења људи, ревизијски траг, одговорности, обука и обавештење о кршењу. Попуните сваки наслов са 1-2 реченице. ИНСТИТУЦИЈА: [јединица и типични послови]
Слаби промпт / Јаки промпт
Слабо: „Сажмите ову листу референци.“
Јака: „Ваша улога је консултант за заштиту података. Прво, класификујте ову листу по региону података (црвено/жуто/зелено) и означите сва поља која идентификују особу. Маскирајте црвена/жута поља са [ОСОБА]/[ИДЕНТИТЕТ]/[ОСЕТЉИВА], задржите исту особу са истом ознаком. Направите само резиме категорије са анонимизованим подацима; немојте писати стварне податке на месту где се не уносе збирни подаци. овај процес захтева пажњу у смислу КВКК (намена, складиштење, безбедност возила) додај."
Разлика: моћни промпт класификује, маскира, минимизира и интегрише КВКК принципе пре обраде података.
Региони података и правило
Регион
пример
владати
црвена
ТР ИД број, здравствено стање, казна, пуна адреса
Никада не улазите у јавно возило; одобрено окружење
жута
Старост+суседство+занимање, индиректни идентификатор
Маскирајте/агрегат, а затим обрадите
зелена
Законодавство, јавна статистика, општа процедура
слободни рад
Уобичајене грешке
- Извоз црвених података у јавни алат. Најозбиљнији прекршај; Подаци о личним/здравственим/казнама не напуштају одобрено окружење.
- Злоупотреба. Противзаконито је користити податке прикупљене у једну сврху у друге сврхе (обука модела, комуникација) без дозволе.
- Обрада превише података. Не померајте непотребна поља (име, адресу) у ту сврху; Минимизирајте.
- Вожња без одобрења. Нејасно је где иду подаци у возилима која институција није проценила.
- Неодређивање рока задржавања. Податке треба избрисати када се сврха заврши; не треба чувати на неодређено време.
- Стављање одговорности на возило. Резултат је у власништву и одобрен од стране човека; „АИ је то урадио“ није одбрана.
Укратко
Оквир за одговорну јавну АИ је заштита личних података и корпоративно управљање. КВКК принципи — сврсисходност, минимизација, сигурност, ограничење задржавања, права грађана — ограничавају сваку употребу АИ. Одвојите податке у црвене/жуте/зелене зоне, никада не дајте црвено јавном алату, маскирајте личне податке, користите само одобрене алате и повежите човека власника са сваком одлуком. Политика институционалног нивоа, одобрена листа возила, евиденција о обуци и инспекцијама; Дисциплина верификације на нивоу личности. Дакле, АИ служи јавности штитећи права грађана.
Задатак апликације
Изаберите стварну употребу вештачке интелигенције коју сте користили (или размишљате о томе) у својој јединици. Одвојите садржај који ћете обрадити у црвено/жуто/зелено помоћу шаблона „Класификација региона података“. Примените шаблон „КВКК контролна листа усклађености“ и пронађите најмање једну тачку која недостаје/ризична. Коначно, направите кратку политику која одговара вашој јединици са „костуром политике корпоративне вештачке интелигенције“.
контролна листа
- [ ] Поделио сам садржај на црвену/жуту/зелену зону; Осумњиченог сам рачунао као црвеног.
- [ ] Нисам дао црвене податке јавном алату; Користио сам одобрене медије.
- [ ] Маскирао сам личне податке и уклонио непотребна поља (минимизирање).
- [ ] Проверио сам сврху обраде, период складиштења и сигурност возила.
- [ ] Поштовао сам права грађана на приговор/брисање.
- [ ] Приложио сам човека власника и одобрење за сваки излаз; Водио сам ревизорски траг.
Модул Екам
1. Као јавни званичник, које је најбоље приоритетно питање које треба да поставите пре него што предате посао АИ?
- А) Шта грађанин губи ако је овај излаз погрешан? ✔
- Б) Колико брзо АИ може да уради овај посао?
- Ц) Да ли је овај алат за вештачку интелигенцију бесплатан?
- Д) Да ли ће друга јединица такође користити овај излаз?
Образложење: Одлука о преносу се доноси на основу штете коју ће грађанин претрпети ако је излаз нетачан. Штета се лако преноси ако је потребно само неколико минута поновног писања; Ако је у питању неправедно одбијање, погрешна казна или губитак права, АИ производи само нацрт, одлука и верификација припада службенику.
2. Како се то зове када АИ непостојећи закон или измишљену судску одлуку представља као стварну?
- А) Кеширање
- Б) Тријажа
- Ц) Анонимизација
- Д) Халуцинације ✔
Објашњење: Халуцинација је када АИ поуздано производи информације које заправо не постоје (измишљена супстанца, укинути пропис, погрешан број). У области законодавства, ово је један од најопаснијих ризика, јер може довести до губитка права и поништења административне радње.
3. Службеник ће одбити пријаву на основу члана прописа на који је указао ИЗ. Које је најисправније понашање?
- А) АИ директно пише одбијање јер делује самоуверено
- Б) Поставите исто питање другом АИ возилу и добијте потврду
- Ц) Потврђује чланак из тренутног консолидованог текста на Цозум.гов.тр ✔
- Д) Усмено тражи одлуку надређеном
Опис: Подаци о обуци АИ су замрзнути на одређени датум; Чланак који приказује можда је укинут или измењен. Потврђивање да је чланак на снази и његова коначна верзија из тренутног пречишћеног текста на Цозум.гов.тр пре доношења одлуке спречава неправедно одбијање и могућу тужбу за поништење.
4. Зашто је гаранција квалитета да грађанин цхатбот може да каже 'Не знам, пребацујем те на службеника'?
- А) Побољшава статистику повећањем стопе флуктуације
- Б) Спречава дезинформације делегирањем информација људима када нисте сигурни ✔
- Ц) Продужује време позива ометајући грађане
- Д) Омогућава цхатбот-у да прима мање питања
Објашњење: У јавности, поуздан и погрешан одговор је много скупљи од искреног тумачења; То доводи до губитка права и неповерења у институцију. Способност цхат бота да преда човеку када није сигуран је сигурносни механизам који спречава халуцинантне дезинформације.
5. Који је најважнији ризик који треба узети у обзир приликом 'поједностављења' службене кореспонденције са АИ?
- А) Текст је прекратак
- Б) Промена фонта
- Ц) Одбацивање услова или изузетка ✔
- Г) Погрешно писање имена адресата
Објашњење: Стилска адаптација не би требало да мења садржај. Када поједностављује, АИ понекад испушта изузетак, услов или трајање. Стога, поједностављени текст увек треба упоређивати са оригиналном одлуком или законодавством.
6. Име и Т.Р. у скупу података. Како се то зове када комбинација 'комшилук + година рођења + врста инвалидитета' може открити особу чак и ако је матични број избрисан?
- А) Редефинисање ✔
- Б) Минимизација података
- Ц) Стопа покривености
- Д) Консолидација
Објашњење: Поновна идентификација је проналажење особе кроз комбинацију индиректних идентификатора из података за које се сматра да су анонимни. Ако се ретка категорија нађе у једној особи, брисање имена неће бити довољно; Потребне су додатне мере, као што је претварање старости у опсег и комбиновање ретких категорија.
7. Како се то зове када модел инспекције означи насеље које је у прошлости било интензивно инспекирано као 'ризично' и пошаље тамо више инспекција, што гура модел да види то насеље као ризичније?
- А) Минимизација података
- Б) Халуцинације
- Ц) Анонимизација
- Д) Петља повратне информације ✔
Објашњење: Петља повратне спреге је када излаз модела утиче на накнадне податке обуке, појачавајући постојећу пристрасност. Разлика се не повећава у стварном ризику, већ у томе где се гледа. Начин да се заштитите је да пратите утицај, а не резултат, и да контролишете групну дистрибуцију одлука.
8. Након што се апликација за бенефиције у потпуности преселила на интернет, број апликација је опао за 30 процената у првом месецу. Које је највероватније објашњење за ово?
- А) Стварне потребе грађана су се смањиле
- Б) Грађани без интернета и дигиталне писмености су изостављени ✔
- Ц) Камата је смањена јер се смањио износ помоћи
- Д) Систем је аутоматски одобрио све пријаве
Опис: Дигитални јаз је немогућност грађана без приступа интернету или дигиталне писмености да приступе услугама. Број се смањује јер се не могу пријавити најпотребитији, старији и грађани без интернета. Решење је да напустите алтернативне канале, као што су асистиране референтне тачке.
9. Док је стварна стопа успеха у годишњем извештају 63 процента, извршни сажетак који је направио ИЗ каже да је „огромна већина пријава била позитивна“. Шта је исправно понашање?
- А) Израз је остављен такав какав јесте јер је позитиван.
- Б) Однос се брише и користи се само квалитативни израз
- Ц) Израз се замењује реалним бројем 63 процента ✔
- Д) Сажетак је потпуно уклоњен из извештаја
Образложење: Преувеличана позитивна перцепција у јавном извештају ставља институцију у тешку ситуацију у наредним ревизијама. Сваку тврдњу у резимеу треба упоредити са сировим подацима и написати стварни број (63 процента); АИ резимеи нису укључени у извештај без ревизије.
10. Приликом доношења одлука заснованих на подацима у јавном сектору, ако се 'број затворених фајлова месечно' повећава док се 'стопа резолуције при првом контакту' смањује, чему нас ово прво учи?
- А) Одабир правог индикатора је важнији од множења броја ✔
- Б) Треба повећати број особља
- Ц) Графикони треба да буду обојени
- Д) Цхатбот треба да одговори на више питања
Објашњење: Погрешан индикатор води до погрешне одлуке чак и са тачним подацима. Датотеке се могу брзо затворити и поново отворити. Одабир правог индикатора и заједничко читање индикатора спречава хвалисање само на основу обмањујућег броја.
11. На графикону, вертикална оса почиње од 40 уместо од нуле, а повећање од 2 процента изгледа као драматичан скок је пример ког проблема?
- А) Халуцинације
- Б) Минимизација података
- Ц) Дигитални јаз
- Д) Обмањујућа визуелизација ✔
Објашњење: Обмањујућа визуализација искривљује перцепцију кроз технике као што су оса која не почиње од нуле, непропорционална скала или одабрани временски период. То је део поштеног визуелног управљања јавним подацима; Праву табелу треба приказати повлачењем осе на нулу.
12. Зашто је неприхватљиво рећи 'АИ је то написао' као оправдање за административну акцију?
- А) Зато што су АИ алати прескупи
- Б) Административна радња мора бити оправдана и одговорност је на службенику ✔
- В) Зато што АИ не зна турски
- Д) Зато што грађани не воле вештачку интелигенцију
Објашњење: Административна акција мора бити образложена и подложна ревизији; Одговорност није на АИ, већ на јавном службенику и институцији која користи излаз без провере. „АИ је тако рекао“ није оправдање и не подржава административну акцију.
13. Која су четири принципа који разликују употребу АИ у јавном од приватног сектора и која треба додатно поштовати?
- А) Брзина, јефтиност, профитабилност, конкуренција
- Б) Аутоматизација, размера, маркетинг, бренд
- Ц) Једнакост, транспарентност, одговорност, заштита личних података ✔
- Д) Приватност, поверљивост, приватност и поверљивост
Образложење: У пословима где се користи јавна моћ, АИ је уоквирена принципима једнакости (сличан третман сличне ситуације), транспарентности (објашњивост оправданости одлуке), одговорности (одговоран за сваку трансакцију и ревизијски траг) и заштите података о личности (КВКК).
14. Шта треба да уради аутоматизовани систем пре летења када није сигуран за ретку врсту документа?
- А) да прећутно одбијете апликацију
- Б) Прослеђивање пријаве на људски преглед ✔
- Ц) Аутоматски одобрите апликацију
- Д) Избришите апликацију
Објашњење: Добра аутоматизација усмерава модел ка службенику када није сигуран, уместо да га прећутно одбацује. У супротном, легитимне апликације ће пасти у слепу тачку и доћи ће до виктимизације. Држање људи на месту одлучивања је основа управљања изузетцима.