Добивки:
- Ги применува принципите на KVKK и минимизирање на податоците при обработката на личните податоци на граѓаните во алатките за вештачка интелигенција.
- Воспоставува рамка за управување за организација која вклучува политика за употреба на вештачка интелигенција, ревизорска патека и синџир на одговорност.
- Тој холистички тврди дека одговорната јавна вештачка интелигенција е изградена на човечки надзор, транспарентност и одговорност.
Во текот на овој модул, видовме како вештачката интелигенција е моќен акцелератор во јавноста: одговор на прашања на граѓаните, петиции и кореспонденција, законодавни истражувања, анализа на политики, известување, донесување одлуки базирани на податоци, е-влада и транспарентност. Сега доаѓаме до рамката што го држи сето тоа заедно: заштита на личните податоци и одговорно владеење. Јавноста по својата природа ги обработува најчувствителните податоци на граѓанинот: идентитет, адреса, приход, здравје, криминално досие, семејна состојба. Обработката на овие податоци со алатки за вештачка интелигенција мора целосно да се усогласи со рамката на KVKK (Закон за заштита на лични податоци бр. 6698; закон што ја регулира законската, ограничена и безбедна обработка на личните податоци). Во оваа последна единица, ќе ја воспоставиме основата на приватноста и управувањето на употребата на јавната вештачка интелигенција - кои податоци може да се дадат на која алатка, какви политики се применуваат, кој е одговорен, како организацијата безбедно управува со вештачката интелигенција. Оваа единица е покривот поставен над претходните десет единици.
Основни принципи на KVKK допирајќи ја јавната вештачка интелигенција
KVKK поставува неколку основни принципи, од кои секоја директно ја ограничува употребата на ВИ:
- Усогласеност со законот и почитување на целта: Личните податоци се обработуваат само за одредена, легитимна цел. Податоците собрани за една цел (на пример, аплицирање за помош) не можат да се користат за друга цел (на пример, обука на модел) без дозвола.
- Минимизирање на податоците: Не се обработуваат повеќе податоци отколку што е потребно за целта. Ако не е потребно име за анализа на категоријата, не се дава име.
- Безбедност: Податоците се заштитени од неовластен пристап. Вметнувањето податоци на граѓаните во јавна алатка за вештачка интелигенција значи изнесување на тие податоци надвор од организацијата - тоа е прекршување на безбедносната политика.
- Период на складирање: Податоците се бришат кога ќе заврши целта; Не се чува на неодредено време.
- Информации и права: Граѓаните имаат право да знаат како нивните податоци се обработуваат, корегираат, бришат и приговараат на автоматизираните одлуки.
Внимание: Поставувањето податоци на граѓанин на јавна алатка за вештачка интелигенција која институцијата не ја одобрила, каде се чуваат податоците и кој има пристап до нив е нејасно, во повеќето случаи е прекршување на КВКК и ја отвора институцијата за санкции. Правилата никогаш не се свиткани „за да се олесни работата“.
Кои податоци, до кое возило? Модел со три зони
Како правило, поделете ги податоците во три региони:
- Црвено (никогаш не влегува во јавно возило): матичен број, здравје, криминал, религија, етничка припадност, биометрика, целосна адреса, сè што го означува лицето. Тие се обработуваат само во договорено/вкупно опкружување и усогласено со KVKK одобрено од институцијата.
- Жолта (внимателно, со маскирање): Податоци кои можат индиректно да се поврзат со личноста. Прво анонимизирајте/соберете, па потоа обработете.
- Зелено (бесплатно): Безлични, јавни, општи информации (законски текст, јавна статистика, општа процедура). Можете лесно да ги обработувате овие со вештачка интелигенција.
Совет: Пред да му дадете текст на вештачката интелигенција, направете го тестот од 5 секунди: „Дали има нешто во оваа содржина што може да идентификува личност? Ако одговорот е „да/можеби“, маскирајте се или возете одобрено возило. Ако се сомневате, размислете за црвено.
Корпоративно управување: од човек до систем
Одговорната јавна вештачка интелигенција не може да се остави на добрата волја на поединечните државни службеници; Потребна е институционална рамка:
- Политика: Институцијата мора да има политика за употреба на вештачка интелигенција: кои алатки се одобрени, кои податоци може да се внесат, кој е одговорен.
- Список на одобрени алатки: Персоналот треба да користи алатки кои институцијата ги проценила и одобрила, а не случајно.
- Обука: Персоналот мора да ја знае дисциплината за верификација и податочните региони (како овој модул).
- Снимање и ревизија: Треба да се води ревизорска трага на одлуки произведени со вештачка интелигенција.
- Одговорност: Секој излез напојуван со вештачка интелигенција мора да има човечки сопственик и одобрение. Одговорноста е на институцијата и на службеникот, а не на возилото.
- Човеково-центриран принцип: Ниту една конечна одлука за создавање/ограничување права не се донесува без човечка согласност.
три мини футроли
Случај 1 - Спречено истекување на црвени податоци. Еден член на персоналот требаше да постави резиме на список со здравствени придобивки за 1.200 луѓе на јавна алатка. Благодарение на одобрената политика за возила на агенцијата и обуката за „црвени податоци“, таа престана; Податоците беа обработени во внатрешно одобрена средина и со маскирани полиња за идентитет. Спречено е можно кршење на КВКК и губење на довербата на десетици илјади луѓе.
Случај 2 - Злоупотреба. Една единица сакаше да користи податоци собрани за информирање за предизборен план за комуникација. Службеникот за заштита на податоци потсети на принципот на придржување до целта: ова беше употреба на податоците надвор од целта за која беа собрани и беше незаконско. Барањето беше одбиено.
Случај 3 - Јазот во владеењето е затворен. Во една општина, различни единици користеа различни алатки за вештачка интелигенција без контрола; Никој не знаеше кои податоци каде одат. Агенцијата воведе политика за употреба на вештачка интелигенција, одобрен список на возила и ревизорска патека; Во рок од 3 месеци, употребата на нерегистрирани возила се намали за 90% и беше направен попис на податоци.
Четири шаблони за копирање
1) Класификација на податочниот регион (пред извоз во возилото):
Вашата улога: советник за заштита на податоци. Класифицирајте ја следнава содржина пред да ја дадете на агент за вештачка интелигенција: ЦРВЕНО (идентификува лице, никогаш не влегува во јавно возило), ЖОЛТА (индиректно може да се поврзе, маска), ЗЕЛЕНА (нелична, бесплатно). Обележете ги црвено/жолтите области една по една и кажете им како да маскираат. Сметајте го осомничениот како црвен. СОДРЖИНА: [текст]
2) Маскирање/анонимизација:
Анонимизирајте ги сите лични податоци пред да го обработите следниот текст: име -> [ЛИЦЕ-1], матичен број -> [ИДЕНТИТЕТ], адреса ->[АДРЕСА], здравје/казна -> [СЕНЗИТИВНО]. Означете ја истата личност. Извезете анонимизиран текст одделно. Никогаш не пишувајте вистински податоци на излезот. ТЕКСТ: [текст]
3) Список за проверка за усогласеност со KVKK (за употреба на ВИ):
Вашата улога: специјалист за усогласеност со KVKK. Направете листа за проверка за усогласеност за следната употреба на вештачката интелигенција: (1) е целта на обработката легитимна и специфична, (2) дали е поврзана со целта (дали се префрла на друга цел), (3) дали е оптимизирана, (4) дали алатката е безбедна/одобрена, (5) дали периодот на задржување е сигурен, (6) се заштитени правата на граѓаните (приговор, бришење). Обележете ги предметите што недостасуваат со црвено знаме. КОРИСТЕЊЕ: [рецепт]
4) Рамка на политики за корпоративна вештачка интелигенција:
Вашата улога: јавен експерт за управување со ИТ. Направете рамка за политика за употреба на вештачка интелигенција за нашата организација: опсег, одобрени алатки, податочни зони (црвено/жолто/зелено), забранети употреби, точки за одобрување од луѓе, ревизорска патека, одговорности, обука и известување за прекршоци. Пополнете го секој наслов со 1-2 реченици. ИНСТИТУЦИЈА: [единица и типични работни места]
Слаб промпт / Силен промпт
Слабо: „Сумирајте ја оваа листа на референци“.
Силно: „Вашата улога е консултант за заштита на податоци. Прво, класифицирајте ја оваа листа по регион на податоци (црвена/жолта/зелена) и означете ги сите полиња што го идентификуваат лицето. Маскирајте ги црвено/жолтите полиња со [PERSON]/[IDENTITY]/[SENSITIVE], чувајте го истото лице со истата етикета. Направете само резиме на категорија со анонимизирани податоци за да не ги пишувате вистинските податоци на крајот. каде што овој процес бара внимание во однос на KVKK (намена, складирање, безбедност на возилото).
Разликата: моќниот промпт ги класифицира, маскира, минимизира и интегрира принципите на KVKK пред да ги обработи податоците.
Податоци региони и правило
Регионот
пример
правило
црвено
TR ID број, здравје, казна, целосна адреса
Никогаш не влегувајте во јавно возило; одобрена средина
жолта
Возраст+соседство+занимање, индиректен идентификатор
Маскирајте/агрегирајте, а потоа обработете
зелена
Законодавство, јавна статистика, општа процедура
хонорарна работа
Вообичаени грешки
- Извезување црвени податоци во јавна алатка. Најсериозно прекршување; Податоците за лична карта/здравје/казна не ја напуштаат одобрената околина.
- Злоупотреба. Незаконски е да се користат податоци собрани за една цел за друга цел (обука за модели, комуникација) без дозвола.
- Се обработуваат премногу податоци. Не преместувајте непотребни полиња (име, адреса) за таа цел; Минимизирајте.
- Возење без одобрение. Нејасно е каде одат податоците за возилата кои институцијата не ги проценувала.
- Неодредување на периодот на задржување. Податоците треба да се избришат кога целта е завршена; не треба да се чува на неодредено време.
- Префрлање на одговорноста на возилото. Излезот е во сопственост и одобрен од човекот; „Ви го направи тоа“ не е одбрана.
Сумирано
Рамката за одговорна јавна вештачка интелигенција е заштита на личните податоци и корпоративно управување. Принципите на KVKK - целост, минимизирање, безбедност, ограничување на задржување, права на граѓаните - ја ограничуваат секоја употреба на вештачка интелигенција. Одделете ги податоците во црвени/жолти/зелени зони, никогаш не давајте црвено на јавна алатка, маскирајте ги личните податоци, користете само одобрени алатки и поврзете човек сопственик на секоја одлука. Политика на институционално ниво, одобрен список на возила, евиденција за обука и инспекција; Дисциплината на верификација на ниво на личност. Така, вештачката интелигенција и служи на јавноста со заштита на правата на граѓаните.
Задача за апликација
Изберете вистинска употреба на вештачка интелигенција што сте ја направиле (или размислувате да ја направите) во вашата единица. Одделете ја содржината што ќе ја обработувате во црвена/жолта/зелена боја со шаблонот „Класификација на регионот на податоци“. Применете го шаблонот „КВКК листа за проверка“ и пронајдете барем една точка што недостасува/ризична точка. Конечно, изгответе кратка политика погодна за вашата единица со „Скелет на политики за корпоративна вештачка интелигенција“.
листа за проверка
- [ ] Ја поделив содржината на црвена/жолта/зелена зона; Осомничениот го броев како црвен.
- [ ] Не ги дадов црвените податоци на јавната алатка; Користев одобрени медиуми.
- [ ] Ги маскирав личните податоци и ги отстранив непотребните полиња (минимизирање).
- [ ] Ја проверив целта на обработката, периодот на складирање и безбедноста на возилото.
- [ ] Ги запазив правата на граѓаните на приговор/бришење.
- [ ] Прикажав човечки сопственик и одобрение за секој излез; Водев ревизорска трага.
Модул испит
1. Како јавен службеник, кое е најдоброто приоритетно прашање што треба да го поставите пред да ѝ предадете работа на вештачката интелигенција?
- А) Што губи граѓанинот ако овој излез е погрешен? ✔
- Б) Колку брзо вештачката интелигенција може да ја заврши оваа работа?
- В) Дали оваа алатка за вештачка интелигенција е бесплатна?
- Г) Дали друга единица исто така ќе го користи овој излез?
Објаснување: Одлуката за пренос е донесена врз основа на штетата што ќе ја претрпи граѓанинот доколку излезот е неточен. Штетата лесно се пренесува ако се работи за само неколку минути препишување; Доколку се работи за неправедно отфрлање, погрешна казна или губење на правата, вештачката интелигенција произведува само нацрт, одлуката и верификацијата му припаѓаат на службеникот.
2. Како се вика кога вештачката интелигенција прикажува непостоечки закон или измислена судска одлука како реална?
- А) Кеширање
- Б) Тријажа
- В) Анонимизација
- Г) Халуцинација ✔
Објаснување: Халуцинација е кога вештачката интелигенција самоуверено произведува информации што всушност не постојат (фабрикувана супстанција, укината регулатива, погрешен број). Во областа на законодавството, ова е еден од најопасните ризици, бидејќи може да доведе до губење на правата и откажување на управната постапка.
3. Службеник е на пат да ја одбие апликацијата врз основа на прописниот член наведен од YZ. Кое е најправилно однесување?
- А) ВИ директно го пишува одбивањето затоа што изгледа сигурно
- Б) Поставете го истото прашање на друго возило со вештачка интелигенција и добијте потврда
- В) Ја потврдува статијата од тековниот пречистен текст на Çözüm.gov.tr ✔
- Г) Усно ја бара одлуката до претпоставен
Опис: Податоците за обука на вештачката интелигенција се замрзнати на одреден датум; Написот што го прикажува можеби е укинат или променет. Потврдувањето дека членот е во сила и неговата конечна верзија од тековниот пречистен текст на Çözüm.gov.tr пред одлуката спречува неправедно отфрлање и можна тужба за поништување.
4. Зошто е гаранција за квалитет за граѓански четбот да може да каже „не знам, те префрлам на службено лице“?
- А) Ја подобрува статистиката со зголемување на стапката на промет
- Б) Спречува дезинформации со делегирање информации на луѓе кога не се сигурни ✔
- В) Го продолжува времето на повик со одвлекување на вниманието на граѓаните
- Г) Дозволува четботот да прима помалку прашања
Објаснување: Во јавноста, самоуверениот погрешен одговор е многу поскап од чесниот став; Тоа доведува до губење на правата и недоверба кон институцијата. Способноста на четботот да му се предаде на човекот кога не е сигурен е безбедносен механизам што спречува халуцинаторни дезинформации.
5. Кој е најважниот ризик што треба да се земе предвид при „поедноставување“ на официјалната кореспонденција со ВИ?
- А) Текстот е премногу краток
- Б) Промена на фонтот
- В) Отфрлање на услов или исклучок ✔
- Г) Погрешен правопис на името на примачот
Објаснување: Стилската адаптација не треба да ја менува содржината. Кога се поедноставува, вештачката интелигенција понекогаш отфрла исклучок, услов или времетраење. Затоа, поедноставениот текст секогаш треба да се споредува со оригиналната одлука или законодавство.
6. Име и Т.Р. во збир на податоци. Како го нарекувате кога комбинацијата „населба + година на раѓање + вид на попреченост“ може да открие личност дури и ако е избришан матичниот број?
- А) Редефинирање ✔
- Б) Минимизирање на податоците
- В) Стапка на покриеност
- Г) Консолидација
Објаснување: Повторната идентификација е пронаоѓање на личност преку комбинација на индиректни идентификатори од податоци за кои се смета дека се анонимни. Ако се најде ретка категорија кај едно лице, бришењето на името нема да биде доволно; Потребни се дополнителни мерки, како што се претворање на возраста во опсег и комбинирање на ретки категории.
7. Како се нарекува кога моделот на инспекција означува населба која била многу проверувана во минатото како „ризична“ и испраќа повеќе инспекции таму, што го турка моделот да ја види таа населба како поризична?
- А) Минимизирање на податоците
- Б) Халуцинација
- В) Анонимизација
- Г) Јамка за повратни информации ✔
Објаснување: Јамката за повратни информации е кога излезот на моделот влијае на последователните податоци за обука, засилувајќи ја постојната пристрасност. Разликата се зголемува не во реалниот ризик, туку во тоа каде се гледа. Начинот да се заштитите е да го следите влијанието, а не резултатот и да ја контролирате групната дистрибуција на одлуките.
8. Откако апликацијата за бенефиции се пресели целосно на интернет, бројот на апликации падна за 30 проценти во првиот месец. Кое е најверојатното објаснување за ова?
- А) Реалните потреби на граѓаните се намалени
- Б) Граѓаните без интернет и дигитална писменост беа изоставени ✔
- В) Каматата е намалена бидејќи се намалил износот на помошта
- Г) Системот автоматски ги одобри сите апликации
Опис: Дигиталниот јаз е неможноста на граѓаните без пристап до интернет или дигитална писменост да пристапат до услугите. Бројката се намалува бидејќи најпотребната група, старите и граѓаните без интернет не можат да аплицираат. Решението е да се остават алтернативни канали, како што се асистираните точки за упатување.
9. Додека вистинската стапка на успех во годишниот извештај е 63 проценти, извршното резиме произведено од YZ вели дека „огромното мнозинство на апликации беа позитивни“. Кое е правилното однесување?
- А) Изразот е оставен како што е затоа што е позитивен.
- Б) Односот се брише и се користи само квалитативниот израз
- В) Изразот се заменува со реалниот број 63 проценти ✔
- Г) Резимето е целосно отстрането од извештајот
Објаснување: Претераната позитивна перцепција во јавниот извештај ја става институцијата во тешка ситуација во следните ревизии. Секое тврдење во извршното резиме треба да се спореди со необработените податоци и да се напише вистинскиот број (63 проценти); Прегледите на вештачката интелигенција не се вклучени во извештајот без да бидат ревидирани.
10. Кога донесувате одлуки засновани на податоци во јавниот сектор, ако „бројот на датотеки затворени месечно“ се зголемува додека „стапката на резолуција при првиот контакт“ се намалува, што нè учи ова прво?
- А) Изборот на вистинскиот индикатор е поважен од множењето на бројот ✔
- Б) Бројот на персонал треба да се зголеми
- В) Графиконите треба да бидат обоени
- Г) Четботот треба да одговори на повеќе прашања
Објаснување: Погрешен индикатор доведува до погрешна одлука дури и со точни податоци. Датотеките може брзо да се затворат и повторно да се отворат. Изборот на вистинскиот индикатор и читањето на индикаторите заедно спречува фалење само врз основа на погрешна бројка.
11. Во графиконот, вертикалната оска започнува на 40 наместо на нула и зголемувањето од 2 проценти изгледа како драматичен скок е пример за каков проблем?
- А) Халуцинација
- Б) Минимизирање на податоците
- В) Дигитален јаз
- Г) Лажна визуелизација ✔
Објаснување: Лажната визуелизација ја искривува перцепцијата преку техники како што се оската што не започнува од нула, непропорционална скала или избран временски период. Тоа е дел од искреното визуелно владеење во јавните податоци; Вистинската табела треба да се прикаже со повлекување на оската на нула.
12. Зошто е неприфатливо да се каже „Ви го напиша тоа“ како оправдување за административна постапка?
- А) Бидејќи алатките за вештачка интелигенција се премногу скапи
- Б) Административното дејство мора да биде оправдано и одговорноста е на службеникот ✔
- В) Затоа што АИ не знае турски
- Г) Затоа што граѓаните не ја сакаат вештачката интелигенција
Објаснување: Административните дејствија мора да бидат образложени и подложни на ревизија; Одговорноста не е на вештачката интелигенција, туку на јавниот службеник и институцијата што го користи резултатот без да го потврди. „Ви го кажа тоа“ не е оправдување и не ја одржува управната постапка.
13. Кои се четирите принципи кои ја разликуваат употребата на ВИ во јавниот сектор од приватниот сектор и кои дополнително треба да се почитуваат?
- А) Брзина, евтина цена, профитабилност, конкуренција
- Б) Автоматизација, размер, маркетинг, бренд
- В) Еднаквост, транспарентност, отчетност, заштита на личните податоци ✔
- Г) Приватност, доверливост, приватност и доверливост
Објаснување: Во делата каде се користи јавната моќ, вештачката интелигенција е врамена со принципите на еднаквост (сличен третман на слична ситуација), транспарентност (објаснивост на оправданоста на одлуката), одговорност (одговорна за секоја трансакција и ревизорска трага) и заштита на личните податоци (КВКК).
14. Што треба да направи автоматизираниот систем пред лет кога не е сигурен за редок тип на документ?
- А) Да се одбие апликацијата тивко
- Б) Препраќање на апликацијата на човечки преглед ✔
- В) Автоматски ја одобрува апликацијата
- Г) Избришете ја апликацијата
Објаснување: Добрата автоматизација го насочува моделот до службеникот кога не е сигурен, наместо тивко да го отфрли. Во спротивно, легитимните апликации ќе паднат во слепа точка и ќе дојде до виктимизација. Одржувањето на луѓето на точката на одлучување е основата на управувањето со исклучоци.