Добици:
- Процена да ли употреба вештачке интелигенције захтева ДПИА
- Примена ДПИА процеса у седам корака на пројекат вештачке интелигенције
- Одредите приоритете ризика са матрицом вероватноће-утицај и дизајнирајте мере за ублажавање
Неке употребе вештачке интелигенције представљају озбиљне ризике за појединце: надгледање великих размера, обрада осетљивих података, аутоматизоване одлуке. У таквим пројектима, и КВКК/ГДПР и закон ЕУ о вештачкој интелигенцији очекују структурисану процену ризика пре почетка рада. Назив ове процене је Процена утицаја на заштиту података (ДПИА). У овој јединици ћемо научити како да кажемо да ли употреба захтева ДПИА, како да применимо ДПИА процес од седам корака на пројекат вештачке интелигенције и како да одредимо приоритете ризика помоћу матрице вероватноће-утицај.
Шта је ДПИА и када је потребна?
Процена утицаја на заштиту података (ДПИА) је структурирана анализа која унапред процењује ризике активности обраде на права и слободе појединаца и утврђује мере за ублажавање. Критична тачка: ДПИА се ради у фази пројектовања, пре него што обрада почне — не након што се проблем појави.
ДПИА је обично потребна када:
- Коришћење нове технологије (АИ је често укључен).
- Обрада личних података великих размера.
- Систематско праћење или профилисање.
- Посебна обрада података.
- Аутоматизоване одлуке које значајно утичу на људе.
Савет: Ако нисте сигурни, урадите „проверу“: ако су присутна два или више од пет горенаведених, подразумевано радите ДПИА. Цена ДПИА је ниска; Цена нечињења је веома висока у једном прекршају.
ДПИА процес у седам корака
ДПИА примењујете на пројекат вештачке интелигенције у ових седам корака:
корак
шта радиш?
1. Опис
Опишите обраду: који подаци, сврха, обим, ток
2. Нужност и пропорционалност
Да ли је вештачка интелигенција заиста неопходна? Постоји ли мање наметљив начин?
3. Мишљење заинтересованих страна
Прибавити мишљење релевантних особа/представника
4. Идентификација ризика
Наведите могуће штете за појединце
5. Процена ризика
Оцените сваки ризик по вероватноћи и утицају
6. Мере ублажавања
Дизајнирајте мере предострожности за сваки ризик, идентификујте преостали ризик
7. Одобрење и преглед
Документујте резултат, поднесите га на одобрење, ажурирајте га периодично
Одређивање приоритета ризика: матрица вероватноће-утицај
Сваки ризик процењујете у две димензије: вероватноћа да ће се десити и утицај ако се догоди. Комбинација ова два даје предност.
<в:тцПр><в:тцВ в:типе="дка" в:в="2160"/></в:тцПр><в:п><в:р><в:рПр><в:б/></в:рПр><в:т>Мали утицај
средњи ефекат
висок утицај
велика вероватноћа
средње
висока
критичан
средња вероватноћа
ниско
средње
висока
мала вероватноћа
ниско
ниско
средње
Критични и високи ризици су ризици због којих пројекат не треба наставити без предузимања мера предострожности. Циљ није елиминисање сваког ризика; је смањити сваки ризик на прихватљив ниво и свесно прихватити преостали (резидуални) ризик.
три мини кофера
Случај 1 — Изостављен ДПИА. Малопродајни ланац имплементира систем који прати понашање купаца у продавници помоћу вештачке интелигенције, без ДПИА. Месецима касније, жалба открива да је систем направио специфичне закључке (здравље, предвиђање трудноће). На питање „зашто нисте урадили ДПИА“ у ревизији нема одговора. ДПИА од почетка би ухватила овај ризик у фази пројектовања и учинила пројекат безбедним.
Случај 2 — Пројекат спасио ДПИА. ДПИА се ради за АИ подршку при запошљавању у банци. Током фазе идентификације ризика, испоставља се да је ризик од родне пристрасности због историјских података „висок“. Као ублажавање, тим уклања информације о полу из модела, приписује излаз редовном тестирању пристрасности и захтева провјеру од стране људи. Сада ризик пада на "умерен" и пројекат постаје прихватљив. ДПИА чини пројекат безбедним уместо да га убије.
Случај 3 — Тест пропорционалности. Компанија жели да скенира е-пошту запослених ради „анализе лојалности“ помоћу вештачке интелигенције. У кораку неопходности/пропорционалности ДПИА-е ово је превише наметљиво у односу на сврху; Постоје мање наметљиве алтернативе. Пројекат није одобрен у садашњем облику. Тест пропорционалности прави разлику између „можемо“ и „морамо“.
Пажња: ДПИА није образац који се попуњава једном и оставља на страну. Приликом обраде промена (нови подаци, нова намена, нови алат) ДПИА се мора ажурирати. Мртав ДПИА је више обмањујући него никакав ДПИА јер даје лажно поверење.
Ко има однос ДПИА и регистра ризика са ДПИА
Једна особа не може попунити ДПИА на свом столу; Исправан ДПИА је тимски рад. Типично, службеник за заштиту података спроводи процес (Доер), менаџер за усклађеност је на крају одговоран (Аццоунтабле), релевантна пословна јединица описује обраду, процењује ИТ/безбедносне техничке мере и потврђује правни основ. Не треба занемарити прибављање мишљења релевантних људи (трећи корак); Међутим, ово је корак који се у пракси највише прескаче.
Резултат ДПИА не стоји у вакууму: идентификовани ризици се евидентирају у регистру ризика организације. Регистар ризика је графикон уживо који обухвата све отворене ризике, њихове приоритете, ублажавања, кривце и датуме последње ревизије. На овај начин, ризици пројекта вештачке интелигенције говоре истим језиком као и целокупно управљање ризицима организације и редовно се прате.
Област регистра ризика
пример
Дефиниција ризика
Родна пристрасност у запошљавању АИ
приоритет
висока
Мера ублажавања
Екстракција сурогат варијабле + тестирање пристрасности
Одговорно
Службеник за заштиту података
преглед
свака 3 месеца
Савет: Третирајте ДПИА са менталитетом „регистровати ризик и пратити“, а не приступом „уради и заборави“. Да ли је примењено смањење ризика, да ли је преостали ризик на прихватљивом нивоу — без евиденције о томе, ДПИА постаје прозорски документ.
Шаблони који се могу копирати
ШАБЛОНА 1 — ДПИА пре-скрининг: „Да ли је ДПИА потребан за ову употребу АИ? [опишите употребу]. Процените према пет покретача: нова технологија, обимна обрада, систематско праћење, осетљиви подаци, значајно аутоматизовано доношење одлука. Колико окидача постоји, да ли препоручујете ДПИА, са оправдањем.“
ШАБЛОНА 2 — Браинсторминг за идентификацију ризика: „Наведите могућу штету људима у овом пројекту вештачке интелигенције [опишите пројекат]: цурење података, дискриминација, погрешна процена, задирање у приватност, недостатак транспарентности, промена сврхе. Напишите сценарио од једне реченице за сваку штету. Само откријте, али немојте да се супротставите.“
ШАБЛОНА 3 — Бодовање вероватноће-утицаја: „Оцените следеће ризике [наведите ризике] као вероватноћу (низак/средњи/висок) и утицај (низак/средњи/висок); приоритет (низак/средњи/висок/критичан) се појављује у сваком реду. Наведите критичне и високе на врху. Присутно у формату табеле.“
ОБРАЗАЦ 4 — Дизајн ублажавања: „За следећи ризик [напишите ризик], предложите најмање 3 мере ублажавања (техничке, процесне, организационе). Процените ниво 'преосталог ризика' после сваке мере. Ако је ризик и даље висок након мере, назначите да пројекат треба редизајнирати."
Слаби промпт / Јаки промпт
СЛАБО: „Да ли је овај пројекат вештачке интелигенције ризичан?“-> Модел даје нејасан одговор „можда“; не класификује ризике, не даје приоритет ризицима, не производи мере. СТРОНГ: „Спроведите мини ДПИА за следећи АИ пројекат: (1) опишите обраду, (2) процените потребу за ДПИА са 5 покретача, (3) наведите 6 могућих штета за особе, (4) оцените сваки према вероватноћи-утицају, (5) направите критичну одлуку о смањењу ризика за израду дефинитивне правне одлуке; ће ићи на правно одобрење.“-> Модел производи нацрт структурираног, ефективног ДПИА.
Уобичајене грешке
- Извођење ДПИА након што је трансакција започела (или чак и након што се проблем појавио).
- Прескакање високоризичне обраде која захтева ДПИА као „није велика ствар“.
- Не набрајајући ризике и дајући им приоритет према вероватноћи и утицају.
- Сматрати да је ДПИА "потпуна" без израде мера за сваки ризик.
- Прескакање корака неопходности/пропорционалности и рекавши „ми то можемо, па хајде да то урадимо“.
- Попуните ДПИА једном и не ажурирате је када се процес промени.
- Одобравање пројекта без јасног документовања преосталог (преосталог) ризика.
Укратко
- ДПИА је структурирана анализа која процењује утицај високоризичне обраде на појединце пре него што се она покрене.
- ДПИА је неопходна ако постоји нова технологија, обимна обрада, систематски надзор, осетљиви подаци или значајно аутоматизовано доношење одлука.
- Процес се састоји од седам корака: идентификација, неопходност/пропорционалност, мишљење заинтересованих страна, идентификација ризика, процена, акција, одобрење/преглед.
- Ризицима се даје приоритет са матрицом вероватноће-утицај; Критични/високи ризици се не прихватају без мера предострожности.
- ДПИА не убија пројекат, чини га сигурним; То је живи документ који се мора ажурирати како се обрађују промене.
Задатак апликације
Одаберите употребу вештачке интелигенције која би ваша организација могла да буде високоризична (на пример, подршка за регрутовање, праћење понашања или кредитно оцјењивање). Прво размислите да ли је ДПИА неопходна са пет окидача. Затим спроведите мини ДПИА за ову употребу: опишите обраду, наведите најмање шест могућих штета за појединце, оцените сваку на матрици вероватноће-утицај и доделите приоритет. Дизајнирати три мере ублажавања за два критична и висока ризика и проценити ниво преосталог ризика након мере. На крају, имајте на уму када ће овај ДПИА морати да се ажурира.
контролна листа
- [ ] Проценио сам ДПИА захтев са пет покретача.
- [ ] Дефинисао сам обраду (подаци, сврха, обим, ток).
- [ ] Довео сам у питање неопходност и пропорционалност.
- [ ] Навео сам могуће штете за појединце.
- [ ] Дао сам приоритет ризицима у матрици вероватноће-утицај.
- [ ] Дизајнирао сам мере за ублажавање критичних/високих ризика.
- [ ] Сада сам документовао ризик и поставио услове прегледа.