Ieguvumi:
- Novērtējiet, vai AI lietošanai ir nepieciešama DPIA
- Septiņu pakāpju DPIA procesa piemērošana AI projektam
- Nosakiet risku prioritāti, izmantojot varbūtības-ietekmes matricu un izstrādājiet mazināšanas pasākumus
Daži AI lietojumi rada nopietnus riskus indivīdiem: liela mēroga uzraudzība, sensitīvu datu apstrāde, automatizēti lēmumi. Šādos projektos gan KVKK/GDPR, gan ES AI likums paredz strukturētu riska novērtējumu pirms darba sākšanas. Šī novērtējuma nosaukums ir ietekmes uz datu aizsardzību novērtējums (Data Protection Impact Assessment – DPIA). Šajā nodaļā mēs uzzināsim, kā noteikt, vai lietojumam ir nepieciešama DPIA, kā AI projektam piemērot septiņu soļu DPIA procesu un kā noteikt risku prioritāti, izmantojot varbūtības un ietekmes matricu.
Kas ir DPIA un kad tas ir nepieciešams?
Ietekmes uz datu aizsardzību novērtējums (DAIA) ir strukturēta analīze, kas iepriekš novērtē apstrādes darbības riskus attiecībā uz personu tiesībām un brīvībām un nosaka to mazināšanas pasākumus. Kritiskais punkts: DPIA tiek veikta projektēšanas stadijā, pirms apstrādes sākšanas, nevis pēc problēmas rašanās.
DPIA parasti ir nepieciešama, ja:
- Jaunu tehnoloģiju izmantošana (MI bieži ir iekļauta).
- Liela mēroga personas datu apstrāde.
- Sistemātiska uzraudzība vai profilēšana.
- Īpaša datu apstrāde.
- Automatizēti lēmumi, kas būtiski ietekmē cilvēkus.
Padoms. Ja neesat pārliecināts, veiciet "pārbaudi": ja ir divi vai vairāki no pieciem iepriekš minētajiem, pēc noklusējuma veiciet DPIA. DPIA veikšanas izmaksas ir zemas; Maksa par to nedarīšanu ir ļoti liela vienā pārkāpumā.
Septiņu posmu DPIA process
Jūs lietojat DPIA AI projektam, veicot šīs septiņas darbības:
solis
ko tu dari?
1. Apraksts
Aprakstiet apstrādi: kādi dati, mērķis, apjoms, plūsma
2. Nepieciešamība un samērīgums
Vai AI tiešām ir nepieciešams? Vai ir kāds mazāk uzmācīgs veids?
3. Ieinteresēto pušu viedoklis
Iegūt attiecīgo personu/pārstāvju viedokli
4. Riska identificēšana
Uzskaitiet iespējamo kaitējumu personām
5. Riska novērtējums
Novērtējiet katru risku pēc varbūtības un ietekmes
6. Seku mazināšanas pasākumi
Izstrādājiet piesardzības pasākumus katram riskam, identificējiet atlikušo risku
7. Apstiprināšana un pārskatīšana
Dokumentējiet rezultātu, iesniedziet to apstiprināšanai, periodiski atjauniniet to
Riska prioritāšu noteikšana: varbūtības-ietekmes matrica
Jūs novērtējat katru risku divās dimensijās: tā rašanās iespējamība un ietekme, ja tā notiek. Abu kombinācija dod priekšroku.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Maza ietekme
vidējs efekts
augsta ietekme
liela varbūtība
vidējs
augsts
kritisks
vidēja varbūtība
zems
vidējs
augsts
zema varbūtība
zems
zems
vidējs
Kritiski un augsti riski ir riski, kuru gadījumā projektu nevajadzētu turpināt, neveicot piesardzības pasākumus. Mērķis nav novērst visus riskus; ir samazināt katru risku līdz pieņemamam līmenim un apzināti pieņemt atlikušo (atlikušo) risku.
trīs mini futrāļi
1. gadījums — izlaists DPIA. Mazumtirdzniecības ķēde ievieš sistēmu, kas izseko klientu uzvedību veikalā ar AI, bez DPIA. Mēnešus vēlāk sūdzība atklāj, ka sistēma ir izdarījusi konkrētus secinājumus (veselība, grūtniecības prognozēšana). Uz jautājumu "kāpēc neveicāt DPIA" revīzijā atbildes nav. DPIA jau no paša sākuma būtu pamanījis šo risku jau projektēšanas stadijā un padarījis projektu drošu.
2. gadījums — projektu izglāba DPIA. DPIA tiek veikta personāla atlases atbalsta AI bankā. Riska noteikšanas posmā dzimumu aizspriedumu risks vēsturisko datu dēļ izrādās "augsts". Lai mazinātu, komanda no modeļa noņem informāciju par dzimumu, izvadi attiecina uz regulāru neobjektivitātes pārbaudi un pieprasa cilvēka apstiprinājumu. Tagad risks nokrītas līdz "mērenam", un projekts kļūst pieņemams. DPIA padara projektu drošu, nevis nogalina.
3. gadījums — proporcionalitātes pārbaude. Uzņēmums vēlas skenēt darbinieku e-pastus, lai ar AI veiktu lojalitātes analīzi. DPIA nepieciešamības/proporcionalitātes posmā tiek konstatēts, ka tas ir pārāk traucējošs attiecībā pret mērķi; Ir mazāk uzmācīgas alternatīvas. Projekts pašreizējā formā nav apstiprināts. Proporcionalitātes tests nošķir “mēs varam” un “mums vajag”.
Uzmanību: DPIA nav veidlapa, kas tiek aizpildīta vienreiz un nolikta malā. Apstrādājot izmaiņas (jauni dati, jauns mērķis, jauns rīks), DPIA ir jāatjaunina. Mirušs DPIA ir vairāk maldinošs nekā vispār, jo tas sniedz nepatiesu pārliecību.
Kas veic DPIA un risku reģistra attiecības ar DPIA
Viena persona nevar aizpildīt DPIA pie sava galda; Pareiza DPIA ir komandas darbs. Parasti procesu veic datu aizsardzības speciālists (Darītājs), atbilstības vadītājs ir galīgi atbildīgs (Atbildīgs), attiecīgā biznesa vienība apraksta apstrādi, novērtē IT/drošības tehniskos pasākumus un apstiprina juridisko pamatu. Nedrīkst atstāt novārtā attiecīgo cilvēku viedokļu iegūšanu (trešais solis); Tomēr praksē šis ir visvairāk izlaists solis.
DPIA rezultāti neatrodas vakuumā: identificētie riski tiek reģistrēti organizācijas risku reģistrā. Risku reģistrs ir dzīvā diagramma, kas atspoguļo visus atklātos riskus, to prioritātes, mazināšanas veidus, vainīgos un pēdējos pārskatīšanas datumus. Tādā veidā AI projekta riski runā tajā pašā valodā kā organizācijas vispārējā riska pārvaldība, un tie tiek regulāri uzraudzīti.
Risku reģistra zona
piemērs
Riska definīcija
Dzimumu neobjektivitāte darbā pieņemšanas AI
prioritāte
augsts
Mīkstināšanas pasākums
Surogātmateriāla ekstrakcija + neobjektivitātes pārbaude
Atbildīgs
Datu aizsardzības speciālists
pārskats
ik pēc 3 mēnešiem
Padoms. Apstrādājiet DPIA, izmantojot “riska žurnāla un izsekošanas” mentalitāti, nevis pieeju “pabeigts un aizmirsti”. Vai ir ieviesta riska mazināšana, vai atlikušais risks ir pieņemamā līmenī — bez to uzskaites DPIA kļūst par loga dokumentu.
Kopējamas veidnes
1. VEINNE — DPIA iepriekšēja pārbaude: "Vai šim AI lietojumam ir nepieciešama DPIA? [Aprakstiet lietojumu]. Novērtējiet, pamatojoties uz pieciem aktivizētājiem: jauna tehnoloģija, liela mēroga apstrāde, sistemātiska uzraudzība, sensitīvi dati, nozīmīga automatizēta lēmumu pieņemšana. Cik daudz aktivizētāju ir, vai jūs ieteiktu DPIA, ar pamatojumu."
2. VEINE — Riska noteikšanas prāta vētra: "Uzskaitiet iespējamo kaitējumu cilvēkiem šajā AI projektā [aprakstiet projektu]: datu noplūde, diskriminācija, nepareizs spriedums, privātuma pārkāpums, pārredzamības trūkums, mērķa novirze. Katram kaitējumam uzrakstiet viena teikuma scenāriju. Vienkārši atklājiet, taču nedarbojieties."
3. VEINNE — iespējamības un ietekmes novērtējums: "Novērtējiet šādus riskus [uzskaitiet riskus] kā varbūtību (zemu/vidēju/augstu) un ietekmi (zemu/vidēju/augstu); prioritāte (zema/vidēja/augsta/kritiska) tiek rādīta katrā rindā. Kritisko un augstāko sarakstu norādiet augšpusē. Parādiet tabulas formātā."
4. VEINNE — mazināšanas plāns: "Šādam riskam [uzrakstiet risku], ierosiniet vismaz 3 mazināšanas pasākumus (tehniskus, procesuālus, organizatoriskus). Pēc katra pasākuma novērtējiet "atlikušā riska" līmeni. Ja pēc pasākuma risks joprojām ir augsts, norādiet, ka projekts ir jāpārplāno."
Vāja uzvedne / spēcīga uzvedne
VĀJS: "Vai šis AI projekts ir riskants?"-> Modelis sniedz neskaidru atbildi "varbūt"; neklasificē riskus, nenosaka riskus prioritārā secībā, neveic pasākumus.STRONG: "Veiciet mini DPIA šādam AI projektam: (1) aprakstiet apstrādi, (2) novērtējiet DPIA nepieciešamību ar 5 izraisītājiem, (3) uzskaitiet 6 iespējamos kaitējumus personām, (4) novērtējiet katru pēc varbūtības un ietekmes, (5) iesakiet mazināt juridisku risku, pieņemot kritisku vai galīgu lēmumu; juridiskais apstiprinājums.
Biežas kļūdas
- DPIA veikšana pēc darījuma sākšanas (vai pat pēc problēmas rašanās).
- Augsta riska apstrādes izlaišana, kam nepieciešama DPIA, nav nekāda problēma.
- Risku neuzskaitīšana un to prioritāšu noteikšana pēc varbūtības un ietekmes.
- Uzskatot, ka DPIA ir "pabeigta", neveicot pasākumus katram riskam.
- Izlaižot nepieciešamības/proporcionalitātes soli un sakot "mēs varam, tāpēc darīsim".
- Vienreiz aizpildiet DPIA un neatjauniniet to, kad process mainās.
- Projekta apstiprināšana, skaidri nedokumentējot atlikušo (palikušo) risku.
Rezumējot
- DPIA ir strukturēta analīze, kas novērtē augsta riska apstrādes ietekmi uz personām pirms tās uzsākšanas.
- DPIA ir nepieciešama, ja ir jaunas tehnoloģijas, liela mēroga apstrāde, sistemātiska uzraudzība, sensitīvi dati vai nozīmīga automatizēta lēmumu pieņemšana.
- Process sastāv no septiņiem soļiem: identificēšana, nepieciešamība/proporcionalitāte, ieinteresēto pušu viedoklis, riska noteikšana, novērtējums, rīcība, apstiprināšana/pārskatīšana.
- Riski ir prioritāri, izmantojot varbūtības-ietekmes matricu; Kritiski/augsti riski netiek pieņemti bez piesardzības pasākumiem.
- DPIA nenogalina projektu, tas padara to drošu; Tas ir dzīvs dokuments, kas ir jāatjaunina līdz ar apstrādes izmaiņām.
Lietojumprogrammas uzdevums
Izvēlieties tādu mākslīgā intelekta lietojumu, ko jūsu organizācija varētu izmantot un kas varētu būt augsta riska pakāpe (piemēram, personāla atlases atbalsts, uzvedības izsekošana vai kredītpunktu noteikšana). Vispirms apsveriet, vai DPIA ir nepieciešama ar pieciem aktivizētājiem. Pēc tam veiciet mini DPIA šim lietojumam: aprakstiet apstrādi, uzskaitiet vismaz sešus iespējamos indivīdiem nodarītos kaitējumus, novērtējiet katru iespējamības un ietekmes matricā un piešķiriet prioritāti. Izstrādājiet trīs mazināšanas pasākumus diviem kritiskiem un augstiem riskiem un novērtējiet atlikušā riska līmeni pēc pasākuma. Visbeidzot, ņemiet vērā, kad šis DPIA būs jāatjaunina.
kontrolsaraksts
- [ ] Es novērtēju DPIA prasību ar pieciem aktivizētājiem.
- [ ] Es definēju apstrādi (dati, mērķis, apjoms, plūsma).
- [ ] Es apšaubīju nepieciešamību un samērīgumu.
- [ ] Esmu uzskaitījis iespējamo kaitējumu personām.
- [ ] Es izvirzīju riskus par prioritāti varbūtības-ietekmes matricā.
- [ ] Es izstrādāju mazināšanas pasākumus kritiskiem/augstiem riskiem.
- [ ] Tagad esmu dokumentējis risku un noteicis pārskatīšanas nosacījumus.