Dobički:
- Ocenjevanje, ali uporaba umetne inteligence zahteva DPIA
- Uporaba sedemstopenjskega postopka DPIA za projekt AI
- Prednostno razvrstite tveganja z matriko verjetnostnega učinka in oblikujte ukrepe za ublažitev
Nekatere uporabe umetne inteligence predstavljajo resna tveganja za posameznike: obsežno spremljanje, obdelava občutljivih podatkov, avtomatizirane odločitve. Pri takšnih projektih tako KVKK/GDPR kot zakon EU o AI pričakujeta strukturirano oceno tveganja pred začetkom dela. Ime te ocene je ocena učinka na varstvo podatkov (DPIA). V tej enoti se bomo naučili ugotoviti, ali uporaba zahteva DPIA, kako uporabiti sedemstopenjski postopek DPIA pri projektu umetne inteligence in kako dati prednost tveganjem z matriko verjetnosti in vpliva.
Kaj je DPIA in kdaj je potreben?
Ocena vpliva na varstvo podatkov (DPIA) je strukturirana analiza, ki vnaprej oceni tveganja dejavnosti obdelave za pravice in svoboščine posameznikov ter določi ukrepe za ublažitev. Kritična točka: DPIA se izvede v fazi načrtovanja, preden se obdelava začne - ne potem, ko se pojavi težava.
DPIA se običajno zahteva, kadar:
- Uporaba nove tehnologije (umetna inteligenca je pogosto vključena).
- Obsežna obdelava osebnih podatkov.
- Sistematično spremljanje ali profiliranje.
- Posebna obdelava podatkov.
- Avtomatizirane odločitve, ki pomembno vplivajo na ljudi.
Namig: Če niste prepričani, naredite "preverjanje": če sta prisotna dva ali več od petih zgoraj, privzeto opravite DPIA. Stroški DPIA so nizki; Stroški neupoštevanja so zelo visoki pri eni kršitvi.
Postopek DPIA v sedmih korakih
DPIA uporabite za projekt AI v teh sedmih korakih:
korak
kaj počneš
1. Opis
Opišite obdelavo: kateri podatki, namen, obseg, tok
2. Nujnost in sorazmernost
Je AI res potreben? Ali obstaja manj vsiljiv način?
3. Mnenje zainteresiranih strani
Pridobite mnenje ustreznih oseb/predstavnikov
4. Identifikacija tveganja
Naštejte možne škode za posameznike
5. Ocena tveganja
Vsako tveganje ocenite glede na verjetnost in vpliv
6. Omilitveni ukrepi
Načrtujte varnostne ukrepe za vsako tveganje, opredelite preostalo tveganje
7. Odobritev in pregled
Rezultate dokumentirajte, predložite v odobritev in občasno posodobite
Prednostna naloga tveganja: matrika verjetnostnega učinka
Vsako tveganje ocenite v dveh razsežnostih: verjetnost, da se zgodi, in učinek, če se zgodi. Kombinacija obeh daje prednost.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Majhen vpliv
srednji učinek
velik vpliv
velika verjetnost
srednje
visoka
kritičen
srednja verjetnost
nizka
srednje
visoka
majhna verjetnost
nizka
nizka
srednje
Kritična in visoka tveganja so tveganja, pri katerih se projekta ne bi smelo nadaljevati brez upoštevanja varnostnih ukrepov. Cilj ni odpraviti vsakega tveganja; je zmanjšati vsako tveganje na sprejemljivo raven in zavestno sprejeti preostalo (preostalo) tveganje.
trije mini kovčki
Primer 1 – Izpuščen DPIA. Maloprodajna veriga izvaja sistem, ki sledi vedenju strank v trgovini z umetno inteligenco, brez DPIA. Nekaj mesecev pozneje pritožba razkrije, da je sistem naredil posebne sklepe (zdravje, napoved nosečnosti). Odgovora na vprašanje »zakaj niste naredili DPIA« v reviziji ni. DPIA že na začetku bi to tveganje zajel že v fazi projektiranja in naredil projekt varen.
Primer 2 – Projekt, ki ga je rešil DPIA. DPIA se izvaja za podporo AI pri zaposlovanju v banki. Med fazo identifikacije tveganja se izkaže, da je tveganje pristranskosti glede na spol zaradi zgodovinskih podatkov "visoko". Kot ublažitev skupina odstrani informacije o spolu iz modela, rezultat pripiše rednemu testiranju pristranskosti in zahteva človeško validacijo. Zdaj tveganje pade na "zmerno" in projekt postane sprejemljiv. DPIA naredi projekt varen, namesto da ga ubije.
Primer 3 – Preskus sorazmernosti. Podjetje želi skenirati e-pošto zaposlenih za "analizo zvestobe" z AI. V koraku nujnosti/sorazmernosti DPIA je bilo ugotovljeno, da je to preveč vsiljivo glede na namen; Obstajajo manj vsiljive alternative. Projekt v sedanji obliki ni odobren. Test sorazmernosti razlikuje med "zmoremo" in "moramo".
Pozor: DPIA ni obrazec, ki se enkrat izpolni in odloži. Pri obdelavi sprememb (novi podatki, nov namen, novo orodje) je treba DPIA posodobiti. Mrtev DPIA je bolj zavajajoč kot brez DPIA, ker daje lažno zaupanje.
Kdo opravlja DPIA in razmerje registra tveganja z DPIA
Ena oseba ne more izpolniti DPIA za svojo mizo; Pravilen DPIA je timsko delo. Običajno pooblaščena oseba za varstvo podatkov izvaja postopek (Doer), vodja skladnosti je končno odgovoren (Accountable), ustrezna poslovna enota opisuje obdelavo, ovrednoti IT/varnostne tehnične ukrepe in potrdi pravno podlago. Ne smemo zanemariti pridobivanja mnenj relevantnih ljudi (tretji korak); Vendar je to korak, ki ga v praksi največkrat preskočimo.
Rezultati DPIA ne ostanejo v vakuumu: ugotovljena tveganja so zabeležena v registru tveganj organizacije. Register tveganj je grafikon v živo, ki zajema vsa odprta tveganja, njihove prednostne naloge, ublažitve, krivce in datume zadnjega pregleda. Na ta način tveganja projekta umetne inteligence govorijo isti jezik kot splošno upravljanje tveganja organizacije in se redno spremljajo.
Območje registra tveganj
primer
Opredelitev tveganja
Pristranskost glede spola pri zaposlovanju AI
prioriteta
visoka
Omilitveni ukrep
Ekstrakcija nadomestne spremenljivke + testiranje pristranskosti
Odgovorno
Pooblaščena oseba za varstvo podatkov
pregled
vsake 3 mesece
Namig: obravnavajte DPIA z miselnostjo "zabeležite tveganja in sledite" in ne s pristopom "opravljeno in pozabljeno". Ali je bilo uvedeno zmanjšanje tveganja, ali je preostalo tveganje na sprejemljivi ravni – brez vodenja evidenc o tem postane DPIA okence dokument.
Kopirane predloge
PREDLOGA 1 – Predhodni pregled DPIA: "Ali je za to uporabo umetne inteligence potreben DPIA? [opišite uporabo]. Ocenite glede na pet sprožilcev: nova tehnologija, obsežna obdelava, sistematično spremljanje, občutljivi podatki, pomembno avtomatizirano odločanje. Koliko sprožilcev je na voljo, ali priporočate DPIA z utemeljitvijo."
PREDLOGA 2 – Razmišljanje o prepoznavanju tveganja: "Navedite možne škode za ljudi v tem projektu umetne inteligence [opišite projekt]: uhajanje podatkov, diskriminacija, napačna presoja, vdor v zasebnost, pomanjkanje preglednosti, preusmerjanje namena. Napišite scenarij z enim stavkom za vsako škodo. Samo zaznajte, vendar ne preprečite."
PREDLOGA 3 – Ocenjevanje vpliva verjetnosti: "Ocenite naslednja tveganja [seznam tveganj] kot verjetnost (nizka/srednja/visoka) in vpliv (nizka/srednja/visoka); prioriteta (nizka/srednja/visoka/kritična) se pojavi v vsaki vrstici. Seznam kritičnih in visokih na vrhu. Prisoten v obliki tabele."
PREDLOGA 4 — Zasnova ublažitve: "Za naslednje tveganje [napišite tveganje] predlagajte vsaj 3 ukrepe za ublažitev (tehnične, procesne, organizacijske). Ocenite raven 'preostale nevarnosti' po vsakem ukrepu. Če je tveganje po ukrepu še vedno visoko, navedite, da je treba projekt preoblikovati."
Šibek poziv/močan poziv
ŠIBKO: »Ali je ta projekt AI tvegan?«-> Model daje nejasen odgovor »morda«; ne razvršča tveganj, ne razvršča tveganj po prednosti, ne proizvaja ukrepov. MOČNO: "Izvedite mini DPIA za naslednji projekt umetne inteligence: (1) opišite obdelavo, (2) ocenite potrebo po DPIA s 5 sprožilci, (3) naštejte 6 možnih škod za osebe, (4) ocenite vsakega glede na verjetnostni vpliv, (5) priporočite ublažitev za kritična/visoka tveganja. Sprejmite dokončno pravno odločitev; pripravite osnutek ki bo šel v pravno odobritev."-> Model ustvari osnutek strukturiranega, izvedljivega DPIA.
Pogoste napake
- Izvajanje DPIA po začetku transakcije (ali celo po pojavu težave).
- Preskakovanje visoko tvegane obdelave, ki zahteva DPIA, kot »nič hudega«.
- Brez navajanja tveganj in njihovega razvrščanja glede na verjetnost in vpliv.
- Ocena DPIA je "popolna" brez izdelave ukrepov za vsako tveganje.
- Preskočiti korak nujnosti/sorazmernosti in reči "zmoremo, zato naredimo".
- Enkrat izpolnite DPIA in ga ne posodabljajte, ko se postopek spremeni.
- Odobritev projekta brez jasnega dokumentiranja preostalega (preostale) nevarnosti.
Če povzamem
- DPIA je strukturirana analiza, ki oceni vpliv obdelave z visokim tveganjem na posameznike, preden se ta začne.
- DPIA je potreben, če obstaja nova tehnologija, obsežna obdelava, sistematično spremljanje, občutljivi podatki ali znatno avtomatizirano odločanje.
- Postopek je sestavljen iz sedmih korakov: identifikacija, nujnost/sorazmernost, mnenje deležnikov, identifikacija tveganja, ocena, ukrepanje, odobritev/pregled.
- Tveganja so prednostno razvrščena z matriko verjetnosti in vpliva; Kritična/visoka tveganja niso sprejeta brez previdnostnih ukrepov.
- DPIA ne uniči projekta, ampak ga naredi varnega; Je živi dokument, ki ga je treba posodabljati ob spremembah obdelave.
Aplikacijska naloga
Izberite uporabo umetne inteligence, ki bi jo lahko uporabljala vaša organizacija in je lahko visoko tvegana (na primer podpora pri zaposlovanju, sledenje vedenju ali kreditno točkovanje). Najprej razmislite, ali je DPIA potreben s petimi sprožilci. Nato izvedite mini DPIA za to uporabo: opišite obdelavo, naštejte vsaj šest možnih škod za posameznike, vsakega ocenite na matriki verjetnosti in učinka in dodelite prednost. Oblikujte tri omilitvene ukrepe za dve kritični in visoki tveganji ter ocenite stopnjo preostalega tveganja po ukrepu. Na koncu upoštevajte, kdaj bo treba ta DPIA posodobiti.
kontrolni seznam
- [ ] Zahtevo DPIA sem ocenil s petimi sprožilci.
- [ ] Definiral sem obdelavo (podatki, namen, obseg, tok).
- [ ] Dvomil sem o nujnosti in sorazmernosti.
- [ ] Naštel sem možne škode za posameznike.
- [ ] V matriki verjetnosti in vpliva sem dal prednost tveganjem.
- [ ] Oblikoval sem ukrepe za ublažitev kritičnih/visokih tveganj.
- [ ] Zdaj sem dokumentiral tveganje in določil pogoje pregleda.