Dobici:
- Procjena zahtijeva li upotreba umjetne inteligencije DPIA
- Primjena procesa DPIA u sedam koraka na AI projekt
- Odredite prioritete rizika pomoću matrice vjerojatnosti i utjecaja i osmislite mjere za njihovo ublažavanje
Neke upotrebe umjetne inteligencije predstavljaju ozbiljne rizike za pojedince: nadzor velikih razmjera, obrada osjetljivih podataka, automatizirane odluke. U takvim projektima i KVKK/GDPR i EU Zakon o umjetnoj inteligenciji očekuju strukturiranu procjenu rizika prije početka radova. Naziv ove procjene je Procjena učinka na zaštitu podataka (DPIA). U ovoj jedinici naučit ćemo kako odrediti zahtijeva li upotreba DPIA, kako primijeniti postupak DPIA u sedam koraka na projekt umjetne inteligencije i kako odrediti prioritete rizika pomoću matrice vjerojatnosti i učinka.
Što je DPIA i kada je potreban?
Procjena utjecaja na zaštitu podataka (DPIA) je strukturirana analiza koja unaprijed procjenjuje rizike aktivnosti obrade na prava i slobode pojedinaca i određuje mjere za ublažavanje. Kritična točka: DPIA se radi u fazi projektiranja, prije početka obrade — ne nakon što se problem pojavi.
DPIA je obično potrebna kada:
- Korištenje nove tehnologije (AI je često uključena).
- Opsežna obrada osobnih podataka.
- Sustavno praćenje ili profiliranje.
- Posebna obrada podataka.
- Automatizirane odluke koje značajno utječu na ljude.
Savjet: Ako niste sigurni, napravite "screening": ako su prisutna dva ili više od pet gore navedenih, prema zadanim postavkama napravite DPIA. Trošak izvođenja DPIA je nizak; Trošak nečinjenja vrlo je visok u jednom prekršaju.
DPIA proces u sedam koraka
DPIA primjenjujete na AI projekt u ovih sedam koraka:
korak
čime se baviš
1. Opis
Opišite obradu: koji podaci, svrha, opseg, tijek
2. Nužnost i razmjernost
Je li AI stvarno potreban? Postoji li manje nametljiv način?
3. Mišljenje dionika
Pribavite mišljenje relevantnih osoba/predstavnika
4. Identifikacija rizika
Navedite moguće štete za pojedince
5. Procjena rizika
Ocijenite svaki rizik prema vjerojatnosti i utjecaju
6. Mjere ublažavanja
Dizajnirajte mjere opreza za svaki rizik, identificirajte preostali rizik
7. Odobrenje i pregled
Dokumentirajte rezultat, podnesite ga na odobrenje, povremeno ga ažurirajte
Određivanje prioriteta rizika: matrica vjerojatnosti i utjecaja
Svaki rizik procjenjujete u dvije dimenzije: vjerojatnost da se dogodi i učinak ako se dogodi. Kombinacija to dvoje daje prednost.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Nizak utjecaj
srednji učinak
veliki utjecaj
velika vjerojatnost
srednji
visoka
kritičan
srednja vjerojatnost
nizak
srednji
visoka
mala vjerojatnost
nizak
nizak
srednji
Kritični i visoki rizici su rizici zbog kojih se projekt ne bi trebao nastaviti bez poduzimanja mjera opreza. Cilj nije eliminirati svaki rizik; je smanjiti svaki rizik na prihvatljivu razinu i svjesno prihvatiti preostali (rezidualni) rizik.
tri mini kućišta
Slučaj 1 — Izostavljen DPIA. Maloprodajni lanac implementira sustav koji prati ponašanje kupaca u trgovini pomoću umjetne inteligencije, bez DPIA-e. Mjesecima kasnije, pritužba otkriva da je sustav napravio određene zaključke (zdravlje, predviđanje trudnoće). U reviziji nema odgovora na pitanje “zašto niste radili DPIA”. DPIA bi od samog početka uhvatila ovaj rizik u fazi projektiranja i učinila projekt sigurnim.
Slučaj 2 — DPIA spasila projekt. DPIA se radi za AI za podršku zapošljavanju u banci. Tijekom faze identifikacije rizika, rizik od rodne pristranosti zbog povijesnih podataka pokazao se "visokim". Kao ublažavanje, tim uklanja informacije o spolu iz modela, pripisuje izlaz redovnom testiranju pristranosti i zahtijeva ljudsku provjeru valjanosti. Sada rizik pada na "umjeren" i projekt postaje prihvatljiv. DPIA čini projekt sigurnim umjesto da ga ubija.
Slučaj 3 — Test proporcionalnosti. Tvrtka želi skenirati e-poštu zaposlenika za "analizu lojalnosti" pomoću umjetne inteligencije. U koraku nužnosti/razmjernosti DPIA-e to se pokazalo pretjerano nametljivim u odnosu na svrhu; Postoje manje nametljive alternative. Projekt nije odobren u sadašnjem obliku. Test proporcionalnosti razlikuje između "možemo" i "moramo".
Pažnja: DPIA nije obrazac koji se jednom ispuni i odloži. Prilikom obrade promjena (novi podaci, nova namjena, novi alat) DPIA se mora ažurirati. Mrtvi DPIA više dovodi u zabludu nego da uopće nema DPIA jer daje lažno povjerenje.
Tko radi DPIA i odnos registra rizika s DPIA-om
Jedna osoba ne može ispuniti DPIA za svojim stolom; Ispravan DPIA je timski rad. Obično službenik za zaštitu podataka provodi postupak (Doer), voditelj usklađenosti je krajnji odgovoran (Accountable), relevantna poslovna jedinica opisuje obradu, ocjenjuje IT/sigurnosne tehničke mjere i potvrđuje pravnu osnovu. Pribavljanje mišljenja relevantnih ljudi (treći korak) ne smije se zanemariti; Međutim, to je korak koji se u praksi najčešće preskače.
Rezultati DPIA-e ne leže u vakuumu: identificirani rizici bilježe se u registru rizika organizacije. Registar rizika je grafikon uživo koji bilježi sve otvorene rizike, njihove prioritete, ublažavanja, krivce i datume zadnjeg pregleda. Na taj način rizici projekta umjetne inteligencije govore istim jezikom kao i cjelokupno upravljanje rizicima organizacije i redovito se prate.
Područje registra rizika
primjer
Definicija rizika
Rodna pristranost pri zapošljavanju AI
prioritet
visoka
Mjera ublažavanja
Ekstrakcija zamjenske varijable + testiranje pristranosti
Odgovorno
Službenik za zaštitu podataka
pregled
svaka 3 mjeseca
Savjet: Tretirajte DPIA s mentalitetom "zabilježite rizik i pratite", a ne pristupom "gotovo i zaboravite". Je li implementirano smanjenje rizika, je li preostali rizik na prihvatljivoj razini — bez evidencije o tome, DPIA postaje prozorski dokument.
Predlošci koji se mogu kopirati
PREDLOŽAK 1 — DPIA pretprovjera: "Je li DPIA potreban za ovu upotrebu umjetne inteligencije? [opišite upotrebu]. Procijenite prema pet okidača: nova tehnologija, obrada velikih razmjera, sustavno praćenje, osjetljivi podaci, značajno automatizirano donošenje odluka. Koliko okidača postoji, preporučujete li DPIA, s obrazloženjem."
PREDLOŽAK 2 — Oluja ideja o identifikaciji rizika: "Navedite moguće štete za ljude u ovom projektu umjetne inteligencije [opišite projekt]: curenje podataka, diskriminacija, pogrešna procjena, narušavanje privatnosti, nedostatak transparentnosti, odstupanje svrhe. Napišite scenarij u jednoj rečenici za svaku štetu. Samo otkrijte, ali nemojte djelovati."
PREDLOŽAK 3 — Bodovanje utjecaja vjerojatnosti: "Ocjenite sljedeće rizike [navedite rizike] kao vjerojatnost (niska/srednja/visoka) i učinak (niska/srednja/visoka); prioritet (nizak/srednji/visok/kritičan) pojavljuje se u svakom retku. Navedite kritične i visoke na vrhu. Prikažite u obliku tablice."
OBRAZAC 4 — Dizajn ublažavanja: "Za sljedeći rizik [napišite rizik], predložite najmanje 3 mjere ublažavanja (tehničke, procesne, organizacijske). Procijenite razinu 'preostalog rizika' nakon svake mjere. Ako je rizik i dalje visok nakon mjere, naznačite da projekt treba redizajnirati."
Slab upit / Jak upit
SLABO: "Je li ovaj projekt umjetne inteligencije riskantan?"-> Model daje nejasan odgovor 'možda'; ne klasificira rizike, ne daje prioritet rizicima, ne proizvodi mjere. SNAŽNO: "Provedite mini DPIA za sljedeći projekt umjetne inteligencije: (1) opišite obradu, (2) procijenite potrebu za DPIA s 5 okidača, (3) navedite 6 mogućih šteta za osobe, (4) ocijenite svaku prema vjerojatnosti-utjecaju, (5) preporučite ublažavanje kritičnih/visokih rizika. Donesite konačnu pravnu odluku; izradite nacrt koji će ići na zakonsko odobrenje."-> Model proizvodi nacrt strukturiranog, djelotvornog DPIA-a.
Uobičajene greške
- Provođenje DPIA-e nakon što je transakcija započela (ili čak nakon što se pojavio problem).
- Preskakanje visokorizične obrade koja zahtijeva DPIA kao "nije ništa strašno".
- Nenavođenje rizika i njihovo prioritiziranje prema vjerojatnosti i utjecaju.
- Smatrajući DPIA "potpunim" bez izrade mjera za svaki rizik.
- Preskočiti korak nužnosti/proporcionalnosti i reći "mi to možemo, pa učinimo to".
- Jednom ispuniti DPIA i ne ažurirati ga kada se proces promijeni.
- Odobravanje projekta bez jasnog dokumentiranja rezidualnog (preostalog) rizika.
Ukratko
- DPIA je strukturirana analiza koja procjenjuje utjecaj visokorizične obrade na pojedince prije nego što se ona pokrene.
- DPIA je potrebna ako postoji nova tehnologija, velika obrada, sustavno praćenje, osjetljivi podaci ili značajno automatizirano donošenje odluka.
- Proces se sastoji od sedam koraka: identifikacija, nužnost/proporcionalnost, mišljenje dionika, identifikacija rizika, procjena, djelovanje, odobrenje/pregled.
- Rizici su prioritetizirani pomoću matrice vjerojatnosti i učinka; Kritični/visoki rizici ne prihvaćaju se bez mjera opreza.
- DPIA ne ubija projekt, čini ga sigurnim; To je živi dokument koji se mora ažurirati s promjenama obrade.
Zadatak aplikacije
Odaberite upotrebu umjetne inteligencije koju vaša organizacija može koristiti, a koja može biti visokorizična (na primjer, podrška pri zapošljavanju, praćenje ponašanja ili kreditno bodovanje). Prvo razmislite je li DPIA potreban s pet okidača. Zatim provedite mini DPIA za ovu upotrebu: opišite obradu, navedite najmanje šest mogućih šteta za pojedince, ocijenite svaku na matrici vjerojatnosti i utjecaja i dodijelite prioritet. Osmislite tri mjere ublažavanja za dva kritična i visoka rizika i procijenite preostalu razinu rizika nakon mjere. Na kraju, zabilježite kada će ovaj DPIA biti potrebno ažurirati.
popis za provjeru
- [ ] Procijenio sam DPIA zahtjev s pet okidača.
- [ ] Definirao sam obradu (podaci, svrha, opseg, tok).
- [ ] Doveo sam u pitanje nužnost i proporcionalnost.
- [ ] Naveo sam moguće štete za pojedince.
- [ ] Dao sam prioritet rizicima u matrici vjerojatnosti i utjecaja.
- [ ] Dizajnirao sam mjere ublažavanja kritičnih/visokih rizika.
- [ ] Sada sam dokumentirao rizik i postavio uvjete pregleda.