Dobici:
- Procjena da li upotreba AI zahtijeva DPIA
- Primjena DPIA procesa u sedam koraka na AI projekat
- Odredite prioritete rizika sa matricom verovatnoće-uticaj i dizajnirajte mere za ublažavanje
Neke upotrebe AI predstavljaju ozbiljne rizike za pojedince: nadgledanje velikih razmera, obrada osetljivih podataka, automatizovane odluke. U takvim projektima, i KVKK/GDPR i EU zakon o umjetnoj inteligenciji očekuju strukturiranu procjenu rizika prije početka rada. Naziv ove procjene je Procjena uticaja na zaštitu podataka (DPIA). U ovoj cjelini naučit ćemo kako odrediti da li upotreba zahtijeva DPIA, kako primijeniti DPIA proces od sedam koraka na AI projekat i kako odrediti prioritete rizika pomoću matrice vjerovatnoće-utjecaja.
Šta je DPIA i kada je potrebna?
Procjena uticaja na zaštitu podataka (DPIA) je strukturirana analiza koja unaprijed procjenjuje rizike aktivnosti obrade na prava i slobode pojedinaca i utvrđuje mjere ublažavanja. Kritična tačka: DPIA se radi u fazi projektovanja, pre nego što obrada počne — ne nakon što se problem pojavi.
DPIA je obično potrebna kada:
- Upotreba nove tehnologije (AI je često uključen).
- Obrada ličnih podataka velikih razmjera.
- Sistematsko praćenje ili profilisanje.
- Posebna obrada podataka.
- Automatizirane odluke koje značajno utiču na ljude.
Savjet: Ako niste sigurni, uradite "provjeru": ako su prisutna dva ili više od pet gore navedenih, zadano radite DPIA. Troškovi izvođenja DPIA su niske; Cena nečinjenja je veoma visoka u jednom prekršaju.
DPIA proces u sedam koraka
DPIA primjenjujete na AI projekat u ovih sedam koraka:
korak
sta radis
1. Opis
Opišite obradu: koji podaci, svrha, obim, tok
2. Nužnost i proporcionalnost
Da li je veštačka inteligencija zaista neophodna? Postoji li manje nametljiv način?
3. Mišljenje zainteresovanih strana
Pribaviti mišljenje relevantnih osoba/predstavnika
4. Identifikacija rizika
Navedite moguće štete za pojedince
5. Procjena rizika
Ocenite svaki rizik po verovatnoći i uticaju
6. Mjere ublažavanja
Dizajnirajte mjere opreza za svaki rizik, identificirajte preostali rizik
7. Odobrenje i pregled
Dokumentirajte rezultat, podnesite ga na odobrenje, ažurirajte ga povremeno
Određivanje prioriteta rizika: matrica verovatnoće-uticaj
Svaki rizik procjenjujete u dvije dimenzije: vjerovatnoću da se dogodi i utjecaj ako se dogodi. Kombinacija ovo dvoje daje prednost.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Mali uticaj
srednji efekat
visok uticaj
velika vjerovatnoća
srednje
visoko
kritičan
srednja verovatnoća
nisko
srednje
visoko
mala vjerovatnoća
nisko
nisko
srednje
Kritični i visoki rizici su rizici zbog kojih se projekat ne bi trebao nastaviti bez poduzimanja mjera opreza. Cilj nije eliminisati svaki rizik; je smanjiti svaki rizik na prihvatljiv nivo i svjesno prihvatiti preostali (rezidualni) rizik.
tri mini kofera
Slučaj 1 — Izostavljen DPIA. Maloprodajni lanac implementira sistem koji prati ponašanje kupaca u radnji pomoću AI, bez DPIA. Mjesecima kasnije, pritužba otkriva da je sistem napravio specifične zaključke (zdravlje, predviđanje trudnoće). U reviziji nema odgovora na pitanje "zašto niste uradili DPIA". DPIA od početka bi uhvatila ovaj rizik u fazi projektovanja i učinila projekat sigurnim.
Slučaj 2 — Projekat spasio DPIA. DPIA se radi za podršku AI pri zapošljavanju u banci. Tokom faze identifikacije rizika, ispostavlja se da je rizik od rodne pristrasnosti zbog istorijskih podataka „visok“. Kao ublažavanje, tim uklanja informacije o rodu iz modela, pripisuje izlaz redovnom testiranju pristranosti i zahtijeva provjeru od strane ljudi. Sada rizik pada na "umjeren" i projekat postaje prihvatljiv. DPIA čini projekat sigurnim umjesto da ga ubija.
Slučaj 3 — Test proporcionalnosti. Kompanija želi da skenira mejlove zaposlenih u potrazi za "analizom lojalnosti" pomoću veštačke inteligencije. U koraku nužnosti/proporcionalnosti DPIA-e, ovo je previše nametljivo u odnosu na svrhu; Postoje manje nametljive alternative. Projekat nije odobren u sadašnjem obliku. Test proporcionalnosti pravi razliku između “možemo” i “moramo”.
Pažnja: DPIA nije obrazac koji se popunjava jednom i ostavlja na stranu. Prilikom obrade promjena (novi podaci, nova namjena, novi alat) DPIA se mora ažurirati. Mrtav DPIA je više obmanjujući nego nikakav DPIA jer daje lažno povjerenje.
Ko vodi odnos DPIA i registra rizika sa DPIA-om
Jedna osoba ne može ispuniti DPIA na svom stolu; Ispravan DPIA je timski rad. Obično službenik za zaštitu podataka provodi proces (Doer), menadžer za usklađenost je u krajnjoj liniji odgovoran (Accountable), relevantna poslovna jedinica opisuje obradu, ocjenjuje IT/sigurnosne tehničke mjere i potvrđuje pravni osnov. Pribavljanje mišljenja relevantnih ljudi (treći korak) ne treba zanemariti; Međutim, ovo je korak koji se u praksi najviše preskače.
Rezultat DPIA ne stoji u vakuumu: identifikovani rizici se evidentiraju u registru rizika organizacije. Registar rizika je dijagram uživo koji bilježi sve otvorene rizike, njihove prioritete, ublažavanja, krivce i datume posljednje revizije. Na ovaj način, rizici projekta AI govore istim jezikom kao i cjelokupno upravljanje rizicima organizacije i redovno se prate.
Područje registra rizika
primjer
Definicija rizika
Rodna pristrasnost u zapošljavanju AI
prioritet
visoko
Mjera ublažavanja
Ekstrakcija surogat varijable + testiranje pristranosti
Odgovorno
Službenik za zaštitu podataka
recenzija
svaka 3 mjeseca
Savjet: Tretirajte DPIA sa mentalitetom „registriraj rizik i prati“, a ne pristupom „uradi i zaboravi“. Da li je implementirano smanjenje rizika, da li je preostali rizik na prihvatljivom nivou - bez evidencije o tome, DPIA postaje prozorski dokument.
Predlošci koji se mogu kopirati
PREDLOŽAK 1 — DPIA prethodna provera: "Da li je DPIA potrebna za ovu upotrebu AI? [opišite upotrebu]. Procijenite prema pet pokretača: nova tehnologija, obimna obrada, sistematsko praćenje, osjetljivi podaci, značajno automatizirano donošenje odluka. Koliko okidača postoji, da li preporučujete DPIA, s opravdanjem."
PREDLOŽAK 2 — Brainstorming za identifikaciju rizika: "Navedite moguću štetu ljudima u ovom projektu AI [opišite projekat]: curenje podataka, diskriminacija, pogrešna procjena, zadiranje u privatnost, nedostatak transparentnosti, odstupanje svrhe. Napišite scenarij od jedne rečenice za svaku štetu. Samo otkrijte, a ne suprotstavljajte se."
PREDLOG 3 — Bodovanje verovatnoće-uticaja: "Ocenite sledeće rizike [navedite rizike] kao verovatnoću (nizak/srednji/visok) i uticaj (nizak/srednji/visok); prioritet (nizak/srednji/visok/kritičan) se pojavljuje u svakom redu. Navedite kritične i visoke na vrhu. Prisutno u formatu tabele."
PREDLOG 4 — Dizajn ublažavanja: "Za sljedeći rizik [napišite rizik], predložite najmanje 3 mjere ublažavanja (tehničke, procesne, organizacione). Procijenite nivo 'preostalog rizika' nakon svake mjere. Ako je rizik i dalje visok nakon mjere, naznačite da projekat treba redizajnirati."
Slaba prompt / Jaka prompt
SLABO: „Da li je ovaj AI projekat rizičan?“-> Model daje nejasan odgovor „možda“; ne klasifikuje rizike, ne daje prioritete rizicima, ne proizvodi mere. STRONG: "Provesti mini DPIA za sledeći AI projekat: (1) opisati obradu, (2) proceniti potrebu za DPIA sa 5 pokretača, (3) navesti 6 mogućih šteta za osobe, (4) oceniti svaku po verovatnoći-uticaj, (5) doneti kritičnu odluku o smanjenju rizika za izradu definitivne odluke o smanjenju rizika. će ići na pravno odobrenje."-> Model proizvodi nacrt strukturiranog, djelotvornog DPIA.
Uobičajene greške
- Izvođenje DPIA nakon što je transakcija započela (ili čak i nakon što se problem pojavio).
- Preskakanje visokorizične obrade koja zahtijeva DPIA kao „nije velika stvar“.
- Ne nabrajanje rizika i njihovo određivanje prioriteta prema vjerovatnoći i uticaju.
- Smatrati da je DPIA "potpuna" bez izrade mjera za svaki rizik.
- Preskakanje koraka nužnosti/proporcionalnosti i rekavši "mi to možemo, pa hajde da to uradimo".
- Popunjavanje DPIA jednom i ne ažuriranje kada se proces promijeni.
- Odobravanje projekta bez jasnog dokumentovanja preostalog (preostalog) rizika.
Ukratko
- DPIA je strukturirana analiza koja procjenjuje utjecaj visokorizične obrade na pojedince prije nego što se ona pokrene.
- DPIA je potrebna ako postoji nova tehnologija, obimna obrada, sistematski nadzor, osjetljivi podaci ili značajno automatizirano donošenje odluka.
- Proces se sastoji od sedam koraka: identifikacija, neophodnost/proporcionalnost, mišljenje zainteresovanih strana, identifikacija rizika, procjena, akcija, odobrenje/pregled.
- Rizici su dati prioritet matricom verovatnoće-uticaj; Kritični/visoki rizici se ne prihvataju bez predostrožnosti.
- DPIA ne ubija projekat, čini ga sigurnim; To je živi dokument koji se mora ažurirati kako se obrađuju promjene.
Zadatak aplikacije
Odaberite upotrebu umjetne inteligencije koju vaša organizacija može koristiti, a koja može biti visokorizična (na primjer, podrška za zapošljavanje, praćenje ponašanja ili kreditno ocjenjivanje). Prvo razmislite da li je DPIA neophodna sa pet okidača. Zatim izvršite mini DPIA za ovu upotrebu: opišite obradu, navedite najmanje šest mogućih šteta za pojedince, ocijenite svaku na matrici vjerovatnoće-utjecaj i dodijelite prioritet. Dizajnirati tri mjere ublažavanja za dva kritična i visoka rizika i procijeniti nivo preostalog rizika nakon mjere. Na kraju, imajte na umu kada će ovaj DPIA morati da se ažurira.
kontrolna lista
- [ ] Procijenio sam DPIA zahtjev sa pet okidača.
- [ ] Definirao sam obradu (podaci, svrha, opseg, tok).
- [ ] Doveo sam u pitanje nužnost i proporcionalnost.
- [ ] Naveo sam moguće štete za pojedince.
- [ ] Dao sam prioritet rizicima u matrici verovatnoće-uticaj.
- [ ] Dizajnirao sam mjere ublažavanja za kritične/visoke rizike.
- [ ] Sada sam dokumentovao rizik i postavio uslove pregleda.