Kasu:
- Hinnang, kas tehisintellekti kasutamine nõuab DPIA-d
- Seitsmeastmelise DPIA protsessi rakendamine tehisintellekti projektile
- Seadke riskid tähtsuse järjekorda tõenäosus-mõju maatriksi abil ja kavandage leevendavad meetmed
Mõned tehisintellekti kasutusviisid kujutavad endast tõsist ohtu üksikisikutele: ulatuslik seire, tundlike andmete töötlemine, automatiseeritud otsused. Selliste projektide puhul eeldavad nii KVKK/GDPR kui ka ELi tehisintellekti seadus struktureeritud riskianalüüsi enne töö algust. Selle hinnangu nimi on Data Protection Impact Assessment (DPIA). Selles üksuses õpime, kuidas teha kindlaks, kas kasutusala vajab DPIA-d, kuidas rakendada tehisintellekti projektile seitsmeastmelist DPIA protsessi ja kuidas seada riske tähtsuse järjekorda tõenäosuse-mõju maatriksi abil.
Mis on DPIA ja millal seda vaja on?
Andmekaitsemõju hindamine (DPIA) on struktureeritud analüüs, mis hindab eelnevalt töötlemistoiminguga kaasnevaid riske üksikisikute õigustele ja vabadustele ning määrab leevendavad meetmed. Kriitiline punkt: DPIA tehakse projekteerimisetapis, enne töötlemise algust, mitte pärast probleemi ilmnemist.
DPIA on tavaliselt vajalik, kui:
- Uue tehnoloogia kasutamine (AI on sageli kaasatud).
- Suuremahuline isikuandmete töötlemine.
- Süstemaatiline jälgimine või profiilide koostamine.
- Spetsiaalne andmetöötlus.
- Automatiseeritud otsused, mis mõjutavad inimesi oluliselt.
Näpunäide. Kui te pole kindel, tehke "sõeluuring": kui ülaltoodud viiest ülaltoodust on kaks või enam, tehke vaikimisi DPIA. DPIA tegemise hind on madal; Selle tegemata jätmise hind on ühe rikkumise korral väga kõrge.
Seitsmeastmeline DPIA protsess
Rakendate DPIA-d tehisintellektiprojektile järgmistes seitsmes etapis.
samm
Mida sa teed?
1. Kirjeldus
Kirjeldage töötlemist: millised andmed, eesmärk, ulatus, voog
2. Vajalikkus ja proportsionaalsus
Kas AI on tõesti vajalik? Kas on vähem pealetükkivat viisi?
3. Sidusrühmade arvamus
Hankige asjaomaste isikute/esindajate arvamus
4. Riskide tuvastamine
Loetlege võimalikud kahjud üksikisikutele
5. Riski hindamine
Hinda iga riski tõenäosuse ja mõju järgi
6. Leevendusmeetmed
Kavandage iga riski jaoks ettevaatusabinõud, tehke kindlaks jääkrisk
7. Heakskiitmine ja läbivaatamine
Dokumenteerige tulemus, esitage see kinnitamiseks, värskendage seda perioodiliselt
Riski prioriseerimine: tõenäosus-mõju maatriks
Hindate iga riski kahes mõõtmes: selle esinemise tõenäosus ja mõju, kui see juhtub. Nende kahe kombinatsioon annab prioriteediks.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Madal mõju
keskmine efekt
suur mõju
suure tõenäosusega
keskmine
kõrge
kriitiline
keskmine tõenäosus
madal
keskmine
kõrge
väike tõenäosus
madal
madal
keskmine
Kriitilised ja suured riskid on riskid, mille puhul ei tohiks projekti jätkata ilma ettevaatusabinõusid võtmata. Eesmärk ei ole iga riski kõrvaldamine; on iga riski vähendamine vastuvõetava tasemeni ja ülejäänud (jääk)riski teadlikult aktsepteerimine.
kolm minikarpi
Juhtum 1 – DPIA välja jäetud. Jaekett rakendab süsteemi, mis jälgib klientide käitumist kaupluses tehisintellektiga, ilma DPIA-ta. Kuud hiljem selgub kaebusest, et süsteem tegi konkreetseid järeldusi (tervis, raseduse ennustus). Küsimusele "miks te DPIA-d ei teinud" auditis vastust ei tule. DPIA oleks algusest peale selle riski juba projekteerimisetapis tabanud ja projekti turvaliseks muutnud.
Juhtum 2 – projekti päästis DPIA. DPIA-d tehakse värbamistoetuse AI jaoks pangas. Riskide tuvastamise etapis osutub ajaloolistest andmetest tingitud soolise eelarvamuse risk "kõrgeks". Leevenduseks eemaldab meeskond mudelist sooteabe, omistab väljundi regulaarsele kallutustestimisele ja nõuab inimese kinnitust. Nüüd langeb risk "mõõdukaks" ja projekt muutub vastuvõetavaks. DPIA muudab projekti tapmise asemel turvaliseks.
Juhtum 3 – proportsionaalsuse test. Ettevõte soovib skannida töötajate e-kirju tehisintellektiga lojaalsusanalüüsi jaoks. DPIA vajalikkuse/proportsionaalsuse etapis leitakse, et see on eesmärgi suhtes liiga sekkuv; On vähem pealetükkivaid alternatiive. Projekt ei ole praegusel kujul heaks kiidetud. Proportsionaalsuse testis tehakse vahet "saame" ja "me peame".
Tähelepanu: DPIA ei ole vorm, mis täidetakse üks kord ja pannakse kõrvale. Muudatuste (uued andmed, uus eesmärk, uus tööriist) töötlemisel tuleb DPIA uuendada. Surnud DPIA on eksitavam kui DPIA puudumine, kuna see annab vale kindlustunde.
Kes teeb DPIA ja riskiregistri suhet DPIAga
Üksik inimene ei saa DPIA-d oma laua taga täita; Õige DPIA on meeskonnatöö. Tavaliselt viib protsessi läbi andmekaitseametnik (Tegija), lõplikult vastutab vastavusjuht (Accountable), asjaomane äriüksus kirjeldab töötlemist, hindab IT/turbe tehnilisi meetmeid ja kinnitab õigusliku aluse. Tähelepanuta ei tohiks jätta asjaomaste inimeste arvamuste hankimist (kolmas samm); See on aga praktikas enim vahele jäetud samm.
DPIA väljund ei jää vaakumisse: tuvastatud riskid registreeritakse organisatsiooni riskiregistris. Riskiregister on reaalajas diagramm, mis kajastab kõiki avatud riske, nende prioriteete, leevendusi, süüdlasi ja viimase ülevaatuse kuupäevi. Nii räägivad tehisintellektiprojekti riskid organisatsiooni üldise riskijuhtimisega sama keelt ja neid jälgitakse regulaarselt.
Riskiregistri ala
näide
Riski määratlus
Sooline eelarvamus värbamise tehisintellektis
prioriteet
kõrge
Leevendusmeede
Asendusmuutuja ekstraheerimine + kallutatuse testimine
Vastutustundlik
Andmekaitseametnik
arvustus
iga 3 kuu tagant
Näpunäide: käsitlege DPIA-d "riskilogi ja jälgi" mentaliteediga, mitte "tehtud ja unusta" lähenemisviisiga. Kas riskide maandamine on rakendatud, kas jääkrisk on vastuvõetaval tasemel – ilma nende üle arvestust pidamata muutub DPIA aknadokument.
Kopeeritavad mallid
MALL 1 – DPIA eelkontroll: "Kas DPIA on selle AI kasutuse jaoks vajalik? [kirjeldage kasutust]. Hinnake viie päästiku alusel: uus tehnoloogia, suuremahuline töötlemine, süstemaatiline jälgimine, tundlikud andmed, märkimisväärne automatiseeritud otsuste tegemine. Kui palju käivitajaid on, kas soovitate DPIA-d, koos põhjendusega."
MALL 2 – Riskide tuvastamise ajurünnak: "Loetlege selles tehisintellekti projektis inimestele tekitatavad võimalikud kahjud [kirjeldage projekti]: andmete leke, diskrimineerimine, väärhinnangud, privaatsuse rikkumine, läbipaistvuse puudumine, eesmärgi triivimine. Kirjutage iga kahju kohta ühelauseline stsenaarium. Lihtsalt tuvastage, kuid ärge tegutsege."
MALL 3 – tõenäosus-mõju hindamine: "Skoorige järgmised riskid [loetlege riskid] tõenäosusena (madal/keskmine/kõrge) ja mõjuna (madal/keskmine/kõrge); prioriteet (madal/keskmine/kõrge/kriitiline) kuvatakse igal real. Kriitiline ja kõrge loetelu ülaosas. Esitage tabelivormingus."
MALL 4 – Leevenduskava: "Järgmise riski jaoks [kirjutage risk], pakkuge välja vähemalt 3 maandusmeedet (tehniline, protsessiline, organisatsiooniline). Hinnake pärast iga meedet "jääkriski" taset. Kui risk on pärast meedet endiselt kõrge, märkige, et projekt tuleks ümber kujundada."
Nõrk viip / Tugev viip
NÕRK: "Kas see AI projekt on riskantne?"-> Mudel annab ebamäärase "võib-olla" vastuse; ei klassifitseeri riske, ei sea riske tähtsuse järjekorda, ei tooda meetmeid.STRONG: "Tehke mini-DPIA järgmise tehisintellekti projekti jaoks: (1) kirjeldage töötlemist, (2) hinnake DPIA vajadust 5 päästikuga, (3) loetlege 6 võimalikku kahju inimestele, (4) hindage igaüks tõenäosuse-mõju järgi, (5) soovitage leevendada kriitilise/määratleva otsuse eelnõu. juriidiline heakskiit."-> Mudel loob struktureeritud ja rakendatava DPIA mustandi.
Levinud vead
- DPIA tegemine pärast tehingu algust (või isegi pärast probleemi ilmnemist).
- Kõrge riskiga töötlemise vahelejätmine, mis nõuab DPIA-d, pole suur asi.
- Riskide mitteloetlemine ja nende tähtsuse järjekorda seadmine tõenäosuse ja mõju järgi.
- DPIA käsitamine "täielikuna", ilma et oleks võetud meetmeid iga riski jaoks.
- Vajaduse/proportsionaalsuse sammu vahelejätmine ja "me saame hakkama, nii et teeme ära" ütlemine.
- DPIA üks kord täitmine ja protsessi muutumisel mitte värskendamine.
- Projekti heakskiitmine jääkriski (ülejäänud) selgelt dokumenteerimata.
Kokkuvõttes
- DPIA on struktureeritud analüüs, mis hindab kõrge riskiga töötlemise mõju üksikisikutele enne selle algatamist.
- DPIA on vajalik uue tehnoloogia, suuremahulise töötlemise, süstemaatilise seire, delikaatsete andmete või olulise automatiseeritud otsuste tegemise korral.
- Protsess koosneb seitsmest etapist: tuvastamine, vajalikkus/proportsionaalsus, sidusrühmade arvamus, riskide tuvastamine, hindamine, tegevus, heakskiit/ülevaatus.
- Riskid seatakse prioriteediks tõenäosus-mõju maatriksiga; Ilma ettevaatusabinõudeta ei aktsepteerita kriitilisi/kõrgeid riske.
- DPIA ei tapa projekti, vaid muudab selle turvaliseks; See on elav dokument, mida tuleb töötlemise muudatuste korral uuendada.
Rakenduse ülesanne
Valige tehisintellekti kasutusviis, mida teie organisatsioon võib kasutada ja mis võib olla kõrge riskiga (nt värbamise tugi, käitumise jälgimine või krediidiskoor). Esmalt kaaluge, kas DPIA on viie päästikuga vajalik. Seejärel viige selle kasutuse jaoks läbi mini-DPIA: kirjeldage töötlemist, loetlege vähemalt kuus võimalikku kahju üksikisikutele, hinnake igaüks tõenäosuse-mõju maatriksis ja määrake prioriteet. Kahe kriitilise ja kõrge riski jaoks kavandage kolm leevendusmeedet ning hinnake pärast meedet jääkriski taset. Lõpuks pange tähele, millal seda DPIA-d on vaja värskendada.
kontrollnimekiri
- [ ] Hindasin DPIA nõuet viie päästikuga.
- [ ] Määratlesin töötlemise (andmed, eesmärk, ulatus, voog).
- [ ] Seadsin kahtluse alla vajalikkuse ja proportsionaalsuse.
- [ ] Olen loetlenud võimalikud kahjud üksikisikutele.
- [ ] Tõenäosus-mõju maatriksis tähtsustasin riske.
- [ ] Kavandasin kriitiliste/kõrgete riskide leevendamise meetmed.
- [ ] Olen nüüd riski dokumenteerinud ja määranud läbivaatamise tingimused.