Pelnas:
- Įvertinama, ar dirbtinio intelekto naudojimui reikalinga DPIA
- Septynių žingsnių DPIA proceso taikymas AI projektui
- Suteikite pirmenybę rizikai naudodami tikimybės ir poveikio matricą ir suplanuokite mažinimo priemones
Kai kurie dirbtinio intelekto naudojimo būdai kelia rimtą pavojų asmenims: didelio masto stebėjimas, jautrių duomenų apdorojimas, automatizuoti sprendimai. Tokiuose projektuose tiek KVKK/GDPR, tiek ES AI įstatymas tikisi struktūrizuoto rizikos įvertinimo prieš pradedant darbą. Šio vertinimo pavadinimas – poveikio duomenų apsaugai vertinimas (DPIA). Šiame skyriuje sužinosime, kaip nustatyti, ar naudojimui reikalingas DPIA, kaip taikyti septynių žingsnių DPIA procesą AI projektui ir kaip nustatyti rizikos prioritetus naudojant tikimybės ir poveikio matricą.
Kas yra DPIA ir kada to reikia?
Poveikio duomenų apsaugai vertinimas (DPAV) yra struktūrizuota analizė, kuri iš anksto įvertina duomenų tvarkymo veiklos riziką asmenų teisėms ir laisvėms ir nustato mažinimo priemones. Kritinis taškas: DPIA atliekama projektavimo etape, prieš pradedant apdorojimą, o ne po to, kai atsiranda problema.
DPIA paprastai reikalinga, kai:
- Naujų technologijų naudojimas (dažnai įtraukiamas DI).
- Didelio masto asmens duomenų tvarkymas.
- Sistemingas stebėjimas arba profiliavimas.
- Specialus duomenų apdorojimas.
- Automatizuoti sprendimai, kurie daro didelę įtaką žmonėms.
Patarimas: jei nesate tikri, atlikite „patikrinimą“: jei yra du ar daugiau iš penkių aukščiau nurodytų dalykų, pagal numatytuosius nustatymus atlikite DPIA. DPIA atlikimo kaina yra maža; To nepadarius vieno pažeidimo kaina yra labai didelė.
Septynių etapų DPIA procesas
Taikote DPIA AI projektui atlikdami šiuos septynis veiksmus:
žingsnis
ka tu darai?
1. Aprašymas
Apibūdinkite tvarkymą: kokie duomenys, tikslas, apimtis, srautas
2. Būtinumas ir proporcingumas
Ar AI tikrai reikalingas? Ar yra mažiau įkyrus būdas?
3. Suinteresuotųjų šalių nuomonė
Išgirsti atitinkamų asmenų/atstovų nuomonę
4. Rizikos nustatymas
Išvardykite galimą žalą asmenims
5. Rizikos įvertinimas
Įvertinkite kiekvieną riziką pagal tikimybę ir poveikį
6. Sušvelninimo priemonės
Suplanuokite atsargumo priemones kiekvienai rizikai, nustatykite likutinę riziką
7. Patvirtinimas ir peržiūra
Dokumentuokite rezultatą, pateikite jį tvirtinti, periodiškai atnaujinkite
Rizikos prioritetų nustatymas: tikimybės-poveikio matrica
Kiekvieną riziką įvertinate dviem aspektais: jos atsiradimo tikimybę ir poveikį, jei taip atsitiks. Pirmenybė teikiama šių dviejų deriniui.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Mažas poveikis
vidutinio efekto
didelis poveikis
didelė tikimybė
vidutinis
aukštas
kritiškas
vidutinė tikimybė
žemas
vidutinis
aukštas
maža tikimybė
žemas
žemas
vidutinis
Kritinės ir didelės rizikos yra rizikos, dėl kurių projektas neturėtų būti tęsiamas nesiimant atsargumo priemonių. Siekiama ne pašalinti kiekvieną riziką; yra sumažinti kiekvieną riziką iki priimtino lygio ir sąmoningai priimti likusią (likutinę) riziką.
trys mini dėklai
1 atvejis – praleistas DPIA. Mažmeninės prekybos tinklas įdiegia sistemą, kuri stebi klientų elgesį parduotuvėje su AI, be DPIA. Po kelių mėnesių skundas atskleidžia, kad sistema padarė konkrečias išvadas (sveikata, nėštumo prognozė). Atsakymo į klausimą „kodėl nepadarėte DPIA“ audite nėra. DPIA nuo pat pradžių būtų pastebėję šią riziką projektavimo etape ir padarę projektą saugų.
2 atvejis – projektą išgelbėjo DPIA. DPIA atliekama siekiant įdarbinti AI banke. Rizikos nustatymo etape lyties šališkumo rizika dėl istorinių duomenų pasirodo esanti „didelė“. Siekiant sušvelninimo, komanda pašalina informaciją apie lytį iš modelio, priskiria išvestį reguliariam šališkumo testavimui ir reikalauja žmogaus patvirtinimo. Dabar rizika nukrenta iki „vidutinės“ ir projektas tampa priimtinas. DPIA padaro projektą saugų, o ne žudo.
3 atvejis. Proporcingumo testas. Įmonė nori nuskaityti darbuotojų el. laiškus „lojalumo analizei“ naudodama AI. DPIA būtinumo / proporcingumo žingsnyje nustatyta, kad tai pernelyg trukdo tikslui; Yra mažiau įkyrių alternatyvų. Projektas nėra patvirtintas dabartine forma. Proporcingumo testas išskiria „galime“ ir „turime“.
Dėmesio: DPIA nėra forma, kuri užpildoma vieną kartą ir atidedama į šalį. Tvarkant pakeitimus (nauji duomenys, nauja paskirtis, nauja priemonė) DPAV turi būti atnaujintas. Negyvas DPIA yra labiau klaidinantis nei jo nebuvimas, nes suteikia klaidingą pasitikėjimą.
Kas palaiko DPIA ir rizikos registro santykius su DPIA
Vienas asmuo negali užpildyti DPIA prie savo stalo; Teisingas DPIA yra komandos darbas. Paprastai procesą vykdo duomenų apsaugos pareigūnas (Darytojas), galutinai atsakingas yra atitikties vadovas (Atskaitingas), atitinkamas verslo padalinys aprašo apdorojimą, įvertina IT/saugos technines priemones ir patvirtina teisinį pagrindą. Nereikėtų pamiršti ir atitinkamų žmonių nuomonės išklausymo (trečias žingsnis); Tačiau tai praktikoje dažniausiai praleidžiamas žingsnis.
DPIA rezultatai nesėdi vakuume: nustatytos rizikos įrašomos į organizacijos rizikos registrą. Rizikos registras yra tiesioginė diagrama, kurioje užfiksuotos visos atviros rizikos, jų prioritetai, mažinimo būdai, kaltininkai ir paskutinės peržiūros datos. Tokiu būdu AI projekto rizikos kalba ta pačia kalba, kaip ir bendras organizacijos rizikos valdymas, ir yra reguliariai stebimos.
Rizikos registro sritis
pavyzdys
Rizikos apibrėžimas
Lyčių šališkumas įdarbinant AI
prioritetas
aukštas
Sušvelninimo priemonė
Pakaitinio kintamojo išskyrimas + šališkumo testavimas
Atsakingas
Duomenų apsaugos pareigūnas
apžvalga
kas 3 mėnesius
Patarimas: gydykite DPIA vadovaudamiesi „rizikos žurnalo ir stebėjimo“ mentalitetu, o ne „atlikta ir pamiršti“. Ar buvo įgyvendintas rizikos mažinimas, ar likutinė rizika yra priimtino lygio – nesant įrašų apie tai, DPIA tampa lango dokumentu.
Kopijuojami šablonai
1 ŠABLONAS – išankstinė DPIA patikra: "Ar DPIA reikalingas šiam AI naudojimui? [apibūdinkite naudojimą]. Įvertinkite pagal penkis veiksnius: naują technologiją, didelio masto apdorojimą, sistemingą stebėjimą, neskelbtinus duomenis, reikšmingą automatizuotą sprendimų priėmimą. Kiek yra aktyviklių, ar rekomenduojate DPIA, pagrįstą."
2 ŠABLONAS. Rizikos nustatymo protų šturmas: „Išvardykite galimą žalą žmonėms šiame AI projekte [apibūdinkite projektą]: duomenų nutekėjimas, diskriminacija, neteisingas vertinimas, privatumo pažeidimas, skaidrumo stoka, tikslo nukrypimas. Parašykite kiekvienos žalos scenarijų vienu sakiniu. Tiesiog aptikkite, bet nereaguokite.
3 ŠABLONAS. Tikimybės ir poveikio įvertinimas: „Įvertinkite šias rizikas [išvardykite rizikas] kaip tikimybę (maža/vidutinė/didelė) ir poveikį (maža/vidutinė/didelė); prioritetas (žemas/vidutinis/didelis/kritinis) rodomas kiekvienoje eilutėje. Svarbiausią ir aukštą sąrašą išvardykite viršuje. Pateikite lentelės formatu.
4 ŠABLONAS – mažinimo planas: "Šiai rizikai [parašykite riziką], pasiūlykite bent 3 mažinimo priemones (techninę, proceso, organizacinę). Įvertinkite "likutinės rizikos" lygį po kiekvienos priemonės. Jei rizika po priemonės taikymo vis dar yra didelė, nurodykite, kad projektas turėtų būti perplanuotas."
Silpnas raginimas / Stiprus raginimas
SILPNAS: „Ar šis AI projektas rizikingas?“-> Modelis pateikia neaiškų atsakymą „galbūt“; neklasifikuoja rizikos, neskirsto rizikos prioritetų, nekuria priemonių.STRONG: „Atlikite mini DPIA šio AI projektui: (1) apibūdinkite apdorojimą, (2) įvertinkite DPIA poreikį su 5 paleidikliais, (3) išvardykite 6 galimą žalą žmonėms, (4) įvertinkite kiekvieną pagal tikimybę ir poveikį, (5) rekomenduokite sušvelninti teisinio sprendimo projektą. Make-making goighi teisinis patvirtinimas.
Dažnos klaidos
- DPIA atlikimas po operacijos pradžios (arba net po to, kai iškilo problema).
- Praleisti didelės rizikos apdorojimą, kuriam reikalingas DPIA, nes tai nėra didelė problema.
- Rizikų neišvardijimas ir prioritetų nustatymas pagal tikimybę ir poveikį.
- Laikoma, kad DPIA yra „užbaigta“, nenustačius priemonių kiekvienai rizikai.
- Praleisti būtinumo/proporcingumo žingsnį ir pasakyti „mes galime tai padaryti, tad darykime“.
- Vieną kartą užpildykite DPIA ir neatnaujinkite, kai procesas pasikeičia.
- Projekto tvirtinimas aiškiai neįforminus likutinės (liekančios) rizikos.
Apibendrinant
- DPIA yra struktūrizuota analizė, kuri įvertina didelės rizikos apdorojimo poveikį asmenims prieš jį pradedant.
- DPIA reikalinga, jei yra naujos technologijos, didelio masto apdorojimas, sistemingas stebėjimas, neskelbtini duomenys arba reikšmingas automatizuotas sprendimų priėmimas.
- Procesas susideda iš septynių žingsnių: identifikavimas, būtinumas/proporcingumas, suinteresuotųjų šalių nuomonė, rizikos nustatymas, įvertinimas, veiksmas, patvirtinimas/peržiūra.
- Rizikos prioritetai teikiami naudojant tikimybės-poveikio matricą; Kritinė / didelė rizika nepriimama be atsargumo priemonių.
- DPIA neužmuša projekto, daro jį saugų; Tai gyvas dokumentas, kuris turi būti atnaujinamas, kai keičiasi apdorojimas.
Taikymo užduotis
Pasirinkite dirbtinio intelekto naudojimą, kurį jūsų organizacija gali naudoti ir kuris gali būti labai rizikingas (pavyzdžiui, įdarbinimo palaikymas, elgsenos stebėjimas arba kredito balai). Pirmiausia apsvarstykite, ar DPIA būtina naudojant penkis aktyviklius. Tada atlikite mini DPIA šiam naudojimui: apibūdinkite apdorojimą, išvardykite bent šešias galimas žalą asmenims, kiekvieną įvertinkite tikimybės ir poveikio matricoje ir priskirkite prioritetą. Sukurkite tris mažinimo priemones dviem kritinėms ir didelėms rizikoms ir įvertinkite likutinės rizikos lygį po priemonės. Galiausiai atkreipkite dėmesį, kada šį DPIA reikės atnaujinti.
kontrolinis sąrašas
- [ ] DPIA reikalavimą įvertinau su penkiais paleidikliais.
- [ ] Apibrėžiau tvarkymą (duomenys, tikslas, apimtis, srautas).
- [ ] Suabejojau būtinumu ir proporcingumu.
- [ ] Išvardijau galimą žalą asmenims.
- [ ] Tikimybės-poveikio matricoje suteikiau pirmenybę rizikai.
- [ ] Sukūriau mažinimo priemones kritinei / didelei rizikai.
- [ ] Dabar dokumentuoju riziką ir nustačiau peržiūros sąlygas.