Qligħ:
- Evalwazzjoni ta' jekk użu ta' AI jeħtieġx DPIA
- L-applikazzjoni tal-proċess DPIA f'seba' stadji għal proġett AI
- Ipprijoritizza r-riskji b'matriċi ta' probabbiltà-impatt u tfassal miżuri ta' mitigazzjoni
Xi użi tal-IA joħolqu riskji serji għall-individwi: monitoraġġ fuq skala kbira, ipproċessar ta’ data sensittiva, deċiżjonijiet awtomatizzati. Fi proġetti bħal dawn, kemm il-KVKK/GDPR kif ukoll il-Liġi tal-UE dwar l-AI jistennew valutazzjoni tar-riskju strutturata qabel ma jibda x-xogħol. L-isem ta' din il-valutazzjoni huwa Valutazzjoni tal-Impatt tal-Protezzjoni tad-Data (DPIA). F'din l-unità se nitgħallmu kif ngħidu jekk użu jeħtieġx DPIA, kif tapplika l-proċess DPIA ta 'seba' stadji għal proġett AI, u kif tipprijoritizza r-riskji b'matriċi ta 'probabbiltà-impatt.
X'inhi d-DPIA u meta hija meħtieġa?
Il-Valutazzjoni tal-Impatt tal-Protezzjoni tad-Data (DPIA) hija analiżi strutturata li tevalwa minn qabel ir-riskji ta’ attività ta’ pproċessar fuq id-drittijiet u l-libertajiet tal-individwi u tiddetermina miżuri ta’ mitigazzjoni. Il-punt kritiku: DPIA isir fl-istadju tad-disinn, qabel ma jibda l-ipproċessar - mhux wara li sseħħ il-problema.
Id-DPIA normalment tkun meħtieġa meta:
- Użu ta' teknoloġija ġdida (l-AI hija spiss inkluża).
- Ipproċessar fuq skala kbira ta' data personali.
- Monitoraġġ sistematiku jew profiling.
- Ipproċessar speċjali tad-dejta.
- Deċiżjonijiet awtomatizzati li jkollhom impatt sinifikanti fuq in-nies.
Tip: Jekk m'intix ċert, agħmel "screening": jekk tnejn jew aktar mill-ħamsa ta' hawn fuq huma preżenti, awtomatikament tagħmel DPIA. L-ispiża biex tagħmel DPIA hija baxxa; L-ispiża li ma tagħmilx hekk hija għolja ħafna fi ksur wieħed.
Proċess DPIA f'seba' stadji
Inti tapplika DPIA għal proġett AI f'dawn is-seba' passi:
pass
X'tagħmel?
1. Deskrizzjoni
Iddeskrivi l-ipproċessar: liema data, għan, ambitu, fluss
2. Neċessità u proporzjonalità
L-AI hija verament meħtieġa? Hemm mod inqas intrużiv?
3. Opinjoni tal-partijiet interessati
Ikseb l-opinjoni ta' persuni/rappreżentanti rilevanti
4. Identifikazzjoni tar-riskju
Elenka l-ħsarat possibbli lill-individwi
5. Valutazzjoni tar-riskju
Score kull riskju skond il-probabbiltà u l-impatt
6. Miżuri ta' mitigazzjoni
Iddisinja l-prekawzjonijiet għal kull riskju, identifika r-riskju residwu
7. Approvazzjoni u reviżjoni
Iddokumenta r-riżultat, issottomettih għall-approvazzjoni, aġġornah perjodikament
Prijoritizzazzjoni tar-riskju: matriċi tal-probabbiltà-impatt
Inti tevalwa kull riskju f'żewġ dimensjonijiet: il-probabbiltà li dan iseħħ u l-impatt jekk iseħħ. Il-kombinazzjoni tat-tnejn tagħti prijorità.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Impatt baxx
effett medju
impatt għoli
probabbiltà għolja
medju
għolja
kritika
probabbiltà medja
baxx
medju
għolja
probabbiltà baxxa
baxx
baxx
medju
Ir-riskji kritiċi u għoljin huma riskji li għalihom il-proġett m'għandux jitkompla mingħajr ma jittieħdu prekawzjonijiet. L-għan mhuwiex li jiġi eliminat kull riskju; huwa li jitnaqqas kull riskju għal livell aċċettabbli u konxjament jaċċetta r-riskju (residwu) li jifdal.
tliet każijiet żgħar
Każ 1 — DPIA barra. Katina tal-bejgħ bl-imnut timplimenta sistema li ssegwi l-imġieba tal-klijenti fil-maħżen bl-AI, mingħajr DPIA. Xhur wara, ilment jiżvela li s-sistema għamlet inferenzi speċifiċi (saħħa, tbassir tat-tqala). M'hemm l-ebda risposta għall-mistoqsija "għaliex ma għamiltx DPIA" fil-verifika. DPIA mill-bidu kienet taqbad dan ir-riskju fl-istadju tad-disinn u tagħmel il-proġett sikur.
Każ 2 — Proġett salvat mid-DPIA. DPIA isir għall-appoġġ tar-reklutaġġ AI f'bank. Matul il-fażi ta' identifikazzjoni tar-riskju, ir-riskju ta' preġudizzju bejn is-sessi minħabba dejta storika jirriżulta li jkun "għoli". Bħala mitigazzjoni, it-tim ineħħi l-informazzjoni dwar is-sess mill-mudell, jattribwixxi l-output għal ttestjar regolari tal-preġudizzju, u jeħtieġ validazzjoni umana. Issa r-riskju jinżel għal "moderat" u l-proġett isir aċċettabbli. Id-DPIA tagħmel il-proġett sikur minflok toqtol.
Każ 3 — Test tal-proporzjonalità. Kumpanija trid tiskennja l-emails tal-impjegati għal "analiżi tal-lealtà" bl-AI. Fil-pass ta' ħtieġa/proporzjonalità tad-DPIA dan jinstab li huwa intrużiv żżejjed meta mqabbel mal-iskop; Hemm alternattivi inqas intrużivi. Il-proġett mhuwiex approvat fil-forma attwali tiegħu. It-test tal-proporzjonalità jiddistingwi bejn "nistgħu" u "għandna."
Attenzjoni: DPIA mhix formola li timtela darba u titwarrab. Meta jiġu pproċessati bidliet (dejta ġdida, skop ġdid, għodda ġdida) id-DPIA trid tiġi aġġornata. DPIA mejta hija aktar qarrieqa minn ebda DPIA għax tagħti fiduċja falza.
Min jagħmel id-DPIA u r-relazzjoni tar-reġistru tar-riskju mad-DPIA
Persuna waħda ma tistax timla d-DPIA fuq l-iskrivanija tagħha; Id-DPIA korretta hija sforz ta' tim. Tipikament, l-uffiċjal tal-protezzjoni tad-dejta jwettaq il-proċess (Doer), il-maniġer tal-konformità huwa finalment responsabbli (Kontabbli), l-unità tan-negozju rilevanti tiddeskrivi l-ipproċessar, tevalwa l-miżuri tekniċi tal-IT/sigurtà u tikkonferma l-bażi legali. Il-ksib tal-opinjonijiet tan-nies rilevanti (it-tielet pass) m'għandux jiġi traskurat; Madankollu, dan huwa l-pass l-aktar maqbuż fil-prattika.
L-output tad-DPIA ma joqgħodx fil-vakwu: ir-riskji identifikati huma rreġistrati fir-reġistru tar-riskju tal-organizzazzjoni. Ir-reġistru tar-riskju huwa chart ħaj li jiġbor ir-riskji miftuħa kollha, il-prijoritajiet, il-mitigazzjonijiet, il-ħatja u d-dati tal-aħħar reviżjoni tagħhom. B'dan il-mod, ir-riskji ta 'proġett AI jitkellmu l-istess lingwa bħall-ġestjoni tar-riskju ġenerali tal-organizzazzjoni u huma mmonitorjati regolarment.
Żona tar-reġistru tar-riskju
eżempju
Definizzjoni tar-riskju
Preġudizzju bejn is-sessi fir-reklutaġġ AI
prijorità
għolja
Miżura ta' mitigazzjoni
Estrazzjoni varjabbli surrogata + ittestjar tal-preġudizzju
Responsabbli
Uffiċjal għall-protezzjoni tad-data
reviżjoni
kull 3 xhur
Tip: Ittratta DPIA b'mentalità ta' "log tar-riskju u track", mhux approċċ ta '"magħmul u tinsa". Ġiet implimentata mitigazzjoni tar-riskju, huwa r-riskju residwu f'livell aċċettabbli — mingħajr ma jinżamm rekord ta' dawn, id-DPIA ssir dokument tieqa.
Mudelli kopjabbli
TEMPLATE 1 — DPIA pre-screening: "Huwa meħtieġ id-DPIA għal dan l-użu tal-AI? [iddeskrivi l-użu]. Evalwa kontra ħames triggers: teknoloġija ġdida, ipproċessar fuq skala kbira, monitoraġġ sistematiku, data sensittiva, teħid ta' deċiżjonijiet awtomatizzat sinifikanti. Kemm hemm triggers hemm, tirrakkomanda DPIA, b'ġustifikazzjoni."
TEMPLATE 2 — Brainstorming għall-identifikazzjoni tar-riskju: "Elenka l-ħsarat possibbli lin-nies f'dan il-proġett AI [iddeskrivi l-proġett]: tnixxija tad-dejta, diskriminazzjoni, ġudizzju ħażin, invażjoni tal-privatezza, nuqqas ta 'trasparenza, drift tal-iskop. Ikteb xenarju ta' sentenza waħda għal kull ħsara. Sempliċement skopra, iżda ma jikkontrobattux."
MUDELL 3 — Punteġġ tal-probabbiltà-impatt: "Ippuntja r-riskji li ġejjin [elenka r-riskji] bħala probabbiltà (baxxa/medju/għoli) u impatt (baxx/medju/għoli); il-prijorità (baxxa/medju/għoli/kritika) tidher fuq kull ringiela. Lista kritika u għolja fin-naħa ta' fuq. Preżenti f'format ta' tabella."
MUDELLUL 4 — Disinn ta' mitigazzjoni: "Għar-riskju li ġej [ikteb ir-riskju], ipproponi mill-inqas 3 miżuri ta' mitigazzjoni (tekniċi, ta' proċess, organizzattivi). Stima l-livell ta' 'riskju residwu' wara kull miżura. Jekk ir-riskju għadu għoli wara l-miżura, indika li l-proġett għandu jiġi ddisinjat mill-ġdid."
Pront dgħajjef / Pront qawwi
DGĦAJF: “Dan il-proġett tal-AI huwa riskjuż?”-> Il-mudell jagħti tweġiba vaga ‘forsi’; ma jikklassifikax ir-riskji, ma jipprijoritizzax ir-riskji, ma jipproduċix miżuri. QAWWI: "Twettaq mini DPIA għall-proġett AI li ġej: (1) iddeskrivi l-ipproċessar, (2) tevalwa l-ħtieġa għal DPIA b'5 triggers, (3) lista6 ħsarat possibbli lill-persuni, (4) punteġġ kull wieħed mill-impatt tal-probabbiltà, (5) jirrakkomanda mitigazzjoni għal deċiżjonijiet kritiċi; mur għall-approvazzjoni legali."-> Il-mudell jipproduċi abbozz ta' DPIA strutturata u azzjonabbli.
Żbalji komuni
- Tagħmel id-DPIA wara li tkun bdiet it-tranżazzjoni (jew anke wara li tkun seħħet il-problema).
- Taqbeż l-ipproċessar ta 'riskju għoli li jeħtieġ DPIA bħala "mhux problema kbira."
- Mhux jelenka r-riskji u tipprijoritizzahom skond il-probabbiltà u l-impatt.
- Meta wieħed iqis li DPIA "kompleta" mingħajr ma tipproduċi miżuri għal kull riskju.
- Taqbeż il-pass tal-ħtieġa/proporzjonalità u tgħid "nistgħu nagħmluha, allura ejja nagħmluha".
- Imla d-DPIA darba u ma taġġornahiex meta jinbidel il-proċess.
- L-approvazzjoni tal-proġett mingħajr ma tiddokumenta b'mod ċar ir-riskju residwu (fadal).
Fil-qosor
- DPIA hija analiżi strutturata li tevalwa l-impatt ta 'proċessar ta' riskju għoli fuq individwi qabel ma jinbeda.
- Id-DPIA hija meħtieġa jekk ikun hemm teknoloġija ġdida, ipproċessar fuq skala kbira, monitoraġġ sistematiku, data sensittiva jew teħid ta’ deċiżjonijiet awtomatizzati sinifikanti.
- Il-proċess jikkonsisti f'seba' passi: identifikazzjoni, ħtieġa/proporzjonalità, opinjoni tal-partijiet interessati, identifikazzjoni tar-riskju, valutazzjoni, azzjoni, approvazzjoni/reviżjoni.
- Ir-riskji huma prijoritizzati b'matriċi ta' probabbiltà-impatt; Riskji kritiċi/għoli mhumiex aċċettati mingħajr prekawzjonijiet.
- DPIA ma joqtolx il-proġett, jagħmilha sigura; Huwa dokument ħaj li jrid jiġi aġġornat hekk kif jinbidel l-ipproċessar.
Kompitu ta' applikazzjoni
Agħżel użu ta' AI li tista' tuża l-organizzazzjoni tiegħek li jista' jkun ta' riskju għoli (pereżempju, appoġġ għar-reklutaġġ, traċċar tal-imġieba, jew punteġġ ta' kreditu). L-ewwel ikkunsidra jekk id-DPIA hijiex meħtieġa b'ħames triggers. Imbagħad wettaq mini DPIA għal dan l-użu: iddeskrivi l-ipproċessar, elenka mill-inqas sitt ħsarat possibbli lill-individwi, punteġġ kull wieħed fuq il-matriċi tal-probabbiltà-impatt, u tassenja prijorità. Iddisinja tliet miżuri ta' mitigazzjoni għal żewġ riskji kritiċi u għoljin u stima l-livell ta' riskju residwu wara l-miżura. Fl-aħħarnett, innota meta din id-DPIA tkun teħtieġ li tiġi aġġornata.
lista ta' kontroll
- [ ] Evalwajt ir-rekwiżit tad-DPIA b'ħames triggers.
- [ ] Iddefinijt l-ipproċessar (dejta, skop, ambitu, fluss).
- [ ] Staqsejt in-neċessità u l-proporzjonalità.
- [ ] Elenkajt il-ħsarat possibbli lill-individwi.
- [ ] Ipprijoritizzajt ir-riskji fil-matriċi tal-probabbiltà-impatt.
- [ ] Iddisinja miżuri ta' mitigazzjoni għal riskji kritiċi/għoli.
- [ ] Issa ddokumentajt ir-riskju u waqqaft il-kundizzjonijiet tar-reviżjoni.