Hagnaður:
- Metið hvort AI notkun krefst DPIA
- Að beita sjö þrepa DPIA ferlinu á gervigreindarverkefni
- Forgangsraða áhættu með líkindaáhrifafylki og hanna mótvægisaðgerðir
Sum notkun gervigreindar hefur í för með sér alvarlega áhættu fyrir einstaklinga: vöktun í stórum stíl, vinnsla viðkvæmra gagna, sjálfvirkar ákvarðanir. Í slíkum verkefnum gera bæði KVKK/GDPR og ESB AI lögin ráð fyrir skipulögðu áhættumati áður en vinna hefst. Nafn þessa mats er Data Protection Impact Assessment (DPIA). Í þessari einingu munum við læra hvernig á að segja til um hvort notkun krefst DPIA, hvernig á að beita sjö þrepa DPIA ferlinu á gervigreind verkefni og hvernig á að forgangsraða áhættu með líkindaáhrifafylki.
Hvað er DPIA og hvenær er þörf á því?
Mat á áhrifum gagnaverndar (DPIA) er skipulögð greining sem metur fyrirfram áhættu vinnslustarfsemi á réttindum og frelsi einstaklinga og ákvarðar mótvægisaðgerðir. Mikilvægi punkturinn: DPIA er gert á hönnunarstigi, áður en vinnsla hefst - ekki eftir að vandamálið kemur upp.
DPIA er venjulega krafist þegar:
- Notkun nýrrar tækni (AI er oft innifalið).
- Stórfelld vinnsla persónuupplýsinga.
- Kerfisbundið eftirlit eða prófílgreining.
- Sérstök gagnavinnsla.
- Sjálfvirkar ákvarðanir sem hafa veruleg áhrif á fólk.
Ábending: Ef þú ert ekki viss, gerðu "skimun": ef tveir eða fleiri af fimm ofangreindum eru til staðar, er sjálfgefið að gera DPIA. Kostnaður við að gera DPIA er lítill; Kostnaður við að gera það ekki er mjög hár í einu broti.
Sjö þrepa DPIA ferli
Þú notar DPIA á gervigreindarverkefni í þessum sjö skrefum:
skref
Hvað gerir þú?
1. Lýsing
Lýstu vinnslunni: hvaða gögn, tilgangur, umfang, flæði
2. Nauðsyn og meðalhóf
Er gervigreind virkilega nauðsynleg? Er til minna uppáþrengjandi leið?
3. Álit hagsmunaaðila
Fáðu álit viðeigandi aðila/fulltrúa
4. Áhættugreining
Skráðu mögulega skaða einstaklinga
5. Áhættumat
Skoðaðu hverja áhættu eftir líkum og áhrifum
6. Mótvægisaðgerðir
Hannaðu varúðarráðstafanir fyrir hverja áhættu, auðkenndu eftirstöðvar áhættu
7. Samþykki og endurskoðun
Skjalaðu niðurstöðuna, sendu hana til samþykktar, uppfærðu hana reglulega
Forgangsraða áhættu: líkinda-áhrif fylki
Þú metur hverja áhættu í tveimur víddum: líkurnar á að hún gerist og áhrifin ef hún gerist. Sambland af þessu tvennu gefur forgang.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Lítil áhrif
miðlungs áhrif
mikil áhrif
miklar líkur
miðlungs
hátt
gagnrýninn
miðlungs líkur
lágt
miðlungs
hátt
litlar líkur
lágt
lágt
miðlungs
Mikilvægar og miklar áhættur eru áhættur sem ekki ætti að halda áfram með verkefnið án þess að gera varúðarráðstafanir. Markmiðið er ekki að útiloka alla áhættu; er að draga úr hverri áhættu í viðunandi mark og samþykkja meðvitað þá áhættu sem eftir er (afgangs).
þrjú smámál
Mál 1 - DPIA sleppt. Verslunarkeðja innleiðir kerfi sem fylgist með hegðun viðskiptavina í verslun með gervigreind, án DPIA. Mánuðum síðar kemur í ljós kvörtun að kerfið gerði sérstakar ályktanir (heilsa, meðgönguspá). Það er ekkert svar við spurningunni „af hverju gerðir þú ekki DPIA“ í úttektinni. DPIA frá upphafi hefði náð þessari áhættu á hönnunarstigi og gert verkefnið öruggt.
Mál 2 - Verkefni bjargað af DPIA. DPIA er gert fyrir ráðningarstuðning AI í banka. Á áhættugreiningarstiginu reynist hættan á kynjaskekkju vegna sögulegra gagna vera „mikil“. Til mótvægis fjarlægir teymið kynupplýsingar úr líkaninu, rekur úttakið til reglulegra hlutdrægniprófa og krefst mannlegrar sannprófunar. Nú fer áhættan niður í "í meðallagi" og verkefnið verður viðunandi. DPIA gerir verkefnið öruggt í stað þess að drepa það.
Mál 3 — Hlutfallspróf. Fyrirtæki vill skanna tölvupóst starfsmanna fyrir „hollustugreiningu“ með gervigreind. Í nauðsyn/hófsþrepi DPIA finnst þetta vera of uppáþrengjandi miðað við tilganginn; Það eru minna uppáþrengjandi valkostir. Verkefnið er ekki samþykkt í núverandi mynd. Meðalhófsprófið gerir greinarmun á „við getum“ og „við verðum að“.
Athugið: DPIA er ekki eyðublað sem er fyllt út einu sinni og lagt til hliðar. Þegar unnið er úr breytingum (ný gögn, nýr tilgangur, nýtt tól) þarf að uppfæra DPIA. Dauð DPIA er villandi en engin DPIA yfirleitt vegna þess að það gefur falskt traust.
Hver gerir DPIA og áhættuskrá tengsl við DPIA
Einn einstaklingur getur ekki fyllt út DPIA við borðið sitt; Rétt DPIA er hópefli. Venjulega framkvæmir gagnaverndarfulltrúi ferlið (gerandi), regluvarðarstjóri er endanlega ábyrgur (reikningsskil), viðkomandi rekstrareining lýsir vinnslunni, metur upplýsingatækni/öryggistæknilegar ráðstafanir og staðfestir lagagrundvöllinn. Það ætti ekki að vanrækja að afla álits viðkomandi fólks (þriðja skrefið); Hins vegar er þetta það skref sem mest er sleppt í reynd.
Framleiðsla DPIA situr ekki í tómarúmi: auðkenndar áhættur eru skráðar í áhættuskrá stofnunarinnar. Áhættuskráin er lifandi graf sem fangar allar opnar áhættur, forgangsröðun þeirra, mótvægisaðgerðir, sökudólga og síðustu endurskoðunardaga. Þannig tala áhættur af gervigreindarverkefni sama tungumáli og heildaráhættustýring stofnunarinnar og er fylgst með þeim reglulega.
Áhættuskrársvæði
dæmi
Skilgreining á áhættu
Kynhlutdrægni í ráðningar AI
forgang
hátt
Mótvægisaðgerð
Staðgöngubreytuútdráttur + hlutdrægniprófun
Ábyrgur
Persónuverndarfulltrúi
endurskoðun
á 3ja mánaða fresti
Ábending: Meðhöndlaðu DPIA með „áhættuskrá og rekja“ hugarfari, ekki „gert og gleymt“ nálgun. Hefur áhættuaðlögun verið innleidd, er afgangsáhættan á viðunandi stigi - án þess að halda skrá yfir þetta, verður DPIA gluggaskjal.
Afritanleg sniðmát
SNIÐMÁT 1 — DPIA forskimun: "Er DPIA krafist fyrir þessa gervigreind notkun? [lýsið notkuninni]. Metið út frá fimm kveikjum: nýrri tækni, stórum vinnslu, kerfisbundið eftirlit, viðkvæm gögn, umtalsverð sjálfvirk ákvarðanataka. Hversu margir kveikjur eru til staðar, mælið þið með DPIA, með rökstuðningi."
SNIÐMÁT 2 — Hugmyndaflug um áhættuauðkenningu: "Skráðu mögulega skaða fyrir fólk í þessu gervigreindarverkefni [lýstu verkefninu]: gagnaleka, mismunun, rangt mat, innrás í friðhelgi einkalífs, skortur á gagnsæi, tilgangsstreymi. Skrifaðu einnar setningar atburðarás fyrir hverja skaða. Bara uppgötva, en ekki vinna gegn því."
SNIÐMÁT 3 — Stigagjöf fyrir líkur og áhrif: "Skráðu eftirfarandi áhættu [lista áhættu] sem líkur (lítil/miðlungs/há) og áhrif (lág/miðlungs/mikil); forgangur (lágur/miðlungs/hár/mikilvægur) birtist í hverri röð. Listi mikilvægur og hár efst. Til staðar í töfluformi."
SKJÁMÁT 4 — Mótvægishönnun: "Fyrir eftirfarandi áhættu [skrifaðu áhættuna], leggðu til að minnsta kosti 3 mótvægisaðgerðir (tæknilegar, ferli, skipulagslegar). Áætla skal „afgangsáhættu" eftir hverja ráðstöfun. Ef áhættan er enn mikil eftir aðgerðina, gefðu til kynna að verkefnið ætti að endurhanna."
Veik kvaðning / Sterk kvaðning
WEAK: „Er þetta gervigreindarverkefni áhættusamt?“-> Líkanið gefur óljóst „kannski“ svar; flokkar ekki áhættu, forgangsraðar ekki áhættu, framleiðir ekki ráðstafanir.STERK: "Framkvæma smá DPIA fyrir eftirfarandi gervigreind verkefni: (1) lýsa vinnslunni,(2) meta þörfina fyrir DPIA með 5 kveikjum, (3) lista6 mögulega skaða á einstaklinga, (4) skora hvern með líkinda-áhrifum, (5) mæla með afgerandi lagalega áhættu; drög sem fara í lagalega samþykki.“-> Líkanið framleiðir drög að skipulagðri, aðgerðahæfri DPIA.
Algeng mistök
- Að gera DPIA eftir að viðskiptin hafa hafist (eða jafnvel eftir að vandamálið hefur komið upp).
- Að sleppa áhættuvinnslu sem krefst DPIA sem „ekkert mál“.
- Ekki skrá áhættur og forgangsraða eftir líkum og áhrifum.
- Að telja DPIA „fullkomið“ án þess að gera ráðstafanir fyrir hverja áhættu.
- Að sleppa nauðsyn/hófsskrefinu og segja "við getum það, svo við skulum gera það".
- Að fylla út DPIA einu sinni og ekki uppfæra það þegar ferlið breytist.
- Samþykkja verkefnið án þess að skjalfesta þá áhættu sem eftir er.
Í stuttu máli
- DPIA er skipulögð greining sem metur áhrif áhættuvinnslu á einstaklinga áður en hún er hafin.
- DPIA er krafist ef það er ný tækni, stórvinnsla, kerfisbundið eftirlit, viðkvæm gögn eða umtalsverð sjálfvirk ákvarðanataka.
- Ferlið samanstendur af sjö þrepum: auðkenningu, nauðsyn/hófi, álit hagsmunaaðila, áhættugreiningu, mat, aðgerð, samþykki/endurskoðun.
- Áhættum er forgangsraðað með líkinda-áhrifafylki; Ekki er tekið á móti mikilvægum/miklum áhættum án varúðarráðstafana.
- DPIA drepur ekki verkefnið, það gerir það öruggt; Það er lifandi skjal sem þarf að uppfæra eftir því sem vinnsla breytist.
Umsóknarverkefni
Veldu notkun gervigreindar sem fyrirtækið þitt gæti notað sem gæti verið áhættusamt (til dæmis ráðningarstuðning, hegðunarmæling eða lánstraust). Íhugaðu fyrst hvort DPIA sé nauðsynlegt með fimm kveikjum. Gerðu síðan smá DPIA fyrir þessa notkun: Lýstu vinnslunni, skráðu að minnsta kosti sex mögulegar skaða einstaklinga, skoraðu hvern á líkinda-áhrifafylki og gefðu forgang. Hannaðu þrjár mótvægisaðgerðir fyrir tvær mikilvægar og miklar áhættur og metið áhættustig eftir aðgerðina. Að lokum, athugaðu hvenær þarf að uppfæra þessa DPIA.
gátlisti
- [ ] Ég met DPIA kröfuna með fimm kveikjum.
- [ ] Ég skilgreindi vinnsluna (gögn, tilgangur, umfang, flæði).
- [ ] Ég efaðist um nauðsyn og meðalhóf.
- [ ] Ég hef talið upp mögulega skaða einstaklinga.
- [ ] Ég forgangsraðaði áhættunum í líkinda-áhrifafylki.
- [ ] Ég hannaði mótvægisaðgerðir fyrir mikilvæga/mikla áhættu.
- [ ] Ég hef nú skjalfest áhættuna og sett endurskoðunarskilyrðin.