Gevinster:
- Evaluere om en AI-bruk krever DPIA
- Bruk av syv-trinns DPIA-prosessen til et AI-prosjekt
- Prioriter risikoer med en sannsynlighetseffektmatrise og utform avbøtende tiltak
Noen bruk av AI utgjør en alvorlig risiko for enkeltpersoner: storstilt overvåking, sensitiv databehandling, automatiserte beslutninger. I slike prosjekter forventer både KVKK/GDPR og EUs AI-lov en strukturert risikovurdering før arbeidet starter. Navnet på denne vurderingen er Data Protection Impact Assessment (DPIA). I denne enheten vil vi lære hvordan du kan finne ut om en bruk krever DPIA, hvordan du bruker syv-trinns DPIA-prosessen på et AI-prosjekt, og hvordan du prioriterer risikoer med en sannsynlighetseffektmatrise.
Hva er DPIA og når er det nødvendig?
Data Protection Impact Assessment (DPIA) er en strukturert analyse som på forhånd evaluerer risikoen ved en behandlingsaktivitet på rettigheter og friheter til enkeltpersoner og bestemmer avbøtende tiltak. Det kritiske punktet: DPIA gjøres på designstadiet, før behandlingen begynner - ikke etter at problemet oppstår.
DPIA er vanligvis nødvendig når:
- Bruk av ny teknologi (AI er ofte inkludert).
- Storskala behandling av personopplysninger.
- Systematisk overvåking eller profilering.
- Spesiell databehandling.
- Automatiserte beslutninger som påvirker mennesker betydelig.
Tips: Hvis du ikke er sikker, gjør en "screening": hvis to eller flere av de fem over er til stede, gjør du som standard DPIA. Kostnaden for å gjøre DPIA er lav; Kostnaden ved å ikke gjøre det er svært høy i ett brudd.
Syv-trinns DPIA-prosess
Du bruker DPIA til et AI-prosjekt i disse syv trinnene:
trinn
Hva gjør du?
1. Beskrivelse
Beskriv behandlingen: hvilke data, formål, omfang, flyt
2. Nødvendighet og proporsjonalitet
Er AI virkelig nødvendig? Finnes det en mindre påtrengende måte?
3. Interessentenes mening
Innhent mening fra relevante personer/representanter
4. Risikoidentifikasjon
List opp mulige skader på enkeltpersoner
5. Risikovurdering
Score hver risiko etter sannsynlighet og innvirkning
6. Avbøtende tiltak
Design forholdsregler for hver risiko, identifiser gjenværende risiko
7. Godkjenning og gjennomgang
Dokumenter resultatet, send det til godkjenning, oppdater det med jevne mellomrom
Prioritering av risiko: sannsynlighets-effekt matrise
Du vurderer hver risiko i to dimensjoner: sannsynligheten for at det skjer og virkningen hvis det skjer. Kombinasjonen av de to gir prioritet.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Lav effekt
middels effekt
høy effekt
høy sannsynlighet
medium
høy
kritisk
middels sannsynlighet
lav
medium
høy
lav sannsynlighet
lav
lav
medium
Kritiske og høye risikoer er risikoer som prosjektet ikke bør fortsettes for uten å ta forholdsregler. Målet er ikke å eliminere enhver risiko; er å redusere hver risiko til et akseptabelt nivå og bevisst akseptere den gjenværende (rest)risikoen.
tre minisaker
Sak 1 – Utelatt DPIA. En detaljhandelskjede implementerer et system som sporer kundeatferd i butikk med AI, uten DPIA. Måneder senere avslører en klage at systemet gjorde spesifikke konklusjoner (helse, graviditetsprediksjon). Det er ikke noe svar på spørsmålet «hvorfor gjorde du ikke DPIA» i tilsynet. En DPIA fra begynnelsen ville ha fanget opp denne risikoen på designstadiet og gjort prosjektet trygt.
Sak 2 – Prosjekt reddet av DPIA. DPIA gjøres for rekrutteringsstøtte AI i en bank. Under risikoidentifikasjonsfasen viser det seg at risikoen for kjønnsskjevhet på grunn av historiske data er "høy". Som en avbøtelse fjerner teamet kjønnsinformasjon fra modellen, tilskriver resultatet til vanlig skjevhetstesting og krever menneskelig validering. Nå faller risikoen til «moderat» og prosjektet blir akseptabelt. DPIA gjør prosjektet trygt i stedet for å drepe det.
Tilfelle 3 — Proporsjonalitetstest. Et selskap ønsker å skanne ansattes e-post for "lojalitetsanalyse" med AI. I nødvendighets-/proporsjonalitetstrinnet i DPIA er dette funnet å være altfor påtrengende i forhold til formålet; Det finnes mindre påtrengende alternativer. Prosjektet er ikke godkjent i sin nåværende form. Proporsjonalitetstesten skiller mellom «vi kan» og «vi må».
OBS: DPIA er ikke et skjema som fylles ut én gang og legges til side. Ved behandling av endringer (nye data, nytt formål, nytt verktøy) må DPIA oppdateres. En død DPIA er mer misvisende enn ingen DPIA i det hele tatt fordi den gir falsk tillit.
Hvem gjør DPIA og risikoregistrerer forholdet til DPIA
En enkelt person kan ikke fylle ut DPIA ved skrivebordet sitt; Korrekt DPIA er et lagarbeid. Typisk er det personvernombudet som utfører prosessen (Doer), compliance manager er ytterst ansvarlig (Accountable), den aktuelle forretningsenheten beskriver behandlingen, evaluerer IT/sikkerhetstekniske tiltak og bekrefter det juridiske grunnlaget. Innhenting av meninger fra relevante personer (tredje trinn) bør ikke neglisjeres; Dette er imidlertid det trinnet som er mest hoppet over i praksis.
Utdataene fra DPIA sitter ikke i et vakuum: identifiserte risikoer registreres i organisasjonens risikoregister. Risikoregisteret er et levende diagram som fanger opp alle åpne risikoer, deres prioriteringer, avbøtende tiltak, skyldige og siste vurderingsdatoer. På denne måten snakker risikoen ved et AI-prosjekt samme språk som organisasjonens overordnede risikostyring og overvåkes regelmessig.
Risikoregisterområde
eksempel
Risikodefinisjon
Kjønnsskjevhet i rekrutterings-AI
prioritet
høy
Avbøtende tiltak
Surrogatvariabelekstraksjon + skjevhetstesting
Ansvarlig
Databeskyttelsesansvarlig
anmeldelse
hver 3. måned
Tips: Behandle DPIA med en "risikologg og spor"-mentalitet, ikke en "ferdig og glem"-tilnærming. Har en risikoreduksjon blitt implementert, er den gjenværende risikoen på et akseptabelt nivå - uten journalføring av disse, blir DPIA et vindusdokument.
Kopierbare maler
MAL 1 — DPIA forhåndsscreening: "Er DPIA nødvendig for denne AI-bruken? [beskriv bruken]. Vurder mot fem utløsere: ny teknologi, storskala behandling, systematisk overvåking, sensitive data, betydelig automatisert beslutningstaking. Hvor mange utløsere er det, anbefaler du DPIA, med begrunnelse."
MAL 2 — Idémyldring for risikoidentifikasjon: "List opp mulige skader på mennesker i dette AI-prosjektet [beskriv prosjektet]: datalekkasje, diskriminering, feilvurdering, invasjon av personvern, mangel på åpenhet, hensiktsdrift. Skriv et scenario med én setning for hver skade. Bare oppdage, men ikke motvirke."
MAL 3 – Score for sannsynlighet-påvirkning: "Skår følgende risikoer [liste risikoer] som sannsynlighet (lav/middels/høy) og innvirkning (lav/middels/høy); prioritet (lav/middels/høy/kritisk) vises på hver rad. List kritisk og høy øverst. Til stede i tabellformat."
MAL 4 — Reduseringsdesign: "For følgende risiko [skriv risikoen], foreslå minst 3 avbøtende tiltak (teknisk, prosess, organisatorisk). Estimer "restrisiko"-nivået etter hvert tiltak. Hvis risikoen fortsatt er høy etter tiltaket, angi at prosjektet bør redesignes."
Svak forespørsel / Sterk forespørsel
SVAK: «Er dette AI-prosjektet risikabelt?»-> Modellen gir et vagt «kanskje» svar; klassifiserer ikke risikoer, prioriterer ikke risikoer, produserer ikke tiltak.STERK: "Utfør en mini DPIA for følgende AI-prosjekt: (1) beskrive behandlingen,(2) evaluere behovet for DPIA med 5 utløsere, (3) liste opp 6 mulige skader på personer, (4) skåre hver ved sannsynlighet-impact,-(5) foreta en endelig rettslig risiko; utkast som vil gå til juridisk godkjenning."-> Modellen produserer et utkast til en strukturert, handlingsbar DPIA.
Vanlige feil
- Utføre DPIA etter at transaksjonen har startet (eller til og med etter at problemet har oppstått).
- Hoppe over høyrisikobehandling som krever DPIA som «ingen stor sak».
- Ikke liste opp risikoer og prioritere dem etter sannsynlighet og effekt.
- Vurderer DPIA som "fullstendig" uten å produsere tiltak for enhver risiko.
- Hopper over nødvendighets-/proporsjonalitetstrinnet og sier "vi klarer det, så la oss gjøre det".
- Fyller ut DPIA én gang og ikke oppdaterer den når prosessen endres.
- Godkjenne prosjektet uten å tydelig dokumentere gjenværende (gjenstående) risiko.
Oppsummert
- DPIA er en strukturert analyse som evaluerer virkningen av en høyrisikobehandling på enkeltpersoner før den settes i gang.
- DPIA kreves dersom det er ny teknologi, storskala behandling, systematisk overvåking, sensitive data eller betydelig automatisert beslutningstaking.
- Prosessen består av syv trinn: identifikasjon, nødvendighet/forholdsmessighet, interessenters mening, risikoidentifikasjon, vurdering, handling, godkjenning/gjennomgang.
- Risikoer er prioritert med en sannsynlighetseffektmatrise; Kritisk/høy risiko aksepteres ikke uten forholdsregler.
- DPIA dreper ikke prosjektet, det gjør det trygt; Det er et levende dokument som må oppdateres i takt med å behandle endringer.
Søknadsoppgave
Velg en bruk av kunstig intelligens organisasjonen din kan bruke som kan være høyrisiko (for eksempel rekrutteringsstøtte, atferdssporing eller kredittscoring). Vurder først om DPIA er nødvendig med fem utløsere. Utfør deretter en mini-DPIA for denne bruken: beskriv behandlingen, liste opp minst seks mulige skader på individer, score hver på sannsynlighets-effektmatrisen, og gi prioritet. Design tre avbøtende tiltak for to kritiske og høye risikoer og estimer det gjenværende risikonivået etter tiltaket. Merk til slutt når denne DPIAen må oppdateres.
sjekkliste
- [ ] Jeg evaluerte DPIA-kravet med fem utløsere.
- [ ] Jeg definerte behandlingen (data, formål, omfang, flyt).
- [ ] Jeg stilte spørsmål ved nødvendighet og proporsjonalitet.
- [ ] Jeg har listet opp mulige skader på enkeltpersoner.
- [ ] Jeg prioriterte risikoene i sannsynlighets-effektmatrisen.
- [ ] Jeg utformet avbøtende tiltak for kritisk/høy risiko.
- [ ] Jeg har nå dokumentert risikoen og satt gjennomgangsbetingelsene.