Voitot:
- Arvioidaan, vaatiiko tekoälyn käyttö DPIA:ta
- Seitsemänvaiheisen DPIA-prosessin soveltaminen tekoälyprojektiin
- Priorisoi riskit todennäköisyys-vaikutusmatriisin avulla ja suunnittele lieventäviä toimenpiteitä
Jotkut tekoälyn käyttötavat aiheuttavat vakavia riskejä yksilöille: laajamittainen seuranta, arkaluonteinen tietojenkäsittely, automatisoidut päätökset. Tällaisissa projekteissa sekä KVKK/GDPR että EU:n tekoälylaki edellyttävät jäsenneltyä riskinarviointia ennen työn aloittamista. Tämän arvioinnin nimi on Data Protection Impact Assessment (DPIA). Tässä osiossa opimme kertomaan, vaatiiko käyttö DPIA:ta, kuinka soveltaa seitsenvaiheista DPIA-prosessia tekoälyprojektiin ja priorisoida riskit todennäköisyys-vaikutusmatriisin avulla.
Mikä on DPIA ja milloin sitä tarvitaan?
Data Protection Impact Assessment (DPIA) on jäsennelty analyysi, joka arvioi etukäteen käsittelytoiminnan riskit yksilöiden oikeuksiin ja vapauksiin ja määrittelee lieventävät toimenpiteet. Kriittinen kohta: DPIA tehdään suunnitteluvaiheessa, ennen käsittelyn aloittamista – ei ongelman ilmaantumisen jälkeen.
DPIA vaaditaan yleensä, kun:
- Uuden teknologian käyttö (AI usein mukana).
- Laajamittainen henkilötietojen käsittely.
- Järjestelmällinen seuranta tai profilointi.
- Erityinen tietojenkäsittely.
- Automatisoidut päätökset, jotka vaikuttavat merkittävästi ihmisiin.
Vinkki: Jos et ole varma, tee "seulonta": jos kaksi tai useampi edellä mainituista viidestä löytyy, tee oletuksena DPIA. DPIA:n tekemisen kustannukset ovat alhaiset; Kustannukset, jos näin ei tehdä, ovat erittäin korkeat yhdessä rikkomuksessa.
Seitsemänvaiheinen DPIA-prosessi
Käytät DPIA:ta tekoälyprojektissa seuraavissa seitsemässä vaiheessa:
askel
Mitä sinä teet?
1. Kuvaus
Kuvaa käsittely: mitkä tiedot, tarkoitus, laajuus, kulku
2. Välttämättömyys ja suhteellisuus
Onko tekoäly todella tarpeellinen? Onko olemassa vähemmän häiritsevää tapaa?
3. Sidosryhmien mielipide
Pyydä asianomaisten henkilöiden/edustajien mielipide
4. Riskien tunnistaminen
Listaa mahdolliset haitat yksilöille
5. Riskinarviointi
Arvioi jokainen riski todennäköisyyden ja vaikutuksen mukaan
6. Lieventämistoimenpiteet
Suunnittele varotoimet kullekin riskille, tunnista jäännösriski
7. Hyväksyminen ja tarkistus
Dokumentoi tulos, lähetä se hyväksyttäväksi, päivitä se säännöllisesti
Riskien priorisointi: todennäköisyys-vaikutusmatriisi
Arvioit jokaisen riskin kahdessa ulottuvuudessa: sen toteutumisen todennäköisyydessä ja vaikutuksen, jos se tapahtuu. Näiden kahden yhdistelmä antaa etusijalle.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Alhainen vaikutus
keskipitkä vaikutus
suuri vaikutus
suuri todennäköisyys
keskikokoinen
korkea
kriittinen
keskimääräinen todennäköisyys
alhainen
keskikokoinen
korkea
pieni todennäköisyys
alhainen
alhainen
keskikokoinen
Kriittiset ja suuret riskit ovat riskejä, joiden osalta hanketta ei tule jatkaa ilman varotoimia. Tavoitteena ei ole poistaa kaikkia riskejä; on vähentää jokainen riski hyväksyttävälle tasolle ja hyväksyä tietoisesti jäljellä oleva (jäännös)riski.
kolme minilaukkua
Tapaus 1 – DPIA jätetty pois. Vähittäiskauppaketju toteuttaa järjestelmän, joka seuraa asiakkaiden käyttäytymistä myymälässä tekoälyllä ilman DPIA:ta. Kuukausia myöhemmin tehty valitus paljastaa, että järjestelmä teki erityisiä päätelmiä (terveys, raskauden ennustaminen). Kysymykseen "miksi et tehnyt DPIA:ta" tarkastuksessa ei ole vastausta. DPIA olisi alusta alkaen ottanut tämän riskin kiinni suunnitteluvaiheessa ja tehnyt projektista turvallisen.
Tapaus 2 – DPIA:n pelastama hanke. DPIA tehdään rekrytointituen tekoälylle pankissa. Riskien tunnistamisvaiheessa historiatietoihin perustuva sukupuoliharhariski osoittautuu "korkeaksi". Lieventämiseksi tiimi poistaa sukupuolitiedot mallista, liittää tuloksen säännölliseen harhatestaukseen ja vaatii ihmisen validoinnin. Nyt riski putoaa "kohtalaiseksi" ja projektista tulee hyväksyttävä. DPIA tekee projektista turvallisen sen tappamisen sijaan.
Tapaus 3 – Suhteellisuustesti. Yritys haluaa skannata työntekijöiden sähköpostit "uskollisuusanalyysiä" varten tekoälyllä. DPIA:n välttämättömyys/suhteellisuusvaiheessa tämän havaitaan olevan liian häiritsevää suhteessa tarkoitukseen; On olemassa vähemmän häiritseviä vaihtoehtoja. Hanketta ei ole hyväksytty nykyisessä muodossaan. Suhteellisuustestissä erotetaan toisistaan "voimme" ja "meidän täytyy".
Huomio: DPIA ei ole lomake, joka täytetään kerran ja jätetään sivuun. Käsiteltäessä muutoksia (uudet tiedot, uusi tarkoitus, uusi työkalu) DPIA on päivitettävä. Kuollut DPIA on harhaanjohtavampi kuin ei DPIA:ta ollenkaan, koska se antaa väärää luottamusta.
Kuka tekee DPIA:n ja riskirekisterin suhteen DPIA:n kanssa
Yksittäinen henkilö ei voi täyttää DPIA:ta työpöytänsä ääressä. Oikea DPIA on tiimityötä. Tyypillisesti tietosuojavastaava suorittaa prosessin (Doer), noudattamisesta vastaava johtaja on viime kädessä vastuussa (Accountable), asianomainen liiketoimintayksikkö kuvaa käsittelyn, arvioi IT-/turvatekniset toimenpiteet ja vahvistaa oikeusperustan. Asianmukaisten ihmisten mielipiteiden hankkimista (kolmas vaihe) ei pidä laiminlyödä; Tämä on kuitenkin käytännössä eniten ohitettu vaihe.
DPIA:n tuotos ei ole tyhjiössä: tunnistetut riskit kirjataan organisaation riskirekisteriin. Riskirekisteri on reaaliaikainen kaavio, joka sisältää kaikki avoimet riskit, niiden prioriteetit, lievennöt, syylliset ja viimeiset tarkastelupäivät. Näin tekoälyprojektin riskit puhuvat samaa kieltä kuin organisaation yleinen riskienhallinta ja niitä seurataan säännöllisesti.
Riskirekisterialue
esimerkki
Riskin määritelmä
Sukupuoliharha rekrytoinnin tekoälyssä
etusijalla
korkea
Lieventävä toimenpide
Korvausmuuttujan erottaminen + bias-testaus
Vastuullinen
Tietosuojavastaava
arvostelu
3 kuukauden välein
Vinkki: Käsittele DPIA:ta "riskiloki ja -seuraa" - mentaliteetilla, ei "valmis ja unohda" -lähestymistavalla. Onko riskinhallintaa toteutettu, onko jäännösriski hyväksyttävällä tasolla – ilman näiden kirjaamista, DPIA:sta tulee ikkunaasiakirja.
Kopioitavat mallit
MALLI 1 – DPIA:n esiselvitys: "Tarvitaanko DPIA:ta tähän tekoälykäyttöön? [kuvaile käyttöä]. Arvioi viittä laukaisevaa tekijää: uusi teknologia, laajamittainen käsittely, järjestelmällinen seuranta, arkaluontoiset tiedot, merkittävä automatisoitu päätöksenteko. Kuinka monta laukaisua on olemassa, suositteletteko DPIA:ta perusteluineen."
MALLI 2 – Riskien tunnistamisen aivoriihi: "Luettelo mahdollisista haitoista, joita ihmisille aiheutuu tässä tekoälyprojektissa [kuvaa projektia]: tietovuoto, syrjintä, virhearviointi, yksityisyyden loukkaus, läpinäkyvyyden puute, tarkoituksen ajautuminen. Kirjoita yhden lauseen skenaario jokaiselle vahingolle. Vain havaitse, mutta älä vastusta."
MALLI 3 – Todennäköisyys-vaikutuspisteytys: "Arvioi seuraavat riskit [luettelo riskit] todennäköisyyksinä (pieni/keskimääräinen/suuri) ja vaikutuksiksi (matala/keskimääräinen/suuri); prioriteetti (matala/keskimääräinen/korkea/kriittinen) näkyy jokaisella rivillä. Lista kriittiset ja korkeat yläreunassa. Esitä taulukkomuodossa."
MALLI 4 – Lieventämissuunnitelma: "Ehdota seuraavalle riskille [kirjoita riski] vähintään 3 lievennystoimenpidettä (tekninen, prosessi, organisatorinen). Arvioi "jäännösriskin" taso kunkin toimenpiteen jälkeen. Jos riski on edelleen korkea toimenpiteen jälkeen, ilmoita, että hanke tulisi suunnitella uudelleen."
Heikko kehote / Vahva kehote
HEIKKO: "Onko tämä tekoälyprojekti riskialtista?"-> Malli antaa epämääräisen "ehkä" vastauksen; ei luokittele riskejä, ei priorisoi riskejä, ei tuota toimenpiteitä.STRONG: "Suorita mini-DPIA seuraavalle tekoälyprojektille: (1) kuvaile käsittelyä, (2) arvioi DPIA:n tarvetta viidellä laukaisimella, (3) luettele 6 mahdollisia haittoja henkilöille, (4) pisteytä jokainen todennäköisyysvaikutusten mukaan,(5) suosittele lieventämistä. laillinen hyväksyntä."-> Malli tuottaa luonnoksen jäsennellystä, toimivasta DPIA:sta.
Yleisiä virheitä
- DPIA:n tekeminen tapahtuman alkamisen jälkeen (tai jopa ongelman ilmentymisen jälkeen).
- DPIA:ta vaativan suuren riskin käsittelyn ohittaminen ei ole iso juttu.
- Riskien listaamatta jättäminen ja niiden priorisointi todennäköisyyden ja vaikutuksen mukaan.
- DPIA:n katsotaan olevan "täydellinen" ilman toimenpiteitä jokaiselle riskille.
- Välttämättömyyden/suhteellisuuden vaiheen ohittaminen ja sanomalla "me pystymme, joten tehdään se".
- DPIA:n täyttäminen kerran, eikä sitä päivitetä, kun prosessi muuttuu.
- Hankkeen hyväksyminen dokumentoimatta selkeästi jäännösriskiä.
Yhteenvetona
- DPIA on jäsennelty analyysi, joka arvioi suuren riskin käsittelyn vaikutukset yksilöihin ennen sen aloittamista.
- DPIA vaaditaan, jos kyseessä on uusi teknologia, laajamittainen käsittely, järjestelmällinen seuranta, arkaluonteinen tieto tai merkittävä automatisoitu päätöksenteko.
- Prosessi koostuu seitsemästä vaiheesta: tunnistaminen, välttämättömyys/suhteellisuus, sidosryhmien mielipide, riskin tunnistaminen, arviointi, toiminta, hyväksyntä/tarkistus.
- Riskit priorisoidaan todennäköisyys-vaikutusmatriisin avulla; Kriittisiä/korkeita riskejä ei hyväksytä ilman varotoimia.
- DPIA ei tapa projektia, se tekee siitä turvallisen; Se on elävä asiakirja, joka on päivitettävä käsittelyn muutosten mukaan.
Sovellustehtävä
Valitse sellainen tekoäly, jota organisaatiosi saattaa käyttää ja joka saattaa olla riskialtista (esimerkiksi rekrytointituki, käyttäytymisen seuranta tai luottopisteytys). Mieti ensin, onko DPIA tarpeen viidellä laukaisulla. Suorita sitten mini-DPIA tätä käyttöä varten: kuvaile käsittely, luettele vähintään kuusi mahdollista yksilöille aiheutuvaa haittaa, arvosta jokainen todennäköisyys-vaikutusmatriisissa ja aseta prioriteetti. Suunnittele kolme lieventävää toimenpidettä kahdelle kriittiselle ja suurelle riskille ja arvioi jäännösriskitaso toimenpiteen jälkeen. Huomaa lopuksi, milloin tämä DPIA on päivitettävä.
tarkistuslista
- [ ] Arvioin DPIA-vaatimuksen viidellä laukaisulla.
- [ ] Määritin käsittelyn (tiedot, tarkoitus, laajuus, kulku).
- [ ] Kyseenalaistan tarpeellisuuden ja suhteellisuuden.
- [ ] Olen listannut mahdolliset haitat henkilöille.
- [ ] Priorisoin riskit todennäköisyys-vaikutusmatriisissa.
- [ ] Suunnittelin lievennystoimenpiteitä kriittisten/korkeiden riskien varalta.
- [ ] Olen nyt dokumentoinut riskin ja asettanut tarkistusehdot.