Girdeji:
- AI ulanylyşynyň DPIA talap edýändigini ýa-da ýokdugyny kesgitlemek
- Sevenedi basgançakly DPIA amalyny AI taslamasyna ulanmak
- Probhtimallyk-täsir matrisasy we dizaýny azaltmak çäreleri bilen töwekgelçilikleri ileri tutuň
AI-ni ulanmak käbir adamlara çynlakaý töwekgelçilik döredýär: uly göwrümli gözegçilik, maglumatlary duýgur işlemek, awtomatiki kararlar. Şeýle taslamalarda, KVKK / GDPR we EUB AI kanuny iş başlamazdan ozal töwekgelçiligiň bahalandyrylmagyna garaşýarlar. Bu baha bermegiň ady Maglumatlary goramagyň täsirini bahalandyrmak (DPIA). Bu bölümde ulanylyşyň DPIA talap edýändigini ýa-da ýokdugyny, ýedi basgançakly DPIA amalyny AI taslamasyna nädip ulanmalydygyny we ähtimallyk-täsir matrisasy bilen töwekgelçilikleri nädip ileri tutmalydygyny öwreneris.
DPIA näme we haçan gerek?
Maglumatlary goramagyň täsirine baha bermek (DPIA), gaýtadan işlemek işiniň şahsyýetleriň hukuklaryna we azatlyklaryna töwekgelçiligini öňünden bahalandyrýan we azaltmak çärelerini kesgitleýän gurluşly derňewdir. Möhüm nokat: DPIA dizaýn etabynda, gaýtadan işlemezden ozal - mesele ýüze çykandan soň däl.
DPIA adatça şu wagt talap edilýär:
- Täze tehnologiýany ulanmak (AI köplenç goşulýar).
- Şahsy maglumatlary uly göwrümli gaýtadan işlemek.
- Ulgamlaýyn gözegçilik ýa-da profil.
- Dataörite maglumatlary gaýtadan işlemek.
- Adamlara ep-esli täsir edýän awtomatiki kararlar.
Maslahat: Ynanmasaňyz, "barlaň": ýokardaky bäşligiň ikisi ýa-da ondan köpüsi bar bolsa, DPIA ýerine ýetirmäň. DPIA etmegiň bahasy pes; Muny etmezlik üçin çykdajy, bir düzgün bozulanda gaty ýokary.
Sevenedi basgançakly DPIA prosesi
DPIA-ny AI taslamasyna şu ýedi ädimde ulanýarsyňyz:
ädim
Näme edýärsiň?
1. Düşündiriş
Gaýtadan işlemegi suratlandyryň: haýsy maglumatlar, maksat, çäk, akym
2. Zerurlyk we deňlik
AI hakykatdanam zerurmy? Az girýän ýol barmy?
3. Gyzyklanýan taraplaryň pikiri
Degişli adamlaryň / wekilleriň pikirini alyň
4. Töwekgelçiligi kesgitlemek
Şahsy adamlara bolup biljek zyýany sanaň
5. Töwekgelçiligi bahalandyrmak
Her töwekgelçiligi ähtimallyk we täsir boýunça baha beriň
6. Mitigasiýa çäreleri
Her töwekgelçilik üçin çäreleri düzüň, galyndy töwekgelçiligini kesgitläň
7. Tassyklamak we gözden geçirmek
Netijäni resminama ediň, tassyklamak üçin tabşyryň, wagtal-wagtal täzeläň
Töwekgelçiligi ileri tutmak: ähtimallyk-täsir matrisasy
Her töwekgelçiligi iki ölçegde bahalandyrýarsyňyz: bolup geçmeginiň ähtimallygy we şeýle bolsa täsir. Ikisiniň utgaşmasy ileri tutulýar.
<w: tcPr> <w: tcW w: type = "dxa" w: w = "2160" /> </ w: tcPr> <w: p> <w: r> <w: rPr> <w: b /> </ w: rPr> <w: t> Pes täsir
orta täsir
ýokary täsir
ähtimallygy ýokary
orta
beýik
tankydy
orta ähtimallyk
pes
orta
beýik
ähtimallygy pes
pes
pes
orta
Kritiki we ýokary töwekgelçilikler, taslama çäreleri görmezden dowam etdirilmeli däl töwekgelçiliklerdir. Maksat her töwekgelçiligi ýok etmek däl; her töwekgelçiligi kabul ederlik derejä çenli azaltmak we galan (galyndy) töwekgelçiligi aňsatlyk bilen kabul etmekdir.
üç sany kiçi halat
1-nji waka - DPIA rugsat berildi. Bölek satuw zynjyry, DPIA bolmazdan, AI bilen dükanda müşderiniň özüni alyp barşyny yzarlaýan ulgamy amala aşyrýar. Birnäçe aýdan soň, şikaýat ulgamyň belli bir netijä gelendigini (saglyk, göwrelilik çaklamasy) ýüze çykardy. Gözegçilikde "näme üçin DPIA etmediň" diýen soraga jogap ýok. DPIA ilkibaşdan bu töwekgelçiligi dizaýn etabynda tutup, taslamany howpsuz ederdi.
2-nji waka - DPIA tarapyndan halas edilen taslama. DPIA bankda AI işe almak goldawy üçin edilýär. Töwekgelçiligi kesgitlemek tapgyrynda, taryhy maglumatlar sebäpli jynsparazlyk töwekgelçiligi "ýokary" bolup çykýar. Igationeňilleşdiriji hökmünde topar jyns maglumatlaryny modelden aýyrýar, çykyşy yzygiderli synag bilen baglanyşdyrýar we adam tassyklamagyny talap edýär. Indi töwekgelçilik "ortaça" peselýär we taslama kabul edilýär. DPIA taslamany öldürmegiň ýerine howpsuz edýär.
3-nji hadysa - Deňlik synagy. Bir kompaniýa, AI bilen “wepalylyk derňewi” üçin işgärleriň e-poçtalaryny skanirlemek isleýär. DPIA-nyň zerurlygy / proporsional ädiminde munuň maksat bilen çakdanaşa çylşyrymlydygy ýüze çykarylýar; Çozýan alternatiwalar az. Taslama häzirki görnüşinde tassyklanmady. Deňlik synagy “başararys” bilen “hökman” arasynda tapawutlandyrýar.
Üns beriň: DPIA bir gezek doldurylýan we bir gyra goýulýan görnüş däl. Üýtgeşmeler (täze maglumatlar, täze maksat, täze gural) gaýtadan işlenende DPIA täzelenmeli. Ölen DPIA, hiç hili DPIA-dan has ýalňyşdyr, sebäbi ýalan ynam berýär.
DPIA kim edýär we DPIA bilen töwekgelçilikleri hasaba alýar
Singleeke adam stolda DPIA-ny dolduryp bilmez; Dogry DPIA toparlaýyn tagalladyr. Adatça, maglumatlary goramak boýunça işgäri bu işi ýerine ýetirýär (Doer), ýerine ýetiriş dolandyryjysy ahyrky netijede jogapkärdir (Jogapkärçilikli), degişli iş bölümi gaýtadan işlemegi suratlandyrýar, IT / howpsuzlyk tehniki çärelerine baha berýär we kanuny esaslary tassyklaýar. Degişli adamlaryň pikirini almak (üçünji ädim) ünsden düşürilmeli däldir; Şeýle-de bolsa, bu iş ýüzünde iň köp geçilen ädimdir.
DPIA-nyň çykyşy boşlukda oturmaýar: kesgitlenen töwekgelçilikler guramanyň töwekgelçilik sanawyna ýazylýar. Töwekgelçilik sanawy, ähli açyk töwekgelçilikleri, ileri tutulýan ugurlary, ýumşatmalary, günäkärleri we soňky gözden geçiriş senelerini öz içine alýan göni diagramma. Şeýlelik bilen, AI taslamasynyň töwekgelçilikleri guramanyň umumy töwekgelçiligi dolandyrmak bilen bir dilde gürleýär we yzygiderli gözegçilik edilýär.
Töwekgelçilik hasaba alyş meýdany
mysal
Töwekgelçiligi kesgitlemek
AI işe almakda jyns gatnaşyklary
ileri tutulýan ugur
beýik
Mitigasiýa çäresi
Surrogate üýtgeýän ekstraksiýa + ikitaraplaýyn synag
Jogapkärçilikli
Maglumatlary goramak boýunça işgär
gözden geçiriň
her 3 aýdan
Maslahat: DPIA-ny “ýerine ýetiriň we ýatdan çykaryň” däl-de, “töwekgelçilik gündeligi we yzarlamak” mentaliteti bilen bejeriň. Töwekgelçiligi azaltmak amala aşyryldymy, galyndy töwekgelçiligi kabul ederlikli derejede - bulary hasaba almazdan, DPIA penjire resminamasyna öwrülýär.
Göçürip boljak galyplar
MESELE 1 - DPIA deslapky barlag: "Bu AI ulanmak üçin DPIA zerurmy?
MESELE 2 - Töwekgelçiligi kesgitleýän beýni hüjümi: "Bu AI taslamasyndaky adamlara bolup biljek zyýany sanaň [taslamany beýan ediň]: maglumatlaryň syzmagy, diskriminasiýa, nädogry baha bermek, şahsy durmuşyň eldegrilmesizligi, aç-açanlygyň bolmazlygy, maksatlaryň üýtgemegi. Her zyýan üçin bir sözlemli ssenariýa ýazyň. Diňe anyklaň, ýöne garşy durmaň."
MESELE 3 - ähtimallyk-täsir ballary: "Aşakdaky töwekgelçilikleri [sanaw töwekgelçiligini] ähtimallyk (pes / orta / ýokary) we täsir (pes / orta / ýokary) hökmünde kesgitläň; her hatarda ileri tutulýan (pes / orta / ýokary / kritiki) peýda bolýar. Topokarda möhüm we ýokary sanawy görkeziň. Tablisa görnüşinde görkeziň."
TEMPLATE 4 - Mitigasiýa dizaýny: "Aşakdaky töwekgelçilik üçin [töwekgelçiligi ýazyň], azyndan 3 gowşatmak çäresini teklip ediň (tehniki, amal, guramaçylyk). Her çäreden soň" galyndy töwekgelçiligi "derejesini kesgitläň. Çäreden soň töwekgelçilik henizem ýokary bolsa, taslamanyň täzeden işlenmelidigini görkeziň."
Gowşak haýyş / Güýçli haýyş
Gowşak: “Bu AI taslamasy töwekgelçilikmi?” -> Model düşnüksiz “belki” jogap berýär; töwekgelçilikleri klassifikasiýa etmeýär, töwekgelçilikleri ileri tutmaýar, çäreleri öndürmeýär. GÖRNÜŞ: "Aşakdaky AI taslamasy üçin kiçi DPIA geçiriň: (1) gaýtadan işlemegi suratlandyryň, (2) 5 sany trigger bilen DPIA zerurlygyna baha beriň, (3) ähtimallyk täsirine görä baha beriň, (5) kanuny tassyklaýyş taslamasyny kabul ediň! gurluşly, hereketli DPIA.
Adaty ýalňyşlyklar
- Geleşik başlandan soň (ýa-da mesele ýüze çykandan soň) DPIA etmek.
- DPIA-ny talap edýän ýokary töwekgelçilikli gaýtadan işlemekden “uly mesele däl”.
- Töwekgelçilikleri sanamazlyk we ähtimallyk we täsir boýunça olary ileri tutmak.
- DPIA-ny her töwekgelçilik üçin çäreleri görmezden "doly" hasaplamak.
- Zerurlyk / proporsional ädimden geçip, "edip bileris, geliň muny edeliň" diýmek.
- DPIA-ny bir gezek doldurmak we proses üýtgände täzelenmezlik.
- Galyndy (galan) töwekgelçiligi anyk resminamalaşdyrmazdan taslamany tassyklamak.
Gysgaça
- DPIA, ýokary töwekgelçilikli gaýtadan işlemegiň işe başlamazdan ozal şahsyýetlere edýän täsirini bahalandyrýan gurluşly derňewdir.
- Täze tehnologiýa, uly göwrümli gaýtadan işlemek, yzygiderli gözegçilik, duýgur maglumatlar ýa-da möhüm awtomatiki karar bermek bar bolsa DPIA talap edilýär.
- Bu proses ýedi ädimden ybarat: kesgitlemek, zerurlyk / deňlik, gyzyklanýan taraplaryň pikiri, töwekgelçiligi kesgitlemek, baha bermek, hereket, tassyklamak / gözden geçirmek.
- Töwekgelçilikler ähtimallyk-täsir matrisasy bilen ileri tutulýar; Kritiki / ýokary töwekgelçilikler seresaplyksyz kabul edilmeýär.
- DPIA taslamany öldürmeýär, ony howpsuz edýär; Gaýtadan işlemegiň üýtgemegi bilen täzelenmeli janly resminama.
Programma meselesi
Guramaňyzyň töwekgelçilikli bolup biläýjek AI ulanylyşyny saýlaň (mysal üçin, işe almak goldawy, özüni alyp barşyňy yzarlamak ýa-da karz ballary). Ilki bilen bäş sany trigger bilen DPIA-nyň zerurdygyny ýa-da ýokdugyny gözden geçiriň. Soňra bu ulanmak üçin kiçi DPIA geçiriň: gaýtadan işlemegi suratlandyryň, şahsyýetlere bolup biljek azyndan alty zyýany sanaň, ähtimallyk-täsir matrisasyna hersine baha beriň we ileri tutuň. Iki möhüm we ýokary töwekgelçilik üçin üç sany gowşatmak çäresini düzüň we bu çäreden soň galyndy töwekgelçiliginiň derejesini kesgitläň. Ahyrynda, bu DPIA haçan täzelenmelidigine üns beriň.
gözegçilik sanawy
- [] DPIA talaplaryna bäş sany trigger bilen baha berdim.
- [] Gaýtadan işlemegi kesgitledim (maglumatlar, maksat, çäk, akym).
- [] Zerurlygy we deňligi sorag etdim.
- [] Şahsy adamlara bolup biljek zyýany sanadym.
- [] Mümkinçilik-täsir matrisasyndaky töwekgelçilikleri ileri tutdum.
- [] Kritiki / ýokary töwekgelçilikleri azaltmak çärelerini taýýarladym.
- [] Indi töwekgelçiligi dokumentleşdirdim we gözden geçiriş şertlerini belledim.