Keuntungan:
- Menilai sama ada penggunaan AI memerlukan DPIA
- Menggunakan proses DPIA tujuh langkah pada projek AI
- Utamakan risiko dengan matriks kesan kebarangkalian dan langkah mengurangkan reka bentuk
Sesetengah penggunaan AI menimbulkan risiko yang serius kepada individu: pemantauan berskala besar, pemprosesan data sensitif, keputusan automatik. Dalam projek sedemikian, kedua-dua KVKK/GDPR dan Undang-undang AI EU mengharapkan penilaian risiko berstruktur sebelum kerja bermula. Nama penilaian ini ialah Data Protection Impact Assessment (DPIA). Dalam unit ini kita akan belajar cara untuk mengetahui sama ada penggunaan memerlukan DPIA, cara menggunakan proses DPIA tujuh langkah pada projek AI dan cara mengutamakan risiko dengan matriks kesan kebarangkalian.
Apakah DPIA dan bila ia diperlukan?
Penilaian Kesan Perlindungan Data (DPIA) ialah analisis berstruktur yang menilai terlebih dahulu risiko aktiviti pemprosesan mengenai hak dan kebebasan individu dan menentukan langkah mengurangkan. Titik kritikal: DPIA dilakukan pada peringkat reka bentuk, sebelum pemprosesan bermula — bukan selepas masalah berlaku.
DPIA biasanya diperlukan apabila:
- Penggunaan teknologi baharu (AI sering disertakan).
- Pemprosesan data peribadi berskala besar.
- Pemantauan atau pemprofilan sistematik.
- Pemprosesan data khas.
- Keputusan automatik yang memberi kesan ketara kepada orang ramai.
Petua: Jika anda tidak pasti, lakukan "penyaringan": jika dua atau lebih daripada lima perkara di atas hadir, lalai untuk melakukan DPIA. Kos melakukan DPIA adalah rendah; Kos untuk tidak berbuat demikian adalah sangat tinggi dalam satu pelanggaran.
Proses DPIA tujuh langkah
Anda menggunakan DPIA pada projek AI dalam tujuh langkah ini:
langkah
awak buat apa?
1. Penerangan
Terangkan pemprosesan: apakah data, tujuan, skop, aliran
2. Keperluan dan perkadaran
Adakah AI benar-benar diperlukan? Adakah terdapat cara yang kurang mengganggu?
3. Pendapat pihak berkepentingan
Dapatkan pendapat orang/wakil yang berkaitan
4. Pengenalpastian risiko
Senaraikan kemungkinan bahaya kepada individu
5. Penilaian risiko
Skor setiap risiko mengikut kebarangkalian dan kesan
6. Langkah-langkah mitigasi
Reka bentuk langkah berjaga-jaga untuk setiap risiko, kenal pasti risiko sisa
7. Kelulusan dan semakan
Dokumen keputusan, serahkan untuk kelulusan, kemas kini secara berkala
Mengutamakan risiko: matriks kesan kebarangkalian
Anda menilai setiap risiko dalam dua dimensi: kemungkinan ia berlaku dan kesan jika ia berlaku. Gabungan kedua-duanya memberi keutamaan.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Impak rendah
kesan sederhana
impak tinggi
kebarangkalian tinggi
sederhana
tinggi
kritikal
kebarangkalian sederhana
rendah
sederhana
tinggi
kebarangkalian rendah
rendah
rendah
sederhana
Risiko kritikal dan tinggi adalah risiko yang mana projek tidak sepatutnya diteruskan tanpa mengambil langkah berjaga-jaga. Matlamatnya bukan untuk menghapuskan setiap risiko; adalah untuk mengurangkan setiap risiko ke tahap yang boleh diterima dan secara sedar menerima risiko yang tinggal (sisa).
tiga kes mini
Kes 1 — DPIA diabaikan. Rantaian runcit melaksanakan sistem yang menjejak tingkah laku pelanggan di kedai dengan AI, tanpa DPIA. Beberapa bulan kemudian, aduan mendedahkan bahawa sistem membuat inferens khusus (kesihatan, ramalan kehamilan). Tiada jawapan kepada soalan "mengapa anda tidak melakukan DPIA" dalam audit. DPIA dari awal akan menangkap risiko ini pada peringkat reka bentuk dan menjadikan projek itu selamat.
Kes 2 — Projek diselamatkan oleh DPIA. DPIA dilakukan untuk sokongan pengambilan AI di bank. Semasa fasa pengenalpastian risiko, risiko bias jantina disebabkan oleh data sejarah ternyata "tinggi". Sebagai mitigasi, pasukan mengalih keluar maklumat jantina daripada model, mengaitkan output kepada ujian berat sebelah biasa dan memerlukan pengesahan manusia. Kini risiko menurun kepada "sederhana" dan projek itu boleh diterima. DPIA menjadikan projek itu selamat dan bukannya membunuhnya.
Kes 3 — Ujian kekadaran. Sebuah syarikat ingin mengimbas e-mel pekerja untuk "analisis kesetiaan" dengan AI. Dalam langkah keperluan/perkadaran DPIA ini didapati terlalu mengganggu berbanding dengan tujuan; Terdapat alternatif yang kurang mengganggu. Projek ini tidak diluluskan dalam bentuk semasa. Ujian perkadaran membezakan antara "kita boleh" dan "kita mesti."
Perhatian: DPIA bukan borang yang diisi sekali dan diketepikan. Apabila memproses perubahan (data baharu, tujuan baharu, alat baharu) DPIA mesti dikemas kini. DPIA yang mati adalah lebih mengelirukan daripada tiada DPIA sama sekali kerana ia memberikan keyakinan palsu.
Siapa yang DPIA dan risiko mendaftarkan hubungan dengan DPIA
Seorang tidak boleh mengisi DPIA di meja mereka; DPIA yang betul ialah usaha berpasukan. Lazimnya, pegawai perlindungan data menjalankan proses (Doer), pengurus pematuhan akhirnya bertanggungjawab (Accountable), unit perniagaan yang berkaitan menerangkan pemprosesan, menilai langkah teknikal IT/keselamatan dan mengesahkan asas undang-undang. Mendapatkan pendapat orang yang berkaitan (langkah ketiga) tidak boleh diabaikan; Walau bagaimanapun, ini adalah langkah yang paling banyak dilangkau dalam amalan.
Output DPIA tidak berada dalam ruang hampa: risiko yang dikenal pasti direkodkan dalam daftar risiko organisasi. Daftar risiko ialah carta langsung yang menangkap semua risiko terbuka, keutamaan, pengurangan, punca dan tarikh semakan terakhir. Dengan cara ini, risiko projek AI bercakap dalam bahasa yang sama seperti pengurusan risiko keseluruhan organisasi dan dipantau dengan kerap.
Kawasan daftar risiko
contoh
Definisi risiko
Bias jantina dalam AI pengambilan
keutamaan
tinggi
Langkah mitigasi
Pengekstrakan pembolehubah pengganti + ujian berat sebelah
Bertanggungjawab
Pegawai perlindungan data
semakan
setiap 3 bulan
Petua: Rawat DPIA dengan mentaliti "log risiko dan jejak", bukan pendekatan "selesai dan lupa". Adakah pengurangan risiko telah dilaksanakan, adakah baki risiko pada tahap yang boleh diterima — tanpa menjejaki rekod ini, DPIA menjadi dokumen tingkap.
Templat yang boleh disalin
TEMPLAT 1 — Pra-penyaringan DPIA: "Adakah DPIA diperlukan untuk penggunaan AI ini? [huraikan penggunaannya]. Nilaikan terhadap lima pencetus: teknologi baharu, pemprosesan berskala besar, pemantauan sistematik, data sensitif, pembuatan keputusan automatik yang ketara. Berapa banyak pencetus yang ada, adakah anda mengesyorkan DPIA, dengan justifikasi."
TEMPLAT 2 — Sumbang saran pengenalpastian risiko: "Senaraikan kemungkinan bahaya kepada orang dalam projek AI ini [huraikan projek]: kebocoran data, diskriminasi, salah penilaian, pencerobohan privasi, kekurangan ketelusan, hanyutan tujuan. Tulis senario satu ayat untuk setiap bahaya. Kesan sahaja, namun jangan balas."
TEMPLAT 3 — Pemarkahan kesan kemungkinan: "Skor risiko berikut [senarai risiko] sebagai kebarangkalian (rendah/sederhana/tinggi) dan impak (rendah/sederhana/tinggi); keutamaan (rendah/sederhana/tinggi/kritikal) muncul pada setiap baris. Senaraikan kritikal dan tinggi di bahagian atas. Hadirkan dalam format jadual."
TEMPLAT 4 — Reka bentuk mitigasi: "Untuk risiko berikut [tulis risiko], cadangkan sekurang-kurangnya 3 langkah mitigasi (teknikal, proses, organisasi). Anggarkan tahap 'baki risiko' selepas setiap langkah. Jika risiko masih tinggi selepas ukuran, nyatakan bahawa projek itu perlu direka bentuk semula."
Gesaan lemah / Gesaan kuat
LEMAH: "Adakah projek AI ini berisiko?"-> Model itu memberikan jawapan 'mungkin' yang tidak jelas; tidak mengklasifikasikan risiko, tidak mengutamakan risiko, tidak menghasilkan langkah-langkah. KUAT: "Menjalankan mini DPIA untuk projek AI berikut: (1) menghuraikan pemprosesan, (2) menilai keperluan untuk DPIA dengan 5 pencetus, (3) menyenaraikan6 kemungkinan bahaya kepada orang, (4) menjaringkan setiap satunya mengikut impak kebarangkalian,(5) mengesyorkan mitigasi risiko yang kritikal/kehendak tinggi. kepada kelulusan undang-undang."-> Model ini menghasilkan draf DPIA yang berstruktur dan boleh diambil tindakan.
Kesilapan biasa
- Melakukan DPIA selepas urus niaga dimulakan (atau walaupun selepas masalah berlaku).
- Melangkau pemprosesan berisiko tinggi yang memerlukan DPIA sebagai "bukan masalah besar."
- Tidak menyenaraikan risiko dan mengutamakannya mengikut kebarangkalian dan kesan.
- Memandangkan DPIA "lengkap" tanpa menghasilkan langkah-langkah untuk setiap risiko.
- Melangkau langkah keperluan/perkadaran dan berkata "kita boleh melakukannya, jadi mari kita lakukan".
- Mengisi DPIA sekali dan tidak mengemas kini apabila proses berubah.
- Meluluskan projek tanpa mendokumenkan dengan jelas baki (baki) risiko.
Secara ringkasnya
- DPIA ialah analisis berstruktur yang menilai kesan pemprosesan berisiko tinggi ke atas individu sebelum ia dimulakan.
- DPIA diperlukan jika terdapat teknologi baharu, pemprosesan berskala besar, pemantauan sistematik, data sensitif atau pembuatan keputusan automatik yang penting.
- Proses ini terdiri daripada tujuh langkah: pengenalpastian, keperluan/perkadaran, pendapat pihak berkepentingan, pengenalpastian risiko, penilaian, tindakan, kelulusan/semakan.
- Risiko diutamakan dengan matriks kesan kebarangkalian; Risiko kritikal/tinggi tidak diterima tanpa langkah berjaga-jaga.
- DPIA tidak membunuh projek, ia menjadikannya selamat; Ia adalah dokumen hidup yang mesti dikemas kini semasa pemprosesan berubah.
Tugasan permohonan
Pilih penggunaan AI yang mungkin digunakan oleh organisasi anda yang mungkin berisiko tinggi (contohnya, sokongan merekrut, penjejakan tingkah laku atau pemarkahan kredit). Mula-mula pertimbangkan sama ada DPIA perlu dengan lima pencetus. Kemudian jalankan DPIA mini untuk kegunaan ini: terangkan pemprosesan, senaraikan sekurang-kurangnya enam kemungkinan bahaya kepada individu, skor setiap satu pada matriks kesan kemungkinan, dan tetapkan keutamaan. Reka tiga langkah mitigasi untuk dua risiko kritikal dan tinggi dan anggaran tahap risiko baki selepas ukuran. Akhir sekali, perhatikan bila DPIA ini perlu dikemas kini.
senarai semak
- [ ] Saya menilai keperluan DPIA dengan lima pencetus.
- [ ] Saya menentukan pemprosesan (data, tujuan, skop, aliran).
- [ ] Saya mempersoalkan keperluan dan perkadaran.
- [ ] Saya telah menyenaraikan kemungkinan bahaya kepada individu.
- [ ] Saya mengutamakan risiko dalam matriks kesan kebarangkalian.
- [ ] Saya mereka bentuk langkah-langkah mitigasi untuk risiko kritikal/tinggi.
- [ ] Saya kini telah mendokumenkan risiko dan menetapkan syarat semakan.