Keuntungan:
- Mengevaluasi apakah penggunaan AI memerlukan DPIA
- Menerapkan proses DPIA tujuh langkah ke proyek AI
- Prioritaskan risiko dengan matriks kemungkinan-dampak dan rancang langkah-langkah mitigasi
Beberapa penggunaan AI menimbulkan risiko serius bagi individu: pemantauan skala besar, pemrosesan data sensitif, pengambilan keputusan otomatis. Dalam proyek-proyek tersebut, baik KVKK/GDPR maupun UU AI UE mengharapkan adanya penilaian risiko terstruktur sebelum pekerjaan dimulai. Nama penilaian ini adalah Penilaian Dampak Perlindungan Data (DPIA). Dalam unit ini kita akan mempelajari cara mengetahui apakah suatu penggunaan memerlukan DPIA, cara menerapkan proses tujuh langkah DPIA pada proyek AI, dan cara memprioritaskan risiko dengan matriks dampak probabilitas.
Apa itu DPIA dan kapan dibutuhkan?
Penilaian Dampak Perlindungan Data (DPIA) adalah analisis terstruktur yang mengevaluasi terlebih dahulu risiko aktivitas pemrosesan terhadap hak dan kebebasan individu dan menentukan langkah-langkah mitigasi. Poin kritisnya: DPIA dilakukan pada tahap desain, sebelum pemrosesan dimulai — bukan setelah masalah terjadi.
DPIA biasanya diperlukan ketika:
- Penggunaan teknologi baru (AI sering kali disertakan).
- Pemrosesan data pribadi dalam skala besar.
- Pemantauan atau pembuatan profil secara sistematis.
- Pemrosesan data khusus.
- Keputusan otomatis yang berdampak signifikan terhadap banyak orang.
Tip: Jika Anda tidak yakin, lakukan "penyaringan": jika ada dua atau lebih dari lima hal di atas, lakukan DPIA secara default. Biaya untuk melakukan DPIA rendah; Kerugian jika tidak melakukan hal tersebut akan sangat tinggi jika terjadi satu pelanggaran.
Proses DPIA tujuh langkah
Anda menerapkan DPIA ke proyek AI dalam tujuh langkah berikut:
langkah
Apa yang kamu lakukan?
1. Deskripsi
Jelaskan pemrosesannya: data apa, tujuan, ruang lingkup, aliran
2. Kebutuhan dan proporsionalitas
Apakah AI benar-benar diperlukan? Apakah ada cara yang tidak terlalu mengganggu?
3. Pendapat pemangku kepentingan
Mendapatkan pendapat dari orang/perwakilan terkait
4. Identifikasi risiko
Buat daftar kemungkinan kerugian pada individu
5. Penilaian risiko
Nilai setiap risiko berdasarkan probabilitas dan dampaknya
6. Langkah-langkah mitigasi
Rancang tindakan pencegahan untuk setiap risiko, identifikasi risiko yang tersisa
7. Persetujuan dan peninjauan kembali
Dokumentasikan hasilnya, serahkan untuk disetujui, perbarui secara berkala
Memprioritaskan risiko: matriks dampak-probabilitas
Anda mengevaluasi setiap risiko dalam dua dimensi: kemungkinan terjadinya dan dampak jika hal itu terjadi. Kombinasi keduanya memberikan prioritas.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Berdampak rendah
efek sedang
dampak tinggi
probabilitas tinggi
sedang
tinggi
kritis
probabilitas sedang
rendah
sedang
tinggi
probabilitas rendah
rendah
rendah
sedang
Risiko kritis dan tinggi adalah risiko yang proyeknya tidak boleh dilanjutkan tanpa adanya tindakan pencegahan. Tujuannya bukan untuk menghilangkan setiap risiko; adalah mengurangi setiap risiko ke tingkat yang dapat diterima dan secara sadar menerima risiko yang tersisa (sisa).
tiga kasus mini
Kasus 1 — DPIA dihilangkan. Jaringan ritel menerapkan sistem yang melacak perilaku pelanggan di dalam toko dengan AI, tanpa DPIA. Beberapa bulan kemudian, sebuah keluhan mengungkapkan bahwa sistem membuat kesimpulan spesifik (kesehatan, prediksi kehamilan). Tidak ada jawaban atas pertanyaan “kenapa tidak melakukan DPIA” dalam audit. DPIA sejak awal akan menangkap risiko ini pada tahap desain dan menjadikan proyek aman.
Kasus 2 — Proyek diselamatkan oleh DPIA. DPIA dilakukan untuk dukungan rekrutmen AI di bank. Pada tahap identifikasi risiko, risiko bias gender akibat data historis ternyata “tinggi”. Sebagai mitigasi, tim menghapus informasi gender dari model, mengaitkan keluarannya dengan pengujian bias rutin, dan memerlukan validasi manusia. Sekarang risikonya turun menjadi "sedang" dan proyek dapat diterima. DPIA membuat proyek aman dan bukan malah mematikannya.
Kasus 3 — Uji proporsionalitas. Sebuah perusahaan ingin memindai email karyawan untuk “analisis loyalitas” dengan AI. Dalam langkah kebutuhan/proporsionalitas DPIA, hal ini dianggap terlalu mengganggu dibandingkan dengan tujuannya; Ada alternatif yang tidak terlalu mengganggu. Proyek ini tidak disetujui dalam bentuknya yang sekarang. Uji proporsionalitas membedakan antara “kita bisa” dan “kita harus”.
Perhatian: DPIA bukanlah formulir yang hanya diisi satu kali dan dikesampingkan. Saat memproses perubahan (data baru, tujuan baru, alat baru) DPIA harus diperbarui. DPIA yang mati lebih menyesatkan daripada tidak ada DPIA sama sekali karena memberikan keyakinan yang salah.
Siapa yang melakukan DPIA dan hubungan pencatatan risiko dengan DPIA
Seseorang tidak dapat mengisi DPIA di mejanya; DPIA yang benar adalah upaya tim. Biasanya, petugas perlindungan data melaksanakan proses (Pelaku), manajer kepatuhan pada akhirnya bertanggung jawab (Accountable), unit bisnis terkait menjelaskan pemrosesan, mengevaluasi tindakan teknis TI/keamanan, dan mengonfirmasi dasar hukum. Mendapatkan pendapat dari orang-orang terkait (langkah ketiga) tidak boleh diabaikan; Namun, ini adalah langkah yang paling banyak dilewati dalam praktiknya.
Keluaran DPIA tidak berada dalam ruang hampa: risiko-risiko yang teridentifikasi dicatat dalam daftar risiko organisasi. Daftar risiko adalah grafik langsung yang mencatat semua risiko terbuka, prioritasnya, mitigasinya, penyebab dan tanggal peninjauan terakhir. Dengan cara ini, risiko proyek AI memiliki arti yang sama dengan manajemen risiko organisasi secara keseluruhan dan dipantau secara berkala.
Area daftar risiko
contoh
Definisi risiko
Bias gender dalam AI rekrutmen
prioritas
tinggi
Tindakan mitigasi
Ekstraksi variabel pengganti + pengujian bias
Bertanggung jawab
Petugas perlindungan data
ulasan
setiap 3 bulan
Tip: Perlakukan DPIA dengan mentalitas “catat dan lacak risiko”, bukan pendekatan “selesai dan lupakan”. Jika mitigasi risiko telah diterapkan, apakah risiko yang tersisa berada pada tingkat yang dapat diterima — tanpa adanya pencatatan, DPIA hanya akan menjadi dokumen jendela.
Templat yang dapat disalin
TEMPLATE 1 - pra-penyaringan DPIA: "Apakah DPIA diperlukan untuk penggunaan AI ini? [jelaskan penggunaannya]. Evaluasi berdasarkan lima pemicu: teknologi baru, pemrosesan skala besar, pemantauan sistematis, data sensitif, pengambilan keputusan otomatis yang signifikan. Berapa banyak pemicu yang ada, apakah Anda merekomendasikan DPIA, dengan justifikasi."
TEMPLATE 2 — Brainstorming identifikasi risiko: "Buat daftar kemungkinan kerugian yang mungkin terjadi pada orang-orang dalam proyek AI ini [jelaskan proyeknya]: kebocoran data, diskriminasi, salah penilaian, pelanggaran privasi, kurangnya transparansi, penyimpangan tujuan. Tulis skenario satu kalimat untuk setiap kerugian. Deteksi saja, namun jangan melawan."
TEMPLATE 3 — Penilaian kemungkinan-dampak: "Skor risiko berikut [daftar risiko] sebagai probabilitas (rendah/sedang/tinggi) dan dampak (rendah/sedang/tinggi); prioritas (rendah/sedang/tinggi/kritis) muncul di setiap baris. Cantumkan kritis dan tinggi di bagian atas. Sajikan dalam format tabel."
TEMPLATE 4 — Desain mitigasi: "Untuk risiko berikut [tulis risikonya], usulkan setidaknya 3 tindakan mitigasi (teknis, proses, organisasi). Perkirakan tingkat 'risiko sisa' setelah setiap tindakan. Jika risiko masih tinggi setelah tindakan, tunjukkan bahwa proyek harus didesain ulang."
Perintah lemah / Perintah kuat
LEMAH: “Apakah proyek AI ini berisiko?”-> Model memberikan jawaban 'mungkin' yang tidak jelas; tidak mengklasifikasikan risiko, tidak memprioritaskan risiko, tidak menghasilkan tindakan. KUAT: "Lakukan DPIA mini untuk proyek AI berikut: (1) jelaskan prosesnya, (2) evaluasi kebutuhan DPIA dengan 5 pemicu, (3) buat daftar 6 kemungkinan kerugian pada manusia, (4) nilai masing-masing berdasarkan probabilitas-dampak, (5) merekomendasikan mitigasi untuk risiko kritis/tinggi. Buat pengambilan keputusan hukum yang pasti; menghasilkan rancangan yang akan disetujui secara hukum."-> Model menghasilkan rancangan a DPIA yang terstruktur dan dapat ditindaklanjuti.
Kesalahan umum
- Melakukan DPIA setelah transaksi dimulai (atau bahkan setelah masalah terjadi).
- Melewatkan pemrosesan berisiko tinggi yang mengharuskan DPIA sebagai “bukan masalah besar.”
- Tidak membuat daftar risiko dan memprioritaskan risiko berdasarkan kemungkinan dan dampaknya.
- Menganggap DPIA “lengkap” tanpa menghasilkan tindakan untuk setiap risiko.
- Melewatkan langkah keharusan/proporsionalitas dan mengatakan "kita bisa melakukannya, jadi ayo kita lakukan".
- Mengisi DPIA satu kali dan tidak memperbaruinya ketika proses berubah.
- Menyetujui proyek tanpa mendokumentasikan secara jelas sisa risiko (yang tersisa).
Singkatnya
- DPIA adalah analisis terstruktur yang mengevaluasi dampak pemrosesan berisiko tinggi terhadap individu sebelum dimulai.
- DPIA diperlukan jika terdapat teknologi baru, pemrosesan skala besar, pemantauan sistematis, data sensitif, atau pengambilan keputusan otomatis yang signifikan.
- Prosesnya terdiri dari tujuh langkah: identifikasi, kebutuhan/proporsionalitas, opini pemangku kepentingan, identifikasi risiko, penilaian, tindakan, persetujuan/peninjauan.
- Risiko diprioritaskan dengan matriks dampak-probabilitas; Risiko kritis/tinggi tidak diterima tanpa tindakan pencegahan.
- DPIA tidak menghentikan proyek, namun membuatnya aman; Ini adalah dokumen hidup yang harus diperbarui seiring dengan perubahan yang sedang diproses.
Tugas aplikasi
Pilih penggunaan AI yang mungkin digunakan organisasi Anda yang mungkin berisiko tinggi (misalnya, perekrutan dukungan, pelacakan perilaku, atau penilaian kredit). Pertama pertimbangkan apakah DPIA diperlukan dengan lima pemicu. Kemudian lakukan DPIA mini untuk penggunaan ini: jelaskan prosesnya, buat daftar setidaknya enam kemungkinan kerugian yang mungkin terjadi pada individu, beri skor pada masing-masing matriks kemungkinan-dampak, dan tetapkan prioritas. Rancang tiga tindakan mitigasi untuk dua risiko kritis dan tinggi dan perkirakan tingkat risiko sisa setelah tindakan tersebut. Terakhir, perhatikan kapan DPIA ini perlu diperbarui.
daftar periksa
- [ ] Saya mengevaluasi persyaratan DPIA dengan lima pemicu.
- [] Saya mendefinisikan pemrosesan (data, tujuan, ruang lingkup, aliran).
- [ ] Saya mempertanyakan keharusan dan proporsionalitas.
- [ ] Saya telah membuat daftar kemungkinan kerugian bagi individu.
- [ ] Saya memprioritaskan risiko dalam matriks dampak-probabilitas.
- [ ] Saya merancang langkah-langkah mitigasi untuk risiko kritis/tinggi.
- [ ] Saya sekarang telah mendokumentasikan risiko dan menetapkan kondisi peninjauan.