KVKK, Privasi dan Tata Kelola Kecerdasan Buatan Publik yang Bertanggung Jawab — Kecerdasan Buatan dalam Administrasi Publik dan Pemerintahan

Keuntungan:

Ini menerapkan prinsip KVKK dan minimalisasi data saat memproses data pribadi warga di alat AI.
Hal ini menetapkan kerangka tata kelola untuk organisasi yang mencakup kebijakan penggunaan AI, jejak audit, dan rantai tanggung jawab.
Laporan ini secara holistik menyatakan bahwa AI publik yang bertanggung jawab dibangun berdasarkan pengawasan manusia, transparansi, dan akuntabilitas.

Sepanjang modul ini, kita melihat bagaimana AI merupakan akselerator yang kuat di masyarakat: respon terhadap pertanyaan masyarakat, petisi dan korespondensi, penelitian legislatif, analisis kebijakan, pelaporan, pengambilan keputusan berdasarkan data, e-Government dan transparansi. Kini kita sampai pada kerangka kerja yang menyatukan semuanya: perlindungan data pribadi dan tata kelola yang bertanggung jawab. Publik, pada dasarnya, memproses data warga negara yang paling sensitif: identitas, alamat, pendapatan, kesehatan, catatan kriminal, situasi keluarga. Pemrosesan data ini dengan alat AI harus sepenuhnya mematuhi kerangka KVKK (UU Perlindungan Data Pribadi No. 6698; undang-undang yang mengatur pemrosesan data pribadi yang sah, terbatas, dan aman). Dalam unit terakhir ini, kami akan menetapkan tulang punggung privasi dan tata kelola penggunaan AI publik – data apa yang dapat diberikan ke alat apa, kebijakan apa yang berlaku, siapa yang bertanggung jawab, bagaimana organisasi mengelola AI dengan aman. Unit ini merupakan atap yang ditempatkan di atas sepuluh unit sebelumnya.

Prinsip dasar KVKK menyentuh AI publik

KVKK menetapkan beberapa prinsip dasar yang masing-masing secara langsung membatasi penggunaan AI:

Kepatuhan terhadap hukum dan kepatuhan terhadap tujuan: Data pribadi diproses hanya untuk tujuan tertentu dan sah. Data yang dikumpulkan untuk satu tujuan (misalnya, meminta bantuan) tidak boleh digunakan untuk tujuan lain (misalnya, melatih model) tanpa izin.
Minimalkan data: Tidak ada lebih banyak data yang diproses daripada yang diperlukan untuk tujuan tersebut. Jika nama tidak diperlukan untuk analisis kategori, tidak ada nama yang diberikan.
Keamanan: Data dilindungi terhadap akses tidak sah. Menempelkan data warga ke alat AI publik berarti membawa data tersebut ke luar organisasi — hal ini merupakan pelanggaran kebijakan keamanan.
Periode penyimpanan: Data dihapus ketika tujuannya berakhir; Itu tidak disimpan selamanya.
Informasi dan hak: Warga negara mempunyai hak untuk mengetahui bagaimana data mereka diproses, mengoreksi, menghapus, dan menolak keputusan otomatis.

Perhatian: Mengunggah data warga negara ke alat AI publik yang belum disetujui oleh lembaga, tempat penyimpanan data tersebut dan tidak jelas siapa yang dapat mengaksesnya, dalam banyak kasus merupakan pelanggaran KVKK dan membuka peluang bagi lembaga tersebut untuk terkena sanksi. Aturan tidak pernah membungkuk “untuk membuat pekerjaan lebih mudah”.

Data yang mana, ke kendaraan yang mana? Model tiga zona

Sebagai aturan praktis, bagilah data menjadi tiga wilayah:

Merah (tidak pernah masuk kendaraan umum): nomor KTP, kesehatan, pidana, agama, suku, biometrik, alamat lengkap, segala sesuatu yang dapat mengidentifikasi orang tersebut. Ini hanya diproses di lingkungan yang dikontrak/in-house dan sesuai dengan KVKK yang disetujui oleh institusi.
Kuning (hati-hati, dengan menutupi): Data yang dapat dikaitkan secara tidak langsung dengan orang tersebut. Anonimkan/agregat terlebih dahulu, lalu proses.
Hijau (gratis): Informasi impersonal, publik, umum (teks legislatif, statistik publik, prosedur umum). Anda dapat dengan mudah memprosesnya dengan AI.

Tip: Sebelum memberikan teks kepada AI, lakukan tes 5 detik: “Apakah ada sesuatu dalam konten ini yang dapat mengidentifikasi seseorang?” Jika jawabannya “ya/mungkin”, kenakan masker atau kendarai kendaraan yang disetujui. Jika ragu, pertimbangkan warna merah.

Tata kelola perusahaan: dari orang ke sistem

AI publik yang bertanggung jawab tidak bisa diserahkan kepada niat baik masing-masing pegawai negeri sipil; Diperlukan kerangka kelembagaan:

Kebijakan: Lembaga harus memiliki kebijakan penggunaan AI: alat mana yang disetujui, data apa yang boleh dimasukkan, siapa yang bertanggung jawab.
Daftar alat yang disetujui: Personil harus menggunakan alat yang telah dievaluasi dan disetujui oleh institusi, tidak sembarangan.
Pelatihan: Staf harus mengetahui disiplin verifikasi dan wilayah data (seperti modul ini).
Pencatatan dan audit: Jejak audit atas keputusan yang dihasilkan dengan AI harus disimpan.
Akuntabilitas: Setiap keluaran yang didukung AI harus memiliki pemilik dan persetujuan manusia. Tanggung jawab ada pada institusi dan petugasnya, bukan pada kendaraannya.
Prinsip yang berpusat pada manusia: Tidak ada keputusan final mengenai penciptaan/pembatasan hak yang dibuat tanpa persetujuan manusia.

tiga kasus mini

Kasus 1 — Kebocoran data merah dicegah. Seorang anggota staf hendak mengunggah ringkasan daftar manfaat kesehatan untuk 1.200 orang ke alat publik. Berkat kebijakan kendaraan yang disetujui badan tersebut dan pelatihan "data merah", hal itu dihentikan; Data diproses dalam lingkungan yang disetujui secara internal dan dengan kolom identitas yang disamarkan. Kemungkinan pelanggaran KVKK dan hilangnya kepercayaan puluhan ribu orang dapat dicegah.

Kasus 2 — Penyalahgunaan. Satu unit ingin menggunakan data yang dikumpulkan untuk penjangkauan rencana komunikasi pra-pemilihan. Petugas perlindungan data mengingat prinsip kepatuhan terhadap tujuan: ini adalah penggunaan data di luar tujuan pengumpulannya dan melanggar hukum. Permintaan itu ditolak.

Kasus 3 – Kesenjangan tata kelola telah teratasi. Di satu kota, unit-unit berbeda menggunakan alat AI yang berbeda tanpa kendali; Tidak ada yang tahu data mana yang dibawa kemana. Badan tersebut memperkenalkan kebijakan penggunaan AI, menyetujui daftar kendaraan dan jejak audit; Dalam waktu 3 bulan, penggunaan kendaraan tidak terdaftar menurun sebesar 90% dan inventarisasi data pun tercipta.

Empat templat yang dapat disalin

1) Klasifikasi wilayah data (sebelum mengekspor ke kendaraan):

Peran Anda: penasihat perlindungan data. Klasifikasikan konten berikut sebelum memberikannya kepada agen AI: MERAH (mengidentifikasi orang, tidak pernah memasuki kendaraan umum), KUNING (dapat terhubung secara tidak langsung, topeng), HIJAU (non-pribadi, gratis). Tandai area merah/kuning satu per satu dan beri tahu cara menutupinya. Hitung tersangka sebagai merah. ISI: [teks]

2) Penyembunyian/anonimisasi:

Anonimkan semua data pribadi sebelum memproses teks berikut: nama -> [PERSON-1], nomor ID -> [IDENTITAS], alamat ->[ALAMAT], kesehatan/penalti -> [SENSITIF]. Tandai orang yang sama. Ekspor teks anonim secara terpisah. Jangan pernah menulis data aktual ke output. TEKS: [teks]

3) Daftar periksa kepatuhan KVKK (untuk penggunaan AI):

Peran Anda: spesialis kepatuhan KVKK. Buatlah daftar periksa kepatuhan untuk penggunaan AI berikut: (1) apakah tujuan pemrosesan sah dan spesifik, (2) apakah terhubung dengan tujuan (apakah beralih ke tujuan lain), (3) apakah dioptimalkan, (4) apakah alat aman/disetujui, (5) apakah jangka waktu penyimpanannya pasti, (6) apakah hak warga negara (keberatan, penghapusan) dilindungi. Tandai item yang hilang dengan bendera merah. PENGGUNAAN: [resep]

4) Kerangka kebijakan AI perusahaan:

Peran Anda: pakar tata kelola TI publik. Menghasilkan kerangka kebijakan penggunaan AI untuk organisasi kami: ruang lingkup, alat yang disetujui, zona data (merah/kuning/hijau), penggunaan terlarang, poin persetujuan manusia, jejak audit, tanggung jawab, pelatihan, dan pemberitahuan pelanggaran. Isi setiap judul dengan 1-2 kalimat. INSTITUSI: [unit dan pekerjaan umum]

Perintah lemah / Perintah kuat

Lemah: "Ringkaslah daftar referensi ini."

Kuat: "Peran Anda adalah konsultan perlindungan data. Pertama, klasifikasikan daftar ini berdasarkan wilayah data (merah/kuning/hijau) dan tandai semua bidang yang mengidentifikasi orang tersebut. Tutupi bidang merah/kuning dengan [PERSON]/[IDENTITAS]/[SENSITIF], pertahankan orang yang sama dengan label yang sama. Hanya buat ringkasan kategori dengan data gabungan dan anonim; jangan menulis data pribadi nyata ke keluaran. Di akhir, catat di mana proses ini memerlukan perhatian dalam hal KVKK (tujuan, penyimpanan, keamanan kendaraan) menambahkan."

Perbedaannya: perintah yang kuat mengklasifikasikan, menutupi, meminimalkan dan mengintegrasikan prinsip-prinsip KVKK sebelum memproses data.

Wilayah data dan aturan

Wilayah

contoh

aturan

merah

Nomor TR ID, kesehatan, denda, alamat lengkap

Jangan pernah memasuki kendaraan umum; lingkungan yang disetujui

kuning

Usia+lingkungan+pekerjaan, pengenal tidak langsung

Masker/agregat, lalu proses

hijau

Perundang-undangan, statistik publik, prosedur umum

pekerjaan lepas

Kesalahan umum

Mengekspor data merah ke alat publik. Pelanggaran paling berat; Data ID/kesehatan/penalti tidak meninggalkan lingkungan yang disetujui.
Penyalahgunaan. Merupakan pelanggaran hukum jika menggunakan data yang dikumpulkan untuk satu tujuan untuk tujuan lain (pelatihan model, komunikasi) tanpa izin.
Memproses terlalu banyak data. Jangan pindahkan kolom yang tidak perlu (nama, alamat) untuk tujuan tersebut; Memperkecil.
Mengemudi tanpa persetujuan. Tidak jelas ke mana perginya data kendaraan yang belum dievaluasi oleh lembaga tersebut.
Tidak menentukan jangka waktu retensi. Data harus dihapus ketika tujuannya selesai; tidak boleh disimpan tanpa batas waktu.
Menempatkan tanggung jawab pada kendaraan. Outputnya dimiliki dan disetujui oleh manusia; “AI yang melakukannya” bukanlah sebuah pembelaan.

Singkatnya

Kerangka kerja AI publik yang bertanggung jawab adalah perlindungan data pribadi dan tata kelola perusahaan. Prinsip KVKK — tujuan, minimalisasi, keamanan, batas retensi, hak warga negara — membatasi penggunaan AI. Pisahkan data ke dalam zona merah/kuning/hijau, jangan pernah memberi warna merah pada alat publik, menutupi data pribadi, hanya menggunakan alat yang disetujui, dan menghubungkan pemilik manusia dalam setiap keputusan. Kebijakan tingkat institusi, daftar kendaraan yang disetujui, catatan pelatihan dan inspeksi; Disiplin verifikasi di tingkat orang. Oleh karena itu, AI melayani masyarakat dengan melindungi hak-hak warga negara.

Tugas aplikasi

Pilih penggunaan AI aktual yang telah Anda lakukan (atau pertimbangkan untuk dilakukan) di unit Anda. Pisahkan konten yang akan Anda proses menjadi merah/kuning/hijau dengan template "Klasifikasi wilayah data". Terapkan templat "Daftar periksa kepatuhan KVKK" dan temukan setidaknya satu titik yang hilang/berisiko. Terakhir, buat draf kebijakan singkat yang sesuai untuk unit Anda dengan "kerangka kebijakan AI Perusahaan".

daftar periksa

[ ] Saya membagi konten menjadi zona merah/kuning/hijau; Saya menghitung tersangkanya merah.
[ ] Saya tidak memberikan data merah ke alat publik; Saya menggunakan media yang disetujui.
[ ] Saya menutupi data pribadi dan menghapus bidang yang tidak diperlukan (minimalkan).
[ ] Saya telah memeriksa tujuan pemrosesan, jangka waktu penyimpanan dan keamanan kendaraan.
[ ] Saya telah memperhatikan hak keberatan/penghapusan warga negara.
[ ] Saya melampirkan pemilik manusia dan persetujuan untuk setiap keluaran; Saya menyimpan jejak audit.

Ujian Modul

1. Sebagai pejabat publik, pertanyaan prioritas apa yang sebaiknya Anda tanyakan sebelum menyerahkan pekerjaan kepada AI?

A) Apa kerugian warga negara jika keluaran ini salah? ✔
B) Seberapa cepat AI dapat melakukan pekerjaan ini?
C) Apakah alat AI ini gratis?
D) Apakah unit lain juga akan menggunakan keluaran ini?

Penjelasan: Keputusan pemindahan diambil berdasarkan kerugian yang akan diderita warga negara jika keluarannya salah. Kerusakannya mudah ditoleransi hanya dalam beberapa menit penulisan ulang; Jika penolakan tidak adil, sanksi salah, atau hilangnya hak, AI hanya membuat rancangan, keputusan dan verifikasi ada di tangan pejabat.

2. Disebut apakah AI yang menyajikan undang-undang yang tidak ada atau keputusan pengadilan yang dibuat-buat sebagai nyata?

A) Penyimpanan dalam cache
B) Triase
C) Anonimisasi
D) Halusinasi ✔

Penjelasan: Halusinasi adalah ketika AI dengan percaya diri menghasilkan informasi yang sebenarnya tidak ada (zat palsu, peraturan dicabut, nomor salah). Dalam bidang peraturan perundang-undangan, hal ini merupakan salah satu resiko yang paling berbahaya, karena dapat mengakibatkan hilangnya hak dan pembatalan suatu tindakan administratif.

3. Ada petugas yang hendak menolak permohonan berdasarkan pasal peraturan yang dikemukakan YZ. Perilaku manakah yang paling benar?

A) AI langsung menulis penolakan karena terkesan percaya diri
B) Ajukan pertanyaan yang sama ke kendaraan AI lain dan dapatkan konfirmasi
C) Mengonfirmasi artikel dari teks konsolidasi saat ini di Çözüm.gov.tr ✔
D) Secara lisan menanyakan keputusan tersebut kepada atasan

Deskripsi: Data pelatihan AI dibekukan pada tanggal tertentu; Artikel yang ditampilkan mungkin telah dicabut atau diubah. Mengonfirmasi bahwa artikel tersebut berlaku dan versi finalnya dari teks konsolidasi saat ini di Çözüm.gov.tr sebelum keputusan mencegah penolakan yang tidak adil dan kemungkinan gugatan pembatalan.

4. Mengapa merupakan jaminan kualitas bagi chatbot warga untuk dapat mengatakan 'Saya tidak tahu, saya akan memindahkan Anda ke pejabat'?

A) Meningkatkan statistik dengan meningkatkan tingkat turnover
B) Mencegah misinformasi dengan mendelegasikan informasi kepada manusia ketika tidak yakin ✔
C) Memperpanjang waktu panggilan dengan mengalihkan perhatian warga
D) Memungkinkan chatbot menerima lebih sedikit pertanyaan

Penjelasan: Di depan umum, jawaban yang salah dan penuh percaya diri jauh lebih merugikan daripada jawaban yang jujur; Hal ini menyebabkan hilangnya hak dan ketidakpercayaan terhadap institusi. Kemampuan chatbot untuk menyerahkan kepada manusia saat tidak yakin merupakan mekanisme keamanan yang mencegah misinformasi halusinasi.

5. Risiko apa yang paling penting untuk dipertimbangkan ketika 'menyederhanakan' korespondensi resmi dengan AI?

A) Teksnya terlalu pendek
B) Mengubah font
C) Menjatuhkan kondisi atau pengecualian ✔
D) Salah ejaan nama penerima

Penjelasan: Adaptasi stilistika tidak boleh mengubah isi. Saat menyederhanakan, AI terkadang menghilangkan pengecualian, kondisi, atau durasi. Oleh karena itu, teks yang disederhanakan harus selalu dibandingkan dengan keputusan atau peraturan perundang-undangan yang asli.

6. Nama dan T.R. dalam kumpulan data. Disebut apa jika kombinasi 'lingkungan + tahun lahir + jenis disabilitas' dapat mengungkap seseorang meskipun nomor ID-nya telah dihapus?

A) Redefinisi ✔
B) Minimalkan data
C) Tingkat cakupan
D) Konsolidasi

Penjelasan: Identifikasi ulang adalah menemukan seseorang melalui kombinasi pengidentifikasi tidak langsung dari data yang dianggap anonim. Jika kategori langka ditemukan pada satu orang, menghapus namanya saja tidak cukup; Tindakan tambahan diperlukan, seperti mengubah usia menjadi rentang dan menggabungkan kategori langka.

7. Disebut apakah bila suatu model inspeksi menandai suatu lingkungan yang pernah diperiksa secara ketat di masa lalu sebagai 'berisiko' dan mengirimkan lebih banyak inspeksi ke sana, yang mendorong model untuk melihat lingkungan tersebut sebagai lebih berisiko?

A) Minimalkan data
B) Halusinasi
C) Anonimisasi
D) Putaran umpan balik ✔

Penjelasan: Putaran umpan balik adalah saat keluaran model memengaruhi data pelatihan berikutnya, sehingga memperkuat bias yang ada. Perbedaannya bukan meningkat pada risiko sebenarnya, namun pada tampilannya. Cara untuk melindungi diri Anda sendiri adalah dengan memantau dampaknya, bukan keluarannya, dan mengendalikan distribusi keputusan berdasarkan kelompok.

8. Setelah permohonan manfaat dipindahkan sepenuhnya secara online, jumlah permohonan turun 30 persen pada bulan pertama. Apa penjelasan yang paling mungkin mengenai hal ini?

A) Kebutuhan riil warga negara mengalami penurunan
B) Warga yang tidak memiliki internet dan literasi digital terpinggirkan ✔
C) Bunga menurun karena jumlah bantuan berkurang
D) Sistem secara otomatis menyetujui semua aplikasi

Deskripsi: Kesenjangan digital adalah ketidakmampuan masyarakat yang tidak memiliki akses internet atau literasi digital untuk mengakses layanan. Jumlah tersebut menurun karena kelompok yang paling membutuhkan, yaitu lansia dan masyarakat yang tidak memiliki internet, tidak dapat mengajukan permohonan. Solusinya adalah dengan meninggalkan jalur alternatif seperti titik rujukan bantuan.

9. Meskipun tingkat keberhasilan sebenarnya dalam laporan tahunan adalah 63 persen, ringkasan eksekutif yang dihasilkan oleh YZ menyatakan 'sebagian besar lamaran positif.' Apa perilaku yang benar?

A) Ekspresinya dibiarkan apa adanya karena positif.
B) Rasio dihapus dan hanya ekspresi kualitatif yang digunakan
C) Ekspresi tersebut diganti dengan bilangan real 63 persen ✔
D) Ringkasan dihapus seluruhnya dari laporan

Penjelasan: Persepsi positif yang berlebihan dalam laporan publik menempatkan lembaga pada situasi sulit dalam pemeriksaan selanjutnya. Setiap klaim dalam ringkasan eksekutif harus dibandingkan dengan data mentah dan angka sebenarnya (63 persen) harus ditulis; Ringkasan AI tidak disertakan dalam laporan tanpa diaudit.

10. Saat membuat keputusan berbasis data di sektor publik, jika 'jumlah file yang ditutup setiap bulan' meningkat sementara 'tingkat resolusi pada kontak pertama' menurun, apa pelajaran pertama yang bisa kita peroleh dari hal ini?

A) Memilih indikator yang tepat lebih penting daripada mengalikan angka ✔
B) Jumlah personel harus ditingkatkan
C) Grafik harus diwarnai
D) Chatbot harus menjawab lebih banyak pertanyaan

Penjelasan: Indikator yang salah menghasilkan keputusan yang salah meskipun datanya benar. File dapat dengan cepat ditutup dan dibuka kembali. Memilih indikator yang tepat dan membaca indikator bersama-sama mencegah membual hanya berdasarkan angka yang menyesatkan.

11. Dalam sebuah grafik, sumbu vertikal dimulai dari 40, bukan nol, dan peningkatan sebesar 2 persen terlihat seperti lompatan yang dramatis. Merupakan contoh dari masalah apa?

A) Halusinasi
B) Minimalkan data
C) Kesenjangan digital
D) Visualisasi yang menyesatkan ✔

Penjelasan: Visualisasi yang menyesatkan adalah mendistorsi persepsi melalui teknik seperti sumbu tidak dimulai dari nol, skala yang tidak proporsional, atau jangka waktu yang dipilih. Hal ini merupakan bagian dari tata kelola visual yang jujur dalam data publik; Tabel sebenarnya harus ditampilkan dengan menarik sumbu ke nol.

12. Mengapa tidak dapat diterima untuk mengatakan 'AI yang menulis hal itu' sebagai pembenaran atas suatu tindakan administratif?

A) Karena alat AI terlalu mahal
B) Tindakan administratif harus dapat dipertanggungjawabkan dan tanggung jawab ada pada petugas ✔
C) Karena AI tidak tahu bahasa Turki
D) Karena warga tidak menyukai AI

Penjelasan: Tindakan administratif harus beralasan dan dapat diaudit; Tanggung jawabnya bukan terletak pada AI, namun pada pejabat publik dan lembaga yang menggunakan keluaran tanpa memverifikasinya. 'AI bilang begitu' bukan merupakan pembenaran dan tidak mendukung tindakan administratif.

13. Apa saja empat prinsip yang membedakan penggunaan AI di sektor publik dan sektor swasta dan prinsip-prinsip tersebut juga harus diperhatikan?

A) Kecepatan, murahnya, profitabilitas, persaingan
B) Otomatisasi, skala, pemasaran, merek
C) Kesetaraan, transparansi, akuntabilitas, perlindungan data pribadi ✔
D) Privasi, kerahasiaan, privasi dan kerahasiaan

Penjelasan: Dalam pekerjaan yang menggunakan kekuasaan publik, AI dibingkai oleh prinsip kesetaraan (perlakuan serupa terhadap situasi serupa), transparansi (penjelasan justifikasi keputusan), akuntabilitas (bertanggung jawab atas setiap transaksi dan jejak audit) dan perlindungan data pribadi (KVKK).

14. Apa yang harus dilakukan sistem pra-penerbangan otomatis jika tidak yakin dengan jenis dokumen yang langka?

A) Untuk menolak lamaran secara diam-diam
B) Meneruskan aplikasi ke tinjauan manusia ✔
C) Secara otomatis menyetujui aplikasi
D) Hapus aplikasi

Penjelasan: Otomatisasi yang baik mengarahkan model ke petugas ketika ia merasa tidak yakin daripada menolaknya secara diam-diam. Jika tidak, permohonan yang sah akan terjerumus ke dalam titik buta dan akan terjadi viktimisasi. Menjaga orang-orang pada titik pengambilan keputusan adalah dasar dari manajemen pengecualian.