Keuntungan:
- Kemampuan mengklasifikasikan dan menganonimkan data siswa dalam kerangka KVKK dan konsep data pribadi khusus serta menerapkan pemilihan kendaraan yang aman
- Kemampuan untuk mengadaptasi prinsip-prinsip etika profesi PDR (kerahasiaan, kemurahan hati, non-maleficence, otonomi) dengan penggunaan kecerdasan buatan
- Kemampuan untuk mengenali bias, ketidakpekaan budaya, dan halusinasi dalam keluaran kecerdasan buatan dan membuat kebijakan penggunaan yang etis
Kepercayaan adalah inti dari profesi PDR. Jika seorang siswa dapat menceritakan perasaan, keluarga, dan ketakutannya yang paling intim kepada seorang spesialis, itu hanya karena dia yakin bahwa informasi tersebut akan dilindungi. Alat kecerdasan buatan memberikan ujian baru yang serius terhadap kepercayaan ini: data yang paling sensitif bisa lepas kendali dalam sebuah kalimat. Dalam unit ini, kami secara sistematis membahas privasi, KVKK, etika profesional PDR dan penerapannya dalam penggunaan kecerdasan buatan. Kami telah menerapkan prinsip-prinsip ini sedikit demi sedikit pada unit sebelumnya; Di sini kami akan menggabungkannya secara keseluruhan dan menjadikannya kebijakan permanen.
KVKK dan tipe data: mana yang lebih terlindungi
KVKK (UU Perlindungan Data Pribadi) merupakan undang-undang yang mengatur mengenai pengolahan data masyarakat secara sah. Ada dua konsep yang sangat penting. Data pribadi adalah segala informasi yang mengidentifikasi atau mengidentifikasi seseorang: nama, nama keluarga, nomor sekolah, kelas, alamat, foto. Data pribadi khusus adalah jenis data sensitif yang memerlukan perlindungan lebih tinggi: kesehatan, kondisi mental, diagnosis, kehidupan seksual, agama, etnis, status kriminal. Mayoritas catatan PDR termasuk dalam kategori sensitif kedua ini; karena status mental, masalah keluarga dan riwayat dukungan secara langsung merupakan data pribadi. Artinya, data PDR tidak boleh dimasukkan dalam bentuk mentah ke alat publik.
Dalam praktiknya, hal ini diterjemahkan ke dalam tiga aturan: (1) Minimalkan data — bekerja dengan jumlah data paling sedikit yang diperlukan untuk melakukan suatu pekerjaan. (2) Anonimisasi — membuat data tidak dapat ditautkan ke individu dengan menghapus informasi identitas pribadi. (3) Batasan sarana dan tujuan yang aman — gunakan alat perusahaan yang mengamankan data jika memungkinkan dan memproses data hanya sesuai tujuan pengumpulannya.
Perhatian: Tidaklah cukup hanya mengatakan "Saya menganonimkannya". Bahkan jika nama dihilangkan dari teks, deskripsi situasi yang unik (situasi yang sangat spesifik pada seorang siswa di sekolah kecil) dapat membuat orang tersebut dapat diidentifikasi. Dalam anonimisasi, generalisasikan tidak hanya nama tetapi juga detail yang menunjukkan orang tersebut.
Praktik anonimisasi: prosedur kontrol
Sebelum mengekspor teks ke alat, ikuti prosedur berikut: (a) Hapus pengenal langsung seperti nama, nama keluarga, nomor, cabang kelas, nama orang tua, alamat, telepon, nama sekolah. (b) Menggeneralisasi deskripsi tidak langsung: “seorang siswa sekolah menengah” dan bukan “satu-satunya siswa tunanetra di kelas 12-B.” (c) Mengaburkan tanggal dan detail acara seperlunya. (d) Pascabacaan: “Dapatkah seseorang yang membaca teks ini mengetahui siapa yang disebutkan?” Jika jawabannya tidak jelas, lakukan generalisasi lebih lanjut. Catatan yang diautentikasi hanya ditulis pada sistem institusi yang tertutup dan aman; Alat AI berada di luar sistem ini.
Etika profesional PDR dan AI
Etika profesional PDR didasarkan pada empat prinsip dasar, yang masing-masing prinsip tersebut berlaku langsung pada penggunaan AI:
- Kerahasiaan (menjaga rahasia): Informasi siswa dilindungi. Tidak memasukkan data mentah ke dalam AI, menganonimkannya, dan memilih alat yang aman merupakan persyaratan prinsip ini.
- Kebajikan: Segala sesuatu yang dilakukan harus bermanfaat bagi kesejahteraan siswa. AI digunakan demi kenyamanan, bukan dengan cara yang dapat membahayakan kepentingan siswa.
- Nonmaleficence: Prioritasnya adalah tidak menyakiti. Hasil yang tidak terverifikasi, statistik yang tidak akurat, pelabelan, dan penggunaan AI dalam krisis merupakan risiko kerugian; oleh karena itu verifikasi dan batasan krisis merupakan keharusan etis.
- Otonomi: Hak siswa untuk membuat keputusan sendiri dilindungi. AI tidak boleh merendahkan siswa atau mengambil keputusan atas namanya.
Akuntabilitas juga ditambahkan di sini: Tanggung jawab atas setiap keluaran yang digunakan terletak pada ahlinya; "AI yang memproduksinya" bukanlah sebuah pembelaan.
Bias, kepekaan budaya dan transparansi
AI dapat mencerminkan pola sosial dalam data pelatihan. Dalam PDR, hal ini merupakan persoalan keadilan: hasil yang memberikan stereotip pada siswa berdasarkan gender, budaya, atau status sosial ekonomi meremehkan kesetaraan kesempatan. Pakar memeriksa konten yang dihasilkan untuk mengetahui sensitivitas dan bias budaya. Juga transparansi: jika diperlukan, harus dijelaskan secara internal bahwa AI digunakan dalam persiapan materi atau draf; Ini tidak boleh digunakan sebagai "keajaiban" rahasia. Kerahasiaan sangat penting dalam hubungan dengan siswa; Apa yang dijelaskan siswa tidak terbawa ke dalam kendaraan.
Langkah demi langkah: menetapkan kebijakan penggunaan AI
- Klasifikasikan data. Pisahkan semua informasi yang Anda miliki sebagai "pribadi/pribadi/publik".
- Pilih kendaraan. Satu-satunya alat perusahaan yang aman untuk data sensitif; Bekerja secara anonim untuk garis besar umum.
- Ikuti prosedur anonimisasi. Jalankan pemeriksaan rutin sebelum setiap entri.
- Validasi dan pemeriksaan bias. Periksa setiap keluaran untuk mengetahui fakta dan keadilannya.
- Pertahankan batas krisis. Jauhkan hubungan krisis dan konsultasi.
- Bertanggung jawab dan bersikap transparan. Persetujuan akhir menjadi milik ahli; Penggunaannya terbuka di dalam organisasi.
Templat yang dapat disalin
1) Kontrol anonimisasi:
Peran Anda: asisten audit privasi. Tuliskan setiap pernyataan dalam teks di bawah ini yang secara LANGSUNG atau TIDAK LANGSUNG dapat mengidentifikasi orang tersebut (nama, nomor, kelas, sekolah, deskripsi situasi unik) dan menyarankan alternatif yang lebih umum untuk masing-masing pernyataan tersebut. Mengomentari konten. Teks: [tempel teks]
2) Audit bias dan sensitivitas budaya:
Periksa materi PDR berikut untuk mengetahui adanya bias dan sensitivitas budaya: Apakah materi tersebut mengandung stereotip tentang gender, budaya, status sosial ekonomi, atau struktur keluarga? Siapa yang dapat mengecualikan? Tandai pernyataan berisiko dan sarankan alternatif inklusif. Bahan: [tempel bahan]
3) Draf kebijakan penggunaan AI perusahaan:
Peran Anda: asisten penulis PDR. Untuk layanan panduan, buatlah rancangan kebijakan internal singkat tentang penggunaan alat kecerdasan buatan. Judul: di pekerjaan mana digunakan, di pekerjaan mana tidak digunakan (krisis, diagnosis, konsultasi), aturan anonimisasi data, kewajiban verifikasi, tanggung jawab ada di tangan ahli. Singkat dan aplikatif.
Perintah lemah / Perintah kuat
Lemah:
Untuk meringkas situasi Ahmet Yılmaz 8-C, dia menjadi sasaran kekerasan di rumah.
Memasukkan data paling sensitif (nama, kelas, status khusus) ke dalam kendaraan dalam bentuk mentahnya — merupakan pelanggaran serius terhadap KVKK dan etika; Terlebih lagi, ini bisa menjadi situasi notifikasi (unit 9).
Kuat:
Peran Anda: asisten kontrol privasi. Catatan: Saya menganonimkan teks di bawah ini sebelum mengirimkannya ke alat. Namun, periksa lagi: apakah masih ada detail yang membuat orang tersebut dapat diidentifikasi? Teks: "Seorang siswa sekolah menengah mengisyaratkan bahwa dia mengalami ketegangan di rumah."
tiga kasus mini
Kasus 1 — Pengungkapan tidak langsung. Seorang ahli hendak memasukkan teks ke dalam alat yang namanya dihilangkan; namun dia menyadari bahwa ungkapan “satu-satunya siswa di sekolah yang menggunakan kursi roda” secara langsung merujuk pada orang tersebut. Dia menggeneralisasikannya pada "seorang siswa". Membuat nama saja tidak cukup; Deskripsi situasi unik juga bersifat identifikasi.
Kasus 2 — Koreksi bias. Seorang ahli yang mengaudit materi karir menemukan bahwa AI selalu menggunakan nama laki-laki dalam contoh teknik dan nama perempuan dalam profesi perawatan. Itu menyeimbangkan sampel dan merusak cetakan. Koreksi yang tampaknya kecil ini menjaga keadilan pesan yang dikirimkan kepada siswa.
Kasus 3 — Menetapkan kebijakan. Sebuah layanan panduan membuat teks kebijakan internal umum untuk menghilangkan kebingungan yang timbul dari kenyataan bahwa setiap orang menggunakan AI secara berbeda: tugas mana yang digunakan, bukan dalam krisis dan diagnosis, data dianonimkan, keluaran diverifikasi, tanggung jawab ada pada pakar. AI memberikan rancangan; Tim menyelesaikan konten dengan nilai-nilai mereka sendiri. Ketidakpastian memberi jalan bagi kerangka yang jelas.
Kesalahan umum
- Memasukkan data mentah. Menulis ke kendaraan dengan nama/status. Solusi: prosedur anonimisasi, alat aman.
- Hapus saja namanya. Melupakan pengenal tidak langsung. Solusi: generalisasikan juga detail uniknya.
- Mengabaikan bias. Mengadopsi keluaran stereotip. Solusi: audit bias dan budaya.
- Menempatkan tanggung jawab pada kendaraan. Artinya "AI yang memproduksinya". Solusi: akuntabilitas ada pada ahlinya.
- Penyalahgunaan. Memproses data yang dikumpulkan untuk satu tujuan untuk tujuan lain. Solusi: hormati batasan tujuan.
Tabel: Tipe data dan aturan AI
Tipe data
contoh
aturan AI
publik
Pengenalan profesi umum
tersedia secara bebas
data pribadi
Nama, nomor, kelas
Tidak dapat dimasukkan tanpa anonimisasi
Data berkualitas khusus
Status mental, keluarga, diagnosis
Itu tidak pernah bisa dimasukkan dalam bentuk mentahnya.
data krisis
Risiko, pelecehan, bunuh diri
Jangan pernah memasuki kendaraan (unit 9)
Singkatnya
Dalam PDR, kerahasiaan adalah landasan kepercayaan terhadap profesi dan prinsip yang paling teruji di era AI. KVKK memisahkan data menjadi data pribadi dan pribadi; Sebagian besar data PDR bersifat sensitif dan tidak dimasukkan ke dalam alat dalam bentuk mentahnya. Minimalkan data, anonimisasi (dengan pengidentifikasi langsung dan tidak langsung) dan pemilihan alat yang aman adalah aturan dasarnya. Empat prinsip etika profesional—kerahasiaan, kemurahan hati, nonmaleficence, otonomi—mengikat penggunaan AI; Bias terkendali, tanggung jawab tetap berada di tangan pakar, dan penggunaannya transparan dalam organisasi.
Tugas aplikasi
Buat draf "Kebijakan Penggunaan AI" singkat untuk layanan panduan Anda sendiri. Mulailah dengan template “Draf kebijakan penggunaan AI Perusahaan”; Kemudian sesuaikan dengan realitas institusi Anda sendiri. Juga sampaikan teks (fiksi) melalui templat "pemeriksaan anonimisasi" dan tangkap serta generalisasikan setidaknya satu pengenal tidak langsung.
daftar periksa
- [ ] Saya telah mengklasifikasikan data yang saya miliki sebagai pribadi / pribadi / publik.
- [ ] Saya telah menggeneralisasi pengidentifikasi langsung dan tidak langsung dalam anonimisasi.
- [ ] Saya menggunakan alat aman/perusahaan untuk data sensitif.
- [ ] Saya memeriksa keluarannya untuk melihat adanya bias dan sensitivitas budaya.
- [ ] Saya menerima tanggung jawab dan menjaga penggunaan tetap transparan.