Keuntungan:
- Keupayaan untuk mengklasifikasikan dan menamakan data pelajar dalam rangka kerja KVKK dan konsep data peribadi khas dan menggunakan pemilihan kenderaan yang selamat
- Keupayaan untuk menyesuaikan prinsip etika profesional PDR (kerahsiaan, kebaikan, bukan kejahatan, autonomi) kepada penggunaan kecerdasan buatan
- Keupayaan untuk mengenali berat sebelah, ketidakpekaan budaya dan halusinasi dalam output kecerdasan buatan dan mencipta dasar penggunaan beretika
Kepercayaan adalah teras kepada profesion PDR. Jika pelajar boleh memberitahu perasaan paling intim, keluarga dan ketakutannya kepada pakar, ia hanya kerana dia percaya bahawa maklumat itu akan dilindungi. Alat kecerdasan buatan menimbulkan ujian baharu yang serius kepada kepercayaan ini: data paling sensitif boleh hilang kawalan dalam ayat. Dalam unit ini, kami membincangkan secara sistematik privasi, KVKK, etika profesional PDR dan cara ia digunakan untuk penggunaan kecerdasan buatan. Kami telah menggunakan prinsip ini sekeping demi sekeping dalam unit sebelumnya; Di sini kita akan menggabungkannya secara keseluruhan dan mengubahnya menjadi dasar kekal.
KVKK dan jenis data: apa yang lebih dilindungi
KVKK (Undang-undang Perlindungan Data Peribadi) ialah undang-undang yang mengawal pemprosesan data rakyat yang sah. Dua konsep amat penting. Data peribadi ialah sebarang maklumat yang mengenal pasti atau mengenal pasti seseorang: nama, nama keluarga, nombor sekolah, kelas, alamat, gambar. Data peribadi khas ialah jenis data sensitif yang memerlukan perlindungan yang lebih tinggi: kesihatan, keadaan mental, diagnosis, kehidupan seksual, agama, etnik, status jenayah. Majoriti rekod PDR termasuk dalam kategori sensitif kedua ini; kerana status mental, isu keluarga dan sejarah sokongan adalah data peribadi secara langsung. Ini bermakna bahawa data PDR tidak boleh dimasukkan dalam bentuk mentahnya ke dalam alat awam.
Dalam praktiknya, ini diterjemahkan kepada tiga peraturan: (1) Pengurangan data — bekerja dengan jumlah data paling sedikit yang diperlukan untuk melakukan sesuatu kerja. (2) Anonimisasi — membuat data tidak boleh dipautkan kepada individu dengan mengalih keluar maklumat yang boleh dikenal pasti secara peribadi. (3) Cara selamat dan sempadan tujuan — gunakan alatan perusahaan yang dilindungi data jika boleh dan proses data hanya untuk tujuan ia dikumpulkan.
Perhatian: Tidak cukup untuk mengatakan "Saya tidak mahu namakannya". Walaupun nama diabaikan daripada teks, perihalan unik tentang situasi (situasi yang sangat khusus dalam seorang pelajar di sekolah kecil) boleh menjadikan orang itu boleh dikenal pasti. Dalam anonimasi, umumkan bukan sahaja nama tetapi juga butiran yang bersama-sama menunjukkan orang itu.
Amalan anonimasi: prosedur kawalan
Sebelum mengeksport teks ke alat, ikut prosedur ini: (a) Alih keluar pengecam langsung seperti nama, nama keluarga, nombor, cawangan kelas, nama ibu bapa, alamat, telefon, nama sekolah. (b) Umumkan deskriptor tidak langsung: "pelajar sekolah menengah" dan bukannya "satu-satunya pelajar cacat penglihatan dalam 12-B." (c) Kaburkan butiran tarikh dan acara jika perlu. (d) Selepas bacaan: "Bolehkah sesiapa yang membaca teks ini mengetahui siapa yang disebut?" Jika jawapannya tidak jelas, umumkan lagi. Rekod yang disahkan hanya ditulis kepada sistem tertutup dan selamat institusi; Alat AI berada di luar sistem ini.
Etika profesional PDR dan AI
Etika profesional PDR adalah berdasarkan empat prinsip asas, setiap satunya terpakai secara langsung untuk penggunaan AI:
- Kerahsiaan (menjaga rahsia): Maklumat pelajar dilindungi. Tidak memasukkan data mentah ke dalam AI, menamakannya dan memilih alat yang selamat adalah keperluan prinsip ini.
- Faedah: Semua yang dilakukan harus memberi manfaat kepada kesejahteraan pelajar. AI digunakan untuk kemudahan, bukan dengan cara yang akan menjejaskan faedah pelajar.
- Nonmaleficence: Keutamaan adalah untuk tidak membahayakan. Output yang tidak disahkan, statistik yang tidak tepat, pelabelan dan penggunaan AI dalam krisis adalah risiko bahaya; oleh itu pengesahan dan sempadan krisis adalah satu kemestian beretika.
- Autonomi: Hak pelajar untuk membuat keputusan sendiri dilindungi. AI tidak seharusnya mengurangkan pelajar kepada label atau membuat keputusan bagi pihaknya.
Akauntabiliti ditambah kepada ini: Tanggungjawab untuk setiap output yang digunakan terletak pada pakar; "AI menghasilkannya" bukan pertahanan.
Bias, sensitiviti budaya dan ketelusan
AI boleh mencerminkan corak sosial dalam data latihan. Dalam PDR, ini ialah isu keadilan: hasil yang mensterotaipkan pelajar mengikut jantina, budaya atau status sosioekonomi mereka menjejaskan kesaksamaan peluang. Pakar menyemak kandungan yang dihasilkan untuk sensitiviti budaya dan berat sebelah. Juga ketelusan: di mana sesuai, perlu dijelaskan secara dalaman bahawa AI telah digunakan dalam penyediaan bahan atau draf; Ia tidak boleh digunakan sebagai "sihir" rahsia. Kerahsiaan adalah penting dalam hubungan dengan pelajar; Apa yang diterangkan oleh pelajar tidak dibawa ke kenderaan.
Langkah demi langkah: mewujudkan dasar penggunaan AI
- Mengelaskan data. Asingkan semua maklumat yang anda ada sebagai "peribadi / peribadi / awam".
- Pilih kenderaan. Satu-satunya alat perusahaan yang selamat untuk data sensitif; Bekerja tanpa nama untuk garis besar umum.
- Ikuti prosedur anonimasi. Jalankan rutin semak sebelum setiap entri.
- Pengesahan dan pemeriksaan berat sebelah. Periksa setiap output untuk fakta dan keadilan.
- Kekalkan had krisis. Jauhkan krisis dan perhubungan perundingan di luar kenderaan.
- Ambil tanggungjawab dan telus. Kelulusan akhir adalah milik pakar; Penggunaan adalah terbuka dalam organisasi.
Templat yang boleh disalin
1) Kawalan anonimasi:
Peranan anda: pembantu audit privasi. Senaraikan setiap pernyataan dalam teks di bawah yang boleh secara LANGSUNG atau TIDAK LANGSUNG mengenal pasti orang itu (nama, nombor, kelas, sekolah, huraian situasi unik) dan cadangkan alternatif yang lebih umum untuk setiap satu. Mengulas kandungan.Teks: [tampal teks]
2) Audit bias dan sensitiviti budaya:
Semak bahan PDR berikut untuk kecondongan dan sensitiviti budaya: Adakah ia mengandungi stereotaip tentang jantina, budaya, status sosioekonomi atau struktur keluarga? Siapa yang boleh mengecualikan? Benderakan pernyataan berisiko dan cadangkan alternatif inklusif. Bahan: [tampal bahan]
3) Draf dasar penggunaan AI korporat:
Peranan anda: Pembantu menulis PDR. Untuk perkhidmatan bimbingan, draf dasar dalaman ringkas tentang penggunaan alat kecerdasan buatan. Tajuk: di mana pekerjaan itu digunakan, di mana pekerjaan itu tidak digunakan (krisis, diagnosis, perundingan), peraturan penanomaan data, kewajipan pengesahan, tanggungjawab terletak pada pakar. Pendek dan boleh digunakan.
Gesaan lemah / Gesaan kuat
lemah:
Untuk meringkaskan situasi Ahmet Yılmaz 8-C, dia telah mengalami keganasan di rumah.
Ia memasukkan data paling sensitif (nama, kelas, status istimewa) ke dalam kenderaan dalam bentuk mentahnya — pelanggaran serius terhadap KVKK dan etika; Selain itu, ini boleh menjadi situasi pemberitahuan (unit 9).
kuat:
Peranan anda: pembantu kawalan privasi. Nota: Saya menamakan teks di bawah sebelum menyerahkannya kepada alat. Walau bagaimanapun, semak semula: adakah terdapat sebarang butiran yang tinggal yang menjadikan orang itu boleh dikenal pasti? Teks: "Seorang pelajar sekolah menengah membayangkan bahawa dia mengalami ketegangan di rumah."
tiga kes mini
Kes 1 — Pendedahan tidak langsung. Seorang pakar akan memasukkan teks ke dalam alat yang dia telah meninggalkan nama itu; tetapi dia menyedari bahawa frasa "satu-satunya pelajar sekolah yang menggunakan kerusi roda" secara langsung merujuk kepada orang itu. Dia umumkan ini kepada "seorang pelajar". Membuat nama sahaja tidak mencukupi; Penerangan tentang situasi unik itu juga mengenal pasti.
Kes 2 — Pembetulan berat sebelah. Seorang pakar yang mengaudit bahan kerjaya mendapati bahawa AI sentiasa menggunakan nama lelaki dalam contoh kejuruteraan dan nama wanita dalam profesion penjagaan. Ia mengimbangi sampel dan memecahkan acuan. Pembetulan yang kelihatan kecil ini mengekalkan keadilan mesej yang dihantar kepada pelajar.
Kes 3 — Mewujudkan dasar. Perkhidmatan bimbingan mencipta teks dasar dalaman yang biasa untuk menghapuskan kekeliruan yang timbul daripada fakta bahawa setiap orang menggunakan AI secara berbeza: dalam tugas mana ia digunakan, bukan dalam krisis dan diagnosis, data dirahasiakan, output disahkan, tanggungjawab terletak pada pakar. AI memberi draf; Pasukan memuktamadkan kandungan dengan nilai mereka sendiri. Ketidakpastian memberi laluan kepada rangka kerja yang jelas.
Kesilapan biasa
- Memasukkan data mentah. Menulis kepada kenderaan dengan nama/status. Penyelesaian: prosedur tanpa nama, alat selamat.
- Hanya mengeluarkan nama. Melupakan pengecam tidak langsung. Penyelesaian: umumkan butiran unik juga.
- Mengabaikan berat sebelah. Mengguna pakai output stereotaip. Penyelesaian: audit bias dan budaya.
- Meletakkan tanggungjawab pada kenderaan. Ia bermaksud "AI menghasilkannya". Penyelesaian: akauntabiliti terletak pada pakar.
- Salah guna. Memproses data yang dikumpul untuk satu tujuan untuk tujuan lain. Penyelesaian: hormati had tujuan.
Jadual: Jenis data dan peraturan AI
Jenis data
contoh
peraturan AI
awam
Pengenalan profesion am
tersedia secara percuma
data peribadi
Nama, nombor, kelas
Tidak boleh dimasukkan tanpa anonimasi
Data kualiti khas
Status mental, keluarga, diagnosis
Ia tidak boleh dimasukkan dalam bentuk mentahnya.
data krisis
Risiko, penderaan, bunuh diri
Jangan sekali-kali memasuki kenderaan (unit 9)
Secara ringkasnya
Dalam PDR, kerahsiaan adalah asas kepercayaan dalam profesion dan prinsip yang paling teruji dalam era AI. KVKK mengasingkan data kepada data peribadi dan peribadi; Kebanyakan data PDR adalah sensitif dan tidak dimasukkan ke dalam alat dalam bentuk mentahnya. Pengurangan data, anonimasi (dengan pengecam langsung dan tidak langsung) dan pemilihan alat selamat adalah peraturan asas. Empat prinsip etika profesional—kerahsiaan, kebaikan, bukan kejahatan, autonomi—mengikat penggunaan AI; Bias dikawal, tanggungjawab kekal dengan pakar, dan penggunaan adalah telus dalam organisasi.
Tugasan permohonan
Draf "Dasar Penggunaan AI" ringkas untuk perkhidmatan bimbingan anda sendiri. Mulakan dengan templat "Draf dasar penggunaan AI Perusahaan"; Kemudian sesuaikan mengikut realiti institusi anda sendiri. Hantarkan juga teks (fiksyen) melalui templat "semakan tanpa nama" dan tangkap serta umumkan sekurang-kurangnya satu pengecam tidak langsung.
senarai semak
- [ ] Saya telah mengklasifikasikan data yang saya ada sebagai peribadi / peribadi / awam.
- [ ] Saya telah menyamaratakan pengecam langsung dan tidak langsung dalam anonimisasi.
- [ ] Saya menggunakan alat selamat/perusahaan untuk data sensitif.
- [ ] Saya menyemak output untuk bias dan sensitiviti budaya.
- [ ] Saya menerima tanggungjawab dan memastikan penggunaan telus.