Etika, Privasi, Pengawasan Ahli, dan Batasan Praktik — Kecerdasan Buatan dalam Pendidikan Khusus

Keuntungan:

Kemampuan untuk mengubah prinsip-prinsip etika penggunaan kecerdasan buatan dalam pendidikan khusus (kebaikan, non-maleficence, keadilan, penghindaran bias) menjadi aturan konkrit
Kemampuan mengelola privasi data siswa dan keluarga, penyimpanan data dan batasan berbagi dalam kerangka KVKK
Kemampuan untuk menyatukan pembelajaran di seluruh modul ke dalam alur kerja yang aman secara menyeluruh dan menentukan di mana kecerdasan buatan berakhir dan tanggung jawab ahli dimulai

Sepanjang modul ini, kami belajar menggunakan AI sebagai asisten: menyusun tujuan IEP, mengadaptasi materi, menetapkan AAC dan rencana perilaku, memantau kemajuan, dan memperkuat komunikasi dengan keluarga. Unit terakhir ini membahas kerangka kerja yang menyatukan semuanya: etika, privasi, dan pengawasan ahli. Karena "data" yang Anda gunakan dalam pendidikan khusus bukanlah sebuah tabel, melainkan seorang anak; “Output” yang Anda hasilkan bukanlah sebuah dokumen, melainkan sebuah keputusan yang mempengaruhi hak anak atas pendidikan. Kecerdasan buatan memberikan kemudahan besar di bidang ini; Namun jika disalahgunakan, pihak yang paling dirugikan adalah pihak yang paling rentan. Mari kita ulangi untuk terakhir kalinya prinsip yang telah kita tetapkan sejak awal: Kecerdasan buatan adalah asisten; Diagnosis, penempatan, tujuan dan keputusan yang mempengaruhi masa depan anak adalah milik spesialis yang kompeten, tim IEP dan keluarga.

Empat prinsip etika dan padanan konkritnya

Kita dapat mengaitkan penggunaan kecerdasan buatan dalam pendidikan khusus dengan empat prinsip etika dasar:

Kebajikan: AI harus digunakan agar benar-benar berkontribusi terhadap pendidikan anak; Ini akan membantu guru meluangkan waktunya dan lebih memperhatikan anak. Penggunaan bukanlah tujuan itu sendiri.
Nonmaleficence: Hasil yang tidak diverifikasi, tidak pantas untuk anak-anak, atau menstigmatisasi dapat menyebabkan kerugian. Setiap keluaran melewati filter "apakah ini akan membahayakan anak?"
Keadilan: Setiap anak harus memiliki akses yang sama terhadap sumber daya dan pendidikan berkualitas. AI tidak boleh mengistimewakan beberapa anak dan mengabaikan yang lain; Setiap orang harus diberi perhatian individu.
Menghindari bias: AI dapat mencerminkan stereotip dalam data yang dilatihnya; Jenis disabilitas tertentu dapat menghasilkan keluaran yang diskriminatif mengenai gender, budaya, atau status sosial ekonomi. Spesialis harus mengenali dan memperbaiki hasil ini dan mengevaluasi setiap anak secara individual.

Bias sangat penting karena berbahaya. AI dapat dengan lancar menghasilkan kalimat seperti “anak-anak seperti itu biasanya tidak dapat melakukan X”; Namun, ini adalah stereotip yang salah dan menghambat anak. Tugas dokter spesialis adalah melihat pola-pola tersebut dan menilai anak berdasarkan potensinya.

Perhatian: Generalisasi yang dihasilkan AI ("anak-anak dengan disabilitas X dapat/melakukan Y") tidak dapat digunakan untuk membatasi tujuan anak. Harapan yang rendah adalah salah satu bentuk diskriminasi yang paling umum dan tidak terlihat.

Privasi: batas penyimpanan dan pembagian data

Data siswa (identitas, diagnosis, laporan RAM, catatan perilaku, informasi keluarga) merupakan data pribadi khusus dalam lingkup KVKK. Mari kita perjelas aturan di unit ini:

Anonimkan: Nama, ID, protokol, sekolah, alamat, dan detail keluarga dihapus sebelum memasukkan alat AI apa pun.
Data minimal: Hanya membagikan informasi yang diperlukan untuk tugas tersebut; Jangan berikan seluruh file "berjaga-jaga".
Alat yang aman: Jika memungkinkan, alat perusahaan yang memiliki kontrak pemrosesan data dan tidak menggunakan data Anda dalam pelatihan model lebih disukai; Data sensitif tidak diunggah dari akun pribadi.
Penyimpanan dan penghapusan: Jika draf yang dibuat dengan AI berisi data siswa, maka draf tersebut disimpan sesuai aturan institusi dan dihapus bila diperlukan; Itu tidak ditinggalkan di sembarang tempat.
Berbagi: Informasi hanya dibagikan kepada orang yang berwenang (tim IEP, keluarga, spesialis terkait) dan hanya jika diperlukan.

Tabel di bawah ini merangkum batasan yang dipelajari sepanjang modul di satu tempat:

daerah

AI bisa

AI tidak bisa/milik manusia

Evaluasi

Meringkas data anonim

Diagnosis/perubahan

BEP

Menulis draf tujuan

Mengonfirmasi/mengkonfirmasi niat

materi

Menyesuaikan, membedakan

Membuat keputusan kurikulum/hak cipta

AAC

Garis besar kartu/cerita

Memilih metode dan menyesuaikannya dengan anak

perilaku

ABC merangkum, memberi nasehat

Memutuskan fungsinya, menyetujui rencananya

kemajuan

Meringkas dan menafsirkan data

Keputusan akhir untuk melanjutkan

keluarga

draf teks

Memvalidasi teks, menegakkan hubungan

Kolom kanan pada tabel ini merupakan batas tanggung jawab ahli dan tidak dapat dilimpahkan kepada AI dalam keadaan apapun.

Alur kerja aman ujung ke ujung

Mari gabungkan modul menjadi satu aliran. Alur kerja bimbingan belajar aman yang didukung AI adalah sebagai berikut: (1) menganonimkan data; (2) menulis prompt dengan peran dan batasan yang jelas; (3) mendapatkan draft dari AI; (4) verifikasi keluaran dalam tiga langkah — tautan ke sumber, bandingkan dengan profil anak sebenarnya, filter pakar; (5) melakukan audit etika dan bias; (6) beradaptasi dan memvalidasi dengan tim/keluarga; (7) menerapkan dan memantau dengan data; (8) menyimpan/menghapus rancangan sesuai peraturan lembaga. Siklus ini berulang pada setiap tugas, dengan jelas di mana AI berakhir dan tanggung jawab ahli dimulai.

tiga kasus mini

Kasus 1 — Menangkap bias. Seorang guru menanyakan garis besar tujuan kepada AI; Ada kalimat di keluarannya seperti "siswa tipe ini tidak bisa berpikir abstrak, targetnya rendah". Guru mengenali hal ini sebagai stereotip; Muridnya sendiri mampu menjalin hubungan abstrak. Ia mengekstrak kalimat tersebut dan menuliskan tujuannya berdasarkan potensi anak yang sebenarnya. Pengawasan yang etis mencegah adanya ekspektasi rendah yang akan menghambat anak.

Kasus 2 — Disiplin privasi. Salah satu institusi mewajibkan semua guru untuk melakukan “pemeriksaan anonimisasi” sebelum menggunakan AI. Seorang guru menghapus nama, protokol, dan informasi keluarga sebelum laporan RAM diringkas. Beberapa bulan kemudian, audit data menunjukkan bahwa organisasi tersebut tidak memberikan data sensitif apa pun kepada pihak luar. Kebiasaan sederhana melindungi organisasi dari risiko serius.

Kasus 3 — Kesalahan dalam mendelegasikan tanggung jawab. Seorang guru, di bawah tekanan waktu, menerapkan rencana perilaku yang dihasilkan oleh AI tanpa membacanya. Rencana tersebut tidak sesuai dengan fungsi anak dan perilakunya meningkat. Masalahnya bukan pada “kesalahan” AI, melainkan pada pelimpahan tanggung jawab. Keluaran yang tidak terverifikasi seperti penilaian ahli yang tidak ditandatangani; Tanggung jawab selalu ada pada ahlinya. Kesalahan: mengganti tanggung jawab dengan kenyamanan.

Perintah lemah / Perintah kuat

Perintah yang lemah:

Analisis segala sesuatu tentang siswa ini dan beri tahu saya apa yang harus dilakukan.

Permintaan ini mendorong kami untuk membagikan lebih banyak data (mungkin berisi identitas) daripada yang diperlukan dengan mengatakan "semuanya" dan mentransfer keputusan ke AI. Hal ini juga melanggar dua prinsip dasar.

Perintah yang kuat:

Peran Anda: asisten spesialis pendidikan khusus.Gunakan hanya informasi anonim dan spesifik tugas berikut: [minimum diperlukan].Tugas: Menghasilkan DRAFT untuk [tugas tunggal yang jelas].Aturan: Diagnosis/pengambilan keputusan. Jangan menggeneralisasi/stereotip. Nyatakan bahwa Anda tidak yakin. Asumsikan hal ini akan diverifikasi oleh profesional dan dikonfirmasi dengan tim/keluarga.

Klaim ini mencakup data yang minim, tugas yang jelas, bias, dan batasan keputusan secara bersamaan; Ini mengumpulkan semua prinsip modul dalam satu templat.

Kesalahan umum

Mendelegasikan tanggung jawab. Menyerahkan keputusan kepada AI; mengeksekusi tanpa membaca output.
Tidak melihat prasangka. Tidak memperhatikan stereotip, generalisasi yang menurunkan ekspektasi.
Berbagi data berlebihan. Memberikan data sensitif dan tidak perlu ke alat dengan mengatakan "analisis semuanya".
Melewati anonimisasi. Bekerja tanpa memperjelas identitas, diagnosis, dan informasi keluarga.
Menyimpan draf dengan tidak aman. Membiarkan cetakan berisi data siswa di sembarang tempat.
Melihat audit etis sebagai sesuatu yang formal. Melewatkan pertanyaan seperti “apakah hal ini akan menimbulkan kerugian, apakah adil, apakah bias?”

Singkatnya

Dalam pendidikan khusus, AI adalah asisten yang sangat berguna, namun karena Anda bekerja dengan individu yang paling rentan, etika dan privasi tidak dapat dinegosiasikan. Empat prinsip memandu kita: kemurahan hati, nonmaleficence, keadilan, dan penghindaran bias. Data siswa dianonimkan, dibagikan dengan cara minimal dan aman, serta disimpan dengan aman. Alur kerja aman ujung ke ujung; Siklusnya adalah menganonimkan, mendapatkan draf, memverifikasi dalam tiga langkah, meninjau etika, menyetujui dengan tim/keluarga, melacak dengan data. Di mana pun AI berakhir dalam siklus ini, tanggung jawab ahli pun dimulai. Keluaran yang tidak terverifikasi seperti penilaian ahli yang tidak ditandatangani; Tanda tangan selalu menjadi milik Anda.

Tugas aplikasi

Pilih salah satu kerangka yang Anda buat sepanjang modul (tujuan IEP, materi, rencana perilaku, atau teks keluarga) dan lakukan semua langkah "alur kerja aman menyeluruh" dalam unit ini. Secara khusus, periksa etika/bias: apakah ada generalisasi yang merendahkan, pernyataan yang menstigmatisasi, atau kebocoran privasi dalam keluarannya? Perbaiki masalah apa pun yang Anda temukan dan catat langkah alur mana yang menangkap masalah tersebut.

daftar periksa

[ ] Saya menganonimkan data; Saya hanya membagikan jumlah minimum yang diperlukan.
[ ] Saya memverifikasi hasilnya dengan tiga langkah (sumber/profil/pakar).
[ ] Saya menghilangkan prasangka dan generalisasi yang menurunkan ekspektasi.
[ ] Saya menyingkirkan bahasa yang menstigmatisasi; Saya mengamati empat prinsip etika.
[ ] Saya menyimpan draf tersebut dengan aman/menghapusnya bila diperlukan.
[ ] Keputusan akhir dan tanggung jawab saya ambil sebagai ahli/tim/keluarga.

Ujian Modul

1. Seorang guru pendidikan khusus menanyakan kecerdasan buatan 'apa diagnosis anak ini' hanya dengan memberikan nama dan usia siswa dan menulis jawabannya ke dalam file IEP. Apa kesalahan mendasar dalam pendekatan ini?

A) Mengabaikan bahwa wewenang untuk menegakkan diagnosis adalah milik RAM dan ahli yang berwenang; juga memindahkan keluaran yang belum diverifikasi ke catatan resmi ✔
B) Tidak perlu memberikan informasi usia kepada kecerdasan buatan
C) Dilarang menyimpan file BEP dalam lingkungan digital
D) Kecerdasan buatan selalu membuat diagnosis tampak lebih sulit daripada yang sebenarnya

Penjelasan: Kecerdasan buatan tidak dapat dan tidak seharusnya mendiagnosis; Diagnosis dan evaluasi adalah tugas RAM dan ahli yang berwenang. Selain itu, tanpa memberikan data kepada model, keluaran yang diinginkan menjadi rekayasa (halusinasi) dan berbagi identitas siswa merupakan pelanggaran privasi.

2. Manakah dari berikut ini yang merupakan ciri utama yang harus dimiliki oleh tujuan BEP jangka pendek (yang terukur)?

A) Bertujuan agar siswa menyukai mata pelajaran secara umum
B) Hanya berdasarkan observasi guru dan tidak memuat kriteria numerik
C) Kumpulkan hasil sepanjang dan sebanyak mungkin dalam satu kalimat.
D) Berisi perilaku yang dapat diamati, kondisi dan kriteria keberhasilan yang dapat diukur ✔

Penjelasan: Tujuan jangka pendek mencakup perilaku, kondisi, dan kriteria yang dapat diamati (berapa percobaan, berapa persentasenya, berapa tingkat kemandiriannya). Ungkapan yang beragam seperti ‘mengerti’, ‘belajar’, ‘menyadari’ menyebabkan kesalahan dalam penulisan tujuan.

3. Seorang guru mengunggah laporan RAM, yang mencakup nama lengkap siswa, nomor TR ID dan diagnosis, ke alat kecerdasan buatan yang tersedia untuk umum dan mengatakan 'ringkas'. Apa pendekatan yang tepat?

A) Unggah laporan tanpa modifikasi apa pun, karena ringkasan memerlukan semua informasi
B) Hapus saja nomor TR ID dan tinggalkan nama dan diagnosisnya
C) Menghapus informasi identitas, menganonimkan data dan memilih alat yang aman/institusional ✔
D) Berbagi laporan melalui email dari akun pribadi Anda dan merangkumnya sesuai dengan itu

Penjelasan: Data mahasiswa merupakan data pribadi khusus dalam lingkup KVKK. Informasi identitas harus dihapus dan data dianonimkan ('siswa laki-laki berusia 10 tahun'), dan jika memungkinkan, alat aman yang bersifat institusional dan tidak menggunakan data dalam pendidikan sebaiknya diutamakan.

4. Apa sikap terbaik saat membuat cerita sosial dengan kecerdasan buatan untuk komunikasi alternatif dan augmentatif (AAC)?

A) Sesuaikan draf tersebut secara khusus untuk anak dan mintalah persetujuan dari ahlinya ✔
B) Menggunakan cerita yang dihasilkan secara tepat untuk semua siswa tanpa mengubahnya sedikit pun
C) Menulis cerita dengan kata-kata yang panjang dan abstrak mungkin
D) Hanya memberikan teks yang panjang tanpa menambahkan dukungan visual

Deskripsi: Kecerdasan buatan menghasilkan konsep; Namun, riwayat sosial dan dukungan komunikasi harus disesuaikan dengan karakteristik individu anak dan disetujui oleh ahli patologi/spesialis bahasa wicara. Garis besar umum tidak dapat diterapkan secara langsung.

5. Manakah dari berikut ini yang merupakan prinsip dasar ketika mendapatkan bantuan kecerdasan buatan dalam rencana dukungan perilaku positif?

A) Meminta dia untuk merekomendasikan hukuman yang paling keras untuk segera menekan perilaku tersebut.
B) Memahami fungsi perilaku dan menghasilkan alternatif perilaku positif serta rancangan strategi preventif ✔
C) Menyelesaikan rencana tanpa sepengetahuan siswa, hanya melihat nama perilakunya
D) Melaksanakan rencana tanpa melibatkan keluarga dan spesialis dalam prosesnya

Penjelasan: Dukungan perilaku positif tidak berorientasi pada hukuman; Hal ini bertujuan untuk memahami fungsi perilaku (evaluasi fungsional), peraturan preventif dan memberikan alternatif perilaku yang dapat diajarkan daripada perilaku yang tidak diinginkan. Pengawasan ahli sangat penting.

6. Apa yang dimaksud dengan 'keputusan berdasarkan data' dalam melacak kemajuan?

A) Pengambilan keputusan hanya berdasarkan satu pengamatan pada akhir tahun
B) Menulis laporan kemajuan berdasarkan kesan umum guru tanpa melihat datanya
C) Menyerahkan keputusan sepenuhnya pada interpretasi kecerdasan buatan
D) Mengambil keputusan untuk mempertahankan, mengadaptasi atau mengubah tujuan dengan melihat data pengukuran reguler ✔

Penjelasan: Pengambilan keputusan berbasis data adalah memutuskan untuk mempertahankan, mengadaptasi atau mengubah tujuan dengan melihat pengukuran berbasis prestasi secara berkala (persentase, jumlah upaya, tingkat kemandirian). Kecerdasan buatan merangkum data dan menyarankan interpretasi; Pakar membuat keputusan.

7. Menurut prinsip desain universal (UDL), apa cara terbaik untuk membuat suatu material dapat diakses?

A) Menyajikan materi hanya dalam satu format, dalam cetakan kecil dan teks padat
B) Menyajikan konten dalam berbagai cara, menyediakan bahasa sederhana dan teks alternatif ✔
C) Hapus semua adaptasi dan berikan materi standar yang sama kepada semua orang
D) Dengan asumsi aksesibilitas dicapai hanya dengan mengubah warna

Deskripsi: UDL membayangkan menyajikan konten dalam berbagai cara (teks, visual, audio), bahasa sederhana, teks alternatif, dan format fleksibel. Tujuannya adalah untuk merancang agar sesuai dengan kebutuhan yang berbeda, bukan hanya untuk satu siswa 'rata-rata'. Inspeksi akhir bergantung pada pengujian ahli dan pengguna nyata.

8. Seorang guru mengirimkan teks informasi keluarga yang dihasilkan oleh kecerdasan buatan kepada keluarga tanpa memeriksanya, dan teks tersebut berisi tanggal janji temu yang salah dan janji 'pemulihan' yang berlebihan. Apa kesalahan mendasar di sini?

A) Menciptakan informasi palsu dan ekspektasi yang tidak realistis dengan mengirimkan teks tanpa memverifikasinya ✔
B) Mengirimkan pesan tertulis kepada keluarga itu sendiri salah.
C) Teksnya terlalu pendek
D) Kecerdasan buatan dilarang keras menghasilkan teks keluarga

Deskripsi: Setiap teks yang dibagikan kepada keluarga harus dibuat dengan akurasi, kerahasiaan, dan persetujuan ahli. Kecerdasan buatan lancar tetapi dapat menghasilkan informasi palsu (halusinasi); Teks yang dikirim tanpa verifikasi merusak kepercayaan dan proses.

9. Manakah pendekatan berikut yang benar dalam melakukan diferensiasi di kelas inklusi/integrasi?

A) Memisahkan siswa sepenuhnya dari kelas dan meminta dia melakukan setiap aktivitas sendirian
B) Mendukung pencapaian yang sama dengan tanggung jawab bersama, tanpa mengadaptasi dan memberi label sesuai tingkatannya ✔
c) Memberikan materi yang sama kepada seluruh kelas tanpa terkecuali dan tidak melakukan adaptasi apapun
D) Menyerahkan adaptasi hanya kepada guru pendidikan khusus dan mengeluarkan guru kelas dari proses tersebut

Penjelasan: Diferensiasi berarti mengadaptasi hasil belajar yang sama ke tingkat yang berbeda dan mendukung siswa tanpa memberi label pada mereka. Adaptasi merupakan tanggung jawab bersama antara guru kelas dan guru pendidikan khusus; Solusi yang memisahkan dan menstigmatisasi siswa dari teman-temannya harus dihindari.

10. Mengapa model bahasa AI sangat berisiko menghasilkan 'halusinasi' dalam konteks pendidikan khusus?

A) Karena model selalu berjalan lambat
B) Karena modelnya tidak tahu bahasa Turki
C) Karena halusinasi hanya terjadi dalam produksi visual
D) Karena informasi yang dibuat-buat dapat mempengaruhi keputusan pendidikan anak dan dapat dianggap benar jika berbahasa lancar ✔

Penjelasan: Halusinasi adalah ketika model dengan lancar mengarang informasi yang tidak ada seolah-olah informasi itu benar. Peraturan perundang-undangan yang dibuat-buat, norma perkembangan yang salah, atau metode khayalan dalam pendidikan khusus dapat secara langsung mempengaruhi hak anak atas pendidikan dan perkembangan; jadi setiap keluaran harus divalidasi.

11. Apa yang dimaksud dengan 'menghindari bias' dalam prinsip etika penggunaan kecerdasan buatan dalam pendidikan khusus?

A) Mengenali dan mengoreksi keluaran stereotip atau diskriminatif yang dihasilkan oleh model dan mengevaluasi setiap anak secara individu ✔
B) Tidak menulis perintah yang panjang hanya untuk mendapatkan hasil yang cepat.
C) Menggunakan kecerdasan buatan hanya pada satu jenis rintangan
D) Menerapkan template bias yang sama kepada semua siswa

Penjelasan: Kecerdasan buatan mungkin mencerminkan bias dalam data yang dilatihnya; dapat menghasilkan keluaran stereotip tentang jenis disabilitas, gender, status sosial ekonomi, atau budaya tertentu. Spesialis harus memantau hasil dalam hal ini dan mengevaluasi setiap anak secara individual.

12. Mengapa penting untuk menyertakan bagian 'kekuatan' ketika merangkum laporan RAM dengan kecerdasan buatan dan membuat profil siswa?

A) Untuk membuat laporan tampak lebih panjang
B) Kekuatan hanya digunakan untuk bentuk, meskipun tidak diwajibkan secara hukum.
C) Mendasarkan perencanaan pada kelebihan dan tidak mendefinisikan siswa hanya berdasarkan kekurangannya ✔
D) Mengabaikan sepenuhnya kebutuhan dan menulis hanya secara positif

Penjelasan: Perencanaan pendidikan luar biasa didasarkan pada kekuatan; Hanya profil kekurangan/berorientasi kebutuhan yang mendefinisikan siswa dengan kekurangannya. Kekuatan adalah dasar untuk tujuan dan motivasi serta memberikan pandangan positif dan berorientasi pada pertumbuhan.

13. Bagaimana sikap yang benar dalam hal 'hak cipta dan orisinalitas' dalam produksi materi yang diadaptasi?

A) Mereproduksi keluaran dengan karakter dan konten berhak cipta tanpa pemeriksaan
B) Memeriksa dan orisinalitas materi dalam hal kesesuaian dengan kurikulum, keakuratan dan hak cipta ✔
C) Mendistribusikan setiap gambar secara komersial, apapun sumbernya
D) Dengan asumsi bahwa masalah hak cipta tidak berlaku sama sekali pada materi digital

Penjelasan: Keluaran kecerdasan buatan mungkin diperoleh dari sumber lain; mungkin berisi konten berhak cipta, karakter merek, atau informasi yang belum diverifikasi. Pakar harus memeriksa kesesuaian materi dengan kurikulum, keakuratan dan hak cipta, serta mengutip sumber dan mengawalinya bila diperlukan.

14. Bagaimana prinsip utama yang ditekankan dalam modul ini menggambarkan peran kecerdasan buatan dalam pendidikan khusus?

A) Kecerdasan buatan menggantikan pakar dan membuat keputusan secara otomatis
B) Kecerdasan buatan hanya dapat digunakan untuk mencatat dan tidak digunakan untuk hal lain
C) Ketika kecerdasan buatan digunakan, pengawasan ahli tidak lagi diperlukan
D) Kecerdasan buatan adalah asisten dan pembangkit tenaga listrik; Keputusan dan tanggung jawab akhir ada pada spesialis, tim, dan keluarga ✔

Deskripsi: Kecerdasan buatan adalah asisten dan pembuat sketsa; Diagnosis, penempatan, penetapan tujuan dan keputusan yang mempengaruhi masa depan anak adalah milik spesialis yang kompeten, tim IEP dan keluarga. Keluaran yang tidak terverifikasi seperti putusan ahli yang tidak ditandatangani.