Keuntungan:
- Mampu membezakan di mana kecerdasan buatan menjimatkan masa dalam aliran kerja sosial (ringkasan, penyuntingan, penyederhanaan, draf) dan di mana keputusan penilaian klinikal, risiko dan perwakilan diserahkan kepada manusia, bergantung pada tahap risiko.
- Keupayaan untuk menerapkan disiplin yang mengesahkan setiap output melalui langkah-langkah menghubungkannya dengan bukti sebenar, mengesahkan maklumat luaran dengan sumber rasmi semasa, dan menapisnya melalui berat sebelah.
- Untuk memahami sebab privasi pelanggan, perbezaan antara dunia data tanpa nama dan pelanggan, dan tanggungjawab KVKK harus diambil kira dari awal lagi dalam kerja sosial.
Anda berada di pagi hari pusat khidmat sosial. Tiga permohonan baharu tiba semalam: seorang wanita yang menjadi mangsa keganasan dan dua anaknya, seorang warga emas yang memerlukan penjagaan, dan seorang remaja yang berisiko tercicir dari sekolah. Terdapat empat laporan penyiasatan sosial di atas meja anda, pendapat yang diminta mahkamah, rekod kes yang perlu diisi dan persediaan untuk lawatan rumah bersama keluarga petang ini. Kerja sosial (profesion dan disiplin yang dijalankan untuk meningkatkan fungsi sosial individu, keluarga dan komuniti, untuk memastikan akses mereka kepada hak dan kebajikan, dan untuk melindungi kumpulan yang terdedah) adalah bidang yang sememangnya memerlukan dokumen yang intensif, tekanan masa, menyentuh kehidupan manusia dan mempunyai tanggungjawab yang tinggi. Kecerdasan buatan (AI - perisian yang boleh mengekstrak corak daripada data sejarah dan menghasilkan atau mengklasifikasikan teks, ringkasan, terjemahan dan draf) memberi anda nafas dalam beban dokumen ini dan tekanan masa. Tetapi permulaan modul ini adalah jelas: AI ialah pembantu, ringkasan dan penjana garis besar; Anda adalah pakar yang cekap yang membuat penilaian, risiko dan keputusan muktamad tentang pelanggan.
Dalam unit pertama ini kita akan fokus pada disiplin, bukan alat. Anda akan belajar di mana AI adalah penjimat masa nyata dalam aliran kerja sosial, di mana ia berbahaya, cara mengesahkan setiap output, cara melindungi privasi dan data peribadi pelanggan, dan cara kekal berwaspada terhadap berat sebelah. Tanpa meletakkan asas ini, unit berikutnya kekal di udara — kerana dalam kerja sosial, output yang tidak disahkan bukan hanya ayat palsu; Ini adalah kesilapan yang boleh menyebabkan kanak-kanak disalah anggap, risiko diabaikan, keluarga didera secara tidak adil, atau maklumat sensitif dibocorkan.
Di manakah AI berguna dalam aliran kerja sosial?
Mari bahagikan pekerjaan kerja sosial kepada dua kelompok besar. Kelompok pertama: tugasan intensif dokumen, berulang, boleh diekstrak corak dan berasaskan bahasa. Menterjemah nota bertaburan selepas temu bual ke dalam rekod kes yang teratur, ringkasan kronologi fail yang panjang, rangka pertama laporan penyiasatan sosial, penyederhanaan senarai bantuan/perkhidmatan untuk disesuaikan dengan bahasa klien, draf surat rujukan, terjemahan teks maklumat ringkas untuk klien berbilang bahasa, rangka kerja pertama analisis keperluan program. Dalam pekerjaan ini, AI mengurangkan jam kepada minit dan tidak letih.
Kelompok kedua: tugas yang memerlukan pertimbangan, penilaian klinikal, pertimbangan risiko dan tanggungjawab. Sama ada kanak-kanak selamat di rumah, tahap risiko individu mencederakan diri sendiri, sama ada keluarga memerlukan langkah perlindungan, pendapat yang laporan akan dikemukakan kepada mahkamah, sama ada perkhidmatan itu benar-benar sesuai untuk pelanggan. Keputusan ini memerlukan kecekapan profesional, pertimbangan klinikal, pengetahuan konteks, tanggungjawab etika dan selalunya pendapat pasukan pelbagai disiplin. Di sini, AI melipatgandakan pilihan, menjana draf, mengingatkan anda tentang perkara yang diabaikan — tetapi penilaian dan tandatangan terakhir adalah milik anda.
Mari kita jelaskan perbezaan dalam satu ayat: AI kukuh pada soalan "apa yang ada dalam fail ini dan bagaimana rupa draf pertama"; Keputusan adalah milik anda apabila ia datang kepada soalan seperti "Apakah keadaan sebenar orang ini dan bolehkah saya mempertahankan perkara ini bagi pihak profesion saya?"
Petua: Sebelum menyumber luar pekerjaan kepada AI, tanya: "Siapa yang akan cedera jika output ini salah?" Jika jawapannya ialah "beberapa minit pemfaktoran semula", wakilkan dengan selesa. Jika jawapannya ialah "penilaian yang salah terhadap pelanggan, pengelakan risiko atau maklumat yang bocor", biarkan AI menghasilkan draf dan anda membuat keputusan dan pengesahan.
Privasi: prinsip tidak boleh dilanggar
Inti kerja sosial ialah kepercayaan, dan kepercayaan adalah berdasarkan kerahsiaan. Pelanggan memberitahu anda maklumat mereka yang paling peribadi dan paling rapuh—keganasan, kemiskinan, keadaan kesihatan, rahsia keluarga—bergantung pada kerahsiaan profesional. Apabila maklumat ini jatuh ke tangan yang salah, ia mengancam nyawa, keselamatan dan maruah seseorang. Peraturan asas di sini: Tiada data peribadi yang mengenal pasti pelanggan (nama, alamat, TR ID, kesihatan, maklumat keluarga, dll.) akan dimasukkan ke dalam alat AI awam yang tidak diluluskan oleh institusi anda. Teks yang anda taip ke dalam perkhidmatan AI awam diproses pada pelayan perkhidmatan itu; Anda tidak boleh mengawal siapa yang melihatnya, di mana ia disimpan, dan sama ada ia digunakan dalam melatih model. Di Türkiye, ini juga merupakan liabiliti undang-undang di bawah KVKK (Undang-undang Perlindungan Data Peribadi - undang-undang yang mengawal pemprosesan data peribadi).
Oleh itu, penggunaan AI dalam kerja sosial beroperasi dalam dua dunia yang berasingan: Alat umum boleh digunakan untuk dunia yang tidak dikenal pasti/generik (contoh tanpa nama atau fiksyen yang tidak mengenal pasti pelanggan, soalan pengetahuan am); Untuk dunia data pelanggan, hanya sistem dalaman, selamat dan diluluskan yang tidak membocorkan data digunakan. Mengelirukan kedua-duanya adalah kesilapan modul ini yang paling berbahaya.
Awas: "AI berkata demikian" bukanlah suatu justifikasi dan tidak mempunyai kuasa dalam fail kes. Jika terdapat salah penilaian, maklumat rekaan atau data yang bocor, tanggungjawab bukan milik AI, tetapi kepada pakar yang menggunakan output tersebut tanpa mengesahkannya atau memasukkan data tersebut ke dalam alat.
Disiplin pengesahan: tiga langkah
AI menghasilkan dengan lancar dan yakin; Itu tidak bermakna ia benar. AI kadangkala menghasilkan halusinasi — iaitu, ia membentangkan sekeping perundangan yang nyata yang tidak wujud, perkhidmatan yang tidak wujud, statistik yang dibuat-buat atau kenyataan yang tidak pernah dikatakan oleh pelanggan. Dalam laporan siasatan sosial atau memorandum risiko, ini adalah bencana. Gunakan refleks tiga langkah pada setiap output:
- Pautan kepada sumber/bukti. Setiap kenyataan yang dibuat oleh AI tentang pelanggan mestilah berdasarkan nota atau perbualan sebenar yang anda berikan. "Dalam perbualan mana, dari mulut siapa, dengan pemerhatian apakah maklumat ini diberikan?" bertanya. AI tidak sepatutnya menambah apa-apa yang pelanggan tidak katakan.
- Sahkan dengan sumber bebas. Sahkan maklumat luaran seperti undang-undang, hak, perkhidmatan, alamat pemajuan, dsb. daripada sumber rasmi semasa. Keperluan permohonan atau nombor telefon yang diberikan oleh AI mungkin sudah lapuk atau palsu.
- Lulus melalui penapis tafsiran dan berat sebelah. Adakah keluaran berat sebelah terhadap kumpulan? Adakah terdapat bahasa yang menstigma dan menyalahkan klien? Adakah ia mengabaikan kekuatan? Pertimbangan profesional anda ialah penapis terakhir.
tiga kes mini
Kes 1 — Dokumentasi menjimatkan masa. Seorang pekerja sosial menjalankan 14 temu bual dalam satu minggu dan menyimpan nota tangan yang longgar untuk setiap satu. Pengeditan berbantukan AI mengurangkan jumlah masa dalam menterjemah nota ini ke dalam rekod kes berstruktur daripada kira-kira 4 jam kepada 1 jam. Tetapi setiap rakaman telah dibaca oleh pakar dan disahkan dengan membandingkannya dengan wawancara sebenar; Dua ayat yang "ditafsirkan" AI telah dipadamkan.
Kes 2 — Pengesahan mendapat halusinasi. Seorang pakar bertanya kepada AI soalan hak; YZ berkata, "Terdapat keperluan kediaman minimum 24 bulan untuk bantuan ini." Apabila pakar melihat undang-undang rasmi, tidak ada keperluan sedemikian; AI telah mencampurkan dua bantuan yang serupa dan membuat keadaan yang tidak wujud. Langkah atribusi menghalang pelanggan daripada ditolak secara tidak adil.
Kes 3 — Kembali daripada pelanggaran privasi. Untuk pantas, seorang profesional baharu ingin menampal semua maklumat kes perlindungan kanak-kanak (termasuk nama, alamat, sekolah kanak-kanak) ke dalam alat AI awam dan mencetak laporan. Pakar kanan itu menyedari: ini adalah data peribadi yang sensitif dalam skop KVKK dan telah dikeluarkan. Insiden itu dianggap sebagai pelanggaran data; kerja itu telah dibuat semula dengan bukti kelayakan dialih keluar dan hanya kaedah selamat dalaman.
Empat templat yang boleh disalin
1) Penilaian kesesuaian pekerjaan:
Peranan anda: pekerja sosial kanan dan penyelia. Saya akan menerangkan tugas di bawah. Beritahu saya (1) sama ada ini adalah kerja ringkasan/penyuntingan/penggarisan yang boleh diwakilkan kepada AI, atau yang memerlukan pertimbangan klinikal dan pertimbangan risiko, (2) kos kepada pelanggan untuk output yang salah, (3) pengesahan yang perlu saya lakukan sebelum dan selepas perwakilan. Kerja: [masukkan kerja di sini]
2) Kewajipan untuk bergantung pada bukti:
Saya akan memberikan anda nota mesyuarat. Semasa mengedit rakaman, gunakan SAHAJA maklumat dalam nota. Jangan tambah apa-apa yang klien tidak katakan, jangan diagnosis, jangan komen. Labelkan pemerhatian dan ekspresi klien secara berasingan. Tandai kawasan yang hilang atau tidak jelas sebagai "memerlukan penjelasan".
3) Pra-semakan privasi:
Nilaikan teks berikut SEBELUM memproses: bolehkah teks ini mengandungi data peribadi yang mengenal pasti pelanggan (nama, alamat, TR ID, kesihatan, maklumat keluarga)? Jika ya, bahagian mana? Oleh itu, jika ia tidak sepatutnya diproses dalam alat awam, beri amaran kepada saya dan senaraikan medan yang perlu saya nyah kenal pasti.Teks: [tulis teks di sini]
4) Bias/semakan bahasa:
Pertimbangkan rekod kes berikut: Adakah terdapat bahasa yang menstigma, menyalahkan, atau prejudis klien terhadap kumpulan? Adakah ia mengabaikan kekuatan dan sumber? Cadangkan bahasa yang lebih menghormati, memfokuskan fakta dan mengenali kekuatan. Jangan ubah rekod, hanya tandakan masalah bahasa.
Gesaan lemah / Gesaan kuat
Gesaan yang lemah:
Tulis laporan tentang keluarga ini dan tentukan sama ada kanak-kanak itu selamat di rumah.
Gesaan ini tanpa konteks dan berbahaya: tidak jelas maklumat apa, pemerhatian apa dan AI diminta untuk membuat keputusan tentang keselamatan kanak-kanak. AI meramal, boleh berat sebelah, boleh membuat - dan itu melibatkan kehidupan manusia.
Gesaan kuat:
Peranan anda: penolong editor kepada pekerja sosial. Sumber: Nota temu bual dan pemerhatian dengan maklumat mengenal pasti dikeluarkan, yang akan saya tampalkan di bawah. Tugas: mencipta rangka draf laporan penyiasatan sosial hanya berdasarkan maklumat yang SEBENARNYA terkandung dalam nota ini; Labelkan pemerhatian, pernyataan klien dan maklumat yang hilang secara berasingan. MEMBUAT keputusan risiko atau keselamatan; Saya akan buat penilaian. Tandai kawasan yang anda tidak pasti sebagai "perlu dijelaskan".
Perbezaannya adalah jelas: nyah pengenalan, kekangan "lulus benar", pelabelan, dan kekangan "keputusan" menjadikan output selamat dan berguna.
Carta perbandingan peranan/tugas
perniagaan
Peranan AI
peranan lelaki
pengesahan
Edit rekod kes
Konfigurasikan nota
pengesahan, ketepatan
Perbandingan dengan nota
Ringkasan fail
garis besar kronologi
Kepentingan, komen
Pautan ke sumber
Maklumat hak/perkhidmatan
draf pertama
Pengesahan semasa
perundangan rasmi
penilaian risiko
Peringatan soalan/bingkai
Penghakiman klinikal, keputusan
Pasukan + penyeliaan
Laporan
lakaran rangka
Kandungan, pendapat, tandatangan
Padanan keterangan-kenyataan
Reka bentuk program
Penjanaan idea/rangka kerja
kelayakan, keputusan
Medan + pengesahan data
Kesilapan biasa
- Tersilap output AI untuk penilaian. Output sentiasa merupakan draf untuk disahkan; Ia tidak memasukkan fail tanpa dikaitkan dengan bukti.
- Menampal data pelanggan ke dalam alat terbuka. Sekiranya ia bocor, ia tidak boleh dibatalkan dan merupakan pelanggaran KVKK; Ia adalah kesilapan yang paling berbahaya.
- Meminta AI untuk membuat keputusan risiko/keselamatan. Keputusan ini memerlukan kuasa dan tanggungjawab profesional; AI tidak boleh membuat keputusan.
- Permintaan yang tidak memerlukan bukti. Jika anda tidak berkata, "Gunakan sahaja apa yang ada dalam nota," AI mungkin menambah perkara yang tidak diperkatakan oleh pelanggan.
- Tidak perasan bahasa stigma. Bahasa AI mungkin membawa berat sebelah; Bahasa yang menghormati dan menganggap kekuatan adalah di bawah kawalan anda.
Secara ringkasnya
AI ialah pembantu yang berkuasa dalam kerja sosial: menyusun nota yang tidak kemas, meringkaskan fail, menghasilkan draf, memudahkan, menterjemah. Tetapi pertimbangan klinikal, penilaian risiko, perwakilan dan keputusan muktamad adalah milik manusia. Bawa pemisahan dua set (kerja intensif dokumen vs. keputusan pertimbangan/risiko), pengesahan tiga langkah (pautan kepada bukti, pengesahan bebas, penapis berat sebelah), kesedaran privasi (tanpa nama vs. dunia data pelanggan) dan kewaspadaan terhadap berat sebelah sebagai tulang belakang modul ini.
Tugasan permohonan
Senaraikan 6 tugasan daripada meja anda sendiri (atau khayalan). Kelaskan setiap satunya sebagai "ringkasan/edit/draf yang boleh diwakilkan AI" atau "keputusan risiko/penghakiman klinikal." Untuk salah satu yang boleh dipindah milik (dengan contoh fiksyen yang tidak mengenal pasti pelanggan), gunakan templat "Penilaian kesesuaian kerja" di atas dan dapatkan respons daripada AI; kemudian gunakan pengesahan tiga langkah dan cuba prasemak privasi juga.
senarai semak
- [ ] Saya membahagikan kerja kepada dua kluster (intensif dokumen / penghakiman-risiko penghakiman).
- [ ] Saya menggunakan pengesahan tiga langkah (bukti, pengesahan bebas, berat sebelah).
- [ ] Saya memastikan bahawa saya tidak memberikan data peribadi yang mengenal pasti pelanggan kepada alat terbuka.
- [ ] Saya memautkan setiap kenyataan yang dibuat AI tentang pelanggan dengan nota sebenar.
- [ ] Saya menyemak untuk menstigmatisasi/bahasa berat sebelah dalam output.