Keuntungan:
- Mampu membedakan mana kecerdasan buatan menghemat waktu dalam alur kerja pekerjaan sosial (ringkasan, pengeditan, penyederhanaan, draf) dan mana keputusan penilaian klinis, risiko dan representasi diserahkan kepada manusia, tergantung pada tingkat risiko.
- Kemampuan untuk menerapkan disiplin yang memverifikasi setiap keluaran melalui langkah-langkah menghubungkannya dengan bukti nyata, mengkonfirmasi informasi eksternal dengan sumber resmi saat ini, dan menyaringnya melalui bias.
- Untuk memahami mengapa privasi klien, perbedaan antara dunia anonim dan data klien, serta tanggung jawab KVKK harus dipertimbangkan sejak awal dalam pekerjaan sosial.
Anda berada di pagi hari di pusat layanan sosial. Tiga permohonan baru diterima kemarin: seorang perempuan korban kekerasan dan kedua anaknya, seorang lansia yang membutuhkan perawatan, dan seorang remaja yang berisiko putus sekolah. Ada empat laporan investigasi sosial yang ada di meja Anda, pendapat yang diminta pengadilan, catatan kasus yang perlu diisi, dan persiapan kunjungan rumah bersama keluarga sore ini. Pekerjaan sosial (profesi dan disiplin yang dilakukan untuk meningkatkan fungsi sosial individu, keluarga dan komunitas, untuk menjamin akses mereka terhadap hak dan kesejahteraan, dan untuk melindungi kelompok rentan) adalah bidang yang pada dasarnya padat dokumen, padat waktu, menyentuh kehidupan manusia dan mempunyai tanggung jawab yang tinggi. Kecerdasan buatan (AI - perangkat lunak yang dapat mengekstrak pola dari data historis dan menghasilkan atau mengklasifikasikan teks, ringkasan, terjemahan, dan draf) memberi Anda kelonggaran dalam beban dokumen dan tekanan waktu ini. Namun bagian awal modul ini sudah jelas: AI adalah asisten, peringkas, dan pembuat garis besar; Anda adalah ahli yang kompeten yang membuat penilaian, risiko dan keputusan akhir tentang klien.
Pada unit pertama ini kita akan fokus pada disiplin, bukan pada alatnya. Anda akan mempelajari di mana AI benar-benar menghemat waktu dalam alur kerja pekerjaan sosial, di mana bahayanya, cara memverifikasi setiap keluaran, cara melindungi privasi klien dan data pribadi, dan cara tetap waspada terhadap bias. Tanpa meletakkan dasar ini, unit-unit berikutnya akan tetap mengudara — karena dalam pekerjaan sosial, hasil yang tidak terverifikasi bukan sekadar kalimat palsu; Hal ini merupakan kesalahan yang dapat menyebabkan seorang anak salah menilai, berisiko diabaikan, keluarga mendapat stigma yang tidak adil, atau bocornya informasi sensitif.
Di manakah AI berguna dalam alur kerja pekerjaan sosial?
Mari kita bagi pekerjaan pekerjaan sosial menjadi dua kelompok besar. Cluster pertama: tugas-tugas yang intensif dokumen, berulang, dapat diekstraksi pola, dan berbasis bahasa. Menerjemahkan catatan-catatan yang tersebar setelah wawancara ke dalam catatan kasus yang terorganisir, ringkasan kronologis dari sebuah file panjang, kerangka pertama laporan investigasi sosial, penyederhanaan daftar bantuan/layanan agar sesuai dengan bahasa klien, rancangan surat rujukan, terjemahan teks informasi sederhana untuk klien multibahasa, kerangka pertama analisis kebutuhan program. Dalam pekerjaan ini, AI mengurangi jam menjadi menit dan tidak membuat lelah.
Cluster kedua: tugas-tugas yang memerlukan penilaian, penilaian klinis, penilaian risiko dan tanggung jawab. Apakah seorang anak aman di rumah, tingkat risiko individu untuk melukai diri sendiri, apakah sebuah keluarga memerlukan tindakan perlindungan, pendapat yang akan digunakan untuk menyampaikan laporan ke pengadilan, apakah layanan tersebut benar-benar sesuai untuk klien. Keputusan-keputusan ini memerlukan kompetensi profesional, penilaian klinis, pengetahuan konteks, tanggung jawab etis, dan sering kali opini tim multidisiplin. Di sini, AI melipatgandakan pilihan, menghasilkan draf, mengingatkan Anda tentang hal-hal yang terlewatkan — namun evaluasi akhir dan tanda tangan ada di tangan Anda.
Mari kita perjelas perbedaannya dalam satu kalimat: AI kuat dalam pertanyaan "apa yang ada di file ini dan seperti apa draf pertama"; Keputusan ada di tangan Anda jika menyangkut pertanyaan seperti "Bagaimana situasi sebenarnya yang dialami orang ini dan dapatkah saya membela hal ini atas nama profesi saya?"
Tip: Sebelum melakukan outsourcing pekerjaan ke AI, tanyakan: “Siapa yang dirugikan jika hasil ini salah?” Jika jawabannya adalah "pemfaktoran ulang beberapa menit", delegasikan dengan nyaman. Jika jawabannya adalah "evaluasi klien yang salah, penghindaran risiko, atau kebocoran informasi", biarkan AI membuat drafnya dan Anda membuat keputusan dan verifikasi.
Privasi: prinsip yang tidak dapat diganggu gugat
Inti dari pekerjaan sosial adalah kepercayaan, dan kepercayaan didasarkan pada kerahasiaan. Seorang klien memberi tahu Anda informasi mereka yang paling pribadi dan paling rapuh—kekerasan, kemiskinan, kondisi kesehatan, rahasia keluarga—dengan mengandalkan kerahasiaan profesional. Ketika informasi ini jatuh ke tangan yang salah, maka mengancam kehidupan, keamanan, dan martabat seseorang. Aturan dasarnya di sini: Data pribadi yang mengidentifikasi klien (nama, alamat, ID TR, kesehatan, informasi keluarga, dll.) tidak akan dimasukkan ke dalam alat AI publik yang belum disetujui oleh institusi Anda. Teks yang Anda ketik ke layanan AI publik diproses di server layanan tersebut; Anda tidak dapat mengontrol siapa yang melihatnya, di mana data tersebut disimpan, dan apakah data tersebut digunakan dalam pelatihan model. Di Türkiye, hal ini juga merupakan tanggung jawab hukum berdasarkan KVKK (Undang-undang Perlindungan Data Pribadi - undang-undang yang mengatur pemrosesan data pribadi).
Oleh karena itu, penggunaan AI dalam pekerjaan sosial beroperasi di dua dunia yang terpisah: Alat umum dapat digunakan untuk dunia yang tidak teridentifikasi/generik (contoh anonim atau fiksi yang tidak mengidentifikasi klien, pertanyaan pengetahuan umum); Untuk dunia data klien, hanya sistem internal, aman, dan disetujui yang tidak membocorkan data yang digunakan. Membingungkan keduanya adalah kesalahan paling berbahaya dari modul ini.
Perhatian: “AI berkata demikian” bukan merupakan pembenaran dan tidak mempunyai kekuatan dalam berkas perkara. Jika ada kesalahan penilaian, informasi palsu, atau data bocor, tanggung jawab bukan berada di tangan AI, namun berada di tangan pakar yang menggunakan keluaran tersebut tanpa memverifikasinya atau memasukkan data tersebut ke dalam alat.
Disiplin verifikasi: tiga langkah
AI berproduksi dengan lancar dan percaya diri; Itu tidak berarti itu benar. AI kadang-kadang menghasilkan halusinasi - yaitu, AI menampilkan undang-undang yang tidak ada, layanan yang tidak ada, statistik yang dibuat-buat, atau pernyataan yang tidak pernah diucapkan klien secara nyata. Dalam laporan investigasi sosial atau memorandum risiko, hal ini merupakan bencana. Terapkan refleks tiga langkah pada setiap keluaran:
- Tautan ke sumber/bukti. Setiap pernyataan yang dibuat AI tentang klien harus didasarkan pada catatan atau percakapan sebenarnya yang Anda berikan. “Dalam percakapan apa, dari mulut siapa, dengan pengamatan apa informasi ini diberikan?” bertanya. AI tidak boleh menambahkan apa pun yang tidak dikatakan klien.
- Konfirmasikan dengan sumber independen. Verifikasi informasi eksternal seperti hukum, hak, layanan, alamat penerusan, dll. dari sumber resmi saat ini. Persyaratan pendaftaran atau nomor telepon yang diberikan oleh AI mungkin sudah ketinggalan zaman atau palsu.
- Melewati filter interpretasi dan bias. Apakah keluarannya bias terhadap suatu kelompok? Apakah ada bahasa yang menstigmatisasi dan menyalahkan klien? Apakah itu mengabaikan kekuatan? Penilaian profesional Anda adalah filter terakhir.
tiga kasus mini
Kasus 1 — Dokumentasi menghemat waktu. Seorang pekerja sosial melakukan 14 wawancara dalam satu minggu dan menyimpan catatan tangan untuk setiap wawancara. Pengeditan yang dibantu AI mengurangi total waktu dalam menerjemahkan catatan ini ke dalam catatan kasus terstruktur dari sekitar 4 jam menjadi 1 jam. Namun setiap rekaman dibaca oleh ahli dan diverifikasi dengan membandingkannya dengan wawancara sebenarnya; Dua kalimat yang "ditafsirkan" oleh AI telah dihapus.
Kasus 2 — Verifikasi menangkap halusinasi. Seorang ahli mengajukan pertanyaan hak kepada AI; YZ mengatakan, “Ada syarat tinggal minimal 24 bulan untuk bantuan ini.” Ketika ahli melihat peraturan resmi, tidak ada persyaratan seperti itu; AI telah mencampurkan dua alat bantu serupa dan membuat kondisi yang tidak ada. Langkah atribusi mencegah klien ditolak secara tidak adil.
Kasus 3 — Kembali dari pelanggaran privasi. Singkatnya, seorang profesional baru ingin menempelkan semua informasi kasus perlindungan anak (termasuk nama, alamat, sekolah anak) ke dalam alat AI publik dan mencetak laporan. Pakar senior menyadari: ini adalah data pribadi sensitif dalam lingkup KVKK dan sudah keluar. Insiden tersebut dianggap sebagai pelanggaran data; pekerjaan itu dilakukan kembali dengan kredensial dihapus dan hanya metode aman internal.
Empat templat yang dapat disalin
1) Penilaian kesesuaian pekerjaan:
Peran Anda: pekerja sosial senior dan supervisor. Saya akan menjelaskan pekerjaannya di bawah ini. Beri tahu saya (1) apakah ini merupakan pekerjaan ringkasan/pengeditan/uraian yang dapat didelegasikan ke AI, atau pekerjaan yang memerlukan penilaian klinis dan penilaian risiko, (2) kerugian yang harus ditanggung klien karena hasil yang salah, (3) verifikasi yang perlu saya lakukan sebelum dan sesudah pendelegasian. Pekerjaan: [masukkan pekerjaan di sini]
2) Kewajiban mengandalkan bukti:
Saya akan memberi Anda catatan pertemuan. Saat mengedit rekaman, gunakan HANYA informasi dalam catatan. Jangan menambahkan apapun yang belum dikatakan klien, jangan mendiagnosis, jangan berkomentar. Beri label observasi dan ekspresi klien secara terpisah. Tandai area yang hilang atau tidak jelas sebagai "perlu klarifikasi".
3) Pra-pemeriksaan privasi:
Evaluasi teks berikut SEBELUM diproses: apakah teks ini dapat berisi data pribadi yang mengidentifikasi klien (nama, alamat, ID TR, kesehatan, informasi keluarga)? Jika ya, bagian mana? Oleh karena itu, jika tidak diproses di alat publik, peringatkan saya dan cantumkan bidang yang perlu saya hapus identifikasinya. Teks: [tulis teks di sini]
4) Pemeriksaan bias/bahasa:
Perhatikan catatan kasus berikut: Apakah ada bahasa yang menstigmatisasi, menyalahkan, atau berprasangka buruk terhadap klien terhadap suatu kelompok? Apakah mereka mengabaikan kekuatan dan sumber daya? Sarankan bahasa yang lebih hormat, fokus pada fakta, dan mengakui kekuatan. Jangan ubah catatannya, cukup tandai masalah bahasanya.
Perintah lemah / Perintah kuat
Perintah yang lemah:
Tulis laporan tentang keluarga ini dan putuskan apakah anak tersebut aman di rumah.
Perintah ini tidak kontekstual dan berbahaya: tidak jelas informasi apa, observasi apa, dan AI diminta untuk mengambil keputusan tentang keselamatan anak. AI memprediksi, bisa membiaskan, bisa mengada-ada — dan itu melibatkan kehidupan manusia.
Perintah yang kuat:
Peran Anda: asisten editor pekerja sosial. Sumber: Catatan wawancara dan observasi dengan informasi identitas dihilangkan, yang akan saya tempel di bawah. Tugas: membuat rancangan kerangka laporan investigasi sosial hanya berdasarkan informasi yang SEBENARNYA terkandung dalam catatan tersebut; Beri label observasi, pernyataan klien, dan informasi yang hilang secara terpisah. MEMBUAT keputusan risiko atau keselamatan; Saya akan melakukan evaluasi. Tandai area yang Anda tidak yakin sebagai "perlu diklarifikasi".
Perbedaannya jelas: de-identifikasi, batasan "passing yang benar", pelabelan, dan batasan "keputusan" membuat keluaran aman dan berguna.
Bagan perbandingan peran/tugas
bisnis
Peran AI
peran pria
verifikasi
Edit catatan kasus
Konfigurasikan catatan
konfirmasi, akurasi
Perbandingan dengan catatan
Ringkasan file
garis besar kronologis
Pentingnya, komentar
Tautan ke sumber
Informasi hak/layanan
draf pertama
Konfirmasi saat ini
perundang-undangan resmi
penilaian risiko
Pengingat pertanyaan/bingkai
Penilaian klinis, keputusan
Tim + pengawasan
Laporkan
sketsa kerangka
Konten, opini, tanda tangan
Pencocokan bukti-pernyataan
Desain program
Pembuatan ide/kerangka kerja
kelayakan, keputusan
Konfirmasi lapangan + data
Kesalahan umum
- Salah mengira keluaran AI sebagai evaluasi. Outputnya selalu berupa rancangan yang harus diverifikasi; Itu tidak masuk ke file tanpa dikaitkan dengan bukti.
- Menempelkan data klien ke alat terbuka. Apabila bocor tidak dapat dibatalkan dan merupakan pelanggaran KVKK; Itu adalah kesalahan yang paling berbahaya.
- Meminta AI untuk mengambil keputusan risiko/keamanan. Keputusan-keputusan ini memerlukan wewenang dan tanggung jawab profesional; AI tidak bisa membuat keputusan.
- Permintaan yang tidak memerlukan bukti. Jika Anda tidak mengatakan, "Gunakan saja apa yang ada di catatan", AI mungkin menambahkan apa yang tidak dikatakan klien.
- Tidak memperhatikan bahasa yang menstigmatisasi. Bahasa AI mungkin mengandung bias; Bahasa yang penuh hormat dan mempertimbangkan kekuatan berada di bawah kendali Anda.
Singkatnya
AI adalah asisten yang kuat dalam pekerjaan sosial: mengatur catatan yang berantakan, merangkum file, membuat draf, menyederhanakan, menerjemahkan. Namun penilaian klinis, penilaian risiko, representasi dan keputusan akhir adalah milik manusia. Lakukan pemisahan dua tahap (pekerjaan intensif dokumen vs. penilaian/keputusan berisiko), verifikasi tiga langkah (tautan ke bukti, konfirmasi independen, filter bias), kesadaran privasi (dunia data anonim vs. klien) dan kewaspadaan terhadap bias sebagai tulang punggung modul ini.
Tugas aplikasi
Buat daftar 6 tugas dari meja Anda sendiri (atau imajiner). Klasifikasikan masing-masing sebagai “ringkasan/edit/draf yang dapat didelegasikan AI” atau “penilaian klinis/keputusan risiko.” Untuk salah satu yang dapat dipindahtangankan (dengan contoh fiktif yang tidak mengidentifikasi klien), gunakan template “Penilaian kesesuaian pekerjaan” di atas dan dapatkan respons dari AI; lalu terapkan verifikasi tiga langkah dan coba pemeriksaan awal privasi juga.
daftar periksa
- [ ] Saya membagi pekerjaan menjadi dua kelompok (penilaian intensif dokumen / penilaian risiko).
- [ ] Saya menerapkan verifikasi tiga langkah (bukti, konfirmasi independen, bias).
- [ ] Saya memastikan bahwa saya tidak memberikan data pribadi yang mengidentifikasi klien ke alat terbuka.
- [ ] Saya menghubungkan setiap pernyataan yang dibuat AI tentang klien dengan catatan sebenarnya.
- [ ] Saya memeriksa bahasa yang menstigmatisasi/bias dalam keluarannya.