Alur Kerja End-to-End, Tata Kelola, dan Penggunaan yang Bertanggung Jawab — Kecerdasan Buatan dalam Pekerjaan Sosial

Keuntungan:

Kemampuan untuk secara konsisten menanamkan AI di setiap tahap mulai dari aplikasi hingga penutupan dengan enam gerbang verifikasi manusia
Kemampuan untuk menetapkan kerangka tata kelola perusahaan dengan daftar alat yang disetujui, kebijakan data, peran, pendaftaran, pelatihan, dan tinjauan berkelanjutan
Kemampuan untuk menanamkan prinsip-prinsip tanggung jawab manusia, verifikasi, privasi/KVKK, kepatuhan terhadap bukti, kontrol bias dan keterpusatan pada klien ke dalam alur kerja

Sepanjang modul ini, kita membahas cara menggunakan kecerdasan buatan dan cara menghentikannya dalam berbagai tugas pekerjaan sosial — dokumentasi, penilaian, dukungan risiko, rujukan, rencana, laporan, komunikasi, desain program. Dalam unit terakhir ini, kami menyatukan hal-hal berikut: AI akan bekerja secara end-to-end mulai dari permohonan hingga penutupan kasus, pintu verifikasi manusia mana yang berhenti di setiap tahap, dan kami akan menetapkan kerangka tata kelola yang diperlukan agar hal ini berkelanjutan dalam sebuah organisasi. Tujuannya adalah mengubah tip yang tersebar menjadi disiplin kerja yang konsisten dan berulang.

Prinsip integratif sejak awal: AI adalah akselerator di setiap langkah alur kerja, bukan pengambil keputusan di langkah mana pun. Ada pintu manusia di setiap tahap, dan Anda tidak dapat melanjutkan ke tahap berikutnya tanpa melewati satu pintu. Struktur berlapis ini mencegah satu halusinasi, bias, atau kesalahan privasi meresap ke dalam keputusan yang memengaruhi kehidupan klien.

Aliran ujung ke ujung dan enam gerbang manusia

Mari kita pertimbangkan suatu kasus melalui tahapan-tahapan umumnya dan tempatkan gerbang verifikasi pada setiap tahapan:

1. Aplikasi / kontak pertama — Pintu: Privasi. Ketika informasi pertama datang, AI digunakan untuk persiapan wawancara (panduan, kerangka pertanyaan). Pintu: Tidak ada data klien aktual yang masuk ke alat terbuka; Minta kelasnya, cocokkan kendaraannya.

2. Penilaian — Gerbang: Penilaian klinis. AI mengatur catatan ke dalam dimensi biopsikososial dan mengingatkan kekurangan dan kelebihan. Pintu: Diagnosis dan evaluasi adalah milik spesialis; AI tidak mengevaluasi.

3. Risiko — Pintu: Otoritas dan tim. AI mengingatkan faktor risiko/perlindungan dan menciptakan kerangka rencana keamanan. Pintu: Keputusan risiko hanya diambil oleh ahli, tim, pengawasan dan proses hukum; AI tidak menghasilkan skor/keputusan.

4. Perencanaan dan bimbingan — Pintu: Validasi dan klien. AI memasukkan tujuan ke dalam SMART, menghasilkan ide sumber daya dan rancangan surat. Pintu: Klien menetapkan tujuan; Layanan/alamat/kondisi diverifikasi dari sumber resmi.

5. Laporan dan komunikasi — Pintu: Bukti dan akuntabilitas. AI menyusun laporan, menyederhanakan dan menerjemahkan teks. Pintu: Setiap kasus bergantung pada bukti, pendapat adalah milik ahli, kehilangan informasi penting dan bias diperiksa, tanda tangan ada pada orangnya.

6. Penutupan dan serah terima — Gerbang: Akurasi. YZ merangkum file tersebut secara kronologis. Pintu: Ringkasannya didasarkan pada catatan saja; Hasil dan pembelajaran diverifikasi oleh ahlinya.

Tip: Gunakan satu pertanyaan untuk mengingat pintu: “Pada langkah ini, apakah AI membuat keputusan atau membuat sketsa?” Jika jawabannya adalah "keputusan", berhentilah - langkah itu adalah milik manusia. Jika jawabannya adalah "draft", lanjutkan, tetapi jangan melanjutkan ke langkah berikutnya tanpa memverifikasi hasilnya.

Tata Kelola Perusahaan: disiplin individu saja tidak cukup

Kebiasaan baik seorang ahli memang berharga namun rapuh; Penggunaan AI yang aman dan konsisten dalam suatu organisasi memerlukan kerangka tata kelola. Komponen utama kerangka ini adalah:

Daftar kendaraan yang disetujui. Tertulis dan jelas alat mana yang akan digunakan untuk pekerjaan apa dan data apa yang bisa dimasukkan ke alat mana. "Setiap orang harus menggunakan alat apa pun yang mereka inginkan" adalah kerentanan keamanan.
Kebijakan klasifikasi data. Ditentukan data mana yang akan diproses di alat terbuka dan mana yang hanya akan diproses di sistem aman.
Peran dan wewenang. Jelas siapa yang dapat melakukan apa dan keputusan mana yang bergantung pada otoritas mana (terutama keputusan risiko).
Jejak pencatatan dan audit. Dimana dan bagaimana AI digunakan dapat dipantau; Bila ada masalah, bisa dilihat kembali.
Pendidikan dan kesadaran. Setiap karyawan mengetahui prinsip-prinsip dalam modul ini; Pendatang baru sudah terlatih.
Tinjauan konstan. Perubahan alat, risiko dan undang-undang; Kerangka kerja ini diperbarui secara berkala. Kebijakan yang pernah ditulis dan dilupakan akan menjadi usang.

tiga kasus mini

Kasus 1 — Pintu terkena serangga di awal rantai. Dalam satu kasus, AI menambahkan observasi yang tidak disebutkan klien selama tahap evaluasi. Di gerbang “penilaian klinis”, ahli menangkap ini dan menghapusnya. Jika dia tidak tertangkap, pengamatan palsu ini bisa saja bocor ke dalam rencana, dari situ ke laporan, dan dari sana ke keputusan pengadilan. Otentikasi berlapis menghentikan kesalahan pada titik paling awal.

Kasus 2 — Tata kelola mencegah pelanggaran. Satu organisasi beroperasi tanpa daftar alat dan kebijakan data yang disetujui; Semua orang menggunakan kendaraannya masing-masing. Audit mengungkapkan bahwa beberapa karyawan memasukkan data klien aktual ke alat terbuka. Organisasi telah menetapkan kerangka tata kelola: alat yang disetujui, klasifikasi data, pelatihan dan registrasi. Pada periode berikutnya, jumlah pelanggaran turun menjadi nol. Hikmahnya: niat baik individu tidaklah cukup tanpa struktur kelembagaan.

Kasus 3 — Tinjauan berkelanjutan selalu diperbarui. Kebijakan AI suatu organisasi, yang ditulis setahun yang lalu, sudah ketinggalan zaman karena adanya alat jenis baru dan undang-undang yang diperbarui. Tinjauan tahunan menangkap hal ini; Kebijakannya diperbarui, pelatihannya diperbarui. Bingkai itu tetap menjadi dokumen hidup, bukan hiasan rak.

Empat templat yang dapat disalin

1) Daftar periksa gerbang verifikasi alur kasus:

Peran Anda: supervisor. Saya mendapatkan daftar periksa validasi untuk langkah kasus berikut: rancangan AI apa yang dapat dibuat pada langkah ini, keputusan mana yang harus bersifat manusiawi, pemeriksaan privasi dan bias apa yang harus dilakukan, apa yang harus saya verifikasi sebelum melanjutkan ke langkah berikutnya? Langkah: [aplikasi / penilaian / risiko / rencana / laporan / penutupan]

2) Pencocokan kendaraan yang dikonfirmasi:

Untuk setiap daftar tugas di bawah, tentukan jenis alat AI yang dapat digunakan (alat terbuka / hanya sistem perusahaan yang aman / AI tidak tersedia) dan alasannya. Tandai setiap tugas yang berisi data klien sebagai "hanya sistem aman".Tugas: [daftar tugas]

3) Rancangan kebijakan AI perusahaan:

Peran Anda: editor kebijakan perusahaan. Menyusun kebijakan penggunaan AI yang bertanggung jawab untuk lembaga layanan sosial; Mencakup topik-topik berikut: tujuan, alat yang disetujui, klasifikasi data, peran dan otorisasi, privasi/KVKK, batasan keputusan risiko, pencatatan dan audit, pelatihan, jadwal peninjauan. Menyiapkan kerangka umum; Institusi akan mengisi rinciannya sendiri.

4) Pengaturan mandiri (tinjauan penggunaan pribadi):

Buat daftar periksa mandiri yang berisi 10 pertanyaan untuk saya tinjau penggunaan AI saya sebagai pekerja sosial: privasi, verifikasi, bias, kesetiaan bukti, batasan keputusan, dan keterpusatan pada klien. Biarkan setiap pertanyaan dijawab dengan "ya/tidak".

Perintah lemah / Perintah kuat

Perintah yang lemah:

Saya memberi Anda keseluruhan kasus ini; Anda menangani semuanya mulai dari aplikasi hingga laporan, saya akan menandatanganinya di akhir.

Hal ini berarti mengalihdayakan seluruh proses—termasuk privasi, penilaian klinis, penilaian risiko, kepatuhan terhadap bukti—ke perangkat lunak. Tanda tangan tunggal di bagian akhir membutakan kita terhadap semua kesalahan, pemalsuan, dan bias di antara keduanya.

Perintah yang kuat:

Peran Anda: editor yang membantu saya di setiap langkah. Saya akan melanjutkan kasus ini selangkah demi selangkah (penilaian, rencana, laporan...). Pada setiap langkah: bekerja hanya dengan data anonim/aman, buat draf, biarkan saya memutuskan, jangan menambahkan apa yang tidak ada dalam catatan, dan ingatkan saya apa yang perlu saya verifikasi sebelum melanjutkan ke langkah berikutnya. Mari kita mulai dengan langkah ini: [langkah]

Bedanya: menjaga pintu di setiap langkah dan memposisikan AI sebagai asisten langkah demi langkah menjaga keselamatan dan tanggung jawab manusia sekaligus menjaga kecepatan.

Ringkasan tanggung jawab gerbang panggung

Panggung

Kontribusi AI

gerbang manusia

kontrol kritis

Aplikasi

Persiapan wawancara

privasi

Kelas data

Evaluasi

Pengeditan ukuran

penilaian klinis

Tidak ada diagnosis, tidak ada rekayasa

Resiko

Pengingat faktor

Otoritas + tim

Tidak ada skor/keputusan

Rencana/panduan

draf + ide

Validasi + klien

Konfirmasi sumber, prioritas klien

Laporkan/hubungi

Struktur + penyederhanaan

Bukti + tanggung jawab

Pendapat ahli, kontrol bias

Penutupan

Ringkasan kronologis

akurasi

berbasis rekor

Kesalahan umum

Menyerahkan seluruh proses kepada AI dan menandatangani satu tanda tangan di akhir. Kesalahan di antara keduanya tidak terlihat; Harus ada pintu di setiap langkah.
Melewati pintu tanpa memverifikasinya. Pembuatan satu tahap diwarisi oleh tahap berikutnya; Setiap keluaran divalidasi.
Menyerahkan tata kelola pada disiplin individu. Tanpa kerangka kelembagaan, kebiasaan baik akan rapuh.
Tulis kebijakannya sekali dan lupakan. Perubahan alat dan undang-undang; Diperlukan peninjauan yang terus-menerus.
Tidak menyimpan catatan. Tanpa adanya jejak audit, suatu permasalahan tidak dapat ditinjau kembali dan tidak dapat dipertanggungjawabkan.

Singkatnya

Dalam pekerjaan sosial, AI adalah katalis di setiap langkah, pengambil keputusan di setiap langkah, mulai dari pengajuan hingga penutupan sebuah kasus. Menempatkan enam gerbang manusia (kerahasiaan, penilaian klinis, otoritas/tim, validasi/klien, bukti/akuntabilitas, integritas) ke dalam aliran end-to-end; Jangan melewati satu pintu ke pintu lainnya tanpa melewatinya. Untuk menjadikan hal ini berkelanjutan memerlukan tata kelola perusahaan: daftar alat yang disetujui, kebijakan data, peran, pendaftaran, pelatihan, dan tinjauan berkelanjutan. Enam prinsip pendorong modul ini—tanggung jawab manusia, verifikasi, privasi/PDPA, komitmen terhadap bukti, pengendalian bias, dan keterpusatan pada klien—harus dipadukan dalam setiap alur kerja.

Tugas aplikasi

Bagan secara mental sebuah kasus fiktif mulai dari penerapan hingga penutupan; Buatlah daftar periksa untuk setiap tahap dengan templat “gerbang verifikasi alur kasus”. Kemudian klasifikasikan tugas dalam hal ini sebagai kendaraan terbuka / sistem aman / tanpa AI dengan templat “pencocokan kendaraan yang divalidasi”. Terakhir, evaluasi diri Anda dengan membuat daftar 10 pertanyaan untuk penggunaan AI Anda sendiri dengan template "audit mandiri".

daftar periksa

[ ] Saya telah mengidentifikasi enam gerbang manusia dalam aliran ujung ke ujung.
[ ] Di setiap langkah, "keputusan atau rancangan?" Saya menerapkan pertanyaan itu.
[ ] Saya mencocokkan tugas dengan jenis kendaraan yang benar (terbuka/aman/tidak ada).
[ ] Saya mengetahui komponen tata kelola perusahaan (alat, data, peran, registrasi, pelatihan, review).
[ ] Saya menerapkan enam prinsip pembawa modul ke dalam alur kerja saya sendiri.

Ujian Modul

1. Manakah dari berikut ini yang merupakan posisi yang paling akurat untuk kecerdasan buatan dalam pekerjaan sosial?

A) Kecerdasan buatan dapat menentukan tingkat risiko klien dan keputusan intervensi tanpa persetujuan manusia
B) AI adalah alat untuk merangkum, mengatur, menyederhanakan dan menyusun; Tanggung jawab atas penilaian klinis, risiko, dan keputusan akhir berada di tangan pakar ✔
C) Kecerdasan buatan hanya berguna untuk menerjemahkan teks dan tidak ada kaitannya dengan tugas pekerjaan sosial lainnya
D) Karena kecerdasan buatan selalu lebih tidak memihak dibandingkan manusia, evaluasi harus diserahkan pada kecerdasan buatan.

Deskripsi: Kecerdasan buatan; Ini adalah asisten yang mengatur catatan, merangkum file, menyederhanakan teks dan menghasilkan draf. Tanggung jawab atas penilaian klinis, penilaian risiko, pendapat profesional, dan keputusan akhir berada di tangan profesional yang kompeten; Output yang tidak terverifikasi dapat menyebabkan klien salah menilai, menghindari risiko, atau kebocoran data sensitif.

2. Instruksi apa yang paling tepat ketika catatan mentah wawancara diubah menjadi catatan kasus oleh kecerdasan buatan?

A) Meminta kecerdasan buatan untuk mengisi bagian yang hilang dengan cara yang wajar agar terlihat profesional.
B) Mengizinkan AI menambahkan pengamatan tambahan untuk memperkaya catatan
C) Meminta siswa untuk hanya menggunakan informasi yang benar-benar disertakan dalam catatan, menandai item yang hilang sebagai 'perlu klarifikasi', dan tidak menambahkan apa pun ✔
D) Memasukkannya langsung ke dalam file tanpa membandingkannya dengan catatan selama keluarannya lancar

Penjelasan: Kecenderungan AI yang paling berbahaya adalah mengarang observasi, angka atau kutipan yang tidak ada dalam catatan untuk membuat catatan tampak 'lengkap'. Pendekatan yang benar adalah dengan mengatakan 'gunakan saja apa yang ada di catatan, tandai yang hilang, jangan tambahkan apa pun'. Kesenjangan tidak diisi, melainkan ditandai untuk klarifikasi.

3. Mengapa perbedaan antara 'fakta' dan 'interpretasi' penting dalam catatan kasus?

A) Fakta adalah pengamatan/pernyataan konkrit, sedangkan interpretasi adalah kesimpulan profesional yang memerlukan dasar; Keduanya harus dipisahkan dan komentarnya harus diberi tag ✔
B) Pembedaan tersebut tidak diperlukan; fakta dan komentar dapat ditulis dengan cara yang sama dalam catatan
C) Hanya penafsirannya yang penting; Hal ini mungkin terjadi meskipun faktanya tidak dicatat
D) Karena kecerdasan buatan membuat perbedaan ini dengan sempurna, maka tidak diperlukan kendali manusia.

Penjelasan: 'Dia menangis tiga kali dalam wawancara' adalah sebuah fakta; 'Dia mengalami depresi' adalah komentar yang tidak dapat ditulis tanpa dasar klinis. Catatan tersebut mengedepankan fakta dan mencakup interpretasi hanya dengan label dan pembenaran yang jelas. AI dapat memadukan keduanya dengan lancar; Sudah menjadi tugas seseorang untuk membedakan dan menghindari stigmatisasi bahasa.

4. Peran apa yang harus dimainkan oleh AI dalam menentukan apakah seorang anak aman di rumah atau tingkat risiko suatu kasus?

A) Kecerdasan buatan dapat membaca kasus, menentukan tingkat risiko, dan membuat keputusan keamanan
B) Label 'risiko rendah' yang diberikan oleh kecerdasan buatan dapat mengesampingkan pengamatan para ahli yang menyatakan sebaliknya
C) Kecerdasan buatan hanya mengingatkan faktor-faktor dan mengatur catatan; Tingkat risiko dan keputusan keselamatan berada di tangan ahli, tim, pengawasan dan proses hukum ✔
D) Kecerdasan buatan lebih dapat diandalkan dibandingkan manusia dalam pengambilan keputusan berisiko karena tidak memihak.

Deskripsi: Tingkat risiko dan keputusan keamanan; Hal ini memerlukan otoritas profesional, penilaian klinis, pendapat tim multidisiplin, pengawasan dan tanggung jawab hukum. Di sini, AI hanya dapat mengingat faktor risiko/pelindung dan mengedit catatan; tidak dapat menghasilkan skor atau keputusan. Hal ini juga dapat mengaitkan risiko tinggi secara sistematis pada kelompok yang kurang beruntung karena adanya bias dalam data pelatihan, sehingga keluarannya tidak dapat digunakan sebagai pengambilan keputusan.

5. Apa yang harus dilakukan ketika kecerdasan buatan memberikan informasi rujukan kepada klien dengan mengatakan 'pusat ini, telepon itu'?

A) Konfirmasi alamat dan nomor telepon dari sumber resmi dan terkini institusi sebelum diberikan kepada klien ✔
B) Menyampaikan informasi secara langsung kepada klien sebagaimana disajikan dengan penuh percaya diri
C) Dengan asumsi bahwa informasi tersebut benar-benar benar selama kecerdasan buatan memberikan tanggal terkini
D) Berpikir tidak perlu menyelidiki keakuratan informasi karena disebutkan di suatu tempat.

Deskripsi: Kecerdasan buatan dapat membuat layanan, persyaratan aplikasi, alamat dan nomor telepon atau memberikan informasi yang sudah ketinggalan zaman; Institusi bergabung, pindah, tutup. Mengirim klien ke alamat yang tidak terverifikasi akan menyebabkan perjalanan yang sia-sia dan hilangnya kepercayaan. Oleh karena itu, informasi kontak yang diberikan oleh kecerdasan buatan harus dikonfirmasi melalui saluran resmi institusi tersebut sebelum dikirimkan ke klien.

6. Siapa yang harus menetapkan tujuan dalam rencana respons dan apa peran AI?

A) Kecerdasan buatan harus menentukan tujuan dan menulis keseluruhan rencana tanpa bertanya kepada klien.
B) Klien (bersama dengan spesialis) menentukan tujuan; AI menempatkannya dalam format SMART dan menyusunnya, tidak menambah target baru ✔
C) Tujuan tidak penting; Semakin banyak tujuan yang dicantumkan dalam rencana tersebut, semakin baik.
D) Kecerdasan buatan mungkin mengabaikan prioritas klien karena terlihat profesional

Deskripsi: Nilai inti pekerjaan sosial adalah 'penentuan nasib sendiri': klien menetapkan tujuan dan prioritas, membentuknya dengan pengetahuan profesional ahli. Kecerdasan buatan menempatkan tujuan-tujuan ini ke dalam format SMART dan menyarankan langkah-langkah dan indikator; tapi dia tidak bisa menambahkan tujuan baru yang tidak dikatakan klien. Rencana asing yang diberlakukan secara eksternal tidak dapat diterapkan pada klien.

7. Dalam laporan investigasi sosial yang akan diajukan ke pengadilan, isu manakah yang paling berbahaya dari kecerdasan buatan?

A) Kemampuan untuk menemukan tanggal, pengamatan, atau kutipan yang tidak ada untuk membuat laporan tampak 'lengkap' ✔
B) Membuat bahasa teks terlalu formal
C) Penulisan laporan lebih pendek dari yang diminta
D) Urutan judul menurut abjad

Penjelasan: Kecenderungan AI yang paling berbahaya adalah menambahkan tanggal, observasi, atau kutipan yang sebenarnya tidak ada untuk membuat laporan tampak 'lengkap'. Kalimat yang dibuat-buat dalam laporan pengadilan dapat menyesatkan keputusan dan menghancurkan kredibilitas ahli. Oleh karena itu, setiap kasus harus dihubungkan dengan wawancara/observasi/dokumen nyata, dan pendapat profesional harus dibentuk oleh ahlinya.

8. Siapa yang harus menulis bagian opini profesional dan opini (saran) dalam laporan investigasi sosial?

A) Kecerdasan buatan; karena menghasilkan rekomendasi yang lebih tidak memihak
B) Bagian opini tidak pernah diisi pada saat penulisan laporan.
C) Kecerdasan buatan menulis pendapat, ahli hanya menandatangani di bagian akhir
D) Ahli; pendapat dan pendapat profesional adalah wewenang dan tanggung jawabnya, kecerdasan buatan hanya memperjelas bahasa ✔

Pernyataan: Pendapat dan opini profesional — 'ini adalah kepentingan terbaik anak ini', 'pengaturan ini tepat' — merupakan wewenang dan tanggung jawab hukum ahli. 'Apa yang saya rekomendasikan untuk kecerdasan buatan?' Hal ini tidak ditanyakan; 'Saran' yang dia berikan mungkin dibuat-buat dan juga merupakan pengalihan tanggung jawab. Yang terbaik, kecerdasan buatan memperjelas bahasa opini yang ditulis oleh pakar.

9. Kontrol apa yang paling penting saat menyederhanakan surat bantuan resmi yang berat untuk klien dengan kecerdasan buatan?

A) Buatlah teks sesingkat mungkin, jangan melihat detailnya
B) Hasilnya terlihat lancar dan estetis
C) Memverifikasi bahwa tidak ada hak, ketentuan, jumlah, tanggal atau pemberitahuan yang dihilangkan dengan membandingkan dengan aslinya ✔
D) Penyederhanaan memberikan kenyamanan kepada klien dengan memberinya lebih sedikit informasi.

Penjelasan: Menyederhanakan bukan berarti mendistorsi; Dengan 'mempersingkat' atau 'menyederhanakan' AI dapat menelan suatu hak, ketentuan, jumlah, tanggal atau pemberitahuan. Klien mungkin kehilangan haknya dengan informasi yang 'mudah' namun tidak lengkap. Oleh karena itu, teks yang disederhanakan harus dibandingkan dengan teks asli dan diverifikasi bahwa tidak ada informasi penting yang hilang, dan bahkan kecerdasan buatan harus mencantumkan elemen penting yang dilindunginya.

10. Bagaimana cara yang benar dalam memperlakukan statistik yang dihasilkan oleh kecerdasan buatan saat menyusun permohonan pendanaan?

A) Langsung menggunakan statistik yang diberikan oleh kecerdasan buatan agar terlihat mengesankan
B) Tidak membuat kecerdasan buatan membuat statistik, mencetak [DATA DIPERLUKAN] jika diperlukan dan memasukkan setiap angka dari sumber sebenarnya ✔
C) Mengingat sumber tidak penting asalkan nomornya dicantumkan dalam suatu lamaran.
D) Dengan asumsi bahwa tidak perlu memverifikasi statistik karena AI menulis dengan percaya diri

Deskripsi: Kecerdasan buatan dapat menghasilkan statistik yang mencolok namun tidak bersumber dari sumbernya; Angka tanpa sumber hampir selalu tidak bisa diandalkan. Statistik yang dibuat-buat dalam permohonan akan menolak permohonan tersebut dan menghancurkan kredibilitas institusi. Pendekatan yang benar adalah dengan tidak membuat AI mengarang angka ('Tulis [DATA DIPERLUKAN]') dan memasukkan setiap nomor dari sumber yang nyata dan terverifikasi.

11. Mengapa berbahaya jika meminta kecerdasan buatan 'menjelaskan mengapa keluarga ini tidak mampu membesarkan anak'?

A) Karena pertanyaannya terlalu panjang
B) Karena kecerdasan buatan tidak dapat memberikan informasi apapun tentang masalah keluarga
C) Karena mengasumsikan hasil sejak awal, kecerdasan buatan (secara menyanjung) menghasilkan konfirmasi yang tidak berdasar dan bias; Pertanyaannya harus netral dan seimbang ✔
D) Karena kecerdasan buatan akan selalu menguntungkan keluarga

Penjelasan: Pertanyaan ini mengandaikan hasil ('tidak mencukupi'). AI menghasilkan teks yang bebas bukti dan bias yang menegaskan asumsi ini dengan kecenderungannya yang menyanjung (konfirmasi sindiran Anda). Pertanyaan yang bias menghasilkan jawaban yang bias. Memang benar, ini adalah pertanyaan netral yang tidak mengasumsikan hasil, menyeimbangkan kekuatan dan kekhawatiran, dan hanya meminta bukti.

12. Bagaimana cara menerapkan 'pengujian di bawah sudut' untuk memeriksa bias pada keluaran AI?

A) Memikirkan situasi yang sama untuk kelompok yang berbeda dan bertanya 'Apakah ini akan ditulis dalam bahasa yang sama?' ✔ Menguji standar ganda dengan bertanya
B) Menerima jawaban pertama kecerdasan buatan sebagai sesuatu yang netral dan tidak mencari sudut pandang lain
C) Hanya mengajukan pertanyaan yang mendukung kelompok klien
D) Dengan asumsi bahwa tidak diperlukan kontrol tambahan karena tidak ada bias sama sekali dalam kecerdasan buatan

Penjelasan: AI dapat menulis perilaku yang sama dengan nada yang berbeda untuk kelompok yang berbeda (misalnya 'risiko diabaikan' untuk keluarga berpenghasilan rendah, 'orang tua yang dipaksakan' untuk keluarga berpenghasilan tinggi). Tes inversinya adalah 'jika klien berasal dari kelompok sosial ekonomi/etnik yang berbeda, apakah ini akan ditulis dalam bahasa yang sama?' adalah bertanya; Hal ini membuat standar ganda terlihat berdasarkan stereotip, bukan bukti.

13. Pendekatan manakah yang benar untuk merangkum berkas aktual klien (termasuk nama, alamat, informasi kesehatan)?

A) Untuk kecepatan, tempelkan ke alat AI publik terdekat dan rangkum
B) Memproses file tanpa memperhatikan privasi karena pendek
C) Masukkan semuanya termasuk informasi kesehatan dan simpan hasilnya saja
D) Proses hanya dalam sistem aman yang disetujui oleh institusi atau dengan teks yang tidak teridentifikasi, dengan data minimum ✔

Pengungkapan: Data pribadi yang mengidentifikasi klien – terutama data sensitif seperti kesehatan – tidak pernah dimasukkan ke dalam alat publik yang belum disetujui oleh institusi; teks dapat diproses, disimpan di server eksternal atau digunakan dalam pelatihan model, dan eksfiltrasi tidak dapat diubah. Ini juga merupakan pelanggaran KVKK. Jenis pekerjaan ini hanya dilakukan dalam sistem internal, aman, dan disetujui yang tidak membocorkan data atau dengan teks yang tidak teridentifikasi.

14. Mengapa menghapus nama dari dokumen tidak selalu cukup untuk memasukkannya ke alat publik?

A) Menghapus nama selalu merupakan anonimisasi penuh dan membuat setiap dokumen aman
B) Selama dokumennya pendek, tidak mungkin menyimpulkan identitas dari konteksnya
C) Dokumen yang namanya dihapus seluruhnya berada di luar cakupan KVKK.
D) Konteks (lingkungan, usia, peristiwa, struktur keluarga) dapat menegaskan kembali identitas; Perlindungan diberikan melalui pilihan alat dan lingkungan ✔

Penjelasan: Sekalipun namanya dihapus, konteksnya (kombinasi yang jarang terjadi antara lingkungan, usia, peristiwa, tanggal, struktur keluarga, dll.) dapat membuat seseorang dapat diidentifikasi; Dia mungkin satu-satunya orang di lingkungan sekitar yang cocok dengan gambaran tersebut. Perlindungan nyata tidak diberikan melalui penggunaan masker, namun melalui pemilihan alat dan lingkungan yang tepat; Konteksnya juga data pribadi dan informasi yang tidak pasti harus dilindungi sebagai kelas atas.

15. Dari permohonan hingga penutupan sebuah kasus, apa cara paling efektif untuk mencegah satu kesalahan AI bocor ke dalam keputusan akhir?

A) Mendelegasikan seluruh proses ke satu alat AI dan hanya menandatangani satu kali di akhir
B) Memasang gerbang verifikasi manusia dan syarat lulus pada setiap tahapan (verifikasi berlapis) ✔
C) Menghapus validasi perantara untuk kecepatan dan pemeriksaan hanya pada tahap keluaran
D) Mengizinkan setiap ahli menggunakan alatnya sendiri secara bebas tanpa membuat catatan

Deskripsi: Gerbang verifikasi manusia ditempatkan di setiap tahap (aplikasi/kerahasiaan, penilaian/penilaian klinis, risiko/otorisasi, rencana/verifikasi, laporan/bukti, penutupan/akurasi); Anda tidak dapat melewati satu pintu tanpa melewati pintu lainnya. Struktur berlapis ini mencegah halusinasi, bias, atau kesalahan kerahasiaan pada satu tahap meresap ke dalam keputusan yang memengaruhi klien.