Keuntungan:
- Keupayaan untuk menyediakan senarai semak faktor risiko dan perlindungan dan rangka pelan keselamatan dengan kecerdasan buatan dan bekerja tanpa melangkau mana-mana kawasan
- Fahami bahawa tahap risiko/skor dan keputusan keselamatan hanya dibuat oleh pakar, pasukan, penyeliaan dan proses undang-undang, dan kecerdasan buatan tidak boleh menghasilkan keputusan.
- Melihat bahawa kecerdasan buatan boleh mengaitkan berat sebelah sistematik kepada kumpulan yang kurang bernasib baik dan menerapkan disiplin untuk tidak menggunakan outputnya sebagai keputusan dan memproses data paling sensitif hanya dalam sistem yang selamat
Tanggungjawab kerja sosial yang paling serius ialah penilaian risiko—penghakiman yang secara langsung menyangkut keselamatan hidup, seperti sama ada kanak-kanak diabaikan atau didera, sama ada individu berkemungkinan mencederakan dirinya atau orang lain, sama ada orang tua selamat, atau betapa terancamnya mangsa keganasan. Peraturan pertama dan paling berani bagi unit ini ialah: Pembuatan keputusan risiko tidak, tidak boleh dan tidak seharusnya dimiliki oleh AI. Keputusan tentang keselamatan seseorang; Ia memerlukan kuasa profesional, pertimbangan klinikal, pendapat pasukan pelbagai disiplin, penyeliaan dan tanggungjawab undang-undang. AI hanyalah alat persediaan dan peringatan di sini: ia mengingatkan anda faktor risiko dan perlindungan yang perlu disemak, menyusun nota anda, menggariskan pelan keselamatan. Ia tidak memberi markah, ia tidak mengatakan "risiko rendah/tinggi", ia tidak membuat keputusan.
Mengapa kita menekankan perkara ini dengan begitu keras? Kerana dalam arena risiko, kos kesilapan AI tidak dapat dipulihkan. Penarafan AI terhadap risiko sebagai "rendah" menyebabkan kanak-kanak tidak dilindungi; Membuat risiko kelihatan tidak semestinya "tinggi" boleh menyebabkan sebuah keluarga dipisahkan secara tidak adil. Selain itu, AI membawa berat sebelah dalam data latihan: algoritma yang secara sistematik mengaitkan risiko yang lebih tinggi kepada kumpulan sosioekonomi, etnik atau kawasan kejiranan tertentu telah didokumenkan di seluruh dunia. Jadi walaupun output AI adalah input, ia tidak boleh mengatasi pertimbangan bebas anda.
Peranan sah AI: peringatan dan peraturan
Terdapat tiga tempat di mana anda boleh menggunakan AI dengan selamat dalam risiko:
1. Peringatan faktor. Faktor risiko (cth., sejarah lampau keganasan, penggunaan bahan, pengasingan sosial, kemasukan sebelumnya) dan faktor perlindungan (cth., orang dewasa yang menyokong, kehadiran sekolah tetap, rangkaian sosial yang kukuh) yang perlu dipertimbangkan dalam penilaian risiko adalah panjang; AI membantu anda mengelakkan kehilangan mana-mana kawasan dengan memanggil semula senarai semak yang sesuai dengan rangka kerja yang digunakan oleh organisasi anda.
2. Suntingan nota. Ia menterjemah kenyataan pemerhatian dan pelanggan anda ke dalam teks fakta yang teratur — supaya anda boleh mendasarkan pertimbangan anda pada data yang jelas.
3. Draf pelan keselamatan. Pelan keselamatan (pelan konkrit yang menentukan apa yang akan dilakukan mangsa sekiranya berlaku bahaya, siapa yang akan dihubunginya, ke mana dia akan pergi) mempunyai struktur tertentu. AI boleh menghasilkan rangka draf untuk diisi dengan pelanggan; Tetapi anda dan pelanggan mengisi kandungan rancangan mengikut realiti.
Awas: Jangan sekali-kali bertanya kepada AI "apakah tahap risiko dalam kes ini?" atau "adakah kanak-kanak itu selamat di rumah?" jangan tanya. JANGAN gunakan output sebagai keputusan, walaupun anda bertanya. Soalan-soalan ini hanya dijawab oleh pakar, pasukan dan penyeliaan yang diberi kuasa melalui alat risiko rasmi institusi.
Langkah demi langkah: meletakkan AI dengan betul dalam proses risiko
- Keselamatan dahulu. Sekiranya terdapat bahaya segera dan serius (keselamatan hidup), adalah perlu untuk mengendalikan prosedur kecemasan institusi, bukan untuk berurusan dengan AI. AI tidak seharusnya menangguhkan sebarang perkara yang mendesak.
- Kenal pasti. Penarafan risiko adalah data yang paling sensitif; Maklumat mengenal pasti pelanggan tidak dimasukkan ke dalam alat terbuka, hanya alat institusi selamat digunakan.
- Ingatkan saya tentang senarai faktor. Minta senarai semak faktor risiko dan perlindungan yang sesuai dengan rangka kerja institusi.
- Buat penilaian anda sendiri. Anda menimbang faktor, menilai dengan pasukan, dan berunding dengan penyelia. Anda tidak mahu AI "menilai".
- Lengkapkan pelan keselamatan dengan pelanggan. Rangka draf mungkin berasal dari AI; Kandungan diisi dengan rangkaian, sumber dan pilihan sebenar pelanggan.
tiga kes mini
Kes 1 — Faktor perlindungan terlepas. Seorang pakar memberi tumpuan kepada faktor risiko dalam kes keganasan rumah tangga. Senarai semak faktor yang dia minta AI meminta dia bertanya tentang rangkaian sokongan selamat pelanggan di tempat kerja di bahagian "faktor pelindung"—kawasan yang telah terlepas oleh pakar. Rangkaian ini menjadi bahagian paling realistik dalam pelan keselamatan. Keputusan sekali lagi terpulang kepada pakar; AI hanya mengingatkan soalan itu.
Kes 2 — Skor salah tidak dipercayai. Satu agensi melihat alat AI percubaan melabelkan kes sebagai "risiko rendah." Bagaimanapun, pemerhatian pakar dan kenyataan klien menunjukkan bahaya yang serius. Pasukan itu menolak label AI dan memulakan tindakan perlindungan berdasarkan penilaiannya sendiri. Ia kemudiannya disahkan bahawa bahaya itu nyata. Pelajaran: Skor AI bukan keputusan; pertimbangan manusia diutamakan.
Kes 3 - Bias ditangkap. Dalam satu perbicaraan, kes yang sama diberikan kepada AI dua kali; Satu-satunya perbezaan adalah kejiranan tempat pelanggan tinggal. AI secara sistematik menghasilkan "bahasa berisiko" yang lebih tinggi untuk kejiranan yang diketahui kurang bernasib baik. Ini menunjukkan berat sebelah dalam data latihan AI dan mengukuhkan dasar agensi untuk tidak menggunakan AI dalam membuat keputusan berisiko.
Empat templat yang boleh disalin
1) Peringatan faktor risiko/pelindung:
Peranan anda: pembantu penyelia kerja sosial. Sediakan senarai semak faktor risiko dan faktor perlindungan yang disyorkan untuk disemak dalam penilaian risiko dalam kes [keganasan rumah tangga]. Bentangkan ini sebagai senarai PERINGATAN; TIDAK menghasilkan sebarang markah, keputusan, atau "tahap risiko". Penilaian dan keputusan adalah milik pakar.
2) Rangka draf pelan keselamatan:
Peranan anda: editor. Sediakan rangka KOSONG pelan keselamatan untuk diisi dengan mangsa keganasan rumah tangga: tanda amaran, tempat selamat, orang dan institusi untuk dihubungi, dokumen penting, pelan untuk kanak-kanak, keselamatan digital. Mengisi kandungan; Biarkan ruang kosong di bawah setiap tajuk untuk diisi dengan pelanggan.
3) Mengedit nota risiko (tanpa membuat keputusan):
Terjemahkan pemerhatian dan nota penyataan berikut kepada teks yang berfakta dan teratur. Labelkan pemerhatian dan pernyataan klien secara berasingan. MENYATAKAN tahap risiko, MEMBUAT keputusan, MENAMBAH ulasan. Edit hanya apa yang ada dalam nota dan tandai kawasan yang hilang/kabur. Nota: [tampal nota yang tidak dikenal pasti]
4) Bias kawalan diri:
Dalam draf nota risiko di bawah, adakah terdapat pernyataan yang menyampaikan berat sebelah yang tidak terbukti kerana status sosioekonomi, etnik, kejiranan, atau ciri serupa pelanggan? Tandakan setiap ayat yang berdasarkan stereotaip dan bukannya bukti. Jangan tukar teks, cuma beri amaran. Nota: [tampal nota]
Gesaan lemah / Gesaan kuat
Gesaan yang lemah:
Baca kes ini dan tentukan sama ada selamat untuk kanak-kanak tinggal di rumah dan apakah tahap risikonya.
Ini adalah penyumberan luar keputusan yang paling berat tentang kehidupan manusia kepada perisian. Ia tidak beretika, bertentangan dengan tanggungjawab profesional, dan membawa berat sebelah AI terus ke dalam nasib kanak-kanak.
Gesaan kuat:
Peranan anda: pembantu peringatan. Sebelum membaca nota yang tidak dikenal pasti di bawah, sediakan senarai semak faktor risiko dan perlindungan untuk disemak dalam penilaian kes [pengabaian kanak-kanak]. MENGHASILKAN keputusan, skor atau tahap risiko. Saya akan membuat penilaian bersama pasukan saya; Awak cuma ingatkan saya kawasan mana yang saya tak patut skip.
Perbezaannya: mengatakan "soalan manakah yang tidak boleh saya lupakan" daripada meminta keputusan memastikan AI tetap berada di sempadan yang selamat dan beretika.
Sempadan peranan dalam bidang risiko
Pencarian
Bolehkah AI melakukannya?
Siapa yang buat?
Peringatan senarai semak faktor
ya
AI (peringatan)
Mengedit nota secara fakta
ya
AI + kelulusan pakar
Rangka kosong pelan keselamatan
ya
AI; pelanggan kandungan+pakar
Tahap risiko / penentuan skor
tidak
Pakar + pasukan + penyeliaan
"Adakah ia selamat?" keputusan
tidak
Pakar yang cekap, proses undang-undang
Memulakan langkah perlindungan
tidak
Institusi, pihak berkuasa yang berwibawa
Kesilapan biasa
- Meminta AI untuk skor/keputusan risiko. Kesilapan yang paling berbahaya; Keputusan itu memerlukan kuasa profesional dan tanggungjawab undang-undang.
- Mempercayai label AI. Kesimpulan "berisiko rendah" tidak akan sekali-kali membatalkan pemerhatian anda sebaliknya.
- Mengabaikan prasangka. AI mungkin mengaitkan risiko tinggi yang sistematik kepada kumpulan yang kurang bernasib baik; kawalan diri adalah penting.
- Melambatkan segera. Jika ada keselamatan nyawa, prosedur kecemasan dahulu; Berurusan dengan AI tidak boleh menunggu.
- Memberi data paling sensitif kepada alat terbuka. Nota risiko diproses hanya dalam alat institusi selamat.
Secara ringkasnya
Penilaian risiko ialah tanggungjawab kerja sosial yang paling berat, dan keputusan terletak tepat pada orang itu — profesional, pasukan, penyeliaan, pihak berkuasa undang-undang. Di sini, AI hanyalah alat untuk mengingatkan (senarai faktor risiko/pelindung), menyusun (nota fakta) dan merangka (rangka pelan keselamatan); Ia tidak menjaringkan gol, ia tidak membuat keputusan. Ingat bahawa AI membawa berat sebelah, jangan sekali-kali menggunakan outputnya sebagai keputusan dan memproses data paling sensitif hanya dalam sistem selamat.
Tugasan permohonan
Pilih jenis kes fiksyen. Dapatkan senarai semak dengan templat "peringatan faktor risiko/pelindung" dan sahkan bahawa AI tidak menghasilkan sebarang "tahap risiko". Kemudian ambil rangka pelan kosong dengan templat "rangka rangka pelan keselamatan". Secara sedar bertanya kepada AI "apakah tahap risikonya?" dan tulis dalam satu ayat mengapa anda TIDAK harus menggunakan output sebagai keputusan.
senarai semak
- [ ] Saya hanya meminta AI untuk peringatan faktor, bukan keputusan/skor.
- [ ] Saya memproses data paling sensitif hanya dalam alat perusahaan selamat.
- [ ] Saya bercadang untuk mengisi kandungan pelan keselamatan bersama-sama dengan pelanggan.
- [ ] Saya menyemak keluaran AI untuk bias.
- [ ] Saya mengesahkan bahawa keputusan risiko terakhir terletak pada pasukan, penyeliaan dan proses yang sewajarnya.