Keuntungan:
- Memahami mengapa kecerdasan buatan tidak boleh membuat keputusan dalam risiko krisis, bunuh diri dan bahaya kepada diri sendiri/orang lain dan mengapa campur tangan manusia adalah wajib.
- Keupayaan untuk meletakkan AI dalam penilaian risiko hanya pada peringkat peringatan/senarai semak, di bawah pertimbangan pakar
- Keupayaan untuk menentukan peranan terhad dan terkawal kecerdasan buatan dalam protokol kecemasan, talian laluan dan pelan keselamatan
Unit ini melukis sempadan yang paling penting bagi keseluruhan modul. Terdapat saat-saat dalam perniagaan kesihatan mental di mana ia bukan mengenai kelajuan, kemudahan atau kecekapan; hanya nyawa seorang lelaki dan satu tanggungjawab pakar bercakap. Situasi seperti risiko bunuh diri, bahaya kepada diri sendiri atau orang lain, psikosis akut, ancaman keganasan, melaporkan kanak-kanak/penderaan adalah krisis. Pada saat ini, kecerdasan buatan (AI) tidak boleh membuat keputusan, mengukur risiko, campur tangan dan bertanggungjawab. Ini bukan soal "AI belum cukup bagus"; Krisis sememangnya memerlukan sambungan manusia masa nyata, pertimbangan klinikal dan akauntabiliti. Dalam unit ini, anda akan mengetahui sebab AI akan berhenti dalam krisis, mengapa manusia penting, dan peranan terhad yang boleh dikekalkan oleh AI.
Mengapa AI tidak boleh membuat keputusan dalam krisis
Penilaian krisis memerlukan empat perkara, dan kedua-duanya tidak mencukupi dalam AI:
- Hubungan masa nyata. Tanda-tanda sebenar risiko selalunya bukan dalam kata-kata yang diucapkan; Ia tersembunyi dalam nada suara, jeda, rupa, bahasa badan, "tidak terkata". AI melihat teks; tidak melihat orang.
- Penaakulan klinikal holistik. Risiko; Ia adalah penimbangan langsung berpuluh-puluh faktor seperti sejarah, faktor perlindungan, impulsif, akses (akses kepada kaedah), sistem sokongan. AI mungkin memberikan "skor risiko" mekanikal, tetapi skor itu tidak akan menyelamatkan manusia.
- Tanggungjawab dan akauntabiliti. Mesti ada orang yang menandatangani di sebalik keputusan krisis, yang bertanggungjawab jika perlu, dan yang mengambil nyawa klien. AI tidak boleh memikul tanggungjawab.
- Kapasiti tindak balas. Apa yang diperlukan dalam krisis (membuat pelan keselamatan, melibatkan keluarga, mengarahkan ke bilik kecemasan, merujuk kepada hospital) adalah tindakan konkrit, buatan manusia.
Awas: Apabila pelanggan menunjukkan tanda-tanda risiko, tanya AI "adakah risiko?" Bertanya " adalah untuk menangguhkan keputusan dan mengelak tanggungjawab. Dalam krisis, pakar bertindak secara LANGSUNG. AI tidak mempunyai peranan membuat keputusan pada masa ini. Talian penting dan rantaian sokongan manusia diaktifkan apabila perlu.
Bahaya AI dalam chatbots krisis
Dalam beberapa tahun kebelakangan ini, chatbots AI yang mengatakan "biar saya menyokong anda" telah tersebar luas. Bahaya mereka dalam krisis adalah serius: bot mungkin salah faham mesej bunuh diri, mengelak topik, memberikan respons klise atau (sebagai kes yang didokumenkan) bertindak balas dengan cara yang berbahaya. Seseorang merasakan bahawa orang lain berada dalam bahaya sebenar dan mengambil tindakan; bot tidak boleh melakukan ini dengan pasti. Jadi jangan sekali-kali merujuk pelanggan dalam krisis kepada chatbot.
Peranan terhad AI yang boleh diterima
AI tidak boleh membuat keputusan dalam krisis; tetapi DI LUAR sesi, profesional mungkin mempunyai peranan yang sangat terhad dalam menyokong kerjanya sendiri:
- Peringatan/senarai semak. Menyediakan sebagai senarai semak bidang yang pakar tidak boleh lupa untuk bertanya tentang dalam penilaian risiko (pakar menggunakannya, bukan pelanggan).
- Draf protokol. Menyediakan draf protokol krisis institusi, senarai talian rujukan, templat pelan keselamatan (kemudian pakar/institusi meluluskannya).
- Latihan/latih tubi. Latihan senario khayalan (tiada pelanggan sebenar) untuk meningkatkan kemahiran temu duga krisis pakar.
Apakah persamaan peranan ini: AI tidak pernah berada dalam kedudukan membuat keputusan dalam krisis langsung, dengan pelanggan sebenar.
Situasi
Peranan AI
Siapa yang menentukan
Krisis langsung (klien berisiko)
TIADA peranan keputusan
Pakar, secara langsung dan segera
Di luar sesi: menyediakan senarai semak
draf peringatan
Pakar meluluskan/menggunakan
Penulisan protokol/templat krisis
draf teks
Pakar/institusi meluluskan
Membimbing klien dalam krisis
Dilarang (jangan sesekali bersembang bot)
rantai sokongan manusia
tiga kes mini
Kes 1 — Perlindungan sempadan. Seorang pelanggan berkata dalam satu sesi, "Saya tidak tahan lagi, saya mahu menamatkannya." Pakar itu berfikir, "Saya akan menulis ini kepada AI dan memintanya bertanya tentang keseriusannya," tetapi berhenti. Sebaliknya dia bergerak secara langsung, tenang dan terus ke dalam penilaian risiko: kekerapan pemikiran, rancangan, kaedah, jangkauan, bercakap tentang faktor perlindungan; membuat rancangan keselamatan; mengaktifkan sokongan yang diperlukan. Keputusan dan tanggungjawab adalah milik manusia dari awal hingga akhir; Tidak tepat untuk AI memasuki detik ini sama sekali.
Kes 2 — Ketidakcukupan bot. Sebuah organisasi sedang mempertimbangkan untuk menggunakan chatbot AI untuk sokongan selepas waktu kerja. Dalam ujian perintis, bot bertindak balas dengan respons "jaga" generik kepada mesej yang mencadangkan bunuh diri; Ia tidak mengiktiraf mahupun mengarahkan risiko. Agensi memutuskan bot itu tidak selamat dari krisis; Sebaliknya, ia mewujudkan sistem yang jelas yang mengarahkan orang ramai ke talian krisis sebenar dan pakar atas panggilan untuk situasi di luar waktu.
Kes 3 — Betulkan penggunaan terhad. Untuk mengukuhkan amalan penilaian risikonya sendiri, seorang pakar meminta AI untuk "senarai semak bidang yang saya harus ingat untuk bertanya tentang dalam temu bual penilaian risiko bunuh diri yang komprehensif." AI menghasilkan senarai peringatan yang baik; Pakar itu menyimpannya di dalam begnya sebagai jaring keselamatan. Di sini, AI tidak menyentuh pelanggan sama sekali; Ia hanya menyokong penyediaan pakar. Ini adalah had yang boleh diterima.
Gesaan dan templat yang boleh disalin
Nota: Tiada satu pun daripada templat ini harus digunakan dalam krisis langsung dengan pelanggan sebenar. Semua di luar sesi, untuk persediaan pakar sendiri.
Sediakan SENARAI SEMAK am supaya seorang profesional tidak lupa bertanya dalam penilaian risiko (kekerapan/intensiti pemikiran, pelan, akses kepada kaedah, faktor perlindungan, sejarah, sistem sokongan). Senarai ini hanyalah peringatan pakar sendiri; KEPUTUSAN Risiko tidak diberikan, ia tidak diberikan kepada klien.
Draf templat PROTOKOL RUJUKAN KRISIS untuk organisasi kami: langkah hidup/mati, siapa yang perlu dihubungi, rujukan kepada talian kecemasan, dokumentasi. Pakar dan pengurusan kami akan menyemak perkara ini dan meluluskannya mengikut realiti dan perundangan tempatan.
Sediakan draf KOSONG templat pelan keselamatan: tanda amaran, strategi mengatasi, orang sokongan, komunikasi profesional, menjadikan persekitaran selamat. Pakar akan mengisi kandungan secara bersemuka dengan pelanggan; Anda hanya berikan templat kosong.
Sediakan senario latihan IMAGINARY (tiada pelanggan sebenar) untuk meningkatkan kemahiran wawancara krisis saya. Biar saya menjawab dalam peranan pakar saya, kemudian berikan saya maklum balas yang membina tentang pendekatan saya. Ini adalah latihan latihan, bukan kes sebenar.
Gesaan lemah / Gesaan kuat
Gesaan lemah: "Pelanggan ini berkata: [frasa]. Adakah terdapat risiko bunuh diri yang tinggi, apakah yang perlu saya lakukan?"
Gesaan ini mewakilkan keputusan krisis kepada AI; AI tidak dapat mengukur risiko, tidak boleh bertanggungjawab, dan saat ini memerlukan campur tangan manusia masa nyata. Penggunaan ini berbahaya.
Gesaan kuat: "Saya keluar dari sesi, tidak ada pelanggan sebenar. Untuk menyempurnakan kemahiran penilaian risiko saya, buat senarai sebagai peringatan tentang bidang yang tidak sepatutnya saya bincangkan dalam temu duga risiko bunuh diri. Keputusan dan campur tangan akan menjadi tanggungjawab saya dalam situasi sebenar."
Gesaan ini menggunakan AI hanya sebagai alat penyediaan di luar sesi; Krisis menyerahkan keputusan kepada orang itu.
Kesilapan biasa
- Meminta AI untuk keputusan krisis. "Adakah risiko?" perundingan AI; adalah terlepas keputusan dan tanggungjawab.
- Menghalakan klien dalam krisis ke bot. Terlupa bahawa chatbot tidak boleh menguruskan risiko dengan pasti.
- Tersilap skor risiko yang sebenar. Menggantikan output "tahap risiko" mekanikal daripada AI untuk penilaian klinikal.
- Menggerakkan alat pementasan untuk digunakan secara langsung. Menggunakan senarai semak di luar sesi dalam krisis langsung dengan berunding dengan AI.
- Tidak mewujudkan rantaian sokongan manusia. Bergantung pada AI dan bukannya sistem talian pakar/krisis sebenar untuk selepas waktu kerja dalam organisasi.
Secara ringkasnya
Risiko krisis, bunuh diri dan bahaya adalah had paling jelas bagi modul: pada saat ini AI tidak boleh membuat keputusan, mengukur risiko, campur tangan dan bertanggungjawab. Kerana krisis memerlukan penglibatan masa nyata, pertimbangan klinikal holistik, akauntabiliti dan campur tangan manusia. Satu-satunya peranan yang boleh diterima untuk AI adalah sebagai senarai semak, draf protokol/templat, dan latihan latihan, DI LUAR sesi, menyokong persediaan profesional itu sendiri. Jangan sekali-kali mengarahkan pelanggan dalam krisis ke chatbot; Rantaian sokongan manusia dan talian hotline diaktifkan.
Tugasan permohonan
Lukiskan aliran penghalaan krisis untuk amalan atau organisasi anda sendiri: apakah yang berlaku langkah demi langkah apabila pelanggan menunjukkan risiko, siapa yang dipanggil, talian apakah yang dirujuk? Sahkan bahawa AI bukanlah pembuat keputusan pada mana-mana langkah aliran ini. Juga tarik keluar senarai semak penilaian risiko di luar sesi daripada AI dan tulis dalam satu ayat mengapa ia hanya peringatan anda dan tidak boleh diberikan kepada pelanggan.
senarai semak
- [ ] Saya tidak memberikan peranan keputusan kepada AI dalam krisis langsung.
- [ ] Saya secara langsung menjalankan penilaian krisis dan tindak balas sendiri.
- [ ] Saya tidak mengarahkan pelanggan dalam krisis ke chatbot.
- [ ] Saya menggunakan AI hanya untuk penyediaan di luar sesi (senarai semak/protokol/latihan).
- [ ] Saya mentakrifkan rantaian sokongan manusia korporat dan talian penting.
- [ ] Saya telah menyedari bahawa keputusan dan tanggungjawab untuk krisis terletak pada orang itu.