Lợi nhuận:
- Hiểu lý do tại sao trí tuệ nhân tạo không thể đưa ra quyết định trong nguy cơ khủng hoảng, tự tử và gây tổn hại cho bản thân/người khác và tại sao sự can thiệp của con người là bắt buộc.
- Khả năng định vị AI trong đánh giá rủi ro chỉ ở cấp độ nhắc nhở/danh sách kiểm tra, dưới mức đánh giá của chuyên gia
- Khả năng xác định vai trò hạn chế và được kiểm soát của trí tuệ nhân tạo trong giao thức khẩn cấp, đường định tuyến và kế hoạch bảo mật
Đơn vị này vẽ ra ranh giới quan trọng nhất của toàn bộ mô-đun. Có những khoảnh khắc trong lĩnh vực kinh doanh sức khỏe tâm thần không liên quan đến tốc độ, sự dễ dàng hay hiệu quả; chỉ có cuộc đời của một người và trách nhiệm của một chuyên gia lên tiếng. Các tình huống như nguy cơ tự tử, gây tổn hại cho bản thân hoặc người khác, rối loạn tâm thần cấp tính, đe dọa bạo lực, trình báo/lạm dụng trẻ em đều là những khủng hoảng. Trong những thời điểm này, trí tuệ nhân tạo (AI) không thể đưa ra quyết định, đo lường rủi ro, can thiệp và chịu trách nhiệm. Đây không phải là vấn đề "AI chưa đủ tốt"; Khủng hoảng vốn dĩ đòi hỏi sự kết nối theo thời gian thực của con người, khả năng phán đoán lâm sàng và trách nhiệm giải trình. Trong phần này, bạn sẽ tìm hiểu lý do tại sao AI sẽ dừng lại trong một cuộc khủng hoảng, tại sao con người lại quan trọng và AI có thể giữ vai trò hạn chế nào nhất.
Tại sao AI không thể đưa ra quyết định trong thời kỳ khủng hoảng
Đánh giá khủng hoảng đòi hỏi bốn điều và cả hai đều không đủ trong AI:
- Mối quan hệ thời gian thực. Dấu hiệu thực sự của rủi ro thường không nằm ở lời nói; Nó ẩn chứa trong giọng điệu, sự ngắt quãng, cái nhìn, ngôn ngữ cơ thể, những điều “không nói ra”. AI nhìn thấy một văn bản; không nhìn thấy người.
- Lý luận lâm sàng toàn diện. Rủi ro; Đó là sự cân nhắc trực tiếp của hàng chục yếu tố như lịch sử, yếu tố bảo vệ, tính bốc đồng, khả năng tiếp cận (tiếp cận phương pháp), hệ thống hỗ trợ. AI có thể đưa ra “điểm rủi ro” cơ học, nhưng điểm đó sẽ không cứu được con người.
- Trách nhiệm và trách nhiệm giải trình. Phải có người ra quyết định xử lý khủng hoảng, người chịu trách nhiệm nếu cần thiết và người đảm nhận cuộc sống của khách hàng. AI không thể chịu trách nhiệm.
- Năng lực đáp ứng. Điều cần thiết trong cơn khủng hoảng (lập kế hoạch an toàn, có sự tham gia của gia đình, chỉ dẫn đến phòng cấp cứu, chuyển đến bệnh viện) là những hành động cụ thể, do con người thực hiện.
Thận trọng: Khi khách hàng có dấu hiệu rủi ro, hãy hỏi AI “có rủi ro không?” Hỏi " là trì hoãn quyết định và trốn tránh trách nhiệm. Trong khủng hoảng, chuyên gia vào cuộc TRỰC TIẾP. AI không có vai trò quyết định vào lúc này. Đường dây nóng và chuỗi hỗ trợ con người được kích hoạt khi cần thiết.
Sự nguy hiểm của AI trong khủng hoảng chatbot
Trong những năm gần đây, chatbot AI có nội dung “hãy để tôi hỗ trợ bạn” đã trở nên phổ biến. Mối nguy hiểm của họ trong một cuộc khủng hoảng là rất nghiêm trọng: bot có thể hiểu nhầm một tin nhắn tự sát, trốn tránh chủ đề, đưa ra phản hồi sáo rỗng hoặc (như các trường hợp được ghi lại) phản hồi theo cách có hại. Một người cảm nhận được rằng người kia đang gặp nguy hiểm thực sự và hành động; bot không thể làm điều này một cách đáng tin cậy. Vì vậy, đừng bao giờ giới thiệu khách hàng đang gặp khủng hoảng đến sử dụng chatbot.
Vai trò hạn chế được chấp nhận của AI
AI không thể đưa ra quyết định trong thời kỳ khủng hoảng; nhưng BÊN NGOÀI buổi học, chuyên gia có thể có vai trò rất hạn chế trong việc hỗ trợ công việc của chính mình:
- Nhắc nhở/danh sách kiểm tra. Chuẩn bị dưới dạng danh sách kiểm tra các lĩnh vực mà chuyên gia không nên quên hỏi khi đánh giá rủi ro (chuyên gia sử dụng nó chứ không phải khách hàng).
- Dự thảo Nghị định thư. Chuẩn bị dự thảo quy trình xử lý khủng hoảng của tổ chức, danh sách đường dây giới thiệu, mẫu kế hoạch bảo mật (sau đó chuyên gia/tổ chức phê duyệt).
- Đào tạo/tập luyện. Diễn tập kịch bản tưởng tượng (không có khách hàng thực sự) để cải thiện kỹ năng phỏng vấn khủng hoảng của chuyên gia.
Điểm chung của những vai trò này: AI không bao giờ ở vị trí đưa ra quyết định trong một cuộc khủng hoảng trực tiếp, với một khách hàng thực sự.
Tình huống
Vai trò của AI
Ai quyết định
Khủng hoảng trực tiếp (khách hàng gặp rủi ro)
KHÔNG có vai trò quyết định
Chuyên gia, trực tiếp và ngay lập tức
Ngoài buổi học: chuẩn bị danh sách kiểm tra
nhắc nhở dự thảo
Chuyên gia phê duyệt/sử dụng
Giao thức xử lý khủng hoảng/viết mẫu
bản thảo văn bản
Chuyên gia/cơ quan phê duyệt
Hướng dẫn khách hàng trong cơn khủng hoảng
Bị cấm (không bao giờ trò chuyện bot)
chuỗi hỗ trợ con người
ba trường hợp nhỏ
Trường hợp 1 - Bảo vệ biên giới. Một khách hàng nói trong một buổi trị liệu: "Tôi không thể chịu đựng được nữa, tôi muốn kết thúc nó." Chuyên gia nghĩ: “Tôi sẽ viết điều này cho AI và yêu cầu nó hỏi về mức độ nghiêm trọng của nó”, nhưng rồi dừng lại. Thay vào đó, anh ta chuyển sang đánh giá rủi ro một cách trực tiếp, bình tĩnh và trực tiếp: tần suất suy nghĩ, kế hoạch, phương pháp, phạm vi tiếp cận, nói về các yếu tố bảo vệ; lập kế hoạch an ninh; kích hoạt các hỗ trợ cần thiết. Quyết định và trách nhiệm thuộc về con người từ đầu đến cuối; Sẽ không đúng chút nào nếu AI bước vào thời điểm này.
Trường hợp 2 - Thuyền không đủ khả năng. Một tổ chức đang xem xét triển khai chatbot AI để hỗ trợ ngoài giờ làm việc. Trong thử nghiệm thí điểm, bot phản hồi bằng phản hồi chung chung là "bảo trọng" đối với thông báo gợi ý tự tử; Nó không nhận ra cũng không chỉ đạo rủi ro. Cơ quan quyết định bot không an toàn trong khủng hoảng; Thay vào đó, nó thiết lập một hệ thống rõ ràng hướng mọi người đến đường dây giải quyết khủng hoảng thực sự và chuyên gia trực trong các tình huống ngoài giờ làm việc.
Trường hợp 3 - Sử dụng đúng hạn chế. Để củng cố hoạt động đánh giá rủi ro của chính mình, một chuyên gia yêu cầu AI cung cấp “danh sách kiểm tra các lĩnh vực mà tôi nên nhớ để hỏi trong một cuộc phỏng vấn đánh giá rủi ro tự tử toàn diện”. AI tạo ra một danh sách nhắc nhở tốt; Chuyên gia giữ nó trong túi của mình như một tấm lưới an toàn. Ở đây, AI hoàn toàn không chạm vào khách hàng; Nó chỉ hỗ trợ sự chuẩn bị của chuyên gia. Đây là giới hạn có thể chấp nhận được.
Lời nhắc và mẫu có thể sao chép
Lưu ý: Không nên sử dụng mẫu nào trong số này trong cuộc khủng hoảng trực tiếp với khách hàng thực tế. Tất cả đều ở bên ngoài buổi học, để chuyên gia tự chuẩn bị.
Chuẩn bị DANH SÁCH KIỂM TRA chung để chuyên gia không quên hỏi trong đánh giá rủi ro (tần suất/cường độ suy nghĩ, kế hoạch, khả năng tiếp cận phương pháp, các yếu tố bảo vệ, lịch sử, hệ thống hỗ trợ). Danh sách này chỉ là lời nhắc nhở của chuyên gia; Rủi ro QUYẾT ĐỊNH không được đưa ra, nó không được đưa ra cho khách hàng.
Soạn thảo mẫu GIAO THỨC THAM KHẢO KHỦNG HOẢNG cho tổ chức của chúng tôi: các bước bật/tắt giờ, gọi cho ai, giới thiệu đến đường dây khẩn cấp, tài liệu. Các chuyên gia và ban quản lý của chúng tôi sẽ xem xét điều này và phê duyệt nó theo thực tế và pháp luật địa phương.
Chuẩn bị bản thảo TRỐNG của mẫu kế hoạch an toàn: biển cảnh báo, chiến lược ứng phó, hỗ trợ mọi người, giao tiếp chuyên nghiệp, làm cho môi trường an toàn. Chuyên gia sẽ điền nội dung trực tiếp với khách hàng; Bạn chỉ cần đưa ra mẫu trống.
Thiết lập một kịch bản diễn tập TƯỢNG TƯỢNG (không có khách hàng thực sự) để cải thiện kỹ năng phỏng vấn khủng hoảng của tôi. Hãy để tôi trả lời với vai trò chuyên gia của mình, sau đó đưa ra phản hồi mang tính xây dựng về cách tiếp cận của tôi. Đây là một buổi diễn tập, không phải là một trường hợp thực sự.
Dấu nhắc yếu / Dấu nhắc mạnh
Lời nhắc yếu ớt: "Khách hàng này nói: [cụm từ]. Nguy cơ tự sát có cao không, tôi phải làm sao?"
Lời nhắc này giao quyền quyết định khủng hoảng cho AI; AI không thể đo lường rủi ro, không thể chịu trách nhiệm và thời điểm này cần có sự can thiệp của con người trong thời gian thực. Việc sử dụng này là nguy hiểm.
Lời nhắc mạnh mẽ: "Tôi đã hết phiên, không có khách hàng thực sự. Để trau dồi kỹ năng đánh giá rủi ro của mình, hãy lập danh sách như một lời nhắc nhở về những lĩnh vực tôi không nên đề cập trong cuộc phỏng vấn về rủi ro tự tử. Quyết định và can thiệp sẽ là trách nhiệm của tôi trong tình huống thực tế."
Lời nhắc này chỉ sử dụng AI làm công cụ chuẩn bị ngoài phiên; Khủng hoảng để lại quyết định cho người đó.
Những lỗi thường gặp
- Yêu cầu AI đưa ra quyết định khủng hoảng. "Có nguy cơ không?" tư vấn AI; là bỏ lỡ quyết định và trách nhiệm.
- Hướng khách hàng đang gặp khủng hoảng đến bot. Quên rằng chatbot không thể quản lý rủi ro một cách đáng tin cậy.
- Nhầm điểm rủi ro là thật. Thay thế đầu ra “mức rủi ro” cơ học từ AI để đánh giá lâm sàng.
- Di chuyển công cụ dàn dựng để sử dụng trực tiếp. Sử dụng danh sách kiểm tra ngoài phiên trong cuộc khủng hoảng trực tiếp với sự tư vấn của AI.
- Không thiết lập chuỗi hỗ trợ con người. Dựa vào AI thay vì hệ thống xử lý khủng hoảng/chuyên gia thực sự sau giờ làm việc trong tổ chức.
Tóm lại
Nguy cơ khủng hoảng, tự tử và tổn hại là giới hạn rõ ràng nhất của mô-đun: trong những thời điểm này, AI không thể đưa ra quyết định, đo lường rủi ro, can thiệp và chịu trách nhiệm. Bởi vì một cuộc khủng hoảng đòi hỏi sự tham gia theo thời gian thực, đánh giá lâm sàng toàn diện, trách nhiệm giải trình và sự can thiệp của con người. Vai trò duy nhất được chấp nhận đối với AI là danh sách kiểm tra, bản phác thảo giao thức/mẫu và diễn tập đào tạo, BÊN NGOÀI buổi học, hỗ trợ sự chuẩn bị của chính chuyên gia. Không bao giờ hướng khách hàng đang gặp khủng hoảng đến chatbot; Chuỗi hỗ trợ con người và đường dây nóng được kích hoạt.
Nhiệm vụ ứng dụng
Vẽ sơ đồ xử lý khủng hoảng cho cơ quan hoặc tổ chức của riêng bạn: điều gì sẽ xảy ra từng bước khi khách hàng thể hiện rủi ro, ai được gọi, họ được giới thiệu đến những dòng nào? Xác minh rằng AI không phải là người ra quyết định ở bất kỳ bước nào trong quy trình này. Đồng thời lấy danh sách kiểm tra đánh giá rủi ro ngoài phiên từ AI và viết thành một câu tại sao đó chỉ là lời nhắc của bạn và không thể đưa cho khách hàng.
danh sách kiểm tra
- [ ] Tôi không trao vai trò quyết định nào cho AI trong cuộc khủng hoảng trực tiếp.
- [ ] Tôi trực tiếp thực hiện việc đánh giá và ứng phó khủng hoảng.
- [ ] Tôi không hướng khách hàng đang gặp khủng hoảng đến chatbot.
- [ ] Tôi chỉ sử dụng AI để chuẩn bị ngoài buổi học (danh sách kiểm tra/giao thức/diễn tập).
- [ ] Tôi đã xác định chuỗi và đường dây nóng hỗ trợ con người của công ty.
- [ ] Tôi đã nội tâm hóa rằng quyết định và trách nhiệm đối với cuộc khủng hoảng nằm ở con người.