Lợi nhuận:
- Khả năng hiểu rằng trí tuệ nhân tạo không thể được sử dụng trong các tình huống khủng hoảng như ý tưởng tự tử, làm hại bản thân/người khác, lạm dụng và bỏ bê, và bắt buộc phải tham khảo ý kiến ngay lập tức của các chuyên gia và cơ quan chức năng về con người.
- Khả năng áp đặt các giới hạn chỉ sử dụng trí tuệ nhân tạo trong giai đoạn chuẩn bị và lập hồ sơ, ngoài mối quan hệ tư vấn, ngay cả trong các tình huống không khủng hoảng
- Biết nghĩa vụ thông báo pháp lý, chuỗi giới thiệu và giao thức khẩn cấp và có thể sử dụng trí tuệ nhân tạo trong việc ghi lại hồ sơ chỉ sau giao thức này chứ không phải thay thế nó
Đơn vị này là đơn vị quan trọng nhất của toàn bộ mô-đun. Cho đến nay, chúng tôi đã định vị AI là trợ lý viết và soạn thảo; Chúng tôi đã vẽ một đường viền ở mỗi đơn vị. Bây giờ chúng tôi đang làm rõ giới hạn rõ ràng nhất trong số những giới hạn đó, giới hạn không thể bị kéo dài trong bất kỳ trường hợp nào: Trí tuệ nhân tạo không được sử dụng trong các tình huống khủng hoảng và rủi ro. Ở đó, các chuyên gia con người, gia đình và cơ quan có thẩm quyền là rất cần thiết.
Tình huống khủng hoảng là tình huống trong đó sự an toàn tính mạng hoặc sức khỏe cơ bản của học sinh bị đe dọa ngay lập tức: có ý định hoặc cố gắng tự tử, tự làm hại bản thân, đe dọa làm hại người khác, có dấu hiệu lạm dụng tình dục/thể chất/cảm xúc, bỏ bê, triệu chứng tâm lý nghiêm trọng và cấp tính (tách rời khỏi thực tế, hoảng loạn không kiểm soát được). Điểm chung của những tình huống này là thời gian là điều cốt yếu và quyết định đòi hỏi sự đánh giá của chuyên gia, quy trình thể chế và thường là khuôn khổ pháp lý. Một chương trình vào đây vừa phi đạo đức vừa nguy hiểm.
Tại sao AI không bao giờ được sử dụng trong khủng hoảng?
Có năm lý do cụ thể. Thứ nhất, trách nhiệm: Trách nhiệm pháp lý và nghề nghiệp đối với quyết định xử lý khủng hoảng thuộc về một người; không thể chuyển sang chương trình. Thứ hai, bối cảnh và phán đoán: Đánh giá khủng hoảng đòi hỏi sự quan sát ngay lập tức, giọng điệu, nền tảng và nguồn lực thể chế của chuyên gia biết sinh viên; AI không thể đạt được bất kỳ điều nào trong số này. Thứ ba, nguy cơ xảy ra ảo giác: một “đánh giá” hay “gợi ý” sai lầm ở đây có thể gây tử vong. Thứ tư, thời gian: Mỗi phút trải qua cơn khủng hoảng đều có giá trị; Phản xạ đúng là vận hành giao thức chứ không phải viết lên xe. Thứ năm, quyền riêng tư và luật pháp: Dữ liệu khủng hoảng là dữ liệu nhạy cảm nhất và việc đột nhập vào phương tiện là vi phạm nghiêm trọng.
Thận trọng: Trong cơn khủng hoảng, hãy hỏi AI "tôi nên làm gì?" Hỏi " lãng phí thời gian quý báu và tạo ra ảo tưởng về việc giao phó trách nhiệm. Hành động đúng đắn đầu tiên luôn giống nhau: đảm bảo an toàn cho học sinh và vận hành quy trình khẩn cấp.
Ngay cả trong những tình huống không khủng hoảng: hãy tránh xa mối quan hệ tư vấn
Dưới ngưỡng khủng hoảng, AI có vị trí hạn chế ngay cả trong công việc hỗ trợ thông thường. AI không tham gia vào mối quan hệ tư vấn. Vì vậy, mối quan hệ tin cậy với học sinh, sự lắng nghe, sự đồng cảm, quá trình trị liệu - tất cả đều là những điều đặc biệt của con người và không thể tách rời. AI chỉ hoạt động trong giai đoạn chuẩn bị và ghi tài liệu ngoài mối quan hệ này (chuẩn bị câu hỏi trước phỏng vấn, chỉnh sửa bản ghi âm sau ẩn danh, soạn thảo tài liệu). Không bao giờ giới thiệu học sinh đến công cụ trò chuyện AI với tư cách là “cố vấn”; Một chương trình không thể hỗ trợ sức khỏe tinh thần của thanh thiếu niên.
Chuỗi thông báo pháp lý và giới thiệu
Chuyên gia PDR có nghĩa vụ thông báo pháp lý trong một số trường hợp: đặc biệt nếu có dấu hiệu hoặc tuyên bố rằng trẻ đã bị lạm dụng hoặc bỏ bê thì nghĩa vụ pháp lý là phải báo cáo điều này với các cơ quan hữu quan và tính bảo mật không thể lấn át nghĩa vụ thông báo tại thời điểm này. Tương tự, trong trường hợp rủi ro nghiêm trọng, chuỗi giới thiệu sẽ hoạt động: ban giám hiệu nhà trường, gia đình (nếu thích hợp), nhà cung cấp dịch vụ chăm sóc sức khỏe, chuyên gia hoặc tổ chức có liên quan. Các bước của chuỗi này là một giao thức và phải được biết trước.
Vai trò hợp pháp duy nhất của AI trong chuỗi này, sau khi khủng hoảng kết thúc, là giúp biên soạn một báo cáo ẩn danh về sự kiện hoặc ngôn ngữ của thư thông báo—sau khi chuyên gia xác định quyết định, thời gian và nội dung. AI chỉ có thể được sử dụng trong tài liệu tiếp theo, không thay thế được giao thức; Thậm chí sau đó, dữ liệu cá nhân được ẩn danh.
Mẹo: Giữ giao thức khẩn cấp, số điện thoại đường dây nóng và thông tin liên hệ điều phối được in và có thể truy cập được trên bàn của bạn. Trong thời kỳ khủng hoảng, hãy tham khảo tài liệu đã chuẩn bị trước đó chứ không phải bộ nhớ hoặc công cụ tìm kiếm.
Từng bước một: khi đối mặt với dấu hiệu khủng hoảng
- Đảm bảo an ninh. Đừng để học sinh một mình; Nếu có mối nguy hiểm trước mắt, hãy ưu tiên an toàn về thể chất ngay lập tức.
- Hãy bình tĩnh và lắng nghe. Không phán xét hay tạo ra sự hoảng sợ; hãy nghiêm túc nhé
- Vận hành giao thức. Thông báo cho ban giám hiệu nhà trường và những người có liên quan theo quy trình.
- Thông báo cho gia đình/chính quyền. Tùy theo tình hình và nghĩa vụ pháp lý; Báo cáo là bắt buộc trong trường hợp nghi ngờ có hành vi lạm dụng.
- Gửi nó đi. Tham khảo một cách an toàn đến chuyên gia/cơ quan cần thiết.
- Sau đó ghi lại nó. Chỉnh sửa bản ghi sau khi sự kiện đã qua; AI chỉ ở bước cuối cùng này, ẩn danh.
Các mẫu có thể sao chép (chỉ dành cho tài liệu SAU khủng hoảng)
1) Chuẩn bị biên bản ẩn danh sau khủng hoảng:
Vai trò của bạn: Trợ lý viết bài của PDR. THÊM BÌNH LUẬN, chẩn đoán hoặc gợi ý. Chỉnh sửa ghi chú ẩn danh bên dưới, do tôi viết SAU vụ việc, sang ngôn ngữ báo cáo chính thức. Chỉ hình thành và trôi chảy; thay đổi nội dung. Ghi chú thực tế ẩn danh: [dán ghi chú cấp trường hợp không có dữ liệu cá nhân]
2) Trình tạo thẻ nhắc nhở giao thức (chuẩn bị trước khủng hoảng):
Vai trò của bạn: Trợ lý PDR. Soạn thảo thẻ NHẮC NHỞ cho các tình huống khủng hoảng ở trường học: danh sách kiểm tra chung, từng mục ưu tiên an toàn và quy trình, có tiêu đề "Các bước đầu tiên khi đối mặt với các dấu hiệu khủng hoảng". Tôi sẽ cập nhật thông tin này với quy định thực tế và thông tin liên hệ của trường tôi.
3) Ghi chú tóm tắt của nhóm (sau sự kiện, ẩn danh):
Chỉnh sửa bản tóm tắt sự cố ẩn danh sau đây thành bản tóm tắt trung lập, dựa trên thực tế để chia sẻ với nhóm xử lý khủng hoảng. Sử dụng thẻ và nhận xét; chỉ cần bao gồm những gì đã xảy ra, những bước đã được thực hiện và kế hoạch tiếp theo. Tóm tắt: [tóm tắt ẩn danh]
Cách tiếp cận yếu/Cách tiếp cận mạnh mẽ
Yếu (nguy hiểm):
Một học trò của tôi đã nói về việc tự làm hại chính mình. Hãy để tôi giải thích tình huống đó cho AI, hỏi anh ấy phải làm gì và thực hiện đề xuất của anh ấy.
Chuyển sang AI đang gặp khủng hoảng; mất thời gian, ảo tưởng về việc chuyển giao trách nhiệm, vi phạm tính bảo mật và nguy cơ "khuyến nghị" sai lầm.
Mạnh (đúng):
Một trong những học sinh của tôi đã nói về việc tự làm hại bản thân. Đây là một cuộc khủng hoảng. Không viết BẤT CỨ ĐIỀU GÌ cho AI: Tôi không để học sinh một mình, tôi bình tĩnh lắng nghe, tôi vận hành quy trình khẩn cấp, tôi thông báo cho ban giám hiệu nhà trường và gia đình, tôi giới thiệu an toàn đến chuyên gia/tổ chức liên quan. Tôi chỉ có thể sử dụng AI để chỉnh sửa ngôn ngữ của báo cáo ẩn danh sau khi thực tế.
ba trường hợp nhỏ
Trường hợp 1 - Phản xạ đúng. Trong một lần gặp mặt, sinh viên này đã bày tỏ ý định tự tử. Chuyên gia không viết một dòng nào cho AI; Anh ta không để học sinh một mình, thực hiện quy trình, đến gặp gia đình và cơ quan y tế liên quan và giới thiệu an toàn. Sau khi sự việc được xử lý an toàn, anh chỉ sử dụng AI để chỉnh sửa ngôn ngữ của báo cáo ẩn danh. Không lãng phí thời gian, trách nhiệm vẫn được đặt đúng chỗ.
Trường hợp 2 - Nghĩa vụ thông báo. Những gì một học sinh kể đã làm dấy lên nghi ngờ về việc bỏ bê/lạm dụng. Chuyên gia biết rằng tính bảo mật không thể phủ nhận nghĩa vụ báo cáo vào thời điểm này; Nó vận hành trực tiếp chuỗi thông báo và giới thiệu pháp lý mà không cố gắng hỏi ý kiến AI về tình huống này. Sau đó, anh ấy chỉ sử dụng AI một cách ẩn danh để chỉnh sửa ngôn ngữ chính thức của thông báo.
Trường hợp 3 - Trở về từ hướng sai. Một chuyên gia đã cân nhắc việc nói với một học sinh đang gặp khó khăn rằng: "Bạn có thể thử nói chuyện với một công cụ trò chuyện AI", nhưng lại quyết định phản đối: một chương trình không thể nắm bắt được tâm lý của thanh thiếu niên, không thể phát hiện các dấu hiệu khủng hoảng và không an toàn. Thay vào đó, nó cung cấp tư vấn thường xuyên và giới thiệu đến một chuyên gia thích hợp. Mối quan hệ tư vấn vẫn còn với người đó.
Những lỗi thường gặp
- Hỏi AI về cuộc khủng hoảng. Lãng phí thời gian và chuyển giao trách nhiệm. Giải pháp: giao thức trực tiếp và chuyên gia con người.
- Trì hoãn thông báo. Do dự khi nghi ngờ bị lạm dụng. Giải pháp: nghĩa vụ pháp lý quan trọng hơn tính bảo mật.
- Hướng học sinh đến AI. Ủy thác mối quan hệ tư vấn cho chương trình. Giải pháp: mối quan hệ và giới thiệu là ở con người.
- Không biết giao thức. Cố gắng nhớ những việc cần làm trong cơn khủng hoảng. Giải pháp: giao thức in sẵn.
- Nhập dữ liệu khủng hoảng vào công cụ. Tiết lộ những dữ liệu nhạy cảm nhất. Giải pháp: không có dữ liệu khủng hoảng cá nhân nào được đưa vào công cụ.
Bảng: Không có AI hay con người?
Trạng thái
Vai trò của AI
quyết định/hành động
đánh giá khủng hoảng
không có
Chuyên gia con người + giao thức
can thiệp khủng hoảng
không có
chuyên gia con người + thẩm quyền
Quyết định thông báo pháp lý
không có
Chuyên gia (nghĩa vụ pháp lý)
mối quan hệ tư vấn
không có
chuyên gia về con người
Báo cáo nặc danh sau vụ việc
Lược đồ ngôn ngữ/định dạng
Chuyên gia viết và phê duyệt
Thẻ giao thức chung trước khủng hoảng
dự thảo
Chuyên gia thích ứng với thực tế
Tóm lại
AI không bao giờ được sử dụng trong các tình huống khủng hoảng và rủi ro; Ở đó, các chuyên gia con người, gia đình và cơ quan có thẩm quyền là rất cần thiết. Phản xạ đúng luôn giống nhau: đảm bảo an ninh, lắng nghe, vận hành giao thức, thông báo cho các cơ quan chức năng cần thiết, điều động an toàn. Trong trường hợp có nghi ngờ về lạm dụng hoặc bỏ bê, thông báo pháp lý sẽ quan trọng hơn tính bảo mật. Mối quan hệ tư vấn là mối quan hệ duy nhất của con người và không thể tách rời. Vai trò hợp pháp duy nhất của AI là điều chỉnh ngôn ngữ của tài liệu ẩn danh sau khi khủng hoảng kết thúc.
Nhiệm vụ ứng dụng
Tạo thẻ nhắc nhở "những bước đầu tiên" về các tình huống khủng hoảng tại trường học của bạn (hoặc một trường học hư cấu). Nhận đề cương với mẫu "thẻ nhắc nhở giao thức" ở trên; Sau đó cập nhật nó với giao thức thực tế, chuỗi giới thiệu và thông tin liên hệ của tổ chức bạn. Đặt thẻ ở nơi dễ lấy trên bàn làm việc của bạn. Lưu ý rằng vai trò của AI trong sứ mệnh này chỉ là một bản phác thảo rộng rãi, giao thức thực tế đến từ cơ quan.
danh sách kiểm tra
- [ ] Tôi biết rằng trong trường hợp khủng hoảng, tôi sẽ không dùng đến AI, tôi sẽ trực tiếp vận hành giao thức.
- [ ] Quy trình khẩn cấp và thông tin liên lạc điều phối được in và tôi có thể truy cập được.
- [ ] Tôi biết nghĩa vụ thông báo pháp lý trong trường hợp nghi ngờ có hành vi lạm dụng/bỏ bê.
- [ ] Tôi sẽ không giới thiệu học sinh đến một công cụ AI với tư cách là "nhà tư vấn".
- [ ] Tôi sẽ chỉ sử dụng AI cho tài liệu ẩn danh, sau sự việc.