收益:
- 能够理解人工智能不能用于自杀意念、伤害自己/他人、虐待和忽视等危机情况,并且必须立即咨询人类专家和当局。
- 能够仅在咨询关系之外的准备和文档阶段,甚至在非危机情况下对人工智能的使用施加限制
- 了解法律通知义务、转介链和紧急协议,并能够仅在该协议之后使用人工智能来记录记录,而不是代替它
该单元是整个模块中最重要的单元。目前我们将AI定位为写作和绘图助手;我们在每个单元中画了一个边界。现在,我们正在澄清这些限制中最尖锐的一个,即在任何情况下都不能突破的限制:在危机和风险情况下不使用人工智能。在那里,人类专家、家庭和主管当局至关重要。
危机情况是指学生的生命安全或基本福祉受到直接威胁的情况:自杀意念或企图、自残、威胁伤害他人、性/身体/情感虐待迹象、忽视、严重和急性心理症状(脱离现实、无法控制的恐慌)。这些情况的共同点是时间至关重要,决策需要专家判断、机构协议,通常还需要法律框架。程序进入这里既不道德又危险。
为什么人工智能在危机中从不使用?
具体原因有五个。第一,责任:危机决策的法律和职业责任属于个人;无法转移到程序中。其次,背景和判断:危机评估需要了解学生的专业人士的即时观察、语气、背景和机构资源;人工智能无法实现这一切。第三,产生幻觉的风险:错误的“评估”或“建议”在这里可能是致命的。第四,时间:危机中度过的每一分钟都是宝贵的;正确的反应是操作协议,而不是在车辆上写字。第五,隐私和法律:危机数据是最敏感的数据,闯入车辆是严重违法行为。
注意:危机时刻,问AI“我该怎么办?”询问“浪费了宝贵的时间,并造成了委派责任的假象。正确的第一个行动始终是相同的:确保学生的安全并执行紧急协议。”
即使在非危机情况下:远离咨询关系
在危机阈值以下,即使在普通的支持工作中,人工智能的地位也有限。 AI不进入咨询关系。因此,与学生的信任关系、倾听、同理心、治疗过程——这些都是人类独有的、不可剥夺的。人工智能仅在这种关系之外的准备和文档阶段发挥作用(面试前的问题准备、匿名录音后的编辑、材料草稿)。切勿将学生作为“顾问”推荐给人工智能聊天工具;一项计划无法支持青少年的心理健康。
法律通知和转介链
在某些情况下,PDR 专家负有法律通知义务:特别是如果有迹象或声明表明儿童受到虐待或忽视,向有关当局报告这一情况是法律义务,此时保密不能凌驾于通知义务之上。同样,在出现严重风险的情况下,转介链将发挥作用:学校管理部门、家庭(如适用)、医疗保健提供者、相关专家或机构。该链的步骤是一个协议,必须提前知道。
危机结束后,人工智能在这一链条中的唯一合法作用是在专家确定决策、时间和内容后,帮助编写事件的匿名报告或通知信的语言。 AI只能用于后续文档,不能代替协议;即便如此,个人数据也是匿名的。
提示:将您的紧急协议、热线电话号码和调度联系信息打印在您的办公桌上,以便随时查阅。在危机时刻,请参阅之前准备好的文档,而不是记忆或搜索引擎。
一步一步:当面临危机迹象时
- 确保安全。不要让学生独自一人;如果存在直接危险,请立即优先考虑人身安全。
- 保持冷静并倾听。不评判或制造恐慌;认真对待
- 操作协议。根据协议通知学校行政部门和相关人员。
- 通知家人/当局。根据情况和法律义务;如果涉嫌滥用行为,必须报告。
- 运送它。安全地咨询必要的专家/机构。
- 然后记录下来。活动结束后编辑录音;人工智能仅在最后一步中以匿名方式进行。
可复制模板(仅适用于危机后文档)
1) 危机发生后准备匿名会议记录:
您的角色:PDR 写作助理。添加评论、诊断或建议。将我在事件发生后撰写的下面的匿名事实说明编辑为官方报告语言。只是形式和流动;更改内容。匿名事实说明:[粘贴不含个人数据的案例级别说明]
2)协议提醒卡生成器(危机前准备):
您的角色:PDR 助理。为学校危机情况起草一张提醒卡:一份通用的逐项清单,优先考虑安全和协议,标题为“面临危机迹象时的第一步”。我将用我学校的实际协议和联系信息来更新。
3) 团队简报(活动后,匿名):
将以下匿名事件摘要编辑为中立、基于事实的简报,以便与危机团队分享。使用标签和评论;只需包括发生的事情、采取的步骤以及计划的后续行动。摘要:【匿名摘要】
弱方法/强方法
弱(危险):
我的一个学生谈到伤害自己。让我向AI解释一下情况,询问他该怎么做,并实施他的建议。
危机中转向人工智能;时间损失、责任转移错觉、违反保密规定以及虚假“推荐”的风险。
强(正确):
我的一位学生谈到了自残。这是一场危机。无需向人工智能写入任何内容:我不会让学生独自一人,我冷静地倾听,我执行紧急协议,我通知学校管理部门和家人,我向相关专家/机构提供安全转介。我只能事后用人工智能来编辑匿名报告的语言。
三个迷你箱子
案例 1——正确的反射。在一次会议上,该学生表达了自杀的想法。专家没有给人工智能写任何一行字;他没有让学生独自一人,执行了协议,联系了家人和相关卫生机构,并提供了安全转介。事件安全处理后,他仅使用人工智能编辑匿名报告的语言。没有浪费时间,责任仍然在正确的地方。
案例 2 — 通知义务。一名学生的讲述引起了忽视/虐待的怀疑。专家知道此时保密不能凌驾于报告义务之上;它直接操作法律通知和转介链,而没有尝试向人工智能咨询情况。他后来才以匿名方式使用人工智能来编辑通知的官方语言。
情况3——从误导中返回。一位专家考虑告诉一名陷入困境的学生,“你可以尝试与人工智能聊天工具交谈”,但最终决定不这样做:程序无法捕捉青少年的心理,无法检测危机迹象,而且不安全。相反,它提供定期咨询并转介给合适的专家。咨询关系仍与该人保持。
常见错误
- 向 AI 询问危机情况。浪费时间并转移责任。解决方案:直接协议和人类专家。
- 延迟通知。因涉嫌虐待而犹豫不决。解决方案:法律义务胜过保密。
- 引导学生走向人工智能。将咨询关系委托给该计划。解决方案:关系和推荐是人类的。
- 不知道协议。试图记住在危机中该做什么。解决方案:打印出来的现成协议。
- 将危机数据输入工具。泄露最敏感的数据。解决方案:没有个人危机数据进入该工具。
表:既没有人工智能也没有人类?
状态
人工智能的作用
决定/行动
危机评估
无
人类专家+协议
危机干预
无
人类专家+权威
法律通报决定
无
专家(法律义务)
顾问关系
无
人类专家
事发后匿名举报
语言/格式方案
专家撰写并批准
危机前通用协议卡
草案
专家适应现实
综上所述
人工智能绝不会在危机和风险情况下使用;在那里,人类专家、家庭和主管当局至关重要。正确的反应始终是相同的:确保安全、倾听、执行协议、通知必要的当局、安全调度。如果怀疑存在滥用或疏忽行为,法律通知胜过保密。咨询关系是人类独有的、不可剥夺的。人工智能的唯一合法作用是在危机结束后规范匿名文档的语言。
应用任务
为您自己的学校(或虚构的学校)的危机情况创建一张“第一步”提醒卡。用上面的“方案提醒卡”模板获取大纲;然后使用您机构的实际协议、推荐链和联系信息进行更新。将卡放在办公桌上随手可及的地方。请注意,人工智能在此任务中的作用只是一个大致轮廓,实际协议来自该机构。
清单
- [ ]我知道,一旦出现危机,我不会求助于AI,我会直接操作协议。
- [ ] 紧急协议和调度联系信息已打印并可在我身上查看。
- [ ] 我知道在涉嫌滥用/忽视的情况下的法律通知义务。
- [ ] 我不会将学生作为“顾问”推荐给人工智能工具。
- [ ] 我只会将人工智能用于事后匿名文档。