收益：
- 能够在从应用程序到结束的每个阶段一致地嵌入人工智能，并具有六个人工验证门
- 能够建立具有批准的工具列表、数据政策、角色、注册、培训和持续审查的公司治理框架
- 能够将人类责任、验证、隐私/KVKK、遵守证据、偏见控制和以客户为中心的原则嵌入到工作流程中
在本模块中，我们介绍了如何使用人工智能以及在社会工作的不同任务中如何停止人工智能——文档、评估、风险支持、转介、计划、报告、沟通、项目设计。在最后一个单元中，我们将各个部分放在一起：人工智能将从申请到结案的端到端过程中，人工验证门在每个阶段停止，我们将建立在组织中可持续发展所需的治理框架。目标是将分散的技巧变成一致且可重复的工作纪律。
从一开始就遵循一体化原则：人工智能是工作流程每一步的加速器，而不是任何一步的决策者。每个阶段都有一扇人门，不经过一扇门就无法进入下一个阶段。这种分层结构可以防止单一的幻觉、偏见或隐私错误渗透到影响客户生活的决策中。
端到端流程和六个人门
让我们考虑一个案例的典型阶段，并在每个阶段放置一个验证门：
1.申请/第一次接触——门：隐私。当第一条信息到来时，人工智能将用于面试准备（指南、问题框架）。门：没有实际的客户数据进入打开工具；询问班级，匹配车辆。
2. 评估——门：临床判断。人工智能将笔记组织成生物心理社会维度，并提醒缺点和优点。门：诊断和评估属于专科医生； AI不评价。
3、风险——门：权威和团队。人工智能提醒风险/保护因素并创建安全计划框架。门：风险决策仅由专家、团队、监督和法律程序做出；人工智能不产生分数/决定。
4. 规划和指导——门：验证和客户。 AI 将目标放入 SMART 中，生成资源想法和信件草稿。门：客户设定目标；服务/地址/条件已从官方来源核实。
5. 报告和沟通——门：证据和问责。人工智能构建报告、简化并翻译文本。门：每一个案件都要靠证据，意见属于专家，关键信息丢失和偏见都经过检查，签名在人。
6. 关闭和交接——门：准确性。 YZ 按时间顺序总结了该文件。门：仅根据记录进行总结；结果和学习内容均经过专家验证。
提示：使用一个问题来记住门：“在这一步中，AI 会做出决定还是绘制草图？”如果答案是“决定”，那么停止——这一步属于人类。如果答案是“草稿”，请继续，但在未验证输出的情况下不要进入下一步。
公司治理：个人纪律是不够的
专家的好习惯很宝贵，但也很脆弱；在组织中安全、一致地使用人工智能需要一个治理框架。该框架的关键组成部分是：
- 批准的车辆清单。哪个工具将用于哪个作业以及哪些数据可以输入哪个工具，都是书面明确的。 “每个人都应该使用他们想要的任何工具”是一个安全漏洞。
- 数据分类政策。定义哪些数据将在开放工具中处理，哪些数据将仅在安全系统中处理。
- 角色和权限。很清楚谁可以做什么以及哪个决策取决于哪个权威（尤其是风险决策）。
- 日志和审计跟踪。可以监控人工智能的使用地点和方式；当出现问题时，可以回头查看。
- 教育和意识。每个员工都了解本模块的原理；新人已经训练好了。
- 不断的审查。工具、风险和立法发生变化；该框架定期更新。政策一旦制定并被遗忘就变得过时了。
三个迷你箱子
案例 1 — 门在链的开头遇到了错误。在一个案例中，人工智能添加了客户在评估阶段未提及的观察结果。在“临床判断”门口，专家发现了这一点并将其删除。如果他没有被抓住，这种捏造的观察可能会泄漏到计划中，从那里泄漏到报告中，再从那里泄漏到法庭判决中。分层身份验证最早阻止了错误。
案例 2——治理防止了违规行为。一个组织在没有经过批准的工具列表和数据政策的情况下运营；每个人都使用自己的车辆。审计显示，几名员工正在将实际的客户数据输入开放工具中。该组织建立了治理框架：批准的工具、数据分类、培训和注册。在接下来的一段时间内，违规数量降至零。教训：没有制度结构，个人的善意是不够的。
案例 3 — 持续审查保持最新状态。一个组织一年前制定的人工智能政策在新型工具和更新的立法面前已经过时。年度审查抓住了这一点；政策更新了，培训也更新了。这个框架仍然是一个活的文件，而不是一个架子装饰品。
四个可复制模板
1) 案例流程验证门检查清单：
你的角色：主管。我得到了以下案例步骤的验证清单：人工智能在此步骤中可以起草什么，哪些决定必须是人类的，应该进行哪些隐私和偏见检查，在进入下一步之前我应该验证什么？步骤：【申请/评估/风险/计划/报告/结案】
2）确认车辆匹配：
对于下面列出的每个任务，请指定可以使用的 AI 工具的类型（开放工具/仅限安全企业系统/无可用的 AI）和理由。将包含客户端数据的每个任务标记为“仅限安全系统”。任务：[列出任务]
3）企业人工智能政策草案：
您的角色：公司政策编辑。为社会服务机构起草负责任的人工智能使用政策；涵盖以下主题：目的、批准的工具、数据分类、角色和授权、隐私/KVKK、风险决策限制、记录和审计、培训、审查时间表。建立总体框架；该机构将填写自己的详细信息。
4）自我监管（个人使用情况审查）：
创建一个包含 10 个问题的自我检查表，让我回顾自己作为社会工作者对人工智能的使用情况：隐私、验证、偏见、证据保真度、决策限制和以客户为中心。让每个问题都用“是/否”来回答。
弱提示/强提示
弱提示：
我把这个案子的全部情况告诉你；从申请到报告的所有事情都由你来处理，我在最后签字即可。
这是将整个流程——包括隐私、临床判断、风险判断、遵守证据——外包给软件。最后的单一签名让我们看不到其中的所有错误、捏造和偏见。
强力提示：
你的角色：编辑，在每一步中为我提供帮助。我将一步步处理这个案例（评估、计划、报告……）。在每个步骤中：仅使用匿名/安全数据，生成草稿，让我决定，不要添加注释中未包含的内容，并提醒我在继续下一步之前需要验证的内容。让我们从这一步开始：[步骤]
区别在于：每一步都把守大门，并将人工智能定位为一步一步的助手，在保持速度的同时保持安全和责任感。
阶段-关卡-责任总结
舞台
人工智能的贡献
人门
关键控制
应用
面试准备
隐私
数据类
评价
尺寸编辑
临床判断
没有诊断，没有捏造
风险
因素提醒
权威+团队
无得分/决定
计划/指导
草稿+想法
验证+客户端
货源确认，客户优先
举报/联系
结构+简化
证据+责任
专家意见，偏差控制
闭幕式
按时间顺序总结
准确度
基于记录的
常见错误
- 将整个流程交给AI并在最后签署单一签名。其间的错误是不可见的；每一步都应该有门。
- 未经验证就穿过门。前一阶段的制作由下一阶段继承；每个输出都经过验证。
- 将治理留给个人纪律。没有制度框架，良好的习惯是脆弱的。
- 政策一旦写完，就可以忘记。工具和立法发生变化；不断的审查是必要的。
- 不保留记录。如果没有审计跟踪，就无法回顾问题，也无法追究责任。
总之
在社会工作中，从申请到结案，人工智能在每一步都是催化剂，在任何一步都是决策者。将六个人性关卡（保密、临床判断、权威/团队、验证/客户、证据/问责、完整性）置于端到端流程中；不要在没有穿过门的情况下从一扇门走到另一扇门。要使其可持续发展，需要公司治理：批准的工具列表、数据政策、角色、注册、培训和持续审查。该模块的六项驱动原则——人的责任、验证、隐私/PDPA、对证据的承诺、偏见控制和以客户为中心——应该融入到每个工作流程中。
应用任务
在脑海中描绘一个虚构案例从申请到结束的整个过程；使用“案例流程验证门”模板为每个阶段生成清单。然后使用“经过验证的车辆匹配”模板将本例中的任务分类为开放车辆/安全系统/无人工智能。最后，通过“自我审核”模板为您自己使用人工智能创建一个包含 10 个问题的列表来评估您自己。
清单
- [ ] 我在端到端流程中确定了六个人为关卡。
- [ ] 每一步，“决定还是草案？”我应用了这个问题。
- [ ] 我将任务与正确的车辆类型（开放/安全/无）相匹配。
- [ ] 我了解公司治理的组成部分（工具、数据、角色、注册、培训、审查）。
- [ ] 我将该模块的六个载体原则实施到了我自己的工作流程中。
模块考试
1、以下哪项是人工智能在社会工作中最准确的定位？
- A）人工智能可以在无需人工批准的情况下决定客户的风险水平和干预决策
- B）人工智能是总结、组织、简化和起草的工具；临床判断、风险和最终决定的责任由专家承担 ✔
- C）人工智能仅对翻译文本有用，与其他社会工作任务无关
- D) 由于人工智能总是比人类更公正，因此评价应该留给它。
描述：人工智能；它是整理笔记、总结文件、简化文本和生成草稿的助手。临床判断、风险评估、专业意见和最终决定由有能力的专业人员负责；未经验证的输出可能会导致客户误判、风险规避或敏感数据泄露。
2、通过人工智能将采访的原始笔记转化为病例记录，最正确的指导是什么？
- A) 要求人工智能以合理的方式填补缺失的部分，使其看起来很专业。
- B）允许人工智能添加额外的观察结果来丰富记录
- C) 要求学生仅使用笔记中实际包含的信息，将缺失的项目标记为“需要澄清”，并且不要添加任何内容✔
- D) 直接放入文件中，无需与注释进行比较，只要输出流畅即可
解释：人工智能最危险的倾向是伪造注释中没有的观察结果、数字或引文，以使记录看起来“完整”。正确的做法是“只使用注释中的内容，标记缺少的内容，不要添加任何内容”。空白并未被填补，而是被标记以供澄清。
3. 为什么案件记录中“事实”和“解释”之间的区别很重要？
- A) 事实是具体的观察/陈述，而解释是需要依据的专业推论；两者应该分开，并且评论应该标记✔
- B) 没有必要区分；事实和评论可以在记录中以相同的方式写入
- C) 只有解释才重要；即使没有记录事实也有可能
- D）由于人工智能完美地做出了这种区分，因此不需要人类控制。
说明：“他在采访中哭了三遍”是事实； “他很沮丧”是没有临床依据的评论。该记录突出了事实，并且仅包含带有明确标签和理由的解释。人工智能可以将两者流畅地结合起来；一个人有责任加以区分并避免侮辱性语言。
4.人工智能在决定孩子在家是否安全或案件的风险级别方面应发挥什么作用？
- A）人工智能可以读取案例，确定风险级别并做出安全决策
- B）人工智能给出的“低风险”标签可以推翻专家的相反观察
- C) 人工智能仅提醒因素、整理笔记；风险等级和安全决定属于专家、团队、监督和法律程序✔
- D）人工智能在风险决策方面比人类更可靠，因为它是公正的。
描述：风险级别和安全决策；它需要专业权威、临床判断、多学科团队意见、监督和法律责任。在这里，AI只能回忆风险/保护因素并编辑注释；无法产生分数或决定。它还可能由于训练数据的偏差而将系统性高风险归因于弱势群体，因此其输出不能用作决策。
5. 当人工智能通过“这个中心、那个电话”为客户提供推荐信息时，该怎么办？
- A) 在将地址和电话号码提供给客户之前，先从机构的官方和当前来源确认地址和电话号码 ✔
- B) 自信地向客户直接传达信息
- C) 假设只要人工智能给出当前日期，信息就绝对正确
- D) 认为没有必要调查该信息的准确性，因为它在某处提到过。
描述：人工智能可能会编造服务、应用要求、地址和电话号码或提供过时的信息；机构合并、搬迁、关闭。将客户发送到未经验证的地址将导致浪费旅程并失去信任。因此，人工智能提供的联系信息必须通过机构自己的官方渠道确认后才能传输给客户。
6. 谁应该在应对计划中设定目标？人工智能的作用是什么？
- A）人工智能应该在不询问客户的情况下确定目标并编写整个计划。
- B) 客户（与专家一起）确定目标； AI 将它们转化为 SMART 格式并构建它们，不会添加新的目标 ✔
- C) 目标并不重要；计划包含的目标越多越好。
- D）人工智能可能会忽略客户的优先事项，因为它看起来很专业
描述：社会工作的核心价值是“自我决定”：客户设定目标和优先事项，并用专业知识来塑造它们。人工智能将这些目标转化为SMART格式，并建议步骤和指标；但他不能添加客户未提及的新目标。外国的、外部强加的计划不能应用于客户。
7. 在提交给法院的社会调查报告中，人工智能最危险的问题是什么？
- A) 能够发明不存在的日期、观察或引述，使报告显得“完整”✔
- B）使文本语言过于正式
- C) 写的报告比要求的要短
- D) 标题的字母顺序
说明：人工智能最危险的倾向是添加不存在的日期、观察或引用，使报告看起来“完整”。法庭报告中捏造的判决既可能误导判决，也可能损害专家的可信度。因此，每个案例都应该与真实的访谈/观察/文献联系起来，并由专家形成专业意见。
8、社会调查报告的专业意见和意见（建议）部分由谁撰写？
- A）人工智能；因为它会产生更公正的推荐
- B) 撰写报告时从未填写意见部分。
- C) 人工智能写意见，专家最后签字
- D) 专家；专业意见和意见是他/她的权威和责任，人工智能只是澄清语言✔
声明：专业意见和意见——“这是这个孩子的最大利益”、“这种安排是适当的”——是专家的法律权威和责任。 “我向人工智能推荐什么？”没有人问；他提出的“建议”可能既是捏造的，也是转移责任的。人工智能充其量只是澄清了专家所写意见的语言。
9、用人工智能为客户简化繁重的官方求助信时，最关键的控制是什么？
- A）文本尽可能短，不要看细节
- B) 结果看起来流畅且美观
- C) 通过与原件比较，确认没有遗漏任何权利、条件、金额、日期或通知 ✔
- D) 简化通过向客户提供更少的信息来让他或她感到舒适。
说明：简化并不意味着扭曲；通过“缩短”或“简化”，人工智能可以吞下权利、条件、金额、日期或通知。客户可能会因“简单”但不完整的信息而失去权利。因此，应将简化文本与原始文本进行比较，并验证没有丢失关键信息，甚至让人工智能列出其保护的关键元素。
10. 在起草资助申请时，如何正确对待人工智能产生的统计数据？
- A）直接利用人工智能给出的统计数据，让它看起来令人印象深刻
- B) 不让人工智能进行统计，在必要时打印[所需数据]，并从真实来源输入每个数字✔
- C) 考虑到只要该号码包含在申请中，来源并不重要。
- D) 假设不需要验证统计数据，因为 AI 自信地写入
描述：人工智能可以编造出惊人但无来源的统计数据；没有来源的数字几乎总是不可靠的。申请中伪造的统计数据不仅会拒绝申请，还会破坏机构的信誉。正确的方法是不要让人工智能编造数字（“写入[需要数据]”）并从真实的、经过验证的来源输入每个数字。
11.为什么要求人工智能“解释为什么这个家庭在抚养孩子方面不够充分”是有害的？
- A）因为问题太长
- B）由于人工智能无法提供任何有关家庭事务的信息
- C）因为它从一开始就假设了结果，人工智能（奉承地）产生了未经证实且有偏见的确认；问题应该是中立且平衡的✔
- D）因为人工智能永远会对家庭有利
说明：这个问题预设了结果（“不足”）。人工智能产生了一个无证据且有偏见的文本，用其奉承的倾向证实了这一假设（证实你的暗示）。一个有偏见的问题会产生一个有偏见的答案。事实上，这是一个中立的问题，不假设结果，平衡优势和担忧，只要求证据。
12. 如何应用“下角度测试”来检查AI输出中的偏差？
- A) 考虑不同群体的相同情况并询问“这会用同一种语言写吗？” ✔ 通过询问来测试双重标准
- B）接受人工智能的第一个答案为中立，而不是寻找另一个角度
- C) 只提出支持客户群体的问题
- D）假设不需要额外的控制，因为人工智能中根本不存在偏见
解释：人工智能可以为不同的群体以不同的语气书写相同的行为（例如，低收入家庭的“忽视风险”，高收入家庭的“被迫父母”）。反转测试是“如果客户来自不同的社会经济/种族群体，这会用同一种语言编写吗？”是问；这使得基于刻板印象而不是证据的双重标准变得显而易见。
13. 总结客户实际档案（包括姓名、地址、健康信息）的正确方法是什么？
- A）为了速度，将其粘贴到最近的公共人工智能工具中并进行总结
- B) 处理文件时不考虑隐私，因为它很短
- C) 输入包括健康信息在内的所有内容并仅保存结果
- D) 仅在机构批准的安全系统中进行处理或使用去识别化文本，并使用最少的数据✔
披露：识别客户身份的个人数据，尤其是健康等敏感数据，绝不会输入未经机构批准的公共工具中；文本可能会被处理、存储在外部服务器上或用于模型训练，并且泄露是不可逆的。这也是 KVKK 违规行为。此类工作只能在内部、安全、经过批准的系统中完成，这些系统不会泄露数据或使用去识别化文本。
14. 为什么从文档中删除名称并不总是足以将其提交到公共工具？
- A) 删除姓名始终是完全匿名的，可以确保每个文档的安全
- B）只要文档很短，就不可能从上下文推断身份
- C) 名称被完全删除的文件不属于KVKK 的范围。
- D) 背景（社区、年龄、事件、家庭结构）可能会重新确立身份；通过选择工具和环境来提供保护✔
解释：即使删除了名字，上下文（邻居、年龄、事件、日期、家庭结构等的罕见组合）也可以使一个人被识别；他可能是附近唯一符合描述的人。真正的保护不是通过掩蔽来提供的，而是通过选择正确的工具和环境来提供的；上下文也是个人数据，不确定的信息应作为更高级别的信息进行保护。
15. 从申请到结案，如何最有效地防止人工智能的单个错误影响最终判决？
- A）将整个过程委托给一个人工智能工具，并在最后仅签名一次
- B) 在每个阶段设置人工验证门和通过条件（分层验证）✔
- C) 删除中间验证以提高速度并仅在输出阶段进行检查
- D) 允许每个专家自由使用他或她自己的工具而不保留记录
描述：每个阶段都设置人工验证门（申请/保密、评估/临床判断、风险/授权、计划/验证、报告/证据、关闭/准确性）；你无法穿过一扇门而不经过另一扇门。这种分层结构可以防止幻觉、偏见或保密错误在某一阶段渗透到影响客户的决策中。