收益：
- 能够区分人工智能在社会工作工作流程中节省时间的地方（摘要、编辑、简化、草稿）以及临床判断、风险和代表决策留给人类的地方，具体取决于风险水平。
- 能够应用一门学科，通过将每个输出与真实证据联系起来、通过当前官方来源确认外部信息以及通过偏见进行过滤来验证每个输出。
- 要理解为什么客户隐私、匿名世界和客户数据世界之间的区别以及 KVKK 责任应该从社会工作的一开始就考虑在内。
早上，您身处社会服务中心。昨天收到了三份新申请：一名是暴力受害者的妇女和她的两个孩子、一名需要照顾的老人以及一名面临辍学风险的青少年。你的办公桌上有四份社会调查报告、一份法庭征求意见、需要填写的案件记录，以及今天下午家访家人的准备工作。社会工作（为改善个人、家庭和社区的社会功能，确保他们获得权利和福利，并保护弱势群体而开展的专业和学科）是一个文件密集、时间紧迫、涉及人类生活并具有高度责任感的领域。人工智能（AI - 可以从历史数据中提取模式并生成或分类文本、摘要、翻译和草稿的软件）让您在文档负载和时间压力下喘口气。但这个模块的一开始就很明确：人工智能是一个助手、总结者和大纲生成器；您是对客户进行评估、风险和最终决定的称职专家。
在第一个单元中，我们将重点关注纪律，而不是工具。您将了解人工智能在社会工作工作流程中哪些地方可以真正节省时间，哪些地方有危险，如何验证每个输出，如何保护客户隐私和个人数据，以及如何对偏见保持警惕。如果不奠定这个基础，后续的单元就会悬而未决——因为在社会工作中，未经验证的输出不仅仅是一句假话，更是一句空话。这种错误可能会导致孩子被误判、风险被忽视、家庭受到不公平的污名或敏感信息被泄露。
人工智能在社会工作流程中的哪些地方可以派上用场？
让我们将社会工作工作分为两大类。第一个集群：文档密集型、重复性、可提取模式和基于语言的任务。将采访后的零散笔记翻译成有条理的案例记录、按时间顺序总结长文件、社会调查报告的第一个框架、简化援助/服务清单以适合客户的语言、起草推荐信、为多语言客户翻译简单的信息文本、项目需求分析的第一个框架。在这些工作中，人工智能可以将时间缩短为几分钟，而且不会感到疲劳。
第二组：需要判断、临床评估、风险判断和责任的任务。孩子在家是否安全、个人自残的风险程度、家庭是否需要保护措施、向法院提交报告的意见、服务是否真正适合客户。这些决策需要专业能力、临床判断、背景知识、道德责任，通常还需要多学科团队的意见。在这里，人工智能会增加选项，生成草稿，提醒您忽略的内容 - 但最终的评估和签名是您的。
让我们用一句话来澄清区别：AI 擅长解决“这个文件中有什么以及第一稿是什么样子”的问题；当涉及“这个人的真实情况是什么？我可以代表我的职业辩护吗？”之类的问题时，决定权在你手中。
提示：在将工作外包给人工智能之前，问问自己：“如果输出错误，谁会受到伤害？”如果答案是“几分钟的重构”，请放心地委派。如果答案是“客户评估错误、规避风险或信息泄露”，就让AI出草稿，你来做决定和验证。
隐私权：不可侵犯的原则
社会工作的核心是信任，而信任是建立在保密基础上的。客户会根据职业机密告诉您他们最私密、最脆弱的信息——暴力、贫困、健康状况、家庭秘密。当这些信息落入坏人之手时，就会威胁到一个人的生命、安全和尊严。这里的基本规则是：任何可以识别客户身份的个人数据（姓名、地址、TR ID、健康状况、家庭信息等）都不会被输入到未经您的机构批准的公共人工智能工具中。您在公共人工智能服务中输入的文本将在该服务的服务器上进行处理；您无法控制谁可以看到它、它存储在哪里以及是否将其用于训练模型。在土耳其，这也是 KVKK（个人数据保护法 - 规范个人数据处理的法律）规定的法律责任。
因此，人工智能在社会工作中的使用在两个不同的世界中运作：通用工具可用于去识别/通用世界（无法识别客户身份的匿名或虚构示例、一般知识问题）；对于客户数据的世界，仅使用不会泄露数据的内部、安全、经过批准的系统。混淆两者是该模块最危险的错误。
注意：“人工智能是这么说的”并不是理由，在案件卷宗中没有任何效力。如果出现误判、伪造信息或泄露数据，责任不属于人工智能，而是属于未经验证而使用该输出或将该数据输入工具的专家。
验证纪律：三步
AI 流畅、自信地生产；这并不意味着这是真的。人工智能偶尔会产生幻觉——也就是说，它把一条不存在的立法、一项不存在的服务、一个捏造的统计数据或客户从未说过的声明呈现为真实的。在社会调查报告或风险备忘录中，这是灾难性的。对每个输出应用三步反射：
- 链接到来源/证据。人工智能对客户所做的每一个陈述都必须基于您给出的实际笔记或对话。 “在哪一次谈话中，从谁的口中，通过什么观察提供了这个信息？”问。 AI 不应添加客户未提及的任何内容。
- 与独立消息来源确认。从当前官方来源验证法律、权利、服务、转发地址等外部信息。 AI 提供的申请要求或电话号码可能已过时或虚假。
- 通过解释和偏见的过滤器。输出是否对某个群体存在偏见？是否存在侮辱和指责客户的语言？难道就忽略了自己的优势吗？您的专业判断是最终的过滤器。
三个迷你箱子
案例 1 — 文档记录节省了时间。一名社会工作者在一周内进行了 14 次访谈，并为每次访谈都保留了松散的手写笔记。人工智能辅助编辑将这些笔记翻译成结构化案例记录的总时间从大约 4 小时减少到 1 小时。但每条录音都经过专家朗读，并与实际采访进行对比验证； AI“解读”的两句话被删除了。
案例2——验证发现了幻觉。一位专家向AI提出了一个权利问题； YZ表示，“这项援助的最低居住要求是24个月。”专家查看官方立法时，没有这样的要求； AI混合了两种类似的辅助手段，并创造了一个并不存在的条件。归因步骤可以防止客户被不公平地拒绝。
案例 3 — 从侵犯隐私中返回。为了快速起见，一位新专业人士想要将儿童保护案件的所有信息（包括孩子的姓名、地址、学校）粘贴到公共人工智能工具中并打印报告。资深专家意识到：这是 KVKK 范围内的敏感个人数据，已经被泄露了。该事件被视为数据泄露；这项工作已被重做，删除了凭据，仅使用内部安全方法。
四个可复制模板
1）岗位适宜性评估：
你的角色：高级社会工作者和主管。我将在下面描述这份工作。告诉我（1）这是一个可以委托给人工智能的摘要/编辑/提纲工作，还是需要临床判断和风险判断的工作，（2）错误输出给客户带来的成本，（3）委托前后我需要做的验证。工作：[在此插入工作]
2) 依赖证据的义务：
我会给你会议记录。编辑录音时，仅使用注释中的信息。不要添加客户没有说过的话，不要诊断，不要评论。分别标记观察结果和来访者的表达。将缺失或不清楚的区域标记为“需要澄清”。
3）隐私预检查：
在处理之前评估以下文本：该文本是否包含识别客户的个人数据（姓名、地址、TR ID、健康状况、家庭信息）？如果有，是哪些部分？因此，如果不应在公共工具中对其进行处理，请警告我并列出我需要去识别化的字段。文本：[在此处写入文本]
4）偏见/语言检查：
考虑以下案例记录：是否存在污蔑、指责或偏见客户针对某个群体的语言？它是否忽视了优势和资源？建议使用更加尊重、注重事实并认可优势的语言。不要更改记录，只需标记语言问题。
弱提示/强提示
弱提示：
写一份关于这个家庭的报告，并确定孩子在家是否安全。
这个提示是没有上下文的，也是危险的：目前还不清楚需要什么信息、什么观察结果以及人工智能被要求对孩子的安全做出决定。人工智能可以预测、可以偏见、可以弥补——而这涉及到人的生命。
强力提示：
您的角色：社会工作者助理编辑。资料来源：采访和观察记录，删除了识别信息，我将在下面粘贴。任务：仅根据这些注释中实际包含的信息创建社会调查报告的草稿框架；分别标记观察结果、客户陈述和缺失信息。做出风险或安全决定；我来做评价。将您不确定的区域标记为“需要澄清”。
区别很明显：去识别、“真实通过”约束、标签和“决策”约束使输出安全有用。
角色/任务比较表
商业
人工智能的作用
男人的角色
验证
编辑案例记录
配置注释
确认、准确性
与注释比较
文件摘要
时间顺序大纲
重要性，评论
链接到来源
权利/服务信息
初稿
当前确认
官方立法
风险评估
问题/框架提醒
临床判断、决定
团队+督导
报告
骨架素描
内容、意见、签名
证据-陈述匹配
方案设计
想法/框架生成
资格、决定
现场+数据确认
常见错误
- 将人工智能输出误认为评估。输出始终是有待验证的草稿；如果没有链接到证据，它不会进入文件。
- 将客户数据粘贴到打开的工具中。如果泄露，则无法挽回，且违反 KVKK；这是最危险的错误。
- 要求人工智能做出风险/安全决策。这些决定需要专业的权威和责任；人工智能无法做出决定。
- 不需要证据的请求。如果你不说“只需使用注释中的内容”，人工智能可能会添加客户没有说的内容。
- 没有注意到侮辱性语言。人工智能的语言可能带有偏见；尊重并考虑优势的语言由您掌控。
总之
AI是社会工作的得力助手：整理杂乱的笔记、总结文件、出草稿、简化、翻译。但临床判断、风险评估、表达和最终决定属于人。进行两组分离（文档密集型工作与判断/风险决策）、三步验证（链接证据、独立确认、偏见过滤）、隐私意识（匿名与客户数据世界）和对偏见的警惕作为该模块的支柱。
应用任务
列出您自己（或想象的）办公桌上的 6 项任务。将每个分类为“人工智能委托的摘要/编辑/草稿”或“临床判断/风险决策”。对于其中一个可转移的（虚构的例子，不能识别客户身份），使用上面的“职位适合性评估”模板并获得人工智能的响应；然后应用三步验证并尝试隐私预检查。
清单
- [ ] 我把工作分为两类（文档密集型/判断-风险判断）。
- [ ] 我应用了三步验证（证据、独立确认、偏见）。
- [ ] 我确保没有向开放工具提供识别客户的个人数据。
- [ ] 我将人工智能对客户所做的每一个陈述都与实际的注释联系起来。
- [ ] 我检查了输出中是否存在污名化/偏见性语言。