收益：
- 能够为心理学实践或机构创建书面的、可执行的人工智能使用政策和决策流程
- 能够将整个模块中学到的边界、验证、隐私和偏见规则结合到单个控制系统中
- 能够向客户透明地解释人工智能的使用并保持职业道德和责任感
在本模块中，您学习了如何在心理学工作的不同部分使用人工智能 (AI)：文献综述、量表解释支持、会话评分、心理教育、研究分析、偏见检查、危机硬边缘、数字工具和专业发展。每个单元都有三个反复出现的原则：边界、验证、保密。在最后一个单元中，我们将把这些原则提炼成一个系统：书面且可执行的人工智能使用政策。政策不是“我尝试利用人工智能来做善事”这样的模糊意图；而是一个明确的目标。这是一套每个人都遵循的具体规则，可以进行审核，并且您可以对客户负责。无论您单独工作还是在机构中工作，该政策都是一个可以保护您和您的客户的框架。
为什么书面政策至关重要
不成文的规则的应用不一致。有一天它会匿名化数据，忙碌的一天你会忘记它；虽然专家可能会正确使用人工智能，但同事可能会错误地使用它。书面政策确保三件事：一致性（每个人都遵循相同的规则）、问责制（如果出现问题，清楚地知道做了什么以及如何做）和透明度（您可以向客户清楚地解释您如何使用人工智能）。就职业道德和KVKK而言，“我们使用了人工智能，但没有写下我们如何控制它”是站不住脚的立场。
注意：人工智能政策是为了维持界限，而不是放松界限。 “放松隐私以提高速度”、“在紧急情况下重定向到机器人”等条款描述的是风险来源，而不是政策。好的政策将正确的方法制度化，而不是简单的方法。
政策的六个基本组成部分
组件
什么定义
基于模块
使用领域
哪些任务使用了人工智能（绿色/黄色区域）
第一单元
限制区域
永远不会使用人工智能的地方（诊断、危机决策）
第 1、4、9 单元
数据规则
匿名化和工具选择
第二单元
验证规则
如何确认每个输出
第三、五、七单元
偏见和语言
正义与污名控制
第8单元
透明度
如何通知客户
2、12单元
一步一步：制定自己的政策
- 创建任务清单。列出所有可以在实践中使用人工智能的任务；将每个放置在绿色/黄色/红色区域中。
- 明确禁令名单。明确将红色区域（诊断、风险决策、危机干预、治疗/药物决策）写为禁止区域。
- 编写数据规则。哪些数据是匿名的，哪些工具是经过批准的，哪些设置是强制性的。
- 定义验证步骤。为每种输出类型（来源、注释、分析）编写强制性确认步骤。
- 准备透明文本。在您的客户启蒙文本中包含人工智能的使用。
- 制定审查时间表。定期更新政策（例如每 6 个月）；技术和立法发生变化。
提示：测试策略的最佳方法是通过策略一项一项地运行实际一天的任务。对于每项任务，“我是否遵循了这条规则？”如果您能清楚地回答这个问题，则该政策正在发挥作用；如果你说“视情况而定”，那这个条款应该写得更清楚一些。
对客户透明
客户有权知道人工智能在他们的流程中扮演什么角色。但这应该诚实地解释，不要吓到客户：“我在一些行政和起草工作中使用人工智能工具（例如编辑笔记、准备材料）；我对你的数据进行匿名处理，并且我总是做出诊断、评估和治疗决定。”该声明既是道德义务，也是建立信任的诚实。如果客户反对，他/她的选择将得到尊重。
三个迷你箱子
案例 1——保单的保护。诊所的一名新实习生即将将客户笔记粘贴到人工智能工具中，而不进行匿名处理。由于诊所的书面政策规定“原始客户数据不会输入任何人工智能工具；首先会进行匿名处理”，并且该政策是在工作开始时签署的，因此实习生停下来并采取了正确的步骤。如果没有该政策，就会出现隐私泄露。书面规则是当良好的意图被遗忘时发挥作用的安全网。
案例 2 — 透明度建立信任。在第一次会议上，一位专家诚实地向客户解释了他对人工智能的使用：他使用什么，数据如何受到保护，决定权在他手上。客户一开始很紧张，但当他听到解释时，他放松下来，信心也增强了。透明度是一种建立信任的诚实，而不是需要隐藏的弱点。
案例 3 — 禁止列表激活。在疲惫的一天结束后，专家希望人工智能“询问”客户的风险。机构政策中的文章“不能向人工智能询问危机和风险决策；专家直接评估，必要时咨询监管/应急热线”。专家停下来，做正确的事。政策的禁令清单是一个锚，即使在最疲惫的时刻，也能提醒您做出正确的决定。
可复制的提示和模板
为心理学实践起草人工智能使用政策。让我们有以下六个部分：1）允许的使用领域，2）禁止的领域（诊断、危机决策、治疗决策），3）数据/匿名规则，4）验证步骤，5）偏见和语言控制，6）对客户的透明度。制定清晰且可执行的规则；添加放松界限的内容。
将以下任务列表划分为绿色/黄色/红色风险区域，并为每个区域编写一句话策略规则（谁执行的，如何验证）。任务：[任务列表]
编写一段要添加到客户信息文本中的段落，诚实且不带恐吓地解释人工智能的使用：在哪些工作中使用人工智能、数据是否匿名、诊断/治疗决定属于专家以及客户的反对权。
检查这份人工智能使用政策草案：它是否充分保护边界、禁止区域是否清晰、隐私和身份验证步骤是否完整、客户是否透明？标记薄弱或有风险的项目。政策：[草案]
弱提示/强提示
弱提示：“为我们制定一项政策，让人工智能的使用变得更加容易。”
对“赋能”的强调促使人工智能提出放宽界限的条款；而政策的目的不是便利，而是保护和问责。
强烈提示：“起草一份人工智能使用政策，保持边界，明确划定禁止区域（诊断、危机、治疗决定），要求保密和验证步骤，并向客户提供透明度。目标不是放松使用，而是使其安全和负责。”
该提示将策略引导至正确的目标（保护）；输出成为可控帧。
常见错误
- 根本不写政治。牢记规则并不一致地应用它们；这是最常见的错误。
- 制定一项放宽界限的条款。将“放松隐私以提高速度”等规则引入政策中。
- 禁止清单模糊不清。没有明确写明禁止做出诊断/危机/治疗决定。
- 跳过透明度。根本没有告知客户有关人工智能的使用。
- 不更新政策。随着技术和立法的变化，继续沿用旧规则。
总之
该模块的三个原则（限制、身份验证、隐私）结合成书面的、可执行的人工智能使用政策。好的政策包括六个组成部分：允许使用领域、禁止领域（诊断、危机、治疗决策）、数据/匿名规则、验证步骤、偏见和语言控制、对客户的透明度。政治的存在是为了维持界限，而不是放松界限；提供一致性、问责制和透明度。诚实地向客户解释人工智能的使用并定期更新政策。人工智能加速发展；责任、决定和道德永远是你的。
应用任务
为您自己的诊所或机构编写一页人工智能使用政策。完成所有六个部分（允许字段、禁止字段、数据规则、验证、偏见/语言、透明度）。然后通过这个政策一一执行你实际工作日的 5 项任务，并问“我遵守了规则吗？”对于每一个。检查你是否能清楚地回答问题。把你不能清楚回答的问题写得更清楚。
清单
- [ ] 我已以书面形式定义了允许和禁止的使用区域。
- [ ] 我明确写道，禁止作出诊断、危机和治疗决定。
- [ ] 我设置了数据/匿名化和批准的车辆规则。
- [ ] 我为每种输出类型编写了验证步骤。
- [ ] 我在政策中添加了偏见和语言检查。
- [ ] 我为客户准备了透明度文本并制定了审核时间表。
模块考试
1. 一位心理学家将客户描述的症状写入人工智能并询问：“这位客户有什么诊断？”他问道。哪种做法才是最正确的呢？
- A）仅使用人工智能来提出可能的概念；通过临床访谈、病史和自己的判断做出诊断 ✔
- B) 将人工智能给出的诊断直接写入报告中
- C) 如果人工智能多次给出相同的诊断，则视为最终诊断。
- D）缩短访谈时间，依靠人工智能加快诊断速度
描述：做出诊断是一项安全关键的临床决策，需要多种数据、临床访谈、病史和判断。人工智能可以帮助提出可能的概念，但诊断是通过有能力的专家（心理学家/精神病学家）的临床判断来做出的。 AI输出并不能取代这个决定。
2. 您希望将客户的会话记录汇总到基于云的人工智能工具中。在KVKK和职业保密方面首先要做的是什么？
- A) 按原样粘贴记录，包含真实姓名和详细信息
- B) 匿名内容、监控工具的隐私/数据政策并遵守同意框架 ✔
- C) 仅缩短客户的姓氏，其余部分保持原样。
- D) 尽管隐私很重要，但为了速度而共享所有数据
说明：客户数据是特殊的个人数据。在提供给云工具之前，应将姓名、位置、日期和工作场所等身份信息匿名化；如果可能，应使用去识别化的内容，并应确保该工具不使用这些数据进行训练。此外，必须遵守客户的知情同意。
3.人工智能在一篇文章摘要中说“2019年这项研究的效应大小被发现为d = 0.82”，但你找不到那篇文章。你应该做什么？
- A）按原样使用归因，因为人工智能是可靠的
- B）写下数字而不寻找来源，因为它看起来很合理
- C) 在我们确认原始文本的来源和效果大小之前，请忽略该主张 ✔
- D）询问另一个人工智能，如果它得出相同的数字，则接受它
解释：人工智能可以编造看似真实但并不存在的参考文献、作者或数字（幻觉）。不使用无法找到的来源或无法验证的效应大小。在得到主要来源确认之前，该声明被视为无效。
4. 一位客户报告在治疗期间有自杀念头。在这种情况下，人工智能应该发挥什么作用？
- A）人工智能应评估风险并将安全计划传达给客户
- B) 客户端应被引导至人工智能聊天机器人
- C) 人工智能应设置为自动呼叫紧急服务
- D) 决策和干预属于专家； AI无法评估风险，危机是人类的责任✔
描述：自杀和危机风险是一种安全攸关的情况，需要实时临床评估、参与和问责。人工智能无法做出决策、评估风险和干预。专家直接介入；如有必要，将启动热线电话和人力支持链。人工智能最多可以在会议之外提醒专家。
5. 在人工智能制作的心理教育手册中，哪种风险最为关键？
- A) 不正确/污名化的信息引导客户进行自我诊断和治疗 ✔
- B）宣传册的视觉设计不佳
- C) 宣传册太长
- D) 字体小
说明：当心理教育材料掌握在服务对象手中时，它可以变成自我诊断和治疗的工具，而错误或污名化的信息可能会造成伤害。因此，材料必须经过专业验证，以保证证据、安全和正确的框架；应添加警告“此信息不能替代专业判断”。
6. 您在定性研究数据（访谈记录）中获得人工智能的主题编码支持。哪种方法最健康？
- A）报告人工智能产生的代码作为最终分析
- B) 通过将代码视为初始草案并读取数据来验证、纠正并确保可靠性 ✔
- C）完全将分析留给人工智能，根本不读取数据
- D）不自己阅读，因为它提供了人工智能主题
描述：人工智能提供了生成初始代码建议和主题大纲的速度，但定性分析需要研究人员的解释判断。人工智能代码是一个开始；研究人员读取所有数据，验证并纠正代码，并观察编码器间的可靠性。此外，成绩单必须匿名。
7. 为什么偏见是人工智能模型中心理学的一个重要风险？
- A) 偏差仅仅是一个技术问题，与临床无关
- B）现代模型中的偏差已被完全解决
- C) 模型输出可能因文化/性别/诊断而产生偏差，并可能误导和损害评估 ✔
- D）偏差仅发生在生成图像的模型中
描述：由于模型通常是根据特定文化和语言的数据进行训练的，因此它们可能带有诊断、文化和性别偏见；可能会将某一症状在一个群体中视为“正常”，而在另一群体中视为“病态”，或者产生侮辱性语言。这可能会扭曲和损害评估；应对不同群体和文化的产出进行审核。
8. 您正在考虑向您的客户推荐治疗性聊天机器人。你应该先做什么？
- A) 直接推荐，因为它很受欢迎
- B）说机器人可以替代治疗并减少疗程
- C) 建议客户在危机中信任机器人。
- D) 审核证据、安全性、隐私和临床适用性，并将机器人定位为有限的补充 ✔
说明：在推荐数字心理健康工具之前，应审查其证据基础、安全性（危机管理）、隐私/数据政策以及对客户临床情况的适用性。机器人不应被定位为人类治疗的替代品，而应被定位为有限的补充，并且应向客户清楚地解释它在危机情况下的不足。
9. AI 制作了会议记录草稿。使用此大纲之前要采取的最重要的步骤是什么？
- A) 通过与会议实际情况进行比较来验证草稿，纠正捏造/遗漏的内容并承担责任✔
- B) 将草稿按原样保存到文件中
- C) 假设草稿是正确的，因为它写得很流畅
- D) 让客户批准草稿并在不做任何修改的情况下使用它。
解释：人工智能草案可能会添加被遗漏的重要信息，编造实际上并未说过的陈述（幻觉），或提供临床上不正确的框架。专家将草稿与会议实际情况进行对比、验证、修正，并对最终内容负责。该说明是一份法律和临床文件。
10. 以下哪项是心理学中人工智能应用的“绿色区”（低风险）任务？
- A) 确定服务对象是否有自杀风险
- B) 准备一份草案以简化匿名心理教育文本的语言 ✔
- C) 根据量表评分做出明确的诊断
- D）创建药物建议
解释：简化匿名心理教育文本的语言或起草预约提醒电子邮件等任务风险较低，因为它们不涉及诊断/决策，并且可以安全地进行快速审查。诊断、风险评估和治疗决策处于红色（安全关键）区域。
11. 使用人工智能解释心理测试时最重要的限制是什么？
- A) 由于人工智能会解释分数，因此不需要专家评论。
- B）将测试名称告诉人工智能就足够了
- C) 解释不是来自单一评分，而是来自临床判断和多个数据；遵守版权和规范背景 ✔
- D）每种文化的截止分数都是相同的
说明：量表/测试分数是一条数据；诊断和临床解释不是由单一评分产生的。此外，许多测试受版权保护并且规范上下文敏感。人工智能可以提供尺度描述和语言支持，但解释是由专家在临床判断、多种数据和文化有效性的框架内做出的。
12.为什么人工智能不能取代真实的监管？
- A）人工智能取代监管，因为它响应速度更快
- B）无论如何，监督是不必要的
- C) 人工智能被视为监管者，因为它已获得许可。
- D) 人工智能不承担责任，不了解真实背景，无法提供伦理控制；监督需要人类专家✔
描述：监督；这是由一位有能力的专业人士的监督，他们是负责任的、有关系的，并且了解客户的真实情况和治疗师的发展。人工智能可以帮助进行病例演练和制剂起草，但它不承担临床责任，不了解真实情况，也无法提供伦理/法律监督。监督需要人类专家。
13. 您正在为一家心理学机构制定人工智能使用政策。必须包括以下哪项？
- A) 匿名规则、禁止使用领域、强制验证和对客户的透明度✔
- B) 允许共享客户数据而不需要为了速度而匿名
- C）将诊断决策转移给人工智能
- D）将危机情况引导至聊天机器人
简介：政策利好；它定义了可以向工具提供哪些数据（匿名规则）、禁止使用的领域（例如诊断/危机）、强制验证步骤以及对客户的透明度。诸如“为了速度而明确隐私”之类的条款存在道德和法律风险；政治的存在是为了维持界限，而不是放松界限。
14. 以下哪一项是验证 AI 输出的有效理由？
- A）这是正确的，因为人工智能多次给出相同的答案
- B) 该主张得到了主要证据、有效测量和有能力的专家判断的证实 ✔
- C) 答案是正确的，因为它写得流畅且令人信服。
- D）AI是一个强大的模型，所以它的输出是准确的
描述：临床或研究主张的理由；主要证据、有效的测量、适用的道德/专业标准以及合格的专业判断。 “人工智能说的”、“写得很流利”或“多次给出相同的内容”都不是有效的理由；这些不是真理的迹象，最多只是一致性的迹象。