收益：
- 能够通过六个人工验证门在从事件发生到决策的每个阶段一致部署人工智能
- 能够建立具有批准的工具列表、数据政策、角色、注册、培训和持续审查的公司治理框架
- 能够将人类责任、验证、保密、透明度、偏见检查和合法性/道德原则嵌入到工作流程中
在本模块中，我们介绍了人工智能如何在不同的外交任务中成为强大的助手——政策分析、简报、翻译、开源情报、验证、谈判准备、信函、跨文化准备和保密——但哪些方面应该由人类决定。在最后一个单元中，我们将把所有这些组合成一个连贯的工作流程。目标是通过人工验证门将人工智能安全地嵌入到从事件开始到决策制定的每个阶段，并建立一个在企业层面负责任使用的框架。
一句话原则：人工智能提高外交速度和范围；人类承担着判断、代表、责任和最终决定。本单元提供了一个地图和一个治理框架，将这一原则付诸日常实践。
端到端工作流程：端口链
让我们将典型的外交任务分为几个阶段，从事件摆在桌面上到产生输出（简报、报告、决定），并在每个阶段设置一个人工验证门（一个不通过下一个的检查点）。
1. 收集信息。收集并分类开放源代码。 Door：仅合法、公共来源？是否存在敏感数据并且是否在正确的环境中进行处理？
2、加工、翻译。多语言文档易于理解和总结。门：隐私等级是否与正确的车辆相匹配？翻译要点还是官方的？
3.验证。声明是通过出处和交叉检查来确认的。 Door：每项重大声明是否都经过至少两个独立来源的验证？ AI提供的资源是否被视为独立的？
4.综合与分析。信息被放入框架中并生成场景。 Door：事实-解释-预测之间的区别清楚吗？是否已提出反假设？是否已经测试过偏差？
5.输出生产。起草简报、报告、备忘录或谈判准备。门：语气正确吗？模具/表格是否获得批准？事实和建议是分开的吗？
6. 最终决定并签字。人类评估输出并承担责任。 Door：我可以站在这个输出后面吗？每个句子都取决于来源吗？
这条链条的力量在于：你无法通过一扇门而不通过下一扇门。因此，某个阶段的人工智能错误（幻觉、误译、偏见）会在下一阶段被捕获，并且不会泄漏到最终决策中。防御并不是单层的，而是多层的。
提示：为您自己的办公桌保留一份六门链的清单。在每个重要的交付成果之前，一一标记门。即使在最忙碌和压力最大的日子里，这也能提供安全网；因为错误恰恰发生在匆忙的时刻。
公司治理框架
个人纪律是必要的，但还不够；机构层面需要一个治理框架（一组管理使用的规则、角色和控制机制）。基本组成：
1.批准的车辆清单。一个清晰的列表决定了哪些人工智能工具可以用于哪些类别的信息。 “每个人都应该使用他们想要的任何工具”是一个安全漏洞。
2. 数据分类政策。哪些数据属于哪个类别以及如何处理这些数据均受书面规则的约束。前一个单元中的类-工具映射变得制度化。
3. 角色和权限定义。确定谁可以在哪项工作中使用人工智能以及谁将批准输出。最终签名权限明确。
4. 记录和审计（审计追踪）。哪种工具用于哪种作业以及用哪种数据记录；如果出现问题，可以追踪并追究责任。
5. 教育和意识。每个人，尤其是新来的人，都会学习隐秘的反应和验证的纪律。大多数违规行为都是由于无知而发生的。
6.持续审查。工具、风险和规则会随着时间而变化；该框架定期更新。
注意：治理框架不是写一次就放在一边的文档。人工智能工具日新月异；昨天被认为安全的应用程序今天可能更改了其数据策略。定期审查批准的工具列表和数据政策可确保框架保持活力。
负责任使用的不变原则
从本模块的所有单元中筛选出的原则：
- 人的责任：最终决定、解释、表达和签名属于人。 “AI是这么说的”并不是一个理由。
- 验证：每个重要的输出都与来源相关联并经过独立验证。
- 保密性：机密信息未经批准不得进入车辆；这两个世界是分开的。
- 透明度：必要时说明人工智能的使用；过程被记录下来。
- 客观性和偏差检查：对输出进行偏差测试；提出反假设。
- 合法性和道德：开源情报仅通过公开且合法的来源进行；个人数据受到保护；人工智能不是用于操纵，而是用于尊重和诚实的外交。
- 合格专家的位置：在安全关键或后果严重的领域，人工智能输出不能替代合格专家的批准；它只会加快速度。
三个迷你箱子
案例 1 — 门出问题了。在危机当天收集的信息很快就变成了简报。在验证门处，人们注意到没有独立来源声称人工智能生成的“提交”；这种说法是一种幻觉。这扇门阻止了错误的信息传到部长那里。
案例 2——治理限制了违规行为。在一个机构中，有一份经过批准的车辆清单和登记纪律。当一名实习生不小心试图将敏感文件传递给未经批准的特工时，系统发出警告，该事件仍然是一个小错误，而不是违规行为。该框架发挥了作用。
案例 3 — 已保存连续审核。一个组织在定期审查中发现其正在使用的翻译工具更改了其数据政策；该工具现在正在存储输入。从批准列表中删除，机密工作移至安全系统。充满活力的治理捕捉到了悄然存在的风险。
四个可复制模板
1）六口输出控制：
带我穿过六个门，并提醒我在生成以下输出之前要检查每个门的内容：（1）源真实性/敏感性，（2）隐私与媒体耦合，（3）交叉验证，（4）事实解释分离和偏见，（5）语气/格式，（6）人类签名。工作：[这里]
2）治理自我评估：
您的角色：人工智能治理顾问。下面评估我们当前的实施并标记任何差距：是否有批准的工具列表、数据分类政策、角色/权限、注册/审计、培训、审查。给出每个标题的“存在/部分/缺失”以及改进建议。当前状态：[此处]
3）事后回顾：
分析下面人工智能驱动的任务中哪些进展顺利以及哪些门正在运行/缺失。建议 3 项具体改进措施，以防止这种情况再次发生。专注于流程改进，而不是指责。任务摘要：[此处]
4) 负责任使用声明草案：
起草一份简短的注释，添加在报告的末尾，透明地说明人工智能的使用：在什么阶段使用人工智能来起草/总结，所有发现都经过人类验证，最终责任由专家承担。测量清楚。
弱提示/强提示
弱提示：
彻底处理好这个案子，准备案情，做出决定。
它将整个链条、验证和决策交给人工智能。错误可能在任何阶段出现；责任和保密受到侵犯。
强力提示：
您的角色：工作流程助理。将此任务分为六个阶段（收集、处理、验证、综合、输出、决策），并告诉我每个阶段需要进行哪些人工控制。您制作大纲和摘要；我将进行验证、偏见检查、语气和决定。继续前进，无需索要任何机密数据。任务：[这里]
区别很明显：链条分为几个阶段，每个门都在人类的控制之下，人工智能只产生蓝图，决定权仍然在人类手中。
工作流端口表
舞台
人工智能的贡献
人门
收藏
源码编辑
合法性、敏感性
加工/翻译
摘要、翻译草稿
隐私工具，细微差别
验证
起源/矛盾标记
两个独立来源
合成
框架、场景
事实解释、偏见
输出
骨架、轮廓
语气、形式、区别
决定
—
签字、责任
常见错误
- 绕过门。在高峰期跳过一扇门会让虫子溜进来。
- 将整个链条交给AI。验证和决策始终由人类负责。
- 放弃治理并忘记它。如果不定期审查该框架，它就会过时并产生风险。
- 不保留记录。没有痕迹，就无法追究责任，错误就无法吸取。
- 避免透明度。如果需要使用人工智能，就应该如实说明。
综上所述
负责任的端到端使用意味着将人工智能置于从事件开始到决策制定的六个人工验证门的链中，并通过公司治理框架（批准的工具列表、数据政策、角色、注册、培训、持续审查）来支持这一点。人的责任、验证、保密、透明度、偏见控制、合法性/道德和称职的专家是不可改变的原则。人工智能提高了速度和范围；人类始终承担着判断力、代表权和最终责任。
应用任务
为自己的办公桌编写六门工作流程清单，并将其应用到真实（或想象）的任务中。评估您当前（或理想）的实践，并通过“治理自我评估”模板找出差距。在打印输出的末尾添加“负责任的使用声明”。最后，用自己的话写下您从整个模块中学到的 5 条原则。
清单
- [ ] 我定义并实现了六端口工作流程。
- [ ] 我通过了人工验证门来传递每一个重要的输出。
- [ ] 我按照批准的车辆清单和数据政策进行工作。
- [ ] 我记录了AI的使用情况，并在必要时透明地表述出来。
- [ ] 作为一个人，我对最终决定、解释和签名负责。
模块考试
1、以下哪项是人工智能在国际关系和外交中最准确的定位？
- A）人工智能可以直接做出国家的外交政策决定，无需人类批准
- B）人工智能仅对翻译文本有用，与其他外交任务无关
- C) 人工智能是总结、翻译、模式、提纲的工具；判断、代表和最终决定的责任在于人✔
- D）由于人工智能总是比人类更加公正，因此政策解释应该留给它。
描述：人工智能；它是一个对多语言数据进行总结、翻译、标记模式和生成草稿的助手。判断、解释、代表、谈判策略和最终决策等关键工作由有能力的专家和决策者负责；未经验证的输出可能会导致误解、谈判立场不佳或信息泄露。
2. 在您的会前简报中，在分析当前危机时如何最好地对待人工智能？
- A) 要求它仅基于您提供的当前、过时的开放源代码 ✔
- B）允许他自由地从自己的常识中受益，假设不需要提供来源
- C) 接受他提供的所有信息为最新信息，并将其包含在简报中而不进行验证。
- D）在危机分析中根本不使用人工智能，因为它无法做出任何贡献
说明：人工智能的训练数据是截止到一定日期的，可能不知道最新进展；如果它依赖于自己的“记忆”，它可能会提供过时甚至不准确的信息。在当前的分析中，正确的方法是要求人工智能仅依赖您提供的当前、过时的开源代码。
3. 为什么“事实”、“评估”和“预测”之间的区别在分析中很重要？人工智能在这方面带来了哪些风险？
- A) 没有必要区分；所有这些都同样可靠并且可以混合使用
- B) 只有远见才重要；案例和评估可以跳过
- C）由于人工智能完美地做出了这种区分，因此不需要人类控制。
- D) 决策者必须能够区分证据和解释；人工智能混淆三者，歧视和标签落到人类身上✔
解释：决策者必须看到什么是证据（事实），什么是分析师的解释（评估），什么是未来预测（预测）；否则他可能会把猜测误认为证据。人工智能流畅地将这三者混合在一起，因此需要人类来区分并清楚地标记它。
4. 当AI在正式协议文本翻译中将具有约束力的“应”翻译为“鼓励各方”时，该怎么办？
- A) 由于翻译流畅，因此被接受。
- B) 具有法律约束力的术语由人类专家检查并更正；原始 AI 翻译不被视为官方文档 ✔
- C）从外交角度来看，这种选择总是更好，因为人工智能的翻译更加“柔和”
- D) 协议文本中术语的差异并不重要，一般含义就足够了
解释：在外交/法律文本中，“应该”和“应该”之间的区别是义务和愿望之间的区别；错误的翻译可能会破坏提交。此类术语必须由人类专家在官方翻译中进行更正，并进行双重检查；人工智能翻译不能成为原始形式的官方文档。
5. OSINT（开源情报）研究中 200 个不同站点上出现的声明是否可以验证该声明？
- A) 否；副本可能来自单一来源，验证需要独立来源和来源追踪 ✔
- B) 是；一条信息出现的信息越多，它就越准确。
- C) 是； 200 个站点在统计上已是足够的证据
- D）不，但单个可靠来源总是比两个独立来源更准确
描述：不会。大多数错误信息源自单一可疑来源，并在数百个地方进行复制，造成“多个来源”的假象。仅当一项声明得到至少两个独立、可靠的来源确认时，该声明才被视为已验证；来源跟踪显示副本是否来自同一单一来源。
6. 当你用人工智能验证一个说法时，如果它指向一个消息来源说“根据该组织 2023 年的报告......”，你该怎么办？
- A）由于人工智能引用了来源，因此该声明将自动被视为已验证。
- B) 不需要打开检查，只要资源名称看起来合理即可
- C) 在没有独立打开并确认其确实存在并包含信息的情况下，不认为来源已被验证 ✔
- D) 如果人工智能给出的日期是最新的，那么来源肯定是真实的。
描述：人工智能可以产生幻觉，将不存在的报告和图形呈现为真实的；此外，捏造的消息来源可能比真实的消息来源更有说服力。在没有独立打开每个来源并看到它确实存在并包含该信息的情况下，我们不应将每个来源视为“已验证”。
7. 人工智能在谈判准备中应发挥什么作用，哪些决定应严格由人做出？
- A）人工智能既生成场景，又确定最终的妥协方案和红线
- B) 人工智能制作剧本和排练；红线和妥协决策是人和决策者的责任 ✔
- C) 人工智能根本无法用于谈判；所有准备工作必须手工完成
- D) 人工智能还可以在餐桌上与对方进行直接谈判。
描述：人工智能分析交易对手，绘制兴趣和交易领域，生成场景并演练为具有挑战性的交易对手模拟器。然而，红线划在哪里、做出什么让步，是人民和决策者的决定，因为他们对国家具有政治责任；它没有转移到人工智能。
8. 如果AI在起草“普通照会”时使用第一人称单数（“我们要求...”），为什么会出错？
- A) 口头记录以第三人称单数书写；模具和表格应取自批准的模板，不应留给人工智能✔
- B) 个人使用无关；外交文件的格式是自由的
- C) 第一人称单数是口语记谱中首选的正确形式。
- D）由于人工智能完全了解每个国家的官方模式，因此无需控制。
说明：口头照会是一种以第三人称单数书写且未签名的官方文件（“……大使馆向……部致以敬意”）。使用错误的人是程序/格式错误。人工智能知道一般模式，但可能不知道您组织的确切形式；模具和模板取自批准的模板。
9. 人工智能提供的信息，例如“这个国家的人在讨价还价时总是这样做”，应该如何用于跨文化准备？
- A) 作为一种可能性和一个关注点，而不是一个明确的规则；应考虑个体差异并确认后再使用✔
- B) 应将其视为明确的行为规则，并据此制定整个策略。
- C）应作为操纵对方的有利工具
- D）因为人工智能说它应该准确地应用于每个人
说明：这种概括是刻板印象；它将每个人置于同一个模型中，而真实的人往往不符合刻板印象。文化知识应被用作一种可能性和一个注意点，而不是一个明确的规则，并且应记住个人、地区和代际差异，并在可能的情况下与当地专家确认。
10. 总结与对话者的机密对话笔记的正确方法是什么？
- A）为了速度，将其粘贴到最近的公共人工智能工具中并进行总结
- B) 删除名称，使其“匿名”并将其提供给任何外部工具
- C) 仅在经过批准的内部、安全且不泄露数据的系统中进行处理 ✔
- D) 由于采访记录很短，请在处理时不要注意保密。
澄清：机密（机密）文件永远不会被输入该机构尚未批准用于该类别的公共人工智能工具；因为文本可以被处理、存储在外部服务器上或用于模型训练，并且渗透是不可逆的。此类工作仅在不会泄露数据的内部、安全、经过批准的系统中完成。
11. 为什么将删除姓名的文件视为“匿名”并将其提供给公众并不能提供充分的保护？
- A) 删除姓名始终是完全匿名化，使每个文档都安全
- B) 背景（日期、地点、事件）可以重新捕捉身份和位置；通过选择工具和环境来提供保护✔
- C) 匿名文档中永远不会出现聚合风险。
- D）只要文档很短，就不可能从上下文推断身份
解释：即使删除了姓名，上下文（日期、地点、事件、参与人数、主题）也可能足以让专家编辑身份和职位。真正的敏感信息不是通过屏蔽来保护的，而是通过适当选择工具和介质来保护的；不确定的信息应该被视为更高级别的信息。
12. 在端到端外交工作流程中，防止单个人工智能错误影响最终决定的最有效方法是什么？
- A）将整个过程委托给一个人工智能工具，只查看最后的结果
- B) 删除中间验证以提高速度并仅在输出阶段进行检查
- C) 允许每个专家自由使用他或她自己的工具而不保留记录
- D) 在每个阶段设置人工验证门和通过条件（分层验证）✔
描述：每个阶段（收集、处理/翻译、验证、合成、输出、决策）都放置人工验证门和明确的转换条件；你无法穿过一扇门而不经过另一扇门。这种分层结构确保了一个阶段的幻觉、误译或偏见会在下一阶段被捕获，并且不会泄漏到决策中。
13. 在企业层面负责任地使用人工智能的治理框架的关键组成部分是什么？
- A) 批准的工具列表、数据政策、角色/权限、注册/审计、培训和持续审查 ✔
- B）唯一的规则是“每个人都应该使用最新、最流行的工具”
- C) 一次编写且永不更新的固定政策文件。
- D）将所有决定留给个别专家而不保留任何记录
说明：个人纪律是必要的，但还不够。公司治理；它由批准的车辆清单、数据分类政策、角色/权限定义、注册和审计跟踪、培训/意识和持续审查组成。 “任何人都应该使用他们想要的任何工具”是一个安全漏洞，如果框架不定期更新，它将变得过时。
14. 在分析中使用人工智能来消除确认偏差如何最有效？
- A) 有意识地向人工智能询问相反的假设并测试其自身的评估 ✔
- B）只提出支持自己观点的问题，并将确认视为证据
- C）接受人工智能给出的第一个答案为中立，而不是寻找另一个角度。
- D）假设不需要额外的控制，因为人工智能中不存在偏见
解释：如果你问的问题只支持你自己的观点，人工智能会描绘出一幅确认图（带有奉承的倾向）。有意识地提出反假设——“这种评估错误的情况会是什么样子？”——可以发现被忽视的因素并检查是否存在偏见。从不同角度总结同一事件也可以提供平衡。