收益：
- 在购买人工智能工具之前应用评估标准
- 识别数据处理协议 (DPA) 和模型卡中要查找的项目
- 创建批准的车辆列表和供应商风险评分
当一个业务部门来到你家门口并说“我们想要使用那个新的人工智能工具，它会非常有用”时，你会怎么做？说“不可能”会助长影子人工智能；说“好”会带来不受控制的风险。正确的答案是运行车辆评估流程。在本单元中，我们将学习在购买/认证人工智能车辆之前要问哪些问题，在数据处理协议（DPA）和模型卡中寻找什么，以及如何将所有这些提炼成批准的车辆列表和供应商风险评分。
为什么需要评估？
每个人工智能工具都是一个数据处理器：它处理组织的数据。批准错误的工具意味着以不受控制的方式将组织的个人数据移交给第三方（通常是国外的）。批准工具之前需要回答的核心问题：
- 它在哪里处理和存储数据（哪个国家/地区）？
- 它在模型训练中使用我们的数据吗？可以关闭（选择退出）吗？
- 它是否提供数据处理协议 (DPA)？
- 是否有安全认证（例如 ISO 27001）？
- 聊天记录会保存多久，可以删除吗？
- 是否承诺在出现安全漏洞时通知我们？
数据处理协议 (DPA)
数据处理协议（DPA）是数据控制者（机构）和数据处理者（人工智能提供商）之间签署的合同，规定如何处理数据。 KVKK 和 GDPR 在很大程度上强制要求这一点。 DPA 中需要注意的事项：
事
它应该提供什么？
处理的范围和目的
让提供商仅按照我们的指示进行操作
子处理者
转移给谁？是提前通知的吗？
转让保证
标准合同条款或同等条款
安全措施
加密、访问控制、ISO 27001
违规通知
如有违规，请在一定期限内通知我们
删除/返回
承诺在合同结束时删除/归还数据
审计权
能够审核提供商或接收报告
请注意：大多数“免费”和“个人”AI 计划不提供 DPA，并且可能使用数据进行模型训练。对于企业用途，应首选提供 DPA 并保证教育选择退出的企业/商业计划。免费计划通常是“付费”数据的计划。
模型卡和透明度
模型卡是一份文档，解释了人工智能模型的设计目的、训练数据、局限性和已知风险。一个好的供应商会分享这一点。模型卡中需要注意的事项：模型的预期用途、已知的限制和偏见风险、不推荐的用途以及性能/安全说明。如果型号卡丢失或非常模糊，这本身就是一个警告信号。
三个迷你箱子
案例 1 — 免费计划的成本。会计团队开始使用免费的人工智能工具处理客户财务数据。该工具不提供 DPA，并在其条款中声明它可以使用数据进行模型训练。合规官注意到了这一点并禁止了该工具，批准了提供 DPA 的企业替代方案。差异：每月几百里拉的许可证等费用。可能罚款数百万英镑。
案例 2 — 子处理者的意外。一家公司在几个月后的审计中发现，其批准的人工智能工具将数据传输到三个不同国家的分处理商。由于DPA中没有“应提前通知分处理者”的条款，该公司对此并不知情。教训：DPA 中必须有一个使子处理器链可见的子句。
情况3——通过评分决定。一家组织建立了一个 8 项标准的供应商风险评分表来比较三种 AI 工具（DPA、数据位置、培训选择退出、ISO 27001、违规通知、删除、模式卡、价格）。评级结果突出显示该工具不是最流行的，而是最兼容的。该决定基于可记录的分数，而不是主观的“我喜欢它”。
提示：将批准的车辆列表作为“白名单”进行管理：仅允许列表中的车辆。黑名单必须随着每一个新工具的更新而更新，并且总是落后一步；默认情况下，白名单是安全的。
退出和成瘾风险
大多数机构在批准车辆时都会跳过的问题是：“如果我们想退出这辆车会怎样？”良好的评估既要考虑退出，也要考虑进入。有两个风险很突出。首先是数据可移植性：当您离开提供商时，您能否以标准格式取回您的数据和配置，或者数据是否被锁定在提供商中？第二个是供应商锁定：业务流程可能与单一工具紧密相关，以至于当提供商提高价格或中断服务时，退出成本变得难以承受。
这就是为什么在确认记录中添加“退出计划”行是一个很好的做法：我们如何取回数据，替代工具是什么，过渡需要多长时间。即使提供商有一天关闭服务，组织也会做好准备。
注意：仅仅因为一种车辆受欢迎或便宜并不意味着它是可持续的。小型提供商可能会关闭、被收购或突然改变其政策。在将关键流程连接到单个工具之前，请考虑退出场景。
可复制模板
模板 1 — 供应商评估问题集：“在批准新的 AI 工具之前准备评估问题以询问供应商。包括：数据位置、模型训练中的使用和选择退出、DPA 存在、安全证书、保留期、违规通知、子处理者、删除承诺。包括每个问题的预期“安全”答案。”
模板 2 — DPA 条款清单：“检查下面的 DPA 草案[粘贴文本]，了解以下条款：处理范围、分处理者、转移保证、安全措施、违规通知期限、删除/返回、审核权。为每个条款标记“存在/缺失/不确定”。提醒需要法律批准；不要做出最终判断。”
模板 3 — 供应商风险记分板：“设置 8 个标准风险记分板来比较 3 个 AI 工具：DPA、数据位置、培训选择退出、ISO 27001、违规通知、删除、模式卡、成本。让每个标准为 0-3 分，添加总分和推荐栏。给出空白模板，我会填写。”
模板 4 — 批准的工具列表条目：“在批准的人工智能工具列表中起草一个新条目：工具名称、批准的预期用途、允许哪些数据类别（公开/内部/机密）、禁止的数据类型、责任单位、批准日期、审查日期。采用单行记录格式。”
弱提示/强提示
弱：“这个人工智能工具安全吗？”-> 重复模型工具的营销承诺；它不评估 DPA、数据位置、培训使用等具体标准。 STRONG：“我将评估这个供企业使用的人工智能工具。我应该根据以下 8 个标准（DPA、数据位置、培训选择退出、ISO 27001、违规通知、存储、子处理商、模型卡）向提供商请求哪些信息，以及每个标准中的“可接受”阈值应该是多少？以检查表格式给出。” -> 该模型产生了一个具体的、可验证的评估框架。
常见错误
- 使用带有公司数据的免费/个人计划；没有意识到没有 DPA 和选择退出。
- 根据营销承诺批准该工具，而不是要求提供数据位置和教育用途。
- 无需签署 DPA 或检查子处理者条款即可共享数据。
- 毫无疑问地批准没有/不确定型号卡的车辆。
- 保留禁止名单而不是白名单，并保留每辆新车。
- 批准后不再审查车辆（条件发生变化）。
- 根据主观偏好而不是可认证的分数来选择供应商。
综上所述
- 每个人工智能工具都是一个数据处理器；批准前必须进行系统评估。
- 数据处理协议（DPA）是绑定数据的基础文件；它应包括范围、子处理者、安全、违约和删除条款。
- 免费/个人计划通常不提供 DPA 并使用数据进行培训；公司计划应优先考虑。
- 模型卡显示了模型的局限性和风险；它的缺失是一个警告信号。
- 批准的工具应作为白名单进行管理，供应商应使用可记录的风险评分进行管理。
应用任务
选择您的组织可能想要使用的三种真正的人工智能工具。设置包含八个标准（DPA、数据位置、培训选择退出、安全认证、违规通知、保留、模型卡、成本）的供应商风险评分表，并根据这些标准对每辆车进行 0-3 的评分。然后为得分最高的车辆编写批准的车辆列表条目：批准的预期用途、允许的数据类别、禁止的数据类型、责任实体和审查日期。最后，请注意您肯定希望在车辆 DPA 中看到的五个项目以及为什么每个项目都很重要。
清单
- [ ] 我在批准该工具之前询问了评估问题。
- [ ] 我阐明了模型训练中的数据位置和用例。
- [ ] 我检查了 DPA 及其关键项目的存在。
- [ ] 我检查了型号卡；我看到了限制和风险。
- [ ] 我通过可记录的风险评分对供应商进行了评估。
- [ ] 我将该工具添加到了允许数据类的白名单中。
- [ ] 我设定了审核日期。