收益:
- 能够在认证、存储、数据驻留和子处理器方面评估人工智能供应商
- 能够通过文件和合同条款验证保证,而不是依赖口头言语
- 能够将 DPA 和选择退出/删除条件与预购买安全审查联系起来
大多数组织并不训练自己的模型;使用提供商的 API。这并不能消除风险——它只是将风险转移给其他人,而您有责任评估您正在转移的风险。您的数据流向的每个第三方都是您安全边界的延伸。在本单元中,您将学习如何评估人工智能供应商;我们将学习如何通过合规证书、数据处理协议(DPA)、数据存储、数据所在地和子处理者进行购买前安全审查。
为什么要承担第三方风险?
如果发生审计或违规,“我们没有处理数据,而是提供商处理的”的辩护并不能拯救您。您是数据控制者;提供者是数据处理者。 KVKK 和 GDPR 做出了这种区分,但大部分责任仍由您承担。这就是为什么选择供应商不是采购决策,而是安全决策。
注意:“大型且知名的提供商”并不能保证安全。保证来自于签署的合同条款和可验证的认证;并不是因为品牌的声誉。
评价轴
从七个方面考察人工智能供应商:
- 合规性认证:SOC 2 Type II(组织安全控制的独立审核)、ISO/IEC 27001(信息安全管理标准)以及越来越多的 ISO/IEC 42001(人工智能管理系统标准)。
- 数据保留:提示/响应保留多长时间?是否提供 ZDR(零数据保留)?
- 用于训练:您的数据是否用于训练模型? (在公司层面通常是“不”。)
- 数据驻留:数据在哪个国家/地区处理和存储?
- 子处理者:提供商还使用哪些其他公司(云、监控)?它们也是你边界的一部分。
- 安全功能:加密(传输中/静态)、访问控制、审核日志、事件通知时间。
- 合同和退出:有 DPA 吗?如果服务结束,您的数据是否保证被删除?锁定的风险是什么?
一步一步:供应商审查
- 提交安全调查。将上面的轴变成问题列表。
- 求证据。使用文档(SOC 2 报告、ISO 证书、DPA 草案)验证声明。
- 绘制数据流图。哪些数据流向何处以及用于哪个流程?
- 协商 DPA。在未签署数据处理协议(指定提供商如何处理数据的法律文本)的情况下,请勿开始生产。
- 审查子处理者。考虑整个链条。
- 制定重新评估时间表。供应商风险应至少每年重新检查一次。
四个可复制模板
供应商安全调查核心:
向提供商询问的事项:1。您拥有哪些合规认证? (SOC 2 Type II,ISO 27001/42001)您可以分享该报告吗?2。保留多少请求/响应数据?有ZDR选项吗?3.我们的数据用于模型训练吗?合同里有写吗?4.数据在哪个区域进行处理/存储?我们可以选择一个区域吗?5.谁是您的子处理者?当它改变时你如何通知?6.如果发生违规,您的通知期限是多长?7.合同结束后,我们的数据如何以及何时被删除?
证据验证检查规则:
对于每项主张,“有证据吗?”检查:- 认证声明 -> 我是否看过当前的报告/证书编号?- ZDR/存储声明 -> 是否写在合同条款中?- 培训中不使用 -> DPA 中是否有开放条款?将每项没有证据的主张标记为“未验证”;不接受口头言语。
数据流映射提示:
提取以下集成的数据流:{{ 场景 }}在每一步指定:哪些数据(是否包含 PII)、数据去往何处(哪个公司/地区)、用于什么目的、存储多少。标记跨越企业边界的每个步骤和子处理者。
供应商风险记分卡:
对每个轴进行 0-2 分(0=无、1=部分、2=完整):证书、ZDR/保留、请勿在培训中使用、数据驻留、子处理器透明度、违规通知、退出/删除。如果总计 < 10 或任何轴为 0:“风险高,投入生产”。
弱提示/强提示
糟糕的方法
强硬的做法
假设“公司大,安全”
使用文档验证证书和 DPA
依靠口头保证
将每项保证与合同条款联系起来
只需查看提供商即可
还要考虑子处理器链
选择一次然后忘记
年度重新评估日历
三个迷你箱
案例 1 — 在没有 DPA 的情况下启动的项目被停止。一家零售公司迅速将一名助理投入生产;法律团队随后发现没有与提供商签署 DPA。该项目在处理客户数据时暂停,在欧盟地区确定数据归属后,DPA 进行了谈判并重新开放。
案例 2 — 子处理器链引发意外。一家医疗保健公司已批准主要提供者;然而,数据流图显示该提供商正在使用第三国的一家公司进行监控。这违反了数据驻留要求。该公司在合同中增加了区域内停留。
案例 3 — 记分卡消除了廉价投标。评估了三项提案。最便宜的提供商在认证轴上获得 0(无 SOC 2)。取消了“如果任何轴为0,则将其投入生产”的记分卡规则;选择了一家价格贵 22% 但获得全面评级的提供商,并将该决定记录下来以供审核。
提示:永远不要混淆两个不同的保证:“我们的数据不被存储(ZDR)”和“我们的数据不用于训练”是单独的条款。提供商可以提供其中一种,但不能提供另一种;合同中明确要求两者。
常见错误
- 考虑提供商的规模/品牌作为安全保证。
- 依靠口碑而不用文件验证声明。
- 在未签署 DPA 的情况下投入生产。
- 忽略子处理器链(数据驻留在那里被刺穿)。
- 认为ZDR和“不在教育中使用”的保证是一样的。
- 一次性批准供应商,不再每年重新评估。
综上所述
- 您是数据控制者;供应商选择是一项安全决策,而不是采购决策。
- 从七个轴进行评估:认证、保留/ZDR、教育用途、数据驻留、子处理者、安全功能、合同/退出。
- 通过文件和合同条款验证每项保证;品牌和口碑还不够。
- 还要考虑子处理器链;数据驻留处经常被刺穿。
- 在签署 DPA 之前不要开始生产,并每年重新评估供应商。
应用任务
为您使用(或评估)的人工智能供应商填写上面的安全调查,并询问“有证据吗?”对于每个答案。勾选该栏。然后绘制数据流图并标记跨越企业边界的每个步骤。最后,对七个轴进行评分并制作风险记分卡并询问“是否适合生产?”写下你的决定的原因。
清单
- [ ] 我已记录了提供商的合规性认证 (SOC 2 / ISO 27001)。
- [ ] 数据存储、ZDR 和“不在教育中使用”条款写入合同中。
- [ ] 它满足我的数据驻留要求 (KVKK/GDPR)。
- [ ] 我映射并评估了子处理器链。
- [ ] 在没有签署 DPA 的情况下,我没有投入生产。
- [ ] 我为供应商制定了年度重新评估日历。