人工智能治理框架：角色、审批、审计和事件响应 — 人工智能政策、KVKK 和欧盟人工智能法

收益：

使用 RACI 矩阵定义治理角色
建立平衡的审批流程和定期审核计划
实施 72 小时规则的人工智能和数据泄露事件响应计划

从第一单元到现在，我们写了政策，学习了立法，评估了风险。现在是时候将所有这些插入到一个工作系统中了。无论政策写得多好，如果其背后没有角色、审批流程、审计和事件响应，它就会像文档一样被束之高阁。在这个结束单元中，我们结合了保持人工智能治理活力的四种机制——角色（RACI）、审批流程、定期审计和事件响应——并完成了框架。

澄清角色：RACI 矩阵

治理的第一条规则：每项任务都必须有一个所有者。澄清这一点的经典工具是 RACI 矩阵。 RACI 来自四个角色的首字母：

R（Responsible / Doer）：实际执行工作的人。
A（Accountable）：最终负责人应该只有一个人。
C（咨询）：意见被采纳的人。
我（知情）：知情。

任务

由 (R) 制造

负责 (A)

咨询过（C）

知情者（一）

撰写政策

人工智能官

合规经理

法律、IT、人力资源

高级管理人员

新车审批

信息技术/安全

合规经理

法律

业务单位

DPIA执行

数据保护官

合规经理

平衡的审批流程

新的人工智能工具或其使用需要审批流程。避免了两个陷阱：太宽松（一切都是免费的，影子人工智能）和太严格（一切都等待几个月的批准，没有人打扰）。权衡是根据风险逐步批准：

风险等级

例子

审批路径

低

带有开放数据的文本草稿

无需审批，政策范围内免费

中等

使用内部数据进行分析

单位经理+批准的车辆要求

高

个人/隐私数据，自动决策

合规+法律批准+DPIA

释放低风险用途使团队能够掌控流程；严格控制高风险可以管理真正的风险。因此，该过程既快速又安全。

定期检查

治理是一个有生命的系统；如果没有定期的监督，它就会死亡。审计检查：使用的车辆是否仍在批准清单上，是否有影子人工智能的迹象，是否应用了保留期，DPIA是否是最新的，是否记录了事件。审核频率由风险决定（例如，高风险系统每季度一次，一般情况每六个月一次）。

注意：审计不是“指责某人”的工具，而是“改进制度”的工具。以惩罚为中心的审计文化促使员工隐藏问题并培育影子人工智能。目标是尽早发现并解决问题。

事件响应和 72 小时规则

无论管理得多么好，总有一天会发生以下事件：数据泄露、人工智能决策错误、机密数据进入错误的工具。事件响应计划规定了要做什么：

检测和遏制：识别事件，阻止其传播（例如切断访问）。
评估：哪些数据、多少人、多少受到影响？
通知：如果发生个人数据泄露，必要时通知相关机构（KVKK 委员会）和相关人员。 GDPR 要求在得知违规行为后 72 小时内通知主管部门； KVKK 还希望“尽快”收到通知。
纠正和学习：解决根本原因，采取行动防止类似事件发生，记录事件。

注意：72小时通知期从您得知事件之日起算； “先内部解决，然后再通知你”的做法会错过最后期限。提前准备好事件响应计划和沟通链可以在危机期间节省时间。

三个迷你箱子

案例 1 — 无人认领的任务。一家公司有人工智能政策，但不清楚“谁更新批准的工具列表”。该列表已经 8 个月没有更新，团队开始使用列表之外的工具。如果 RACI 矩阵将此任务固定给某个角色，则不会出现差距。

案例 2——错过了 72 小时。一名员工将神秘顾客名单输入了错误的工具。该团队试图在内部解决这个问题，并在三天后通知法律。顺便说一句，通知期已经过去了。准备好的事件响应计划和清晰的沟通链可以在第一个小时内将事件转移到正确的渠道。

案例 3——Shadow AI 被审计发现。某组织在半年度例行审核期间在网络流量中检测到三种未经批准的人工智能工具。他没有惩罚，而是与团队交谈，了解他们为什么需要这些工具，评估这两个工具并将它们添加到批准的列表中。审计既可以消除风险，又可以让真正的需求可见。

可复制模板

模板 1 — RACI 矩阵大纲：“为我们组织的 AI 治理起草 RACI 矩阵。任务：政策编写、工具审批、DPIA、违规响应、审计、培训。角色：AI 主管、合规经理、法律、IT、人力资源、高级管理层。每个角色只有一个“A”。”

模板 2 — 分层审批流程：“根据风险设计分层 AI 审批流程：针对低/中/高风险单独审批路径。为每个级别编写示例用法、审批者角色和所需文档（DPIA 等）。使流程既快速又安全。”

模板 3 — 审计清单：“为六个月的 AI 治理审计准备清单：批准的工具合规性、影子 AI 指示、保留期、DPIAcurrency、事件日志、培训完成率。为每个项目添加“如何检查”方法。”

模板 4 — 事件响应流程卡：“为人工智能/数据泄露编写一页事件响应流程卡：一步一步（检测、遏制、评估、通知、补救）、每一步的负责角色和联系信息、72 小时通知警报。保持足够简单，以便在危机中可以立即采取行动。”

弱提示/强提示

弱：“我们应该为人工智能治理做些什么？”->模型给出了一个总体列表；角色、批准路径和事件计划不会针对特定机构且适用。 STRONG：“我们是一个有 60 人的组织。为了使 AI 治理发挥作用：(1) 生成 5 任务 RACI 矩阵，(2) 低/中/高风险的分层审批流程，(3) 带有 72 小时规则的一页事件响应卡。让每个任务中有一个“A”；简单且适用。”-> 该模型生成特定于组织的、立即可用的治理工具。

常见错误

没有为角色固定任务；造成“每个人的工作与任何人无关”的差距。
对一项任务定义多个“A”（最终负责人）。
审批程序过于宽松或过于严格；不根据风险进行分层。
根本不开展检查，或者把检查当作惩罚的工具，隐瞒问题。
考虑事件发生后的事件响应计划。
错过 72 小时通知期只是为了“让我们先在内部修复它”。
治理一旦建立，不再审查；然而，它是一个生命系统。

总之

四种机制使治理发挥作用：角色（RACI）、分层审批、定期审计和事件响应。
在 RACI 矩阵中，每项任务都应有一个最终负责人 (A)。
审批流程应根据风险分级；低风险无风险，高风险严格控制。
定期审计使治理保持活力；它被用作治疗手段，而不是惩罚手段。
应提前制定事件响应计划；如果发生个人数据泄露，不应忘记 72 小时通知规则。

应用任务

在单个文档中收集您组织的完整治理框架。首先建立至少包含五个任务的RACI矩阵；确保每项任务中只有一个“A”。然后设计低、中、高风险的分层审批流程，并在每个级别添加示例用法、审批角色和所需文档。然后创建六个月的审核清单。最后，为人工智能/数据泄露编写一页事件响应卡；包括 72 小时通知警报和通信链。这四部分将成为将您在整个模块中学到的知识转化为工作系统的文档。

清单

[ ]我建立了RACI矩阵；每个任务中只有一个“A”。
[ ]我根据风险设计了一个渐进式的审批流程。
[ ] 我对低风险用途保留了相当自由的态度。
[ ] 我准备了一份为期六个月的审核清单。
[ ] 我将审核定位为一种改进工具。
[ ] 我写了一张一页的事件响应卡。
[ ] 我已纳入 72 小时通知规则和沟通链。

模块考试

1. 当组织没有书面的人工智能政策时，员工未经批准使用人工智能是什么概念？

A) Shadow AI（影子AI）✔
B) 开放式重量AI
C) 多模式人工智能
D）监督人工智能

描述：在机构不知情和批准的情况下使用人工智能被称为“影子人工智能”，会带来数据泄露等严重风险。

2. 良好的企业人工智能政策的基本方针应该是什么？

A）尽可能完全禁止人工智能的使用
B) 成为一个能够负责任地使用并提供清晰度和信任的框架 ✔
C) 是只有IT部门知道的技术文档
D) 尽可能长并且仅用法律语言编写

说明：好的政策不是一系列禁令，而是一个能够负责任地使用的框架。完全禁止它并不会消除其使用；它只是让它变得看不见和不受控制。

3. 数据分类是企业人工智能策略中最关键的部分，由什么决定？

A) AI模型的代币价格
B）公司年度AI预算
C) 哪种类型的数据可以输入哪种人工智能工具 ✔
D) 哪个员工将获得哪种薪水？

描述：数据分类；它规定了明确的规则，规定哪些类型的开放、内部、机密和专有数据可以或不可以输入哪个人工智能工具。

4. KVKK 的“数据最小化”（相关性、有限性和比例）原则在人工智能的使用中意味着什么？

A) 仅向 AI 输入必要的数据，无需输入更多数据 ✔
B）通过向人工智能输入尽可能多的数据来获得更好的结果
C）无限期地存储数据
D) 确保将所有数据传输到国外

解释：数据最小化是指仅向人工智能输入达到目的所需的数据，不再输入更多数据。如果可能，数据会以匿名或屏蔽的方式输入。

5. 当将包含个人数据的文本输入到处理提供商服务器上的数据的人工智能工具时，KVKK 会考虑什么？

A) 正常交易，不产生法律后果
B) 在任何情况下都严格禁止的行为
C) 仅当数据开放时才有意义的操作
D) 交易，通常是转账；需要法律依据和保证✔

说明：这是一次“处理”，通常是“传输”，因为数据是在提供商的服务器（通常在国外）上处理的；它需要有效的法律依据和适当的合同/保证。

6.欧盟人工智能法案的基本方针是什么？

A）让所有人工智能系统遵守同样严格的规则
B) 根据潜在风险对人工智能系统进行分类并相应应用规则 ✔
C）在整个欧盟全面禁止人工智能的使用
D) 仅控制模型的代币价格

解释：欧盟人工智能法并未将所有人工智能混为一谈；它根据系统的潜在危害将系统分为四个风险类别（禁止、高、有限、最小），并随着风险的增加收紧规则。

7. 根据欧盟人工智能法，在招聘决策中筛选候选人的人工智能系统最有可能属于哪一风险类别？

A) 高风险✔
B) 风险最小
C) 有限风险
D) 无风险

描述：严重影响人们生活的领域，如招聘、信贷和医疗保健，通常属于“高风险”类别，并受到严格的义务（记录、人工监控、数据质量）。

8. 根据欧盟人工智能法，国家资助的“社会评分”系统根据人们的行为或特征对人们进行评分，并在社会上使他们处于不利地位，属于哪一类？

A) 有限风险
B) 高风险
C) 禁止（不可接受的风险）做法 ✔
D) 风险最小

描述：社交评分、潜意识操纵和某些生物识别监视行为属于“禁止行为”；即使风险降低了，这些也不能发布，是完全禁止的。

9. GDPR 第 22 条保护个人免受哪些侵害？

A）针对人工智能工具的高价格
B) 仅针对广告电子邮件
C) 反对使用赤字加权模型
D) 反对对个人有重大影响且仅自动做出的决定 ✔

说明：GDPR 第 22 条保护个人免受在法律或类似重大程度上影响个人的决定的影响，并且这些决定仅基于自动化处理（包括人工智能）；它提供了请求人为干预和反对的权利。

10. 当您想要在国外人工智能提供商的服务器上处理个人数据时，KVKK/GDPR 有何要求？

A) 无附加条件；数据可以自由传输
B) 适当的保证（承诺书/标准合同条款）或明确同意等机制 ✔
C）仅对数据进行加密就足够了
D) 只需得到员工的口头批准就足够了

解释：跨境转移通常需要包括明确同意或充分承诺保护的机制（适当的保障措施，例如承诺书、标准合同条款）；数据不能随机传输。

11. 在大多数法律体系中，什么决定了人工智能生成的输出是否受版权保护？

A) 人类创造力和内容贡献水平 ✔
B) 所用模型的代币价格
C) 仅输出长度
D) 人工智能工具的原产国

描述：在许多法律体系中，版权保护需要人类的创造力。人类的指导、选择、监管和独特贡献越大，保留产出的可能性就越大。

12、AI治理框架最关键的原则“人的控制”指的是什么？

A）人工智能独自自动做出所有决定
B）人们完全停止使用人工智能
C）人工智能是一种工具；重要决定的最终决定权和责任始终属于个人✔
D) 只使用最昂贵的型号

描述：人类控制原则强调人工智能是一种工具，责任始终由人类承担。重要决定由授权人拥有最终决定权； “人工智能是这么说的”不是借口。

13. 通常应何时进行数据保护影响评估 (DPIA)？

A) 数据泄露发生后
B) 在设计阶段，开始高风险处理之前✔
C) 仅当审核员要求时
D) 通常，在项目实施数年后

描述：DPIA 应在开始使用新技术、涉及大规模或系统监控或对个人构成高风险的人工智能处理活动之前在设计阶段进行。

14.根据KVKK的“目的限制”和保留原则，人工智能工具聊天记录中的个人数据应该如何处理？

A）应永久保存
B) 不需要规则，这是提供商的问题
C) 仅根据经理的要求每年进行审查。
D) 应与存储和销毁政策挂钩，并应在目的完成后删除或匿名化✔

说明：个人数据的保存时间不得超过其处理目的所需的时间。人工智能聊天记录还应该与保留和销毁政策挂钩；当目的不再存在时，应将其删除或匿名化。

15. 超过特定阈值的数据控制者需要在哪个登记处登记其在土耳其的个人数据处理活动？

A) VERBIS（数据控制者注册信息系统）✔
B) MERSIS 贸易登记处
C) 欧盟人工智能法律数据库
D) 纳税人登记册

描述：VERBIS（数据控制者注册信息系统）是数据控制者注册其处理清单的官方注册中心；基于人工智能的新处理活动必须反映在库存中，如有必要，还必须反映在 VERBIS 记录中。