收益：
- 在人工智能工具中处理公民个人数据时，它应用了 KVKK 原则和数据最小化。
- 它为组织建立了一个治理框架，其中包括人工智能使用政策、审计跟踪和责任链。
- 它从整体上认为，负责任的公共人工智能建立在人类监督、透明度和问责制的基础上。
在整个模块中，我们看到人工智能如何成为公共领域的强大加速器：回应公民问题、请愿和信件、立法研究、政策分析、报告、数据驱动的决策、电子政务和透明度。现在我们来讨论将所有内容结合在一起的框架：个人数据保护和负责任的治理。就其本质而言，公众处理公民最敏感的数据：身份、地址、收入、健康、犯罪记录、家庭情况。使用人工智能工具处理这些数据必须完全遵守 KVKK（第 6698 号个人数据保护法；规范合法、有限和安全处理个人数据的法律）的框架。在最后一个单元中，我们将建立公共人工智能使用的隐私和治理支柱——哪些数据可以提供给哪个工具、适用哪些政策、谁负责、组织如何安全管理人工智能。该单元是之前十个单元之上的屋顶。
KVKK接触公共人工智能的基本原则
KVKK 提出了几项基本原则，每一项都直接限制了人工智能的使用：
- 遵守法律并遵守目的：仅出于特定的合法目的处理个人数据。未经许可，不得将出于一个目的（例如，申请帮助）收集的数据用于另一目的（例如，训练模型）。
- 数据最小化：不会处理超出目的所需的数据。如果类别分析不需要名称，则不给出名称。
- 安全性：数据受到保护，防止未经授权的访问。将公民数据粘贴到公共人工智能工具中就是将该数据带出组织——这违反了安全政策。
- 存储期限：目的结束时数据被删除；它不会无限期保留。
- 信息和权利：公民有权了解其数据如何处理、更正、删除和反对自动决策。
注意：将公民的数据上传到未经该机构批准的公共人工智能工具，数据存储在哪里以及谁有权访问这些数据尚不清楚，在大多数情况下都违反了 KVKK 规定，并使该机构受到制裁。规则绝不会“为了让工作变得更容易”而改变。
哪些数据传输至哪辆车？三区模型
根据经验，将数据分为三个区域：
- 红色（切勿进入公共车辆）：身份证号码、健康状况、犯罪记录、宗教、种族、生物识别、完整地址、任何可识别个人身份的信息。这些仅在机构批准的合同/内部且符合 KVKK 的环境中进行处理。
- 黄色（小心，通过屏蔽）：可以间接链接到该人的数据。首先匿名/聚合，然后处理。
- 绿色（免费）：非个人的、公开的、一般信息（立法文本、公共统计数据、一般程序）。您可以使用人工智能轻松处理这些。
提示：在向 AI 发送文本之前，请进行 5 秒测试：“此内容中是否有任何内容可以识别个人身份？”如果答案是“是/也许”，请戴上面罩或驾驶经批准的车辆。如果有疑问，请考虑红色。
公司治理：从人到制度
负责任的公共人工智能不能依赖于个别公务员的善意；需要一个制度框架：
- 政策：机构必须制定人工智能使用政策：哪些工具得到批准，可以输入哪些数据，谁负责。
- 批准的工具清单：人员应使用机构已经评估和批准的工具，而不是随意使用。
- 培训：工作人员必须了解验证规则和数据区域（如本模块）。
- 记录和审计：应保留人工智能决策的审计跟踪。
- 问责制：每个人工智能驱动的输出都必须得到人类所有者和批准。责任在于机构和官员，而不是车辆。
- 以人为本的原则：未经人类同意，不会做出最终的权利创造/限制决定。
三个迷你箱子
案例 1 — 防止红色数据泄漏。一名工作人员正准备将 1,200 人的健康福利清单摘要上传到公共工具。由于该机构批准的车辆政策和“红色数据”培训，它停止了；数据在内部批准的环境中进行处理，并且身份字段被屏蔽。避免了可能发生的 KVKK 违规行为以及数万人失去信任的情况。
案例 2——滥用。一个单位希望利用收集的数据来制定选举前的沟通计划。数据保护官员回顾了遵守目的的原则：这是在收集数据的目的之外使用数据，并且是非法的。该请求被拒绝。
案例 3——治理差距弥合。在一个城市，不同单位在不受控制的情况下使用不同的人工智能工具；没有人知道哪些数据去了哪里。该机构推出了人工智能使用政策、批准的车辆清单和审计追踪； 3 个月内，未登记的车辆使用量减少了 90%，并创建了数据清单。
四个可复制模板
1）数据区域分类（导出到车辆之前）：
您的角色：数据保护顾问。在将以下内容提供给人工智能代理之前对其进行分类：红色（识别人员，切勿进入公共车辆），黄色（间接连接，面具），绿色（非个人，免费）。将红色/黄色区域一一标记并告诉他们如何遮盖。将嫌疑人算作红色。内容：[文字]
2) 屏蔽/匿名化：
在处理以下文本之前对所有个人数据进行匿名处理：姓名 -> [PERSON-1]、ID 号 -> [IDENTITY]、地址 ->[ADDRESS]、健康/处罚 -> [SENSITIVE]。标记同一个人。单独导出匿名文本。切勿将实际数据写入输出。文本：[文本]
3) KVKK 合规检查表（用于 AI 的使用）：
您的角色：KVKK 合规专家。为以下人工智能使用制定合规清单：(1) 处理的目的是否合法且具体，(2) 是否与该目的相关（是否转移到另一个目的），(3) 是否优化，(4) 工具是否安全/批准，(5) 保留期限是否确定，(6) 公民权利（反对、删除）是否受到保护。用红旗标记丢失的物品。用法：[食谱]
4）企业人工智能政策框架：
您的角色：公共 IT 治理专家。为我们的组织制定人工智能使用政策框架：范围、批准的工具、数据区（红色/黄色/绿色）、禁止使用、人工审批点、审计跟踪、责任、培训和违规通知。每个标题填写 1-2 个句子。机构：【单位及典型岗位】
弱提示/强提示
弱：“总结一下这份参考文献列表。”
Strong：“您的角色是数据保护顾问。首先，按数据区域（红色/黄色/绿色）对此列表进行分类，并标记识别该人员的所有字段。用[人员]/[身份]/[敏感]屏蔽红色/黄色字段，使同一个人具有相同的标签。仅使用匿名聚合数据生成类别摘要；不要将真实的个人数据写入输出。最后，请注意此过程在 KVKK 方面需要注意的地方（目的、存储、车辆安全）添加。”
不同之处：强大的提示在处理数据之前对 KVKK 原理进行分类、屏蔽、最小化和集成。
数据区域和规则
地区
例子
规则
红色
TR ID 号、健康状况、罚款、详细地址
切勿进入公共车辆；批准的环境
黄色
年龄+社区+职业，间接标识符
掩膜/聚合，然后处理
绿色
立法、公共统计、一般程序
自由职业
常见错误
- 将红色数据导出到公共工具。最严重的违规行为； ID/健康/处罚数据不会离开批准的环境。
- 滥用。未经许可，将出于某一目的收集的数据用于另一目的（模型训练、交流）是违法的。
- 处理太多数据。不要为此目的移动不必要的字段（姓名、地址）；最小化。
- 未经批准驾驶。目前尚不清楚这些数据在该机构尚未评估的车辆中去了哪里。
- 不确定保留期限。目的完成后应删除数据；不应无限期保留。
- 把责任推到车辆身上。产出由人类拥有并认可； “人工智能做到了”并不是一种辩护。
综上所述
负责任的公共人工智能的框架是个人数据保护和公司治理。 KVKK 原则——目的性、最小化、安全性、保留限制、公民权利——限制人工智能的任何使用。将数据划分为红色/黄色/绿色区域，永远不要给公共工具赋予红色，屏蔽个人数据，仅使用经过批准的工具，并将人类所有者与每个决策联系起来。机构级政策、批准车辆清单、培训和检查记录；个人层面的验证纪律。因此，人工智能通过保护公民权利来服务公众。
应用任务
选择您所在单位已经（或正在考虑）实际使用的人工智能。使用“数据区域分类”模板将您要处理的内容分为红/黄/绿。应用“KVKK 合规检查表”模板并找到至少一个缺失/风险点。最后，以“企业人工智能政策框架”为基础，起草一份适合自己单位的简短政策。
清单
- [ ] 我将内容分为红/黄/绿区域；我把嫌疑人算作红色。
- [ ] 我没有向公共工具提供红色数据；我使用了经批准的媒体。
- [ ] 我屏蔽了个人数据并删除了不必要的字段（最小化）。
- [ ] 我已检查处理目的、储存期限和车辆安全。
- [ ] 我已遵守公民的反对/删除权利。
- [ ] 我为每个输出附加了人类所有者和批准；我保留了审计线索。
模块考试
1. 作为一名公职人员，在将工作交给人工智能之前，你最应该问的问题是什么？
- A）如果这个输出是错误的，公民会损失什么？ ✔
- B）人工智能能多快完成这项工作？
- C) 这个人工智能工具是免费的吗？
- D) 另一个单元也会使用这个输出吗？
解释：转移的决定是根据输出不正确时公民将遭受的损失来做出的。只要重写几分钟，损害就很容易转移；如果是不公正的拒绝、错误的处罚或丧失权利，人工智能只产生一个草案，决定和验证属于官方。
2. 当人工智能将不存在的法律或捏造的法院判决呈现为真实时，这叫什么？
- A）缓存
- B) 分类
- C) 匿名化
- D) 幻觉✔
解释：幻觉是指人工智能自信地产生实际不存在的信息（捏造的物质、废除的法规、错误的数字）。在立法领域，这是最危险的风险之一，因为它可能导致权利的丧失和行政行为的撤销。
3. 官员将根据YZ指出的规定条款拒绝该申请。哪种行为才是最正确的？
- A）AI直接写拒绝，因为它看起来很自信
- B）向另一辆人工智能车辆询问同样的问题并获得确认
- C) 确认 Çözüm.gov.tr 上当前合并文本中的文章 ✔
- D) 向上级口头请求决定
描述：AI的训练数据在某个日期被冻结；它显示的文章可能已被废除或更改。在做出决定之前确认该文章有效，并且其最终版本来自 Çözüm.gov.tr 当前合并文本，可以防止不公平的拒绝和可能的废止诉讼。
4. 为什么公民聊天机器人能够说“我不知道，我要把你转给官员”是质量保证？
- A) 通过提高周转率来改进统计数据
- B) 通过在不确定时将信息委托给人类来防止错误信息 ✔
- C）通过分散市民的注意力来延长通话时间
- D）允许聊天机器人收到更少的问题
解释：在公开场合，自信的错误答案比诚实的回答要付出更大的代价；它会导致权利的丧失和对机构的不信任。聊天机器人在不确定时将信息移交给人类的能力是一种防止幻觉性错误信息的安全机制。
5. 使用人工智能“简化”官方通信时要考虑的最重要的风险是什么？
- A) 文字太短
- B）更改字体
- C) 放弃条件或例外 ✔
- D) 收件人姓名拼写错误
说明：文体改编不应改变内容。在简化时，人工智能有时会丢弃异常、条件或持续时间。因此，简化文本应始终与原始决定或立法进行比较。
6. 姓名和地址在一个数据集中。当“居住地+出生年份+残疾类型”的组合即使身份证号码已被删除也能揭示一个人时，你怎么称呼它？
- A) 重新定义✔
- B）数据最小化
- C) 覆盖率
- D) 整合
说明：重新识别是通过组合来自被认为是匿名的数据的间接标识符来查找人员。如果在一个人身上发现了稀有类别，仅仅删除名字是不够的；还需要采取其他措施，例如将年龄转换为范围以及合并稀有类别。
7. 当检查模型将过去经过严格检查的社区标记为“风险”并向那里发送更多检查，从而促使模型将该社区视为风险更大时，这叫什么？
- A）数据最小化
- B）幻觉
- C) 匿名化
- D) 反馈回路 ✔
解释：反馈循环是指模型的输出影响后续训练数据，从而强化现有偏差。差异的增加不在于实际风险，而在于人们的看法。保护自己的方法是监控影响，而不是输出，并控制基于群体的决策分配。
8. 福利申请完全在线转移后，第一个月的申请数量下降了 30%。最可能的解释是什么？
- A）公民的真实需求减少
- B) 没有互联网和数字素养的公民被排除在外 ✔
- C) 由于援助金额减少，利息减少
- D) 系统自动批准所有申请
描述：数字鸿沟是指没有互联网接入或数字素养的公民无法获得服务。这个数字减少是因为最需要的群体，即老年人和没有互联网的公民无法申请。解决方案是留下替代渠道，例如辅助转诊点。
9. 虽然年度报告中的实际成功率为 63%，但 YZ 制作的执行摘要称“绝大多数申请都是积极的”。什么是正确的行为？
- A) 表达式保持原样，因为它是正数。
- B) 删除比率，仅使用定性表达
- C) 将表达式替换为实数 63% ✔
- D) 摘要从报告中完全删除
解释：公开报告中夸大的正面看法使该机构在后续审计中陷入困境。执行摘要中的每项主张均应与原始数据进行比较，并写出实际数字（63%）； AI摘要未经审核不包含在报告中。
10. 在公共部门做出基于数据的决策时，如果“每月关闭的文件数量”增加，而“首次接触的解决率”下降，这首先告诉我们什么？
- A) 选择正确的指标比乘以数字更重要✔
- B) 增加人员数量
- C) 图表应该是彩色的
- D）聊天机器人应该回答更多问题
解释：即使数据正确，错误的指标也会导致错误的决策。文件可以快速关闭并重新打开。选择正确的指标并一起阅读指标可以防止仅根据误导性的数字进行吹嘘。
11. 在图表中，纵轴从 40 而不是 0 开始，并且 2% 的增长看起来像是戏剧性的跳跃，这说明了什么问题？
- A）幻觉
- B）数据最小化
- C) 数字鸿沟
- D) 误导性的可视化✔
解释：误导性可视化是通过轴不从零开始、不成比例的比例或选定的时间段等技术来扭曲感知。它是公共数据诚实视觉治理的一部分；真实的表格应通过将轴拉至零来显示。
12. 为什么说“人工智能写的”作为行政行为的理由是不可接受的？
- A）因为人工智能工具太昂贵
- B) 行政行为必须合理且责任由官员承担 ✔
- C) 因为人工智能不懂土耳其语
- D）因为公民不喜欢人工智能
说明：行政行为必须合理且可审计；责任不在于人工智能，而在于未经验证而使用输出结果的公职人员和机构。 “AI如此说”并不能作为正当理由，不能支持行政行为。
13.区分公共部门和私营部门使用人工智能并应额外遵守的四项原则是什么？
- A) 速度、便宜、盈利、竞争
- B) 自动化、规模、营销、品牌
- C) 平等、透明、问责、个人数据保护 ✔
- D) 隐私、保密、隐私、保密
解释：在使用公共权力的工作中，人工智能的框架是平等（类似情况的类似处理）、透明度（决策合理性的可解释性）、问责制（对每笔交易和审计跟踪负责）和个人数据保护（KVKK）的原则。
14. 当自动化印前检查系统不确定稀有文档类型时应该做什么？
- A) 默默地拒绝申请
- B) 将申请转发给人工审核 ✔
- C) 自动批准申请
- D) 删除应用程序
解释：良好的自动化会在不确定时将模型引导给官员，而不是默默地拒绝。否则，合法的应用程序将陷入盲点并发生受害情况。让人们处于决策点是异常管理的基础。