收益：
- 能够在 KVKK 和特殊个人数据概念的框架内对学生数据进行分类和匿名，并应用安全的车辆选择
- 能够使 PDR 职业道德原则（保密、仁慈、非恶意、自主）适应人工智能的使用
- 能够识别人工智能输出中的偏见、文化不敏感和幻觉，并制定道德使用政策
信任是 PDR 职业的核心。如果一个学生能够向专家讲述他/她最亲密的感受、家庭和恐惧，那只是因为他/她相信这些信息会受到保护。人工智能工具对这种信任提出了严峻的新考验：最敏感的数据可能会在一句话中失控。在本单元中，我们系统地讨论隐私、KVKK、PDR 职业道德以及它们如何应用于人工智能的使用。我们在之前的单元中已经逐步应用了这些原则；这里我们把它结合起来，变成一个永久的政策。
KVKK 和数据类型：什么受到更多保护
KVKK（个人数据保护法）是规范合法处理个人数据的法律。有两个概念特别重要。个人数据是指能够识别或识别个人身份的任何信息：姓名、学号、班级、地址、照片。特殊个人数据是一类需要更高保护的敏感数据：健康、精神状态、诊断、性生活、宗教、种族、犯罪状况。大多数 PDR 记录属于第二个敏感类别；因为精神状态、家庭问题和支持历史都是直接的私人数据。这意味着 PDR 数据不应以其原始形式输入公共工具。
在实践中，这转化为三个规则：(1) 数据最小化——使用完成工作所需的最少数据量。 (2) 匿名化——通过删除个人身份信息，使数据与个人无法关联。 (3) 安全手段和目的边界——尽可能使用数据安全的企业工具，并仅出于收集数据的目的处理数据。
注意：仅仅说“我以某种方式将其匿名化”是不够的。即使文本中省略了姓名，对情况的独特描述（小型学校单个学生的非常具体的情况）也可以使该人被识别。在匿名化中，不仅要概括姓名，还要概括共同表明该人的详细信息。
匿名化实践：控制程序
将文本导出到工具之前，请按照以下步骤操作： (a) 删除直接标识符，例如姓名、号码、班级、家长姓名、地址、电话、学校名称。 (b) 概括间接描述词：“一名中学生”而不是“12-B 中唯一的视障学生”。 (c) 根据需要模糊日期和事件详细信息。 (d) 读后：“读这篇文章的人能找出提到的是谁吗？”如果答案含糊不清，请进一步概括。经过验证的记录仅写入该机构的封闭、安全系统； AI工具在这个系统之外。
PDR职业道德与人工智能
PDR 职业道德基于四项基本原则，每一项都直接适用于人工智能的使用：
- 保密（保守秘密）：学生信息受到保护。不将原始数据输入人工智能、对其进行匿名化并选择安全的工具是这一原则的要求。
- 行善：所做的一切都应该服务于学生的福祉。人工智能的使用是为了方便，而不是为了损害学生的利益。
- 非恶意：首要任务是不造成伤害。未经验证的输出、不准确的统计、标签以及在危机中使用人工智能都是造成伤害的风险；因此，核查和危机边界是道德上的当务之急。
- 自主权：学生做出自己决定的权利受到保护。人工智能不应该给学生贴上标签或代表他/她做出决定。
除此之外还增加了责任：专家对所使用的每项输出负责； “人工智能创造了它”并不是一种辩护。
偏见、文化敏感性和透明度
人工智能可以在训练数据中反映社交模式。在 PDR 中，这是一个公平问题：根据学生的性别、文化或社会经济地位对学生进行刻板印象的结果破坏了机会平等。专家检查所制作内容的文化敏感性和偏见。还有透明度：在适当的情况下，应在内部明确人工智能用于准备材料或草案；它不应该被用作秘密“魔法”。在与学生的关系中，保密至关重要；学生解释的内容不会延续到车辆上。
循序渐进：制定人工智能使用政策
- 对数据进行分类。将您拥有的所有信息分为“个人/私人/公共”。
- 选择车辆。用于敏感数据的唯一安全的企业工具；匿名工作以制定总体大纲。
- 遵循匿名程序。每次输入之前运行检查例程。
- 验证和偏差检查。检查每个输出的事实和公平性。
- 维持危机限额。将危机和协商关系排除在车外。
- 承担责任并保持透明。最终批准权属于专家；使用在组织内开放。
可复制模板
1）匿名化控制：
您的角色：隐私审计助理。列出下面文本中可以直接或间接识别该人的每个陈述（姓名、号码、班级、学校、独特情况描述），并为每个陈述提出更通用的替代方案。评论内容.文字：[粘贴文字]
2) 偏见和文化敏感性审核：
检查以下 PDR 材料是否存在偏见和文化敏感性：它是否包含有关性别、文化、社会经济地位或家庭结构的刻板印象？谁能排除？标记有风险的陈述并建议包容性替代方案。材料：[粘贴材料]
3）起草企业人工智能使用政策：
您的角色：PDR 写作助理。对于指导服务，起草一份关于使用人工智能工具的简短内部政策。标题：在哪些工作中使用它，在哪些工作中不使用它（危机、诊断、咨询）、数据匿名规则、验证义务、专家的责任。简短而适用。
弱提示/强提示
弱：
总结 Ahmet Yılmaz 8-C 的处境，他在家里遭受暴力。
它将最敏感的数据（名称、类别、特殊状态）以原始形式输入车辆中，这严重违反了 KVKK 和道德规范；此外，这可以是通知情况（单元9）。
强：
您的角色：隐私控制助手。注意：在将下面的文本提交到该工具之前，我对其进行了匿名处理。但是，请再次检查：是否还存在任何可以识别该人身份的细节？文字：“一名中学生暗示他在家感到紧张。”
三个迷你箱子
案例 1——间接披露。一位专家正要在工具中输入一段文本，而他在其中省略了名字；但他意识到“学校里唯一一个使用轮椅的学生”这句话直接指的是那个人。他将其概括为“学生”。仅靠命名是不够的；还需要努力。对独特情况的描述也很明确。
案例 2 — 偏差校正。一位专家审核了一份职业材料后发现，人工智能在工程示例中总是使用男性名字，而在护理专业示例中总是使用女性名字。它平衡了样品并打破了模式。这个看似微小的修正保留了发送给学生的信息的公平性。
案例 3 — 制定政策。指导服务创建了一个通用的内部政策文本，以消除由于每个人使用人工智能的方式不同而产生的混乱：在哪些任务中使用人工智能，而不是在危机和诊断中，数据是匿名的，输出是经过验证的，责任在于专家。 AI 给出了草稿；团队以自己的价值观最终确定了内容。不确定性让位于清晰的框架。
常见错误
- 输入原始数据。向车辆写入名称/状态。解决方案：匿名程序、安全工具。
- 只是去掉名字而已。忘记间接标识符。解决方案：也概括独特的细节。
- 忽略偏见。采用刻板输出。解决方案：偏见和文化审核。
- 把责任推到车辆身上。它的意思是“人工智能创造了它”。解决方案：责任在于专家。
- 滥用。处理为一个目的收集的数据以用于另一目的。解决方案：尊重目的限制。
表：数据类型和AI规则
数据类型
例子
人工智能规则
公开的
一般专业介绍
免费提供
个人资料
姓名、编号、班级
未经匿名处理无法输入
特殊质量数据
精神状况、家庭、诊断
它永远不能以其原始形式输入。
危机数据
风险、虐待、自杀
切勿进入车辆（单元 9）
综上所述
在PDR中，保密性是职业信任的基础，也是人工智能时代最经受考验的原则。 KVKK 将数据分为个人数据和私有数据；大多数 PDR 数据都是敏感数据，不会以其原始形式输入到工具中。数据最小化、匿名化（使用直接和间接标识符）和安全工具选择是基本规则。职业道德的四项原则——保密、仁慈、非恶意、自主——对人工智能的使用具有约束力；偏见得到控制，责任仍由专家承担，并且使用在组织内是透明的。
应用任务
为您自己的指导服务起草一份简短的“人工智能使用政策”。通过“企业人工智能使用政策草案”模板抢占先机；然后根据自己机构的实际情况进行调整。还通过“匿名化检查”模板传递（虚构的）文本，并捕获和概括至少一个间接标识符。
清单
- [ ] 我已将我拥有的数据分类为个人/私人/公共。
- [ ] 我概括了匿名化中的直接和间接标识符。
- [ ] 我使用安全/企业工具来处理敏感数据。
- [ ] 我检查了输出的偏见和文化敏感性。
- [ ] 我承担责任并保持使用透明。