收益:
- 了解学生数据是个人且通常是私人数据,以及 KVKK 和专业保密范围内的匿名化和存储规则
- 在将数据输入公开可用的人工智能工具时,能够进行去识别化并选择安全/机构工具
- 了解同意数据共享、数据最小化和遵守学校政策是教师的责任。
教师在工作过程中可以访问非常敏感的信息:成绩、行为记录、健康状况、家庭信息、指导对话、社会经济数据。这些信息属于学生最私密的区域,一旦落入坏人之手,可能会造成终生伤害。大多数人工智能工具都是基于云的——这意味着您输入的文本是在远程公司服务器上处理的,而不是在您的计算机上,并且在某些工具中它可以用于开发模型。因此,将学生的信息写入公共人工智能意味着将其置于您的控制之外。本单元建立了在教学中使用人工智能的最关键的安全层。规则很明确:首先对学生数据进行匿名化,如果可能,使用安全/机构工具;责任在老师。
哪些数据受到保护? KVKK框架
个人数据是指使个人具体化或可识别的任何信息:姓名、学号、身份证、照片,甚至是间接描述,例如在某种情况下“3-A 中最高的学生”。特殊(敏感)个人数据受到更强有力的保护:健康、种族、宗教、刑事定罪、生物识别数据、协会/工会会员资格。学生的健康报告、学习障碍的诊断或家庭创伤都属于这一类。
KVKK(个人数据保护法)要求出于特定目的,以谨慎且安全的方式合法处理个人数据。对教师的实际影响:仅在必要时使用数据(数据最小化),不要滥用数据,保证数据安全,未经许可不要与第三方(包括公共人工智能)共享数据。还有职业保密义务:教师不能透露他了解到的有关学生及其家人的信息。
注意:假设“公司无论如何都没有读到这篇文章”是不安全的。一些免费的人工智能工具可以在训练中存储/使用输入。数据一旦流出,将无法检索。最安全的做法是永远不要取出数据。
匿名化:使其成为一种反射
匿名化意味着从数据中删除所有可识别个人身份的元素,并将其不可逆地概括。在实践中:
- 姓名→“学生A”、“学生”
- 学号、TR ID、班级→完全删除
- 家长姓名、电话、地址 → 删除
- 罕见/描述性细节→概括(诸如“一名使用轮椅的学生”之类的短语暴露了该人;说“一名学生”)
- 学校/机构名称 → 退出或说“我们学校”
在向人工智能提供文本之前,假设一个陌生人会读它:从这段文本中可以理解它是哪个孩子吗?如果清楚了,请进一步概括。
安全选车
并非所有人工智能工具都是一样的。最安全的是您的学校/机构提供的、具有数据处理协议 (DPA) 且不使用教育投入的企业工具。使用免费的、公开的工具,假设应该是最坏的情况。选择工具时,请询问:我的输入是否已保存?它用于教育吗?数据在哪里处理?学校政策批准这个工具吗?如果您不确定,请勿在未匿名的情况下使用这些数据。
一步一步:私密安全的工作流程
- 扫描个人数据。姓名、号码、机构、敏感情况。
- 匿名。替换为通用表达式;删除识别详细信息。
- 应用数据最小化。不要添加任务不需要的任何信息。
- 选择车辆。如果可能的话,制度化;如果不是,请假设最坏的情况。
- 使用它。仅使用匿名文本。
- 还要检查输出。 AI可以反射回你给它的信息;输出中不应出现身份泄露。
三个迷你箱子
案例 1 — 最后一刻捕获。一名辅导员写信给AI咨询一名学生的家庭问题;文字包括姓名、年级和“他的母亲住院了”。他注意到了这一点,但没有发送,只是将这一切概括为“13岁的学生,他家人的健康挑战”。他收到的一般方法建议奏效了;没有泄露任何个人数据。
案例2——间接识别。一位老师写信给人工智能说,这是“为班上唯一的视障学生准备的材料”。虽然没有名字,但这句话绝对描述了学校里的那个男孩。当他注意到后,他将其改为“针对需要视力支持的学生”。匿名化不仅仅是删除名字,还隐藏身份细节。
案例 3 — 车辆选择。一所学校禁止教师使用包含学生数据的免费工具,并提供具有数据安全性的企业工具。一位老师出于习惯会将笔记分析粘贴到免费工具中;感谢政策提醒,他改用了企业工具,仍然对数据进行了匿名处理。两层保护相结合。
可复制模板
1)预匿名扫描:
假设一个陌生人会阅读以下文本。从这段文字中可以直接或间接了解到他是哪位学生吗?列出所有泄露身份的表达方式(名称、编号、机构、稀有特征),并为每个表达方式建议一个通用的替代方案。文字:[粘贴]
2)安全车辆自评估:
写一份包含 6 个问题的清单来评估我正在考虑使用的人工智能工具:输入存储、教育用途、数据位置、机构批准、删除权、敏感数据合规性。在每个问题中添加“如果是,该怎么办/如果不是,该怎么办”。
3)数据最小化控制:
简化我将为人工智能提供以下任务的文本:删除任务不需要的任何个人/上下文详细信息,仅保留完成工作所需的内容。任务:[描述]。文字:[粘贴]
4) 学校政策草案(针对教师):
为学校教师使用人工智能工具保护学生数据起草一份简短、清晰的 8 点规则清单:匿名、批准的工具、敏感数据、保留、同意、违规通知。要有土耳其语的适用文章。我将将此提交给管理层/专家批准。
弱提示/强提示
弱提示:
艾哈迈德·耶尔马兹 (Ahmet Yılmaz),7-B 214 号,数学很弱,而他的父亲却冷漠;我应该为这个学生做什么?
姓名、号码、类别、家庭管辖权——严重违反保密规定;数据超出您的控制范围。
强力提示:
假设家里的支持有限,建议 3 种可以在学校为数学基本运算有困难的七年级学生实施的支持策略。 (学生匿名;我不分享任何个人信息。)
数据类型
例子
是给AI的吗?
如何
直接识别
姓名、号码、TR
不
完全移除
间接识别
《单身残疾学生》
不
概括
敏感数据
健康、诊断、家庭
非常小心
匿名+企业工具
一般教学情况
《一个奋斗的学生》
是的
匿名地
常见错误
- 把名字删掉就好了如果数字、类别或间接定义仍然存在,则身份仍然是明确的。
- 忽略间接定义。像“你是班上唯一的人……”这样的表达方式就暴露了这个人。
- 轻视敏感数据。健康/家庭信息属于特殊数据,需要更高的保护。
- 假设车辆安全。假设免费工具不存储数据是有风险的;假设最坏的情况。
- 不控制输出。 AI 可能会重复您在响应中提供的凭据;也清理输出。
提示:“两分钟规则”:在将任何与学生相关的文本粘贴到人工智能之前,请花两分钟清除姓名、号码、机构和身份详细信息。这个小习惯可以防止最大的违规行为。
总之
学生数据是个人数据,通常是私人数据,受到 KVKK 和专业机密的保护。公共人工智能工具基于云;按原样提供数据会使数据失去控制。正确的方法:匿名化个人和间接识别信息,仅共享必要的信息(数据最小化),如果可能,使用公司和批准的工具,并审核输出。责任在老师。
应用任务
取一篇关于你上周写给人工智能(或正在考虑写)的学生的文字。使用“预匿名化筛选”模板检测并概括所有直接和间接标识符。然后根据“安全工具自我评估”列表评估您正在使用的人工智能工具,并决定您可以使用该工具的数据类型。
清单
- [ ] 我是否删除了直接标识符,例如姓名、号码、TR ID、机构?
- [ ] 我是否概括了间接描述符,例如“你们班上唯一的一个……”?
- [ ] 我是否对敏感(健康/家庭)数据进行了额外保护?
- [ ] 我是否检查过我使用的车辆的数据政策和学校批准?
- [ ] 我是否也检查了输出中的身份泄漏?