收益:
- 根据信息的敏感性评估信息,并通过“询问类别,匹配车辆”反射来区分开放车辆和安全系统
- 了解 KVKK 的最低数据、安全和责任原则,并认识到仅删除名称是不够的,上下文是身份。
- 能够在出现疑问时采取选择最安全路径的纪律,在最高级别保护敏感数据并透明地报告违规行为。
客户告诉你的——暴力、疾病、贫穷、毒瘾、家庭秘密——是他或她一生中最脆弱的私人信息。他以职业机密的方式向您提供此信息。这种信任是社会工作得以开展的基础;当它被摇晃时,客户端就不再打开,服务就失去了功能。在人工智能时代,维持这种信任已经进入了一个新的层面:将客户的信息输入错误的工具现在不仅侵犯隐私,而且还需要根据 KVKK(个人数据保护法)承担法律责任,并可能导致不可逆转的信息泄露。在本单元中,您将学习如何在人工智能时代保护客户数据、KVKK 的基本逻辑、开放车辆和安全车辆之间的区别以及实用的“数据卫生”规则。
从一开始,最基本的规则就是我们在本模块中重复的规则:识别客户身份的个人数据不会被输入到您的机构尚未批准的公共人工智能工具中。这一句话是下面所有细节的精髓。
为社会工作者总结 KVKK
KVKK 规定如何处理个人数据(使个人具体化或可识别的任何信息 - 姓名、ID、地址、电话,以及健康、家庭状况、犯罪记录等信息)。您在社会工作中处理的大部分数据都是敏感的个人数据(泄露特别有害的数据,例如健康、性生活、宗教、种族、刑事定罪),需要最高程度的保护。 KVKK 对您的实际意义可以归结为以下几个原则:
- 目的限制和最小数据:仅处理必要的数据。在 AI 中处理文本时,请勿输入工作不需要的任何个人详细信息。
- 安全性:数据受到保护,防止未经授权的访问。公共人工智能工具无法提供这种安全性。
- 同意和透明度:告知客户数据的处理方式。将客户的数据提供给不受控制的外部工具不属于任何同意的范围。
- 责任:如果发生违规,责任在于处理数据的组织和输入该数据的人——“人工智能想要这样”并不是一种辩护。
注意:删除名称通常不足以提供足够的保护。即使文本中没有提及姓名,上下文(社区 + 年龄 + 事件 + 日期 + 家庭结构)也可以使人被识别。真正的保护不是通过掩盖来提供的,而是通过选择正确的工具和环境来提供的。
两个世界:开放车辆与安全系统
将人工智能的使用分为两个清晰的世界:
1.公共/开放的工具世界。它可用于无法识别客户身份的任务:一般信息问题(“如何编写 SMART 目标?”)、使用虚构/匿名示例进行培训、立法的一般解释、不指向任何人的程序文本。真实的客户数据永远不会在这里输入。
2. 客户数据的世界。任何涉及真实客户信息的工作(记录、报告、风险说明、推荐)都只能在您所在机构批准的安全系统中完成,数据不会泄露。如果没有这样的系统,这项工作就不需要人工智能,用传统的安全方法来完成。
混淆两者——将真实的客户端数据提供给开放工具——是该模块最危险和最常见的错误。
一步一步:数据卫生纪律
- 询问班级情况。每次工作前询问:“这段文字描述了客户吗?”如果是,请保护系统;如果没有,可以使用敞篷车。
- 最小化。将输入的数据限制为工作所需的最少数据,即使工作确实需要它。
- 明确自己的身份(并了解自己的极限)。必要时删除标识符;但请记住,背景也可能泄露身份。
- 使用认可的工具。了解机构批准哪种车辆的哪些数据,并且不要偏离它。
- 如果你不确定,就表现得像个高年级学生。如果您不确定数据是否敏感,请选择受保护程度最高的路径。
- 举报违规行为。如果有泄漏或错误,请将其隐藏;按机构程序报告。早期干预可减少损害。
三个迷你箱子
案例 1——上下文泄露了身份。一位专家向开放工具提交了一份病例摘要,称“我删除了这些名字,现在安全了。”文字上没有名字,但有这样一句话:“X小区有一位视力障碍妇女,有3个孩子,丈夫在监狱里。”那个街区只有一个人符合这个描述——身份几乎一清二楚。资深专家注意到了这一点;该作业已转移到安全系统。教训:上下文也是个人数据。
案例 2 — 最低数据政策奏效。专家只需简化一句话即可。他没有将整个文件提供给该工具,而是只给出了没有个人详细信息的一句话。工作完成了,没有敏感数据泄露。最低数据政策既安全又充足。
案例 3 — 及早报告减少了损失。一名新员工不小心将客户的信息粘贴到一个打开的工具中,并立即注意到。她没有惊慌、躲藏,而是立即向上级汇报。该机构根据 KVKK 程序评估了该事件,采取了必要的步骤并教会员工如何正确使用。透明、快速的通知阻止了事件升级。
四个可复制模板
1)数据类预检:
在人工智能工具中处理以下文本之前对其进行评估:该文本是否可以直接(姓名、ID、地址、电话)或间接(上下文:邻居、年龄、事件、家庭结构)识别一个人?它是否包含敏感数据(健康、宗教、种族、犯罪记录)?如果有,是哪些部分?告诉我这段文本是否可以在公共工具中呈现。文本:[粘贴文本]
2)降级至最小数据:
确定完成以下工作所需的最少信息。删除工作不需要的所有个人详细信息,仅保留工作所需的非识别部分。列出您省略的信息以及原因。工作:[描述任务]文本:[粘贴文本]
3)去标识化和上下文控制:
直接从下面的文本中提取标识符(姓名、ID、地址、电话、机构名称)。还要标记文本中保留的任何可能间接泄露身份的上下文元素(罕见的情况组合、特定位置+事件)。在删除这些内容之前,请评估文本是否仍然可以识别该人。文本:[粘贴文本]
4)创建一个匿名/虚构的训练示例:
制作一个类似于真实案例的示例案例,但完全是虚构的,不属于任何真实的人;我将用它来进行培训/练习。使用真实姓名、地点或事件;让一切都是假的。 【主题:养老初步评估】
弱提示/强提示
弱提示:
我将这个客户的整个文件粘贴在下面,它将给我一个很好的总结。 (包括姓名、地址、健康信息)
这会将敏感的个人数据提供给不受控制的外部系统,这违反了 KVKK 规定,并且存在不可逆转的隐私风险。仅仅因为摘要“不错”并不能成为这种违规行为的借口。
强力提示:
(仅在机构批准的安全系统中,或使用去识别化文本。)总结下面的去识别化文本。我没有在文本中留下任何可能泄露姓名、地址、ID 或身份的上下文。仅处理任务所需的信息。文本:[粘贴匿名文本]
区别在于:使用正确的工具,使用最少的去识别化数据,在完成工作的同时保护隐私和法律。
数据类型和正确路径
数据类型
例子
正确的工具
一般信息
“什么是 SMART 目标?”
敞篷车
虚构的例子
人为的培训案例
敞篷车
没有身份+没有上下文
一般句子的简化
打开车辆(小心)
客户资料
实际记录、报告
仅安全系统
特殊质量数据
健康、惩罚、种族
最高的保护/安全系统
风险/安全说明
暴力、保护信息
最高的保护/安全系统
常见错误
- 将真实的客户数据提供给开放工具。最危险和最常见的错误; KVKK 违规和不可逆转的渗透。
- “我删除了这些名字”以为这是安全的。背景可能会泄露身份;掩蔽不是保护。
- 输入超出必要的数据。应用最低数据政策;工作需要多少就给多少。
- 当你不确定的时候就冒险。当有疑问时,选择最安全的道路,表现得像上层阶级。
- 隐瞒违法行为。及早、透明的报告可减少伤害;隐藏起来会让事情变得更大。
总之
客户隐私是社会工作信任的基础,在人工智能时代,它也变成了 KVKK 的法律义务。基本规则很明确:识别客户的个人数据不得进入未经批准的公共工具。将两个世界(开放工具与安全系统)分开,应用最小数据原则,知道删除名称是不够的,上下文就是身份,如有疑问,选择最安全的路径并透明地报告违规行为。隐私不是后来添加的措施,而是从一开始就遵守的原则。
应用任务
编写一个虚构的案例文本,并查看 AI 使用“数据类预检”模板将哪些项目标记为个人/私有数据。然后使用“去标识和上下文检查”模式进行测试,看看即使在删除名称后上下文是否仍然泄露身份。最后,使用“匿名/虚构培训示例”模板生成一个可以在开放工具中安全使用的示例。
清单
- [ ] 在每项工作之前,“这段文字是否描述了客户?”我问。
- [ ] 我仅在经过批准的安全系统中处理客户数据。
- [ ] 我应用了最低数据策略;我没有讲太多细节。
- [ ] 知道删除名字还不够,我还查了上下文。
- [ ] 如有疑问,我选择了最安全的路径,并且我知道违规时的举报方式。