收益:
- 能够理解并落实以下事实:儿童的数据是特殊数据,必须在 KVKK 和保密范围内进行匿名处理,并需要家人同意。
- 能够从数据安全性、模型训练中的存储和使用等方面评估人工智能工具并选择安全的工具
- 能够维护道德界限,例如诊断权威、耻辱、歧视和工作流程中儿童的最大利益
孩子的发育档案承载着孩子最私密的信息:发育史、家庭情况、筛查结果、观察结果,有时还包括医疗信息。当这些信息落入坏人之手或被滥用时,可能会在未来的几年里伤害孩子:标签、耻辱、歧视。因此,保护儿童数据是儿童发展专家最严肃的责任之一;在人工智能时代,这种责任会成倍增加,因为将数据粘贴到工具中需要几秒钟并且无法撤消。在本单元中,我们将涵盖儿童数据的法律地位、人工智能工具在隐私方面的评估以及道德界限。
首先,法律依据:在土耳其,KVKK(个人数据保护法)规范个人数据的处理。儿童的健康和发育数据属于特殊个人数据的范畴;该类别受到最高级别的保护。在欧洲,其对应词是 GDPR。对于儿童来说,敏感性更大,因为儿童无法对其自己的数据给予有效同意;同意(知情明确同意)需获得法定代表人即家属的同意。每一个决定都以“儿童的最大利益”为原则。
匿名化:最基本、最有力的步骤
使用人工智能时保护隐私的最基本、最实用的步骤是匿名化:从数据中删除所有身份暴露信息(姓名、TR ID 号、出生日期、学校/机构名称、地址、协议/文件号、姓氏),并仅使用任务所需的非身份信息。写入“3 岁零 2 个月的女孩”而不是“Elif Kaya,3 岁零 2 个月,Papatya 幼儿园”完成了数据工作,但保留了身份。
需要注意的是:当多个小细节聚集在一起时,身份可能会重新出现(这称为重新识别)。例如,即使没有名字,“X村唯一的双胞胎,他的父亲是村长”之类的细节也可以识别该人。因此,不仅需要删除名称,还需要概括使其独特的细节。
原始(无法共享)
匿名(可共享)
Elif Kaya,TC 123...,出生于 2022 年 3 月 12 日。
3岁2个月女孩
Papatya幼儿园3A级
学前机构
他的母亲是艾谢,父亲是穆赫塔尔。
父母
文件编号 2024/187
(已删除)
注意:将孩子的身份信息、完整报告或照片上传到公开的人工智能工具是侵犯 KVKK 和隐私的行为,且无法撤回。数据发送到外部服务器,一些工具可以使用它进行模型训练。上传前务必匿名。
工具选择和数据生命周期
并非每个人工智能工具都具有相同级别的隐私。在评估工具时,请询问:它在训练模型时是否提高了效率?它在哪里存储数据以及存储多长时间?它是否提供数据处理协议(供企业使用)?他们的服务器在哪里?不使用您的数据的企业工具、合同工具和培训工具比公开提供的免费工具更安全。然而,即使在最安全的工具中,也不要共享不必要的凭据——匿名是所有情况下的第一道防线。
考虑数据生命周期:收集数据(验证)、处理(根据需要)、存储(安全、定时)、共享(仅授权、匿名)和删除(完成后)。人工智能工具中的任何东西都有可能脱离这个循环。
提示:在您最喜欢的提示的顶部放置一条硬性规则:“我不会在此对话中分享任何可以识别孩子或家庭身份的信息。”将此作为控制反射可以防止最常见的违规行为(无意中粘贴 ID)。
道德界限:诊断、耻辱、歧视
隐私是一个技术问题,但道德问题更广泛。三个界限至关重要。诊断权威:儿童发育专家进行筛查和发育评估;明确诊断是相关医生/临床团队的工作。人工智能不知道这个极限;你会保护。耻辱:给孩子贴上早期和永久的标签(在档案中、在家庭中、在你自己的脑海中)对孩子不公平,并且会对他们的发展产生负面影响。歧视和偏见:人工智能可能反映训练数据中的偏见;它可能会产生关于特定文化、性别或社会经济群体的有偏见的结果。专家应该注意到这些并纠正它们。最重要的是,这体现了孩子最大利益的原则:每一个决定都是为了孩子的利益吗?
四个可复制的提示
1)匿名化提示:
我会给你一条短信。删除任何可能泄露儿童或家庭身份的信息(姓名、TR ID、出生日期、学校/机构、地址、档案号、独特详细信息);替换为一般表达式([女孩],[学前机构])。不仅要概括名字,还要概括可以识别该人的独特细节。列出您删除的内容。文本:[raw]
2)车辆隐私评估提示:
给我一份隐私问题清单,我应该询问这些问题,以决定是否可以使用人工智能工具处理儿童数据(即用于教育、保留、合同、服务器位置、删除的数据)。不要编造答案;只是列出问题。
3)道德/权限控制提示:
从道德角度审查以下文本:(1)它是否做出/暗示了诊断? (2)是否带有污名化标签? (3) 是否存在文化/性别/社会经济偏见?突出显示每个问题并提出一个修正的、谨慎的替代方案。文本:[草稿]
4)家属同意信息文字提示:
起草一份简短的通知/同意文本给家人,简单解释我将如何使用和保护孩子的数据。它包括:哪些数据、用于什么目的、如何保护、与谁共享、撤销权。提供法律咨询;请注意,这是一个草案,必须得到该机构的批准。
三个迷你箱子
案例 1 — 身份上传违规。在忙碌的一天,专家将一份包含全名和 ID 的儿童发育报告粘贴到公共工具中,并说“总结”。数据离开机构,未获得家属同意。正确的方法是在第一个提示时对数据进行匿名化,并在安全工具中仅使用匿名信息。这种违规行为既是法律问题,也是道德问题,且无法逆转。
案例 2 — 重新识别。一位专家删除了这个名字,但留下了细节“村里唯一的三胞胎,他的父亲是一位伊玛目”。即使没有名字,这个细节也能识别出孩子的身份。专家加深了匿名化,概括出独特的细节:“一个生活在农村地区的多胎妊娠的孩子。”身份现在受到保护。
案例 3 — 偏差校正。人工智能在有关低收入家庭的内容中隐含了一种有偏见的假设,例如“这些家庭的参与往往不够充分”。专家通过第三个提示发现了这一点;认为该言论未经证实,具有侮辱性和歧视性,并将其删除。它用一种认为每个家庭都是平等和受到尊重的语言重写了内容。
弱提示/强提示
弱提示:
我将 Elif 的完整报告粘贴在这里,评估并建议诊断。
问题:身份信息被共享(KVKK违规)、请求诊断(授权超额)、不同意、安全车辆不被质疑。
强力提示:
编辑以下评估草案的匿名开发摘要(已删除标识信息)。做出诊断;使用污名化标签;避免有偏见的假设。在您不确定的地方标记[让专家评估]。摘要:[匿名]
常见错误
- 上传凭证:最常见、最严重的违规行为;始终匿名。
- 表面匿名化:仅仅删除名字是不够的;也概括了独特的细节。
- 不质疑工具隐私:避免使用您的数据进行教育的工具。
- 跨越诊断边界:评估不是诊断;权力属于医生/团队。
- 不认识偏见:修复人工智能的污名化/歧视性假设。
综上所述
儿童数据是特殊的个人数据;它需要KVKK范围内的最高保护,并且保密并获得家人的同意。使用人工智能时最有力的防御措施是匿名化——不仅概括名称,还概括可以识别个人身份的独特细节。评估隐私工具;选择在训练中不使用您的数据的安全方案。保持道德界限(诊断权威、耻辱、歧视/偏见),并在每个决定中考虑孩子的最大利益。
应用任务
制作一份非匿名(真实的,来自您自己的记录)的进度记录;不要将其反映在屏幕上,请使用第一个提示的逻辑手动将其匿名化,并列出您提取的所有信息。根据第二个提示评估您使用的人工智能工具的隐私性。根据提示 3 检查草稿是否存在道德/偏见。记下您所做的至少三处更正(一项匿名、一项道德、一项偏见)。
清单
- [ ] 我对数据进行了匿名处理;我还概括了独特的细节。
- [ ] 我从隐私方面评估了我使用的工具;我选择了安全的。
- [ ] 必要时我征得了家人的同意。
- [ ] 我维持了诊断权限限制;我应用了评估与诊断的区别。
- [ ] 我删除了污名化标签和歧视性/偏见性表达。
- [ ] 我在每一个决定中都考虑了孩子的最大利益。
- [ ] 我尚未将凭证上传到任何车辆。