收益:
- 能够根据数据的敏感性(公共/内部/机密/关键)对数据进行分类,并对机密和关键数据进行匿名处理,而无需将其透露给公共工具
- 把验证变成条件反射,标记事实,追根溯源,根据风险程度,逐步推演人工智能给出的开源步骤
- 通过理解删除不是保护并且责任不能归咎于媒体,能够应用透明度、归属和保密的道德规范。
该模块的每个单元都重复了两个原则:保持机密性并验证每个输出。该单元将这两项原则转化为一门系统学科——因为在个人生产力中使用人工智能的最大风险不是速度或质量,而是泄露的数据和未经验证的谎言。一封错误的电子邮件可以更正;无法检索已发送到服务器的客户数据。如果不引起注意,以自信的语气呈现的虚构数字将反驳决定。这就是为什么隐私和身份验证是从头开始构建的效率基础,而不是“以后添加”。
条款。个人数据是识别一个人的信息——姓名、身份证号码、电子邮件、健康状况、位置。 KVKK/GDPR 是规范个人数据保护的法律(土耳其为 KVKK,欧盟为 GDPR)。数据分类是根据信息的敏感性(公开、内部、机密)对信息进行标记的行为。匿名化是指从数据中删除个人身份元素。验证是通过独立来源验证输出的准确性。
隐私:什么该粘贴,什么不该粘贴
在大多数情况下,您在人工智能工具中输入的所有内容都会发送到服务器并存储在某些服务中或可用于训练模型。所以基本问题是:您愿意将此信息提供给未知的第三方吗?如果答案是否定的,也不要交给人工智能。
使用简单的分类:
类
例子
它属于人工智能吗?
一般
已发布信息、草稿文本
免费
室内
流程说明、通用会议摘要
通过匿名化
秘密
客户数据、财务记录、策略
仅限机构批准的车辆
批评的
密码、API密钥、合约、健康状况
从不
实际保护:个人数据匿名(名字为“A 人”,公司为“X 公司”);使用您所在机构认可的人工智能工具(企业版通常保证不在训练中使用数据);并阅读您的人工智能使用政策——否则默认为谨慎。
注意:“我删除了聊天记录,现在它是安全的”的假设是错误的。删除会将其从界面中删除,但不会恢复服务器上的记录或训练中涉及的数据。保护在粘合之前开始;不是之后。
验证:一种系统的习惯
让验证成为一种条件反射,而不是“我想到了就去做”。这是一个实用的验证规则:
- 标记事实。打印输出中的每个名称、日期、数字、引用、立法、声明——这些都将得到验证。
- 追寻源头。通过独立、可靠的来源确认每一个事实。打开AI给出的源码并阅读;它是否存在,是否包含该信息?
- 根据风险进行调整。对低风险内部票据进行轻微控制;完全控制高风险演示或外部通信。
- 接受不确定性。如果AI说“不确定”或者信息无法确认,请勿捏造填空;将其保留为“未验证”。
主要区别:你总体上可以信任人工智能的语言工作(句子流畅、结构整齐、语气恰当)。永远不要盲目相信人工智能的事实声明(这个数字、这个日期、这个来源)。验证将两者分开。
道德:透明度和责任
使用人工智能提高效率并不是一个道德问题,但如何使用它可能是一个道德问题。三个原则:透明度——在某些情况下(学术工作、新闻、官方文件),您可能需要表明您正在使用人工智能。归属——通过人工智能获取别人的想法并将其呈现为自己的想法是抄袭,即使媒介发生了变化。责任——您发布的所有内容均由您负责; “人工智能写的”不是借口。
循序渐进:安全的人工智能工作流程控制
- 粘贴前排序。这些数据属于哪个类?如果秘密/关键就停止。
- 匿名。如有必要,请移走个人物品。
- 制作并标记事实。识别输出中要验证的项目。
- 核实。风险分级、基于来源的确认。
- 拥有它。用自己的声音修饰,承担责任。
- 了解你的标记。跟踪您粘贴的内容以及存储数据的工具。
四个可复制的安全/身份验证模板
在将以下文本提供给 AI 之前对其进行匿名处理:- 将姓名更改为“个人 A/B”,将公司更改为“公司”
列出此 AI 输出中需要验证的所有事实:- 为每个名称、日期、数字、统计数据、引用和声明创建单独的要点。- 询问“我如何验证?”对于每个。建议(来源)。- 标记无法验证/可疑的。输出:“”“[粘贴]”“”
根据您提供的来源验证以下声明:声明:[数字/事实]。- 该声明是否确实包含在您提到的来源中?- 否则,请说“我无法在此来源中验证它”,弥补。- 如果您不确定,请不要说得好像您确定一样。
检查此任务中存在哪些隐私风险:任务:[我打算用人工智能进行的工作,使用哪些数据]。- 它属于哪个数据类别(公共/内部/机密/关键)?- 它是否应该进入公共人工智能工具?- 如果不是,安全的替代方案是什么?
弱提示/强提示
弱:“总结一下客户投诉电子邮件。” (它包括客户的姓名、订单 ID,也许还有电话——所有这些都直接发送到服务器。)
强:首先对文本进行匿名化(“客户 A,订单 [id 隐藏],抱怨该产品”),然后说“总结此匿名文本”。同样的效率,个人数据零泄露。区别不在于输出,而在于维持输入。
三个迷你箱子
情况 1 — 不可逆转的泄漏。一名员工将整个客户列表(姓名、电话、支出)粘贴到通用人工智能工具中以“对他们进行细分”。该机构评价此举违反了KVKK;数据现在位于第三方服务器上,无法检索。使用匿名数据或企业工具可以无风险地进行相同的分析。
情况 2 — 它给出了验证反射。一位记者规定,在发布之前,必须对人工智能给出的每一项统计数据和引用的原始来源进行事实核查。一周之内,他发现人工智能给出的 5 个“事实”中有 2 个是假的。这种本能反应防止了可能的虚假消息和声誉损失。
案例 3——“人工智能写的”借口不起作用。顾问在未经验证的情况下将人工智能生成的报告发送给客户;其中虚假的法律主张误导了客户。 “它来自人工智能”的辩护对客户和监管机构来说都站不住脚;责任在于顾问。教训:工具改变,责任不变。
常见错误
- 粘贴机密/关键数据:最昂贵且不可挽回的错误;先分类。
- 想着“我删除了它,我很安全”:删除不会撤消服务器注册;粘贴前的保护。
- 混淆事实与语言:相信语言,验证事实——将两者分开。
- 不开放AI给出的来源:可能产生假印记;见来源。
- 将责任归咎于工具:“人工智能写的”并不是借口。
- 不了解政策:阅读组织的AI使用政策;否则,要小心。
提示:给自己一条简单的个人规则:“我不会将任何机密或关键内容粘贴到公共人工智能工具中;在发送之前我会验证每个数据和来源。”这两句话规则立即消除了本模块中的大部分风险。
总之
- 最大的人工智能风险不是速度或质量,而是泄露的数据和未经验证的不准确性。
- 对数据进行分类(公开/内部/机密/关键);不要将机密和关键信息交给公共人工智能工具,将其匿名。
- 删除不等于保护;保护在粘合之前开始。
- 将验证变成一种条件反射:标记事实、追寻源头、开放人工智能源代码、根据风险进行扩展。
- 相信人工智能的语言,相信它的事实;责任不落在车辆上,它始终是您的。
应用任务
本周你将向人工智能提供一段实际的文本。使用第四个模板,首先确定隐私类别;如果存在机密数据,请使用第一个模板将其匿名化。收到人工智能输出后,让第二个模板列出需要验证的事实,并在原始来源确认至少其中一个。给自己写一条两句话的隐私验证规则并将其发布到某个地方。
清单
- [ ] 在粘贴之前我对数据进行了分类。
- [ ] 我没有向公共人工智能工具提供机密/关键数据;如有必要,我将其匿名。
- [ ] 我验证了输出中的每个事实(名称、日期、数字、来源)。
- [ ] 我打开了AI给出的源代码并检查了它是否确实包含它。
- [ ] 我确保我了解公司的人工智能政策。
- [ ] 我对最终输出负责。