收益：
- 了解模型可能产生幻觉并且每个输出都必须经过验证
- 了解立即放置机密和个人数据的风险和安全替代方案
- 在人工智能的使用中应用道德、版权和责任限制
仅仅掌握如何编写提示是不够的；还必须学会负责任地使用人工智能。该单元是必须置于技术技能之上的安全层。人工智能产生快速、令人信服且通常准确的答案；但有时它会以同样的可信度产生完全错误的信息，可能使敏感数据面临风险并突破道德界限。在本单元中，我们将介绍验证输出、模型的局限性、保密性和道德责任。如果没有这些知识，所有其他技术都是不完整的。
幻觉：拟合模型
幻觉是指模型以自信的语言产生不真实的信息。不存在的来源、不正确的日期、捏造的统计数据或从未成文的法律都是这样的例子。为什么会发生这种情况？因为模型的设计不是为了“知道真相”而是为了“生成可能的延续”（记住第一个单元中的逻辑）。仅仅因为一个句子在语法上是可能的并不意味着它实际上是正确的。
其实际含义是明确的：人工智能产生的每一个事实在经过独立验证之前都是一种主张，而不是事实。特别是，请务必检查：
- 数字和统计数据
- 姓名、日期、地名
- 引文和来源参考
- 法律条款、技术标准、医疗/财务信息
验证习惯
您可以通过提示技术减少但不能重置验证。分两层工作：
- 提示层：给出模型限制，例如“仅依赖我给出的来源，不要添加不存在的信息，如果不确定就写‘我不知道’，显示每个主张的来源”。这减少了拟合。
- 人力层：亲自从源头验证每个关键事实。这一步是没有商量余地的；对于将要发布、将作为决策基础或将影响他人的内容尤其具有强制性。
限制：模型做得不好的地方
面积
风险
正确的方法
时事
训练数据可能已过时
从日期/当前来源验证
确切的数字
拟合的概率很大
使用计算器/来源检查
法律/医疗/金融
严重伤害的风险
咨询真正的专家，不要仅仅依赖它
来源/引文
可以生产不存在的资源
自行检查来源的真实性
罕见/利基主题
肤浅或不准确
与专业知识进行比较
模特只是一个助手，而不是最终的权威。责任始终在于使用它的人。
隐私和个人数据
您在公共人工智能工具中输入的文本受该工具的处理策略的约束，并且可能超出您的组织的控制范围。因此，不假思索地输入机密和个人数据是一个严重的风险。土耳其的个人数据处理受 KVKK（个人数据保护法）监管；机构通常也有自己的数据政策。
安全工作方式：
- 匿名/掩码：写“客户”而不是真实姓名，写“[账号]”而不是真实号码。大多数时候，说“3年企业客户”就可以了。
- 使用机构认可的工具：一些机构提供不会泄露数据的合同/机构工具。仅处理它们上的敏感数据。
- 不要泄露不需要的内容：不要包含任何对完成任务实际上并不重要的敏感细节。
- 了解政策：了解并遵守组织的人工智能使用规则。
道德与版权
负责任的使用并不会随着隐私而结束。三个原则：
- 透明度：如果上下文需要（例如，需要人工劳动），则适当地信任人工智能生成的内容。避免欺骗性使用。
- 版权和原创性：模型的输出可能类似于其他作品。商业使用前审查原创性和权利状况；请勿模仿他人的品牌/作品。
- 非恶意：请勿用于创建误导性、歧视性、操纵性或针对性的内容。工具的力量增加了责任。
四个可复制模板
1）约束限制拟合：
只需依赖下面的来源即可。不要添加源中没有的任何信息。在你不确定的地方写上“不在源代码中”。在每个重要主张旁边，标明其所依据的行。来源：【正文】
2）提取验证列表：
在下面的文本中列出需要验证的所有事实（数字、日期、姓名、索赔）。简要建议我如何验证每个内容。文本：[输出]
3）匿名化：
屏蔽以下文本中的所有个人/机密数据：姓名 [PERSON]、公司 [COMPANY]、号码 [NUMBER]。给出含义完整的匿名版本。文字：[文字]
4）伦理审查：
在发布此内容之前对其进行道德评估：是否具有误导性、歧视性或不公平性？如果有，请标记并建议更正。内容：[正文]
弱提示/强提示
弱（有风险）：
找出 Ahmet Yılmaz (TC: ...) 合同中的问题，并将其与行业平均水平进行比较。
强（安全）：
在下面的合同文本中查找有风险的条款。 - 个人数据的使用；让双方被称为[公司-A]和[人]。- 仅依赖文本中所写的内容；行业平均值组成，写“数据不可用”。- 显示每个风险及其项目。文本（匿名）：[文本]
强大版本既保护个人数据，又拦截虚假行业数据；输出已准备好供法律团队审核。
三个迷你箱
案例 1 — 伪造源。一位研究人员在没有验证的情况下将模型给出的3个“学术来源”放入演示中；其中两个来源根本不可用。一位同事在演讲前注意到了这一点。随后，团队采取了“发布前亲自查找并打开每个资源”的规则。
案例 2——保密。一名员工将实际的客户合同原封不动地粘贴到公共工具中，并要求提供摘要。当该机构的信息安全团队发现这一情况时，对该流程进行了审查；现在，敏感文件仅在该机构批准的公司工具中进行处理，并且是匿名的。
案例 3——决策责任。一位小企业主正准备根据模型给出的税收解释采取行动；该评论不符合现行立法。当他咨询财务顾问时，发现了这个错误。教训很明确：人工智能准备，专家和人类决定。
提示：养成将事实标记为“未经验证”的习惯。在输出中的每个数字和来源旁边放置一个复选标记，直到您确认为止；这个简单的规则可以防止错误信息悄然传播。
注意：“AI 是这么说的”不是借口。您对您发布、发送或做出决定所依据的任何内容负责。车辆的速度并不能免除您的检查义务。
常见错误
- 将流畅的输出误认为是正确的。将有说服力的语言误认为是真理的证据。
- 使用源代码而不检查它。发布不存在的来源。
- 不假思索地输入机密数据。粘贴敏感文档而不对其进行匿名化。
- 将专业知识留给模型。未能核实法律/医疗/财务决定。
- 把责任推到车辆身上。通过说“人工智能是这么说的”来逃避控制。
综上所述
- 幻觉是指模型自信地产生不真实的东西；在得到验证之前，每个事实都是一个主张。
- 验证有两个方面：及时约束可以减少造假行为，人工检查可以发现造假行为。
- 该模型仅限于当前、精确、法律/医疗/财务事项；不是最终权威。
- 仅在机构批准的工具（KVKK 和机构政策）中对机密和个人数据进行匿名化或处理。
- 遵守道德、版权和非恶意原则；对内容的责任始终在于人。
应用任务
获取您最近制作的打印输出并提取其中的所有事实（编号、日期、名称、来源、声明）作为验证列表。写下每个验证方法并实际检查至少其中三个。另外，检查同一输出的输入中是否存在机密/个人数据，并在必要时将其匿名化。
清单
- [ ] 我可以解释什么是幻觉以及为什么会发生幻觉。
- [ ] 我验证来自独立来源的事实输出。
- [ ] 我对机密/个人数据进行匿名处理或使用安全工具对其进行处理。
- [ ] 我咨询了法律/医疗/财务方面的真正专家。
- [ ] 我承认我对内容负责。