收益：
- 能够理解幻觉是语言模型所固有的，并为每种类型的输出选择适当的验证方法。
- 通过三角测量以两种独立的方式验证临界值，不要混淆流畅性和准确性
- 能够将透明度、可追溯性、数据完整性和人类责任作为科学完整性的基础
在这个模块中，有一句话反复出现：“人工智能生产，人类验证。”在本单元中，我们将这句话变成一个系统。目的是识别人工智能最危险的行为——幻觉（用自信的语言产生虚假/捏造的信息），为每种类型的输出建立具体的验证方法，并将所有这些置于科学完整性（诚实、透明、可追溯）的框架内。未经验证的化学人工智能输出不仅是一个错误，而且是一个错误。可能是一个实验爆炸、一个人中毒、或者一篇论文被撤回。
为什么幻觉不可避免？
大语言模型产生“下一个最可能的单词”；它的目标是可能性，而不是事实。因此，他可以用“看起来合理”的值填写分子量、DOI 或沸点，而无需检查它是否真实。幻觉不是故障，而是该技术性质的结果。解决方案不是“尝试修复”模型，而是围绕每个输出构建验证外壳。
幻觉最阴险的方面是它自信的语言。错误分子量的置信度与正确分子量的置信度完全相同。所以“看起来自信”绝不意味着“正确”。
注意：人工智能在某个主题上说话的流利程度和自信程度与该信息的准确性无关。流畅性令人信服；只有独立来源才能决定准确性。
通过化学输出类型进行验证
每种输出类型都有自己的验证方法。不要记住单个规则，而是使用适当的工具来输出：
输出类型
验证方法
车辆
分子量、分子式
根据公式重新计算
RDKit / 手动
微笑/结构
解析+规范化
RD套件
引文/DOI
在数据库中解决
doi.org，交叉引用
物理常数（kn、pKa）
参考数据库
PubChem，手册
数值计算
编写+运行代码
蟒蛇
反应/条件
文献确认
Reaxys，文章
担保索赔
安全数据表/全球统一制度
官方安全数据表
频谱分配
多技术+人性化
实验光谱
该表实际上是该模块的总结：每个单元为一行。
三角测量：三个独立的路径
最强大的验证技术是“三角测量”：通过三种独立的方式得出相同的结论。例如，对于分子量：（1）YZ所说的，（2）RDKit的计算，（3）根据公式手动计算。如果三者重叠，则信任度高；如果三者重叠，则信任度高；如果有人迷路，请停下来进行调查。永远不要依赖单一的化学来源；寻找至少两条独立的路径。
一步一步：验证工作流程
- 对输出进行分类：它是数字、结构、属性、安全断言吗？
- 选择适当的工具：从上表中获取输出类型的适当验证路径。
- 独立计算/搜索：独立于AI运行车辆；比较结果。
- 如果存在偏差，则停止：如果值不匹配，则在不调查哪个值正确的情况下不要继续。
- 留下您的印记：记录您验证的内容以及验证方式（科学诚信）。
- 指定不确定性：将无法验证的事物标记为“未确认”，不要隐藏它。
四个可复制模板
1）自我验证：
您刚刚给出了以下输出：[OUTPUT]。任务：在单独的行上列出此输出的每个数字/事实断言。对于每个断言：“如何独立验证它？”编写方法（哪个工具/数据库）。请勿声称该声明属实；只是给出一个方法来验证一下。
2）三角测量控制：
我想通过三种方式检查以下分子的重量：[SMILES]。任务：1）推导分子式。2）逐个原子显示分子量计算结果（每个元素的贡献）。注意：我也会在RDKit中计算它，然后与您给出的进行比较。如果三者不重叠，则发出警告。
3）歧义标记：
以下文本中有多个事实声明：[TEXT]任务：在每个声明旁边放置一个置信度标签：[已验证]/[已验证]/[不确定]。如果您不确定，请勿标记任何内容[已验证]。
4）一致性交叉查询：
我会用两种不同的方式问同一个问题；看看你们的答案是否一致。问题A：该化合物的分子式是什么
弱提示/强提示
弱：
写下您所知道的有关该化合物的所有信息。
人工智能不加区别地混合可验证和捏造的信息；目前尚不清楚哪一个是真实的。
强：
提供有关该化合物的信息，但将每个声明标记为：[确定性 - 通过仪器验证] 例如分子式，[实验 - 需要引用] 例如熔点，[不确定 - 不确定]。不要写任何未标记的声明。
区别：我们强迫AI标记自己的不确定性；我们使核查工作变得有计划。
科学诚信：诚信可追溯
验证不仅仅是一个技术步骤，更是一个道德问题。科学诚信要求：
- 透明度：不要隐瞒你正在使用人工智能；根据您的出版/报告政策指定。
- 可追溯性：记录人工智能的输出内容以及验证方式。
- 数据完整性：用人工智能“美化”结果，无理丢弃异常值是欺诈。
- 责任：您对最终结果负责； “AI是这么说的”并不是借口。
提示：从一开始就接受，你永远不能在报告或辩护中使用“人工智能这么说”这句话。这种接受会自动带来验证每个输出的习惯。
迷你箱
情况 1 — 三角测量发现错误。一名学生用三种方法检查了分子量：YZ 为 178.2，手动计算为 180.16，RDKit 为 180.16。两条独立的路径重叠并消除了人工智能。教训：两次独立的验证默默地击败了一个错误的输出。
案例 2——安全的语言，错误的信息。 AI非常自信地写道，反应“在室温下自发进行”。文献表明这需要加热和催化剂。学生信任消息来源，而不是安全语言。教训：流畅并不等于准确。
案例 3 — 获得透明度。在论文的方法部分，一位研究人员明确说明了他在哪些步骤中使用了人工智能（文本编辑、代码起草），并写道他独立验证了所有数值结果。裁判过程很顺利。教训：透明建立信任，隐瞒创造风险。
常见错误
- 信任安全语言。人工智能的自信语气并不表示其准确性。
- 依赖单一来源。接受单个输出而无需三角测量。
- 不分离输出类型。以为我用同样的方法“检查”了号码、归属和安全断言。
- 隐藏不确定性。报告无法证实的事情，就好像它是确定的一样。
- 隐藏人工智能的使用。缺乏透明度会损害科学诚信。
- 委派责任。 “AI这么说”的借口无效；责任在于人。
综上所述
- 幻觉是语言模型所固有的；解决方案是围绕每个输出构建一个验证 shell。
- 每种输出类型都有自己的验证方法；对输出进行分类并使用适当的工具。
- 三角测量（两条独立路径）是最强的控制；不要相信单一来源。
- 流利和自信的语言与准确性无关。
- 科学诚信需要透明度、可追溯性、数据完整性和人类责任。
应用任务
在人工智能会话中有意产生各种输出：分子量、参考值、物理常数、安全声明、数值计算。使用正确的方法独立验证每一项（见表）。尝试捕捉至少一种幻觉。然后准备一个“验证矩阵”：行输出，列（AI值/独立值/是否重叠/我如何验证它）。您如何从科学诚信角度报告本次会议？
清单
- [ ] 我明白为什么幻觉是不可避免的了。
- [ ] 我根据每个输出的类型对其进行分类，并使用适当的方法对其进行验证。
- [ ] 我对临界值进行三角测量（两条独立路径）。
- [ ] 我相信来源，而不是安全语言。
- [ ] 我将无法确认的标记为“不确定”。
- [ ] 我对人工智能的使用保持透明，并对结果负责。