收益：
- 了解什么是专业怀疑主义以及使用人工智能时陷入确认偏差和自动化偏差的风险
- 能够通过试图反驳的提问技术来测试人工智能的输出（寻找相反的内容）
- 能够明白人工智能的流畅并不意味着准确，怀疑的心灵是控制的核心，是不可转移的。
有一种心态将独立审计与许多其他职业区分开来：职业怀疑主义。 ISA 将其定义为审计师“以探究的心态，注意证据是否表明潜在的错报，并批判性地评估证据”。也就是说，审计师不会自动接受向他提供的任何信息——无论是管理层声明、文件，甚至是“看似合理”的账目——都是真实的。我不断地想“真的是这样吗？”他问道。这种态度是控制的核心，是不可剥夺的。
人工智能时代，这个核心面临着全新的考验。因为人工智能善于触发人类思维的两个根深蒂固的弱点——自动化偏见和确认偏见。在本单元中，我们将介绍使用人工智能的审计师如何保持甚至加强他的怀疑态度。主要论点是人工智能的流畅性不是准确性；而是流畅性。面对人工智能，怀疑的心态变得更加重要。
两种危险的偏见
自动化偏见是指人们倾向于相信机器/软件的输出而不是自己的判断。 “电脑计算出来的，是正确的。”当涉及人工智能时，这种危险会被放大，因为人工智能不仅会计算，而且还会计算。说出流利、自信、像人类一样、推理性强的句子。即使信息不准确，自信的语气也具有说服力。
确认偏差是指人们倾向于寻找支持他们之前相信或希望的结论的信息，而忽略相互矛盾的信息。这在审计中是致命的：一个认为“这个客户一定是干净的”的审计员在询问人工智能并得到确认时会松一口气，并且会停止寻找相反的证据。因为人工智能倾向于关注所提出的问题（如果你问“没关系，对吧？”它更有可能产生与你一致的答案），因此它可能会助长确认偏差。
还有第三种：幻觉。我们在模块中多次看到——AI可以流畅地拼凑出不存在的数字、物品、资源。当三个弱点结合在一起时，危险就会变得更加复杂：人工智能会编造事情（幻觉），你相信它是因为它是流动的（自动化偏见），你不会质疑它，因为它告诉你你所期望的（确认偏见）。
怀疑论者对抗人工智能的三种工具
让我们对人工智能的具体技术持怀疑态度：
- 尝试反驳，而不是证实。人工智能可能会问其输出“这是真的吗？”而不是“我怎么知道这是否是错误的？”问题。问问自己：“如果这个说法是错误的，有什么证据可以证明这一点？”并寻找证据。很容易找到一个证实的例子；尝试反驳并失败才能提供真正的保证。
- 中立地向后询问。问AI“这里没问题吧？”不要问；这会引起认可的回应。相反，“我在这些数据中可能错过了哪些风险？”以及“这个结果最有可能出错的三种情况是什么？”问。从相反的两个方面问同一个问题并比较答案。
- 下载到源并重现。对于每个问题、归因和结论，“我在哪里独立验证这一点？”提出问题并实际验证。将AI的输出视为断言；证据是主张的外部证据。
提示：养成一个习惯：在人工智能给出的每一个重要输出旁边，手写两件事——“（1）我用什么来验证这一点，（2）如果它是错误的，什么证据会证明这一点。”这两个注释打破了自动化和确认偏差。
审计师不能委托的判断
有些工作本质上需要怀疑精神和判断力；有些工作本质上需要怀疑精神和判断力。这些不能委托给AI，仅支持：
不可剥夺的管辖权
为什么
证据是否充分、适当
专业判断；依赖于上下文
解释的合理性
需要考虑企业和意图
欺诈风险评估
怀疑主义和直觉；超越数据模式
重要性和意见决定
司法机关对公众负责
关于管理层诚信的意见
解读人类行为；人工智能做不到这一点
怀疑主义和迂腐之间的区别：有节制的态度
职业怀疑并不意味着不相信一切或提前指责管理层；这将是一种越权行为，并使控制无效。怀疑主义既不是纯粹的信任（接受告诉你的一切），也不是盲目的否认（拒绝一切）；介于两者之间的是一种与证据相称的探究态度。审计师可能会认为管理层是诚实的，但会用证据来检验这种接受程度；可能会发现一个合理的解释，但证实了合理性。人工智能可能会打破这种平衡：一方面，它会让你对其流畅的输出过于自信；另一方面，它会让你变得过于自信。另一方面，如果你告诉它“凡事都挑错”，它就会用无穷无尽的误报轰炸你。正确的态度是始终权衡结果与证据的分量，同时运行人工智能来产生证据并反驳证据。怀疑不是一种人格特质，而是一种有纪律的工作方式；建立、维护和证明这一纪律的是审计员，而不是人工智能。
三个迷你箱子
案例 1——反驳技巧有效。一位审计员打印出人工智能说“这个股票估值看起来很合理”。他没有确认，而是反问：“如果这个估值被高估了，有什么证据可以证明呢？” “售后价格低于成本的商品，”YZ 说。审计员搜索了这些项目，发现了一组实际上被低估的项目。反驳问题暴露了确认所掩盖的风险。
案例2——陷入确认偏差。一名团队成员在关键时刻问AI：“这个账户没有什么大问题吧？”他问道。 YZ凑近问题说道：“根据你提供的信息，似乎没有什么大问题。”队员放松下来并盖上笔帽。但他并没有提供任何证据； AI只是反映了他的句子。负责人表示，这个问题的提出并不公正。教训：你提出问题的方式决定了你得到的答案；寻求确认的问题会产生确认。
案例3——流利程度下降。审计员认为 YZ 在非常流畅和合理的段落中解释的立法解释是正确的，并将其纳入工作文件中。文字是如此简洁，他没有想到要提出质疑。负责人表示，该参考文献在官方文本中没有对应内容。教训：流畅性和自信并不能证明准确性；看起来最有说服力的结果可能是最危险的。
弱提示/强提示
弱提示：
这个分析是对的吧？你同意吗？
问题：一个寻求确认的有偏见的问题。它推动AI加入你；它助长了确认偏差并隐藏了真正的风险。
强力提示：
您的角色：您是独立审计师的重要调查合作伙伴。你的任务不是同意我的观点，而是尝试拒绝我的输出。上下文：以下是我对分析程序的结论和我的暂定结论。[结果文本]任务：1) 列出该结论可能为假的 3 种最有可能的情况。2) 对于每种情况：“如果这是真的，有什么证据可以证明这一点？”提出具体的、可搜索的证据。 3）标记我可能遗漏的任何数据或假设。 4）不要说出与我一致的句子；你的任务是找到弱点。在您不确定的地方标记“未知”。
这个提示之所以强大，是因为它颠倒了AI（反驳）的角色，要求反驳场景和可搜索的证据，并禁止寻求确认的语言。这使得人工智能为怀疑论服务，而不是确认偏见的工具。
常见错误
- 提出问题寻求批准。 “没关系，对吧？”通过询问并确保得到商定的答案。
- 将流畅性误认为准确性。毫无疑问地接受写得好的、自信的输出。
- 满足于一个验证性的例子。以第一个支持性发现作为结束，而不试图反驳它。
- 授予不可剥夺的管辖权。把证据充分性、合理性、意见的决定留给AI。
- 在时间压力下放弃怀疑。当您陷入困境时，请寻求人工智能的安慰答案。
注意：时间压力是怀疑论的最大敌人，人工智能在这种压力下变得最危险；因为它为您提供快速、流畅且令人安心的答案。当你匆忙时，必须提出反驳问题。
综上所述
职业怀疑是审计的核心，在人工智能时代变得更加重要。人工智能会引发三个弱点：幻觉（编造出来的）、自动化偏见（我们相信它，因为它是流动的）、确认偏见（我们不质疑它，因为它说出了我们的希望）。解药是急于反驳人工智能，而不是证实它：“如果这是错误的，那么什么证据可以证明它呢？” ’并寻找相反的证据，客观地向后询问，再现源头的每一个输出。证据充分性、合理性、欺诈风险、意见判断等判断需要怀疑，且不可转让。流畅并不等于准确；怀疑的头脑是你的。
应用任务
获取您的审核结果（或假设结果）。先用“寻求确认”的弱问题询问AI，然后用上面的“反驳”强提示模式。将两个结果放在一起并写下差异：哪些风险仅由反驳问题揭示？然后在输出中的每个关键声明旁边添加两个注释：“我验证了什么”和“如果它是错误的，将显示什么证据”。
清单
- [ ] 我问的是人工智能反驳/中立的问题，而不是寻求确认的问题。
- [ ] 对于每一个重要的结果，“如果这是错误的，那么什么证据可以证明这一点？”我提出了问题并寻找证据。
- [ ] 我测试了输出，看起来平稳且自信，但带着额外的怀疑。
- [ ] 我并没有停止提供一个证实性的例子；我试图反驳它，但失败了。
- [ ]我自己做出了证据充分、合理、观点等判断。
- [ ] 即使在时间压力下，我也没有跳过反驳问题。
- [ ] 在重要声明旁边，我记下了“我验证的内容/如果错误会显示什么”。