收益：
- 根据任务风险级别，能够区分人工智能在学术研究工作流程（文献、设计、分析、写作）中实时节省时间的地方，以及研究人员科学判断和责任的地方
- 能够应用一门学科来连接和验证每个人工智能输出的来源，并理解幻觉（捏造的）归因问题，这是学院最关键的风险。
- 能够采用符合机构和期刊人工智能使用政策、学术诚实和透明度原则的使用框架。
研究人员的工作涉及的写作、阅读和编辑比看起来要多得多：扫描数百篇文章，对其进行总结，完善研究问题，设计方法，分析数据，抄写结果，格式化引文，选择期刊，回复审稿人的评论。这项工作大部分都是重复性的、耗时的、分散注意力的；它窃取了真正有价值的、原创的思维和解释。人工智能（AI）——能够理解人类语言并生成文本、摘要、代码、草稿等输出的计算机程序——是加速这种重复性负担的有力帮助。在本模块中，我们认为人工智能并不是一种神奇的信息来源；而是一种神奇的信息来源。我们将学习如何使用它作为研究助手，制作草稿、提出想法和编辑。
但从一开始，我们就放上学术界最重要的一句话：人工智能不会代替研究人员做出科学决策；人工智能不会代替研究人员做出科学决策。产生草案，科学判断和责任属于研究者。在学术界，这条规则甚至比其他行业更严格，因为科学的货币是信任，而这种信任的基础是每一个主张都与可验证的来源相关联。
第一个单元建立了三个基础：区分人工智能在哪里工作以及它应该留在研究工作流程中的哪个位置；验证每个输出；采取学术诚实和透明的原则。这三者是所有后续单元的底层安全基础。
人工智能在哪些方面可以节省时间，哪些方面的决定权属于研究人员？
它有助于从风险水平的角度思考研究任务。风险级别是指如果操作不当会对科学记录造成多大损害。
人工智能加速的低风险任务：生成搜索策略（关键词、同义词）、对长文本进行初步总结、简化段落语言、建议表格标题、集思广益、以不同方式解释概念、提出大纲结构。这里AI解决了“空白页”问题；你纠正、验证和丰富。
需要严格验证的中等风险、人工智能生成的任务：统计测试选择建议、代码草案、引文格式、发现的草稿解释、方法选项的比较。这里人工智能提供了速度，但每个数字、每个标签、每个逻辑步骤都必须手动确认。
仅由研究人员做出决定的高风险任务：最终确定假设和方法，决定数据的含义，判断研究结果是否有意义，伦理委员会（IRB）内的决定，决定来源是否确实存在并支持主张、作者身份和贡献的声明。这些决定决定了科学记录的可靠性；责任和最终决定权始终属于研究者。
注意：“人工智能说”不是理由。期刊编辑或论文评审团不会接受“我的模型是这样产生的”这一说法。未经验证的人工智能输出就像未经验证的谣言。
为什么需要验证？幻觉和捏造归因
人工智能不是通过“知道”而是通过“预测可能的单词”来生成文本。这就是为什么有时它会提供极其流畅但实际上不正确的信息。这称为幻觉（虚构）。在学术界，最危险的形式是虚假归因：人工智能生成看似真实的作者姓名、年份、期刊，甚至 DOI（数字对象标识符 - 出版物的永久地址），但该来源从未存在过。如果研究人员在未经检查的情况下使用它，他或她就是根据不存在的研究提出主张；这会导致论文被拒绝、文章被撤回以及声誉受损。
第二个问题是扭曲：在总结一篇论文时，人工智能可能会夸大某个发现，将一项“没有显着差异”的研究总结为“发现了显着差异”。第三个是偏见：人工智能会重复其所训练的数据的趋势；它可能会突出某种流派、语言或观点，使文献显得扭曲。
由于这些限制，我们提出了一个简单的验证规则来应用于每个输出：
- 将其连接到源。查找并验证每个事实、日期、数字、引用，尤其是每个引用的实际来源（文章、数据库、DOI）。
- 再次检查。手动检查数字或逻辑输出（统计结果、样本计算）。
- 科学过滤。 “这个说法与我所在领域的已知文献一致吗？”用你自己的专业知识来处理它。
- 承担责任。当你把它发表在你的出版物或论文中的那一刻，这句话就是你的了；任何错误都是你的责任。
学术诚实和透明
学术诚信确保该作品确实是您的原创贡献，并且所有来源均被诚实引用。人工智能的使用并没有消除这一原则，而是增加了新的责任：透明度。大多数期刊和大学现在都要求明确声明人工智能的使用。共同的编辑路线（例如ICMJE和COPE等出版道德机构的原则）清楚地说明了两件事：AI不能成为作者（因为它不能承担责任，不能声明利益冲突），并且AI的使用不是隐藏的，而是在方法或致谢部分中披露。
提示：在将文本粘贴到任何工具中之前，请先问两个问题：(1) 该工具如何存储数据，是否用于教育？ (2) 我的机构和目标期刊的人工智能政策是怎样的？不了解这两个就不要开始。
三个迷你箱子
案例 1——伪造的归因损害了论文。一名研究生向 YZ 索要 12 个论文引言来源，并全部收到并附有引文。他的导师在 Google Scholar 上随机搜索了其中 4 篇；其中 2 个根本不存在，其中 1 个有指向另一篇文章的 DOI。学生必须一一核实整个列表，并且只使用了 7 个真实来源。验证耗时40分钟；但如果提供的是虚构的参考资料，陪审团的信心就会完全动摇。
案例 2 — 节省时间。一位博士后研究员每周花费6个小时扫描和总结15-20篇新文章。他开始使用人工智能作为他的第一个摘要生成器：让人工智能总结每篇文章的摘要和简介，通过自己的批判性阅读进行深化，并验证原文的发现。时间从每周 6 小时减少到约 2.5 小时；他将赚取的时间投入到撰写原创综合文章中。
案例 3——隐身返回。一位社会科学家正准备将未发表的现场数据和参与者的证词粘贴到人工智能中进行分析。他意识到里面有凭据；他没有分享原始数据，只是要求提供匿名的、汇总的样本和分析计划。他收到了有价值的方法建议，但没有敏感数据泄露。
可复制模板
1）按风险级别划分任务：
您的角色：协助研究人员的学术助理。将以下研究任务分为三个列表：（A）人工智能可以安全地生成手稿的低风险任务，（B）人工智能可以生成手稿并需要严格验证的中风险任务，（C）最终决定必须由研究人员决定的高风险任务。为每项任务写一句话理由。任务：[粘贴自己的任务]
2）验证检查提示：
标记下面文本中包含事实、日期、数字、引用或归属的每个句子，并将其标记为“需要验证”。明确指出您不确定的地方。请勿编造来源或编号；如果您不知道，请写“我不知道”。文本：[粘贴草稿]
3）人工智能使用声明草案：
对于文章的方法/致谢部分，写一个 2-3 句话的草稿“AI 使用声明”，透明地解释我在哪个阶段使用了 AI（例如语言修正、大纲草稿）。用法：[解释]
4）来源验证清单：
为以下引文列表中的每个来源生成验证检查表：[作者、年份、标题、DOI、已验证？]。您无法验证；给我一个空表，我将手动检查。列表：[粘贴引用]
弱提示/强提示
弱提示：
为我的论文介绍找到资源。
没有上下文并且危险：人工智能吐出假身份证，而你认为它们是真实的。
强力提示：
您的角色：方法论顾问。地点：“远程教育中的学生动机”。不要给我找消息来源；相反，建议使用 8 个关键字、3 个同义词组和一个布尔搜索字符串在 Scopus 中搜索该主题。真实的文章署名是假的。我会亲自验证我找到的来源。
任务
风险等级
人工智能的作用
最终决定
生成搜索策略
低
建议关键字/字符串
研究员
文章摘要草稿
低-中
生成草稿
研究人员证实
统计测试推荐
中等
提供选项
研究人员选择/确认
引文列表
高
格式助手
每个印记均经过手工验证
寻找解释/假设
高
给出想法
孤独的研究员
常见错误
- 使用未经验证的引用。捏造归因是学术界最常见、最具破坏性的错误。导致戒断。
- 用摘要代替来源。 AI总结可能会歪曲调查结果；不返回原文，不予引用。
- 跳过透明度。一旦被发现，隐瞒使用行为就是违反道德的行为。
- 让AI做出科学决策。假设、解释和方法决定属于研究人员。
- 将机密数据上传到开放工具。未发布的数据和参与者信息不在您的控制范围内。
提示：将每个人工智能会话想象成与一位经验丰富但不可靠的实习生一起工作：他快速而勤奋，但在签字之前你要验证他所说的一切。
综上所述
AI是一个强有力的助手，减轻了研究者重复阅读和写作的负担；但由于幻觉、扭曲和偏见，每一个输出都需要验证。学术界最严重的风险是虚假引用：每个来源都必须通过 DOI 和数据库进行验证。按风险级别分离任务、保护数据、透明地声明使用情况。最短的经验法则：蓝图来自人工智能，科学责任来自研究人员。
应用任务
列出您当前研究项目中的 8 项任务，并将每项任务标记为低/中/高风险。然后选择一个低风险的任务并编写带有上下文的提示，例如上面的“强大的提示”。在输出中标记至少 3 个需要验证的元素（编号、印记、声明），并写下验证方式。
清单
- [ ] 我是否按风险级别划分了任务？
- [ ] 我是否计划验证每次引用并计入 AI 输出？
- [ ] 我是否知道我使用的车辆的数据保留政策？
- [ ] 我是否已阅读我的机构和目标期刊的 AI 政策？
- [ ] 我确定保留最终的科学判断吗？