收益:
- 能够将哲学研究分为七个环,并在每个环中定位人工智能和强制人类控制的作用
- 能够保护人类领域的机密性(个人数据、未发表的作品、盲审)并匿名或使用安全系统
- 能够在每个环节保持端到端的学术诚信、诚实的透明度和人工监督
在这最后一个单元中,我们将把前十个单元的技能结合到一个集成的工作流程中。真正的哲学或伦理著作——一篇论文、一篇讲座、一篇评论、一份伦理委员会报告——不是一项单一的任务,而是一系列相互关联的任务:阅读、绘图、文献、草稿、修订、验证、提交。将人工智能正确定位在这条链条的每个环节比分散的单独请求更高效、更安全。同时,该单元将整个模块的三个螺旋主题——保密、学术诚信和人为控制——整合到一个控制框架中。
目标是“我什么时候使用人工智能?”来自“如何使用人工智能从头到尾安全地运行一个项目?”继续讨论这个问题。
端到端工作流程:七环
让我们将典型的哲学著作分为七个环,并展示人工智能和必要的人类控制在每个环中的作用。
1.问题和范围。你问的限制是什么?人工智能有助于澄清问题;但研究问题和独特角度是你的。
2.精读。分析主要文本(第 2 单元)。 AI提供初步总结和术语;评论是你的。
3. 参数映射。提取文本的逻辑结构(第 3 单元)。 AI框架的有效性/稳健性由你来判断。
4.文学。绘制区域地图并收集资源(第 4-5 单元)。 AI概念图;每个来源都经过独立验证。
5.草稿。写出你自己的论点(第 7 单元)。本质是你的; AI是最大的讨论伙伴。
第六次修订。语言、流程、结构(第 7 单元)。人工智能编辑器;意义被保留。
7. 验证并交付。对所有来源、引用和事实(第 5、10 单元)以及透明度声明的最终检查。
提示:在进入每个环之前,请执行“通过检查”:在进入下一个环之前,该环的输出是否经过验证?未经验证的摘要是指映射;如果草稿中加入捏造的消息来源,错误就会呈指数级增长。链条的强度取决于其最薄弱的环节。
隐私:也适用于人类领域
人们可能会认为哲学不是一个“秘密文件”领域,但保密性在这里也很重要。道德委员会讨论实际的患者或员工案例;学生将其未发表的论文发送给他/她的导师;审稿人在盲法同行评审中评估稿件。所有这些都包含个人数据或未公开的知识产权。规则很明确:个人信息、未发表的作品、盲目同行评审的手稿和机密的委员会数据不能输入到您所在机构未经批准的公共人工智能工具中。如果您必须分析真实案例,请首先将其匿名化(删除所有个人识别信息)或仅使用经机构批准的安全系统。
注意:将盲审论文粘贴到人工智能工具中侵犯了作者的知识产权和同行评审过程的保密性,并构成严重的学术不端行为。同样,将自己未发表的作品进入公共领域也可能存在风险。了解您所在机构和期刊的政策。
学术诚信和透明度声明
我们在整个模块中强调的学术诚信在交付阶段变得具体。大多数机构和期刊现在都要求透明地披露人工智能的使用情况:使用什么工具、在什么阶段、用于什么目的?使用人工智能进行语言纠正已被普遍接受和宣称;将论点或文本打印到人工智能在大多数地方是不被接受的。了解您所在机构和目标出版物的当前政策,并严格遵循。透明度并不是承认弱点,而是诚实和专业精神的标志。
三个迷你箱子
案例 1——链验证。一位研究人员从头到尾浏览了一篇人工智能辅助论文:阅读、绘图、文献、草稿、修订。他检查了每个环的访问情况。在文献圈里,他排除了12个来源中捏造的2个;逐字更正了验证环中的 3 个引用。这篇文章在出版时没有出现任何错误的引用。系统化的链条防止了错误渗漏到手稿中。
案例 2 — 因隐私泄露而返回。审稿人会将他或她评估的盲审论文粘贴到公开可用的人工智能工具中以进行快速总结。他在最后一刻停了下来:这是一部未发表的作品,而且是机密。他在没有任何工具的情况下,通过自己的阅读做出了评估。防止了知识产权和隐私侵犯。
案例 3——透明声明。一名博士生在论文中只使用人工智能进行语言编辑,并在论文方法论部分明确指出:“人工智能工具用于语言和流程编辑;所有论点、论文和来源都是作者的并经过独立验证。”陪审团对这种透明度表示赞赏。诚实的陈述建立了信任。
弱提示/强提示
弱提示:
从头到尾为我准备这篇文章:研究、写作、添加来源。
这个提示将整个链条(思考、验证、责任)委托给AI;从保密性/完整性的角度来看,结果将是捏造的、不真实的且站不住脚的。
强大的提示(基于响铃):
您的角色:哲学研究过程中的阶段助理。目前[哪个环:例如?我们处于[参数映射]环中。只要做这个环的工作即可;继续进行下一个环。规则:源拟合;将每个主张与我给出的文本联系起来;如果您不确定,请标记“必须验证”;决定和论文仍然由我决定。本环的输入:[上一个环的已验证输出]
此提示将工作分成多个环,强制在每个环中进行验证,并让您保持控制。
四个可复制模板
1)项目范围明确:
您的角色:研究顾问。帮助我完善以下研究思路:(a) 缩小研究问题范围,(b) 建议排除情况,(c) 列出回答问题所需的步骤。不要给我论文;尖锐化问题。我的观点:[写下你的观点]
2)环访问控制:
在进入下一阶段之前检查[Ring name]的输出:(1)是否有任何未经验证的来源/引用/事实?(2)是否有任何与文本无关的主张?(3)AI是否在需要做出决定的地方做出了判断?标记有问题的区域;我会进行更正。输出:[粘贴]
3)隐私预筛选:
在处理之前扫描以下文本:它是否包含个人数据、未发表的作品、盲目同行评审或机密小组数据?如果是,哪些部分不应该在公开可用的工具中进行处理?警告我。文字:[文字]
4) 透明度声明草案:
在接下来的研究中,我在以下阶段/出于以下目的使用了AI:[写入阶段]。起草一份符合您所在机构/期刊政策的诚实、清晰的人工智能使用声明。夸张;只是反映我实际所做的事情。
戒指/角色/控制表
戒指
人工智能的作用
强制性人工监督
主要风险
问题/范围
澄清剂
研究问题
原创性
细读
第一个总结
评论、来源链接
失真
参数映射
骨架
有效性/稳健性
逻辑错误
文学
概念图
来源验证
杜撰的归因
草案
陪练伙伴
论文、论证
丧失原创性
修订版
语言编辑器
意义保护
内容漂移
验证/交付
清单
最终确认、声明
违反诚信
常见错误
- 在一个请求中委托整个链。 “充分准备”是最危险的命令;将工作分成环。
- 绕过访问控制。将未经验证的输出移至下一个环会使误差成倍增加。
- 低估了人类领域的隐私。盲目同行评审、未发表的研究和个案数据也应受到保护。
- 省略或夸大透明度声明。声明必须诚实并适合实际使用;既不隐藏也不膨胀。
- 放弃控制权。无论链条多么自动化,每个环节的决策和责任都在于人。
综上所述
该模块的所有功能组合成一个端到端的工作流程:提问、阅读、地图、文献、草稿、修订、验证。将人工智能正确定位在每个环节,并在每次通过时进行验证——链条的强度取决于其最薄弱的环节。三个螺旋主题无处不在:保密性(个人数据、未发表的工作和盲目同行评审受到保护,在人类领域也是如此)、学术诚信(最初的想法是你的,透明度的声明是诚实的)和人为控制(决定和责任始终是你的)。避免“从头到尾为我做”的命令;划分工作、验证并保持控制。人工智能加快了这一过程;你是思考、验证和签名的人。
应用任务
- 选择一个小的哲学项目(一篇短文或课程计划)。
- 将其分为七个环,并写出每个环的AI的作用和控制步骤。
- 使用“隐私预扫描”模板扫描您将使用的每个条目。
- 使用“环转换控制”模式检查一个环的输出并将其移动到下一个环。
- 使用“透明度声明草案”模板撰写诚实的人工智能使用声明。
清单
- [ ] 我把项目分成了环;我没有通过一个请求来转移它。
- [ ] 我对每个环路进行了验证检查。
- [ ] 我已保留或匿名化个人/未发表/盲审同行评审数据。
- [ ] 我最后一次确认了来源、引用和事实。
- [ ] 我自己制作了原始论文和论证。
- [ ] 我已经准备了一份诚实的人工智能使用/透明度声明。
- [ ] 我在每个圈子里都有决定权和责任。
模块考试
1、以下哪项是人工智能在哲学和应用伦理学上最准确的定位?
- A)人工智能可以在没有人类批准的情况下直接做出道德决定并证明其合理性
- B)人工智能仅对翻译文本有用,与哲学任务无关
- C) 人工智能是阅读、绘图、总结和起草的助手;解释、论证和原创思想的责任在于人类 ✔
- D)由于人工智能给出了数百万文本的平均值,因此由其撰写的原始论文是最可靠的方式。
描述:人工智能;它是一个加速文本阅读、论证映射、文献扫描和草稿生成的助手。判断一个论点、正确解释哲学家、证明道德决定的合理性以及提出原创论文等任务属于有能力的专家和思想家;从哲学上来说,产品本身就是推理,把推理交给机器就是放弃工作。
2. 当人工智能在引号中给出明确的引文和页码,但在主要来源中找不到此信息时,它叫什么?如何防止?
- A) 段落;通过用自己的话重写引用来避免
- B) 幻觉;通过在主要来源进行逐字验证来防止每一次引用和引用 ✔
- C) 有效性错误;通过将参数转换为标准形式来避免
- D) 偏见;通过从不同的角度看待它可以防止它。
解释:这是一种幻觉:在不知道真相的情况下,人工智能会生成一个在统计上看起来可能、现实的引言,但实际上并不存在。解毒剂是逐字验证主要来源中的每一个引用和归属的纪律;人工智能自信的语气并不代表准确。
3. 当人工智能简化一个哲学句子,将“总是”的表达方式变成“大多数时候”时,真正的风险是什么?
- A) 意义转变;一个词的细微差别可能会破坏论证的普遍性,需要与原始内容进行比较 ✔
- B)没有风险,因为简化总是保留意义
- C) 仅风格改变,论证的逻辑内容完全不受影响
- D)文本变得更长、更复杂,难以阅读
说明:在哲学中,数量(每个/一些/大多数)和形态(必要/可能)的表达通常是争论的核心。 “总是”和“大多数时候”之间的同一个词的转换可能会破坏一个论证的普遍性。因此,每种简化都应被视为建议的解释,并且应通过与原始版本并排比较来检查细微差别的损失。
4. 论证“有效”和“合理”之间有什么区别?
- A)它们是同一件事;每个有效的论点都必然是合理的
- B)健全性只与结构有关,有效性与前提的真实性有关
- C) 有效性是指前提看起来令人信服,而健全性是指它们写得流畅。
- D)有效性是结构的正确性,健全性是有效性和前提都真实的事实。
说明:有效性仅与结构有关:如果前提为真,结论就一定为真吗?即使前提实际上是错误的,论证也可能是有效的。健全性要求有效性和所有前提都是真实的。 AI擅长提取结构,但无法评估前提的实际准确性以实现鲁棒性;这个判断是属于人的。
5. 在映射论证时寻找“隐含前提”的重要性是什么?
- A)没有必要寻找隐含的前提,因为只有那些明确陈述的才是论证的一部分
- B) 隐含前提仅增强文本风格,与逻辑无关。
- C) 隐含前提揭示了论证的隐藏假设,通常是最有力的批评点 ✔
- D)隐含前提是人工智能的最终判断,必须被接受为确定性的
解释:隐含前提是论证成立所必需的假设,但文本中未说明。一本好的哲学读物也能看到未言之物;最强烈的批评往往在于这种隐含的假设。人工智能可以提供框架,但将隐含前提连接并验证回文本并评估其争议性是人类的工作。
6. 为什么在人文学科中告诉人工智能“给我关于这个主题的 10 个最重要的来源及其摘要”是危险的?
- A) 人工智能可以制作虚假的、看起来令人信服的标签;并非所有资源都可以在未经独立目录验证的情况下使用✔
- B)人工智能总是给出准确的来源,唯一的问题是摘要太长
- C) 没有危险;人工智能给出的 DOI 号码是现实的明确证明
- D) 由于来源数量较多,所以只需要花时间阅读,没有其他风险。
说明:AI不是引文数据库;它从文本模式中学习了“引文是什么样的”,并生成逼真的归因,无论它们是否真实。这种说法将真实来源与根本不存在的虚构来源混合在一起;一个虚假的参考文献就会破坏作品的可信度。每个印记必须在独立目录中逐字验证。
7. 如果在真实的书中逐字找到人工智能给出的引述,但作者用这句话来传达和反驳相反的观点,那么将这句话用作作者自己的论文有什么错误?
- A) 这是一个印记错误;只需修改页码即可解决。
- B)这是一种脱离语境的扭曲;在不阅读周围内容的情况下引用这句话可能会导致作者说相反的话✔
- C) 这是一个有效性错误;论证需要采用标准形式
- D) 这不是问题;只要句子字面意思正确,上下文就无关紧要
说明:这是内容保真度(第 2 层)违规:它通过了第一次检查,因为来源是真实的,但引用是断章取义的。最阴险的歪曲是当一个真实的句子被断章取义,而作者却被迫说出完全相反的内容。在使用引用之前,有必要阅读周围的段落并确定作者创建它是为了辩护还是为了传达信息。
8. 当教师要求人工智能对美德伦理进行类比时,如果发现所收到的类比扭曲了概念,该怎么办?
- A) 类比只要流畅就可以使用;概念准确性是次要的
- B) 学生应该自己纠正类比,教师不应干预。
- C)照原样使用类比并注意“这是由人工智能产生的”就足够了
- D)应该检查类比,如果它扭曲了,应该用一个保留概念核心的正确例子来代替✔
解释:误导性的类比比没有例子更有害,因为它给学生带来了错误的根源并且很难纠正。人工智能在教学中产生的每一个类比和例子都应该经过专家的检验,看它是否正确地反映了概念;必须用保留概念核心的例子来取代扭曲的类比。
9. 就“原创性限制”而言,在学术写作中使用人工智能最合适的方法是什么?
- A) 首先编写自己的草稿,使用人工智能作为语言/流程编辑器和异议生成伙伴;自己构建论文和论证 ✔
- B)让人工智能填写空白页,然后更改几句话并交付它
- C)将论文和结论写入人工智能,因为平均文本是最可靠的
- D) 完全不使用人工智能;即使纠正语法也是违反学术诚信的
说明:写作分层次:语言和流程的修正可以放心地交给AI;结构是共同决定的;论文、论证和原创贡献是不可剥夺的,只属于人类。经验法则是先写好自己的草稿,然后让 AI 润色,而不是让 AI 填写空白页。流畅并不等于独创性;学术价值在于微妙的区分和大胆的论断。
10. 伦理委员会在分析案例时应如何使用人工智能?
- A)人们应该问人工智能“我应该做什么”并应用它直接给出的单一答案作为决策。
- B)根本不应该使用人工智能,因为它无法有助于伦理分析
- C) 他应该使用人工智能从多个框架中映射案例并提取利益相关者并自己做出决定和论证✔
- D)假设人工智能是最公正的,所有优先级都应该留给它
描述:人工智能的真正力量在于从结果论、道义论和基于美德的框架中多角度地描绘一个案例,提取利益相关者并使原则冲突变得可见。但道德判断;它需要优先考虑价值观、承担责任并签署决定。人工智能缺乏价值观、责任感、背景知识,并且存在偏见;因此,决定和理由属于人,尤其是负责的董事会。
11.当人工智能支持的系统造成损害时,防止责任“落入虚空”的最哲学上正确的立场是什么?
- A)责任属于人工智能本身,因为它是产生输出的人
- B) 责任应放在设计、部署和使用系统的人链中的相关环节 ✔
- C)没有人负责,因为系统太复杂,没有人能理解它
- D) 责任完全由最终用户承担;设计师和机构完全豁免
解释:普遍的观点认为人工智能是一种工具,设计它、提供数据、分发和使用它的人负有道德责任;因为责任需要意图、理解和签署决定的意愿。 “人工智能决定”的语言模糊了责任;严谨的概念语言将责任置于人链的相关环节。
12. 为什么哲学中的“推理的独创性”不能转移到人工智能上?
- A)因为人工智能产生平均值;独创性源于自己的判断,不同于一般人✔
- B)因为人工智能非常慢,无法及时生成原文
- C) 因为人工智能总是会出现语法错误,导致文本变得难以阅读
- D) 可转让;人工智能产生的论文最原创、最有深度
解释:在哲学中,价值在于你如何得出答案——你做出什么区分,你预期和遇到什么反对意见。人工智能平均生成数百万条文本;这个平均值看起来流动且合理,但它并不是原创的。原创思维就从你偏离平均水平的地方开始。如果你把思考本身委托给别人,你就得到了纯粹的文本,这也是对知识诚实的侵犯。
13. 就知识诚实而言,你应该如何提出一个在研讨会文本中无法证实的有争议的主张?
- A) 你必须将其呈现为绝对正确,因为人工智能是这么说的。
- B) 你应该完全省略该声明并且根本不提及它,因为歧义是不可接受的
- C) 你应该用一种看起来最有说服力并且不会让读者产生疑问的精确语言来写作。
- D) 您必须如实陈述,明确该主张有争议或未经证实 ✔
说明:知识诚实的第一条规则是不要隐瞒不确定性:不要将你不知道或无法验证的东西呈现为确定的。说“这一点有争议”或“我无法证实这一点”并不是软弱的表现,而是成熟和诚实的表现。错误的确定性比诚实的保留更有害,并且会破坏信任。
14. 为什么将盲审(尚未发表)的论文粘贴到公开可用的人工智能工具中进行快速总结是一个严重的问题?
- A)没关系;未发表的作品已被视为公共领域
- B) 只有当摘要很长时才会出现问题,简短的摘要也可以。
- C) 侵犯作者知识产权和裁判保密的;未经批准,此类数据不会输入公共工具✔
- D) 唯一的问题是车辆运行缓慢,浪费时间。
说明:这侵犯了作者的知识产权和同行评审过程的保密性,构成严重的学术不端行为。保密性在人类领域也至关重要:个人数据、未发表的工作、盲目的同行评审和保密的委员会数据不会被输入到未经机构批准的公共工具中。如有必要,文本将被匿名或仅使用经机构批准的安全系统。