收益：
- 能够从后果论、义务论和美德伦理框架的多个角度分析伦理案例
- 能够澄清事实和利益相关者并指出原则冲突
- 能够在偏见控制下以合理的方式做出道德判断和决策，而不是交给人工智能
应用伦理学的核心是“做什么？”的问题。在真实情况下。是对问题给出一个合理的答案。医院伦理委员会讨论治疗决定，公司评估数据的使用是否符合道德，研究人员权衡实验对参与者的危害。这些著作中使用的工具是伦理框架（为评估情况提供一套连贯的原则和推理的方法）——例如，后果论（根据其后果、其产生的利益和危害来评估行为正确性的方法）、道义论（通过遵守义务、权利和规则来评估行为正确性的方法，与后果无关）和美德伦理学（将问题框架为“一个有道德的人会做什么”的方法）。做什么？”而不是“什么行动？”）。人工智能可以成为从不同框架分析案例、查看被忽视的维度和多种选项的快速工具。但最终的道德判断——哪种原则占上风，做出哪种决定以及其理由——属于人类，尤其是负责的委员会和专家。
在本单元中，我们将了解如何以人工智能驱动但由人类判断的方式分析道德案例。
多帧分析：人工智能的真正力量
道德案件中最常见的错误是坚持单一观点。良好的分析可以从多个框架中看到相同的情况并揭示紧张关系。这就是人工智能的强大之处：它可以同时从结果论、义务论和基于美德的角度分析案例，并快速列出每个框架得出的结论。这勾画出了这场辩论。
步骤：
1、澄清事实。涉及谁、什么、什么时候；区分不确定的事实和假设的事实。伦理分析不能基于错误的事实。
2. 确定利益相关者和利益。谁受到该决定的影响，每个人的权利和利益是什么？
3.从不同框架进行分析。每个框架如何看待这种情况以及建议采取什么行动？
4. 表现出原则上的紧张和冲突。如果框架得出不同的结论，冲突到底在哪里？ （例如，个人的自主权与社会的利益之间。）
5. 做出合理的决定。通过接受对方最强烈的反对意见来证明哪条原则更重要。
提示：不要要求AI“告诉我正确答案”；说，“从三个框架分析这个案例，并给出每个框架的结论和最强烈的反对意见。”人工智能的工作是创建地图；您做出决定并给出理由。在伦理学上，“机器给出的答案”并不是一个正当理由。
为什么人工智能不能做出合乎道德的决定？
让我们把这一点说清楚。道德判断；它需要背景知识、价值观之间的优先顺序、承担责任以及签署该决定的意愿。人工智能不具备这些：它没有价值观，没有责任感，对背景的了解有限，并且可以在训练数据中复制文化/意识形态偏见。此外，人工智能经常对有争议的话题给出“平均”或最常见的意见；而在伦理学中，正确答案可能大多数是少数，或者可能根本不存在。人工智能打开选项；你权衡并决定。
注意：在高风险的道德决策（医疗、法律、机构）中，人工智能输出永远不应取代有能力的董事会或专家的判断。使用人工智能作为“顾问起草者”；最终决定权和责任由负责人承担。另外，如果实际案例数据包含个人/机密信息，请勿将其输入公共工具。
三个迷你箱子
案例 1 — 多帧地图。伦理委员会正在讨论有限资源的分配（例如，有限数量的治疗方案）。他们让人工智能从后果论、道义论和基于美德的角度分析案件； 20 分钟内就列出了三种不同的理由及其冲突点。以这张地图为起点，董事会进行了自己的讨论并做出了自己合理的决定。
案例 2——被忽视的利益相关者。一家公司正在评估数据使用决策。在分析中，除了决策的直接参与方之外，YZ 还标记了第三类受到间接影响的群体（数据被使用但未参与该过程的人）。团队忽视了这个利益相关者。人工智能的输入使决策更加完整——但团队确定了优先级。
案例 3 — 纠正了有偏见的建议。一名调查员让人工智能分析了一个文化敏感案件。人工智能提出了一种单一的文化观点作为“普遍真理”，并忽略了替代价值体系。研究人员注意到了这种片面性，并进行了多样化的分析。人工智能训练数据的主导观点是由人类监督来平衡的。
弱提示/强提示
弱提示：
在这种情况下，我应该在道德上做什么？
该提示将道德判断和责任委托给人工智能；你得到一个“答案”，你看不到基本原理和框架，偏见仍然隐藏着。
强力提示：
您的角色：应用伦理分析师（而非决策者）。分析以下案例。不要给我决定。1）列出需要澄清的模糊事实。2）删除利益相关者和各自的利益/权利。3）从结果论、道义论和美德伦理学角度分别分析案例；给出每个结论和最强烈的反对意见。 4）展示框架之间的基本原则冲突。我将做出决定并说明理由。如果存在个人/机密数据，则发出警告。案例：[写案例]
此提示会删除多帧贴图，将决定权留给您，并使偏差可见。
四个可复制模板
1) 事实和利益相关者澄清：
在以下案例中，列出 (a) 某些已知事实，(b) 不确定/假设事实，(c) 所有利益相关者以及每个利益相关者的利益和权利。添加评论和决定。案例：[案例]
2）三帧分析：
分别从结果论、道义论和美德伦理学的角度来分析这个案例。对于每一帧：他如何看待它，他建议的行动，以及对该建议的最强烈反对。声明框架“正确”。案例：[案例]
3）策略冲突诊断：
在下面的分析中列出框架冲突的关键原则（例如，自治与共同利益、正义与同情）。准确显示冲突的中心位置。决策分析：[粘贴文本]
4) 偏见和文化敏感性审核：
检查这种伦理分析是否没有将单一的文化/意识形态观点呈现为普遍真理。是否存在被忽视的替代价值体系或观点？强调需要更多多元化的地方。分析：[粘贴文字]
车架对比图
框架
基本问题
焦点
典型的弱点
结果主义
最好的结果是什么？
利益/损害平衡
可以压制少数人的权利
道义论
作业/规则说了什么？
权利、义务、原则
严格，可以忽略结果
美德伦理
有德行的人会做什么？
性格、意图
模糊的行动指南
常见错误
- 让人工智能做出决定。 “我应该怎么办？”这个问题代表了道德判断；人工智能创建地图，由你决定。
- 被困在一个框架中。仅从一个角度看待案件；多帧分析揭示了张力。
- 没有澄清事实。基于虚假或假设事实的伦理分析崩溃了。
- 不承认偏见。人工智能可能会将主流文化观点呈现为“普遍”；多元主义是由人类提供的。
- 将机密/个人案件输入公共工具。真实文件存在侵犯隐私的风险；匿名或使用安全系统。
总之
人工智能在应用伦理案例分析中的真正力量在于快速从多个框架中绘制情况、提取利益相关者并使原则冲突可见。但伦理判断——哪种原则占上风，决定和理由——属于人类，特别是负责的委员会和专家；因为人工智能没有价值观，没有责任，没有背景知识，并且带有偏见。澄清事实，分析多个框架，指出冲突，检查偏见，并在合理的情况下自己做出决定。在高风险决策中，人工智能与专家判断并存，而不是取代。
应用任务
- 选择一个真实或虚构的道德案例（如果涉及个人数据，请匿名）。
- 使用“事实和利益相关者澄清”模板提取事实和利益相关者。
- 使用“三框架分析”模板从三个角度对案例进行分析。
- 使用“原则冲突诊断”模板来命名潜在的紧张局势。
- 写下你自己的合理决定——接受对方最强烈的反对意见。
清单
- [ ] 我澄清了事实和不确定性。
- [ ] 我确定了所有利益相关者及其利益。
- [ ] 我从至少三个道德框架对这个案例进行了分析。
- [ ] 我已经明确指出了原则冲突。
- [ ] 我检查了是否存在偏见和片面性。
- [ ] 我将决定和理由留给我自己/董事会，而不是人工智能。
- [ ] 我保护机密/个人数据。