收益：
- 能够将负责任的人工智能原则（公平、透明、问责、隐私、人类监督、安全、可持续性）与具体决策联系起来
- 通过将道德与法律合规性分开并区分“我们可以”和“我们应该”来测试受影响方和偏见的能力
- 通过在设计中嵌入透明度、人工监控和吸引力，能够提前减少滥用情况
人工智能初创公司可以在技术上完美、在财务上有利可图、在法律上可行；但它仍然可能是错误的。道德是“我们可以”和“我们应该”之间的区别。对于高级管理者来说，道德不是粉饰或公关的问题，而是道德的体现。它是维持机构长期可靠性、声誉和社会合法性的基础。在本单元中，您将学习负责任的人工智能的原则（一种以公平、透明、负责任和尊重人类尊严的方式开发和使用人工智能的方法）以及如何在日常决策中反映这些原则。
负责任的人工智能的基本原则
不同的框架遵循相似的原则。经理的实用总结：
原则
你什么意思？
管理问题
正义
不歧视
这是否对一个群体造成不公平的影响？
透明度
可以理解
我们可以解释一下这个决定的原因吗？
问责制
确定责任人
如果出现错误谁负责？
隐私
尊重个人数据
我们有权利使用数据吗？
人类监视
保持控制
一个人可以反对并阻止它吗？
安全性
不伤害
这能被滥用吗？
可持续发展
环境/社会影响
我们把成本强加给谁？
这些原则并不抽象，而是抽象的。它们中的每一个都可以与具体的决策联系起来。例如，“透明度”意味着让客户知道他们正在与人工智能对话； “人工监督”是指由人工审查拒绝贷款并允许上诉。
提示：对于每一个具有重大影响的人工智能决策，请提出一个问题：“我能否向受影响最严重的人清楚地解释并支持这一决策？”如果回应冒犯了人，那就存在道德问题。
道德与法律不同
一个关键区别：法律合规性（第 9 单元）是最低要求；道德是更高的境界。有些事情可能合法但不道德。例如，应用程序可能不会被禁止使用人工智能来操纵用户行为，但这是不道德的。责任机构“禁止吗？”不是“这是真的吗？”他问道。
循序渐进：将道德纳入决策
1. 确定受影响方。谁受到此倡议的影响？ （客户、员工、社会、弱势群体）
2. 扫描策略。根据上述每一项原则质疑该倡议。
3. 测试偏见和伤害。该模式是否不公平地影响某些群体？滥用场景有哪些？
4. 增加透明度和监督。举报人工智能的使用，不给人类留下反对的余地。
5. 文件和审查。保存道德评估；定期回来查看。
三个迷你箱子
案例 1——合法但错误。一款应用程序使用人工智能生成令人上瘾的通知，以使用户在应用程序中停留更长时间。法律上没有障碍，但被媒体报道后，声誉受到严重损失；它针对年轻用户的目标尤其引起了批评。该公司删除了该功能。如果从一开始就进行道德过滤，这种风险就会显现出来。
案例 2——公平性测试的价值。银行的信用评分模型系统地对受保护群体的申请给予较低的分数。这在司法审计中被抓获。该模型经过重新设计并定期测试，以确保其结果在集团间公平。伦理原则（正义）变成了具体的考验，防止了真正的伤害。
案例 3 — 透明度建立信任。一家电子商务公司在其客户支持聊天机器人的开头添加了“人工智能助手为您提供帮助，您可以随时联系人类代表”这句话。透明度和人员退出并没有降低满意度；相反，它增加了信心，投诉减少了 15%。正确的透明度是价值，而不是成本。
四个可复制模板
1) 道德筛选：
您的角色：负责任的人工智能顾问。审视该倡议的 7 项原则：公平、透明、问责、隐私、人类监督、安全、可持续性。对于每项政策，写下一项风险和一项建议。倡议：[文本]
2）受影响方分析：
列出受此人工智能计划影响的所有各方（客户、员工、社会、弱势群体）。写下对各方可能产生的积极和消极影响；标记最有可能受到伤害的群体。倡议：[文本]
3）滥用场景：
生成以下 AI 功能可能被滥用的 5 个场景（包括操纵、歧视、侵犯隐私、欺骗）。针对每种情况提出预防性设计决策建议。属性：[文本]
4）透明度和监督控制：
为面向客户的人工智能制定透明度和人工监督计划：将向用户传达什么内容以及如何传达；怎样才能转移到人类身上呢？他怎么能反对这个决定呢？用法：[文本]
弱提示/强提示
弱者：“这个人工智能道德吗？”
结果：肤浅的“是/否”；哪个原则、谁受到影响、采取什么措施尚不清楚。
Strong：“我们正在考虑在招聘预筛选工具中使用人工智能（人类将做出最终决定）。根据公平、透明、问责和人类监督的原则进行筛选。具体写下哪些候选人群体可能会受到不公平的影响，我需要做哪些偏见测试，以及候选人如何对决定提出上诉。”
结果：基于原则的实用评估，确定受影响方并建议测试和上诉。
常见错误
- 将道德与法律合规性混为一谈。并非所有合法的事情都是道德的；道德是更高的境界。
- 让道德永存。设计完成后获得“伦理批准”为时已晚；道德规范必须从一开始就融入到设计中。
- 不考验正义。 “我们的模型是中立的”的假设是危险的；没有测量就无法得知。
- 将透明度误认为成本。正确的透明度可以增加信任和价值。
- 保持受影响的一侧狭窄。只考虑客户，忽视员工、社会和弱势群体，造成盲点。
注意：将伦理评价完全交给人工智能是矛盾且危险的。人工智能可以帮助提出伦理问题，但价值判断、文化背景和最终的道德责任取决于人类。一个组织的道德立场是由人们有意识的选择决定的，而不是由“人工智能这么说的”决定的。
总之
道德是“我们可以”和“我们应该”之间的区别，并保护组织的长期信誉。负责任的人工智能；它基于正义、透明度、问责制、隐私、人类监督、安全和可持续性原则。这些原则并不抽象，而是抽象的。它转化为具体的决策，例如确定受影响方、测试偏见、提供透明度和增加人工监督。道德不同于法律，是更高的路线；它不能留到最后，它必须嵌入到设计中。在下一个单元中，我们将讨论合规性，这在法律上相当于道德，特别是欧盟人工智能法和 KVKK。
应用任务
选择一家具有高影响力的人工智能初创公司。使用模板 2，列出所有受影响方并标记最有可能受到伤害的群体。使用模板 1，浏览该倡议的七项原则。针对两个最关键的道德风险定义具体措施（公平性测试、透明度通知、申诉途径等）。最后，“我可以向受影响最严重的人解释这个决定吗？”诚实地回答问题。
清单
- [ ] 我已确定所有受影响方。
- [ ] 我用负责任的人工智能七项原则筛选了这家初创公司。
- [ ] 我计划进行偏见/公平性测试。
- [ ] 我设计了透明度声明。
- [ ] 我没有给人类监督和申诉留下任何余地。
- [ ] 我考虑了滥用场景。
- [ ]“我可以向受影响最严重的人解释一下吗？”我通过了测试。