收益：
- 能够评估人工智能在安全关键工程工作中的限制和验证要求
- 能够管理机密设计/数据共享中的隐私、数据政策和知识产权风险
- 能够实际论证人工智能输出不能取代工程师的批准和签名责任
在机械工程中，有些输出不是审美选择，而是关系到人类生命和财产安全的问题：电梯制动器、压力容器、起重设备、汽车悬架部件。在这些安全关键的工作中，错误可能会导致受伤或死亡。人工智能 (AI) 也是这些领域的加速器；但它的界限在这里显得最为明显。该单元是该模块的道德和问责支柱，并以单一原则为中心：人工智能输出不能替代任何安全关键工作中合格工程师的验证、批准和签名。人工智能可以是蓝图、输入、第二只眼睛；但他不能承担责任，因为法律和道德责任属于签字的工程师。除此之外，还必须管理另外两个主要风险：机密性（公司设计、客户数据、未获得专利的想法）和准确性（幻觉）。在本单元中，您将了解人工智能在安全关键工作、隐私和知识产权风险方面的局限性，以及为什么责任不可委托。
安全至关重要 这是人工智能的地位和局限性
一项工作是否“安全关键”取决于错误发生时结果的严重程度。在这种规模上，人工智能的作用缩小了：产生想法、起草、制作清单，是的；但批准最终账目、裁定“安全”或授权生产是禁忌。以下区别使这一点具体化：
业务类型
人工智能的适当作用
工程师不可剥夺的角色
常规、低风险
草稿、自动化、第一个帐户
评论
中等风险
替代方案、清单、初步分析
核实与决定
安全至关重要
仅草案/第二只眼睛
分析、测试、批准、签字、责任
关键原则：无论人工智能的输出多么令人信服，它都是一个假设和蓝图。安全关键计算被独立复制、按照标准进行检查、必要时进行测试并由主管工程师签字。签名表示“我已确认并对此承担责任”；语言模型无法做出这样的陈述。
提示：在每次人工智能输出时问自己这个问题：“如果这是错误的，谁会受到伤害，谁负责？”如果答案是“人们受伤了，我负责”，那么如果没有通过最高标准的验证，那么该输出就毫无意义。
幻觉和过度自信陷阱
人工智能最危险的特征是它以与正确信息相同的置信度呈现虚假信息。他可以编造一个标准项目，给出一个不正确的材料值，错误地应用一个公式，然后用流利、专业的语言将其全部写出来。当过度自信偏差（自动化偏差；人类过于信任自动系统输出的倾向）加入其中时，危险就会增加：工程师可能会接受屏幕上看起来不错的输出而不进行检查。防御性是一种文化习惯：将人工智能输出视为“值得怀疑，除非另有证明”，而不是“可能是正确的”。
注意：“人工智能似乎很有信心”并不是一种辩护。 “人工智能就是这么说的”在事故调查、审计或诉讼中不能成为借口；责任仍由批准工程师承担。把人工智能想象成一个实习生，他从不分担责任，但有时会犯很大的错误：你接受他的意见，你永远不会在没有检查的情况下签署他的工作。
隐私、知识产权和数据政策
第二大风险是隐私。将公司的非专利设计、客户的数据或竞争敏感的解决方案上传到数据政策未知的公共人工智能工具中；可能导致知识产权损失、违反保密规定和违反合同。有些工具可以使用输入来训练模型；您上传的秘密几何图形可能会暴露给其他人。正确的方法：遵守公司的数据政策，对敏感数据进行匿名化（删除识别信息并将其放入公共格式），或使用数据不会留下的企业/隔离工具。
循序渐进：使用安全且符合道德的人工智能
- 对风险进行分类。这项工作对安全至关重要吗？一旦出错会产生什么后果？
- 考虑隐私。这些数据能泄露出去吗？政策怎么说？
- 匿名或使用隔离工具。删除敏感信息。
- 使用人工智能作为草稿/第二只眼睛。这不是批准，而是输入。
- 独立核实。复制、标准、测试。
- 主管工程师批准并签字。责任不能转授；保留可追溯性记录。
风险和隐私评估提示
角色：工程道德和风险管理顾问。任务：从安全关键性和保密性方面评估以下工作。工作：[工作描述；发生错误时可能出现的结果；要共享的数据类型]。输出：- 风险类别（常规/中等/安全关键）和理由- 我可以让人工智能在这项工作中做什么，我不能做什么- 是否存在隐私风险；数据是否应该匿名；是否需要隔离车辆？规则：强调最终批准和责任仍由主管工程师承担。
匿名提示
我要向人工智能询问一个设计问题，但我不想分享公司信息。匿名化以下上下文：省略公司名称、产品名称、客户和描述性指标；用通用工程术语重写问题，以便敏感信息不被泄露，但技术核心得以保留。上下文：[文本]
核查纪律提示
作为独立审阅者检查这个安全关键帐户，永远不要加入我。问题公式、单位、假设和标准符合性。通过独立方法重现结果并显示差异。对于每个发现，写下“我如何证明/测试这一点？”规则：您无法确认；只删除要检查的点。[帐户]
责任登记提示
为本次设计决策撰写可追溯/决策记录草案。字段：决策、依据（计算/标准/测试）、AI贡献（草案？）、独立验证方法、审批工程师、日期、签名字段。规则：明确将AI贡献标记为“草案/协助”；将确认字段留空。
弱提示/强提示
弱提示：
请确认该电梯制动设计是否安全。
人工智能不能也不应该提供安全许可；如果他说“安全”，那就是误导和危险的，因为他无法承担责任。
强力提示：
作为独立审核者审核此制动计算；需要验证的参与、弱点和假设。独立重现结果并显示差异。知道我有认可和责任；您只需列出检查点即可。
第二个提示将人工智能定位为关键控制的工具，而不是批准的权威；将责任归于工程师。
三个迷你箱（按数字）
案例 1 - 签字人责任。工程师将使用人工智能在 2 小时内准备好的吊钩计算。吊钩可起重2吨；破裂将是致命的。工程师独立重新计算，将安全系数由AI给出的1.8修正为标准要求的≥4，并放大了几何尺寸。人工智能的数字“看似合理”，但没有达到安全关键阈值。他核实后才签字。教训：批准和安全系数决定不可转让。
案例 2 - 泄漏设计。一名实习生将公司的一种新的、未获得专利的机制加载到公开可用的人工智能工具中，并说“优化”。该工具的数据策略存储输入并可用于培训。当公司意识到这一点时，法律团队就会介入；专利战略因知识产权风险而受到影响。正确的方法是使机制匿名或使用企业隔离。教训：秘密设计政策不进入未知车辆。
案例 3 - 匿名保存。工程师想要与 AI 讨论客户的具体减速器问题，但客户和产品都是保密的。它匿名化了上下文：删除了公司/产品名称、描述性尺寸，并将问题重写为“给定齿轮比和扭矩的通用减速器”。它利用人工智能而不泄露敏感信息，保留了技术本质。教训：匿名化是隐私和效率之间的安全路径。
常见错误
- 赋予人工智能批准权：说“安全吗，批准”并尝试委派责任。
- 过度自信（自动化偏见）：未经检查就接受有说服力的输出。
- 将机密数据上传到公共工具：在不了解政策的情况下共享设计/客户数据。
- 绕过匿名：在不删除识别信息的情况下询问敏感问题。
- 不保留可追溯性记录：不记录人工智能的贡献和验证。
- 低估安全系数：通过人工智能给出的较低值跨越安全关键阈值。
综上所述
- 在安全关键型工作中，人工智能可以成为蓝图和第二只眼睛；批准、签字和责任属于主管工程师。
- 人工智能呈现错误与正确一样令人信服； “除非得到证实，否则持怀疑态度”对于防止过度自信偏见至关重要。
- “人工智能看起来很自信”并不是法律或道德上的辩护；责任仍由批准者承担。
- 机密设计、客户数据和非专利创意不会上传到未知车辆；匿名或使用隔离工具。
- 安全关键账号独立复制，按标准检验，签字承担责任。
应用任务
选择可能对安全至关重要的工作（提升元件、压力元件、制动器或支撑结构）。首先根据风险和隐私对工作进行分类：如果出现错误会产生什么后果，哪些数据是敏感的？让人工智能评估这份工作并列出“我能做什么、不能做什么？”对您将共享的上下文进行匿名化（删除公司/产品/客户信息）。然后对账户进行审计，仅使用人工智能作为关键检查工具，但通过独立方法自己重现结果，并将安全系数与相关标准进行比较。最后，起草一份可追溯性/决策记录；将人工智能贡献标记为“草稿/帮助者”，并将批准领域留给合格的工程师。
清单
- [ ] 根据风险等级（常规/中等/安全关键）对该工作进行评估。
- [ ] 保密性评估；敏感数据被匿名或使用隔离工具。
- [ ] AI被用作草案/第二只眼睛，而不是审批机关。
- [ ] 安全关键计算根据标准独立复制和审核。
- [ ] 安全系数与相关标准的阈值进行比较。
- [ ] 保留可追溯性/决策记录；批准、签字和责任由主管工程师负责。
模块考试
1. 以下哪项是人工智能在 CAD 和设计工作流程中最现实、最安全的角色？
- A) 支持角色，例如提出设计替代方案和生成参数化脚本/宏 ✔
- B) 自动静态和强度批准
- C) 未经工程师批准将设计直接投入生产
- D) 接管工程师的签字批准权
描述：人工智能在辅助任务方面表现出色，例如提出设计方案建议、生成参数化脚本/宏、起草材料和元数据（发散思维）。最终的几何形状、公差、强度批准和发送到生产的决定（收敛决策）仍由工程师决定。
2. AI 给出的材料值为“屈服强度 250 MPa”。在使用这个值作为设计的基础之前你应该做什么？
- A) 将价值直接存入账户，因为 AI 是最新的
- B) 验证制造商数据表或材料标准中的值 ✔
- C) 将值向上舍入并假设它是安全的
- D) 添加随机安全系数并通过
描述：AI可以近似、近似或完全伪造（幻觉）材料属性；其值根据同一材料的回火/热处理条件而变化。未经制造商数据表或相关材料标准验证，该值不应包含在设计中。
3. Ashby（选材）图主要用于什么？
- A) 计算零件的准确生产成本
- B) 创建供应商价目表
- C) 比较材料特性（例如强度-密度）并选择候选材料 ✔
- D) 确定零件公差
描述：阿什比图通过在轴上放置两种材料属性（例如强度密度、弹性模量）来比较材料，并根据性能指数可视化最合适的候选组。它无意于确定确切的成本、容差或供应价格。
4. AI给出了压力计算，但你不确定单位的一致性。维度（单位）分析主要捕获什么？
- A) 文本中的拼写错误
- B) 图形中的颜色错误
- C) 输出文件的大小
- D) 等式两边单位不一致及换算错误 ✔
说明：量纲（单位）分析检查方程两边的单位是否一致；例如，对于应力，结果应为 N/m² = Pa。如果单位不匹配，则公式或转换中存在错误。这与类型、颜色或文件大小无关。
5. 在热计算中，AI表示5千瓦的加热器在2秒内将1升水加热20°C。最好的第一反应是什么？
- A) 用能量守恒和数量级检查和拒绝结果 ✔
- B) 将结果写入更多小数位并接受
- C）询问人工智能“你确定吗？”并对答案“是”感到满意
- D）删除问题，从头开始问并得到第一个答案
描述：通过健全性检查和节能进行快速验证：将 1 公斤水加热到 20°C 大约需要 84 kJ；对于 5 kW，这大约需要 17 秒，而不是 2 秒。结果是非物理的，未经验证不能接受。
6. 在信任 FEA 分析中 AI 解释的应力结果之前，最关键的检查是什么？
- A）彩色应力图在视觉上看起来“很好”
- B) 通过网格独立性、边界条件和分析比较进行验证 ✔
- C) 短时间内完成解决方案
- D) AI 说“结果是安全的”
描述：FEA 结果取决于网格密度、边界条件和材料定义。结论;网格独立性（网格拉紧时结果不会改变）应通过与边界条件的准确性进行比较来验证，如果可能的话，应使用分析方法。
7. 在FEA中，随着网格在尖锐的内角处变得更加密集，应力值不断增加。这种情况主要说明什么？
- A) 材料肯定有问题
- B) 传感器测量存在误差
- C) 尖角处的人为（奇异）应力集中；必须对圆角半径进行建模 ✔
- D) 解决方案始终是安全的
说明：理想的尖角（零半径）内角是弹性理论中的奇点；随着网格变得越来越密，张力趋于无穷大。这是人为的结果。在实际零件中，必须通过缺口系数/局部评估对拐角半径进行建模或解释。
8. AI 在轴承振动数据中检测到“可能存在内圈故障”。哪种做法才是最正确的呢？
- A) 不经询问就彻底报废机器
- B) 忽略评论并继续工作
- C) 完全禁用传感器
- D) 通过特征故障频率、校准和现场检查来验证解释 ✔
说明：人工智能对异常/故障的解释是一种假设。应检查振动频谱中的特征故障频率（例如内环过渡频率BPFI）、传感器校准和可能的数据错误；未经现场检查和物理故障机制验证，不应将评论转化为维护决定。
9. 在使用 AI 评估零件的可制造性 (DFM) 时，最需要关注输出的哪个方面？
- A) 建议与实际机器、工具和工艺限制的符合性 ✔
- B) 仅作品的美观
- C) CAD模型的文件大小
- D) 颜色和涂层选项
描述：人工智能；它可以承担机器、工具、模具和工艺的限制，而没有真正的车间限制。例如，它可能表明无法达到的内角半径或不可能的公差。 DFM 建议应根据现有设备和实际工艺限制进行验证。
10. 在将 AI 生成的图纸公差/GD&T 注释发送到生产之前应该做什么？
- A) 在人工智能生成时将笔记直接处理成绘图
- B) 根据标准和功能要求检查和批准等级 ✔
- C) 随意缩小容差并认为是安全的
- D）改变符号以使其易于记忆
描述：人工智能；可能会产生不正确或非标准的公差值、GD&T（几何尺寸和公差）符号或表面光洁度名称。应根据相关标准（例如 ISO/ASME GD&T）和功能要求对注释进行审核；装配和功能方面公差的一致性必须由工程师确认。
11. AI 表示设计“符合 EN 13445 第 7.4.2 条”。哪种行为才是最正确的？
- A）直接写报告，因为人工智能给出归因
- B）依赖互联网论坛上的评论
- C) 验证官方/现行标准文本中的物质编号和含量 ✔
- D) 更改项目编号以便被记住
描述：AI 可能会产生不正确或幻觉的标准项目编号和断点。未经官方和现行标准文本验证，引用的物质和值不应作为设计或报告的基础。
12. 使用AI生成的Python工程计算脚本之前，哪些是必需的？
- A）直接信任代码，因为它运行时没有错误
- B) 缩短变量名并删除注释行
- C）将脚本写得更长并假设它是安全的
- D) 使用已知结果、单元检查和边缘情况进行测试验证 ✔
评论：AI代码可能包含不正确的单位转换、不正确的公式，或者在边缘情况下不正确的结果，并且即使没有错误也可能计算不正确。代码;具有已知结果的测试输入应通过单元（大小）检查和边缘情况进行验证。
13. 在机械工程中使用人工智能执行安全关键计算的责任方面，哪项是正确的？
- A) 批准的主管工程师仍承担责任； AI 不能替代批准 ✔
- B) 如果 AI 批准，工程师免责
- C) AI输出取代工程师签名
- D) 对于安全关键的帐户不需要人工验证
说明：主管工程师对工程输出的准确性和批准/签字负责； AI无法承担这个责任。对于安全关键的计算和设计，人工智能只是草稿/输入，不能替代工程师的批准和验证。
14. 当尝试使用公共人工智能工具分析公司的机密产品设计时，最佳行动方案是什么？
- A) 在公共车辆上安装隐身设计以提高速度
- B) 遵守数据政策、匿名化敏感数据或使用公司/隔离工具 ✔
- C) 共享客户数据对于速度始终是必要的
- D）隐私问题与人工智能的使用无关
披露：机密设计、客户数据或非专利想法不应上传到数据政策未知的公共工具；这带来了侵犯知识产权和隐私的风险。必须遵循公司数据政策，敏感数据必须匿名或必须使用公司/隔离工具。