单位 1 / 11

航空航天人工智能和安全关键验证学科简介

收益:

  • 能够区分人工智能在航空航天工程工作流程中哪些地方可以实时节省时间,以及出于安全和责任原因哪些决策应由人类做出
  • 能够应用安全关键学科,通过数量级、单元一致性和独立复制来验证每个工程可交付成果
  • 能够养成通过匿名上下文进行提示的习惯,以保护 ITAR/EAR 出口控制和机密设计数据

看看航空航天工程师的办公桌:机翼载荷计算、有限元结果、风洞数据、飞行测试记录、认证文件、供应商信件和无休止的会议。投入实际工程判断的时间,即“这个数字安全吗,这个设计会飞行吗,这个风险可以接受吗?”的问题。被重复的计算和文档工作压垮。这就是人工智能(简称AI;通过大型语言模型和机器学习处理文本、代码和数字的软件)发挥作用的地方。人工智能不会替你做决定;它帮助您做好决策准备、生成草案、加快计算速度并将处理后的信息呈现在您面前。

然而,在航空航天领域,错误不是以文本来衡量的,而是以生命和数百万美元来衡量的。语言模型的引用、不正确的单位转换或“看起来合理”但实际上不可能的结果在其他行业可能只是一个小修复,但在这里它可能会成为结构性故障或任务损失。这就是为什么在本模块中,我们不会将人工智能定位为“自动工程师”,而是作为受安全关键学科约束的助手,其输出每次都会得到验证。

在第一个单元中,我们澄清三件事:人工智能在航空航天工作流程的哪些阶段可以增加真正的价值,哪些决策必须严格掌握在合格的人员手中,以及在这样做时必须遵守哪些验证、出口控制和保密纪律。如果屋顶安装不正确,后续装置的技术可能会变得危险。

概念:幻觉:人工智能令人信服地捏造实际上并不存在的数字、方程、标准项或来源。上下文:你给人工智能的输入(设计数据、假设、问题)。验证:通过独立方式检查输出(手工计算、第二工具、标准文本)。这三个概念是整个模块的支柱。

哪些业务是AI加速器,哪些业务有风险?

就其后果而言,航空航天任务分为两个方面。一方面是可检索的、低风险的准备工作(文献摘要、代码框架、演示大纲);另一方面,存在直接决定适航性、生命安全和任务成功的不可逆转的决策(安全系数、控制律、轨道燃烧时间)。人工智能的价值取决于你在这个领域的立场。

业务类型

人工智能贡献

工程师的角色

文献/标准摘要

从长文档中提取摘录

文章与原文对比

手工计算/预先确定尺寸

公式设置,第一个数字

单位、等级和假设检查

分析代码/脚本

骨架和逻辑生成

通过测试输入进行验证,单元测试

报告/需求草案

建议结构和叙述

将每个表达式链接到资源和需求

数据分析/异常扫描

模式和候选事件提取

用原始数据和物理进行确认

安全/认证决定

分析材料准备

最终评估、审核和签字

规则很简单:人工智能输出的风险等于该输出出错时所造成的损害。幻灯片标题拼写错误是无害的;将翼梁的安全系数计算为 0.5 而不是 1.5 是一场灾难。因此,在使用输出之前要问的第一个问题是:“如果这是错误的,会发生什么,谁会受伤,谁会注意到?”

注意:人工智能可生成流畅且自信的文本。流畅性并不能保证准确性。语言模型用统计上“最有可能”的单词填补了空白,即使它没有确切的数据;在航空领域,这种填空可能会被认为是虚构的材料规范或不存在的 FAR 条款。

安全关键验证规则:三层

航空文化已经建立在“信任但验证”的原则之上;人工智能应该用来加强这一原则,而不是削弱它。让每个 AI 输出通过三层过滤器。

第一层是数量级控制。查看结果是否大致在 10 的预期幂范围内。客机的起飞质量为数十吨量级;如果AI告诉你800公斤,不用详细说明你就知道有错误。

第二层是单位和尺寸的一致性。航空史上代价最高的错误之一是 1999 年火星气候轨道飞行器的损失:一个团队使用磅秒,另一个团队使用牛顿秒,价值约 3.27 亿美元的航天器在火星大气层中丢失。 AI输出中应明确单位并进行量纲分析。

第三层是独立繁殖。通过第二种方法(不同的手动帐户、单独的工具或第二个工程师)重现关键结果。如果两条独立的路径给出相同的答案,那么置信度就会增加;如果没有,请停下来,直到您明白为什么不同。

提示:当你向AI询问结果时,也要反过来问同样的问题。说“计算这个机翼所需的空间”,然后说“用你给它的空间反算机翼载荷,并将其与典型的客机间距进行比较。”要求模型交叉检查自己的输出会使无声错误变得可见。

出口管制和隐私:航空业的私人领域

航空航天技术在大多数国家都受到出口管制。在美国,这受 ITAR(国际武器贸易条例)和 EAR(出口管理条例)(规范军民两用技术的规则)管辖。将机密导弹控制算法、卫星推进数据或军用飞机性能参数输入不受控制的外部人工智能服务可能会构成出口违规、知识产权损失和违约行为。

经验法则:切勿将真实的、机密的或受控的技术数据输入未经批准的外部工具。相反,对上下文进行匿名化并用代表性值替换实数。例如,不要共享实际的发动机推力曲线,而是要求“描述典型涡轮风扇推力-速度关系的一般形式”。

弱提示/强提示

以下两个提示具有相同的目的,但其中一个既违反了保密性,又收到了无法验证的响应。

弱提示:

我们项目中的XR-7无人机翼展为4.2 m,重量为38 kg,发动机和速度范围。告诉我最佳海拔高度。

强力提示:

角色:您是一名航空空气动力学顾问。背景:我正在对小型固定翼无人机进行总体分析(数值具有代表性,并非实际项目数据):翼展~4 m,质量~40 kg,巡航速度~25 m/s。任务:解释确定最佳范围高度的物理原理并列出我应该测量的参数。约束:把每个公式和假设写清楚;如果给出数值结果,请指定单位并添加验证方法。

强大的提示保护了实际的项目数据,明确了角色和约束,并请求了验证路径。

可复制的提示模板

您可以根据自己的业务调整以下四个模板来使用它们。它们都嵌入了匿名化和验证的规则。

模板 1 — 安全关键输出的验证强制请求:

角色:您是一名高级航空航天工程师,符合安全关键学科。背景:[匿名问题;代表值,而不是实际的项目数据]。任务:[我想要的分析/计算]。约束:- 写出每个数字的单位。- 清楚地列出您使用的每个公式和假设。- 将结果的数量级与已知参考进行比较。- 在最后一步中,给出一个控制计划,说明“我如何独立验证此输出”。如果有不确定性,就不要猜测;询问您需要什么数据。

模板 2 — 交叉检查(模型测试其自身的输出):

现在使用独立方法计算您刚刚给出的[结果]值:使用不同的公式或逆解。两个结果一致吗?如果不是,请列出可能的误差源(单位、假设、公式选择)。标记您不确定的步骤。

模板 3 — 标准/来源归属的可验证请求:

列出[主题]的相关认证/标准物质。对于每种物质:标准名称、物质编号和物质摘要。警告:如果您不确定,请勿填写物质编号。将其标记为“必须验证”。提供虚构的参考资料;如果你不知道,请告诉我你不知道。还告诉我如何从原文中确认这些内容。

模板 4 — 匿名预检查(共享之前):

在将以下文本输入外部 AI 工具之前,我需要清除以下文本以进行出口管制 (ITAR/EAR) 和公司机密。标记文本中潜在的敏感元素(实际零件号、性能值、项目名称、供应商信息),并建议每个元素的代表/匿名替换。文本:[粘贴到此处]

迷你箱

案例 1——人为的标准条款。为了支持设计合理性,一名初级工程师询问人工智能“哪个 FAR 条款规定了这一点?” AI 引用了实际上并不存在的“FAR 25.1493”条款。当工程师将文本与原始法规进行比较时,他发现该条款是捏造的,并找到了正确的条款(14 CFR 25.303,安全系数)。教训:AI给出的每一个标准参考都是从原文中验证的。

案例 2 — 单位陷阱。团队在推力计算中得到人工智能的帮助。 AI给出的推力为5000,但其单位“lbf或N”仍不清楚。 5000 lbf 和 5000 N 之间大约存在 4.45 倍的差异;这种差异完全改变了发动机的选择。如果机组人员在没有明确询问的情况下继续前进,它将前往错误的发动机类别。教训:不接受任何没有单位的数字。

案例 3 — 等级控制可以挽救生命。一组学生让人工智能计算火箭的 delta-v(速度变化要求),得到的结果是 95 m/s。到达低轨道的典型 delta-v 约为 9.4 km/s,即 9400 m/s 量级。大约 100 倍的差异会立即暴露出编辑错误;学生找出方程中的底对数误差。教训:始终将结果与已知的参考范围进行比较。

常见错误

  • 将流畅性误认为准确性。写得很好的解释可能在数字上是不正确的。文本的质量和结果的准确性是两件不同的事情。
  • 接受无单位数字。在航空领域,未指定单位的数字是未定义的数字。 lbf/N、ft/m、knot/m·s 的混淆会导致职业生涯终结。
  • 将机密数据输入外部工具。 ITAR/EAR 和公司机密违规;一旦泄露,技术数据将无法检索。
  • 信任单一来源。使用关键结果而不以第二种方式产生它违反了安全关键学科的最基本规则。
  • 不验证标准归属。 AI给出的物品编号可能是假的;每个参考文献均由原始法规确认。

综上所述

人工智能极大地加快了航空航天工程中计算、代码、文档和数据的重复性工作;但决定安全、适航和任务成功的决定仍由合格人员做出。每个输出必须通过数量级、单位一致性和独立再现进行过滤。出于出口管制 (ITAR/EAR) 和保密原因,实际技术数据应匿名,并且仅应使用经批准的工具。该学科是所有后续单元的先决条件。

应用任务

从您的领域(空气动力学、结构、控制、航空航天、制造)中选择一个工程问题。先输入“弱提示”,询问AI;然后编写一个“强力提示”,其中包括角色、匿名上下文、约束和验证请求,并再次询问相同的问题。比较两个答案的数量级和单位一致性,并通过独立的手工计算确认至少一个结果。用半页纸总结你的发现。

清单

  • [ ] 我用“如果输出错误谁会受到伤害?”这个问题来评估输出的风险。
  • [ ] 我将结果与已知参考的数量级进行了比较。
  • [ ] 我已经明确确认了所有数字的单位。
  • [ ] 我通过第二种独立方法重现了关键结果。
  • [ ] 我使用匿名代表值而不是真实/机密的技术数据。
  • [ ] 我已经从原文中验证了 AI 给出的每一个标准/来源引用。