收益：
- 了解 AI 在哪些方面支持健康安全环境 (HSE) 和过程安全以及安全关键决策的限制
- 能够在气体泄漏、H2S 暴露、警报管理和事件数据分析中定位 AI
- 能够通过独立的安全层、标准和人工验证来测试安全关键型 AI 输出
石油和天然气的运行含有固有的危险物质：易燃碳氢化合物、高压、有毒气体。一个错误；可能导致火灾、爆炸、中毒或环境灾难。这就是为什么 HSE（健康、安全、环境）和过程安全是该行业每项决策的首要考虑因素。过程安全是一门专注于防止有害物质不受控制释放的学科；与个人职业安全（滑倒）不同，它针对的是大规模灾难（例如 Piper Alpha、Deepwater Horizon）。在本单元中，我们将介绍人工智能在 HSE 方面可以提供哪些帮助，最重要的是，人工智能在哪些方面是远远不够的。该单元的核心原则：安全关键功能不是基于单一的人工智能模型，而是基于独立的、多层的安全系统（纵深防御）。
HSE 和过程安全概念
- 危险等风险：潜在伤害危险（易燃气体）；风险是伤害发生的概率×其严重程度。安全性是将风险降低到可接受的水平。
- HAZOP（危险和可操作性研究）：系统地扫描流程，并提出“可能会出现什么问题？”的问题。
- LOPA（保护层分析）：一种评估针对威胁有多少独立保护层以及它们是否足够的方法。
- SIS（安全仪表系统）：一个独立的系统，可在发生危险（例如紧急停车）时自动确保过程安全。它故意简单、可验证并且与正常控制分开。
- H2S（硫化氢）：一种在“酸”田里发现的致命有毒气体，闻起来像臭鸡蛋，但高浓度时会麻痹嗅觉。
- 警报疲劳（警报泛滥）：操作员同时被太多警报淹没，错过了重要的警报。
注意：安全仪表系统 (SIS) 故意保持独立于人工智能。紧急关闭阀按照简单、经过验证的逻辑运行，而不是按照“可能安全”的复杂模型运行。人工智能不会取代这些层；充其量，它可以是一个为它们提供食物的预警层。
人工智能在 HSE 方面可以提供哪些帮助
AI 在 HSE 中的作用是支持和领导，而不是安全决策本身：
- 报警管理：对报警进行优先级排序，找到报警根源（报警合理化），减少报警疲劳。
- 事件数据分析：对过去的事件/未遂事件报告进行分类并提取模式； “事件发生之前会重复什么条件？”。
- 气体扩散预测：加速泄漏场景中的气体云扩散图（经过工程师验证）。
- 程序和培训：安全程序草案、风险评估清单制作。
- 视频/图像监控：初步警告，例如 PPE（个人防护装备）合规性、进入限制区域的检测。
它们的共同点是：人工智能生成警报或草稿；安全决策由授权人员和独立系统做出。
安全关键限制：漏报的权重
在 HSE 背景下，有一个概念胜过所有其他概念：漏报（漏报）。气体检测模型的实际泄漏分类为“无”可能会导致人员伤亡。因此：
- 在安全检测中，会谨慎选择阈值（冒误报的风险）以最大程度地减少漏报。
- 批判性认知不只留给单一模型；而是由单一模型来决定。经过认证的物理探测器（例如催化/红外气体探测器）仍然作为独立层。
- 即使人工智能的“信任评分”很高，物理安全层也不会被禁用。
提示：在评估 HSE AI 提案时，请询问：“如果这个模型是错误的，是否有一个独立的层来捕获它？”如果答案是“否”，请不要将这一功能单独交给人工智能。
一步一步：在 HSE 中安全地定位人工智能
- 对函数进行分类。这是安全关键决策还是支持分析？如果很关键，人工智能就不能是单层。
- 保持独立性。将 SIS 和物理探测器与 AI 分开。
- 调整假阴性。选择关键检测的保守阈值。
- 让人们了解情况。警报和建议将作为决策支持而不是自动安全措施提供给操作员。
- 链接到标准。遵守 IEC 61511（过程安全）、相关 API 和国家立法。
- 保存下来可以观看。应记录每个警告和决定的理由。
三个迷你案例：从数字来看
案例 1 — 警报合理化。在一个设施中，每个班次平均有 1,900 个警报（远高于可接受的限度），操作员不堪重负。 AI 支持的警报分析通过对重复出现的相关警报进行分组并突出显示根本警报，将操作员看到的活动警报数量减少了 60%。结果：丢失关键警报的风险降低了。在这里，人工智能不做决定，它调节注意力。
案例 2 — 假阴性拒绝。一个团队希望实施人工智能建议的更高阈值，以减少气体检测中的误报。 HSE 工程师拒绝了：提高阈值会增加错过真实泄漏（假阴性）的风险，并且不能低于法定下限。物理探测器保持独立。并没有为了舒适而牺牲安全。
案例 3 — 未遂事件模式。当人工智能对两年的未遂事件报告进行分类时，在具体的维护行动之前出现了“缺乏隔离”的反复模式。该团队更新了程序。人工智能让人类忽视的模式变得可见；但工程团队设计了修复方案。
弱提示/强提示
弱提示：
优化气体检测阈值，减少误报。[数据]
强力提示：
分析以下（匿名）气体检测报警数据。严格的规则：- 在安全检测中，假阴性（漏掉实际泄漏）是不可接受的； 在建议阈值时尽量减少误报，切勿超过建议的法律/标准下限。- 将阈值更改作为“建议”；标记“必须保持 HSE 工程师和 SIS 的独立性”。 - 指定物理/认证探测器应保持独立层。 - 首先提供根本原因（传感器位置、校准）建议而不是阈值，以减少误报。数据：[报警数据]
四个可复制模板
1）报警合理化：
在下面的警报日志中对重复出现的、关联的和可能的根源警报进行分组。建议优先顺序，以减少操作员看到的活动警报的数量。不抑制任何安全警报；只是分组/优先级。日志：[警报]
2) 事故/未遂事件模式：
按主题/根本原因对这些未遂事件报告进行分类。消除重复出现的条件和先导迹象。提供纠正措施想法，但声明最终设计取决于工程团队。报告：[文本]
3）安全关键分类：
考虑一下这个提议的人工智能功能：安全关键还是支持性？如果出现问题，是否有独立的层来捕获它？如果不能是单层，请写出原因。功能：【说明】
4) 程序/风险清单：
为以下工作制作风险评估清单草案（危险、暴露、保护层、残余风险）。说明专家将对此进行审查并根据标准进行确认。工作：[定义]
安全层和人工智能的地位
层
例子
人工智能的作用
基本过程控制
自动调节
优化建议
报警/操作员
优先报警
合理化、领先警示
SIS（紧急关闭）
高压停机
无 — 保持独立
物理保护
安全阀、检测器
无 — 保持独立
紧急响应
疏散、消防
信息/场景支持
常见错误
- 将安全性置于单一模型上。用 AI 取代 SIS/物理探测器。
- 提高舒适度的门槛。增加误报风险以减少误报。
- 颠覆独立性。将安全层连接到相同的数据/模型并造成常见故障。
- 将人们带出循环。将安全决策留给自动化的人工智能操作。
- 跳过标准。忽略 IEC 61511/API 和法规遵从性。
综上所述
- HSE 和过程安全是每个决策的首要考虑；使用危险材料的成本很高。
- 人工智能有助于警报合理化、事件模式化和预警；这不是安全决策本身。
- 安全关键功能依赖于多层、独立的系统（纵深防御）； SIS 和物理探测器与 AI 保持分离。
- 在 HSE 中，假阴性（遗漏）是不可接受的；相应地谨慎选择阈值。
- 人们始终了解情况并保持对标准（IEC 61511、API、法规）的遵守。
应用任务
选择 HSE 场景（代表性气体检测或报警管理）。在强有力的提示下进行分析。然后：（1）对功能是安全关键型还是支持性进行分类，（2）编写独立层，如果模型错误，将捕获它，（3）如果建议更改阈值，请检查误报风险和合法下限。
清单
- [ ] 我了解 HSE、过程安全、HAZOP/LOPA/SIS 和 H2S 的概念。
- [ ] 我的安全关键功能不是基于单一模型，而是基于多层独立系统。
- [ ] 在安全检测中，我优先考虑漏报并选择保守的阈值。
- [ ] 我保持 SIS 和物理探测器与 AI 的独立性。
- [ ] 我让人们了解情况并遵守相关标准/立法。