单位 1 / 11

海事人工智能简介:角色、边界、验证和船长的责任

收益:

  • 能够区分人工智能在海事工作流程中节省时间的地方(路线、燃料、天气、文件、机械、立法)以及根据风险级别由船长和轮机长做出机动和安全决策的地方。
  • 能够应用一门学科,通过将每个人工智能输出连接到源、使用独立工具进行确认以及将其传递给专家解释来验证每个人工智能输出。
  • 能够理解,由于海事的安全关键性质,人工智能输出不能取代有能力的专家批准,最终责任在于人类。

你正站在一艘集装箱船的驾驶台上。您面前是电子地图(ECDIS - 电子海图显示和信息系统,一种取代纸质地图的数字导航屏幕),一侧是雷达,另一侧是天气预报服务发送的路线建议。人工智能(以下简称 AI——计算机从大数据中学习模式并产生预测和建议的能力)提出了这样的建议:“将路线向南移动 12 英里,节省 18 小时,节省 9 吨燃料。”这个建议很诱人。但在那条航线上还有另一艘船、一艘浅船和一支渔船队。谁会批准这个提议?答案是一个,也是这个模块的支柱:队长。人工智能计算、建议、发出信号;但对海上生命、财产和环境安全负有法律责任的人是船长,这个责任不能转移给任何算法。

该模块是为甲板高级船员(船长、大副、航海高级船员)和轮机工程师(轮机长、大管轮、轮机高级船员)编写的。目的是教授人工智能端到端的使用,从路线和燃料优化到天气评估,从导航和货物记录到机械监控和预测性维护,从安全监管研究到桥梁决策支持;但同时,也是为了让AI明白自己应该站在哪里,为什么它的输出必须被验证。

为什么海事是一个特殊的领域?

海事是安全关键领域之一(错误可能导致生命损失、环境灾难或数百万美元的损失),错误成本最高。陆地车辆可以停在路边; 300米的油轮不能停下来,不能立即转弯,也不能在移动几公里之前减速。该团队已远离最近的港口数日;错误的决定无法立即从外部纠正。此外,该领域受到一系列国际规则的严格监管——SOLAS(国际海上人命安全公约)、COLREG(防止海上碰撞规则)、MARPOL(防止船舶污染海洋公约)、ISM Code(国际安全管理规则)。

因此,人工智能在航运中的作用从一开始就很明确:人工智能是决策支持工具,而不是决策者。在工程和航海等安全关键领域,人工智能输出并不能替代有能力的专家(船长、轮机长、船级社验船师)的批准。人工智能;它是处理大数据、制作场景、写草稿、标注模式的助手。最后一句话永远属于人。

注意:“人工智能是这么说的”并不是辩护。在事故后调查(海事事故调查、保赔协会、船旗国)中要问的问题是:“船长/轮机师通过什么独立来源验证了这一建议?”如果没有验证记录,责任完全由人类承担——AI不承担任何负担。

人工智能在海上节省了哪些时间,又把哪些时间留给了人类?

为了正确定位人工智能,请将工作分为两部分:快速工作和人类决策。

  • 可以加速(人工智能有助于增强信心):比较多个天气预报场景、替代路线的燃料/时间估计、起草航海日志和港口文件、标记机械传感器数据中的异常、起草在长监管文本中查找相关条款、从维护历史中提取模式。
  • 人(AI提出建议,而不是决定):最终批准航线、通过船舶多少英里(COLREG决定)、是否停止机器、在危险天气时逃到港口避难所、是否可以推迟维护、紧急演习。

这种区别将在整个模块的每个单元中重复出现。仅仅因为人工智能将建议显示为“安全”,并不能证明该建议在海上是安全的;它仅仅提供了一个假设。

验证规则:三步过滤

在将每个人工智能输出倒入大海之前,请先通过三个过滤器:

  1. 将其连接到源。推荐是基于什么数据?天气数据是最新的吗?哪个型号?路线推荐基于哪张地图(ENC - 电子航海图,官方数字地图)?未知来源的输出是无法验证的输出。
  2. 用独立工具确认。检查 ECDIS 中针对禁区(不应穿越的浅水/危险区域)的路线建议;通过船舶性能曲线进行燃料估算;机器异常可通过第二个传感器或手动测量。
  3. 获取专家评论。即使这个数字是正确的,它在海事背景下有意义吗?如果“18小时增益”需要穿过风暴锋,那么这个增益就是假的。
提示:在每个请求中告诉 AI“标记您不确定的地方并写下需要验证的数据”。好的输出承认其自身的不确定性;要求这样做可以使验证更容易。

三个迷你箱子

情况 1 — 未经验证的路线。在散货船上,值班人员无需在 ECDIS 中检查即可输入 AI 建议的“捷径”路线。路线经过的河岸的深度随潮汐而变化;在低水位时,UKC(龙骨间隙)几乎降至零。机长在最后一刻意识到了这一点并纠正了航线。 AI正确计算了时间;但未进行深度和潮汐确认。教训:速度的提升不能胜过安全验证。

案例 2 — 及早发现故障。在油轮的船头发动机上,当一个气缸与其他气缸偏差 30°C 时,YZ 会标记气缸排气温度。总工程师手动验证指示器,检查喷油器并找到堵塞的喷油器。是在港口之前更换的,所以航行时不会出现问题。大赦国际指出;工程师诊断并修复了它。

案例 3——虚假立法文章。一名官员向人工智能询问压载水规则;人工智能产生一个令人信服但不存在的“物品编号”(幻觉——人工智能捏造的真实信息)。如果官员在没有核实的情况下就将这些写在报告中,那么审计就会出现严重问题。无论与 IMO 官方文本相比。教训:在立法中,人工智能只告诉“看哪里”;您阅读了官方文本中的条款。

弱提示/强提示

弱提示:

给我最好的路线。

“最佳”没有定义;船型、货物、天气无限制。人工智能会产生通用且不安全的答案。

强力提示:

您的角色:高级导航官顾问。船舶:180 m散货,吃水10.5 m,航行速度13节。路线:直布罗陀 -> 比雷埃夫斯。我有 72 小时的风/浪预报(如下)。任务:起草2-3条备选路线;每次写下预计时间、燃料和经历的最高波高。约束:我将在 ECDIS 中确认 UKC 和禁区;您注意到浅滩/潮汐“需要确认”。勾选任何您不确定的数字。

上下文、约束和验证请求使输出既有用又安全。

角色和责任表

任务

人工智能的作用

最终负责

生成替代路线

情景、预测

队长

路线确认和UKC

警告/草稿

船长/航海员

燃料优化

帐号、建议

船长/连

机器异常检测

标记

总工程师

维护决策

优先推荐

总工程师

监管研究

重定向到源

官员+官方文本

COLREG 机动

(未决)

值班军官/队长

常见错误

  • 认为人工智能是决策者。人工智能建议;船长/轮机长作出决定并承担责任。
  • 未将输出连接到源。哪个天气模型、哪个地图、哪个传感器?无法验证无源输出。
  • 将幻觉误认为现实。人工智能可以发明不存在的物品、端口规则或深度;需要与官方消息来源确认。
  • 为了速度而牺牲安全验证。时间/燃料节省永远不会超过 UKC 和禁航确认。
  • 不加区别地将机密/商业数据上传到车辆。货运舱单、航线、商业合同敏感;需要批准的车辆和遮蔽。

总之

海事是一个安全关键领域,人工智能在这里只是决策支持助手,而不是决策者。人工智能;节省路线、燃料、天气、文件、机器监控和监管研究的时间;但路线批准、操纵、发动机停止和紧急决定取决于人类——主要是船长和轮机长。每个输出必须通过三步过滤(来源归属、使用独立工具验证、通过专家评审)。人工智能输出不能替代有能力的专家批准。

应用任务

描述您自己的船舶类型(或想象中的船舶)。让 AI 使用上面的“强提示”模式起草两条备选路线。然后分三步过滤输出:记下每个数字的来源,指示您将使用哪个辅助工具(ECDIS、性能曲线),并列出人工智能标记的“需要确认”点。

清单

  • [ ]我将人工智能定位为决策支持工具;我做决定。
  • [ ] 我将每个输出连接到源(天气模型、地图、传感器)。
  • [ ] 我使用独立工具(ECDIS、性能曲线、手动测量)确认了建议。
  • [ ] 我从官方来源核实了立法/深度/规则信息;我检查了是否有幻觉。
  • [ ] 我将安全验证置于速度/燃油增益之上,并保护敏感数据。