收益：
- 能够通过人工验证门和决策记录，在活动的每个阶段（从开始到结束）一致部署人工智能
- 能够建立船公司治理框架，包括批准的车辆清单、数据分类、ISM 集成、网络安全（关键系统隔离、数据机密性、冗余）
- 能够将人的责任、透明度、避免过度索赔、安全环境优先和保密原则嵌入到工作流程中
以前的单位在路线、燃料、天气、文件、货物、机械监控、诊断、立法和桥梁决策支持方面单独处理人工智能。该单元结合了这一切：如何从活动开始到结束一致、可控且安全地定位人工智能。船舶和公司如何处理这个问题？这些工具本身（数据、连接、网络安全）如何受到保护？目的是建立一个框架，捕捉人工智能在海事领域的价值，同时永远不要忘记其安全关键性。
端到端工作流程：人工验证门
将探险想象成一条链条；在每个环上放置一个人工验证门（人类在通过之前确认满足条件的点）：
- 航程规划：人工智能生成航线/燃料替代方案 → 登机门：船长确认并确认 UKC/禁航和电子海图显示与信息系统 (ECDIS) 中的限制。
- 天气监测：AI预报汇总→闸门：多源+官方预警确认，避难由机长决定。
- 货物：YZ 配载建议 → 门：装载计算机，稳定性/强度批准，大副批准。
- 机：AI异常标志→门：物理验证、诊断和维护决策由总工程师决定。
- 文档：人工智能蓝图→门：真实的数据验证和人类签名。
- 立法：AI指挥→门：规定由官方来源验证。
- 舰桥：人工智能优先 → 登机门：COLREG 机动和导航决定权在军官手中。
规则：不经过一扇门，就不能进入下一扇门。这种分层结构可以防止单个人工智能错误泄漏到探险或报告中。每扇门都会留下记录：提出了什么、谁确认了、决定了什么。
提示：为每个人工智能的使用保留一个简短的“决策日志”：使用哪种工具、输入什么、人工智能说了什么、如何验证、谁批准了它。在事故调查或审计中，此记录可以保护您并实现持续改进。
船公司治理
AI工具不应该随意使用，而应该在一个框架内使用：
- 批准的工具列表：哪些人工智能工具被批准用于哪些工作？敏感数据不会上传到随机工具和公共服务。
- 数据分类：货运舱单、航线、商业合同、船员个人数据属于敏感数据；它定义了哪些数据去往何处。
- 角色和权限：谁可以在哪个决策中使用人工智能，谁批准它？船长和轮机长有明确的最终决定权。
- 培训：船员必须了解人工智能的局限性（幻觉、模糊性、验证）；纪律是传授的，而不是工具。
- ISM集成：将人工智能的使用按程序添加到船舶安全管理系统（ISM）中；变得可审计。
- 持续验证：监控车辆的性能；记录错误的建议并修改工具或用法。
网络安全：系留船是目标
现代船舶是一个互联系统：ECDIS 更新、卫星通信、远程监控、人工智能服务。此连接是一个攻击面。海事网络安全（也与 IMO 的船舶网络风险管理指南和 ISM 相关）不容忽视：
- 隔离关键的导航/机械系统：ECDIS、机械控制等系统与互联网和人工智能工具分开。
- 数据隐私：航线、货物和商业数据不得泄露给不安全的人工智能服务；如有必要，请戴口罩。
- 操纵风险：GPS/AIS信号可能被欺骗；利用这些损坏的数据，人工智能会产生错误的建议。输入安全是输出安全的前提。
- 冗余：如果系统崩溃或发生网络事件，传统导航（纸质地图、基本程序）功能将被保留。
注意：您加载到人工智能工具中的任何数据都可能超出您的控制。船舶位置、货物详细信息、船员信息和商业秘密；以经批准、安全且必要时隐蔽的方式进行处理。 “为了方便”将敏感数据粘贴到公共服务中是对安全和隐私的严重侵犯。
道德和负责任的使用
- 人员责任：每个安全关键决策均由有能力的人员做出；人工智能的输出不能替代其批准。
- 透明度：当使用人工智能时（特别是在报告和分析中），它是诚实的。
- 避免夸大其词：模糊的估计并不代表确定性；信任程度是诚实表达的。
- 环境和安全优先：商业利益永远不会先于海上安全和环境保护。
- 隐私：工作人员和商业数据受到保护。
三个迷你箱子
情况 1 — 门系统阻止错误。在船上，人工智能会建议一条节省有吸引力燃料的路线；但在“航行计划门”，船长发现 ECDIS 确认存在缺陷并拒绝了该建议。分层门可防止虫子进入大海。决策记录证明流程正常运行。
案例 2 — 防止数据泄露。一名官员即将将货物清单粘贴到公共人工智能服务中；公司政策（批准的工具+屏蔽）可以防止这种情况发生。业务数据受到保护。教训：治理框架可以防止善意但危险的行为。
情况 3 — GPS 信号虚假。 GPS欺骗发生在某个区域； AI 建议使用损坏的位置数据进行错误的航向修正。团队通过独立方法（雷达、眼图、十字方位）确认位置，注意到偏差并拒绝人工智能建议。教训：如果输入被破坏，输出也会被破坏；独立验证和冗余可以挽救生命。
四个可复制模板
1) 活动结束人工智能使用审核：
这次我用AI来做：[列表]。为每个项目起草一个决策记录表：工作、使用的工具、输入、人工智能输出、如何验证、谁批准、结果。标记任何仍然缺失/未经验证的内容。
2）AI使用政策草案：
为我们的船舶编写“负责任地使用人工智能”程序的草案：批准的工具、数据分类、谁批准哪个决定、验证义务、网络安全和隐私规则。注：此草案将由公司 DPA/ISM 团队批准。
3）数据脱敏控制：
在将以下文本输入 AI 工具之前检查敏感数据：[文本]。建议船舶位置、货物详细信息、个人数据、商业秘密以及如何掩盖它。如果您不确定，请说“不要进入，请先检查”。
4）网络/冗余演习场景：
在桥梁/机器系统上产生网络事件或系统崩溃场景；编写 5 步练习大纲和讨论问题，帮助机组人员练习向传统导航/发动机管理的过渡。
弱提示/强提示
弱提示：
如何在船上使用人工智能？
很一般；不存在安全、数据、治理和验证维度。
强力提示：
您的角色：船舶数字化顾问。船舶类型 [x]，附属于船队管理的公司。任务：起草一个在路线、燃料、机械跟踪和文档中使用人工智能的端到端框架：每个阶段的人工验证门、批准的车辆和数据规则、网络安全措施、决策记录。强调安全关键决策仍然是人为的，人工智能不能替代批准。标记不清楚/需要公司批准的区域。
需要门、治理和网络安全才能使输出可供企业使用。
端到端框架表
舞台
人工智能贡献
人工验证门
探险计划
路线/燃料替代
船长 ECDIS 批准
天气监测
预测总结
多资源+队长
货物
堆栈推荐
正在加载计算机+第一副官
机器
异常标志
实物确认+总工程师
文档
草案
真实数据+签名
立法
重定向
官方来源确认
桥
优先顺序
COLREG 决定，官员
常见错误
- 绕过验证门。删除中间确认以提高速度将使单个错误泄漏到探险中。
- 不保留决定记录。如果没有记录，审计和调查的辩护和改进就会变得困难。
- 将敏感数据提供给不安全的工具。路线、负载、个人数据均经过批准和屏蔽处理。
- 不隔离关键系统。 ECDIS/机器控制与互联网和人工智能工具分开。
- 忽略冗余。在系统/网络事件中必须保持常规导航能力。
- 将商业利益置于安全之上。安全和环境始终是重中之重。
综上所述
在海事中使用端到端人工智能的关键是一个分层框架，该框架在每个阶段都放置了人工验证门和决策记录。该框架由船公司治理（批准的工具、数据分类、角色、培训、ISM 集成）、网络安全（关键系统隔离、数据机密性、输入安全、冗余）和负责任使用原则（人的责任、透明度、避免过度断言、安全优先、机密性）作为补充。人工智能为航运创造真正的价值；但安全关键决策始终由有能力的人做出，人工智能输出并不能取代这种批准。
应用任务
考虑为您自己的船进行一次从头到尾的探险。对于每个阶段（规划、空运、货运、机械、文件、监管、桥梁），填写一张单行“人工智能做什么/什么是人门/我如何验证/谁批准”表格。然后添加“数据屏蔽”和“网络/冗余”措施。最后，创建您这次要保留的决策记录的模板。
清单
- [ ] 我在每个阶段都放置了一个人工验证门。
- [ ] 我保存了每次人工智能使用的决策记录。
- [ ] 我已遵守批准的工具和数据分类规则；我保护/屏蔽了敏感数据。
- [ ] 我隔离了关键的导航/机械系统并保持了冗余能力。
- [ ] 我已确保安全关键决策由有能力的人员做出，并且不能替代人工智能的批准。
模块考试
1、以下哪项是人工智能在海事领域定位最准确的？
- A）人工智能是一种决策支持工具；船长和轮机长仍然负责路线确认、操纵和机械决策等安全关键决策 ✔
- B）由于人工智能在海上比人类更可靠，因此应将路线和机动决策留给人工智能。
- C) 人工智能只起摘要文本的作用，与导航和机器工作无关
- D) 人工智能可以将航线输入 ECDIS 并执行，无需人工批准
描述：海事是一个安全关键领域；人工智能是一种决策支持工具，可以节省路线、燃料、天气、文档、机器监控和立法方面的时间。但对海上安全、环境和财产安全负法律责任的是船长和轮机长；操纵、机器停止和紧急决策都是人为的，人工智能的输出不能替代有能力的专家批准。
2. 在执行人工智能建议的替代路线之前，最关键的步骤是什么？
- A) 在 ECDIS 和 UKC 中检查禁航区航线并得到船长批准 ✔
- B）直接执行，不做额外的检查，因为人工智能会计算它
- C) 确保只选择最短距离
- D) 在不检查路线的情况下切换到最节省燃油的一种
说明：人工智能生成的路线为草稿，尚未在官方地图上验证。未在潮汐时检查电子海图显示与信息系统 (ECDIS) 的禁航区和下龙骨间隙 (UKC) 的情况下，任何航线均不会运行。时间/燃料节省永远不会超过这种安全确认。
3. 当人工智能预测消耗以优化燃料时，最准确的方法是什么？
- A) 假设通用船舶模型，在不给出约束的情况下要求油耗最低
- B) 根据船舶的实际性能曲线进行估算并给出商业法律约束 ✔
- C）应用人工智能给出的第一个数字而不验证它
- D) 只需降低速度就足够了；租船和港口窗口无关
说明：通过假设一般“船舶模型”而产生的预测可能会严重违反您的船舶。估算应基于船舶的实际性能曲线（海试和服役数据）；此外，还应给出商业法律限制，例如包机最低速度和港口窗口。在稳定性和机器健康状况的限度内，修剪/速度变化也需要经过人工批准。
4. 关于人工智能计算出的CII（碳强度指标）值可以说些什么？
- A) 可以直接申报为官方CII报告
- B) 这只是一个预测；官方报告是通过批准的方法生成的，并且必须得到最新来源的确认✔
- C）它总是正确的，因为人工智能计算比人类更好
- D) 无需确认，因为排放阈值从未改变
说明：CII 等排放数据是通过批准的方法和经过验证的数据得出的官方输出。人工智能给出的价值只是预测；可以使用旧系数或产生幻觉。它不能用作官方报告，必须得到最新的官方来源确认。
5. 是什么让人工智能在天气和海况评估方面最有价值？
- A) 基于单一模型并给出精确的波高
- B）隐藏不确定性并将每个预测呈现为确定性
- C) 比较不同的模型并使分离和不确定性可见 ✔
- D) 它取代了官方海事警告并使其变得不必要。
说明：天气预报是概率性的，最重要的是不确定性。当人工智能比较不同的模型并使差异（以及因此的不确定性）变得可见时，它是最有价值的；这确保了规划的安全性。隐藏不确定性并将中心预测呈现为确定性是危险的。
6. 在为巡航日志或官方事件报告准备人工智能内容时，不变的原则是什么？
- A）让人工智能以合理的方式补全不完全记住的细节
- B) 仅记录实际观察结果；人工智能无法弥补数据或细节，缺失的地方已标记✔
- C) 如果文字流畅，则人工智能添加的数字和事件无需验证即可被接受。
- D）人工智能可以估计时间和位置信息，无需观察
说明：官方记录是法律证据，其内容必须与事实完全相符。人工智能无法编造时间、位置、速度和事件信息；它只是将您给出的实际观察结果转化为正确的句子。缺失的地方不是用“合理的虚构”来填补，而是被标记了；准确性和签名的责任在于人。否则，存在伪造文件的风险。
7. 装载计划中船舶的稳性（GM）和总纵强度应如何确定？
- A) 依靠人工智能给出的粗略GM和修剪值
- B) 根据批准的装载计算机计算并经大副/船长批准 ✔
- C）根据经验估计，不使用任何工具
- D) 只看总重量，不考虑重量分布
描述：稳定性和强度是安全的关键；一个错误就可能导致船只倾覆或船体损坏。这些计算仅来自批准的装载计算机，并得到大副/船长的批准。 AI给出的粗略GM值并非官方计算；例如，它可能会错过自由流体的影响并错误地使船舶看起来“安全”。
8. 人工智能在危险货物分类和堆码规则（IMDG）中应发挥什么作用？
- A) 人工智能给出准确的分离规则，直接应用堆垛方案
- B) 判别规则由人工智能的一般知识决定，不需要正式的代码
- C) 人工智能指导看哪个部分；官方 IMDG 代码确认了准确的分离/堆叠规则 ✔
- D) 危险货物无需分隔规则，可以全部堆放在一起
说明：如果某些有害物质并排放置，它们可能会发生反应并引起火灾或爆炸。 AI可以提醒您查看哪个UN编号和IMDG部分；然而，确切的分离/堆叠规则必须从官方 IMDG 规则中确认。 AI可能会给出过时或不正确的规则，因此官方代码决定最终决定。
9. 当人工智能标记机器传感器数据异常（例如气缸排气温度偏差）时，应如何采取行动？
- A) 该信号被认为是明确的故障，设备立即停止。
- B) 信号是一个假设；它经过上下文评估、物理验证，诊断维护决策仍由总工程师决定 ✔
- C）不需要额外的验证，因为人工智能说它
- D) 如果人工智能没有说什么，则假设设备绝对健康
说明：人工智能说“存在异常/故障”是一种假设，而不是诊断。首先在上下文中评估偏差（可能是负载、空气、速度变化），然后进行物理验证（仪表读数、设备检查），诊断维护决策仍由总工程师决定。此外，人工智能的沉默并不能保证“没有问题”。
10.当机舱内多个警报（警报洪水）同时响起时，如何使用人工智能及其极限是什么？
- A) 人工智能确定根本原因并自动做出停止机器的决定
- B) 人工智能生成根本原因假设；该假设已得到物理验证，停止/干预的决定仍由工程师决定 ✔
- C) 如果其中一个警报被消除，其他警报也会消失，无需验证。
- D）即使时间戳不正确，AI 的根本原因排名也是准确的
描述：一个故障往往会引发一系列二次报警；根本原因是单一的。人工智能可以对带时间戳的警报日志进行排序并生成根本原因假设。然而，这一假设必须通过物理指标来验证，而停止机器或禁用安全跳闸等决定则属于人类工程师；无法自动化。
11. 当 SOLAS 等立法需要精确的物品编号或数字阈值时，应如何使用人工智能？
- A) 人工智能给出的项目编号和阈值直接写入报告中。
- B) 人工智能指导；确切的物质和阈值是从当前官方来源读取并确认的✔
- C）由于规则不会改变，人工智能的知识始终是最新的。
- D）说“人工智能是这么说的”是审计的有效依据
描述：人工智能可以令人信服地编造出实际不存在（幻觉）的物品编号、日期或阈值，并且规则不断更新。因此，人工智能仅用作查看哪些合约/代码和主题的指南；判决始终取自当前的官方来源。在审计中，“人工智能是这么说的”没有任何有效性。
12. 人工智能/自动化在桥梁防撞（COLREG）机动决策中的作用是什么？
- A) 系统下达机动指令，人员执行
- B) 系统优先考虑目标并引导注意力；机动决策属于 COLREG 框架内的军官和机长 ✔
- C) 依靠AIS就足够了；不需要雷达和目视确认
- D）由于自动化工作可靠，官员可以离开控制权
描述：现代系统可以计算 CPA/TCPA 并确定目标的优先级；这对于引导官员的注意力很有价值。然而，机动的决定——多少度、何时、向哪个方向——属于值班军官和船长在 COLREG 和良好海上实践的框架内。即使系统显示“安全通过”，碰撞的责任仍由执行或未执行操作的警官承担。
13. 为什么“自动化自满”（过度依赖自动化）在桥梁上是危险的？
- A) 没有危险；如果系统可靠，则无需目视。
- B) 它减少了人类的注意力并造成对单一来源的依赖；缺少数据，例如没有 AIS 的船只可能会丢失 ✔
- C) 这是一个问题，只是因为它增加了燃油消耗。
- D) 仅在旧船上看到，现代桥梁上没有风险
解释：当系统可靠运行时，人类的注意力可能会减弱并且控制可能会被放弃。而没有 AIS 的小船只能被雷达和眼睛看到；系统在数据不完整的情况下运行。因此，雷达、AIS、ECDIS和眼图应相互交叉确认，当源分离时，应以最危险的判读为依据。
14. 在将船舶位置、货物清单或船员信息输入人工智能工具之前，适用什么原则？
- A）敏感数据可以直接粘贴到公共服务中以提高速度
- B) 数据无需分类；任何数据都可以输入任何车辆
- C) 敏感数据仅在经过批准的安全工具中进行处理，并在必要时进行屏蔽；关键系统被隔离 ✔
- D) 船员和商业数据不敏感，不需要保护
说明：上传到人工智能工具的数据可能会失控。航线、货物详细信息、商业合同和船员个人数据属于敏感信息；只能使用经批准的安全车辆进行处理，并在必要时进行遮盖。 “为了方便”而将敏感数据粘贴到公共服务中是对安全和隐私的严重侵犯。此外，关键的导航/机械系统是隔离的。
15. 从活动开始到结束，持续、安全地使用人工智能的最有效方法是什么？
- A) 建立分层框架，在每个阶段放置人工验证门和决策记录 ✔
- B）将所有探险决策委托给单个人工智能工具并查看最终结果
- C) 取消中间速度验证，仅在抵达时检查
- D) 每个官员可以自由使用自己的车辆，无需保存决定记录。
描述：航程被认为是一条链条，每个阶段都有人工验证门和过渡条件（计划、航空、货物、机械、文件、立法、桥梁）；你无法穿过一扇门而不经过另一扇门。每扇门都留下了决定的记录。这种分层结构可以防止单个人工智能错误泄漏到探险或报告中，并在审计中提供防御性。