收益：
- 能够认识到人工智能可以产生虚构的系数、规则条款和技术值，并在生命/财产安全的背景下进行验证
- 能够管理船舶和 OT（运营技术）系统中的网络安全、数据隐私和监管限制
- 了解船级社批准、航行安全和道德的最终责任在于轮机师和船长。
在整个模块中，我们使用人工智能（AI）作为船舶和海洋工程每个阶段的加速器：从形式设计到结构分析，从预测性维护到航程优化，从排放合规性到船厂生产。在最后一个单元中，我们退后一步，纵观全局：人工智能在海事领域的主要限制是什么，哪些风险（幻觉、网络安全、数据隐私、偏见）需要持续警惕，谁承担责任？因为安全使用车辆的前提是知道它可能出问题的地方。
该模块的持久论点适用于此处并指导所有其他内容：在安全关键的海事工作中，人工智能输出不能替代主管工程师、船长或船级验船师的批准。 AI建议、起草、计算、提醒；但决定生命、财产和环境安全的决定的所有者是该决定的签署人并承担法律责任。
概念：幻觉：人工智能制造出不存在的价值、规则或资源。 OT 安全：操作技术（机器和巡航控制系统）的网络保护。数据中毒：故意损坏训练/输入数据以误导模型。模型偏差：模型因训练数据而产生的系统性和不公平的偏差。责任链：决策的法律和技术所有权是显而易见的。
人工智能的永久限制
人工智能在航运领域有四个永久的前沿，即使技术进步，这些前沿也不会消失。首先，幻觉：模型在没有明确数据的情况下用“最有可能”的陈述来填补空白；事实证明，这是一个虚构的类别条款、一个不可能的稳定性值或一个不存在的系数。其次，部署外行为：模型在训练和测试的情况之外（不寻常的船舶类型、不寻常的故障、看不见的交通）变得不可靠。第三，缺乏对物理的理解：AI处理文字模式，不“理解”能量守恒定律或牛顿定律；它可以产生看似合理但实际上不可能的输出。第四，及时性：立法、价格和技术变化；模型的信息被冻结在某个日期。
这些限制解释了为什么我们在整个模块中学到的验证规则是必不可少的：数量级控制、单元一致性、独立复制和源验证。特别是当让人工智能进行计算时（例如，为镇流器/稳定力矩或功率计算生成的 Python/Excel 脚本），即使代码看起来流畅且有效，但如果没有独立测试，其逻辑、输入和边缘情况也不会转化为安全决策。仅仅因为帐户代码“有效”并不意味着它是“正确的”。
注意：人工智能生成的会计代码可能不会出现错误，但可能包含错误的公式、错误的单位或被忽视的边缘情况。在接受代码之前，使用已知输入（您直接知道答案的示例）对其进行测试，测试边缘情况，并以独立的方式验证结果。在稳定性等安全关键计算中，经过批准的加载计算机和工程师确认至关重要。
网络安全和数据隐私
现代船舶是一个漂浮的计算机网络：导航系统、机械控制、货物管理和卫星连接相互连接。这意味着网络攻击面。人工智能系统给这种情况增加了两个新的风险。首先，OT（操作技术）安全：与导航和机器控制相关的人工智能组件如果受到攻击，会带来直接的安全风险；因此，关键的 OT 系统是隔离的，人工智能输出永远不应该自行触发控制操作，必须维持人类批准和安全默认行为。其次，数据隐私：船体形状、性能曲线、船东船厂合同和操作遥测属于商业秘密和知识产权；将这些数据输入未经批准的外部人工智能服务是不可挽回的损失。
此外，数据中毒（通过恶意输入误导模型）和 AIS 等数据欺骗等操纵风险要求不要盲目信任人工智能的输入。规则：关键数据是匿名的或根本不共享，仅使用经过批准且保密的工具，关键输入的真实性经过交叉验证。
风险
它是如何发生的？
预防措施
幻觉
虚构的规则/值/来源
源头确认，等级把控
OT 网络攻击
控制系统渗透
隔离、人工批准、安全默认
数据泄露
将机密数据输入外部工具
匿名化、经过批准的工具
数据中毒/欺骗
故意损坏输入
输入验证、交叉检查
模型偏差
训练数据不平衡
用人的判断来审查结果
道德和责任链
海事决策的法律和技术归属应当明确：船长对航行安全负责，轮机长对机械负责，轮机长负责设计和计算，船级社验船师对规则合规负责。人工智能不应该在这个链条中引入“责任缺口”。 “人工智能建议这样做”不是借口；使用人工智能并接受其输出的人负责。因此，人工智能的使用必须是透明的（必须记录它支持哪个决策，经过什么验证），并且最终的决定必须由签名的人来决定。
道德层面还包括船员安全和环境：如果节油建议使船员面临风险，如果自动化解决方案缩小了安全裕度，如果短期收益掩盖了长期风险，工程道德就需要说“不”。人工智能是提高生产力的强大工具；但效率永远不能先于生活、环境和诚实的工程判断。
迷你箱
案例 1——“AI 是这么说的”借口。在一份报告中，使用了人工智能给出的极限值，未经验证，结果证明该值是不正确的。负责人试图为自己辩护，称“这是人工智能建议的”。阶级法和责任法都不承认这一点：接受输出的工程师负责。教训：人工智能不是借口；责任在于使用它的人。
案例2——机密数据泄露。团队将船东的实际表现和燃油数据粘贴到公开可用的人工智能工具中并请求分析。该数据现已失控；出现商业秘密和违约行为。如果使用匿名代表值或经批准的工具，则不会有任何风险。教训：真实/机密数据永远不会输入到未经批准的外部工具中。
案例 3 — 可以工作，但代码错误。 AI生成Python脚本以求暂时稳定；代码运行没有错误并返回一个合理的数字。当工程师使用已知的负载情况（手动知道答案）对其进行测试时，他发现代码采用带有错误符号的公平术语。脚本“有效”，但结果是错误的。教训：账户代码的操作并不能保证正确性；使用已知输入和独立验证进行测试至关重要。
可复制的提示模板
模板 1 — 限制和风险自我评估：
角色：您是审核我使用的 AI 输出的审稿人。背景：[任务/输出]。任务：1) 此输出中幻觉风险高的地方在哪里？2) 在物理合理性方面是否有任何问题？3) 需要验证哪些值需要及时性（立法/价格）？4) 此输出是分布外（未见过）案例的可能性？列出每个有问题的点以及如何验证它。
模板 2 — 账户代码验证时间表：
在使用以下 AI 生成的会计代码 (Python/Excel) 之前，先制定一个验证计划：[粘贴代码/逻辑]1) 建议一个我立即知道答案的测试输入。2) 列出需要测试的边缘情况（零、负、极端）。3) 如何检查单位一致性？4) 通过什么独立方式确认结果？约束：安全关键帐户需要经过批准的工具/工程师验证。
模板 3 — 数据隐私过滤器：
隐私检查我会给人工智能工具提供以下上下文：[要分享的文本]1) 其中是否存在商业秘密/机密/合同数据？2) 应匿名或提取哪些值？3) 此任务是否需要经过批准的内部工具？约束：实际船舶/性能/合同数据不会进入外部工具。
模板 4 — 问责制和透明度说明：
起草一份透明度备忘录，记录以下人工智能驱动的决策：[决策]。内容：（1）人工智能在哪个阶段使用，（2）它经过了哪些验证，（3）谁批准了它，（4）验证了哪些来源。约束：明确最终责任在于人类签名。
弱提示/强提示
弱提示：
我会把这个人工智能分析放在报告中，可以吗？
强力提示：
角色：您是审核 AI 输出的独立审核者。背景：[分析/输出以及在何处使用]。任务：1）标记幻觉、物理合理性和及时性的风险。2）是否存在出于保密原因不应共享的数据？3）人类需要采取哪些步骤来验证此输出？约束：您不做出“适当/不适当”的决定；说明验证步骤以及签名工程师的责任。
弱提示要求确认；强提示暴露风险、隐私和人工验证链。
常见错误
- 意思是“人工智能这么说的”。责任在于接受输出的人；人工智能不是借口。
- 将机密数据输入外部工具。商业秘密和违约行为；数据一旦泄露将无法找回。
- 认为工作代码是正确的。正常运行的脚本可能包含错误的公式/单位；测试和独立确认至关重要。
- 将 OT 系统留给 AI。控制动作绝不是由AI单独触发的；维持人工批准和安全默认。
- 将效率置于安全之上。不会为了任何节省而牺牲生命、环境和诚实的工程判断。
综上所述
海事领域人工智能的持久局限性（幻觉、不符合分布的行为、缺乏对物理的掌握、过时）和风险（网络/OT 安全、数据隐私、中毒、偏见）说明了为什么在整个模块中学习的验证规则是不可或缺的。在安全关键决策中，人工智能输出并不能替代合格的人类批准；责任链清晰，“人工智能这么说”不是借口。人工智能是强大的加速器；但生命、环境和诚实的工程判断永远是第一位的。
应用任务
选择您在此模块中生成的 AI 输出（帐户、报告草稿或代码）。使用“限制和风险自我评估”模板标记幻觉、物理合理性和现实的风险。如果是帐户代码，请使用“帐户代码验证计划”模板使用已知输入进行测试并独立验证。应用“数据隐私过滤器”并过滤掉不应共享的数据。最后，写一份透明度备忘录，记录决定并明确谁负有最终责任。
清单
- [ ] 我检查了AI输出的幻觉、物理和现实风险。
- [ ] 我已使用已知输入测试并独立验证了帐户代码。
- [ ] 我没有将机密/合同数据输入到外部工具中；我把它匿名了。
- [ ] 我在 OT/控制系统中保持了人工批准和安全默认。
- [ ] 我透明地记录了人工智能的使用并明确了责任人。
- [ ] 我从来没有把效率置于生命、环境和工程道德之上。
模块考试
1. 作为海洋工程师使用人工智能工具时，以下哪项的最终责任应始终由人类（工程师/同学）承担？
- A) 批准并签署结构元素是否符合类别规则 ✔
- B) 制作阻力报告的初稿
- C) 编辑图表的轴标签
- D) 准备技术报告的术语表
描述：人工智能；它可以加速电阻预计算、报告起草和数据汇总等任务。然而，批准结构元件符合等级规则并将其反映为技术文件上的签名是一个创造生命和财产安全的决定；未经独立验证和授权批准，不得转移至人工智能。
2.你让AI计算了一艘船的阻力，它使用模型实验中没有的“经验修正系数”将结果降低了20%。首先要采取的正确行动是什么？
- A）接受结果，因为人工智能看起来很自信
- B) 质疑系数的来源，拒绝无根据的修正并用公认的方法重新计算✔
- C）进一步增加系数并保持安全
- D) 切换到螺旋桨选择而不改变结果
解释：语言模型可以令人信服地捏造毫无根据的系数和数字（幻觉）。在直接影响推进功率和燃料的计算中，例如阻力，有必要质疑所使用的每个系数的来源（方法、模型试验、标准）并拒绝不支持的系数。
3. AI在计算船舶CII（碳强度指标）时没有使用载货量作为分母，而是仅使用距离。这个输出的主要问题是什么？
- A) CII仅针对油轮计算，船上不需要计算
- B) CII 结果总是以百分比形式出现，小数点是错误的
- C) CII 分母不应只是距离，而是承载能力（载重）乘以距离 ✔
- D) 速度数据对于CII计算是强制性的，它缺失
描述：CII 测量每项工作的碳排放量，并基于所提供的有效负载乘以距离（例如自重 x 距离）。忽略术语负载/容量会完全错误地计算该指标。第一步也是强制性的步骤是生产力指标中的每个术语完全符合 IMO 的定义。
4. 机舱中人工智能驱动的预测维护系统最有价值的输出是什么？
- A) 总结一条线过去维护的平均成本
- B) 将所有传感器数据转换为更丰富多彩的图表
- C) 颜色并列出振动/温度趋势
- D) 预先标记轴承或涡轮增压器更有可能发生故障的时间窗口 ✔
描述：预测性维护的目的是在设备发生故障之前发现设备恶化的趋势，并及时计划维护。因此，降低了意外故障和停机的风险。总结过去不仅有价值，而且对未来提出预警也很有价值。
5. AI 将 FEA（有限元分析）模型中的应力结果与等级规范中的许用应力进行比较，并声明“适当”。哪种做法才是最正确的呢？
- A) 验证模型设置（网格、边界条件、载荷）并根据等级规则文本确认许用应力 ✔
- B) 直接确认结果，因为 AI 说“适合”
- C) 随机降低许用应力以保持安全
- D) 仅更改色阶而不收紧网络
描述：FEA结果；它完全取决于网格质量、边界条件、载荷定义和材料属性。此外，AI使用的允许应力值可能不正确。在接受结果之前，需要验证模型设置并从文本中确认类规则值。
6. 您通过使用 AI 执行天气路由创建了一条最大限度减少燃料的路线。哪项考虑对于结果的可用性最重要？
- A) 航线在航行安全（波浪、天气、船舶限制）方面必须是安全的，并且必须得到船长的批准✔
- B) 地图上路线最短的出现
- C) 该航线包括最多的港口停靠
- D) 无论合同如何，该路线都会最大限度地减少预计到达时间
说明：无论航线建议的燃油效率如何，航行安全和船长的权威都是优先考虑的。如果风暴、波高和船舶限制超过安全限度，燃油增益就毫无意义。最终的航线决定必须经过安全限制并得到机长批准。
7. 您向 AI 询问 SOLAS 要求，AI 给出了参考特定“章节/规则编号”的准确值。什么是正确的工程行为？
- A) 直接应用该值，因为 AI 是最新的
- B) 随机提高该值以保持安全
- C) 从官方、最新的 SOLAS/类别来源验证物品编号和价值 ✔
- D) 添加到文件而不检查项目编号
描述：语言模型可能会记错或编造合同/规则条款编号和值。在 SOLAS、MARPOL 和船级规则等具有约束力的领域，每个项目和值都必须从官方、当前来源（IMO 文本、船级规则、管理通告）逐字验证； AI输出只显示看哪里。
8. 在自主或决策辅助导航系统中，人工智能根据雷达和 AIS 数据建议进行机动。就 COLREG（避免冲突）而言，哪项评估是正确的？
- A) 当人工智能访问当前数据时自动执行机动
- B) 通过VHF将建议传送给对方船舶并等待其批准
- C) 关闭雷达并仅依靠 AIS
- D) 将该建议视为决策支持，并将 COLREG 和最终机动决策留给值班军官/船长。
解释：根据 COLREG 规则和良好的海事惯例，避免碰撞的责任和最终的机动决定由驾驶台当局（船长/值班高级船员）承担。 AI推荐是决策支持；盲点、传感器错误和规则解释需要人工监督。
9. 您已使用 AI 从主机 SFOC（特定油耗）曲线生成燃油经济性建议。检验合理性最合适的方法是什么？
- A) 将建议应用于过去的行程数据并与实际油耗进行比较✔
- B) 按原样接受建议并将其作为节省写入预算。
- C）以最乐观的储蓄百分比作为唯一的实际值
- D) 只是美化SFOC曲线的图形
说明：人工智能产生的节省索赔应通过与船舶实际航行数据（记录的油耗、负载、速度、天气）进行比较来进行测试。回顾过去的航程数据并将其与实际消耗量进行比较，可以看出该建议的现实性。
10. AI 准备的调查草案/技术报告包含流动但来源不确定的技术值。什么是正确的行为？
- A）按原样呈现报告，因为文字流畅
- B) 将每个值与原始测量/来源进行匹配，并删除未经确认的 ✔
- C) 对值进行四舍五入和修饰
- D) 只需阅读执行摘要并跳过其余部分
说明：报告中的每个技术值必须可追溯其原始来源（测量、校准设备记录、分类规则、制造商数据）。任何数字都不应在未经验证其来源的情况下提交给班级或管理层，即使它是一个流利句子中的值；否则，虚拟值将进入决策库。
11. 使用 AI 生成的 Excel/Python 计算之前的最佳步骤是什么（例如镇流器条件和稳定时刻）？
- A) 将计算直接应用于实际装载计划
- B）只看代码的长度和布局
- C) 通过将计算与已知的测试场景和批准的加载工具进行比较来尝试边缘情况✔
- D）删除部分代码以缩短它
解释：稳定性和载荷计算可能看起来正确，但给出的结果不正确。在您知道结果的小型测试场景上运行计算，无论是手动还是使用经过认证的加载计算机，将其与预期输出进行比较，并尝试极限/边缘负载情况，将在错误转移到实际负载决策之前捕获错误。
12. 您希望将船舶的非共享设计和性能数据粘贴到公共 AI 工具中并请求分析。哪种做法才是最正确的呢？
- A）按原样粘贴数据以提高速度
- B) 只需删除船名并共享所有剩余数据就足够了
- C）共享数据，然后要求人工智能删除它
- D) 检查机构政策并对数据进行匿名化或使用安全/机构工具 ✔
披露：船体形状、性能曲线和船东/船厂合同数据属于商业秘密和知识产权敏感信息；此外，关键基础设施和 OT 系统信息也存在网络风险。在共享数据之前，有必要检查公司政策、将其匿名化或使用不共享数据的公司工具。
13. 造船厂区块装配中的人工智能质量控制将焊缝标记为“可接受”。什么是正确的工程行为？
- A) 将AI评估视为最终验收并批准缝制
- B) 将 AI 初步评估视为筛选工具，并将最终验收与 NDT 结果和等级批准挂钩 ✔
- C) 完全不检查接缝就移动到下一个块
- D) 简单地目视检查接缝的外观就足够了
描述：焊接质量是一个安全关键领域，需要无损检测 (NDT) 结果和等级认可。 AI通过图像或数据进行初步评估提供指导，但最终验收由船级社验船师检查合格并批准后进行。
14. 在船队管理方面，人工智能为一次探险提出了明确的建议，称“这个加油港和这个速度绝对是最有利可图的”。哪个是正确的评估？
- A）当人工智能访问最新数据时直接实施建议
- B) 将建议传达给船东作为坚定的承诺
- C) 根据这个单一输出锁定整个探险计划
- D) 认为最终报价不可靠，并将其视为可以通过当前价格、包机条件和安全性进行验证的场景 ✔
说明：燃油价格、租船条件、天气和港口延误都是快速变化且不确定的变量；人工智能并不能保证绝对的盈利能力。该提案应被视为情景输出，必须根据当前价格、租船合同条款和安全限制进行验证。