Quy trình làm việc toàn diện, Quản trị công ty tàu, An ninh mạng và Sử dụng có trách nhiệm

Lợi nhuận:

• Khả năng triển khai AI một cách nhất quán ở mọi giai đoạn của chiến dịch, từ đầu đến cuối, với các cổng xác minh và hồ sơ quyết định của con người
• Khả năng thiết lập khung quản trị công ty tàu bao gồm danh sách phương tiện được phê duyệt, phân loại dữ liệu, tích hợp ISM, an ninh mạng (cách ly hệ thống quan trọng, bảo mật dữ liệu, dự phòng)
• Khả năng lồng ghép trách nhiệm con người, tính minh bạch, tránh yêu cầu quá mức, ưu tiên an toàn-môi trường và các nguyên tắc bảo mật vào quy trình làm việc

Các đơn vị trước đây đã xử lý AI riêng lẻ về tuyến đường, nhiên liệu, thời tiết, tài liệu, hàng hóa, giám sát máy móc, chẩn đoán, pháp luật và hỗ trợ quyết định cầu đường. Đơn vị này tổng hợp tất cả: cách định vị AI một cách nhất quán, có kiểm soát và an toàn từ đầu đến cuối chiến dịch. Tàu và công ty quản lý việc này như thế nào? Và bản thân những công cụ này (dữ liệu, kết nối, an ninh mạng) được bảo vệ như thế nào? Mục đích là để thiết lập một khuôn khổ nắm bắt được giá trị của AI trong hàng hải trong khi không bao giờ quên tính chất quan trọng về an toàn của nó.

Quy trình làm việc từ đầu đến cuối: cổng xác minh của con người

Hãy coi chuyến thám hiểm như một chuỗi; Đặt cổng xác minh của con người (điểm mà con người xác nhận rằng một điều kiện được đáp ứng trước khi vượt qua) trên mỗi vòng:

1. Lập kế hoạch hành trình: AI tạo ra lộ trình/nhiên liệu thay thế → Cổng: thuyền trưởng xác nhận và xác nhận UKC/cấm đi và các hạn chế trong ECDIS.
2. Giám sát thời tiết: Tóm tắt dự báo AI → Cổng: đa nguồn + xác nhận cảnh báo chính thức, quyết định trú ẩn là tùy thuộc vào thuyền trưởng.
3. Hàng hóa: Khuyến nghị xếp hàng YZ → Cửa: máy tính chất hàng có phê duyệt độ ổn định/sức mạnh, phê duyệt của giám đốc.
4. Máy: Dấu hiệu bất thường AI → Cửa: quyết định xác minh, chẩn đoán và bảo trì vật lý tùy thuộc vào kỹ sư trưởng.
5. Tài liệu: Bản thiết kế AI → Cổng: xác minh dữ liệu thực và chữ ký ở người.
6. Pháp luật: AI chỉ đạo → Cổng: điều khoản được xác minh từ nguồn chính thức.
7. Cầu: AI ưu tiên → Cổng: Quyết định điều động và điều hướng COLREG nằm trong tay sĩ quan.

Quy tắc: không đi qua một cánh cửa, bạn không thể chuyển sang cánh cửa tiếp theo. Cấu trúc phân lớp này ngăn không cho một lỗi AI nào rò rỉ vào đoàn thám hiểm hoặc báo cáo. Mỗi cánh cửa đều để lại một bản ghi: đề xuất cái gì, ai xác nhận, cái gì đã được quyết định.

Mẹo: Giữ một “nhật ký quyết định” ngắn gọn cho mỗi lần sử dụng AI: công cụ nào, đầu vào nào, AI nói gì, nó được xác minh như thế nào, ai đã phê duyệt nó. Trong quá trình điều tra hoặc kiểm tra tai nạn, hồ sơ này sẽ bảo vệ bạn và giúp bạn liên tục cải tiến.

Quản trị công ty tàu biển

Các công cụ AI không nên được sử dụng một cách ngẫu nhiên mà phải trong một khuôn khổ:

• Danh sách công cụ được phê duyệt: Công cụ AI nào được phê duyệt cho công việc nào? Dữ liệu nhạy cảm không được tải lên các công cụ và dịch vụ công cộng ngẫu nhiên.
• Phân loại dữ liệu: Bản kê khai vận chuyển, lộ trình, hợp đồng thương mại, dữ liệu cá nhân của thuyền viên là những thông tin nhạy cảm; Nó được xác định dữ liệu nào đi đâu.
• Vai trò và quyền hạn: Ai có thể sử dụng AI trong quyết định nào, ai phê duyệt? Thuyền trưởng và máy trưởng có tiếng nói cuối cùng rõ ràng.
• Huấn luyện: Phi hành đoàn phải biết giới hạn của AI (ảo giác, mơ hồ, xác minh); Kỷ luật được dạy hơn là công cụ.
• Tích hợp ISM: Việc sử dụng AI được bổ sung theo quy trình vào hệ thống quản lý an toàn tàu (ISM); trở nên có thể kiểm toán được.
• Xác minh liên tục: Hiệu suất của phương tiện được theo dõi; Các đề xuất không chính xác sẽ được ghi lại và công cụ hoặc cách sử dụng sẽ được sửa đổi.

An ninh mạng: một con tàu bị buộc dây là mục tiêu

Con tàu hiện đại là một hệ thống được kết nối: cập nhật ECDIS, liên lạc vệ tinh, giám sát từ xa, dịch vụ AI. Kết nối này là một bề mặt tấn công. Không thể bỏ qua an ninh mạng hàng hải (cũng liên quan đến hướng dẫn quản lý rủi ro mạng tàu và ISM của IMO):

• Cô lập các hệ thống máy móc/định vị quan trọng: Các hệ thống như ECDIS, điều khiển máy móc được tách biệt khỏi internet và các công cụ AI.
• Quyền riêng tư dữ liệu: Dữ liệu về tuyến đường, hàng hóa và thương mại không được rò rỉ sang các dịch vụ AI không an toàn; mặt nạ nếu cần thiết.
• Rủi ro bị thao túng: Tín hiệu GPS/AIS có thể bị giả mạo; Với dữ liệu bị hỏng này, AI sẽ đưa ra những gợi ý sai. Bảo mật đầu vào là điều kiện tiên quyết để bảo mật đầu ra.
• Dự phòng: Nếu hệ thống gặp sự cố hoặc xảy ra sự cố mạng, khả năng điều hướng truyền thống (bản đồ giấy, quy trình cơ bản) vẫn được duy trì.

Thận trọng: Mọi dữ liệu bạn tải vào công cụ AI đều có thể nằm ngoài tầm kiểm soát của bạn. Vị trí tàu, chi tiết hàng hóa, thông tin thuyền viên và bí mật thương mại; được xử lý theo cách đã được phê duyệt, an toàn và, nếu cần, được che đậy. Dán dữ liệu nhạy cảm vào dịch vụ công cộng "để thuận tiện" là vi phạm nghiêm trọng về bảo mật và quyền riêng tư.

Sử dụng có đạo đức và có trách nhiệm

• Trách nhiệm của con người: Mọi quyết định quan trọng về an toàn đều được đưa ra bởi người có thẩm quyền; Đầu ra của AI không thể thay thế cho sự phê duyệt của nó.
• Tính minh bạch: Khi sử dụng AI (đặc biệt là trong báo cáo và phân tích), nó được nêu một cách trung thực.
• Tránh tuyên bố quá mức: Một ước tính mơ hồ không được coi là chắc chắn; Mức độ tin cậy được thể hiện một cách trung thực.
• Ưu tiên về môi trường và an toàn: Lợi ích thương mại không bao giờ đến trước an toàn hàng hải và bảo vệ môi trường.
• Quyền riêng tư: Dữ liệu thương mại và phi hành đoàn được bảo vệ.

ba trường hợp nhỏ

Trường hợp 1 - Hệ thống cửa dừng lỗi. Trên tàu, AI gợi ý lộ trình tiết kiệm nhiên liệu hấp dẫn; nhưng tại "cửa kế hoạch hành trình", thuyền trưởng phát hiện ra sai sót trong xác nhận ECDIS và từ chối đề xuất. Cánh cửa nhiều tầng ngăn không cho con bọ đi xuống biển. Quyết định ghi lại các tài liệu cho thấy quy trình đang hoạt động chính xác.

Trường hợp 2 - Ngăn chặn rò rỉ dữ liệu. Một sĩ quan chuẩn bị dán bản kê khai hàng hóa vào dịch vụ AI công cộng; chính sách của công ty (công cụ được phê duyệt + mặt nạ) ngăn chặn điều này. Dữ liệu kinh doanh được bảo vệ. Bài học: khuôn khổ quản trị ngăn cản hành vi có thiện chí nhưng đầy rủi ro.

Trường hợp 3 - Tín hiệu GPS giả. Việc giả mạo GPS xảy ra trong một khu vực; AI khuyến nghị điều chỉnh hướng đi không chính xác với dữ liệu vị trí bị hỏng. Nhóm xác nhận vị trí bằng các phương pháp độc lập (rađa, mắt, phương vị chéo), nhận thấy độ lệch và từ chối đề xuất của AI. Bài học: đầu vào hỏng thì đầu ra cũng hỏng; Xác minh độc lập và dự phòng cứu sống.

Bốn mẫu có thể sao chép

1) Kiểm tra việc sử dụng AI cuối chiến dịch:

Lần này tôi sử dụng AI cho: [danh sách]. Soạn thảo bảng ghi quyết định cho từng: công việc, công cụ được sử dụng, đầu vào, đầu ra AI, cách xác minh, ai phê duyệt, kết quả. Đánh dấu bất kỳ phần nào còn thiếu/chưa được xác minh.

2) Dự thảo chính sách sử dụng AI:

Viết BẢN DỰ THẢO về quy trình "sử dụng AI có trách nhiệm" cho tàu của chúng tôi: các công cụ được phê duyệt, phân loại dữ liệu, ai phê duyệt quyết định nào, nghĩa vụ xác minh, an ninh mạng và các quy tắc về quyền riêng tư. Lưu ý: dự thảo này sẽ được nhóm DPA/ISM của công ty phê duyệt.

3) Kiểm soát che giấu dữ liệu:

Kiểm tra dữ liệu nhạy cảm trước khi nhập văn bản sau vào công cụ AI: [văn bản]. Đề xuất vị trí tàu, chi tiết hàng hóa, dữ liệu cá nhân, bí mật thương mại và cách tôi có thể che giấu nó. Nếu bạn không chắc chắn, hãy nói "không nhập, hãy kiểm tra trước".

4) Kịch bản thực hiện mạng/dự phòng:

Tạo kịch bản sự cố mạng hoặc sự cố hệ thống trên hệ thống cầu/máy móc; Viết đề cương diễn tập gồm 5 bước và các câu hỏi thảo luận sẽ giúp phi hành đoàn thực hành quá trình chuyển đổi sang quản lý động cơ/điều hướng truyền thống.

Dấu nhắc yếu / Dấu nhắc mạnh

Dấu nhắc yếu:

Làm cách nào để sử dụng AI trên tàu?

Rất chung chung; Không có khía cạnh bảo mật, dữ liệu, quản trị và xác minh.

Lời nhắc mạnh mẽ:

Vai trò của bạn: tư vấn số hóa tàu. Loại tàu [x], công ty trực thuộc quản lý đội tàu. Nhiệm vụ: soạn thảo khuôn khổ toàn diện để sử dụng AI trong lộ trình, nhiên liệu, theo dõi máy móc và tài liệu: cổng xác minh con người ở từng giai đoạn, quy tắc dữ liệu và phương tiện đã được phê duyệt, các biện pháp an ninh mạng, ghi lại quyết định. Nhấn mạnh rằng các quyết định quan trọng về an toàn vẫn thuộc về con người và AI không thể thay thế cho việc phê duyệt. Đánh dấu những phần chưa rõ ràng/cần được công ty phê duyệt.

Yêu cầu các cổng, quản trị và an ninh mạng giúp doanh nghiệp có thể sử dụng được đầu ra.

Bảng khung từ đầu đến cuối

Sân khấu

Đóng góp của AI

cổng xác minh con người

Lập kế hoạch thám hiểm

Lộ trình/nhiên liệu thay thế

Phê duyệt ECDIS của thuyền trưởng

theo dõi thời tiết

Tóm tắt dự báo

Đa tài nguyên + đội trưởng

hàng hóa

Khuyến nghị ngăn xếp

Đang tải máy tính + sĩ quan thứ nhất

máy móc

dấu hiệu bất thường

Xác nhận vật lý + kỹ sư trưởng

Tài liệu

dự thảo

Dữ liệu thực + chữ ký

pháp luật

chuyển hướng

Xác nhận nguồn chính thức

cầu

sự ưu tiên

COLREG quyết định, sĩ quan

Những lỗi thường gặp

• Vượt qua cổng xác minh. Việc loại bỏ các xác nhận trung gian về tốc độ sẽ cho phép một lỗi duy nhất lọt vào cuộc thám hiểm.
• Không lưu giữ hồ sơ các quyết định. Nếu không có hồ sơ, việc bào chữa và cải thiện hoạt động kiểm tra, điều tra trở nên khó khăn.
• Cung cấp dữ liệu nhạy cảm cho một công cụ không an toàn. Lộ trình, tải trọng, dữ liệu cá nhân được xử lý với sự phê duyệt và che giấu.
• Không cô lập các hệ thống quan trọng. Điều khiển ECDIS/máy được tách biệt khỏi internet và các công cụ AI.
• Bỏ qua sự dư thừa. Khả năng điều hướng thông thường phải được duy trì trong sự cố hệ thống/mạng.
• Đặt lợi nhuận thương mại lên trên sự an toàn. An toàn và môi trường luôn được ưu tiên hàng đầu.

Tóm lại

Chìa khóa để sử dụng AI end-to-end trong hàng hải là một khuôn khổ phân lớp đặt cổng xác minh con người và bản ghi quyết định ở mỗi giai đoạn. Khung này được bổ sung bởi quản trị công ty tàu (công cụ được phê duyệt, phân loại dữ liệu, vai trò, đào tạo, tích hợp ISM), an ninh mạng (cách ly các hệ thống quan trọng, bảo mật dữ liệu, bảo mật đầu vào, dự phòng) và các nguyên tắc sử dụng có trách nhiệm (trách nhiệm của con người, tính minh bạch, tránh khẳng định quá mức, ưu tiên an toàn, bảo mật). AI tạo ra giá trị thực trong vận chuyển; Nhưng các quyết định quan trọng về an toàn luôn thuộc về con người có năng lực và kết quả đầu ra của AI không thay thế sự phê duyệt đó.

Nhiệm vụ ứng dụng

Hãy xem xét một chuyến thám hiểm từ đầu đến cuối cho con tàu của riêng bạn. Đối với mỗi giai đoạn (lập kế hoạch, hàng không, hàng hóa, máy móc, tài liệu, quy định, cầu nối), hãy điền vào bảng một dòng “AI làm gì/cổng con người là gì/làm cách nào để xác minh/ai phê duyệt”. Sau đó, thêm biện pháp “che giấu dữ liệu” và “mạng/dự phòng”. Cuối cùng, tạo một mẫu bản ghi quyết định mà bạn sẽ lưu giữ lần này.

danh sách kiểm tra

• [ ] Tôi đặt cổng xác minh con người ở mỗi giai đoạn.
• [ ] Tôi đã ghi lại các quyết định cho mỗi lần sử dụng AI.
• [ ] Tôi đã tuân thủ các quy tắc phân loại dữ liệu và công cụ đã được phê duyệt; Tôi đã bảo vệ/che giấu dữ liệu nhạy cảm.
• [ ] Tôi đã cô lập các hệ thống máy móc/định hướng quan trọng và duy trì khả năng dự phòng.
• [ ] Tôi đã đảm bảo rằng các quyết định quan trọng về bảo mật được đưa ra bởi người có năng lực và không thay thế cho việc phê duyệt AI.

Thi học phần

1. Định vị nào sau đây là chính xác nhất cho trí tuệ nhân tạo trong hàng hải?

• A) Trí tuệ nhân tạo là công cụ hỗ trợ ra quyết định; Trách nhiệm đối với các quyết định quan trọng về an toàn như xác nhận tuyến đường, quyết định điều động và máy móc vẫn thuộc về thuyền trưởng và máy trưởng ✔
• B) Vì trí tuệ nhân tạo đáng tin cậy hơn con người trên biển nên các quyết định về tuyến đường và cơ động nên được giao cho nó.
• C) Trí tuệ nhân tạo chỉ hoạt động trong việc tóm tắt văn bản, nó không liên quan gì đến điều hướng và hoạt động của máy móc
• D) Trí tuệ nhân tạo có thể xâm nhập tuyến đường vào ECDIS và thực hiện nó mà không cần sự chấp thuận của con người

Mô tả: Hàng hải là khu vực quan trọng về an ninh; Trí tuệ nhân tạo là công cụ hỗ trợ ra quyết định giúp tiết kiệm thời gian về lộ trình, nhiên liệu, thời tiết, tài liệu, giám sát máy móc và luật pháp. Tuy nhiên, thuyền trưởng và máy trưởng phải chịu trách nhiệm trước pháp luật về an toàn hàng hải, an ninh môi trường và tài sản; việc điều động, dừng máy và các quyết định khẩn cấp đều là của con người và kết quả trí tuệ nhân tạo không thể thay thế cho sự chấp thuận của chuyên gia có thẩm quyền.

2. Bước quan trọng nhất cần thực hiện trước khi thực hiện lộ trình thay thế do trí tuệ nhân tạo đề xuất là gì?

• A) Kiểm tra tuyến đường đến các khu vực cấm đi trong ECDIS và UKC và được thuyền trưởng phê duyệt ✔
• B) Trực tiếp thực hiện, không thực hiện kiểm tra bổ sung như trí tuệ nhân tạo tính toán
• C) Đảm bảo bạn chỉ chọn khoảng cách ngắn nhất
• D) Chuyển sang phương án tiết kiệm nhiên liệu nhất mà không kiểm tra lộ trình

Mô tả: Tuyến đường do trí tuệ nhân tạo tạo ra là tuyến đường nháp và chưa được xác minh trên bản đồ chính thức. Không có tuyến đường nào được chạy mà không kiểm tra ECDIS về các khu vực cấm đi và khoảng trống dưới sống tàu (UKC) khi thủy triều. Tiết kiệm thời gian/nhiên liệu không bao giờ có thể lớn hơn xác nhận bảo mật này.

3. Cách tiếp cận nào chính xác nhất khi có trí tuệ nhân tạo dự đoán mức tiêu hao nhiên liệu để tối ưu hóa?

• A) Giả sử mô hình tàu chung và yêu cầu mức tiêu thụ nhiên liệu thấp nhất mà không đưa ra ràng buộc
• B) Căn cứ ước tính về đặc tính hoạt động thực tế của tàu và đưa ra các ràng buộc về mặt thương mại - pháp lý ✔
• C) Áp dụng số đầu tiên do trí tuệ nhân tạo đưa ra mà không cần kiểm chứng
• D) Chỉ cần giảm tốc độ là đủ; điều lệ và cửa sổ cảng không liên quan

Giải thích: Dự đoán được đưa ra bằng cách giả định một 'mô hình tàu' chung có thể gây tổn hại nghiêm trọng đến con tàu của bạn. Việc ước tính phải dựa trên đường cong hiệu suất thực tế của tàu (dữ liệu dịch vụ và thử nghiệm trên biển); Ngoài ra, cần đưa ra các hạn chế về mặt pháp lý thương mại như tốc độ thuê tàu tối thiểu và thời gian cập cảng. Các thay đổi cắt/tốc độ cũng được áp dụng với sự chấp thuận của con người ở giới hạn độ ổn định và tình trạng máy.

4. Có thể nói gì về giá trị CII (chỉ báo cường độ carbon) được tính toán bằng trí tuệ nhân tạo?

• A) Có thể kê khai trực tiếp như báo cáo CII chính thức
• B) Đó chỉ là một dự đoán; Báo cáo chính thức được lập theo phương pháp đã được phê duyệt và phải được xác nhận bằng nguồn cập nhật ✔
• C) Điều đó luôn đúng vì trí tuệ nhân tạo tính toán tốt hơn con người
• D) Không cần xác nhận vì ngưỡng phát thải chưa bao giờ thay đổi

Giải thích: Số liệu phát thải như CII là kết quả đầu ra chính thức được tính toán bằng các phương pháp đã được phê duyệt và dữ liệu đã được xác minh. Giá trị do trí tuệ nhân tạo đưa ra chỉ là dự đoán; có thể sử dụng hệ số cũ hoặc tạo ra ảo giác. Nó không thể được sử dụng như một báo cáo chính thức và phải được xác nhận bằng nguồn chính thức cập nhật.

5. Điều gì khiến trí tuệ nhân tạo có giá trị nhất trong việc đánh giá trạng thái thời tiết và biển?

• A) Dựa trên một mô hình duy nhất và đưa ra chiều cao sóng chính xác
• B) Che giấu sự không chắc chắn và trình bày mọi dự đoán là chắc chắn
• C) So sánh các mô hình khác nhau và làm rõ sự tách biệt và sự không chắc chắn ✔
• D) Nó thay thế các cảnh báo hàng hải chính thức và khiến chúng trở nên không cần thiết.

Giải thích: Dự báo thời tiết mang tính xác suất và mức độ quan trọng nhất là sự không chắc chắn. AI có giá trị nhất khi nó so sánh các mô hình khác nhau và làm cho sự khác biệt (và do đó không chắc chắn) có thể nhìn thấy được; Điều này đảm bảo việc lập kế hoạch ở khía cạnh an toàn. Thật nguy hiểm khi che giấu sự không chắc chắn và trình bày dự đoán trung tâm như sự chắc chắn.

6. Nguyên tắc bất biến khi chuẩn bị nội dung bằng trí tuệ nhân tạo cho nhật ký hành trình hoặc báo cáo sự cố chính thức là gì?

• A) Có trí tuệ nhân tạo hoàn thành các chi tiết được ghi nhớ không đầy đủ một cách hợp lý
• B) Chỉ ghi nhận quan sát thực tế; Trí tuệ nhân tạo không thể tạo nên dữ liệu hoặc chi tiết, những chỗ còn thiếu sẽ được đánh dấu ✔
• C) Nếu văn bản trôi chảy, các con số và sự kiện do trí tuệ nhân tạo thêm vào sẽ được chấp nhận mà không cần xác minh.
• D) Trí tuệ nhân tạo có thể ước tính thông tin thời gian, địa điểm, không cần quan sát

Giải thích: Hồ sơ chính thức là bằng chứng pháp lý và nội dung của chúng phải phản ánh chính xác sự thật. Trí tuệ nhân tạo không thể chế tạo thông tin về thời gian, địa điểm, tốc độ và sự kiện; Nó chỉ đơn giản là dịch những quan sát thực tế mà bạn đưa ra thành một câu thích hợp. Chỗ còn thiếu không được lấp đầy bằng 'hư cấu hợp lý', nó được đánh dấu; Trách nhiệm về tính chính xác và chữ ký thuộc về con người. Nếu không, có nguy cơ giả mạo tài liệu.

7. Độ ổn định (GM) và độ bền dọc của tàu được xác định như thế nào trong kế hoạch xếp hàng?

• A) Dựa vào giá trị GM thô và giá trị cắt do trí tuệ nhân tạo đưa ra
• B) Tính toán trên máy tính bốc hàng được phê duyệt và được đại phó/thuyền trưởng phê duyệt ✔
• C) Ước tính bằng kinh nghiệm, không sử dụng bất kỳ công cụ nào
• D) Chỉ xét tổng trọng lượng, không xét tới sự phân bổ trọng lượng

Mô tả: Tính ổn định và sức mạnh là yếu tố quan trọng về mặt an toàn; một sai sót có thể làm lật tàu hoặc làm hỏng thân tàu. Những tính toán này chỉ đến từ máy tính tải đã được phê duyệt và được đại phó/thuyền trưởng phê duyệt. Giá trị GM thô do AI đưa ra không phải là phép tính chính thức; ví dụ, nó có thể bỏ sót tác dụng của chất lỏng tự do và làm cho con tàu có vẻ 'an toàn' một cách sai lầm.

8. Vai trò của trí tuệ nhân tạo trong quy tắc phân loại và xếp chồng hàng hóa nguy hiểm (IMDG) là gì?

• A) Trí tuệ nhân tạo đưa ra quy tắc phân chia chính xác và phương án xếp chồng được áp dụng trực tiếp
• B) Quy tắc phân biệt đối xử được xác định bởi kiến thức chung về trí tuệ nhân tạo, không cần mã chính thức
• C) Trí tuệ nhân tạo hướng dẫn xem phần nào; quy tắc phân tách/xếp chồng chính xác được xác nhận từ Mã IMDG chính thức ✔
• D) Không cần có quy tắc phân chia đối với các tải trọng nguy hiểm, chúng có thể được xếp chồng lên nhau

Giải thích: Nếu để một số chất độc hại cạnh nhau sẽ phản ứng và gây cháy, nổ. AI có thể nhắc nhở bạn nên xem số UN và phần IMDG nào; tuy nhiên, quy tắc phân tách/xếp chồng chính xác phải được xác nhận từ Mã IMDG chính thức. AI có thể đưa ra quy tắc lỗi thời hoặc không chính xác nên mã chính thức sẽ quyết định quyết định cuối cùng.

9. Người ta nên hành động như thế nào khi AI đánh dấu sự bất thường trong dữ liệu cảm biến của máy (ví dụ: độ lệch về nhiệt độ khí thải của xi lanh)?

• A) Tín hiệu được coi là lỗi dứt khoát và thiết bị sẽ dừng ngay lập tức.
• B) Tín hiệu là một giả thuyết; Nó được đánh giá trong bối cảnh, được xác minh thực tế và quyết định chẩn đoán-bảo trì vẫn thuộc về kỹ sư trưởng ✔
• C) Không cần xác minh thêm vì trí tuệ nhân tạo đã nói như vậy
• D) Nếu trí tuệ nhân tạo không nói gì thì coi như thiết bị đó hoàn toàn khỏe mạnh

Giải thích: Trí tuệ nhân tạo cho biết 'có sự bất thường/trục trặc' là một giả thuyết, không phải là chẩn đoán. Độ lệch trước tiên được đánh giá theo bối cảnh (có thể là tải, không khí, thay đổi tốc độ), sau đó được xác minh về mặt vật lý (đọc đồng hồ đo, kiểm tra thiết bị) và quyết định chẩn đoán-bảo trì vẫn thuộc về kỹ sư trưởng. Ngoài ra, sự im lặng của trí tuệ nhân tạo không phải là sự đảm bảo cho việc “không có vấn đề gì”.

10. Sử dụng trí tuệ nhân tạo như thế nào khi có nhiều chuông báo động (báo động lũ lụt) vang lên cùng lúc trong phòng máy và giới hạn của nó là bao nhiêu?

• A) Trí tuệ nhân tạo xác định nguyên nhân gốc rễ và tự động đưa ra quyết định dừng máy
• B) Trí tuệ nhân tạo tạo ra giả thuyết nguyên nhân gốc rễ; giả thuyết đã được xác minh về mặt thực tế và quyết định dừng/can thiệp vẫn thuộc về kỹ sư ✔
• C) Nếu một trong các cảnh báo bị tắt tiếng, các cảnh báo khác cũng sẽ qua, không cần xác minh.
• D) Xếp hạng nguyên nhân cốt lõi của AI là chính xác ngay cả khi dấu thời gian không chính xác

Mô tả: Một lỗi thường gây ra một chuỗi cảnh báo thứ cấp; Nguyên nhân sâu xa là duy nhất. AI có thể sắp xếp nhật ký cảnh báo được đánh dấu thời gian và đưa ra giả thuyết về nguyên nhân gốc rễ. Tuy nhiên, giả thuyết này phải được kiểm chứng bằng các chỉ số vật lý, và các quyết định như dừng máy hay vô hiệu hóa hành trình an toàn thuộc về con người kỹ sư; không thể được tự động hóa.

11. AI nên được sử dụng như thế nào khi luật pháp yêu cầu số bài viết hoặc ngưỡng số chính xác như SOLAS?

• A) Số hạng mục và ngưỡng do trí tuệ nhân tạo đưa ra được ghi trực tiếp vào báo cáo.
• B) Hướng dẫn trí tuệ nhân tạo; Chất và ngưỡng chính xác được đọc và xác nhận từ nguồn chính thức hiện tại ✔
• C) Vì các quy tắc không thay đổi nên kiến thức của trí tuệ nhân tạo luôn được cập nhật.
• D) Nói 'trí tuệ nhân tạo đã nói như vậy' là căn cứ xác đáng trong kiểm toán

Mô tả: Trí tuệ nhân tạo có thể tạo ra một số vật phẩm, ngày tháng hoặc giá trị ngưỡng không thực sự tồn tại (ảo giác) một cách thuyết phục và các quy tắc được cập nhật liên tục. Do đó, AI chỉ được sử dụng như một hướng dẫn về hợp đồng/mã và chủ đề cần xem xét; Phán quyết luôn được đọc từ nguồn chính thức hiện tại. Trong một cuộc kiểm toán, 'trí tuệ nhân tạo đã nói như vậy' không có giá trị.

12. Vai trò của trí tuệ nhân tạo/tự động hóa trong quyết định điều động tránh va chạm trên cầu (COLREG) là gì?

• A) Hệ thống đưa ra lệnh điều động và sĩ quan thực hiện lệnh đó
• B) Hệ thống ưu tiên các mục tiêu và hướng sự chú ý; Quyết định điều động thuộc về sĩ quan và thuyền trưởng trong khuôn khổ COLREG ✔
• C) Chỉ cần dựa vào AIS là đủ; Không cần xác nhận bằng radar và hình ảnh
• D) Sĩ quan có thể rời khỏi quyền kiểm soát vì tự động hóa hoạt động đáng tin cậy

Mô tả: Các hệ thống hiện đại có thể tính toán CPA/TCPA và ưu tiên các mục tiêu; Điều này có giá trị trong việc hướng sự chú ý của viên chức. Tuy nhiên, quyền quyết định điều động - bao nhiêu độ, khi nào, hướng nào - thuộc về người trực ca và thuyền trưởng trong khuôn khổ COLREG và thực hành tốt hàng hải. Ngay cả khi hệ thống thông báo 'vượt qua an toàn', trách nhiệm về vụ va chạm thuộc về sĩ quan thực hiện hoặc không thực hiện thao tác.

13. Tại sao 'tự mãn về tự động hóa' (quá phụ thuộc vào tự động hóa) lại nguy hiểm trên cầu?

• A) Không nguy hiểm; Nếu hệ thống đáng tin cậy thì không cần phải nhìn trực quan.
• B) Nó làm giảm sự chú ý của con người và tạo ra sự phụ thuộc vào một nguồn duy nhất; Thiếu dữ liệu như thuyền không có AIS có thể bị bỏ sót ✔
• C) Đó chỉ là vấn đề vì nó làm tăng mức tiêu thụ nhiên liệu.
• D) Chỉ thấy trên tàu cũ, không có rủi ro trên cầu hiện đại

Giải thích: Khi hệ thống hoạt động đáng tin cậy, sự chú ý của con người có thể giảm sút và quyền kiểm soát có thể bị bỏ rơi. Trong khi đó, một chiếc thuyền nhỏ không có AIS chỉ có thể được nhìn thấy bằng radar và mắt; Hệ thống hoạt động với dữ liệu không đầy đủ. Do đó, radar, AIS, ECDIS và mắt phải xác nhận chéo lẫn nhau và khi các nguồn được tách ra, cần lấy cách giải thích nguy hiểm nhất làm cơ sở.

14. Nguyên tắc nào được áp dụng trước khi nhập vị trí tàu, bản kê khai hàng hóa hoặc thông tin thuyền viên vào công cụ AI?

• A) Dữ liệu nhạy cảm có thể được dán trực tiếp vào dịch vụ công cộng để tăng tốc
• B) Phân loại dữ liệu là không cần thiết; Mọi dữ liệu có thể được nhập vào bất kỳ chiếc xe nào
• C) Dữ liệu nhạy cảm chỉ được xử lý trong các công cụ an toàn, đã được phê duyệt và được che giấu khi cần thiết; các hệ thống quan trọng bị cô lập ✔
• D) Dữ liệu thương mại và phi hành đoàn không nhạy cảm và không cần phải bảo vệ

Giải thích: Dữ liệu được tải lên công cụ AI có thể vượt khỏi tầm kiểm soát. Lộ trình, chi tiết hàng hóa, hợp đồng thương mại và dữ liệu cá nhân của thuyền viên là những thông tin nhạy cảm; Nó chỉ nên được xử lý trong các phương tiện an toàn, đã được phê duyệt và được đeo mặt nạ khi cần thiết. Dán dữ liệu nhạy cảm vào dịch vụ công cộng 'để thuận tiện' là vi phạm nghiêm trọng về bảo mật và quyền riêng tư. Ngoài ra, các hệ thống máy móc/định vị quan trọng đều bị cô lập.

15. Cách hiệu quả nhất để sử dụng AI một cách nhất quán và an toàn từ đầu đến cuối chiến dịch là gì?

• A) Thiết lập một khung phân lớp đặt cổng xác minh con người và hồ sơ quyết định ở mỗi giai đoạn ✔
• B) Giao tất cả các quyết định thám hiểm cho một công cụ AI duy nhất và xem xét phần cuối
• C) Xóa xác minh trung gian về tốc độ và chỉ kiểm tra khi đến nơi
• D) Mỗi cán bộ được tự do sử dụng phương tiện của mình mà không cần lưu giữ các quyết định.

Mô tả: Chuyến đi được coi như một chuỗi, có cổng xác minh con người và điều kiện chuyển tiếp được đặt ở mỗi giai đoạn (lập kế hoạch, hàng không, hàng hóa, máy móc, tài liệu, pháp luật, cầu đường); Bạn không thể đi qua cánh cửa này mà không đi qua cánh cửa khác. Mỗi cánh cửa đều để lại một bản ghi quyết định. Cấu trúc phân lớp này ngăn không cho một lỗi AI nào rò rỉ vào cuộc thám hiểm hoặc báo cáo và mang lại khả năng bảo vệ trong quá trình kiểm tra.