گردش کار پایان به انتها، حاکمیت کشتی-شرکت، امنیت سایبری و استفاده مسئولانه

سود:

• امکان استقرار مداوم هوش مصنوعی در هر مرحله از کمپین، از ابتدا تا انتها، با گیت های تأیید انسانی و سوابق تصمیم گیری
• توانایی ایجاد چارچوب حاکمیت شرکت کشتی شامل لیست خودروهای تایید شده، طبقه بندی داده ها، ادغام ISM، امنیت سایبری (جداسازی سیستم حیاتی، محرمانه بودن داده ها، افزونگی)
• توانایی درج مسئولیت انسانی، شفافیت، اجتناب از ادعاهای بیش از حد، اولویت ایمنی-محیط و اصول رازداری در گردش کار

واحدهای قبلی هوش مصنوعی را به صورت جداگانه در مسیر، سوخت، آب و هوا، اسناد، محموله، نظارت بر ماشین‌آلات، تشخیص، قوانین و پشتیبانی تصمیم‌گیری پل پردازش می‌کردند. این واحد همه چیز را با هم ترکیب می کند: نحوه موقعیت یابی هوش مصنوعی به طور مداوم، قابل کنترل و ایمن از ابتدا تا انتهای یک کمپین. کشتی و شرکت چگونه این را مدیریت می کنند؟ و چگونه خود این ابزارها (داده ها، اتصال، امنیت سایبری) محافظت می شوند؟ هدف ایجاد چارچوبی است که ارزش هوش مصنوعی در دریا را به تصویر بکشد و در عین حال ماهیت حیاتی ایمنی آن را فراموش نکند.

گردش کار پایان به انتها: دروازه های تأیید انسانی

به یک سفر به عنوان یک زنجیره فکر کنید. یک دروازه تأیید انسانی (نقطه ای که در آن انسان قبل از عبور تأیید می کند که یک شرط برقرار است) روی هر حلقه قرار دهید:

1. برنامه ریزی سفر: هوش مصنوعی مسیر/سوخت جایگزین ایجاد می کند → دروازه: کاپیتان UKC/ممنوع و محدودیت ها را در ECDIS تایید و تایید می کند.
2. پایش آب و هوا: خلاصه‌های پیش‌بینی هوش مصنوعی → دروازه: چند منبع + تأییدیه هشدار رسمی، تصمیم برای پناه گرفتن با کاپیتان است.
3. محموله: توصیه انبار YZ ← در: بارگیری کامپیوتر با تاییدیه پایداری/استحکام، تایید افسر ارشد.
4. ماشین: علامت ناهنجاری هوش مصنوعی → در: تأیید فیزیکی، تشخیص و تصمیم گیری تعمیر و نگهداری به عهده مهندس ارشد است.
5. مستندات: نقشه های هوش مصنوعی → گیت: تأیید داده های واقعی و امضا در انسان.
6. قانون‌گذاری: هوش مصنوعی دستور می‌دهد → دروازه: ارائه از منبع رسمی تأیید می‌شود.
7. پل: هوش مصنوعی اولویت بندی می کند → دروازه: تصمیم مانور و ناوبری COLREG در دستان افسر است.

قانون: بدون عبور از یک در، نمی توانید به درب بعدی بروید. این ساختار لایه ای از نشت یک باگ AI به اکسپدیشن یا گزارش جلوگیری می کند. هر دری سابقه ای به جا می گذارد: آنچه پیشنهاد شد، چه کسی آن را تأیید کرد، چه تصمیمی گرفت.

نکته: برای هر استفاده از هوش مصنوعی یک "گزارش تصمیم" کوتاه نگه دارید: کدام ابزار، چه ورودی، چه چیزی هوش مصنوعی گفته است، چگونه تایید شده است، چه کسی آن را تایید کرده است. در بررسی حادثه یا ممیزی، این سابقه از شما محافظت می کند و بهبود مستمر را امکان پذیر می کند.

حاکمیت کشتی-شرکت

ابزارهای هوش مصنوعی نباید به طور تصادفی استفاده شوند، بلکه در یک چارچوب:

• لیست ابزار تایید شده: کدام ابزارهای هوش مصنوعی برای کدام مشاغل مورد تایید هستند؟ داده های حساس در ابزارهای تصادفی و خدمات عمومی آپلود نمی شوند.
• طبقه بندی داده ها: مانیفست بار، مسیر، قراردادهای تجاری، اطلاعات شخصی خدمه حساس هستند. مشخص می شود که کدام داده به کجا می رود.
• نقش و اختیار: چه کسی می تواند در چه تصمیمی از هوش مصنوعی استفاده کند، چه کسی آن را تایید می کند؟ کاپیتان و مهندس ارشد حرف آخر را به وضوح می گویند.
• آموزش: خدمه باید محدودیت های هوش مصنوعی (توهم، ابهام، تایید) را بدانند. نظم و انضباط به جای ابزار آموزش داده می شود.
• یکپارچه سازی ISM: استفاده از هوش مصنوعی به صورت رویه ای به سیستم مدیریت ایمنی کشتی (ISM) اضافه می شود. قابل ممیزی می شود
• تأیید مستمر: عملکرد وسایل نقلیه نظارت می شود. پیشنهادات نادرست ثبت می شود و ابزار یا استفاده مورد بازبینی قرار می گیرد.

امنیت سایبری: یک کشتی بسته یک هدف است

کشتی مدرن یک سیستم متصل است: به روز رسانی ECDIS، ارتباطات ماهواره ای، نظارت از راه دور، خدمات هوش مصنوعی. این اتصال یک سطح حمله است. امنیت سایبری دریایی (همچنین با دستورالعمل های مدیریت ریسک سایبری کشتی IMO و ISM مرتبط است) را نمی توان نادیده گرفت:

• سیستم های ناوبری/ماشین آلات حیاتی را جدا کنید: سیستم هایی مانند ECDIS، کنترل ماشین آلات جدا از اینترنت و ابزارهای هوش مصنوعی نگهداری می شوند.
• حریم خصوصی داده ها: مسیر، محموله و داده های تجاری نباید به سرویس های هوش مصنوعی ناامن درز کند. در صورت لزوم ماسک
• خطر دستکاری: سیگنال GPS/AIS ممکن است جعل باشد. با این داده های خراب، هوش مصنوعی پیشنهادات اشتباهی را ارائه می دهد. امنیت ورودی پیش نیاز امنیت خروجی است.
• افزونگی: اگر سیستم خراب شود یا یک حادثه سایبری رخ دهد، قابلیت ناوبری سنتی (نقشه کاغذی، رویه اصلی) حفظ می شود.

احتیاط: هرگونه داده ای که در ابزار هوش مصنوعی بارگیری می کنید ممکن است خارج از کنترل شما باشد. مکان کشتی، جزئیات محموله، اطلاعات خدمه و اسرار تجاری؛ به صورت تایید شده، ایمن و در صورت لزوم به صورت پوشیده پردازش می شود. چسباندن داده های حساس به یک سرویس عمومی "برای راحتی" نقض جدی امنیت و حریم خصوصی است.

استفاده اخلاقی و مسئولانه

• مسئولیت انسانی: هر تصمیم حیاتی ایمنی توسط یک انسان شایسته گرفته می شود. خروجی هوش مصنوعی جایگزینی برای تایید آن نیست.
• شفافیت: هنگامی که از هوش مصنوعی استفاده می شود (به ویژه در گزارش گیری و تحلیل) صادقانه بیان می شود.
• اجتناب از ادعای زیاد: برآورد مبهم به عنوان قطعیت ارائه نمی شود. میزان اعتماد صادقانه بیان می شود.
• اولویت محیط زیست و ایمنی: سود تجاری هرگز مقدم بر ایمنی دریایی و حفاظت از محیط زیست نیست.
• حریم خصوصی: اطلاعات خدمه و تجاری محافظت می شود.

سه کیف کوچک

مورد 1 - سیستم درب یک خطا را متوقف می کند. در یک کشتی، هوش مصنوعی مسیری را برای صرفه جویی در مصرف سوخت پیشنهاد می کند. اما در "دروازه برنامه ریزی سفر" کاپیتان نقصی در تایید ECDIS می یابد و پیشنهاد را رد می کند. درب پلکانی مانع از عبور حشره به داخل دریا می شود. تصمیم گیری اسنادی را ثبت می کند که فرآیند به درستی کار می کند.

مورد 2 - از نشت داده ها جلوگیری می شود. افسری قصد دارد مانیفست محموله را در یک سرویس هوش مصنوعی عمومی بچسباند. خط مشی شرکت (ابزار تایید شده + پوشش) از این امر جلوگیری می کند. داده های کسب و کار محافظت می شود. درس: چارچوب حاکمیتی از رفتار با نیت خوب اما پرخطر جلوگیری می کند.

مورد 3 - سیگنال جعلی GPS. جعل GPS در یک منطقه رخ می دهد. هوش مصنوعی تصحیح دوره نادرست با داده های مکان خراب را توصیه می کند. این تیم با روش‌های مستقل (رادار، چشم، بلبرینگ متقاطع) مکان را تأیید می‌کند، متوجه انحراف می‌شود و پیشنهاد هوش مصنوعی را رد می‌کند. درس: اگر ورودی خراب است، خروجی نیز خراب است. تأیید مستقل و افزونگی جان انسان ها را نجات می دهد.

چهار قالب قابل کپی

1) ممیزی استفاده از هوش مصنوعی پایان کمپین:

این بار از هوش مصنوعی برای: [list] استفاده کردم. یک جدول ثبت تصمیم برای هر کدام تهیه کنید: کار، ابزار مورد استفاده، ورودی، خروجی هوش مصنوعی، نحوه تأیید، تأیید چه کسی، نتیجه. هر موردی را که گم شده/تأیید نشده است علامت بزنید.

2) پیش نویس خط مشی استفاده از هوش مصنوعی:

پیش نویس رویه «استفاده مسئولانه از هوش مصنوعی» را برای کشتی ما بنویسید: ابزارهای تأیید شده، طبقه بندی داده ها، تأیید تصمیم گیری، الزام تأیید، امنیت سایبری و قوانین حریم خصوصی. توجه: این پیش نویس توسط تیم DPA/ISM شرکت تایید خواهد شد.

3) کنترل پوشش داده ها:

قبل از وارد کردن متن زیر در ابزار هوش مصنوعی، داده های حساس را بررسی کنید: [متن]. مکان کشتی، جزئیات محموله، اطلاعات شخصی، اسرار تجاری و نحوه پنهان کردن آن را پیشنهاد دهید. اگر مطمئن نیستید، بگویید "ورود نکنید، ابتدا بررسی کنید".

4) سناریوی تمرین سایبری/ افزونگی:

ایجاد یک حادثه سایبری یا سناریوی سقوط سیستم در سیستم های پل/ماشین؛ یک طرح تمرینی 5 مرحله ای و سؤالات بحث بنویسید که به خدمه کمک می کند تا انتقال خود را به مدیریت ناوبری/موتور سنتی تمرین کنند.

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

چگونه از هوش مصنوعی در کشتی استفاده کنم؟

خیلی کلی؛ هیچ بعد امنیتی، داده، حاکمیت و تأیید وجود ندارد.

اعلان قدرتمند:

نقش شما: مشاور دیجیتالی سازی کشتی. نوع کشتی [x]، شرکت وابسته به مدیریت ناوگان. وظیفه: پیش نویس یک چارچوب سرتاسری برای استفاده از هوش مصنوعی در مسیر، سوخت، ردیابی ماشین آلات و مستندسازی: دروازه تایید انسانی در هر مرحله، قوانین خودرو و داده های تایید شده، اقدامات امنیت سایبری، ضبط تصمیم. تاکید کنید که تصمیمات حیاتی ایمنی همچنان انسانی باقی می مانند و هوش مصنوعی جایگزینی برای تایید نیست. مناطقی که نامشخص هستند/نیاز به تایید شرکت دارند را علامت بزنید.

نیاز به گیت‌ها، حاکمیت و امنیت سایبری باعث می‌شود که خروجی برای شرکت قابل استفاده باشد.

میز فریم سرتاسر

مرحله

سهم هوش مصنوعی

دروازه تأیید انسانی

برنامه ریزی اکسپدیشن

مسیر/سوخت جایگزین

تایید کاپیتان ECDIS

پایش آب و هوا

خلاصه پیش بینی

چند منبع + کاپیتان

محموله

توصیه پشته

بارگیری کامپیوتر + افسر 1

دستگاه

علامت ناهنجاری

تایید فیزیکی + مهندس ارشد

مستندات

پیش نویس

داده واقعی + امضا

قانون گذاری

تغییر مسیر

تایید منبع رسمی

پل

اولویت بندی

تصمیم COLREG، افسر

اشتباهات رایج

• دور زدن گیت های تایید حذف تأییدیه‌های میانی برای سرعت باعث می‌شود که خطای منفرد به اکسپدیشن نشت کند.
• عدم ثبت تصمیمات در صورت عدم وجود سابقه، دفاع و بهبود در ممیزی و تحقیق مشکل می شود.
• دادن داده های حساس به یک ابزار ناامن مسیر، بارگذاری، داده های شخصی با تأیید و پوشش پردازش می شوند.
• سیستم های بحرانی را ایزوله نمی کند. کنترل ECDIS/ماشین جدا از اینترنت و ابزارهای هوش مصنوعی نگهداری می شود.
• غفلت از افزونگی قابلیت ناوبری متعارف باید در سیستم/حادثه سایبری حفظ شود.
• قرار دادن سود تجاری بر ایمنی ایمنی و محیط زیست همیشه در اولویت هستند.

به طور خلاصه

کلید استفاده از هوش مصنوعی در دریانوردی یک چارچوب لایه لایه است که یک دروازه تأیید انسانی و یک رکورد تصمیم در هر مرحله قرار می دهد. این چارچوب با حاکمیت شرکت کشتی (ابزار تایید شده، طبقه‌بندی داده‌ها، نقش، آموزش، یکپارچه‌سازی ISM)، امنیت سایبری (جداسازی سیستم‌های حیاتی، محرمانه بودن داده‌ها، امنیت ورودی، افزونگی) و اصول استفاده مسئولانه (مسئولیت انسانی، شفافیت، اجتناب از ادعای بیش از حد، اولویت ایمنی، اطمینان) تکمیل می‌شود. هوش مصنوعی ارزش واقعی در حمل و نقل ایجاد می کند. اما تصمیمات حیاتی ایمنی همیشه در اختیار یک انسان صالح است و خروجی هوش مصنوعی جایگزین این تایید نمی شود.

وظیفه کاربردی

یک اکسپدیشن شروع تا پایان را برای کشتی خود در نظر بگیرید. برای هر مرحله (برنامه ریزی، هوا، محموله، ماشین آلات، اسناد، مقررات، پل)، جدول یک خطی "هوش مصنوعی چه می کند / دروازه انسانی چیست / چگونه تأیید کنم / چه کسی تایید می کند" را پر کنید. سپس یک «پوشش داده» و یک معیار «سایبری/زیادی» اضافه کنید. در نهایت، یک الگو از رکورد تصمیمی که این بار حفظ خواهید کرد ایجاد کنید.

چک لیست

• [ ] در هر مرحله یک دروازه تأیید انسانی قرار دادم.
• [ ] من یک رکورد از تصمیمات برای هر استفاده از هوش مصنوعی نگه داشتم.
• [ ] من از ابزار تایید شده و قوانین طبقه بندی داده ها تبعیت کرده ام. من از داده های حساس محافظت کردم/نقاب زدم.
• [ ] من سیستم های ناوبری/ماشین آلات حیاتی را جدا کردم و قابلیت افزونگی را حفظ کردم.
• [ ] من اطمینان داده ام که تصمیمات حیاتی امنیتی توسط یک انسان شایسته گرفته می شود و جایگزینی برای تایید AI نیست.

امتحان ماژول

1. کدام یک از موارد زیر دقیق ترین موقعیت یابی هوش مصنوعی در دریانوردی است؟

• الف) هوش مصنوعی یک ابزار پشتیبانی تصمیم است. مسئولیت تصمیمات حیاتی ایمنی مانند تایید مسیر، مانور و تصمیمات ماشین آلات بر عهده کاپیتان و مهندس ارشد است ✔
• ب) از آنجایی که هوش مصنوعی نسبت به انسان در دریا قابل اعتمادتر است، تصمیم گیری در مورد مسیر و مانور باید به آن واگذار شود.
• ج) هوش مصنوعی فقط در خلاصه سازی متن کار می کند، ربطی به ناوبری و کار ماشینی ندارد
• د) هوش مصنوعی می تواند مسیر را وارد ECDIS کرده و بدون تایید انسان آن را اجرا کند

توضیحات: دریانوردی یک منطقه امنیتی بحرانی است. هوش مصنوعی یک ابزار پشتیبانی تصمیم است که باعث صرفه جویی در زمان در مسیر، سوخت، آب و هوا، اسناد، نظارت بر ماشین و قوانین می شود. با این حال، این کاپیتان و مهندس ارشد هستند که از نظر قانونی مسئول ایمنی دریایی، محیط زیست و امنیت اموال هستند. مانور، توقف ماشین و تصمیمات اضطراری انسانی است و خروجی هوش مصنوعی جایگزینی برای تایید متخصص صالح نیست.

2. مهم ترین گامی که باید قبل از اجرای مسیر جایگزین پیشنهاد شده توسط هوش مصنوعی برداشته شود چیست؟

• الف) مسیر را در برابر مناطق ممنوعه در ECDIS و UKC بررسی کنید و توسط کاپیتان تایید کنید ✔
• ب) اجرای مستقیم، عدم انجام بررسی های اضافی، همانطور که هوش مصنوعی آن را محاسبه می کند
• ج) مطمئن شوید که فقط کوتاه ترین فاصله را انتخاب می کنید
• د) جابجایی به موردی که بیشترین صرفه جویی در مصرف سوخت را دارد بدون اینکه اصلاً مسیر را بررسی کنید

توضیحات: مسیر تولید شده توسط هوش مصنوعی یک پیش نویس است و در نقشه رسمی تایید نشده است. هیچ مسیری بدون بررسی ECDIS برای مناطق ممنوعه و ترخیص فرعی (UKC) در جزر و مد انجام نمی شود. صرفه جویی در زمان/سوخت هرگز نمی تواند بیشتر از این تاییدیه امنیتی باشد.

3. دقیق ترین رویکرد هنگام پیش بینی مصرف هوش مصنوعی برای بهینه سازی سوخت چیست؟

• الف) فرض یک مدل کلی کشتی و درخواست کمترین مصرف سوخت بدون ارائه محدودیت
• ب) بر اساس برآورد منحنی عملکرد واقعی کشتی و ارائه محدودیت های تجاری- قانونی ✔
• ج) استفاده از اولین عدد داده شده توسط هوش مصنوعی بدون تایید آن
• د) فقط کاهش سرعت کافی است. چارتر و پنجره بندر بی ربط هستند

توضیح: پیش بینی تولید شده با فرض یک "مدل کشتی" عمومی ممکن است در کشتی شما به طور جدی توهین شود. برآورد باید بر اساس منحنی عملکرد واقعی کشتی (داده های آزمایشی و خدماتی دریایی) باشد. علاوه بر این، محدودیت های تجاری- قانونی مانند حداقل سرعت چارتر و پنجره بندر باید داده شود. تغییرات تریم/سرعت نیز با تایید انسان در حد پایداری و سلامت ماشین اعمال می شود.

4. در مورد مقدار CII (شاخص شدت کربن) محاسبه شده توسط هوش مصنوعی چه می توان گفت؟

• الف) می تواند به طور مستقیم به عنوان گزارش رسمی CII اعلام شود
• ب) فقط یک پیش بینی است. گزارش رسمی با روش تایید شده تهیه شده و باید با منبع به روز تایید شود ✔
• ج) همیشه درست است زیرا محاسبه هوش مصنوعی بهتر از انسان است
• د) نیازی به تایید نیست زیرا آستانه انتشار هرگز تغییر نکرده است

توضیح: ارقام انتشار مانند CII خروجی های رسمی هستند که با روش های تایید شده و داده های تایید شده تولید می شوند. مقدار داده شده توسط هوش مصنوعی فقط یک پیش بینی است. می تواند از ضریب قدیمی استفاده کند یا توهم ایجاد کند. نمی توان از آن به عنوان یک گزارش رسمی استفاده کرد و باید با یک منبع رسمی به روز تأیید شود.

5. چه چیزی هوش مصنوعی را در ارزیابی وضعیت آب و هوا و دریا ارزشمندتر می کند؟

• الف) بر اساس یک مدل واحد و دادن ارتفاع موج دقیق
• ب) پنهان کردن عدم قطعیت و ارائه هر پیش بینی به عنوان قطعیت
• ج) مقایسه مدل های مختلف و نمایان ساختن تفکیک و عدم قطعیت ✔
• د) جایگزین هشدارهای رسمی دریایی می شود و آنها را غیر ضروری می کند.

توضیح: پیش بینی آب و هوا احتمالی است و مهم ترین بزرگی آن عدم قطعیت است. هوش مصنوعی زمانی ارزشمندتر است که مدل های مختلف را با هم مقایسه می کند و واگرایی (و در نتیجه عدم قطعیت) را قابل مشاهده می کند. این برنامه ریزی در سمت امن را تضمین می کند. مخفی کردن عدم قطعیت و ارائه پیش بینی مرکزی به عنوان قطعیت خطرناک است.

6. هنگام تهیه محتوا با هوش مصنوعی برای گزارش کروز یا گزارش رسمی حادثه، اصل ثابت چیست؟

• الف) داشتن هوش مصنوعی جزئیات ناقص به خاطر سپرده شده را به شیوه ای معقول کامل کند
• ب) فقط مشاهدات واقعی ثبت می شود. هوش مصنوعی نمی تواند داده ها یا جزئیات را بسازد، مکان های گم شده علامت گذاری شده اند ✔
• ج) در صورت روان بودن متن، اعداد و رویدادهای اضافه شده توسط هوش مصنوعی بدون تایید پذیرفته می شود.
• د) هوش مصنوعی می تواند اطلاعات زمان و مکان را تخمین بزند، نیازی به مشاهده نیست

توضیح: سوابق رسمی دلیل قانونی است و محتوای آنها باید دقیقاً مطابق با حقیقت باشد. هوش مصنوعی نمی تواند اطلاعات زمان، مکان، سرعت و رویداد را بسازد. این به سادگی مشاهده واقعی شما را به یک جمله مناسب ترجمه می کند. مکان گم شده با «داستان معقول» پر نشده است، مشخص شده است. مسئولیت صحت و امضا بر عهده انسان است. در غیر این صورت خطر جعل اسناد وجود دارد.

7. پایداری (GM) و استحکام طولی کشتی در طرح بارگیری چگونه باید تعیین شود؟

• الف) با تکیه بر GM و ارزش اصلاحی که توسط هوش مصنوعی داده شده است
• ب) محاسبه شده بر روی کامپیوتر بارگیری تایید شده و تایید شده توسط افسر ارشد/کاپیتان ✔
• ج) بر اساس تجربه، بدون استفاده از ابزار برآورد شده است
• د) تنها نگاهی به وزن کل، بدون در نظر گرفتن توزیع وزن

توضیحات: ثبات و استحکام از نظر ایمنی بسیار مهم است. یک اشتباه می تواند کشتی را واژگون کند یا به بدنه آسیب برساند. این محاسبات فقط از رایانه بارگیری تأیید شده است و توسط افسر ارشد / کاپیتان تأیید می شود. مقدار تقریبی GM ارائه شده توسط هوش مصنوعی یک محاسبه رسمی نیست. به عنوان مثال، ممکن است اثر مایع آزاد را از دست بدهد و کشتی را به طور کاذب "ایمن" نشان دهد.

8. نقش هوش مصنوعی در قوانین جداسازی و چیدمان محموله های خطرناک (IMDG) چگونه باید باشد؟

• الف) هوش مصنوعی قانون جداسازی دقیق را می دهد و طرح انباشتگی مستقیما اعمال می شود
• ب) قوانین تبعیض توسط دانش عمومی هوش مصنوعی تعیین می شود، هیچ کد رسمی لازم نیست
• ج) هوش مصنوعی راهنمایی می کند که کدام بخش را باید نگاه کرد. قانون جداسازی/انباشتگی دقیق از کد رسمی IMDG تأیید شده است ✔
• د) هیچ قانون جداسازی برای بارهای خطرناک لازم نیست، همه آنها را می توان در کنار هم قرار داد

توضیح: اگر برخی از مواد خطرناک در کنار هم قرار گیرند، ممکن است واکنش نشان دهند و باعث آتش سوزی یا انفجار شوند. هوش مصنوعی می تواند به شما یادآوری کند که کدام شماره سازمان ملل و بخش IMDG را ببینید. با این حال، قانون دقیق جداسازی/انباشتگی باید از کد رسمی IMDG تأیید شود. هوش مصنوعی ممکن است یک قانون قدیمی یا نادرست ارائه دهد، بنابراین کد رسمی تصمیم نهایی را تعیین می کند.

9. هنگامی که هوش مصنوعی یک ناهنجاری در داده های حسگر ماشین (مثلاً انحراف در دمای اگزوز یک سیلندر) را نشان می دهد، چگونه باید عمل کرد؟

• الف) سیگنال خطای قطعی در نظر گرفته شده و تجهیزات فورا متوقف می شود.
• ب) سیگنال یک فرضیه است. در زمینه ارزیابی می شود، از نظر فیزیکی تأیید می شود و تصمیم تشخیص و نگهداری با مهندس ارشد باقی می ماند ✔
• ج) نیازی به تایید اضافی نیست زیرا هوش مصنوعی می گوید
• د) اگر هوش مصنوعی چیزی نگوید، فرض بر این است که تجهیزات کاملا سالم هستند

توضیح: هوش مصنوعی که می‌گوید «یک ناهنجاری/عیب وجود دارد» یک فرضیه است، نه یک تشخیص. انحراف ابتدا در زمینه ارزیابی می شود (ممکن است بار، هوا، تغییر سرعت باشد)، سپس از نظر فیزیکی تأیید می شود (خواندن گیج، بررسی تجهیزات) و تصمیم تشخیص و تعمیر و نگهداری با مهندس ارشد باقی می ماند. علاوه بر این، سکوت هوش مصنوعی تضمینی برای «بدون مشکل» نیست.

10. چگونه از هوش مصنوعی هنگام به صدا در آمدن چندین آلارم (سیل آلارم) همزمان در موتورخانه استفاده کنیم و حد آن چقدر است؟

• الف) هوش مصنوعی علت اصلی را مشخص می کند و به طور خودکار تصمیم به توقف دستگاه می گیرد
• ب) هوش مصنوعی فرضیه علت اصلی را ایجاد می کند. فرضیه از نظر فیزیکی تأیید می شود و تصمیم برای توقف/مداخله با مهندس باقی می ماند ✔
• ج) اگر یکی از آلارم ها خاموش شود، بقیه نیز عبور می کنند، نیازی به تایید نیست.
• د) رتبه‌بندی علت اصلی هوش مصنوعی حتی اگر مهر زمانی نادرست باشد، دقیق است

توضیحات: یک خطا اغلب باعث ایجاد زنجیره ای از آلارم های ثانویه می شود. علت اصلی مجرد است. هوش مصنوعی می‌تواند فهرست هشدارهای دارای مهر زمانی را مرتب کند و یک فرضیه علت اصلی ایجاد کند. با این حال، این فرضیه باید توسط شاخص های فیزیکی تأیید شود و تصمیماتی مانند توقف دستگاه یا غیرفعال کردن سفر ایمنی متعلق به مهندس انسانی است. را نمی توان خودکار کرد.

11. هنگامی که یک شماره مقاله یا آستانه عددی دقیق در قوانینی مانند SOLAS مورد نیاز است، چگونه باید از هوش مصنوعی استفاده شود؟

• الف) شماره آیتم و آستانه ارائه شده توسط هوش مصنوعی مستقیماً در گزارش نوشته می شود.
• ب) راهنمای هوش مصنوعی. ماده و آستانه دقیق از منبع رسمی فعلی خوانده و تأیید می شود ✔
• ج) از آنجایی که قوانین تغییر نمی کنند، دانش هوش مصنوعی همیشه به روز است.
• د) گفتن «هوش مصنوعی گفته است» مبنای معتبری در حسابرسی است

توضیحات: هوش مصنوعی می‌تواند به طور قانع‌کننده‌ای یک عدد، تاریخ یا مقدار آستانه‌ای را بسازد که واقعاً وجود ندارد (توهم) و قوانین دائماً به‌روزرسانی می‌شوند. بنابراین، هوش مصنوعی تنها به‌عنوان راهنمایی برای بررسی قرارداد/کد و موضوع مورد استفاده قرار می‌گیرد. حکم همیشه از منبع رسمی فعلی خوانده می شود. در یک حسابرسی، «هوش مصنوعی چنین گفته است» اعتباری ندارد.

12. نقش هوش مصنوعی/اتوماسیون در تصمیم گیری مانور جلوگیری از برخورد پل (COLREG) چیست؟

• الف) سیستم دستور مانور را می دهد و افسر آن را اجرا می کند
• ب) سیستم اهداف را اولویت بندی می کند و توجه را جهت می دهد. تصمیم مانور متعلق به افسر و کاپیتان در چارچوب COLREG ✔
• ج) تکیه بر AIS کافی است. تایید رادار و بصری لازم نیست
• د) افسر می تواند کنترل را ترک کند زیرا اتوماسیون به طور قابل اعتماد کار می کند

توضیحات: سیستم های مدرن می توانند CPA/TCPA را محاسبه کرده و اهداف را اولویت بندی کنند. این برای جلب توجه افسر ارزشمند است. با این حال، تصمیم برای مانور - چند درجه، کی، کدام جهت - متعلق به افسر دیده بان و ناخدا در چارچوب COLREG و تمرین خوب دریایی است. حتی اگر سیستم بگوید "ایمن عبور کنید"، مسئولیت برخورد با افسری است که مانور را انجام داده یا انجام نداده است.

13. چرا «خود راضی بودن اتوماسیون» (اتکای بیش از حد به اتوماسیون) روی پل خطرناک است؟

• الف) خطرناک نیست. اگر سیستم قابل اعتماد باشد، نیازی به نگاه بصری نیست.
• ب) توجه انسان را کاهش می دهد و به یک منبع وابستگی ایجاد می کند; داده‌های گمشده مانند قایق بدون AIS ممکن است نادیده گرفته شود ✔
• ج) فقط به این دلیل که مصرف سوخت را افزایش می دهد مشکل ساز است.
• د) فقط در کشتی های قدیمی دیده می شود، هیچ خطری در پل های مدرن وجود ندارد

توضیح: همانطور که سیستم ها به طور قابل اعتماد عمل می کنند، توجه انسان ممکن است کاهش یابد و کنترل ممکن است رها شود. در حالی که یک قایق کوچک بدون AIS فقط برای رادار و چشم قابل مشاهده است. سیستم با داده های ناقص کار می کند. بنابراین، رادار، AIS، ECDIS و چشم باید یکدیگر را تایید کنند و زمانی که منابع از هم جدا می شوند، خطرناک ترین تفسیر را مبنا قرار دهند.

14. قبل از وارد کردن اطلاعات مکان کشتی، مانیفست محموله یا اطلاعات خدمه در ابزار هوش مصنوعی چه اصلی اعمال می شود؟

• الف) داده های حساس را می توان مستقیماً برای سرعت در یک سرویس عمومی قرار داد
• ب) طبقه بندی داده ها غیر ضروری است. هر داده ای را می توان در هر وسیله نقلیه ای وارد کرد
• ج) داده های حساس فقط در ابزارهای تایید شده و ایمن پردازش می شوند و در صورت لزوم پوشانده می شوند. سیستم های بحرانی جدا شده اند ✔
• د) اطلاعات خدمه و تجاری حساس نیستند و نیازی به محافظت ندارند

توضیح: داده های آپلود شده در ابزار هوش مصنوعی می تواند از کنترل خارج شود. مسیر، جزئیات محموله، قراردادهای تجاری و اطلاعات شخصی خدمه حساس هستند. فقط باید در وسایل نقلیه تایید شده و ایمن پردازش شود و در صورت لزوم ماسک شود. چسباندن داده های حساس به یک سرویس عمومی "برای راحتی" نقض جدی امنیت و حریم خصوصی است. علاوه بر این، سیستم های ناوبری/ماشین آلات حیاتی جدا شده اند.

15. موثرترین راه برای استفاده مداوم و ایمن از هوش مصنوعی از ابتدا تا انتهای کمپین چیست؟

• الف) یک چارچوب لایه ای ایجاد کنید که در هر مرحله یک دروازه تأیید انسانی و رکورد تصمیم گیری قرار می دهد
• ب) تفویض تمام تصمیمات اعزامی به یک ابزار هوش مصنوعی و نگاهی به پایان
• ج) تأییدیه های میانی را برای سرعت حذف کنید و فقط هنگام ورود بررسی کنید
• د) هر افسر می تواند آزادانه از وسیله نقلیه خود بدون ثبت تصمیمات استفاده کند.

توضیحات: سفر به عنوان یک زنجیره در نظر گرفته می شود، با یک دروازه تأیید انسانی و یک شرایط انتقال در هر مرحله (برنامه ریزی، هوا، محموله، ماشین آلات، اسناد، قانون، پل). شما نمی توانید از یک در بدون عبور از در دیگری عبور کنید. هر دری سابقه تصمیم گیری را به جا می گذارد. این ساختار لایه لایه از نشت یک خطای AI به اکسپدیشن یا گزارش جلوگیری می کند و قابلیت دفاع را در ممیزی فراهم می کند.