זרימת עבודה מקצה לקצה, ממשל ספינה-חברה, אבטחת סייבר ושימוש אחראי

רווחים:

• יכולת לפרוס AI באופן עקבי בכל שלב של הקמפיין, מתחילתו ועד סופו, עם שערי אימות אנושיים ורשומות החלטות
• יכולת להקים מסגרת ממשל של חברת ספינה הכוללת רשימת רכבים מאושרים, סיווג נתונים, אינטגרציה של ISM, אבטחת סייבר (בידוד מערכת קריטית, סודיות נתונים, יתירות)
• יכולת להטמיע אחריות אנושית, שקיפות, הימנעות מתביעות מוגזמות, עדיפות בטיחות-סביבה ועקרונות סודיות בזרימת העבודה

יחידות קודמות עיבדו AI בנפרד במסלול, דלק, מזג אוויר, תיעוד, מטען, ניטור מכונות, אבחון, חקיקה ותמיכה בהחלטות גשר. יחידה זו משלבת את הכל: כיצד למקם AI באופן עקבי, בקרה ובטוח מתחילתו ועד סופו של מסע פרסום. איך הספינה והחברה מנהלות את זה? ואיך הכלים הללו עצמם (נתונים, קישוריות, אבטחת סייבר) מוגנים? המטרה היא להקים מסגרת שתופסת את הערך של בינה מלאכותית בים ולעולם לא לשכוח את אופיו הקריטי לבטיחות.

זרימת עבודה מקצה לקצה: שערי אימות אנושיים

חשבו על משלחת כעל שרשרת; שים שער אימות אנושי (הנקודה שבה אדם מאשר שתנאי מתקיים לפני שהוא עובר) על כל טבעת:

1. תכנון מסע: בינה מלאכותית מייצרת מסלול/אלטרנטיבה לדלק ← שער: הקפטן מאשר ומאשר את UKC/no-go והגבלות ב-ECDIS.
2. ניטור מזג האוויר: סיכומי תחזיות AI ← שער: ריבוי מקורות + אישור אזהרה רשמי, ההחלטה לתפוס מחסה היא בידי הקפטן.
3. מטען: המלצת אחסון YZ ← דלת: מחשב טעינה עם אישור יציבות/חוזק, אישור קצין ראשי.
4. מכונה: סימן אנומליה של AI ← דלת: אימות פיזי, אבחון ותחזוקה נתון בידי המהנדס הראשי.
5. תיעוד: שרטוטי בינה מלאכותית ← שער: אימות נתונים אמיתיים וחתימה באדם.
6. חקיקה: בינה מלאכותית מכוונת ← שער: הפרשה מאומתת מהמקור הרשמי.
7. גשר: סדרי עדיפויות בינה מלאכותית ← שער: תמרון COLREG והחלטת הניווט נמצאים בידיו של הקצין.

כלל: בלי לעבור דלת אחת, אתה לא יכול לעבור לשנייה. מבנה שכבות זה מונע מבאג בינה מלאכותית יחיד לדלוף אל המשלחת או הדוח. כל דלת משאירה תיעוד: מה הוצע, מי אישר, מה הוחלט.

טיפ: שמור "יומן החלטות" קצר עבור כל שימוש בבינה מלאכותית: איזה כלי, איזה קלט, מה ה-AI אמר, איך הוא אומת, מי אישר אותו. בחקירת תאונות או ביקורת, רישום זה מגן עליך ומאפשר שיפור מתמיד.

ממשל חברת ספינות

אין להשתמש בכלי AI באופן אקראי, אלא במסגרת:

• רשימת כלים מאושרים: אילו כלי AI מאושרים לאילו עבודות? נתונים רגישים אינם מועלים לכלים אקראיים ולשירותים ציבוריים.
• סיווג נתונים: מניפסט הובלה, מסלול, חוזים מסחריים, נתונים אישיים של הצוות הם רגישים; מוגדר אילו נתונים הולכים לאן.
• תפקיד וסמכות: מי יכול להשתמש בבינה מלאכותית באיזו החלטה, מי מאשר אותה? לקפטן ולמהנדס הראשי יש דבר אחרון ברור.
• הדרכה: הצוות חייב לדעת את גבולות הבינה המלאכותית (הזיה, אי בהירות, אימות); משמעת נלמדת ולא כלים.
• אינטגרציה של ISM: השימוש ב-AI מתווסף באופן פרוצדורלי למערכת ניהול הבטיחות של הספינה (ISM); הופך לביקורת.
• אימות רציף: ביצועי הרכבים מנוטרים; הצעות שגויות נרשמות והכלי או השימוש מתוקנים.

אבטחת סייבר: ספינה קשורה היא יעד

הספינה המודרנית היא מערכת מחוברת: עדכוני ECDIS, תקשורת לוויינית, ניטור מרחוק, שירותי בינה מלאכותית. חיבור זה הוא משטח התקפה. אי אפשר להזניח את אבטחת הסייבר הימית (הקשורה גם להנחיות ניהול סיכוני הסייבר של IMO ול-ISM):

• לבודד מערכות ניווט/מכונות קריטיות: מערכות כגון ECDIS, בקרת מכונות נשמרות בנפרד מהאינטרנט וכלי AI.
• פרטיות נתונים: אסור לדלוף נתוני מסלול, מטען ונתונים מסחריים לשירותי AI לא מאובטחים; מסכה במידת הצורך.
• סיכון של מניפולציה: אות GPS/AIS עשוי להיות זיוף; עם הנתונים הפגומים האלה, ה-AI מייצר הצעות שגויות. אבטחת קלט היא תנאי מוקדם לאבטחת פלט.
• יתירות: אם המערכת קורסת או מתרחשת תקרית סייבר, נשמרת יכולת הניווט המסורתית (מפת נייר, נוהל בסיסי).

זהירות: כל נתונים שאתה טוען לתוך כלי AI עלול להיות מחוץ לשליטתך. מיקום הספינה, פרטי מטען, מידע צוות וסודות מסחריים; מעובד בצורה מאושרת, בטוחה, ובמידת הצורך, רעולי פנים. הדבקת נתונים רגישים לשירות ציבורי "מטעמי נוחות" היא פגיעה חמורה באבטחה ובפרטיות.

שימוש אתי ואחראי

• אחריות אנושית: כל החלטה קריטית לבטיחות מתקבלת על ידי אדם מוכשר; הפלט של ה-AI אינו תחליף לאישורו.
• שקיפות: כאשר נעשה שימוש ב-AI (במיוחד בדיווח וניתוח) זה נאמר בכנות.
• הימנעות מתביעת יתר: אומדן מעורפל אינו מוצג כוודאות; רמת האמון באה לידי ביטוי ביושר.
• עדיפות סביבה ובטיחות: רווח מסחרי לעולם לא בא לפני בטיחות ימית והגנת הסביבה.
• פרטיות: הצוות והנתונים המסחריים מוגנים.

שלושה מיני תיקים

מקרה 1 - מערכת הדלת עוצרת שגיאה. בספינה, AI מציע מסלול לחיסכון בדלק אטרקטיבי; אך ב"שער תכנון המסע" מוצא הקפטן פגם באישור ה-ECDIS ודוחה את ההצעה. הדלת המדורגת מונעת מהבאג לעבור לים. רישום ההחלטה מתעד שהתהליך פועל כשורה.

מקרה 2 - מניעת דליפת נתונים. קצין עומד להדביק את מניפסט המטען בשירות AI ציבורי; מדיניות החברה (כלי מאושר + מיסוך) מונעת זאת. הנתונים העסקיים מוגנים. לקח: מסגרת ממשל מונעת התנהגות עם כוונות טובות אך מסוכנת.

מקרה 3 - אות GPS מזויף. זיוף GPS מתרחש באזור; AI ממליצה על תיקון מסלול שגוי עם נתוני מיקום פגומים. הצוות מאשר את המיקום בשיטות עצמאיות (רדאר, עין, נישא צולב), מבחין בסטייה ודוחה את הצעת הבינה המלאכותית. לקח: אם הקלט פגום, גם הפלט פגום; אימות עצמאי ויתירות מצילים חיים.

ארבע תבניות הניתנות להעתקה

1) ביקורת שימוש בבינה מלאכותית של מסע פרסום:

הפעם השתמשתי בבינה מלאכותית עבור: [רשימה]. נסח טבלת רישום החלטות עבור כל אחד מהם: עבודה, כלי בשימוש, קלט, פלט בינה מלאכותית, אופן אימות, מי אישר, תוצאה. סמן כל מה שנותר חסר/לא מאומת.

2) טיוטת מדיניות שימוש ב-AI:

כתוב טיוטה של נוהל "שימוש אחראי ב-AI" עבור הספינה שלנו: כלים מאושרים, סיווג נתונים, מי מאשר איזו החלטה, חובת אימות, כללי אבטחת סייבר ופרטיות. הערה: טיוטה זו תאושר על ידי צוות DPA/ISM של החברה.

3) בקרת מיסוך נתונים:

בדוק אם יש נתונים רגישים לפני הזנת הטקסט הבא לכלי AI: [טקסט]. הצע מיקום ספינה, פרטי מטען, נתונים אישיים, סוד מסחרי וכיצד אוכל להסוות אותו. אם אינך בטוח, אמור "אל תיכנס, תבדוק קודם".

4) תרחיש תרגיל סייבר/יתירות:

הפקת תקרית סייבר או תרחיש קריסת מערכת במערכות גשר/מכונה; כתוב מתווה תרגיל בן 5 שלבים ושאלות דיון שיעזרו לצוות לתרגל את המעבר לניווט/ניהול מנוע מסורתי.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

איך אני משתמש בבינה מלאכותית בספינה?

מאוד כללי; אין ממד אבטחה, נתונים, ממשל ואימות.

הנחיה עוצמתית:

התפקיד שלך: יועץ דיגיטליזציה. סוג ספינה [x], חברה הקשורה לניהול צי. משימה: נסח מסגרת מקצה לקצה לשימוש בבינה מלאכותית במסלול, דלק, מעקב אחר מכונות ותיעוד: שער אימות אנושי בכל שלב, כללי רכב ונתונים מאושרים, אמצעי אבטחת סייבר, רישום החלטות. הדגישו שהחלטות קריטיות לבטיחות נשארות אנושיות ובינה מלאכותית אינה מהווה תחליף לאישור. סמן אזורים שאינם ברורים/דורשים אישור חברה.

דרישת שערים, ממשל ואבטחת סייבר הופכת את הפלט לשימוש ארגוני.

טבלת מסגרת מקצה לקצה

במה

תרומת AI

שער אימות אנושי

תכנון משלחת

מסלול/אלטרנטיבה דלק

אישור קפטן ECDIS

ניטור מזג האוויר

סיכום תחזית

רב משאבים + קפטן

מטען

המלצת מחסנית

מחשב טוען + קצין 1

מכונה

סימן אנומליה

אישור פיזי + מהנדס ראשי

תיעוד

טיוטה

נתונים אמיתיים + חתימה

חקיקה

הפניה מחדש

אישור מקור רשמי

גשר

תעדוף

החלטת COLREG, קצין

טעויות נפוצות

• עקיפת שערי אימות. הסרת אישורי ביניים למהירות תאפשר לשגיאה הבודדת לדלוף לתוך המשלחת.
• לא מנהל רישום של החלטות. אם אין תיעוד, הגנה ושיפור בביקורת ובחקירה הופכים לקשים.
• מתן נתונים רגישים לכלי לא מאובטח. נתיב, עומס, נתונים אישיים מעובדים באישור ובמיסוך.
• לא לבודד מערכות קריטיות. בקרת ECDIS/מכונה נשמרת בנפרד מכלי האינטרנט וכלי AI.
• הזנחת יתירות. יש לשמור על יכולת ניווט קונבנציונלית בתקרית המערכת/סייבר.
• לשים רווח מסחרי לפני בטיחות. בטיחות ואיכות הסביבה תמיד בראש סדר העדיפויות.

לסיכום

המפתח לשימוש ב-AI מקצה לקצה בימי הוא מסגרת שכבתית המציבה שער אימות אנושי ורישום החלטות בכל שלב. מסגרת זו משלימה על ידי ממשל של חברת ספינה (מכשיר מאושר, סיווג נתונים, תפקיד, הכשרה, אינטגרציה של ISM), אבטחת סייבר (בידוד מערכות קריטיות, סודיות נתונים, אבטחת קלט, יתירות) ועקרונות של שימוש אחראי (אחריות אנושית, שקיפות, הימנעות מטענות מוגזמות, עדיפות בטיחות, סודיות). AI יוצר ערך אמיתי במשלוח; אבל החלטות קריטיות לבטיחות הן תמיד בבעלות אדם מוכשר, ופלט AI אינו מחליף את האישור הזה.

משימת יישום

שקול משלחת מהתחלה לסיום לספינה שלך. עבור כל שלב (תכנון, אוויר, מטען, מכונות, תיעוד, רגולציה, גשר), מלאו טבלה בת שורה אחת "מה עושה AI / מהו שער אנושי / איך אני מוודא / מי מאשר". לאחר מכן הוסף "מסך נתונים" ומדד "סייבר/יתירות". לבסוף, צור תבנית של רשומת ההחלטות שתשמור הפעם.

רשימת בדיקה

• [ ] הצבתי שער אימות אנושי בכל שלב.
• [ ] שמרתי רישום של החלטות עבור כל שימוש בבינה מלאכותית.
• [ ] עמדתי בכלי המאושרים ובכללי סיווג הנתונים; הגנתי/הסתרתי נתונים רגישים.
• [ ] בודדתי מערכות ניווט/מכונות קריטיות ושמרתי על יכולת יתירות.
• [ ] הבטחתי שהחלטות קריטיות לאבטחה מתקבלות על ידי אדם מוכשר ואינן מהוות תחליף לאישור AI.

מבחן מודול

1. איזה מהבאים הוא המיקום המדויק ביותר לבינה מלאכותית בים?

• א) בינה מלאכותית היא כלי תומך החלטות; האחריות על החלטות קריטיות לבטיחות כגון אישור מסלול, תמרון והחלטות מכונות נשארת בידי הקפטן והמהנדס הראשי ✔
• ב) מאחר שהבינה המלאכותית אמינה יותר מבני האדם בים, יש להשאיר לה את החלטות המסלול והתמרון.
• ג) בינה מלאכותית עובדת רק בסיכום טקסט, אין לה שום קשר לניווט ועבודת מכונה
• ד) בינה מלאכותית יכולה להיכנס למסלול לתוך ECDIS ולבצע אותו ללא אישור אנושי

תיאור: ימית היא אזור קריטי לביטחון; בינה מלאכותית היא כלי תומך החלטות שחוסך זמן במסלול, דלק, מזג אוויר, תיעוד, ניטור מכונות וחקיקה. עם זאת, הקפטן והמהנדס הראשי הם האחראים המשפטית לבטיחות ימית, איכות הסביבה ואבטחת רכוש; תמרון, עצירת מכונות והחלטות חירום הן אנושיות, ותפוקת בינה מלאכותית אינה תחליף לאישור מומחה מוסמך.

2. מהו הצעד הקריטי ביותר לנקוט לפני ביצוע חלופת מסלול המוצעת על ידי בינה מלאכותית?

• א) בדוק את המסלול מול אזורים אסורים ב-ECDIS ו-UKC ואשר אותו על ידי הקפטן ✔
• ב) ביצוע ישיר, לא לבצע בדיקות נוספות, כפי שהבינה המלאכותית מחשבת זאת
• ג) הקפד לבחור רק את המרחק הקצר ביותר
• ד) מעבר לזה שחוסך הכי הרבה דלק מבלי לבדוק את המסלול בכלל

תיאור: המסלול שנוצר על ידי בינה מלאכותית הוא טיוטה ולא אומת במפה הרשמית. אף מסלול לא מתנהל מבלי לבדוק את ECDIS עבור אזורים אסורים וסילוק תת-קיל (UKC) בזמן הגאות. חיסכון בזמן/דלק לעולם לא יכול לגבור על אישור אבטחה זה.

3. מהי הגישה המדויקת ביותר כאשר בינה מלאכותית מנבאת צריכה לאופטימיזציה של דלק?

• א) בהנחה של דגם ספינה כללי ומבקש את צריכת הדלק הנמוכה ביותר מבלי לתת אילוצים
• ב) ביסוס האומדן על עקומת הביצועים בפועל של הספינה ומתן אילוצים מסחריים-משפטיים ✔
• ג) החלת המספר הראשון שניתן על ידי בינה מלאכותית מבלי לאמת אותו
• ד) רק הפחתת המהירות מספיקה; צ'רטר וחלון נמל אינם רלוונטיים

הסבר: התחזית המופקת על ידי הנחה של 'דגם ספינה' כללי עשויה להיפגע קשות בספינה שלך. האומדן צריך להתבסס על עקומת הביצועים בפועל של הספינה (נתוני ניסוי ימי ונתוני שירות); בנוסף, יש לתת הגבלות מסחריות-משפטיות כגון מהירות מינימום של צ'רטר וחלון נמל. שינויי חיתוך/מהירות מיושמים גם באישור אנושי על גבול היציבות ובריאות המכונה.

4. מה ניתן לומר על ערך CII (מדד עוצמת פחמן) המחושב על ידי בינה מלאכותית?

• א) ניתן להכריז ישירות כדוח CII רשמי
• ב) זה רק תחזית; הדוח הרשמי מופק בשיטה מאושרת ויש לאשר אותו במקור מעודכן ✔
• ג) זה תמיד נכון כי חישוב בינה מלאכותית עדיף על אנושי
• ד) אין צורך באישור שכן ספי הפליטה מעולם לא השתנו

הסבר: נתוני פליטה כגון CII הם תפוקות רשמיות המופקות בשיטות מאושרות ובנתונים מאומתים. הערך שמעניקה הבינה המלאכותית הוא רק תחזית; יכול להשתמש במקדם ישן או לייצר הזיה. לא ניתן להשתמש בו כדוח רשמי ויש לאשר אותו עם מקור רשמי מעודכן.

5. מה הופך את הבינה המלאכותית ליותר ערך בהערכת מזג האוויר והים?

• א) מבוסס על דגם בודד ומתן גובה גל מדויק
• ב) הסתרת אי ודאות והצגת כל תחזית כוודאות
• ג) השוואה בין מודלים שונים והפיכת הפרדה ואי ודאות לעין ✔
• ד) זה מחליף אזהרות ימיות רשמיות והופך אותן למיותרות.

הסבר: תחזית מזג האוויר היא הסתברותית והגודל החשוב ביותר הוא אי הוודאות. AI הוא בעל הערך הגבוה ביותר כאשר הוא משווה מודלים שונים והופך את הפער (ולכן את אי הוודאות) גלוי; זה מבטיח תכנון על הצד הבטוח. מסוכן להסתיר אי ודאות ולהציג את התחזית המרכזית כוודאות.

6. מהו העיקרון הקבוע בעת הכנת תוכן עם בינה מלאכותית ליומן שיוט או דו"ח תקריות רשמי?

• א) בעל בינה מלאכותית להשלים פרטים זכורים חלקיים באופן סביר
• ב) רק התצפית בפועל נרשמת; בינה מלאכותית לא יכולה להמציא נתונים או פרטים, מקומות חסרים מסומנים ✔
• ג) אם הטקסט שוטף, המספרים והאירועים שנוספו על ידי בינה מלאכותית יתקבלו ללא אימות.
• ד) בינה מלאכותית יכולה להעריך מידע על זמן ומיקום, אין צורך בתצפית

הסבר: הרשומות הרשמיות הן ראיות משפטיות והתוכן שלהן חייב להתאים בדיוק לאמת. בינה מלאכותית אינה יכולה לייצר מידע על זמן, מיקום, מהירות ואירועים; זה פשוט מתרגם את התצפית האמיתית שאתה נותן למשפט ראוי. המקום החסר אינו מלא ב'פיקציה סבירה', הוא מסומן; האחריות לדיוק ולחתימה מוטלת על האדם. אחרת, קיים סיכון לזיוף מסמכים.

7. כיצד יש לקבוע את יציבות הספינה (GM) וחוזק האורך בתכנית הטעינה?

• א) הסתמכות על ערך ה-GM המחוספס והקצוץ שניתן על ידי בינה מלאכותית
• ב) מחושב במחשב הטעינה המאושר ומאושר על ידי הרמטכ"ל/קפטן ✔
• ג) מוערך לפי ניסיון, ללא שימוש בכלים
• ד) מסתכלים רק על המשקל הכולל, מבלי להתחשב בחלוקת המשקל

תיאור: יציבות וחוזק הם קריטיים לבטיחות; טעות אחת עלולה להפיל את הספינה או לגרום נזק לגוף. חישובים אלו מגיעים רק ממחשב הטעינה המאושר ומאושרים על ידי הרמטכ"ל/קפטן. ערך GM גס שניתן על ידי ה-AI אינו חישוב רשמי; לדוגמה, הוא עלול לפספס את ההשפעה של נוזל חופשי ולגרום לספינה להיראות 'בטוחה' בטעות.

8. מה צריך להיות תפקידה של בינה מלאכותית בכללי ההפרדה והערימה של מטען מסוכן (IMDG)?

• א) בינה מלאכותית נותנת את כלל ההפרדה המדויק ותוכנית הערימה מיושמת ישירות
• ב) כללי האפליה נקבעים על ידי הידע הכללי של בינה מלאכותית, אין צורך בקוד פורמלי
• ג) בינה מלאכותית מנחה באיזה סעיף להסתכל; כלל הפרדה/ערימה מדויק אושר מקוד IMDG הרשמי ✔
• ד) לא נדרש כלל הפרדה עבור מטענים מסוכנים, ניתן לערום את כולם יחד

הסבר: אם כמה חומרים מסוכנים מונחים זה לצד זה, הם עלולים להגיב ולגרום לשריפה או פיצוץ. AI יכול להזכיר לך באיזה מספר או"ם וקטע IMDG להסתכל; עם זאת, יש לאשר את כלל ההפרדה/ערימה המדויק מהקוד הרשמי של IMDG. AI עשוי לתת כלל מיושן או שגוי, כך שהקוד הרשמי קובע את ההחלטה הסופית.

9. כיצד יש לפעול כאשר AI מסמן חריגה בנתוני חיישני המכונה (לדוגמה, סטייה בטמפרטורת הפליטה של ​​צילינדר)?

• א) האות נחשב לתקלה סופית והציוד מופסק מיד.
• ב) האות הוא השערה; זה מוערך בהקשר, מאומת פיזית והחלטת האבחון-תחזוקה נשארת בידי המהנדס הראשי ✔
• ג) אין צורך באימות נוסף כי הבינה המלאכותית אומרת את זה
• ד) אם הבינה המלאכותית לא אומרת כלום, ההנחה היא שהציוד בריא לחלוטין

הסבר: בינה מלאכותית שאומרת 'יש חריגה/תקלה' היא השערה, לא אבחנה. הסטייה מוערכת תחילה בהקשר (האם זה יכול להיות עומס, אוויר, שינוי מהירות), לאחר מכן היא מאומתת פיזית (קריאת מד, בדיקת ציוד) והחלטת האבחון-תחזוקה נשארת בידי המהנדס הראשי. בנוסף, השתיקה של בינה מלאכותית אינה ערובה ל"אין בעיה".

10. כיצד להשתמש בבינה מלאכותית כאשר נשמעות אזעקות רבות (הצפות) במקביל בחדר המכונות ומה הגבול שלה?

• א) בינה מלאכותית קובעת את הסיבה לשורש ומקבלת באופן אוטומטי את ההחלטה לעצור את המכונה
• ב) בינה מלאכותית מייצרת השערת שורש; ההשערה מאומתת פיזית וההחלטה להפסיק/להתערב נשארת בידי המהנדס ✔
• ג) אם אחת האזעקות שותקת, גם האחרות יעברו, אין צורך באימות.
• ד) דירוג השורש של AI מדויק גם אם חותמות הזמן אינן נכונות

תיאור: תקלה מעוררת לעתים קרובות שרשרת של אזעקות משניות; הסיבה העיקרית היא יחידה. AI יכול למיין את יומן האזעקות עם חותמת הזמן וליצור השערת שורש. עם זאת, השערה זו חייבת להיות מאומתת על ידי אינדיקטורים פיזיים, והחלטות כמו עצירת המכונה או השבתת הנסיעה הבטיחותית שייכות למהנדס האנוש; לא יכול להיות אוטומטי.

11. כיצד יש להשתמש בבינה מלאכותית כאשר נדרש מספר מאמר מדויק או סף מספרי בחקיקה כגון SOLAS?

• א) מספר הפריט והסף הניתנים על ידי בינה מלאכותית נכתבים ישירות בדוח.
• ב) מדריכי בינה מלאכותית; החומר והסף המדויקים נקראים ומאושרים מהמקור הרשמי הנוכחי ✔
• ג) מאחר שהכללים אינם משתנים, הידע של הבינה המלאכותית תמיד מעודכן.
• ד) אמירת 'בינה מלאכותית אמרה כך' היא בסיס תקף באודיטינג

תיאור: בינה מלאכותית יכולה להרכיב באופן משכנע מספר פריט, תאריך או ערך סף שלא קיים בפועל (הזוי), והכללים מתעדכנים כל הזמן. לכן, AI משמש רק כמדריך לאיזה חוזה/קוד ונושא להסתכל; פסק הדין מוקרא תמיד מהמקור הרשמי הנוכחי. בביקורת, ל'בינה מלאכותית אמרה זאת' אין תוקף.

12. מה תפקידה של בינה/אוטומציה מלאכותית בהחלטת תמרון התנגשות גשר (COLREG)?

• א) המערכת נותנת את פקודת התמרון והקצין מבצע אותה
• ב) המערכת מתעדפת יעדים ומכוונת את תשומת הלב; החלטת התמרון היא של הקצין והקברניט במסגרת COLREG ✔
• ג) די להסתמך על AIS; אין צורך באישור רדאר וחזותי
• ד) השוטר יכול לעזוב את השליטה כי האוטומציה עובדת בצורה אמינה

תיאור: מערכות מודרניות יכולות לחשב CPA/TCPA ולתעדף יעדים; זה בעל ערך בהפניית תשומת הלב של הקצין. עם זאת, ההחלטה לתמרן - כמה מעלות, מתי, לאיזה כיוון - היא של קצין המשמר והקברניט במסגרת COLREG ונוהג ימי טוב. גם אם המערכת אומרת 'עבור בשלום', האחריות להתנגשות מוטלת על השוטר שביצע או לא ביצע את התמרון.

13. מדוע 'שאננות אוטומציה' (הסתמכות יתר על אוטומציה) מסוכנת על הגשר?

• א) זה לא מסוכן; אם המערכת אמינה, אין צורך להסתכל ויזואלית.
• ב) זה מפחית את תשומת הלב האנושית ויוצר תלות במקור יחיד; נתונים חסרים כגון סירה ללא AIS עלולים להחמיץ ✔
• ג) זו בעיה רק בגלל שהיא מגבירה את צריכת הדלק.
• ד) נראה רק על ספינות ישנות, אין סיכון על גשרים מודרניים

הסבר: ככל שמערכות פועלות בצורה אמינה, תשומת הלב האנושית עלולה לדעוך והשליטה עלולה להינטש. ואילו סירה קטנה ללא AIS נראית רק לרדאר ולעיניים; המערכת פועלת עם נתונים לא מלאים. לכן, מכ"ם, AIS, ECDIS ועין צריכים לאשר אחד את השני, וכאשר מקורות מופרדים, יש לקחת את הפרשנות המסוכנת ביותר כבסיס.

14. איזה עיקרון חל לפני הזנת מיקום אוניה, מניפסט מטען או צוות לכלי בינה מלאכותית?

• א) ניתן להדביק נתונים רגישים ישירות בשירות ציבורי לצורך מהירות
• ב) סיווג נתונים מיותר; ניתן להזין כל מידע בכל רכב
• ג) נתונים רגישים מעובדים רק בכלים מאושרים ומאובטחים ומסווים במידת הצורך; מערכות קריטיות מבודדות ✔
• ד) נתוני הצוות והמסחר אינם רגישים ואין צורך להגן עליהם

הסבר: נתונים שהועלו לכלי AI יכולים לצאת משליטה. נתיב, פרטי מטען, חוזים מסחריים ונתונים אישיים של הצוות הם רגישים; יש לעבד אותו רק בכלי רכב מאושרים ובטוחים ולהסוות אותו במידת הצורך. הדבקת נתונים רגישים לשירות ציבורי 'מטעמי נוחות' היא פגיעה חמורה באבטחה ובפרטיות. בנוסף, מערכות ניווט/מכונות קריטיות מבודדות.

15. מהי הדרך היעילה ביותר להשתמש ב-AI באופן עקבי ובטוח מתחילתו ועד סופו של קמפיין?

• א) הקמת מסגרת שכבתית שמציבה שער אימות אנושי ורשומת החלטות בכל שלב ✔
• ב) האצלת כל החלטות המשלחת לכלי AI יחיד והסתכלות על הסוף
• ג) הסר אימותי ביניים למהירות ובדוק רק עם ההגעה
• ד) כל קצין יכול להשתמש ברכב שלו בחופשיות מבלי לנהל רישום החלטות.

תיאור: ההפלגה נחשבת לשרשרת, עם שער אימות אנושי ותנאי מעבר המוצבים בכל שלב (תכנון, אוויר, מטען, מכונות, תיעוד, חקיקה, גשר); אי אפשר לעבור דרך דלת אחת בלי לעבור דרך אחרת. כל דלת משאירה תיעוד של החלטה. מבנה שכבות זה מונע משגיאת בינה מלאכותית אחת לדלוף אל המשלחת או הדו"ח ומספק הגנה בביקורת.