גבולות הבינה המלאכותית בימי: אבטחה, סיכון סייבר, אתיקה ואחריות

רווחים:

• יכולת להכיר בכך שבינה מלאכותית יכולה לייצר מקדמים פיקטיביים, סעיפי כללים וערכים טכניים וליישם אימות בהקשר של בטיחות חיים/רכוש
• יכולת לנהל אבטחת סייבר, פרטיות נתונים ומגבלות רגולטוריות במערכות ספינה ו-OT (טכנולוגיה תפעולית)
• הבנה שהאחריות הסופית לאישור הכיתה, בטיחות הניווט והאתיקה היא של המהנדס והקברניט.

לאורך כל המודול הזה, השתמשנו בבינה מלאכותית (AI) כמאיץ בכל שלב של הנדסת ספינה וימית: מתכנון טפסים ועד לניתוח מבני, תחזוקה חזויה ועד אופטימיזציה של מסע, תאימות לפליטות ועד לייצור במספנות. ביחידה אחרונה זו אנו נסוגים לאחור ומסתכלים על התמונה השלמה: מהם המגבלות העיקריות של AI בימי, אילו סיכונים (הזיות, אבטחת סייבר, פרטיות נתונים, הטיה) נמצאים בכוננות מתמדת ומי נושא באחריות? כי התנאי המקדים לשימוש בטוח ברכב הוא לדעת היכן הוא יכול להשתבש.

התזה העומדת של המודול חלה כאן וחולשת על כל השאר: בעבודה ימית קריטית לבטיחות, תפוקת בינה מלאכותית אינה תחליף לאישור של המהנדס המוסמך, המודד או המודד בכיתה. AI מציע, מנסח, מחשב ומזכיר; אבל הבעלים של ההחלטה הקובעת את בטיחות החיים, הרכוש והסביבה הוא מי שחתום על החלטה זו ואחראי מבחינה משפטית.

מושגים: הזיה: בינה מלאכותית המפיקה ערך, כלל או משאב שאינם קיימים. אבטחת OT: הגנת סייבר של טכנולוגיה תפעולית (מערכות בקרת שיוט ומכונה). הרעלת נתונים: השחתה מכוונת של נתוני הכשרה/קלט כדי להטעות מודל. הטיית מודל: ההטיה השיטתית והבלתי הוגנת של המודל הנובעת מהנתונים עליהם הוא מאומן. שרשרת אחריות: הבעלות המשפטית והטכנית על החלטה ניכרת בבירור.

מגבלות קבועות של AI

ל-AI יש ארבעה גבולות קבועים בספנות, ואלה לא ייעלמו גם עם התקדמות הטכנולוגיה. ראשית, הזיה: המודל ממלא את החסר בהצהרות "סבירות ביותר" כאשר אין לו נתונים סופיים; מסתבר שזהו סעיף מחלקה מורכב, ערך יציבות בלתי אפשרי או מקדם לא קיים. שנית, התנהגות מחוץ לפריסה: המודל הופך לבלתי אמין מחוץ למצבים אליהם הוא הוכשר ונבדק (סוג ספינה חריג, תקלה חריגה, תנועה בלתי נראית). שלישית, חוסר הבנה בפיזיקה: בינה מלאכותית מעבדת תבניות מילים, לא "מבינה" את שימור האנרגיה או את חוקי ניוטון; זה יכול לייצר פלט שנראה סביר אבל הוא בלתי אפשרי פיזית. רביעית, עמידה בזמנים: חקיקה, מחיר ושינוי טכנולוגיה; המידע של הדגם מוקפא בתאריך.

מגבלות אלו מסבירות מדוע משמעת האימות שלמדנו לאורך המודול היא הכרחית: בקרת סדר גודל, עקביות יחידה, שכפול עצמאי ואימות מקור. במיוחד כאשר הבינה המלאכותית עושה חישובים (למשל סקריפט Python/Excel שנוצר עבור מומנט נטל/יציבות או חישוב כוח), גם אם הקוד נראה זול ועובד, ההיגיון, התשומות ומקרי הקצה שלו אינם מתורגמים להחלטת בטיחות ללא בדיקה עצמאית. זה שקוד חשבון "עובד" לא אומר שהוא "נכון".

זהירות: קוד חשבונאי שנוצר בינה מלאכותית עשוי לעבוד ללא שגיאות, אך עשוי להכיל נוסחה שגויה, יחידה שגויה או מקרה קצה שהתעלם ממנו. לפני קבלת הקוד, בדוק אותו עם קלט ידוע (דוגמה שאתה יודע את התשובה עליה ממקור ראשון), בדוק מקרי קצה, וודא את התוצאה באופן עצמאי. בחישובים קריטיים לבטיחות כגון יציבות, מחשב טעינה מאושר ואישור מהנדס חיוניים.

אבטחת סייבר ופרטיות נתונים

הספינה המודרנית היא רשת מחשבים צפה: מערכות ניווט, בקרת מכונות, ניהול מטען וקישוריות לוויינית מחוברות זו לזו. המשמעות היא משטח התקפת סייבר. מערכות AI מוסיפות לתמונה זו שני סיכונים חדשים. ראשית, בטיחות OT (טכנולוגיה תפעולית): רכיב בינה מלאכותית הקשור לניווט ולבקרת מכונה מהווה סיכון בטיחותי ישיר אם הוא מותקף; כך שמערכות OT קריטיות מבודדות, פלט AI לעולם לא אמור להפעיל פעולת בקרה בפני עצמה, יש לשמור על אישור אנושי והתנהגות ברירת מחדל בטוחה. שנית, פרטיות נתונים: צורת גוף, עקומות ביצועים, חוזים של בעלי ספנות וטלמטריה תפעולית הם סודות מסחריים וקניין רוחני; הזנת נתונים אלה לשירותי AI חיצוניים שאינם מאושרים היא אובדן בלתי הפיך.

בנוסף, סיכוני מניפולציה כגון הרעלת נתונים (הטעיית המודל באמצעות קלט זדוני) וזיוף של נתונים כגון AIS מחייבים לא לסמוך באופן עיוור על הקלט של AI. כלל: נתונים קריטיים אנונימיים או אינם משותפים כלל, משתמשים רק בכלים מאושרים ומובטחים בסודיות, קלט קריטי מאומת לאותנטיות.

סיכון

איך זה מתרחש?

אמצעי זהירות

הזיה

כלל/ערך/מקור מומצא

אישור מהמקור, בקרת דרגה

מתקפת סייבר OT

חדירת מערכת בקרה

בידוד, אישור אנושי, ברירת מחדל מאובטחת

דליפת נתונים

הזנת נתונים סודיים לכלי חיצוני

אנונימיזציה, כלי מאושר

הרעלת נתונים/זיוף

קלט פגום בכוונה

אימות קלט, בדיקה צולבת

הטיית מודל

נתוני אימון לא מאוזנים

סקירת התוצאה בשיקול דעת אנושי

אתיקה ושרשרת אחריות

הבעלות המשפטית והטכנית על החלטה בתחום הימי צריכה להיות ברורה: רב החובל אחראי על בטיחות הניווט, המהנדס הראשי אחראי על המכונות, המהנדס האחראי אחראי על התכנון והחישוב, ומודד הכיתות אחראי על ציות לכללים. AI לא אמור להכניס "פער אחריות" לשרשרת זו. "AI הציע את זה" אינו תירוץ; האדם שמשתמש ב-AI ומקבל את התפוקה שלו אחראי. לכן, השימוש ב-AI חייב להיות שקוף (יש לרשום באיזו החלטה הוא תומך, איזה אימות הוא עבר) וההחלטה הסופית חייבת להיות בידי אדם חתום.

הממד האתי כולל גם את בטיחות הצוות ואיכות הסביבה: אם הצעה לחיסכון בדלק מסכנת את הצוות, אם פתרון אוטומציה מצמצם את מרווח הבטיחות, אם רווח לטווח קצר מחפה על סיכון לטווח ארוך, האתיקה ההנדסית מחייבת לומר "לא". AI הוא כלי רב עוצמה לפרודוקטיביות; אבל יעילות לעולם לא יכולה לבוא לפני החיים, הסביבה ושיקול דעת הנדסי ישר.

מיני מארזים

מקרה 1 - תירוץ "AI אמר כך". בדוח, נעשה שימוש בערך גבול כפי שניתן על ידי ה-AI, ללא אימות, והערך מתברר כלא נכון. האדם האחראי מנסה להגן על עצמו באומרו "AI הציע את זה". לא דיני המעמד ולא האחריות מכירים בכך: המהנדס שמקבל את הפלט אחראי. לקח: בינה מלאכותית היא לא תירוץ; האחריות היא על האדם המשתמש בו.

מקרה 2 - דליפה של נתונים חסויים. צוות מדביק את נתוני הביצועים והדלק בפועל של בעל אוניה לתוך כלי בינה מלאכותית זמין לציבור ומבקש ניתוח. הנתונים האלה יצאו מכלל שליטה; נוצרים סוד מסחרי והפרת חוזה. לא יהיה סיכון אם תעבוד עם ערכים מייצגים אנונימיים או עם כלי מאושר. לקח: נתונים אמיתיים/סודיים לעולם אינם מוכנסים לכלי חיצוני לא מאושר.

מקרה 3 - קוד עובד אך שגוי. AI מייצר סקריפט Python לרגע של יציבות; הקוד פועל ללא שגיאות ומחזיר מספר סביר. כאשר המהנדס בודק אותו עם מקרה טעינה ידוע (שהתשובה לו ידועה ביד), הוא מגלה שהקוד לוקח טווח של זרוע עם סימן שגוי. התסריט "עבד" אבל התוצאה הייתה שגויה. לקח: פעולת קוד החשבון אינה ערובה לנכונות; בדיקה עם קלט ידוע ואימות בלתי תלוי היא חיונית.

תבניות הנחיה הניתנות להעתקה

תבנית 1 - הערכה עצמית של הגבלה וסיכון:

תפקיד: אתה מבקר בודק את פלט ה-AI שבו אני משתמש. הקשר: [משימה/פלט].משימה:1) היכן הסיכון להזיה גבוה בפלט זה?2) האם יש משהו מפוקפק מבחינת הסבירות הפיזית?3) אילו ערכים שדורשים עמידה בזמנים (חקיקה/מחיר) צריכים להיות מאומתים? כדי לאמת זאת.

תבנית 2 - לוח זמנים לאימות קוד חשבון:

יש להמציא תוכנית אימות לפני השימוש בקוד החשבונאי הבא שנוצר בינה מלאכותית (Python/Excel):[הדבק קוד/לוגיקה]1) הצע קלט בדיקה שעבורו אני יודע את התשובה באופן ישיר.2) רשום את מקרי הקצה שצריך לבדוק (אפס, שלילי, קיצוני).3) איך אני בודק את עקביות היחידה?4) באילו אמצעים עצמאיים אני מאשר את הכלי ה-approvedConstraint? חשבון קריטי לבטיחות.

תבנית 3 - מסנן פרטיות נתונים:

בדוק את הפרטיות את ההקשר הבא שהייתי נותן לכלי בינה מלאכותית: [טקסט לשיתוף] 1) האם יש בו סוד מסחרי / סודי / נתוני חוזה? 2) אילו ערכים צריכים להיות אנונימיים או לחלץ? 3) האם משימה זו דורשת כלי פנימי מאושר? אילוץ: נתוני ספינה/ביצועים/חוזה בפועל אינם נכנסים לכלי החיצוני.

תבנית 4 - הערת אחריות ושקיפות:

נסח תזכיר שקיפות לתיעוד ההחלטה הבאה מבוססת בינה מלאכותית: [החלטה]. תוכן: (1) באיזה שלב נעשה שימוש בבינה מלאכותית, (2) אילו אימותים היא עברה, (3) איזה אדם אישר אותה, (4) אילו מקורות אומתו. אילוץ: הבהירו שהאחריות הסופית מוטלת על החתימה האנושית.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

אני אכניס את ניתוח הבינה המלאכותית הזה לדוח, האם זה בסדר?

הנחיה עוצמתית:

תפקיד: אתה הסוקר הבלתי תלוי שמבקר את פלט הבינה המלאכותית. הקשר: [ניתוח/פלט והיכן להשתמש].משימה:1) סמן סיכון להזיה, סבירות פיזית ועמידה בזמנים.2) האם יש נתונים שאסור לשתף לשם סודיות?3) אילו צעדים יצטרך אדם כדי לאמת את ההחלטה הזו על פלט? ציינו את שלבי האימות ושהאחריות היא של מהנדס החתימה.

הנחיה חלשה מבקשת אישור; הנחיה חזקה חושפת סיכונים, פרטיות ושרשרת אימות אנושית.

טעויות נפוצות

• זה אומר "AI אמר זאת." האחריות היא על מי שמקבל את הפלט; AI זה לא תירוץ.
• הזנת נתונים סודיים לכלי חיצוני. סוד מסחרי והפרת חוזה; לאחר שדלפו נתונים לא ניתן לאחזר.
• חושב שהקוד הפועל נכון. סקריפט שעובד ללא שגיאות עשוי להכיל את הנוסחה/יחידה הלא נכונה; בדיקה ואישור עצמאי חיוניים.
• השארת מערכת ה-OT ל-AI. פעולת הבקרה לעולם אינה מופעלת על ידי AI בלבד; אישור אנושי וברירת מחדל מאובטחת נשמרים.
• לשים יעילות לפני בטיחות. חיים, סביבה ושיקול דעת הנדסי ישר אינם מוקרבים למען חיסכון כלשהו.

לסיכום

המגבלות המתמשכות (הזיה, התנהגות מחוץ להפצה, חוסר תפיסה בפיזיקה, לא עדכניות) והסיכונים (אבטחת סייבר/OT, פרטיות נתונים, הרעלה, הטיה) של בינה מלאכותית בים ממחישים מדוע משמעת האימות הנלמדת לאורך המודול היא הכרחית. בהחלטות קריטיות לבטיחות, פלט AI אינו תחליף לאישור אנושי מוכשר; שרשרת האחריות ברורה ו"AI אמר זאת" אינו תירוץ. AI הוא מאיץ רב עוצמה; אבל החיים, הסביבה ושיפוט הנדסי ישר תמיד קודמים לכל.

משימת יישום

בחר פלט AI (חשבון, טיוטת דוח או קוד) שהפקת במודול זה. סמן את הסיכונים של הזיות, סבירות פיזית ומציאות באמצעות תבנית "הגבלה וסיכון עצמית". אם זה קוד חשבון, בדוק אותו עם קלט ידוע באמצעות התבנית "תוכנית אימות קוד חשבון" ואמת באופן עצמאי. החל "מסנן פרטיות נתונים" וסנן נתונים שאסור לשתף. לבסוף, כתוב תזכיר שקיפות המתעד את ההחלטה ומבהיר למי האחריות הסופית.

רשימת בדיקה

• [ ] בדקתי את הסיכונים ההזיה, הפיזיקה והמציאות של תפוקת הבינה המלאכותית.
• [ ] בדקתי ואימתתי באופן עצמאי את קוד החשבון עם קלט ידוע.
• [ ] לא הכנסתי נתונים חסויים/חוזים לכלי החיצוני; עשיתי את זה אנונימי.
• [ ] שמרתי על אישור אנושי ועל ברירת מחדל מאובטחת במערכות OT/בקרה.
• [ ] תיעדתי בשקיפות את השימוש ב-AI והבהרתי מי אחראי.
• [ ] מעולם לא שמתי יעילות לפני חיים, סביבה ואתיקה הנדסית.

מבחן מודול

1. כאשר עובדים עם כלי בינה מלאכותית כמהנדס ימי, האחריות הסופית לאיזה מהדברים הבאים צריכה להישאר תמיד אצל האדם (מהנדס/איש כיתה)?

• א) אישור וחתימה על עמידה של אלמנט מבני בכלל המעמד ✔
• ב) הפקת הטיוטה הראשונה של דו"ח התנגדות
• ג) עריכת תוויות הציר של תרשים
• ד) הכנת מילון מונחים לדוח טכני

תיאור: AI; זה יכול להאיץ משימות כמו חישוב מוקדם של התנגדות, ניסוח דוחות וסיכום נתונים. עם זאת, אישור תאימות של אלמנט מבני לכלל המעמדי ושיקוף זאת כחתימה בתיק הטכני היא החלטה היוצרת בטיחות חיים ורכוש; לא ניתן להעביר ל-AI ללא אימות עצמאי ואישור מורשה.

2. נתתם ל-AI לחשב את ההתנגדות של סירה והוא הפחית את התוצאה ב-20% עם 'מקדם תיקון אמפירי' שלא היה בניסוי המודל. מהי הפעולה הנכונה הראשונה לנקוט?

• א) קבלת התוצאה כפי שהיא מכיוון שה-AI נראה בטוח בעצמו
• ב) תשאלו את מקור המקדם, דחו את התיקון הבלתי מבוסס וחשבו אותו מחדש בשיטה המוכרת ✔
• ג) הגדלת המקדם עוד יותר והישארות על הצד הבטוח
• ד) מעבר לבחירת מדחף מבלי לשנות את התוצאה

הסבר: מודלים של שפה יכולים לייצר באופן משכנע מקדמים ומספרים לא מבוססים (הזיה). בחישוב שמשפיע ישירות על כוח ההנעה והדלק, כמו התנגדות, יש צורך להטיל ספק במקור של כל מקדם בשימוש (שיטה, בדיקת דגם, תקן) ולדחות את המקדם הלא נתמך.

3. במקום להשתמש בכמות המטען הנישאת כמכנה בחישוב ה-CII של ספינה (Carbon Intensity Indicator), AI השתמש רק במרחק. מה הבעיה העיקרית בפלט הזה?

• א) CII מחושב רק עבור מיכליות, זה מיותר על הסיפון
• ב) תוצאת CII תמיד מגיעה באחוזים, עשרוני שגוי
• ג) מכנה CII לא צריך להיות רק מרחק, אלא כושר הנשיאה (משקל מת) כפול המרחק ✔
• ד) נתוני מהירות חובה לחישוב CII, הם חסרים

תיאור: CII מודד פליטת פחמן לכל עבודה שבוצעה ומבוסס על המטען המוצע כפול במרחק (למשל משקל עצמי x מרחק). השארת המונח עומס/קיבולת בטעות לחלוטין את המחוון. השלב הראשון והחובה הוא שכל מונח במחווני פרודוקטיביות יעמוד במלואו בהגדרת ה-IMO.

4. מהי התפוקה היקרה ביותר של מערכת תחזוקה חזויה מונעת בינה מלאכותית בחדר המכונות?

• א) סכמו את העלות הממוצעת של תחזוקה בעבר בשורה אחת
• ב) הפיכת כל נתוני החיישן לגרף צבעוני יותר
• ג) צבע ורשום מגמות רטט/טמפרטורה
• ד) סימון מראש של חלון הזמן כאשר יש סיכוי גבוה יותר שמיסב או מגדש טורבו ייכשלו ✔

תיאור: מטרת תחזוקה חזויה היא לזהות את הנטייה של ציוד להידרדר לפני כשל ולתכנן תחזוקה בזמן. כך מצטמצם הסיכון לתקלות ועצירות בלתי צפויות. חשוב לא רק לסכם את העבר אלא גם לייצר אזהרות מוקדמות לגבי העתיד.

5. AI השווה את תוצאת הלחץ במודל FEA (ניתוח אלמנטים סופיים) למתח המותר בקוד המחלקה והוכרז כ'ראוי'. מהי הגישה הנכונה ביותר?

• א) אימות הגדרת הדגם (רשת, מצב גבול, עומס) ואישור הלחץ המותר מטקסט כלל הכיתה ✔
• ב) אישור ישיר של התוצאה מכיוון שה-AI אמר 'מתאים'
• ג) הורדה אקראית של הלחץ המותר כדי להישאר בצד הבטוח
• ד) שינוי סקאלת הצבעים בלבד ללא הידוק הרשת

תיאור: תוצאת FEA; זה תלוי לחלוטין באיכות הרשת, תנאי הגבול, הגדרת העומס ותכונות החומר. בנוסף, ערך הלחץ המותר בשימוש על ידי ה-AI עשוי להיות שגוי. לפני קבלת התוצאה, יש צורך לאמת את הגדרת המודל ולאשר את ערך כלל המחלקה מהטקסט.

6. יצרת מסלול שממזער את הדלק על ידי ביצוע ניתוב מזג אוויר עם AI. איזה שיקול הוא הכי קריטי לשימושיות התוצאה?

• א) המסלול חייב להיות בטוח מבחינת בטיחות הניווט (גלים, מזג אוויר, הגבלות ספינה) וחייב להיות מאושר על ידי הקפטן ✔
• ב) המראה הקצר ביותר של המסלול במפה
• ג) המסלול כולל את מירב הקריאות לנמל
• ד) המסלול ממזער את ETA ללא קשר לחוזה

הסבר: לא משנה עד כמה הצעת המסלול אופטימלית לדלק, בטיחות הניווט וסמכותו של רב החובל מקבלים עדיפות. אם הסופה, גובה הגלים ומגבלות הספינה חורגים ממגבלת הבטיחות, אין משמעות לרווח הדלק. יש לסנן את החלטת המסלול הסופית באמצעות אילוצי בטיחות ולאישור על ידי הקפטן.

7. ביקשת מה-AI דרישת SOLAS וזה נתן ערך מדויק בהתייחסות ל'פרק/כלל מספר' ספציפי. מהי ההתנהגות ההנדסית הנכונה?

• א) החלת הערך ישירות מכיוון שה-AI מעודכן
• ב) העלאת הערך באופן אקראי כדי להישאר על הצד הבטוח
• ג) בדוק את מספר הפריט והערך ממקור SOLAS/מעמד רשמי ועדכני ✔
• ד) הוספה לקובץ מבלי לבדוק את מספר הפריט

תיאור: מודלים של שפה עשויים לזכור לא נכון או להרכיב מספרים וערכים של סעיף חוזה/כלל. בשדות מחייבים כגון SOLAS, MARPOL וחוקי כיתה, יש לאמת כל פריט וערך מילה במילה מהמקור הרשמי, העדכני (טקסט IMO, כלל כיתה, חוזר ניהול); פלט AI רק מראה היכן לחפש.

8. במערכת ניווט אוטונומית או בסיוע החלטה, ה-AI הציע תמרון המבוסס על נתוני מכ"ם ו-AIS. מהי ההערכה הנכונה מבחינת COLREG (הימנעות מעימותים)?

• א) בצע את התמרון באופן אוטומטי כאשר בינה מלאכותית ניגשת לנתונים הנוכחיים
• ב) העבר את ההצעה לספינה השנייה באמצעות VHF והמתן לאישורה
• ג) כיבוי המכ"ם והסתמכות על AIS בלבד
• ד) שקול את ההצעה כתמיכה בהחלטה והשאיר את ה-COLREG ואת החלטת התמרון הסופית לקצין המשמר/קפטן.

הסבר: בהתאם לכללי COLREG ונוהג ימי טוב, האחריות להימנעות מהתנגשות והחלטת התמרון הסופית מוטלת על הסמכות על הגשר (קפטן/קצין השמירה). המלצת AI היא תמיכה בהחלטה; כתמים עיוורים, שגיאת חיישן ופרשנות כללים דורשים השגחה אנושית.

9. יצרת המלצה לחסכון בדלק מעקומת SFOC של המנוע הראשי (צריכת דלק ספציפית) עם AI. מהי השיטה המתאימה ביותר לבדיקת סבירות?

• א) החל את ההמלצה על נתוני נסיעות עבר והשוו עם צריכת הדלק בפועל ✔
• ב) קבל את ההצעה כפי שהיא ורשום אותה בתקציב כחיסכון.
• ג) לקחת את אחוז החיסכון האופטימי ביותר כערך הריאלי היחיד
• ד) רק לייפות את הגרף של עקומת SFOC

הסבר: יש לבדוק את טענת החיסכון שהפיקה הבינה המלאכותית על ידי השוואה עם נתוני ההפלגה בפועל של הספינה (צריכת דלק מתועדת, עומס, מהירות, מזג אוויר). החלתו בדיעבד על נתוני ההפלגות בעבר והשוואתם לצריכה בפועל מראה עד כמה ההמלצה ריאלית.

10. טיוטת סקר/דוח טכני שהוכן על ידי AI מכילה ערכים טכניים זורמים אך ממקורם לא ברור. מהי ההתנהגות הנכונה?

• א) הצגת הדוח כפי שהוא כי הטקסט שוטף
• ב) התאימו כל ערך למדידה/מקור המקורי והסר את ה- ✔ הלא מאושר
• ג) עיגול והגהת הערכים
• ד) פשוט קרא את תקציר המנהלים ודלג על השאר

תיאור: כל ערך טכני בדוח חייב להיות בר מעקב למקורו המקורי (מדידה, רשומת מכשיר מכויל, כלל מחלקה, נתוני יצרן). אין להגיש מספר לכיתה או להנהלה ללא אימות מקורו, גם אם הוא ערך במשפט שוטף; אחרת, ערך פיקטיבי נכנס לבסיס ההחלטות.

11. מהו השלב הטוב ביותר לפני השימוש בחישוב Excel/Python שנוצר על ידי בינה מלאכותית (למשל מצב נטל ורגע של יציבות)?

• א) החלת החישוב ישירות על תוכנית ההעמסה בפועל
• ב) רק להסתכל על האורך והפריסה של הקוד
• ג) ניסיון מקרי קצה על ידי השוואת החישוב עם תרחיש בדיקה ידוע וכלי טעינה מאושר ✔
• ד) מחיקת חלק מהקוד כדי לקצרו

הסבר: חישובי יציבות ועומס עשויים להיראות נכונים אך נותנים תוצאות שגויות. הפעלת החישוב על תרחיש בדיקה קטן שבו אתה יודע את התוצאה, ידנית או עם מחשב טעינה מוסמך, השוואתו לפלט הצפוי וניסיון מקרי עומס גבול/קצה יתפוס את השגיאה לפני שהיא עוברת להחלטת הטעינה בפועל.

12. אתה רוצה להדביק את נתוני העיצוב והביצועים הלא משותפים של הספינה שלך לתוך כלי AI ציבורי ולנתח בקשות. מהי הגישה הנכונה ביותר?

• א) הדבקת הנתונים כפי שהם למהירות
• ב) זה מספיק פשוט למחוק את שם הספינה ולשתף את כל הנתונים שנותרו
• ג) שיתוף הנתונים ולאחר מכן בקשה מה-AI למחוק אותם
• ד) בדיקת המדיניות המוסדית ואנונימיות הנתונים או שימוש בכלי מאובטח/מוסדי ✔

גילוי: צורת גוף, עקומות ביצועים ונתוני חוזי בעלי אוניה/חצר הינם רגישים לסוד מסחרי ולקניין רוחני; בנוסף, תשתית קריטית ומידע מערכת OT נושאים סיכון סייבר. לפני שיתוף נתונים, יש צורך לבדוק את המדיניות הארגונית, להפוך אותה לאנונימית או להשתמש בכלי ארגוני שאינו משתף נתונים.

13. בקרת איכות המופעלת על ידי בינה מלאכותית במכלול בלוקים של מספנה סימנה תפר ריתוך כ'מקובל'. מהי ההתנהגות ההנדסית הנכונה?

• א) שקול את הערכת הבינה המלאכותית כקבלה סופית ואשר את התפירה
• ב) התחשבות בהערכה המוקדמת של AI ככלי מיון וקשר בין הקבלה הסופית לתוצאת ה-NDT ואישור הכיתה ✔
• ג) מעבר לבלוק הבא מבלי לבדוק את התפר כלל
• ד) זה מספיק כדי פשוט לבדוק חזותית את המראה של התפר

תיאור: איכות ריתוך היא תחום קריטי לבטיחות הדורש תוצאות של בדיקות לא הרסניות (NDT) ואישור כיתתי. הערכה ראשונית של AI באמצעות תמונות או נתונים מספקת הנחיות, אך הקבלה הסופית ניתנת על ידי בדיקה ואישור מוסמך על ידי מודד הכיתה.

14. בניהול צי, בינה מלאכותית הפיקה המלצה מוחלטת למשלחת שאומרת 'נמל הבונקר הזה והמהירות הזו הם בהחלט הרווחיים ביותר'. מהי ההערכה הנכונה?

• א) יישום ההמלצה ישירות כאשר בינה מלאכותית ניגשת לנתונים עדכניים
• ב) להעביר את ההצעה לבעל האונייה כהתחייבות נחרצת
• ג) נעילת תוכנית המשלחת כולה בהתבסס על פלט יחיד זה
• ד) התחשבות בהצעה הסופית כלא אמינה והתייחסות אליה כתרחיש שניתן לאמת עם המחיר הנוכחי, מצב השכר והבטיחות ✔

הסבר: מחיר הבונקר, תנאי השכר, מזג האוויר ועיכובים בנמל משתנים במהירות ומשתנים לא בטוחים; AI לא יכול להבטיח רווחיות מוחלטת. יש להתייחס להצעה כאל פלט תרחיש שיש לאמת עם המחיר הנוכחי, תנאי מסיבת השכר ומגבלות הבטיחות.