المكاسب:
- القدرة على التمييز بين الأماكن التي يوفر فيها الذكاء الاصطناعي الوقت في سير العمل البحري (الطريق والوقود والطقس والتوثيق والآلات والتشريعات) وأين تُترك قرارات المناورة والسلامة للقبطان وكبير المهندسين، اعتمادًا على مستوى المخاطر.
- القدرة على تطبيق نظام يتحقق من كل مخرجات الذكاء الاصطناعي من خلال خطوات ربطها بالمصدر، والتأكد منها بأداة مستقلة، وتمريرها من خلال تفسير الخبراء.
- القدرة على فهم أنه نظرًا لطبيعة السلامة البحرية الحرجة، فإن مخرجات الذكاء الاصطناعي لا تحل محل موافقة الخبراء المختصين وأن المسؤولية النهائية تقع على عاتق الإنسان.
أنت على جسر سفينة حاويات. أمامك خريطة إلكترونية (ECDIS - نظام عرض الخرائط الإلكترونية والمعلومات، وشاشة ملاحة رقمية تحل محل الخريطة الورقية)، ورادار من جهة، وتوصية طريق مرسلة من خدمة التنبؤات الجوية من جهة أخرى. أنتج الذكاء الاصطناعي (المشار إليه فيما بعد بالذكاء الاصطناعي - قدرة الكمبيوتر على تعلم الأنماط من البيانات الضخمة وإنتاج التنبؤات والاقتراحات) هذا الاقتراح: "غير مسارك 12 ميلاً جنوبًا، ووفر 18 ساعة، ووفر 9 أطنان من الوقود". الاقتراح مغري. ولكن على هذا الطريق هناك سفينة أخرى، وأسطول صيد ضحل. ومن سيوافق على هذا الاقتراح؟ الجواب هو واحد والعمود الفقري لهذه الوحدة: الكابتن. يقوم الذكاء الاصطناعي بحساب الإشارات واقتراحها؛ لكن الشخص المسؤول قانونًا عن سلامة الأرواح والممتلكات والبيئة في البحر هو القبطان، ولا يمكن نقل هذه المسؤولية إلى أي خوارزمية.
تم إعداد هذه الوحدة لضباط سطح السفينة (القبطان، الضابط الأول، ضباط الملاحة) ومهندسي الهندسة البحرية (كبير المهندسين، المهندس الثاني، ضباط المحرك). الهدف هو تعليم الذكاء الاصطناعي كيفية استخدامه بشكل شامل، بدءًا من تحسين الطريق والوقود إلى تقييم الطقس، ومن وثائق الملاحة والشحن إلى مراقبة الآلات والصيانة التنبؤية، ومن أبحاث تنظيم السلامة إلى جسر دعم القرار؛ ولكن في الوقت نفسه، الهدف هو جعل الذكاء الاصطناعي يفهم أين يجب أن يقف ولماذا يجب التحقق من مخرجاته.
لماذا تعتبر البحرية مجالاً خاصاً؟
يعد القطاع البحري أحد القطاعات ذات الأهمية الحيوية للسلامة (حيث يمكن أن يؤدي الخطأ إلى خسائر في الأرواح أو كارثة بيئية أو أضرار بملايين الدولارات) حيث تكون تكلفة الخطأ هي الأعلى. يجوز للمركبة البرية أن تتوقف على جانب الطريق؛ لا يمكن للناقلة التي يبلغ طولها 300 متر أن تتوقف، أو أن تستدير على الفور، أو أن تبطئ سرعتها قبل أن تتحرك بضعة كيلومترات. ويبتعد الفريق عن أقرب ميناء لعدة أيام. لا يمكن تصحيح القرار الخاطئ على الفور من الخارج. علاوة على ذلك، يخضع هذا المجال لتنظيم صارم من خلال مجموعة دولية من القواعد - SOLAS (الاتفاقية الدولية لسلامة الأرواح في البحر)، وCOLREG (قواعد منع الاصطدامات في البحر)، وMARPOL (اتفاقية منع تلوث البحار من السفن)، ومدونة ISM (المدونة الدولية لإدارة السلامة).
لذلك، فإن دور الذكاء الاصطناعي في الشحن واضح منذ البداية: الذكاء الاصطناعي هو أداة لدعم القرار، وليس صانع قرار. في المجالات الحيوية المتعلقة بالسلامة مثل الهندسة والملاحة، لا تعد مخرجات الذكاء الاصطناعي بديلاً عن موافقة خبير مختص (الكابتن، كبير المهندسين، مساح الصف). منظمة العفو الدولية. وهو مساعد يقوم بمعالجة البيانات الضخمة، وإنتاج السيناريوهات، وكتابة المسودات، ووضع علامات على الأنماط. الكلمة الأخيرة دائما تعود للشخص.
تحذير: عبارة "قال الذكاء الاصطناعي" ليست دفاعًا. والسؤال الذي يجب طرحه في التحقيق بعد الحادث (التحقيق في الحوادث البحرية، نادي الحماية والتعويض، الدولة صاحبة العلم) هو: "بأي مصدر مستقل قام القبطان/المهندس بالتحقق من هذه التوصية؟" إذا لم يكن هناك سجل تحقق، فإن المسؤولية تقع بالكامل على عاتق الإنسان، ولا يتحمل الذكاء الاصطناعي أي عبء.
أين يوفر الذكاء الاصطناعي الوقت في البحر، وأين يتركه للبشر؟
لوضع الذكاء الاصطناعي بشكل صحيح، قم بتقسيم العمل إلى قسمين: العمل السريع والقرارات البشرية.
- يمكن تسريعها (الذكاء الاصطناعي يساعد بثقة): مقارنة سيناريوهات التنبؤ بالطقس المتعددة، وتقدير الوقود/الوقت لبدائل المسار، وصياغة دفاتر السجلات وأوراق المنافذ، والإبلاغ عن الحالات الشاذة في بيانات مستشعرات الآلات، وصياغة البند ذي الصلة في النص التنظيمي الطويل، واستخراج الأنماط من تاريخ الصيانة.
- إنسان (يقدم الذكاء الاصطناعي اقتراحات، وليس قرارات): الموافقة النهائية على المسار، وعدد الأميال التي يجب اجتيازها بالسفينة (قرار COLREG)، وما إذا كان يجب إيقاف الآلة، أو الهروب إلى ملجأ الميناء في حالة الطقس الخطير، وما إذا كان من الممكن تأجيل الصيانة، أو مناورة الطوارئ.
سيتم تكرار هذا التمييز في كل وحدة خلال الوحدة. فمجرد إظهار الذكاء الاصطناعي لتوصية على أنها "آمنة" لا يثبت أن التوصية آمنة في البحر؛ إنه يقدم مجرد فرضية.
نظام التحقق من الصحة: مرشح من ثلاث خطوات
قبل إلقاء كل مخرجات الذكاء الاصطناعي في البحر، قم بتمريرها عبر ثلاث مرشحات:
- قم بتوصيله بالمصدر. ما هي البيانات التي تعتمد عليها التوصية؟ هل بيانات الطقس محدثة، أي نموذج؟ ما هي الخريطة (ENC - الرسم البياني الملاحي الإلكتروني، الخريطة الرقمية الرسمية) التي تعتمد عليها توصية المسار؟ الإخراج من أصل غير معروف هو إخراج لا يمكن التحقق منه.
- قم بالتأكيد باستخدام أداة مستقلة. تحقق من توصية المسار في ECDIS للمناطق المحظورة (المنطقة الضحلة / الخطرة التي لا ينبغي عبورها)؛ وتقدير الوقود مع منحنى أداء السفينة؛ شذوذ الآلة بواسطة مستشعر ثانٍ أو قياس يدوي.
- احصل على تعليق الخبراء. وحتى لو كان الرقم صحيحا، فهل له معنى في السياق البحري؟ إذا كانت "18 ساعة من المكسب" تتطلب المرور عبر جبهة عاصفة، فإن هذا المكسب زائف.
نصيحة: أخبر الذكاء الاصطناعي "بوضع علامة على المكان الذي لست متأكدًا منه واكتب البيانات التي تحتاج إلى التحقق منها" مع كل طلب. إن الناتج الجيد يعترف بعدم اليقين الخاص به؛ إن طلب ذلك يجعل عملية التحقق أسهل.
ثلاث حالات صغيرة
الحالة 1 - طريق لم يتم التحقق منه. على متن ناقلة البضائع السائبة، يدخل ضابط الساعة إلى المسار "المختصر" الذي اقترحه الذكاء الاصطناعي دون التحقق منه في نظام ECDIS. يمر الطريق فوق ضفة يتغير عمقها مع المد والجزر. في المياه المنخفضة، تنخفض UKC (تحت إزالة العارضة) إلى الصفر تقريبًا. يدرك القبطان ذلك في اللحظة الأخيرة ويصحح المسار. لقد قام الذكاء الاصطناعي بحساب الوقت بشكل صحيح؛ ولكن لم يتم تأكيد العمق والمد والجزر. الدرس المستفاد: لا يمكن أن تتفوق مكاسب السرعة على التحقق من صحة الأمان.
الحالة 2 - تم اكتشاف العطل مبكرًا. في المحرك القوسي للناقلة، يحدد YZ درجات حرارة عادم الأسطوانة عندما تنحرف إحدى الأسطوانات عن الأخرى بمقدار 30 درجة مئوية. يقوم كبير المهندسين بالتحقق يدويًا من المؤشرات وفحص حاقن الوقود والعثور على حاقن مسدود. يتم استبداله قبل المنفذ، لذلك لن تكون هناك مشاكل أثناء التنقل. وأشارت منظمة العفو الدولية؛ قام المهندس بتشخيصه وإصلاحه.
الحالة 3 - المادة التشريعية المزيفة. ضابط يسأل الذكاء الاصطناعي عن قواعد مياه الصابورة؛ ينتج الذكاء الاصطناعي "رقم عنصر" مقنعًا ولكنه غير موجود (الهلوسة - معلومات يختلقها الذكاء الاصطناعي على أنها حقيقية). وإذا كتب الضابط ذلك في التقرير دون التحقق منه، فستكون هناك مشاكل خطيرة في التدقيق. لا يهم بالمقارنة مع نص المنظمة البحرية الدولية الرسمي. الدرس المستفاد: في التشريعات، يخبرنا الذكاء الاصطناعي فقط "أين ننظر"؛ تقرأ الحكم من النص الرسمي.
موجه ضعيف / موجه قوي
حث ضعيف:
أعطني أفضل طريق.
"الأفضل" غير محدد؛ نوع السفينة، والبضائع، والطقس، ولا قيود. ينتج الذكاء الاصطناعي إجابة عامة وغير آمنة.
مطالبة قوية:
دورك: مستشار كبير لضابط الملاحة. السفينة: بضائع ضخمة 180 مترًا، غاطس 10.5 مترًا، سرعة الخدمة 13 عقدة. الطريق: جبل طارق -> بيرايوس. لدي توقعات الرياح/الموجة لمدة 72 ساعة (أدناه). المهمة: صياغة 2-3 بدائل للمسار؛ لكل كتابة الوقت المقدر والوقود وأعلى ارتفاع للموجة. القيد: سأؤكد UKC والمناطق المحظورة في ECDIS؛ لقد لاحظت "التأكيد مطلوب" بالنسبة للمياه الضحلة/المد والجزر. ضع علامة على أي رقم لست متأكدا منه.
إن السياق والقيد وطلب التحقق من الصحة يجعل المخرجات مفيدة وآمنة.
جدول الأدوار والمسؤوليات
كويست
دور الذكاء الاصطناعي
المسؤول في نهاية المطاف
توليد بدائل الطريق
السيناريو والتنبؤ
كابتن
تأكيد الطريق وUKC
تحذير/مشروع
كابتن/ضابط ملاحي
تحسين الوقود
حساب، اقتراح
الكابتن/الشركة
كشف شذوذ الآلة
وضع العلامات
كبير المهندسين
قرار الصيانة
التوصية ذات الأولوية
كبير المهندسين
البحوث التنظيمية
إعادة التوجيه إلى المصدر
ضابط + نص رسمي
مناورة كولريج
(خارج القرار)
ضابط المراقبة/الكابتن
الأخطاء الشائعة
- الاعتقاد بأن الذكاء الاصطناعي هو صانع القرار. يقترح الذكاء الاصطناعي؛ الكابتن/كبير المهندسين هو الذي يتخذ القرارات ويتحمل المسؤولية.
- عدم توصيل الإخراج بالمصدر. أي نموذج للطقس، أي خريطة، أي جهاز استشعار؟ لا يمكن التحقق من الإخراج غير المصدر.
- الخلط بين الهلوسة والواقع. يمكن للذكاء الاصطناعي أن يخترع عنصرًا غير موجود، أو قاعدة منفذ، أو عمقًا؛ مطلوب التأكيد مع المصدر الرسمي.
- التضحية بالتحقق الأمني من أجل السرعة. لا يفوق توفير الوقت/الوقود مطلقًا تأكيد UKC وعدم الذهاب.
- تحميل البيانات السرية/التجارية إلى المركبة بشكل عشوائي. إن بيان الشحن والطريق والعقود التجارية حساسة؛ مطلوب مركبة معتمدة وإخفاء.
في ملخص
يعد المجال البحري مجالًا بالغ الأهمية للسلامة، والذكاء الاصطناعي هو مساعد دعم القرار هنا، وليس صانع القرار. منظمة العفو الدولية. يوفر الوقت على الطريق، والوقود، والطقس، والتوثيق، ومراقبة الماكينة والأبحاث التنظيمية؛ لكن الموافقة على المسار، والمناورة، وإيقاف المحرك، وقرارات الطوارئ تقع على عاتق البشر، ومعظمهم من القبطان وكبير المهندسين. يجب أن يمر كل مخرج بمرشح من ثلاث خطوات (السمة للمصدر، التحقق باستخدام أداة مستقلة، المرور عبر مراجعة الخبراء). إن مخرجات الذكاء الاصطناعي ليست بديلاً عن موافقة الخبراء المختصين.
مهمة التطبيق
صف نوع السفينة الخاصة بك (أو سفينة خيالية). اطلب من الذكاء الاصطناعي صياغة بديلين للمسار باستخدام نمط "الموجه القوي" أعلاه. ثم قم بتصفية المخرجات في ثلاث خطوات: اكتب مصدر كل رقم، وحدد الأداة الثانوية (ECDIS، منحنى الأداء) التي ستستخدمها، وقم بإدراج نقاط "التأكيد المطلوب" التي أشار إليها الذكاء الاصطناعي.
قائمة مرجعية
- [ ] لقد وضعت الذكاء الاصطناعي كأداة لدعم القرار؛ أنا أتخذ القرار.
- [ ] قمت بتوصيل كل مخرج بالمصدر (نموذج الطقس، الخريطة، المستشعر).
- [ ] تم التأكد من التوصيات باستخدام أداة مستقلة (ECDIS، منحنى الأداء، القياس اليدوي).
- [ ] لقد قمت بالتحقق من معلومات التشريع/العمق/القاعدة من المصدر الرسمي؛ لقد تحققت من الهلوسة.
- [ ] لقد أعطيت الأولوية للتحقق الأمني على زيادة السرعة/الوقود وحماية البيانات الحساسة.