مقدمة في الذكاء الاصطناعي ونظام التحقق من السلامة الحرجة في الفضاء الجوي

المكاسب:

• القدرة على التمييز بين الأماكن التي يوفر فيها الذكاء الاصطناعي الوقت الفعلي في سير عمل هندسة الطيران وأي القرارات يجب أن تظل مع البشر لأسباب تتعلق بالسلامة والمسؤولية
• القدرة على تطبيق نظام أساسي للسلامة يتحقق من كل مخرجات هندسية حسب الحجم واتساق الوحدة والتكاثر المستقل
• القدرة على التعود على المطالبة من خلال إخفاء هوية السياق لحماية مراقبة تصدير ITAR/EAR وبيانات التصميم السرية

انظر إلى مكتب مهندس الطيران: حسابات حمولة الجناح، ونتائج العناصر المحدودة، وبيانات نفق الرياح، وسجلات اختبارات الطيران، ووثائق الشهادات، ومراسلات الموردين، والاجتماعات التي لا نهاية لها. الوقت المخصص للحكم الهندسي الفعلي، أي الأسئلة "هل هذا الرقم آمن، هل سيطير هذا التصميم، هل هذا الخطر مقبول؟" يتم سحقها تحت الحساب المتكرر وعمل الوثائق. هذا هو المكان الذي يلعب فيه الذكاء الاصطناعي (اختصارًا AI؛ برنامج يعمل على النصوص والأكواد والأرقام باستخدام نموذج لغة كبير والتعلم الآلي). الذكاء الاصطناعي لا يتخذ القرار نيابةً عنك؛ فهو يجهزك لاتخاذ القرار، وينتج مسودة، ويسرع العملية الحسابية، ويضع المعلومات المعالجة أمامك.

ومع ذلك، فإن الطيران والفضاء مجال لا يُقاس فيه الخطأ بالنص، بل بالأرواح وملايين الدولارات. قد تكون الإشارة التي يتم إجراؤها بواسطة نموذج لغة، أو تحويل وحدة غير صحيح، أو نتيجة "معقولة المظهر" ولكن مستحيلة ماديًا بمثابة إصلاح بسيط في صناعات أخرى، ولكن هنا يمكن أن تصبح فشلًا هيكليًا أو خسارة مهمة. ولهذا السبب، خلال هذه الوحدة، سنضع الذكاء الاصطناعي ليس باعتباره "مهندسًا آليًا" ولكن كمساعد يخضع لانضباط بالغ الأهمية للسلامة ويتم التحقق من مخرجاته في كل مرة.

في هذه الوحدة الأولى، نوضح ثلاثة أشياء: في أي مراحل سير عمل الفضاء الجوي يضيف الذكاء الاصطناعي قيمة حقيقية، وما هي القرارات التي يجب أن تظل في أيدي البشر المؤهلين، وما هو نظام التحقق ومراقبة الصادرات والسرية الذي يجب عليك الالتزام به عند القيام بذلك. بدون تثبيت هذا السقف بشكل صحيح، قد تصبح التقنيات المستخدمة في الوحدات اللاحقة خطيرة.

المفاهيم: الهلوسة: تلفيق الذكاء الاصطناعي بشكل مقنع لرقم أو معادلة أو عنصر قياسي أو مصدر غير موجود في الواقع. السياق: المدخلات التي تقدمها للذكاء الاصطناعي (بيانات التصميم، الافتراضات، السؤال). التحقق: التحقق من المخرجات بوسيلة مستقلة (الحساب اليدوي، الأداة الثانية، النص القياسي). هذه المفاهيم الثلاثة هي العمود الفقري للوحدة بأكملها.

في أي الشركات يوجد مسرع الذكاء الاصطناعي، وفي أي الشركات يكون الأمر محفوفًا بالمخاطر؟

تقع المهمات الفضائية الجوية على نطاق ذي شقين من حيث عواقبها. في أحد الأطراف توجد أعمال تحضيرية قابلة للاسترجاع ومنخفضة المخاطر (ملخص الأدبيات، وهيكل الكود، ومخطط العرض التقديمي)؛ وفي الطرف الآخر، هناك قرارات لا رجعة فيها (معامل السلامة، وقانون التحكم، ووقت الاحتراق المداري) التي تحدد بشكل مباشر صلاحية الطيران وسلامة الحياة ونجاح المهمة. تختلف قيمة الذكاء الاصطناعي حسب المكان الذي تقف فيه في هذا الطيف.

نوع العمل

مساهمة الذكاء الاصطناعي

دور المهندس

الأدب / ملخص قياسي

استخراج مقتطف من وثيقة طويلة

قارن المقال بالنص الأصلي

حساب اليد / التحجيم المسبق

إعداد الصيغة، الرقم الأول

فحص الوحدة والرتبة والافتراضات

رمز التحليل/البرمجة النصية

الهيكل العظمي وتوليد المنطق

التحقق من صحة مع إدخال الاختبار، واختبار الوحدة

مسودة التقرير/المتطلبات

اقتراح الهيكل والسرد

ربط كل تعبير بالمورد والمتطلبات

تحليل البيانات / مسح الشذوذ

استخراج النمط والحدث المرشح

التأكيد مع البيانات الخام والفيزياء

قرار السلامة/الشهادة

إعداد المواد التحليلية

التقييم النهائي والمراجعة والتوقيع

القاعدة بسيطة: خطر مخرجات الذكاء الاصطناعي يساوي الضرر الذي سيلحق به إذا ارتكب هذا المخرج خطأً. إن الخطأ الإملائي في عنوان الشريحة أمر غير ضار؛ إن حساب معامل أمان صاري الجناح على أنه 0.5 بدلاً من 1.5 يعد كارثة. لذا فإن السؤال الأول الذي يجب طرحه قبل استخدام المخرجات هو: "ماذا يحدث إذا كان هذا خطأ، ومن سيتأذى، ومن يلاحظ؟"

انتبه: يُنتج الذكاء الاصطناعي نصًا بطلاقة وواثقًا. الطلاقة ليست ضمانة للدقة. يملأ نموذج اللغة الفجوة بالكلمات "الأكثر احتمالاً" إحصائيًا، حتى لو لم يكن لديه بيانات دقيقة؛ في مجال الطيران، قد يظهر ملء الفراغات هذا على أنه مواصفات مادية مختلقة أو شرط FAR غير موجود.

نظام التحقق الأمني ​​الحاسم: ثلاث طبقات

إن ثقافة الطيران مبنية بالفعل على مبدأ "الثقة ولكن التحقق"؛ وينبغي استخدام الذكاء الاصطناعي لتعزيز هذا المبدأ، وليس إضعافه. قم بتمرير كل مخرجات AI من خلال مرشح ثلاثي الطبقات.

الطبقة الأولى هي ترتيب التحكم في الحجم. معرفة ما إذا كانت النتيجة تقريبًا ضمن نطاق القوة المتوقعة البالغ 10. تبلغ كتلة إقلاع طائرة الركاب عشرات الأطنان؛ إذا أخبرك الذكاء الاصطناعي بـ 800 كجم، فاعلم أن هناك خطأ دون الخوض في التفاصيل.

الطبقة الثانية هي اتساق الوحدة والحجم. أحد أكثر الأخطاء تكلفة في تاريخ الطيران هو خسارة المركبة الفضائية Mars Climate Orbiter عام 1999: استخدم أحد الفريقين رطلًا من الثواني، بينما استخدم الفريق الآخر نيوتن من الثواني، وفقدت المركبة الفضائية التي تبلغ قيمتها حوالي 327 مليون دولار في الغلاف الجوي للمريخ. في مخرجات الذكاء الاصطناعي، يجب ذكر الوحدات بوضوح وإجراء تحليل الأبعاد.

الطبقة الثالثة هي التكاثر المستقل. إعادة إنتاج نتيجة مهمة بطريقة ثانية (حساب يدوي مختلف، أو أداة منفصلة، ​​أو مهندس ثانٍ). وتزداد الثقة إذا أعطى مساران مستقلان نفس الإجابة؛ إذا لم يحدث ذلك، توقف حتى تفهم سبب اختلافه.

نصيحة: عندما تطلب من الذكاء الاصطناعي الحصول على نتيجة، اطرح نفس السؤال أيضًا بشكل عكسي. قل "احسب المساحة المطلوبة لهذا الجناح" ثم قل "أعد حساب تحميل الجناح بالمساحة التي منحتها له وقارنها بالمسافة النموذجية للطائرة." إن مطالبة النموذج بمراجعة مخرجاته يجعل الأخطاء الصامتة مرئية.

مراقبة الصادرات والخصوصية: الحدود الخاصة للطيران

تخضع تكنولوجيات الفضاء الجوي لضوابط التصدير في معظم البلدان. في الولايات المتحدة، يخضع ذلك لـ ITAR (لوائح التجارة الدولية في الأسلحة) وEAR (لوائح إدارة التصدير) (القواعد التي تنظم التكنولوجيا ذات الاستخدام المزدوج). إن إدخال خوارزمية سرية للتحكم في الصواريخ، أو بيانات دفع الأقمار الصناعية، أو معلمة أداء الطائرات العسكرية في خدمة ذكاء اصطناعي خارجية غير خاضعة للرقابة، يمكن أن يشكل انتهاكًا للتصدير، وخسارة للملكية الفكرية، وخرقًا للعقد.

القاعدة الأساسية: لا تدخل أبدًا بيانات فنية حقيقية أو سرية أو خاضعة للرقابة في أداة خارجية غير معتمدة. بدلاً من ذلك، قم بإخفاء هوية السياق واستبدال الأرقام الحقيقية بقيم تمثيلية. على سبيل المثال، بدلاً من مشاركة منحنى دفع المحرك الفعلي، اسأل "وصف الشكل العام للعلاقة النموذجية بين سرعة الدفع والسرعة التوربينية."

موجه ضعيف / موجه قوي

المطالبتان التاليتان لهما نفس الغرض، لكن أحدهما ينتهك السرية ويتلقى استجابة لا يمكن التحقق منها.

حث ضعيف:

يبلغ طول جناحي الطائرة بدون طيار XR-7 في مشروعنا 4.2 متر، ووزنها 38 كجم، ومحركها وسرعتها. قل لي الارتفاع الأمثل.

مطالبة قوية:

الدور: أنت مستشار في الديناميكا الهوائية للطيران. السياق: أقوم بإجراء تحليل عام لطائرة بدون طيار صغيرة ذات أجنحة ثابتة (القيم تمثيلية وليست بيانات المشروع الفعلية): جناحيها ~ 4 م، الكتلة ~ 40 كجم، سرعة الرحلة ~ 25 م / ث. المهمة: شرح المبادئ الفيزيائية التي تحدد أفضل نطاق للارتفاع وسرد المعلمات التي يجب أن أقيسها. القيد: اكتب كل صيغة وافتراض بوضوح؛ إذا أعطيت نتيجة رقمية، حدد الوحدة وأضف كيفية التحقق منها.

تعمل المطالبة القوية على حماية بيانات المشروع الفعلية، وتوضح الدور والقيد، وتطلب مسار التحقق.

قوالب سريعة قابلة للنسخ

يمكنك استخدام النماذج الأربعة أدناه من خلال تكييفها مع عملك الخاص. جميعهم يدمجون نظام إخفاء الهوية والتحقق.

النموذج 1 - التحقق من صحة الطلب الإلزامي للمخرجات ذات الأهمية الأمنية:

الدور: أنت أحد كبار مهندسي الطيران وتتناسب مع مجال السلامة الحرجة. السياق: [مشكلة مجهولة المصدر؛ قيم تمثيلية، وليست بيانات مشروع فعلية]. المهمة: [التحليل/الحساب الذي أريده]. القيد: - اكتب وحدة كل رقم. - أدرج بوضوح كل صيغة وافتراض تستخدمه. - قارن ترتيب حجم النتيجة بمرجع معروف. - في الخطوة الأخيرة، قدم خطة تحكم تقول "كيف يمكنني التحقق من هذا الناتج بشكل مستقل". إذا كان هناك عدم يقين، فلا تخمن؛ اسأل عن البيانات التي تحتاجها.

النموذج 2 - الفحص المتقاطع (نموذج يختبر مخرجاته الخاصة):

الآن احسب قيمة [النتيجة] التي قدمتها للتو باستخدام طريقة مستقلة: استخدم صيغة مختلفة أو حلًا عكسيًا. هل النتيجتان متفقتان؟ إذا لم يكن الأمر كذلك، قم بإدراج مصادر الخطأ المحتملة (الوحدة، الافتراض، اختيار الصيغة). حدد الخطوة التي لست متأكدًا منها.

النموذج 3 - طلب يمكن التحقق منه للإسناد القياسي/المصدر:

قم بإدراج الشهادات/المواد القياسية ذات الصلة بـ [الموضوع]. لكل مادة: الاسم القياسي ورقم المادة وملخص المادة. تحذير: لا تكتب رقم المادة إذا لم تكن متأكدًا. ضع علامة "يجب التحقق منها". إعطاء مراجع مختلقة؛ إذا كنت لا تعرف، أخبرني أنك لا تعرف. أخبرني أيضًا عن كيفية التأكد من هذه العناصر من النص الأصلي.

النموذج 4 - الفحص المسبق لإخفاء الهوية (قبل المشاركة):

أحتاج إلى مسح النص التالي للتحكم في الصادرات (ITAR/EAR) وسرية الشركة قبل إدخاله في أداة ذكاء اصطناعي خارجية. قم بوضع علامة على العناصر التي يحتمل أن تكون حساسة في النص (أرقام الأجزاء الفعلية، وقيم الأداء، وأسماء المشاريع، ومعلومات المورد) واقتراح بديل ممثل/مجهول لكل منها. النص: [ألصق هنا]

حالات صغيرة

الحالة 1 - الشرط القياسي المفتعل. لدعم مبرر التصميم، يسأل مهندس مبتدئ الذكاء الاصطناعي "ما هو شرط FAR الذي يفرض هذا؟" تستشهد منظمة العفو الدولية بجملة "FAR 25.1493" غير الموجودة بالفعل. عندما يقارن المهندس النص باللائحة الأصلية، يرى أن البند ملفق ويجد البند الصحيح (14 CFR 25.303، عامل الأمان). الدرس المستفاد: يتم التحقق من كل مرجع قياسي يقدمه الذكاء الاصطناعي من النص الأصلي.

الحالة 2 - فخ الوحدة. يحصل الفريق على مساعدة من الذكاء الاصطناعي في حساب الدفع. ويقدر الذكاء الاصطناعي قوة الدفع بـ 5000، لكن وحدتها "lbf أو N" تظل غير واضحة. يوجد فرق قدره 4.45 مرة تقريبًا بين 5000 رطل و5000 نيوتن؛ هذا الاختلاف يغير تمامًا اختيار المحرك. إذا استمرت وحدة الطاقم في العمل دون طلب صريح، فسوف تتجه إلى فئة المحرك الخاطئة. الدرس الثاني: لا يقبل أي رقم بدون وحدة.

الحالة 3 - التحكم في الرتبة ينقذ الأرواح. طلب فريق من الطلاب من الذكاء الاصطناعي حساب delta-v (متطلبات تغيير السرعة) للصاروخ وحصلوا على نتيجة 95 م/ث. تبلغ سرعة Delta-v النموذجية للوصول إلى مدار منخفض حوالي 9.4 كم/ث، أي في حدود 9400 م/ث. إن الاختلاف بحوالي 100 مرة يكشف على الفور عن خطأ في التحرير؛ يجد الطلاب خطأ اللوغاريتم الأساسي في المعادلة. الدرس المستفاد: قارن دائمًا النتيجة بنطاق مرجعي معروف.

الأخطاء الشائعة

• الخلط بين الطلاقة والدقة. قد يكون التفسير المكتوب جيدًا غير صحيح عدديًا. جودة النص ودقة النتيجة شيئان مختلفان.
• قبول عدد بلا وحدة في الطيران، الرقم الذي لا يحدد وحدة هو رقم غير محدد. ارتباكات lbf/N، ft/m، العقدة/m·s هي أخطاء في نهاية المهنة.
• إدخال البيانات السرية إلى أداة خارجية. ITAR/EAR وانتهاك سرية الشركة؛ بمجرد تسرب البيانات الفنية، لا يمكن استرجاعها.
• الثقة بمصدر واحد. إن استخدام نتيجة حاسمة دون إنتاجها بطريقة ثانية هو انتهاك للقاعدة الأساسية في الانضباط الأمني ​​النقدي.
• عدم التحقق من الإسناد القياسي. قد تكون أرقام العناصر التي يقدمها الذكاء الاصطناعي مزيفة؛ يتم تأكيد كل مرجع من اللائحة الأصلية.

باختصار

يعمل الذكاء الاصطناعي على تسريع العمل المتكرر للحسابات والأكواد والمستندات والبيانات في هندسة الطيران بشكل كبير؛ لكن القرارات التي تحدد السلامة وصلاحية الطيران ونجاح المهمة تظل في يد الشخص المؤهل. يجب تصفية كل مخرجات من خلال ترتيب الحجم واتساق الوحدة والتكاثر المستقل. لأغراض مراقبة الصادرات (ITAR/EAR) ولأسباب تتعلق بالسرية، يجب إخفاء هوية البيانات الفنية الفعلية واستخدام الأدوات المعتمدة فقط. هذا الانضباط هو شرط أساسي لجميع الوحدات اللاحقة.

مهمة التطبيق

اختر سؤالاً هندسيًا من مجال تخصصك (الديناميكية الهوائية، الهيكل، التحكم، الطيران، التصنيع). اكتب أولاً "موجهًا ضعيفًا" واسأل الذكاء الاصطناعي؛ ثم اكتب "موجه الطاقة" الذي يتضمن الدور والسياق المجهول والقيد وطلب التحقق واطرح نفس السؤال مرة أخرى. قارن بين الإجابتين من حيث الترتيب واتساق الوحدة وتأكد من نتيجة واحدة على الأقل عن طريق حساب يدوي مستقل. لخص النتائج التي توصلت إليها في نصف صفحة.

قائمة مرجعية

• [ ] قمت بتقييم مخاطر الإخراج بالسؤال "من سيتأذى إذا كان خطأ؟"
• [ ] لقد قارنت النتيجة بمرجع معروف من حيث الحجم.
• [ ] لقد تأكدت بوضوح من وحدة جميع الأرقام.
• [ ] لقد قمت بإعادة إنتاج النتيجة الحاسمة بطريقة مستقلة ثانية.
• [ ] لقد استخدمت قيمة تمثيلية مجهولة المصدر بدلاً من البيانات الفنية الحقيقية/السرية.
• [ ] لقد قمت بالتحقق من كل استشهاد معياري/مصدر مقدم من الذكاء الاصطناعي من النص الأصلي.