التكامل الشامل وعمليات MLOps ومسؤولية المهندس

المكاسب:

• القدرة على تصميم مشروع سيارات مدعوم بالذكاء الاصطناعي بدءًا من المفهوم وحتى الإنتاج وصيانته من خلال دورة مراقبة
• القدرة على تقييم إدارة إصدار النموذج واحتياجات إعادة التدريب وانحراف البيانات
• القدرة على توسيع نطاق الذكاء الاصطناعي بأمان مع الحفاظ على المساءلة وإمكانية التتبع والتوثيق في جميع أنحاء المشروع

في الوحدة الأخيرة من هذه الوحدة، نقوم بتجميع كل القطع معًا. لقد رأينا كيف يتم استخدام الذكاء الاصطناعي في الوحدات الفردية، من التصميم إلى الإنتاج، ومن الاختبار إلى سلسلة التوريد. لكن في المشروع الحقيقي، هذه ليست خطوات معزولة، بل دورة حياة: يتم جمع البيانات، وبناء النموذج، ووضعه في الإنتاج، ومراقبته، وعندما يصبح قديمًا، يتم تجديده. يُطلق على نظام الحفاظ على هذه الدورة اسم MLOps (عمليات التعلم الآلي). تغطي هذه الوحدة إعداد وصيانة والحفاظ على المساءلة لمشروع سيارات يعمل بالذكاء الاصطناعي من البداية إلى النهاية.

دورة حياة مشروع الذكاء الاصطناعي

التدفق النموذجي الشامل في سياق السيارات:

1. تعريف المشكلة والقيمة: ما هي مشكلة العمل التي نحلها؟ كيف يتم قياس النجاح؟ هل هذه وظيفة أمنية حرجة؟
2. جمع البيانات ووضع العلامات عليها: المصادر (CAN، الاختبار، الإنتاج، تكنولوجيا المعلومات)، الجودة، السرية.
3. تطوير النموذج: السمة، النموذج، التحقق (التحكم في التسرب، اتساق الوحدة).
4. التحقق وتقييم الأمان: اختبار مستقل إذا كان ISO 26262/SOTIF مطلوبًا.
5. النشر: نشر النموذج على الجهاز، عبر الإنترنت، أو في السحابة.
6. المراقبة: الأداء، انجراف البيانات، دقة الإنذار.
7. إعادة التدريب: تحديث النموذج عندما يصبح قديماً.
8. التوثيق وإمكانية التتبع: سجل لكل خطوة؛ من ومتى ولماذا.

هذه الدورة لا تنتهي مرة واحدة وإلى الأبد؛ يدور باستمرار. في مجال السيارات، من الخطر "ضبط النموذج ونسيانه".

نصيحة: عند بدء المشروع، "من سيراقب هذا النموذج بمجرد وجوده في الميدان، وبأي مقياس، وكم مرة؟" إذا لم تتمكن من الإجابة على السؤال، فهذا يعني أن النموذج ليس جاهزًا للإنتاج بعد.

إدارة الإصدار النموذجي وإمكانية التتبع

إن إمكانية التتبع في السيارات ليست رفاهية، ولكنها في كثير من الأحيان التزام قانوني. عند ظهور مشكلة، يجب أن تكون قادرًا على الإجابة على السؤال "ما هو إصدار النموذج، وما هي البيانات التي تم تدريبه عليها، ومن وافق عليه؟" الممارسات الجيدة:

• إصدار النموذج: يتم تسجيل رقم كل نموذج وبيانات التدريب والتاريخ.
• إصدار البيانات: يتم تجميد البيانات التي تم التدريب عليها.
• سجل القرارات: تمت الموافقة على يد من وبأي دليل.
• خطة التراجع: إذا تبين أن النموذج الجديد سيئ، فيمكنك العودة إلى النموذج القديم.

البند

لماذا هو ضروري

خطر إذا كان في عداد المفقودين

النسخة النموذجية

ما هي النسخة الموجودة في الميدان؟

لا يمكن تتبع المشكلة

نسخة البيانات

ما الذي تم تدريبه عليه؟

غير قابلة للتكرار

سجل الموافقة

من المسؤول؟

لا يمكن محاسبته

تراجع

العودة من النسخة السيئة

توقف طويل في الميدان

انجراف البيانات واضمحلال النموذج

النموذج هو لقطة من العالم الذي يتم تدريبه فيه. لكن العالم يتغير: مورد قطع الغيار الجديد يجلب تسامحًا مختلفًا مع أجهزة الاستشعار، ويظهر طراز جديد للمركبة، وتتغير المواسم، وتتغير عادات القيادة. يتناقص أداء النموذج بصمت مع تحرك توزيع بيانات الإدخال بعيدًا عن وقت التدريب. يُطلق على انحراف البيانات هذا وانخفاض الأداء الناتج اسم اضمحلال النموذج.

ويكمن الخطر في أن هذا الانحدار صامت: فالنموذج لا ينهار، ولا يرتكب أخطاء، بل يصبح أكثر خطأ على نحو متزايد. لذلك:

• مراقبة توزيع المدخلات (كشف الانجراف).
• مراقبة مقاييس الأداء بنتائج حقيقية (هل كانت الإنذارات دقيقة؟).
• إعادة التدريب على الزناد عند تجاوز العتبة.

تحذير: الافتراض بأنه "بمجرد تدريب النموذج، فإنه يعطي نفس الأداء إلى الأبد" هو افتراض خاطئ ومحفوف بالمخاطر في مجال السيارات. النموذج الذي تم وضعه في الإنتاج دون مراقبة الانجراف قد يصبح غير موثوق به دون علم.

سيناريو مثال شامل: أسطول الصيانة التنبؤي

دعونا نجعلها ملموسة. أنت تقوم بتثبيت نظام إنذار مبكر لفشل التوربو لأسطول البضائع:

1. القيمة: تقليل وقت التوقف عن العمل وتكاليف القطر؛ النجاح = تم التقاط رصيد الخطأ الفعلي/الإنذار الكاذب.
2. البيانات: إشارات CAN لـ 40 مركبة، وسجلات الأخطاء التاريخية؛ VIN مجهول المصدر.
3. النموذج: الشذوذ + RUL؛ منع تسرب السلاسل الزمنية؛ يتم عرض نطاق عدم اليقين.
4. التحقق: إجراء اختبار رجعي على أخطاء الماضي؛ تم وزن تكلفة الإنذار الكاذب.
5. الإنتاج: النتيجة اليومية في السحابة؛ لوحة للفني.
6. المراقبة: التحكم في الانجراف عند إضافة طراز مركبة جديد؛ دقة التنبيه أسبوعيا.
7. إعادة التدريب: تحديث ربع سنوي بنوع السيارة الجديد وأمثلة الأخطاء الجديدة.
8. الوثائق: إصدار النموذج، إصدار البيانات، مهندس معتمد مسجل.

لا توجد خطوة في هذا التدفق تقول "لقد قرر الذكاء الاصطناعي، وانتهى"؛ الشخص هو المسؤول عن كل مرحلة.

دراسات الحالة المصغرة

الحالة 1 - الاضمحلال الصامت. يعمل نموذج مراقبة الجودة بشكل جيد لمدة عام واحد، ثم يزداد معدل التسرب ببطء. السبب الجذري: عندما تغير المورد، أصبح نسيج سطح الجزء مختلفًا قليلاً (الانجراف)، وبدأ النموذج في الاعتقاد بأن هذا أمر "طبيعي". تم إنشاء مراقبة الانجراف وإعادة تدريب النموذج. النتيجة: بدون المراقبة، لكانت الثغرة الأمنية قد مرت دون أن يلاحظها أحد لعدة أشهر.

الحالة 2 - تم حفظ إمكانية التتبع. شكوى إنذار كاذب تأتي من الميدان. من سجل القرار، يكتشف الفريق إصدار النموذج الذي يعمل مع أي بيانات؛ يكتشف أن المشكلة تأتي من إعداد العتبة في إصدار معين ويتراجع عن هذا الإصدار. النتيجة: إذا لم يكن هناك إصدار وسجل قرار، فلن يمكن تتبع المشكلة.

الحالة 3 - إعادة تدريب الانضباط. عندما ينضم نموذج كهربائي جديد إلى الأسطول، فإن نموذج الصيانة التنبؤية الحالي يثير الكثير من الإنذارات الكاذبة حول هذه السيارة (مجموعة نقل الحركة التي لم يسبق لها مثيل). قبل تشغيل النموذج الجديد، يلتقط الفريق تحذير الانجراف ويوسع النموذج ببيانات السيارة الجديدة. النتيجة: رصد الانجراف في وقت مبكر التدهور الذي جاء مع المنتج الجديد.

قوالب سريعة

النموذج 1 - مسودة خطة المشروع:

الدور: قائد مشروع الذكاء الاصطناعي (السيارات). المهمة: ساعدني في التخطيط لمشروع مدعوم بالذكاء الاصطناعي من البداية إلى النهاية. السياق: الصيانة التنبؤية؛ أسطول مكون من 40 مركبة؛ VIN مجهول. القيد: خذ بعين الاعتبار خطوات تعريف القيمة والبيانات والنموذج والتحقق والإنتاج والمراقبة وإعادة التدريب والتوثيق بشكل منفصل؛ تشير إلى المسؤول عن كل خطوة. الإخراج: الخطوة | الإخراج | مسؤول | جدول المخاطر.

النموذج 2 - خطة المراقبة:

الدور: أنت مهندس MLOps. المهمة: التوصية بخطة مراقبة للنموذج الذي يتم إرساله إلى الميدان. السياق: قد يتغير توزيع المدخلات بمرور الوقت (مورد جديد، أداة جديدة)؛ يمكن قياس الأداء من خلال نتائج حقيقية. الإخراج: متري للتتبع | العتبة | الإجراء المراد تفعيله.

القالب 3 - تصنيف الانجراف:

الدور: عالم البيانات. المهمة: شرح كيفية اكتشاف انحراف البيانات ومتى تكون هناك حاجة إلى إعادة التدريب. السياق: نموذج الفحص البصري لخط الإنتاج؛ قد يكون هناك تغيير في المورد. الإخراج: إشارة | قياس | إعادة تدريب الزناد.

النموذج 4 - قائمة التحقق من إمكانية التتبع:

الدور: أنت مدقق الجودة/الامتثال. المهمة: إنشاء قائمة مرجعية لإمكانية التتبع لنموذج. السياق: السيارات؛ عند حدوث مشكلة، يجب الإجابة على السؤال "أي إصدار، وأي بيانات، ومن وافق عليه". الإخراج: العنصر | لماذا هو ضروري | كيفية حفظ الرسم البياني.

موجه ضعيف / موجه قوي

حث ضعيف:

وضع النموذج في الإنتاج.

لا تتبع ولا إصدار ولا مساءلة ولا تراجعات؛ فالانحلال الصامت والمشاكل التي لا يمكن تعقبها أمر لا مفر منه.

مطالبة قوية:

الدور: أنت MLOps ومستشار جودة السيارات. المهمة: قم بإنشاء قائمة المراجعة التي أحتاجها لوضع النموذج في مرحلة الإنتاج بشكل مسؤول. السياق: أسطول الصيانة التنبؤي؛ تتم إضافة أنواع مركبات جديدة بمرور الوقت؛ VIN مجهول. القيد: يشمل المراقبة والكشف عن الانجراف وتسجيل الإصدار/البيانات والتأكيد وخطة التراجع؛ اذكر المسؤول عن كل بند؛ اقتراح "ضبطه ونسيانه". الإخراج: المرحلة | ضرورة | مسؤول | جدول المخاطر.

الأخطاء الشائعة

• نهج "ضبطه ونسيانه". وبدون مراقبة، يتحلل النموذج بهدوء.
• عدم الاحتفاظ بسجلات الإصدار/البيانات. لا يمكن تتبع المشكلة أو إعادة إنتاجها.
• لا توجد خطة التراجع. إذا استغرق التعافي من إصدار سيئ وقتًا طويلاً، فسيكون هناك فشل طويل في هذا المجال.
• لا تنتظر الانجراف. المورد/الأداة/الموسم الجديد يعطل النموذج؛ المراقبة ضرورية.
• ترك المسؤولية غير واضحة. يجب أن تكون الإجابة على سؤال "من المسؤول" واضحة في كل خطوة.

باختصار

• إن مشروع السيارات الذي يعمل بالذكاء الاصطناعي ليس مشروعًا لمرة واحدة، بل هو دورة حياة متجددة (MLOps).
• تعد إصدارات النماذج والبيانات، وتسجيل القرارات، وتخطيط التراجع ضرورية لإمكانية التتبع.
• انجراف البيانات يدحض النموذج بصمت؛ وينبغي مراقبة المدخلات والأداء وإعادة تدريبهما حسب الضرورة.
• في المثال الشامل، كل خطوة لها مسؤول بشري؛ لا يوجد "قرر الذكاء الاصطناعي، لقد انتهى الأمر".
• إن عبارة "اضبطها وانساها" أمر محفوف بالمخاطر في السيارات؛ يتم الحفاظ على المراقبة والتوثيق والمساءلة في جميع أنحاء المشروع.

مهمة التطبيق

اجمع ما تعلمته في هذه الوحدة في مشروع واحد (على سبيل المثال، الفحص البصري لخط الإنتاج أو الصيانة التنبؤية). (1) صياغة خطة مشروع شاملة باستخدام النموذج 1؛ اكتب الشخص المسؤول عن كل خطوة. (2) حدد خطة المراقبة ومحفزات الانجراف باستخدام النموذج 2. (3) قم بإعداد قائمة مرجعية لإمكانية التتبع باستخدام النموذج 4. (4) لخص في فقرة كيفية تطبيق التخصصات الأساسية الثلاثة من بداية الوحدة على هذا المشروع.

قائمة مرجعية

• [ ] لقد خططت للمشروع كدورة حياة شاملة.
• [ ] قمت بتحديد سجل القرار باستخدام إصدار النموذج والبيانات.
• [ ] لقد قمت بوضع خطة مراقبة ومشغلات الانجراف.
• [ ] لقد قمت بإعداد خطة التراجع.
• [ ] لقد أوضحت من المسؤول عن كل خطوة.
• [ ] لقد حافظت على الضوابط الثلاثة للتحقق من صحة المرساة والتحقق من أهمية الأمن البشري.

امتحان الوحدة

1. ما هو دور مخرجات الذكاء الاصطناعي في القرارات الحاسمة المتعلقة بسلامة السيارات (مثل التحقق من برنامج الفرامل)؟

• أ) يسرع عملية التحليل ولكن الموافقة النهائية والمسؤولية تبقى على عاتق المهندس المختص ✔
• ب) إذا كانت هناك بيانات كافية، فيمكن وضعها في الإنتاج دون موافقة المهندس
• ج) لا يمكن استخدام الذكاء الاصطناعي في أي مرحلة من الأنظمة الحرجة مثل الفرامل
• د) إذا تجاوزت دقة النموذج 99%، فلا داعي للتحقق البشري

الوصف: يعمل الذكاء الاصطناعي على تسريع عملية التحليل، وإنشاء الحلول والملخصات المرشحة؛ ومع ذلك، فإن القرار المتعلق بالسلامة والموافقة النهائية يقع على عاتق المهندس المختص. الذكاء الاصطناعي ليس بديلاً للتحقق من صحة المهندس.

2. ما هي عمليات الفحص المستقلة الثلاثة المستخدمة لاختبار مخرجات الذكاء الاصطناعي في مجالات التحقق من صحة المرساة الثلاثة؟

• أ) طول المطالبة ولغتها وشكلها
• ب) دليل على ترتيب الحجم والمعقولية الهندسية والاختبار/القياس المستقل ✔
• ج) حجم النموذج ووقت التدريب وعدد وحدات معالجة الرسومات
• د) العلامة التجارية للمورد والسعر ووقت التسليم

الوصف: ثلاث مراسي؛ ترتيب الحجم (فحص الطلب)، والمعقولية الهندسية (الفيزياء/الخبرة) والتحقق المتبادل مع أدلة الاختبار/القياس المستقلة. هؤلاء الثلاثة يوفرون الثقة في الأدلة، وليس الثقة في الذكاء الاصطناعي.

3. ما هو التحقق الأكثر أهمية لمخرجات "النموذج البديل" الذي يعمل على تسريع محاكاة عقود الفروقات أو FEA؟

• أ) يكون النموذج البديل دائمًا أكثر دقة من الحل الحقيقي
• ب) يكفي مجرد جعل العرض يبدو جميلاً من الناحية الجمالية
• ج) المقارنة مع الحل المرجعي وقبول عدم الوثوقية عند التحرك خارج مكان التدريب✔
• د) ليست هناك حاجة للنظر في استقلالية الشبكة إذا تقاربت عملية تشغيل واحدة

الوصف: يُنتج النموذج البديل تنبؤات سريعة بدلاً من الحل الحقيقي؛ ولكنها لا يمكن الاعتماد عليها خارج مساحة التصميم التي تم تدريبها فيها. وينبغي التحقق من المخرجات عن طريق وضع علامة على منطقة الاستقراء مع محاكاة مرجعية عالية الدقة وشروط الحدود المادية.

4. ما هو التعبير الصحيح للمستوى 2 (الأتمتة الجزئية) في مستويات الأتمتة SAE؟

• أ) يجوز للمركبة السير بدون سائق في جميع الأحوال
• ب) لا يقوم النظام بأي واجبات قيادة، بل يعطي تحذيرات فقط
• ج) لا بأس إذا لم يكن جالساً في مقعد السائق
• د) يدعم النظام التوجيه والسرعة ولكن يحتفظ السائق بالإشراف والمسؤولية المستمرة✔

الوصف: في المستوى 2، يدعم النظام التوجيه والسرعة/المسافة في وقت واحد، لكن السائق يحتفظ بالإشراف المستمر ويكون جاهزًا لتولي المسؤولية في أي وقت؛ المسؤولية تقع على عاتق السائق. في المستوى 3 وما فوق، يتولى النظام مهام القيادة في ظروف معينة.

5. لماذا يعد "معدل الهروب" مقياسًا مهمًا في اكتشاف العيوب البصرية في خط الإنتاج؟

• أ) اعتماد الجزء المعيب وإرساله إلى الميدان يشكل خطراً على السلامة والاستدعاء ✔
• ب) إنه مهم فقط لأنه يبطئ سرعة الخط
• ج) معدل التسرب صالح فقط لعيوب الطلاء
• د) يقيس معدل التسرب وقت تدريب النموذج

الوصف: غير قانوني؛ ويعتبر الجزء المعيب كاملا ويمر عبر الخط (سلبي كاذب). بالنسبة لأجزاء سلامة السيارات، يعد التسرب أكثر تكلفة بكثير من الرفض الكاذب لأنه يمكن أن يؤدي إلى الفشل أو الاستدعاء في الميدان؛ يتم تعديل العتبة وفقا لذلك.

6. ما هو الاستخدام الأكثر دقة لتقدير "العمر الإنتاجي المتبقي" (RUL) في الصيانة التنبؤية؟

• أ) يتم حساب RUL لزيت المحرك فقط
• ب) يجب تقديمها مع نطاق عدم اليقين وتفسيرها وفقًا لنافذة الصيانة وهامش الأمان ✔
• ج) ينبغي أن تؤخذ كقيمة يومية واحدة محددة ولا ينبغي إجراء أي فحوصات حتى ذلك اليوم.
• د) يمكن إيقاف تشغيل المستشعرات إذا كانت قيمة RUL مرتفعة

الوصف: RUL هو وقت التشغيل المتبقي المقدر للمكون حتى الفشل؛ وينبغي تقديمها مع نطاق عدم اليقين وتفسيرها وفقًا لخطة الصيانة وهامش الأمان. وبدلاً من الاعتماد بشكل أعمى على تقدير نقطة واحدة، يتم أخذ فاصل الثقة وتكلفة الإنذار الكاذب في الاعتبار.

7. ما الذي يجب على المهندس فعله عندما يشير الذكاء الاصطناعي إلى وجود حالة شاذة في تسجيل اختبار الطريق في تحليل بيانات الاختبار؟

• أ) عندما ترى الحالة الشاذة، يجب تلقائيًا اعتبار الاختبار غير ناجح.
• ب) لا ينبغي للذكاء الاصطناعي أن ينظر إلى البيانات على الإطلاق إذا لم يتم وضع علامة عليها
• ج) التحقق من الشذوذ باستخدام البيانات الأولية وعدم اليقين في القياس والتكرار ✔
• د) حذف الشذوذ ومسح التقرير

Explanation: الشذوذ الذي تشير إليه علامات الذكاء الاصطناعي هو دليل وليس نتيجة. يجب على المهندس التحقق من عدم اليقين في القياس، واحتمال فشل المستشعر، والتكرار والتحقق من الشذوذ باستخدام البيانات الأولية ومعايير القبول. القبول أو الرفض التلقائي ليس مناسبا.

8. ما هو التحقق الإلزامي للتغيير المادي الذي يقترحه الذكاء الاصطناعي في دراسة الوزن الخفيف؟

• أ) يجب أن تكون أخف وزنا فقط
• ب) يمكن أخذ صف واحد في قاعدة بيانات المواد كدليل
• ج) سلوك التصادم غير مهم في المواد خفيفة الوزن
• د) يجب اختبار المتطلبات الميكانيكية والتعب والتصادم وقابلية التصنيع والتكلفة معًا ✔

ملاحظة: لا يمكن قبول توصية المواد بناءً على نسبة الكثافة/القوة فقط؛ يجب التحقق من الخصائص الميكانيكية والتعب وسلوك التصادم وقابلية التصنيع والتآكل والتكلفة ومتطلبات السلامة معًا وتأكيدها عن طريق الاختبار المادي.

9. لماذا تتطلب "المخاطر أحادية المصدر" في سلسلة توريد السيارات اهتمامًا خاصًا في توصيات الذكاء الاصطناعي؟

• أ) يمكن أن يؤدي حدوث خلل في مورد واحد إلى إيقاف الإنتاج بالكامل؛ يجب تقييم المصدر الثاني والمخزن المؤقت✔
• ب) المصدر الوحيد هو دائمًا الخيار الأكثر أمانًا
• ج) تحليل المخاطر غير ضروري إذا اقترح الذكاء الاصطناعي
• د) ينطبق خطر المصدر الواحد على الإطار فقط

توضيح: إذا كانت القطعة تأتي من مورد واحد، يتوقف الإنتاج عند وجود مشكلة مع ذلك المورد. يمكن للذكاء الاصطناعي أن يوصي بمصدر واحد لتحسين التكلفة؛ يجب على المهندس/المخطط موازنة ذلك مع الموارد الثانوية والمخزون المؤقت وتحليل السيناريو. التكلفة ليست المعيار الوحيد.

10. ماذا يعني "تسرب البيانات" عند إجراء تحليل القياس عن بعد باستخدام بايثون ولماذا يعتبر خطيرًا؟

• أ) يتم تسريب البيانات من القرص وحذفها
• ب) يرى النموذج في التدريب معلومات لا يمكن معرفتها وقت التنبؤ؛ يضخم النتيجة، ينهار على ارض الملعب ✔
• ج) مزج الألوان الرسومية
• د) يحدث فقط في بيانات الصورة

الوصف: تسرب البيانات. يحدث هذا عندما يرى النموذج في التدريب معلومات لا يمكن معرفتها فعليًا في وقت التنبؤ (على سبيل المثال، القيمة المستقبلية أو السمة المرتبطة بالهدف). يؤدي هذا إلى رفع درجة الاختبار بشكل مصطنع ولكنه يعطل الأداء الميداني. يجب الحفاظ على التمييز بين الماضي والمستقبل بدقة في السلسلة الزمنية.

11. ما الذي يحدده تصنيف ASIL في سياق السلامة الوظيفية ISO 26262؟

• أ) السرعة القصوى للمركبة
• ب) حجم مجموعة بيانات التدريب للنموذج
• ج) ✔ مستوى الأمان المطلوب حسب شدة الخطر والتعرض له وإمكانية السيطرة عليه.
• د) التصنيف الائتماني للمورد

الوصف: يحدد ASIL (مستوى سلامة سلامة السيارات) مستوى احتياطات السلامة (من A إلى D، D هو الأعلى) التي يتطلبها الخطر بناءً على تقييم الخطورة والتعرض وإمكانية التحكم. يتطلب ASIL العالي تطويرًا وتحققًا وتوثيقًا أكثر صرامة.

12. بأي طريقة يختلف ISO 21448 (SOTIF) عن السلامة الوظيفية الكلاسيكية (ISO 26262)؟

• أ) يعالج فقط أعطال الأجهزة
• ب) ينظم ترخيص البرمجيات فقط
• ج) SOTIF هو الاسم القديم للمعيار ISO 26262
• د) يعالج المخاطر الناشئة عن عدم كفاية الأداء الوظيفي والسيناريوهات غير المعترف بها، حتى في حالة عدم وجود فشل ✔

الوصف: بينما يعالج ISO 26262 المخاطر الناشئة عن الأعطال/أخطاء البرامج والأجهزة، يتناول SOTIF (سلامة الوظيفة المقصودة) المخاطر الناشئة عن الاكتشاف غير الكافي والسيناريوهات غير المعترف بها والحدود الوظيفية، حتى لو لم يتعطل النظام على الإطلاق؛ أمر بالغ الأهمية بشكل خاص في الكشف القائم على الذكاء الاصطناعي.

13. ما هو أفضل نهج فيما يتعلق بالخصوصية عند التعامل مع بيانات القياس عن بعد للسائق والمركبة؟

• أ) الامتثال لـ KVKK/GDPR مع إخفاء الهوية وتقليل البيانات وتحديد الغرض ✔
• ب) إرسال جميع البيانات الأولية إلى النموذج العام مع رقم VIN
• ج) تنطبق الخصوصية فقط على البيانات التسويقية
• د) لا تعتبر بيانات الموقع بيانات شخصية على الإطلاق

الوصف: يمكن لبيانات مثل الموقع وسلوك القيادة ورقم الهيكل (VIN) تحديد هوية الشخص. النهج الأصح؛ إخفاء الهوية/اسم مستعار للبيانات، وجمع ما هو ضروري فقط (تقليل البيانات)، وتحديد الغرض والامتثال لـ KVKK/GDPR. يعد إرسال رقم VIN الأولي أو الموقع إلى أدوات خارجية أمرًا محفوفًا بالمخاطر.

14. لماذا من الضروري مراقبة "انجراف البيانات" في نموذج الذكاء الاصطناعي الذي يتم وضعه قيد الإنتاج؟

• أ) بمجرد تدريب النموذج، فإنه يعطي نفس الأداء إلى أجل غير مسمى.
• ب) يتناقص الأداء بصمت مع تغير توزيع المدخلات مع مرور الوقت؛ يجب تفعيل إعادة التدريب ✔
• ج) الانجراف هو مجرد اهتزاز مادي للأجهزة
• د) المراقبة غير ضرورية لأن النموذج يقوم بتحديث نفسه تلقائيًا

الشرح: العالم الحقيقي يتغير (مورد قطع الغيار الجديد، الموسم، طراز السيارة الجديد)؛ يتناقص أداء النموذج بصمت مع تحرك توزيع المدخلات بعيدًا عن وقت التدريب. يتم تشغيل إعادة التدريب من خلال مراقبة الانجراف ومقاييس الأداء. يعد أسلوب "ضبط الأمر ونسيانه" أمرًا محفوفًا بالمخاطر في مجال السيارات.