یکپارچه سازی سرتاسر، MLOps و مسئولیت مهندس

سود:

• توانایی طراحی یک پروژه خودرویی با پشتیبانی هوش مصنوعی از مفهوم تا تولید و حفظ آن با چرخه نظارت
• توانایی ارزیابی مدیریت نسخه مدل، جابجایی داده ها و نیازهای بازآموزی
• توانایی مقیاس‌سازی ایمن هوش مصنوعی با حفظ مسئولیت‌پذیری، قابلیت ردیابی و مستندات در طول پروژه

در آخرین واحد این ماژول، تمام قطعات را کنار هم می آوریم. ما دیده ایم که چگونه هوش مصنوعی در واحدهای جداگانه، از طراحی تا تولید، از آزمایش تا زنجیره تامین استفاده می شود. اما در یک پروژه واقعی، اینها مراحل مجزا نیستند، بلکه یک چرخه حیات هستند: داده ها جمع آوری می شود، مدل ساخته می شود، در مرحله تولید قرار می گیرد، نظارت می شود و زمانی که قدیمی شد، تجدید می شود. رشته حفظ این چرخه MLOps (عملیات یادگیری ماشین) نامیده می شود. این واحد راه‌اندازی، نگهداری و حفظ مسئولیت‌پذیری یک پروژه خودرویی مبتنی بر هوش مصنوعی را از انتها تا پایان پوشش می‌دهد.

چرخه حیات یک پروژه هوش مصنوعی

یک جریان معمولی انتها به انتها در زمینه خودرو:

1. تعریف مشکل و ارزش: چه مشکل تجاری را حل می کنیم؟ موفقیت چگونه سنجیده می شود؟ آیا این یک عملکرد مهم امنیتی است؟
2. جمع آوری داده ها و برچسب گذاری: منابع (CAN، تست، تولید، تله ماتیک)، کیفیت، محرمانه بودن.
3. توسعه مدل: ویژگی، مدل، تأیید (کنترل نشت، سازگاری واحد).
4. تأیید و ارزیابی امنیتی: در صورت نیاز به ISO 26262/SOTIF، آزمایش مستقل.
5. استقرار: استقرار مدل در دستگاه، روی خط یا در فضای ابری.
6. نظارت: عملکرد، جابجایی داده ها، دقت هشدار.
7. بازآموزی: به روز رسانی مدل زمانی که قدیمی شد.
8. مستندسازی و قابلیت ردیابی: ثبت هر مرحله. کی، کی، چرا

این چرخه یک بار برای همیشه به پایان نمی رسد. مدام می چرخد در خودروسازی، «تنظیم و فراموش کردن» یک مدل خطرناک است.

نکته: هنگام شروع پروژه، "چه کسی این مدل را پس از وارد شدن به میدان، با چه معیاری و هر چند وقت یکبار نظارت خواهد کرد؟" اگر نمی توانید به سوال پاسخ دهید، مدل هنوز برای تولید آماده نیست.

مدیریت نسخه مدل و قابلیت ردیابی

ردیابی در خودرو یک امر لوکس نیست، بلکه اغلب یک تعهد قانونی است. وقتی مشکلی پیش می آید، باید بتوانید به این سوال پاسخ دهید که "چه نسخه مدلی، با چه داده هایی آموزش داده شده است، چه کسی آن را تایید کرده است؟" شیوه های خوب:

• نسخه سازی مدل: شماره هر مدل، داده های آموزشی و تاریخ ثبت می شود.
• نسخه‌سازی داده‌ها: داده‌هایی که روی آن آموزش داده شده است منجمد شده است.
• ثبت تصمیم: تایید توسط چه کسی و با چه مدرکی صورت گرفته است.
• طرح بازگشت: اگر مدل جدید بد بود، می توانید به مدل قبلی برگردید.

مورد

چرا لازم است

در صورت گم شدن ریسک

نسخه مدل

کدام نسخه در فیلد است؟

مشکل قابل ردیابی نیست

نسخه داده

او با چه چیزی آموزش دیده است؟

قابل تکرار نیست

سابقه تایید

چه کسی مسئول است؟

نمی تواند پاسخگو باشد

لغو کردن

بازگشت از نسخه بد

توقف طولانی مدت در زمینه

رانش داده و تحلیل مدل

یک مدل تصویری از دنیایی است که در آن آموزش دیده است. اما جهان تغییر می کند: یک تامین کننده قطعات جدید تحمل سنسور متفاوتی را به ارمغان می آورد، یک مدل وسیله نقلیه جدید ظاهر می شود، فصول تغییر می کند، عادات رانندگی تغییر می کند. با دور شدن توزیع داده‌های ورودی از زمان آموزش، عملکرد مدل بی‌صدا کاهش می‌یابد. این انحراف داده ها و کاهش عملکرد ناشی از آن، واپاشی مدل نامیده می شود.

خطر این است که این نزول ساکت است: مدل فرو نمی ریزد، خطا نمی کند، فقط بیشتر و بیشتر اشتباه می شود. بنابراین:

• نظارت بر توزیع ورودی (تشخیص دریفت).
• معیارهای عملکرد را با نتایج واقعی نظارت کنید (آیا آلارم ها دقیق بودند؟).
• هنگامی که از آستانه فراتر رفت، بازآموزی را آغاز کنید.

احتیاط: این فرض که "به محض آموزش مدل، عملکرد یکسانی را برای همیشه ارائه می دهد" در خودروسازی اشتباه و پرخطر است. مدلی که بدون نظارت رانش به تولید می رسد ممکن است ناآگاهانه غیر قابل اعتماد شود.

سناریوی نمونه پایان به انتها: ناوگان تعمیر و نگهداری پیش بینی شده

بیایید آن را ملموس کنیم. شما در حال نصب یک سیستم هشدار اولیه خرابی توربو برای ناوگان بار هستید:

1. ارزش: کاهش زمان توقف و هزینه های بکسل. موفقیت = خطای واقعی / تعادل هشدار نادرست گرفته شده است.
2. داده ها: سیگنال های CAN 40 وسیله نقلیه، سوابق خطای تاریخی. VIN ناشناس است.
3. مدل: ناهنجاری + RUL; جلوگیری از نشت سری زمانی؛ محدوده عدم قطعیت ارائه شده است.
4. تایید: تست بک تست خطاهای گذشته. هزینه هشدار کاذب سنجیده شد.
5. تولید: امتیاز روزانه در ابر. پانل به تکنسین
6. نظارت: کنترل دریفت هنگام اضافه شدن یک مدل خودروی جدید. دقت هشدار هفتگی
7. بازآموزی: به روز رسانی سه ماهه با نوع خودروی جدید و نمونه های گسل جدید.
8. مستندات: نسخه مدل، نسخه داده، مهندس گواهی کننده ثبت شده است.

هیچ مرحله ای در این جریان نمی گوید: "هوش مصنوعی تصمیم گرفت، انجام شد". مسئولیت هر مرحله یک نفر است.

مطالعات موردی کوچک

مورد 1 - پوسیدگی خاموش. یک مدل کنترل کیفیت به مدت یک سال خوب کار می کند، سپس میزان نشت به آرامی افزایش می یابد. علت اصلی: هنگامی که تامین کننده تغییر کرد، بافت سطح قطعه کمی متفاوت شد (دریفت)، و مدل شروع به فکر کرد که این "عادی" است. نظارت دریفت برقرار شد و مدل دوباره آموزش دید. نتیجه: بدون نظارت، آسیب پذیری برای ماه ها مورد توجه قرار نمی گرفت.

مورد 2 - قابلیت ردیابی ذخیره شد. یک شکایت هشدار نادرست از میدان می آید. از گزارش تصمیم گیری، تیم متوجه می شود که نسخه مدل با کدام داده کار می کند. تشخیص می دهد که مشکل از تنظیمات آستانه در یک نسخه خاص است و آن نسخه را به عقب برمی گرداند. نتیجه: اگر نسخه و سابقه تصمیم وجود نداشت، مشکل قابل ردیابی نیست.

مورد 3 - انضباط بازآموزی. هنگامی که یک مدل الکتریکی جدید به ناوگان می‌پیوندد، مدل تعمیر و نگهداری پیش‌بینی‌کننده موجود، آلارم‌های کاذب زیادی را در این خودرو به صدا در می‌آورد (قطعه‌ای که هرگز ندیده است). قبل از راه اندازی مدل جدید، تیم هشدار رانش را دریافت کرده و مدل را با داده های خودروی جدید گسترش می دهد. نتیجه: پایش دریفت زودهنگام تخریب ناشی از محصول جدید را تشخیص داد.

قالب های سریع

الگو 1 - پیش نویس طرح پروژه:

نقش: رهبر پروژه هوش مصنوعی (خودرو).وظیفه: به من کمک کنید یک پروژه با هوش مصنوعی را به صورت سرتاسر برنامه ریزی کنم. زمینه: تعمیر و نگهداری پیش بینی کننده. ناوگان 40 دستگاهی؛ VIN ناشناس است. محدودیت: مراحل تعریف ارزش، داده، مدل، تأیید، تولید، نظارت، بازآموزی و مستندسازی را جداگانه در نظر بگیرید. مشخص کنید چه کسی مسئول هر مرحله است. خروجی: مرحله | خروجی | مسئول | جدول ریسک

الگو 2 - طرح نظارت:

نقش: شما یک مهندس MLOps هستید. وظیفه: یک طرح نظارتی را برای یک مدل در حال ارائه توصیه کنید. زمینه: توزیع ورودی ممکن است در طول زمان تغییر کند (تامین کننده جدید، ابزار جدید). عملکرد را می توان با نتایج واقعی اندازه گیری کرد. خروجی: متریک برای ردیابی | آستانه | اقدامی که باید آغاز شود

الگو 3 - رتبه بندی دریفت:

نقش: دانشمند داده. وظیفه: نحوه تشخیص انحراف داده ها و زمانی که نیاز به آموزش مجدد است را توضیح دهید. زمینه: مدل بازرسی بصری خط تولید. ممکن است در تامین کننده تغییری ایجاد شود. خروجی: سیگنال | اندازه گیری | محرک بازآموزی

الگو 4 - چک لیست ردیابی:

نقش: شما یک حسابرس کیفیت/انطباق هستید. وظیفه: یک چک لیست ردیابی برای یک مدل ایجاد کنید. زمینه: خودرو. هنگامی که مشکلی رخ می دهد، باید به این سوال پاسخ داده شود که کدام نسخه، کدام داده، چه کسی آن را تایید کرده است. خروجی: آیتم | چرا لازم است | نحوه ذخیره نمودار

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

مدل را وارد تولید کنید.

بدون ردیابی، بدون نسخه سازی، بدون پاسخگویی و بدون بازگشت. پوسیدگی خاموش و مشکلات غیرقابل ردیابی اجتناب ناپذیر است.

اعلان قدرتمند:

نقش: شما MLOps و مشاور کیفیت خودرو هستید. وظیفه: چک لیستی را ایجاد کنید تا بتوانم یک مدل را مسئولانه وارد تولید کنم. زمینه: ناوگان تعمیر و نگهداری پیشگو; انواع خودروهای جدید در طول زمان اضافه می شوند. VIN anonymous.Constraint: شامل نظارت، تشخیص دریفت، ثبت نسخه/داده، تأیید و طرح بازگشت. بیان کنید که چه کسی مسئول هر مورد است. گزاره 'تنظیم و فراموش کن'. خروجی: مرحله | ضرورت | مسئول | جدول ریسک

اشتباهات رایج

• رویکرد "آن را تنظیم کنید و آن را فراموش کنید". بدون نظارت، مدل بی سر و صدا خراب می شود.
• عدم نگهداری سوابق نسخه/داده. مشکل قابل ردیابی یا بازتولید نیست.
• بدون طرح عقبگرد اگر بهبودی پس از انتشار بد مدت زمان زیادی طول بکشد، یک شکست طولانی در این زمینه رخ خواهد داد.
• منتظر دریفت نیستم. تامین کننده/ابزار/فصل جدید مدل را مختل می کند. نظارت ضروری است.
• مبهم گذاشتن مسئولیت پاسخ به این که «مسئول کیست» باید در هر مرحله روشن باشد.

به طور خلاصه

• یک پروژه خودرویی مبتنی بر هوش مصنوعی یک بار نیست، بلکه یک چرخه حیات چرخشی (MLOps) است.
• نسخه‌سازی مدل و داده، ثبت تصمیم و برنامه‌ریزی بازگشتی برای قابلیت ردیابی ضروری است.
• رانش داده ها بی سر و صدا مدل را رد می کند. ورودی و عملکرد باید نظارت شود و در صورت لزوم بازآموزی شود.
• در مثال پایان به انتها، هر مرحله یک انسان مسئول دارد. هیچ "هوش مصنوعی تصمیم گرفت، تمام شد" وجود ندارد.
• "تنظیمش کن و فراموشش کن" در خودرو خطرناک است. نظارت، مستندسازی و پاسخگویی در طول پروژه حفظ می شود.

وظیفه کاربردی

آنچه را که در این ماژول آموخته اید در یک پروژه واحد (مثلاً بازرسی بصری خط تولید یا تعمیر و نگهداری پیش بینی) ترکیب کنید. (1) پیش نویس یک طرح پروژه نهایی با الگوی 1. مسئولیت هر مرحله را بنویسید. (2) یک طرح نظارتی و محرک‌های رانش را با الگو 2 تعریف کنید. (3) یک چک لیست ردیابی با الگوی 4 تهیه کنید. (4) در یک پاراگراف خلاصه کنید که چگونه سه رشته لنگر را از ابتدای ماژول در این پروژه اعمال کردید.

چک لیست

• [ ] من این پروژه را به عنوان یک چرخه زندگی پایان به انتها برنامه ریزی کردم.
• [ ] من رکورد تصمیم را با نسخه سازی مدل و داده تعریف کردم.
• [ ] من یک طرح نظارتی تنظیم کردم و محرک‌های رانش.
• [ ] من یک طرح بازگشتی آماده کردم.
• [ ] من روشن کرده ام چه کسی مسئول هر مرحله است.
• [ ] من سه رشته اعتبار سنجی لنگر و اعتبار سنجی حیاتی امنیت انسانی را حفظ کردم.

امتحان ماژول

1. نقش خروجی هوش مصنوعی در یک تصمیم حیاتی ایمنی خودرو (به عنوان مثال تأیید نرم افزار ترمز) چیست؟

• الف) تسریع در تجزیه و تحلیل، اما تایید نهایی و مسئولیت بر عهده مهندس ذیصلاح ✔
• ب) در صورت وجود داده کافی، می توان آن را بدون تایید مهندس وارد تولید کرد
• ج) هوش مصنوعی را نمی توان در هیچ مرحله ای در سیستم های حیاتی مانند ترمز استفاده کرد
• د) اگر دقت مدل بیش از 99٪ باشد، تأیید انسانی غیر ضروری است

توضیحات: هوش مصنوعی تجزیه و تحلیل را تسریع می کند، راه حل ها و خلاصه های نامزد ایجاد می کند. با این حال، تصمیم حیاتی ایمنی و تایید نهایی بر عهده مهندس ذیصلاح می باشد. هوش مصنوعی جایگزینی برای تأیید اعتبار مهندسی نیست.

2. سه بررسی مستقل مورد استفاده برای آزمایش خروجی یک هوش مصنوعی در سه رشته اعتبار سنجی لنگر چیست؟

• الف) طول، زبان و قالب اعلان
• ب) شواهدی از ترتیب بزرگی، منطقی بودن مهندسی و آزمایش/اندازه گیری مستقل ✔
• ج) اندازه مدل، زمان آموزش و تعداد GPU
• د) نام تجاری تامین کننده، قیمت و زمان تحویل

توضیحات: سه لنگر; مرتبه بزرگی (بررسی ترتیب)، معقول بودن مهندسی (فیزیک/تجربه) و اعتبار متقابل با شواهد آزمون/اندازه گیری مستقل. این سه به شواهد اعتماد می کنند، نه به هوش مصنوعی.

3. مهم‌ترین تأیید برای خروجی یک «مدل جایگزین» که شبیه‌سازی CFD یا FEA را تسریع می‌کند چیست؟

• الف) مدل جایگزین همیشه دقیق تر از حل کننده واقعی است
• ب) فقط ظاهر زیبای رندر کافی است
• ج) مقايسه با راه حل مرجع و پذيرش عدم اطمينان هنگام حركت خارج از فضاي آموزش ✔
• د) در صورت همگرا شدن یک اجرا، نیازی به بررسی استقلال شبکه نیست

توضیحات: مدل جایگزین پیش بینی های سریع به جای حل کننده واقعی تولید می کند. اما خارج از فضای طراحی که در آن آموزش دیده است غیر قابل اعتماد است. خروجی باید با علامت گذاری منطقه برون یابی با شبیه سازی وفاداری بالا مرجع و شرایط مرزی فیزیکی تأیید شود.

4. عبارت صحیح برای سطح 2 (اتوماسیون جزئی) در سطوح اتوماسیون SAE چیست؟

• الف) وسیله نقلیه در هر شرایطی می تواند بدون راننده رانندگی کند
• ب) سیستم هیچ گونه وظیفه رانندگی را بر عهده نمی گیرد، فقط هشدار می دهد
• ج) اگر در صندلی راننده ننشیند اشکالی ندارد
• د) سیستم از فرمان و سرعت پشتیبانی می کند، اما راننده نظارت و مسئولیت دائمی خود را حفظ می کند

توضیحات: در سطح 2، سیستم به طور همزمان از فرمان و سرعت/فاصله پشتیبانی می کند، اما راننده نظارت دائمی خود را حفظ می کند و در هر زمان آماده است تا کنترل را به دست گیرد. مسئولیت با راننده است. در سطح 3 و بالاتر، این سیستم در شرایط خاصی وظایف رانندگی را بر عهده می گیرد.

5. چرا «نرخ فرار» یک معیار مهم در تشخیص عیب بصری در خط تولید است؟

• الف) تایید قطعه معیوب و ارسال آن به میدان خطر ایمنی و فراخوانی دارد ✔
• ب) فقط به این دلیل مهم است که سرعت خط را کاهش می دهد
• ج) میزان نشتی فقط برای عیوب رنگ معتبر است
• د) نرخ نشت زمان آموزش مدل را اندازه گیری می کند

توضیحات: غیرقانونی قسمت معیوب کامل در نظر گرفته می شود و از خط می گذرد (منفی کاذب). برای یک قطعه ایمنی خودرو، نشتی بسیار پرهزینه تر از رد کاذب است زیرا می تواند منجر به خرابی یا فراخوانی در میدان شود. آستانه بر این اساس تنظیم می شود.

6. دقیق ترین استفاده از تخمین «عمر مفید باقیمانده» (RUL) در نگهداری پیش بینی شده چیست؟

• الف) RUL فقط برای روغن موتور محاسبه می شود
• ب) باید با محدوده عدم قطعیت ارائه شود و با توجه به پنجره نگهداری و حاشیه ایمنی تفسیر شود ✔
• ج) باید به عنوان یک روز دقیق در نظر گرفته شود و تا آن روز هیچ گونه بررسی صورت نگیرد.
• د) در صورت بالا بودن RUL، سنسورها را می توان خاموش کرد

توضیحات: RUL زمان تخمینی باقیمانده عملیات یک قطعه تا خرابی است. باید با محدوده عدم قطعیت ارائه شود و بر اساس طرح نگهداری و حاشیه ایمنی تفسیر شود. به جای تکیه کورکورانه بر یک برآورد واحد، فاصله اطمینان و هزینه هشدار نادرست در نظر گرفته می شود.

7. هنگامی که هوش مصنوعی در تجزیه و تحلیل داده های آزمایشی، یک ناهنجاری در ضبط تست جاده را علامت گذاری می کند، یک مهندس چه کاری باید انجام دهد؟

• الف) هنگامی که ناهنجاری را مشاهده می کنید، آزمایش باید به طور خودکار ناموفق تلقی شود.
• ب) هوش مصنوعی به هیچ وجه نباید به داده ها نگاه کند اگر آنها را علامت گذاری نکرده باشد
• ج) بررسی ناهنجاری با داده های خام، عدم قطعیت اندازه گیری و تکرارپذیری ✔
• د) حذف ناهنجاری ها و پاک کردن گزارش

توضیح: این ناهنجاری که پرچم‌های هوش مصنوعی یک سرنخ است نه نتیجه‌گیری. مهندس باید عدم قطعیت اندازه گیری، احتمال خرابی سنسور و تکرارپذیری را بررسی کند و ناهنجاری را با داده های خام و معیارهای پذیرش تأیید کند. پذیرش یا رد خودکار مناسب نیست.

8. چه تأییدی برای تغییر ماده پیشنهاد شده توسط هوش مصنوعی در یک مطالعه سبک وزن اجباری است؟

• الف) فقط باید سبکتر باشد
• ب) یک ردیف در پایگاه داده مواد را می توان به عنوان مدرک در نظر گرفت
• ج) رفتار تصادف در مواد سبک وزن بی اهمیت است
• د) الزامات مکانیکی، خستگی، تصادف، قابلیت ساخت و هزینه باید با هم آزمایش شوند ✔

توجه: توصیه مواد را نمی توان صرفاً بر اساس نسبت تراکم / استحکام پذیرفت. خواص مکانیکی، خستگی، رفتار تصادف، قابلیت ساخت، خوردگی، هزینه و الزامات ایمنی باید با هم تأیید شده و با آزمایش فیزیکی تأیید شوند.

9. چرا «ریسک تک منبعی» در زنجیره تامین خودرو نیازمند توجه ویژه در توصیه‌های هوش مصنوعی است؟

• الف) اختلال در یک تامین کننده می تواند تمام تولید را متوقف کند. منبع دوم و بافر باید ارزیابی شوند ✔
• ب) منبع واحد همیشه امن ترین گزینه است
• ج) تجزیه و تحلیل ریسک در صورت پیشنهاد هوش مصنوعی غیرضروری است
• د) خطر یک منبع فقط برای لاستیک اعمال می شود

توضیح: اگر قطعه ای از یک تامین کننده باشد، در صورت بروز مشکل در آن تامین کننده، تولید متوقف می شود. هوش مصنوعی می تواند منبع واحدی را برای بهینه سازی هزینه توصیه کند. مهندس / برنامه ریز باید این را با منابع ثانویه، بافر سهام و تجزیه و تحلیل سناریو متعادل کند. هزینه تنها معیار نیست.

10. «نشت داده» هنگام انجام آنالیز تله متری با پایتون به چه معناست و چرا خطرناک است؟

• الف) داده ها از دیسک به بیرون درز کرده و حذف می شوند
• ب) مدل در آموزش اطلاعاتی را می بیند که در زمان پیش بینی نمی توان آنها را شناخت. امتیاز را باد می کند، در زمین فرو می ریزد ✔
• ج) ترکیب رنگ های گرافیکی
• د) فقط در داده های تصویری رخ می دهد

توضیحات: نشت داده. این زمانی است که مدل در آموزش اطلاعاتی را می بیند که واقعاً در زمان پیش بینی نمی توان آنها را شناخت (مثلاً ارزش آینده یا ویژگی مرتبط با هدف). این به طور مصنوعی نمره آزمون را افزایش می دهد اما عملکرد میدانی را خراب می کند. تمایز گذشته/آینده باید به دقت در سری های زمانی حفظ شود.

11. طبقه بندی ASIL در زمینه ایمنی عملکردی ISO 26262 چه چیزی را تعیین می کند؟

• الف) حداکثر سرعت وسیله نقلیه
• ب) اندازه مجموعه داده های آموزشی مدل
• ج) ✔ سطح ایمنی لازم با توجه به شدت، قرار گرفتن در معرض و قابل کنترل بودن خطر.
• د) رتبه اعتباری تامین کننده

توضیحات: ASIL (سطح یکپارچگی ایمنی خودرو) سطح اقدامات احتیاطی ایمنی (از A تا D، D بالاترین است) را که یک خطر بر اساس ارزیابی شدت، قرار گرفتن در معرض و قابلیت کنترل نیاز دارد، تعیین می کند. ASIL بالا مستلزم توسعه، تأیید و مستندسازی دقیق‌تر است.

12. ISO 21448 (SOTIF) چه تفاوتی با ایمنی عملکردی کلاسیک (ISO 26262) دارد؟

• الف) فقط خرابی های سخت افزاری را مدیریت می کند
• ب) فقط مجوز نرم افزار را تنظیم می کند
• ج) SOTIF نام قدیمی ISO 26262 است
• د) خطرات ناشی از عملکرد ناکافی و سناریوهای ناشناخته را، حتی در صورت عدم وجود شکست، بررسی می کند.

توضیحات: در حالی که ISO 26262 خطرات ناشی از نقص عملکرد/خطاهای سخت افزاری-نرم افزاری را بررسی می کند، SOTIF (ایمنی عملکرد مورد نظر) خطرات ناشی از تشخیص ناکافی، سناریوهای ناشناخته و محدودیت های عملکردی را مورد توجه قرار می دهد، حتی اگر سیستم اصلاً کار نکند. به ویژه در تشخیص مبتنی بر هوش مصنوعی بسیار مهم است.

13. بهترین رویکرد از نظر حفظ حریم خصوصی هنگام کار با داده های تله متری راننده و خودرو چیست؟

• الف) مطابقت KVKK/GDPR با ناشناس سازی، به حداقل رساندن داده ها و محدودیت هدف ✔
• ب) ارسال تمام داده های خام به مدل عمومی به همراه VIN
• ج) حریم خصوصی فقط برای داده های بازاریابی اعمال می شود
• د) داده های موقعیت مکانی هرگز داده های شخصی محسوب نمی شوند

توضیحات: داده هایی مانند موقعیت مکانی، رفتار رانندگی و شماره شاسی (VIN) می توانند شخص را شناسایی کنند. صحیح ترین رویکرد؛ ناشناس‌سازی/تقلب کردن داده‌ها، جمع‌آوری تنها آنچه لازم است (به حداقل رساندن داده‌ها)، محدودیت هدف و مطابقت با KVKK/GDPR. ارسال VIN خام یا موقعیت مکانی به ابزارهای شخص ثالث خطرناک است.

14. چرا نظارت بر "انحراف داده ها" در یک مدل هوش مصنوعی که تولید می شود ضروری است؟

• الف) هنگامی که مدل آموزش داده شد، همان عملکرد را به طور نامحدود ارائه می دهد.
• ب) با تغییر توزیع ورودی در طول زمان، عملکرد بی‌صدا کاهش می‌یابد. بازآموزی باید آغاز شود ✔
• ج) دریفت فقط ارتعاش فیزیکی سخت افزار است
• د) نظارت غیر ضروری است زیرا مدل به طور خودکار به روز می شود

توضیح: دنیای واقعی تغییر می کند (تامین کننده قطعات جدید، فصل، مدل خودروی جدید). با دور شدن توزیع ورودی از زمان آموزش، عملکرد مدل بی‌صدا کاهش می‌یابد. بازآموزی با نظارت رانش و معیارهای عملکرد آغاز می شود. رویکرد «تنظیم کن و فراموشش کن» در خودرو خطرناک است.