فائدہ:
- آئی ایس او 26262 فنکشنل سیکیورٹی اور آئی ایس او 21448 (ایس او ٹی آئی ایف) فریم ورک اور مصنوعی ذہانت پر مشتمل سسٹمز پر ان کے اثرات کی وضاحت کرنے کی صلاحیت
- ڈیٹا پرائیویسی، ڈرائیور ڈیٹا، سائبرسیکیوریٹی (ISO/SAE 21434) اور آٹوموٹو سیاق و سباق میں اخلاقی خطرات کا انتظام کرنے کی اہلیت
- یہ سمجھ کر کہ AI آؤٹ پٹ قابل انجینئر کی منظوری کا متبادل نہیں ہے، حفاظتی اہم فیصلوں کے لیے انسانی ذمہ داری کو برقرار رکھنے کی صلاحیت
آپ اس ماڈیول کی سب سے اہم اکائی میں ہیں۔ اب تک ہم نے AI کو ڈیزائن سے لے کر مینوفیکچرنگ تک، ٹیسٹنگ سے سپلائی چین تک ایک ایکسلریٹر کے طور پر دیکھا ہے۔ لیکن آٹوموٹو میں فیصلہ کن سوال یہ ہے کہ: کیا یہ نظام کسی کو نقصان پہنچائے گا اور کون ذمہ دار ہے؟ یہ یونٹ سادہ زبان میں حفاظت کے لیے اہم صنعت میں AI کو ذمہ داری کے ساتھ استعمال کرنے کے فریم ورک کا احاطہ کرتا ہے — فنکشنل سیفٹی، SOTIF، سائبر سیکیورٹی، رازداری، اور اخلاقیات۔ بنیادی اصول مستقل رہتا ہے: AI آؤٹ پٹ کبھی بھی قابل انجینئر کی منظوری کی جگہ نہیں لیتا۔ سلامتی کے لیے اہم فیصلہ اور ذمہ داری انسان کی ہے۔
آئی ایس او 26262: فعال حفاظت
ISO 26262 سڑک پر چلنے والی گاڑیوں کے برقی/الیکٹرانک نظام کے لیے فعال حفاظتی معیار ہے۔ فنکشنل حفاظت؛ اس کا تعلق اس بات کو یقینی بنانے سے ہے کہ جب کوئی سسٹم ناکام ہوجاتا ہے (سینسر ٹوٹ جاتا ہے، سافٹ ویئر ناکام ہوجاتا ہے) تو یہ خطرناک صورتحال کا باعث نہیں بنتا۔
اس معیار کے مرکز میں ASIL (آٹو موٹیو سیفٹی انٹیگریٹی لیول) ہے۔ خطرے کا اندازہ تین جہتوں میں کیا جاتا ہے:
- شدت: اگر ایسا ہوا تو کتنا برا ہوگا؟ (معمولی چوٹ یا موت)
- نمائش: یہ کتنی بار ہوتا ہے؟
- قابو پانے کی صلاحیت: ڈرائیور صورتحال کو کتنا کنٹرول کر سکتا ہے؟
ان تینوں کا مشترکہ نتیجہ ASIL A (سب سے کم) سے ASIL D (سب سے زیادہ، جیسے بریک لگانا، اسٹیئرنگ) تک ہوتا ہے۔ جیسے جیسے سطح میں اضافہ ہوتا ہے، ترقی، جانچ اور دستاویزات کے تقاضے سخت ہوتے جاتے ہیں۔
مین
نمونہ نظام
ضرورت کی شدت
اے۔
اندرونی روشنی کی خرابی۔
کم
بی۔
دم کی روشنی
درمیانہ
سی۔
کچھ ADAS افعال
اعلی
ڈی
بریک، اسٹیئرنگ، ایئر بیگ
سب سے زیادہ
ٹپ: کسی فنکشن کے مین لیول کو جاننا آپ کو بتاتا ہے کہ اس فنکشن میں AI کا استعمال کرتے ہوئے کتنی توجہ کی ضرورت ہے۔ کسی فنکشن میں AI آؤٹ پٹ پر مبنی کوئی فیصلہ آزاد سیکورٹی تصدیق کے بغیر قبول نہیں کیا جا سکتا۔
ISO 21448 (SOTIF): مطلوبہ فنکشن کی حفاظت
کلاسیکل فنکشنل سیفٹی (ISO 26262) اس سوال پر توجہ مرکوز کرتا ہے "اگر سسٹم ناکام ہوجاتا ہے تو کیا ہوگا؟" لیکن مصنوعی ذہانت کا پتہ لگانے کے نظام میں ایک نیا مسئلہ ہے: یہاں تک کہ اگر یہ نظام کبھی خراب نہیں ہوتا ہے، تو یہ ناکافی ہو سکتا ہے۔ کیمرہ ٹھیک کام کرتا ہے لیکن برفیلے سلیب کو نہیں پہچان سکتا۔ ریڈار ٹھوس ہے، لیکن یہ ایک اسٹیشنری گاڑی کو بھوت سگنل کے طور پر نظر انداز کرتا ہے۔ یہاں کوئی ہارڈ ویئر/سافٹ ویئر کی ناکامی نہیں ہے۔ مسئلہ فنکشن کے مطلوبہ دائرہ کار کی حد پر ہے۔
ISO 21448 - SOTIF (مقصد فنکشنلٹی کی حفاظت) بالکل اسی خلا کو پورا کرتا ہے: غیر تسلیم شدہ منظرناموں، پتہ لگانے کی حدوں اور غیر متوقع حالات سے پیدا ہونے والے خطرات کا انتظام کرنا، چاہے سسٹم ڈیزائن کے مطابق کام کرے۔ AI پر مبنی ADAS/خودکار ڈرائیونگ میں، SOTIF اتنا ہی اہم ہے جتنا ISO 26262۔
فریم
فوکس
مثال
آئی ایس او 26262
ناکامی کی وجہ سے خطرہ
سینسر ٹوٹ جاتا ہے، سگنل غائب ہو جاتا ہے۔
ISO 21448 (SOTIF)
ناکافی / عدم شناخت کا خطرہ
ناہموار کیمرا برفیلے سلیب کو نہیں پہچانتا
ISO/SAE 21434
سائبر سیکورٹی
سسٹم پر حملہ، ڈیٹا میں ہیرا پھیری
احتیاط: AI ماڈلز شماریاتی ہیں؛ وہ اس بات کی ضمانت نہیں دے سکتے کہ وہ "ہر صورتحال کو صحیح طور پر دیکھیں گے"۔ SOTIF کا مقصد ان موروثی طور پر محدود نظاموں میں نامعلوم خطرناک منظرناموں کو کم کرنا اور بقیہ خطرے کو قابل قبول سطح تک کم کرنا ہے۔ "ماڈل 99.9% درست ہے" سیکورٹی کا ثبوت نہیں ہے۔
ISO/SAE 21434: سائبر سیکیورٹی
منسلک اور سافٹ ویئر سے طے شدہ گاڑیاں سائبر حملے کا شکار ہیں۔ ایک ریموٹ حملہ آور بریک کمانڈ کو تبدیل کر سکتا ہے، ٹیلی میٹری چوری کر سکتا ہے، یا پتہ لگانے والے ماڈل کو چال کر سکتا ہے (مخالف حملہ: پلیٹ پر چھوٹا اسٹیکر رکھ کر ماڈل کو غلط پہچاننا)۔ ISO/SAE 21434 گاڑیوں کی سائبر سیکیورٹی کے لیے انجینئرنگ فریم ورک ہے۔ مصنوعی ذہانت کے تناظر میں، دو خطرات سامنے آتے ہیں: ماڈل کو دھوکہ دینا (مخالف) اور تربیتی ڈیٹا کو زہر دینا (ڈیٹا پوائزننگ)۔ ان حملوں کے خلاف حفاظتی لحاظ سے اہم AI سسٹمز کا تجربہ کیا جانا چاہیے۔
رازداری اور ذاتی ڈیٹا
جدید گاڑی ایک "پہیوں پر ڈیٹا سینٹر" ہے: مقام، ڈرائیونگ رویہ، آڈیو، یہاں تک کہ کیبن کیمرہ۔ اس میں سے زیادہ تر ذاتی ڈیٹا ہے اور اس کا احاطہ KVKK (Türkiye) اور GDPR (یورپ) کے ذریعے کیا گیا ہے۔ VIN (چیسس نمبر) گاڑی اور بالواسطہ طور پر اس کے مالک کی شناخت کر سکتا ہے۔ بنیادی اصول:
- ڈیٹا کو کم سے کم کرنا: صرف وہی جمع کریں جس کی ضرورت ہے۔
- مقصد کی حد: ڈیٹا کو اس مقصد کے علاوہ کسی اور مقصد کے لیے استعمال نہ کریں جس کے لیے اسے جمع کیا گیا تھا۔
- گمنامی/ تخلص: ذاتی طور پر شناخت کرنے والی معلومات کو ہٹائیں یا انکوڈ کریں۔
- واضح رضامندی اور شفافیت: ڈرائیور کو معلوم ہونا چاہیے کہ کیا جمع کیا جا رہا ہے۔
- محفوظ اسٹوریج اور ٹرانسفر۔
احتیاط: خام VIN، مقام کی سرگزشت، یا عوامی کلاؤڈ AI ٹول پر ڈرائیونگ رویہ بھیجنا رازداری کی خلاف ورزی اور معاہدہ کا خطرہ دونوں ہو سکتا ہے۔ اس ڈیٹا کے ساتھ کام کرتے وقت، اسے گمنام رکھیں اور ادارہ جاتی، ڈیٹا سے محفوظ ماحول استعمال کریں۔
اخلاقیات اور انجینئر کی ذمہ داری
مصنوعی ذہانت اپنے ساتھ کچھ اخلاقی خطرات لاتی ہے:
- تعصب: اگر تربیتی اعداد و شمار کچھ شرائط پر غالب ہیں (مثلاً دن کا وقت، ہلکی جلد، کچھ علاقائی سڑکیں)، تو ماڈل کم پیش کردہ حالات (رات، مختلف حالات) میں خراب کارکردگی کا مظاہرہ کر سکتا ہے۔ یہ ایک کمزوری ہے۔
- حد سے زیادہ اعتماد (آٹومیشن تعصب): لوگ آٹومیشن پر اندھا اعتماد کرتے ہیں اور اپنے فیصلے کو اوور رائیڈ کرتے ہیں۔ اگر ٹیسٹ انجینئر خام ڈیٹا کو صرف اس وجہ سے دیکھنا چھوڑ دیتا ہے کہ AI کہتا ہے "پاس"، یہ ایک خطرناک رجحان ہے۔
- ذمہ داری کا نقصان: "ماڈل نے فیصلہ کیا" کوئی دفاع نہیں ہے۔ فیصلے کے پیچھے ہمیشہ دستخط کرنے والا شخص ہونا چاہیے۔
منی کیس اسٹڈیز
کیس 1 - SOTIF کی حد۔ ایک خودکار ایمرجنسی بریکنگ سسٹم تمام لیبارٹری ٹیسٹ پاس کرتا ہے، بغیر کسی خرابی کے۔ میدان میں، کم دھوپ میں، ایک سفید ٹرک اپنے ٹریلر کو آسمان کی طرف دیکھتا ہے اور دیر سے بریک لگاتا ہے۔ یہ کوئی خرابی نہیں ہے، بلکہ SOTIF کمزوری ہے: سسٹم برقرار ہے لیکن منظر نامہ پتہ لگانے کی حد سے باہر ہے۔ ٹیم اس منظر نامے کو ٹیسٹ لائبریری میں شامل کرتی ہے اور ریڈار فیوژن کو مضبوط کرتی ہے۔ نتیجہ: "کوئی ناکامی" حفاظت کا ثبوت نہیں ہے۔ کمی بھی ایک خطرہ ہے۔
کیس 2 - متعصب ڈیٹا۔ پیدل چلنے والوں کا پتہ لگانے والے ماڈل کو بنیادی طور پر دن کے وقت کے ڈیٹا کے ساتھ تربیت دی گئی تھی۔ رات کی یاد نمایاں طور پر کم ہے۔ ٹیم بیلنس کرتی ہے اور رات اور کم روشنی کے ڈیٹا کو دوبارہ تربیت دیتی ہے اور رات کے منظرناموں کو الگ سے رپورٹ کرتی ہے۔ نتیجہ: غیرمتوازن ڈیٹا بعض حالات میں ایک مہلک خطرہ پیدا کرتا ہے۔
کیس 3 - رازداری کی خلاف ورزی کی روک تھام۔ ایک تجزیہ کار عوامی AI ٹول میں بیڑے کا ڈیٹا چسپاں کرنے والا ہے جب اس نے دیکھا کہ ڈیٹا میں خام VIN اور GPS مقامات ہیں۔ یہ ڈیٹا کو گمنام کرکے کارپوریٹ ماحول میں کام کرتا ہے (VIN کی بجائے گاڑی_01..arac_50، مقام کی بجائے ریجن کوڈ)۔ نتیجہ: توجہ کے ایک لمحے نے KVKK کی سنگین خلاف ورزی کو روکا۔
فوری ٹیمپلیٹس
سانچہ 1 - PRIOR/خطرے کی ابتدائی تشخیص (مسودہ):
کردار: آپ ایک فعال حفاظتی مشیر ہیں۔ ٹاسک: کسی فنکشن کے لیے خطرہ اور خطرے کے تجزیہ میں مدد کے لیے ایک مسودہ تیار کرتا ہے۔ سیاق و سباق: فنکشن: خودکار ایمرجنسی بریک۔ urban and intercity. Constraint: ASIL کی درست تفویض؛ شدت/نمائش/کنٹرولبلٹی کے طول و عرض پر سوالات اور توجہ کے نکات کی فہرست دیں۔ اس بات کی نشاندہی کریں کہ حتمی تفویض مجاز سیکیورٹی انجینئر کے پاس ہے۔ آؤٹ پٹ: سائز | تشخیص کا سوال | توجہ کی میز.
ٹیمپلیٹ 2 - SOTIF منظر نامہ اسکین:
کردار: آپ SOTIF ماہر ہیں۔ ٹاسک: ایسے منظرناموں کی فہرست بنائیں جہاں پتہ لگانے کا فنکشن 'سسٹم برقرار لیکن ناکافی' ہو سکتا ہے۔ سیاق و سباق: کیمرہ + ریڈار؛ کم سورج، برف، سرنگ سے باہر نکلنا، غیر معمولی اشیاء۔ آؤٹ پٹ: منظر نامہ | ناکافی کیوں | کمی کی سفارش.
ٹیمپلیٹ 3 - پرائیویسی کنٹرول:
کردار: آپ ڈیٹا پروٹیکشن (KVKK/GDPR) کنسلٹنٹ ہیں۔ ٹاسک: ڈیٹا سیٹ شیئر کرنے سے پہلے پرائیویسی آڈٹ کریں۔ سیاق و سباق: فلیٹ ٹیلی میٹری؛ کالموں میں VIN، GPS، ڈرائیونگ سکور شامل ہیں۔ رکاوٹ: کون سے فیلڈز ذاتی ڈیٹا ہیں، انہیں کیسے گمنام ہونا چاہیے، مجھے کیا شیئر نہیں کرنا چاہیے؛ sort.Output: Field | خطرہ | تجویز کردہ لین دین کا چارٹ۔
سانچہ 4 - تعصب کی جانچ:
کردار: آپ ایم ایل سیفٹی اور فیئرنس آڈیٹر ہیں۔ کام: مجھے بتائیں کہ پتہ لگانے والے ماڈل میں تعصب کے خطرے کو کیسے تلاش کیا جائے۔ سیاق و سباق: پیدل چلنے والوں کا پتہ لگانا؛ ٹریننگ ڈیٹا وزنی دن/شہر۔آؤٹ پٹ: جانچنے کی شرط | پیمائش | خطرے کی علامت
کمزور فوری / مضبوط اشارہ
کمزور اشارہ:
کیا یہ خود مختار بریکنگ سسٹم محفوظ ہے، تصدیق کریں۔
AI سیکیورٹی کلیئرنس حاصل کرنے کی کوشش خطرناک ہے؛ منظوری مجاز انجینئر کی ہے۔
طاقتور اشارہ:
کردار: آپ ایک فعال حفاظتی اور SOTIF کنسلٹنٹ ہیں۔ ٹاسک: فہرست بنائیں کہ مجھے کون سے سوالات پوچھنے چاہئیں اور مجھے اپنے خودکار بریکنگ فنکشن کے حفاظتی جائزہ میں کون سے ثبوت جمع کرنے چاہئیں۔ سیاق و سباق: AI کی بنیاد پر پتہ لگانے؛ کیمرے + ریڈار؛ ASIL زیادہ ہو سکتا ہے۔ رکاوٹ: سسٹم کو 'منظور کریں'۔ ISO 26262 (عیب) اور SOTIF (کمی) کے لحاظ سے سوالات اور شواہد کی الگ الگ فہرستیں فراہم کریں۔ اس بات پر زور دیں کہ حتمی منظوری مجاز سیکورٹی انجینئر کے پاس ہے۔ آؤٹ پٹ: فریم ورک | سوال | مطلوبہ ثبوت کی میز.
عام غلطیاں
- "محفوظ" کے ساتھ "کوئی خرابی نہیں" کو الجھانا۔ SOTIF کی کمی خرابی کے بغیر مار سکتی ہے۔
- AI سیکیورٹی کلیئرنس حاصل کرنا۔ منظوری اور ذمہ داری مجاز انجینئر کے ساتھ ہے۔
- سیکورٹی کے ثبوت کے طور پر ماڈل کی درستگی کو غلط سمجھنا۔ 99.9% درستگی اس بات کی نشاندہی نہیں کرتی ہے کہ باقی خطرے کا انتظام کیا گیا ہے۔
- ذاتی ڈیٹا کی حفاظت نہیں کرنا۔ VIN/مقام/ڈرائیونگ کا رویہ KVKK/GDPR کے دائرہ کار میں ہے۔
- تعصب اور حد سے زیادہ اعتماد کو نظر انداز کرنا۔ غیر متوازن ڈیٹا اور آٹومیشن پر اندھا اعتماد کمزوریاں ہیں۔
خلاصہ میں
- ISO 26262 ناکامی کی وجہ سے خطرے کا انتظام کرتا ہے (ASIL کے ساتھ)، جبکہ ISO 21448/SOTIF ناکامی کے خطرے کو ناکامی کے بغیر منظم کرتا ہے۔ دونوں AI کا پتہ لگانے میں اہم ہیں۔
- ISO/SAE 21434 سائبر سیکیورٹی؛ مخالفانہ اور ڈیٹا پوائزننگ حملے AI سے مخصوص خطرات ہیں۔
- KVKK/GDPR کے دائرہ کار میں ڈیٹا کو کم کرنا، مقصد کی حد بندی اور نام ظاہر کرنا لازمی ہے۔ VIN/مقام ذاتی ڈیٹا ہے۔
- تعصب، حد سے زیادہ اعتماد اور ذمہ داری سے محرومی بنیادی اخلاقی خطرات ہیں۔
- AI آؤٹ پٹ قابل انجینئر کی منظوری کا متبادل نہیں ہے۔ سیکورٹی کے لیے اہم فیصلہ اور دستخط ہمیشہ شخص کے ہوتے ہیں۔
درخواست کا کام
حفاظت سے متعلق فنکشن کا انتخاب کریں (مثلاً لین کیپنگ)۔ (1) اس بات پر بحث کریں کہ اس فنکشن کی ASIL لیول شدت/نمائش/کنٹرولبلٹی جہتوں کے ساتھ زیادہ/کم کیوں ہو سکتی ہے۔ (2) ٹیمپلیٹ 2 کے ساتھ 5 "سسٹم ٹھوس لیکن ناکافی" منظرنامے تیار کریں۔ (3) رازداری ٹیمپلیٹ 3 کے ساتھ ایک متعلقہ ڈیٹاسیٹ کا آڈٹ کریں۔ (4) وضاحت کریں کہ "ماڈل کی تصدیق ہو گئی" کہنا دفاع کیوں نہیں ہے۔
چیک لسٹ
- [ ] میں نے فنکشن کے اصل جہتوں کا جائزہ لیا (میں نے عین اسائنمنٹ کو اتھارٹی پر چھوڑ دیا)۔
- میں نے ISO 26262 (خرابی) اور SOTIF (ناکافی) کے درمیان فرق کیا ہے۔
- میں نے سائبر سیکیورٹی (مخالف/زہریلا) خطرے کو مدنظر رکھا ہے۔
- [ ] میں نے ذاتی ڈیٹا کو گمنام اور کم سے کم کیا۔
- میں نے تعصب اور حد سے زیادہ اعتماد کے خطرات کی جانچ کی۔
- میں نے تصدیق کی ہے کہ سیکیورٹی کلیئرنس اہل انجینئر کے پاس ہے۔