লাভ:
- ISO 26262 কার্যকরী নিরাপত্তা এবং ISO 21448 (SOTIF) ফ্রেমওয়ার্ক এবং কৃত্রিম বুদ্ধিমত্তা ধারণকারী সিস্টেমে তাদের প্রভাব ব্যাখ্যা করার ক্ষমতা
- স্বয়ংচালিত প্রসঙ্গে ডেটা গোপনীয়তা, ড্রাইভার ডেটা, সাইবার নিরাপত্তা (ISO/SAE 21434) এবং নৈতিক ঝুঁকিগুলি পরিচালনা করার ক্ষমতা
- AI আউটপুট দক্ষ প্রকৌশলীর অনুমোদনের বিকল্প নয় তা বুঝে নিরাপত্তা-গুরুত্বপূর্ণ সিদ্ধান্তের জন্য মানুষের দায়িত্ব বজায় রাখার ক্ষমতা
আপনি এই মডিউলের সবচেয়ে গুরুত্বপূর্ণ ইউনিটে আছেন। এ পর্যন্ত আমরা AI কে ডিজাইন থেকে ম্যানুফ্যাকচারিং, টেস্টিং থেকে সাপ্লাই চেইন পর্যন্ত অ্যাক্সিলারেটর হিসেবে দেখেছি। কিন্তু স্বয়ংচালিত ক্ষেত্রে সিদ্ধান্তমূলক প্রশ্ন হল: এই সিস্টেমটি কি কারো ক্ষতি করবে এবং কে দায়ী? এই ইউনিটটি একটি নিরাপত্তা-সমালোচনা শিল্পে দায়িত্বের সাথে AI ব্যবহার করার কাঠামোগুলিকে সহজ ভাষায় কভার করে - কার্যকরী নিরাপত্তা, SOTIF, সাইবার নিরাপত্তা, গোপনীয়তা এবং নীতিশাস্ত্র। মূল নীতিটি স্থির থাকে: AI আউটপুট কখনই দক্ষ প্রকৌশলীর অনুমোদন প্রতিস্থাপন করে না; নিরাপত্তা-সমালোচনামূলক সিদ্ধান্ত এবং দায়িত্ব মানুষেরই।
ISO 26262: কার্যকরী নিরাপত্তা
ISO 26262 হল রাস্তার যানবাহনের বৈদ্যুতিক/ইলেক্ট্রনিক সিস্টেমের জন্য কার্যকরী নিরাপত্তা মান। কার্যকরী নিরাপত্তা; এটি নিশ্চিত করার সাথে সংশ্লিষ্ট যে যখন একটি সিস্টেম ব্যর্থ হয় (একটি সেন্সর ভেঙে যায়, একটি সফ্টওয়্যার ব্যর্থ হয়) এটি একটি বিপজ্জনক পরিস্থিতির দিকে নিয়ে যায় না।
এই মানের কেন্দ্রে রয়েছে ASIL (অটোমোটিভ সেফটি ইন্টিগ্রিটি লেভেল)। একটি বিপদ তিনটি মাত্রায় মূল্যায়ন করা হয়:
- তীব্রতা: এটা হলে কতটা খারাপ হবে? (সামান্য আঘাত বা মৃত্যু)
- এক্সপোজার: এটি কত ঘন ঘন ঘটে?
- নিয়ন্ত্রণযোগ্যতা: ড্রাইভার পরিস্থিতি কতটা নিয়ন্ত্রণ করতে পারে?
এই তিনটি মিলিত ফলাফল ASIL A (সর্বনিম্ন) থেকে ASIL D (সর্বোচ্চ, যেমন ব্রেকিং, স্টিয়ারিং) পর্যন্ত একটি স্তরে পরিণত হয়। স্তর বৃদ্ধির সাথে সাথে বিকাশ, পরীক্ষা এবং ডকুমেন্টেশনের প্রয়োজনীয়তা আরও কঠোর হয়ে ওঠে।
প্রধান
নমুনা সিস্টেম
প্রয়োজনের তীব্রতা
ক.
অভ্যন্তরীণ আলোর ত্রুটি
কম
খ.
পুচ্ছ আলো
মাঝারি
গ.
কিছু ADAS ফাংশন
উচ্চ
ডি.
ব্রেক, স্টিয়ারিং, এয়ারব্যাগ
সর্বোচ্চ
টিপ: একটি ফাংশনের প্রধান স্তর জানা আপনাকে বলে যে ফাংশনে AI ব্যবহার করার জন্য কতটা মনোযোগ প্রয়োজন৷ একটি ফাংশনে AI আউটপুটের উপর ভিত্তি করে কোনো সিদ্ধান্ত স্বাধীন নিরাপত্তা যাচাই ছাড়াই গ্রহণ করা যাবে না।
ISO 21448 (SOTIF): উদ্দেশ্যমূলক ফাংশনের নিরাপত্তা
ক্লাসিক্যাল ফাংশনাল সেফটি (ISO 26262) এই প্রশ্নের উপর ফোকাস করে "কি হবে যদি সিস্টেম ব্যর্থ হয়?" কিন্তু কৃত্রিম বুদ্ধিমত্তা শনাক্তকরণ সিস্টেমে একটি নতুন সমস্যা রয়েছে: এমনকি যদি সিস্টেমটি কখনও ত্রুটিপূর্ণ না হয়, তবে এটি অপর্যাপ্ত হতে পারে। ক্যামেরা ঠিক কাজ করে কিন্তু তুষারময় স্ল্যাব চিনতে পারে না; রাডার শক্ত, কিন্তু এটি একটি ভুতুড়ে সংকেত হিসাবে একটি স্থির যানকে উপেক্ষা করে। এখানে কোন হার্ডওয়্যার/সফ্টওয়্যার ব্যর্থতা নেই; সমস্যাটি ফাংশনের উদ্দিষ্ট সুযোগের সীমাতে।
ISO 21448 - SOTIF (অভিপ্রেত কার্যকারিতার নিরাপত্তা) ঠিক এই ব্যবধানটি সমাধান করে: অচেনা পরিস্থিতি, সনাক্তকরণ সীমা এবং অপ্রত্যাশিত পরিস্থিতি থেকে উদ্ভূত ঝুঁকিগুলি পরিচালনা করা, এমনকি যদি সিস্টেমটি ডিজাইন হিসাবে কাজ করে। AI-ভিত্তিক ADAS/স্বায়ত্তশাসিত ড্রাইভিং-এ, SOTIF ISO 26262-এর মতোই গুরুত্বপূর্ণ।
ফ্রেম
ফোকাস
উদাহরণ
ISO 26262
ব্যর্থতার কারণে ঝুঁকি
সেন্সর ভেঙ্গে যায়, সিগন্যাল অদৃশ্য হয়ে যায়
ISO 21448 (SOTIF)
অপর্যাপ্ততা/অ-স্বীকৃতির ঝুঁকি
রুক্ষ ক্যামেরা তুষারযুক্ত স্ল্যাব চিনতে পারে না
ISO/SAE 21434
সাইবার নিরাপত্তা
সিস্টেম আক্রমণ, ডেটা ম্যানিপুলেশন
সতর্কতা: এআই মডেলগুলি পরিসংখ্যানগত; তারা গ্যারান্টি দিতে পারে না যে তারা "প্রতিটি পরিস্থিতি সঠিকভাবে দেখবে"। SOTIF-এর লক্ষ্য এই সহজাতভাবে সীমিত সিস্টেমে অজানা বিপজ্জনক পরিস্থিতিগুলিকে সংকুচিত করা এবং অবশিষ্ট ঝুঁকিকে একটি গ্রহণযোগ্য স্তরে হ্রাস করা। "মডেলটি 99.9% নির্ভুল" নিরাপত্তার প্রমাণ নয়।
ISO/SAE 21434: সাইবার নিরাপত্তা
সংযুক্ত এবং সফ্টওয়্যার-সংজ্ঞায়িত যানবাহন সাইবার আক্রমণের জন্য ঝুঁকিপূর্ণ। একটি দূরবর্তী আক্রমণকারী ব্রেক কমান্ড পরিবর্তন করতে পারে, টেলিমেট্রি চুরি করতে পারে বা শনাক্তকরণ মডেলটি চালাতে পারে (প্রতিপক্ষের আক্রমণ: একটি প্লেটে একটি ছোট স্টিকার লাগিয়ে মডেলটিকে ভুল চিনতে পারে)। ISO/SAE 21434 হল গাড়ির সাইবার নিরাপত্তার জন্য ইঞ্জিনিয়ারিং কাঠামো। কৃত্রিম বুদ্ধিমত্তার পরিপ্রেক্ষিতে, দুটি ঝুঁকি আলাদা: মডেলকে প্রতারণা করা (প্রতিপক্ষের) এবং প্রশিক্ষণের তথ্যকে বিষাক্ত করা (ডেটা বিষক্রিয়া)। নিরাপত্তা-সমালোচনামূলক এআই সিস্টেমগুলি এই আক্রমণগুলির বিরুদ্ধে পরীক্ষা করা উচিত।
গোপনীয়তা এবং ব্যক্তিগত তথ্য
আধুনিক যানবাহন একটি "চাকার উপর ডেটা কেন্দ্র": অবস্থান, ড্রাইভিং আচরণ, অডিও, এমনকি কেবিন ক্যামেরা। এর বেশিরভাগই ব্যক্তিগত ডেটা এবং KVKK (Türkiye) এবং GDPR (ইউরোপ) দ্বারা আচ্ছাদিত। ভিআইএন (চ্যাসিস নম্বর) একটি গাড়ি এবং পরোক্ষভাবে তার মালিককে সনাক্ত করতে পারে। মৌলিক নীতি:
- ডেটা মিনিমাইজেশন: শুধুমাত্র যা প্রয়োজন তা সংগ্রহ করুন।
- উদ্দেশ্য সীমাবদ্ধতা: যে উদ্দেশ্যে এটি সংগ্রহ করা হয়েছিল তা ছাড়া অন্য উদ্দেশ্যে ডেটা ব্যবহার করবেন না।
- বেনামীকরণ/ছদ্মনামকরণ: ব্যক্তিগতভাবে সনাক্তকারী তথ্য সরান বা এনকোড করুন।
- স্পষ্ট সম্মতি এবং স্বচ্ছতা: ড্রাইভারকে অবশ্যই জানতে হবে কি সংগ্রহ করা হচ্ছে।
- নিরাপদ সঞ্চয়স্থান এবং স্থানান্তর.
সতর্কতা: পাবলিক ক্লাউড এআই টুলে কাঁচা ভিআইএন, অবস্থানের ইতিহাস বা ড্রাইভিং আচরণ পাঠানো গোপনীয়তা লঙ্ঘন এবং চুক্তিগত ঝুঁকি উভয়ই হতে পারে। এই ডেটার সাথে কাজ করার সময়, এটি বেনামী করুন এবং একটি প্রাতিষ্ঠানিক, ডেটা-সুরক্ষিত পরিবেশ ব্যবহার করুন।
নৈতিকতা এবং প্রকৌশলী দায়িত্ব
কৃত্রিম বুদ্ধিমত্তা কিছু নৈতিক ঝুঁকি নিয়ে আসে:
- পক্ষপাত: যদি প্রশিক্ষণের ডেটা কিছু নির্দিষ্ট শর্তে প্রাধান্য পায় (যেমন, দিনের বেলা, হালকা ত্বক, নির্দিষ্ট আঞ্চলিক রাস্তা), মডেলটি নিম্নরূপ উপস্থাপন করা অবস্থায় (রাত্রি, বিভিন্ন অবস্থা) খারাপভাবে পারফর্ম করতে পারে। এটি একটি দুর্বলতা।
- অতিরিক্ত আত্মবিশ্বাস (অটোমেশন পক্ষপাত): মানুষ অটোমেশনকে অন্ধভাবে বিশ্বাস করে এবং তাদের নিজস্ব সিদ্ধান্তকে অগ্রাহ্য করে। যদি পরীক্ষা প্রকৌশলী শুধুমাত্র এআই বলে "পাস" বলে কাঁচা ডেটার দিকে তাকানো বন্ধ করে দেয় তবে এটি একটি বিপজ্জনক প্রবণতা।
- দায়িত্ব হারানো: "মডেল সিদ্ধান্ত নিয়েছে" একটি প্রতিরক্ষা নয়. সিদ্ধান্তের পিছনে সর্বদা স্বাক্ষরকারী একজন ব্যক্তি থাকা উচিত।
মিনি কেস স্টাডি
কেস 1 - SOTIF সীমা। একটি স্বয়ংক্রিয় জরুরী ব্রেকিং সিস্টেম কোনো ত্রুটি ছাড়াই সমস্ত পরীক্ষাগার পরীক্ষায় উত্তীর্ণ হয়। মাঠে, কম রোদে, একটি সাদা ট্রাক আকাশের জন্য তার ট্রেলারকে ভুল করে এবং দেরিতে ব্রেক করে। এটি একটি ত্রুটি নয়, কিন্তু একটি SOTIF দুর্বলতা: সিস্টেমটি অক্ষত কিন্তু দৃশ্যটি সনাক্তকরণ সীমার বাইরে। দলটি এই দৃশ্যটিকে টেস্ট লাইব্রেরিতে যোগ করে এবং রাডার ফিউশনকে শক্তিশালী করে। উপসংহার: "কোন ব্যর্থতা" নিরাপত্তার প্রমাণ নয়; অপর্যাপ্ততাও একটি ঝুঁকি।
কেস 2 - পক্ষপাতমূলক ডেটা। একটি পথচারী সনাক্তকরণ মডেল প্রধানত দিনের ডেটা দিয়ে প্রশিক্ষিত ছিল; রাতের প্রত্যাহার উল্লেখযোগ্যভাবে কম। দলটি ভারসাম্য বজায় রাখে এবং রাত এবং কম আলোর ডেটা পুনরায় প্রশিক্ষণ দেয় এবং রাতের পরিস্থিতি আলাদাভাবে রিপোর্ট করে। উপসংহার: ভারসাম্যহীন ডেটা নির্দিষ্ট পরিস্থিতিতে একটি মারাত্মক দুর্বলতা তৈরি করে।
কেস 3 - গোপনীয়তা লঙ্ঘন প্রতিরোধ। একজন বিশ্লেষক একটি পাবলিক এআই টুলে ফ্লিট ডেটা পেস্ট করতে চলেছেন যখন তিনি লক্ষ্য করেন যে ডেটাতে কাঁচা ভিআইএন এবং জিপিএস অবস্থান রয়েছে। এটি ডেটা বেনামী করে একটি কর্পোরেট পরিবেশে কাজ করে (VIN এর পরিবর্তে vehicle_01..arac_50, অবস্থানের পরিবর্তে অঞ্চল কোড)। ফলাফল: মনোযোগের একটি মুহূর্ত একটি গুরুতর KVKK লঙ্ঘন প্রতিরোধ করেছে।
প্রম্পট টেমপ্লেট
টেমপ্লেট 1 - PRIOR/ঝুঁকি প্রাথমিক মূল্যায়ন (খসড়া):
ভূমিকা: আপনি একজন কার্যকরী নিরাপত্তা পরামর্শদাতা। টাস্ক: একটি ফাংশনের জন্য বিপদ এবং ঝুঁকি বিশ্লেষণে সহায়তা করার জন্য একটি খসড়া প্রস্তুত করে৷ প্রসঙ্গ: ফাংশন: স্বয়ংক্রিয় জরুরী ব্রেকিং; নগর এবং আন্তঃনগর। সীমাবদ্ধতা: ASIL-এর সঠিক নিয়োগ; তীব্রতা/এক্সপোজার/নিয়ন্ত্রণযোগ্যতার মাত্রার উপর প্রশ্ন এবং মনোযোগের পয়েন্টগুলির একটি তালিকা দিন; ইঙ্গিত করুন যে চূড়ান্ত অ্যাসাইনমেন্ট অনুমোদিত নিরাপত্তা প্রকৌশলীর সাথে থাকে। আউটপুট: আকার | মূল্যায়ন প্রশ্ন | মনোযোগ নোট টেবিল।
টেমপ্লেট 2 - SOTIF দৃশ্যকল্প স্ক্যান:
ভূমিকা: আপনি একজন SOTIF বিশেষজ্ঞ। টাস্ক: পরিস্থিতির তালিকা করুন যেখানে একটি সনাক্তকরণ ফাংশন 'সিস্টেম অক্ষত কিন্তু অপর্যাপ্ত' হতে পারে। প্রসঙ্গ: ক্যামেরা + রাডার; কম সূর্য, তুষার, টানেল প্রস্থান, অস্বাভাবিক বস্তু। আউটপুট: দৃশ্যকল্প | কেন অপ্রতুলতা | কমানোর সুপারিশ।
টেমপ্লেট 3 - গোপনীয়তা নিয়ন্ত্রণ:
ভূমিকা: আপনি একজন ডেটা সুরক্ষা (KVKK/GDPR) পরামর্শদাতা। টাস্ক: একটি ডেটা সেট ভাগ করার আগে একটি গোপনীয়তা অডিট পরিচালনা করুন৷ প্রসঙ্গ: ফ্লিট টেলিমেট্রি; কলামগুলিতে ভিআইএন, জিপিএস, ড্রাইভিং স্কোর রয়েছে। সীমাবদ্ধতা: কোন ক্ষেত্রগুলি ব্যক্তিগত ডেটা, কীভাবে সেগুলি বেনামী করা উচিত, আমার কী শেয়ার করা উচিত নয়; sort.Output: Field | ঝুঁকি | প্রস্তাবিত লেনদেনের চার্ট।
টেমপ্লেট 4 - পক্ষপাত পরীক্ষা:
ভূমিকা: আপনি একজন ML নিরাপত্তা এবং ন্যায্যতা নিরীক্ষক। টাস্ক: একটি সনাক্তকরণ মডেলে পক্ষপাতের ঝুঁকি কীভাবে সন্ধান করবেন তা আমাকে বলুন। প্রসঙ্গ: পথচারী সনাক্তকরণ; প্রশিক্ষণ ডেটা ওজনযুক্ত দিন/শহর।আউটপুট: পরীক্ষা করার শর্ত | পরিমাপ | ঝুঁকির চিহ্ন।
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল প্রম্পট:
এই স্বায়ত্তশাসিত ব্রেকিং সিস্টেম নিরাপদ, নিশ্চিত করুন.
AI নিরাপত্তা ছাড়পত্র পাওয়ার চেষ্টা করা বিপজ্জনক; অনুমোদন অনুমোদিত প্রকৌশলীর অন্তর্গত।
শক্তিশালী প্রম্পট:
ভূমিকা: আপনি একজন কার্যকরী নিরাপত্তা এবং SOTIF পরামর্শদাতা। টাস্ক: আমার স্বয়ংক্রিয় ব্রেকিং ফাংশনের নিরাপত্তা মূল্যায়নে আমার কী প্রশ্ন করা উচিত এবং আমার কী প্রমাণ সংগ্রহ করা উচিত তা তালিকাভুক্ত করুন। প্রসঙ্গ: এআই-ভিত্তিক সনাক্তকরণ; ক্যামেরা + রাডার; ASIL উচ্চ হতে পারে। সীমাবদ্ধতা: সিস্টেমটিকে 'অনুমোদন করুন'; ISO 26262 (ত্রুটি) এবং SOTIF (ঘাটতি) এর পরিপ্রেক্ষিতে প্রশ্ন এবং প্রমাণের পৃথক তালিকা প্রদান করুন; জোর দিন যে চূড়ান্ত অনুমোদন অনুমোদিত নিরাপত্তা প্রকৌশলীর কাছে রয়েছে। আউটপুট: ফ্রেমওয়ার্ক | প্রশ্ন | প্রয়োজনীয় প্রমাণ টেবিল।
সাধারণ ভুল
- "নিরাপদ" এর সাথে "কোন ত্রুটি নেই" বিভ্রান্তিকর। SOTIF এর ঘাটতি ত্রুটি ছাড়াই হত্যা করতে পারে।
- AI নিরাপত্তা ছাড়পত্র পাচ্ছেন। অনুমোদন এবং দায়িত্ব অনুমোদিত প্রকৌশলীর উপর ন্যস্ত।
- নিরাপত্তার প্রমাণ হিসেবে মডেলের সঠিকতা ভুল করা। 99.9% নির্ভুলতা নির্দেশ করে না যে অবশিষ্ট ঝুঁকি পরিচালিত হয়েছে।
- ব্যক্তিগত তথ্য রক্ষা না. VIN/অবস্থান/ড্রাইভিং আচরণ KVKK/GDPR-এর সুযোগের মধ্যে।
- পক্ষপাত এবং অতিরিক্ত আত্মবিশ্বাস উপেক্ষা করা। ভারসাম্যহীন ডেটা এবং অটোমেশনে অন্ধ বিশ্বাস হল দুর্বলতা।
সংক্ষেপে
- ISO 26262 ব্যর্থতার কারণে (ASIL-এর সাথে) ঝুঁকি পরিচালনা করে, যখন ISO 21448/SOTIF ব্যর্থতা ছাড়াই ব্যর্থতার ঝুঁকি পরিচালনা করে; এআই সনাক্তকরণে উভয়ই গুরুত্বপূর্ণ।
- ISO/SAE 21434 সাইবার নিরাপত্তা; প্রতিপক্ষ এবং তথ্য বিষাক্ত আক্রমণ এআই-নির্দিষ্ট হুমকি।
- ডেটা মিনিমাইজেশন, উদ্দেশ্য সীমাবদ্ধতা এবং বেনামীকরণ KVKK/GDPR এর সুযোগের মধ্যে বাধ্যতামূলক; ভিআইএন/অবস্থান ব্যক্তিগত ডেটা।
- কুসংস্কার, অতিরিক্ত আত্মবিশ্বাস এবং দায়িত্ব হারানো প্রধান নৈতিক ঝুঁকি।
- AI আউটপুট যোগ্য প্রকৌশলীর অনুমোদনের বিকল্প নয়; নিরাপত্তা-সমালোচনামূলক সিদ্ধান্ত এবং স্বাক্ষর সর্বদা ব্যক্তির অন্তর্গত।
আবেদন টাস্ক
একটি নিরাপত্তা-সম্পর্কিত ফাংশন নির্বাচন করুন (যেমন লেন রাখা)। (1) কেন এই ফাংশনের ASIL স্তর তীব্রতা/এক্সপোজার/নিয়ন্ত্রণযোগ্যতা মাত্রা বরাবর উচ্চ/নিম্ন হতে পারে তা নিয়ে আলোচনা করুন। (2) টেমপ্লেট 2 এর সাথে 5টি "সিস্টেম কঠিন কিন্তু অপর্যাপ্ত" পরিস্থিতি তৈরি করুন। (3) গোপনীয়তা টেমপ্লেট 3 এর সাথে একটি প্রাসঙ্গিক ডেটাসেট অডিট করুন। (4) কেন "মডেল নিশ্চিত হয়েছে" বলা একটি প্রতিরক্ষা নয় তা ব্যাখ্যা করুন।
চেকলিস্ট
- [ ] আমি ফাংশনের প্রকৃত মাত্রাগুলি মূল্যায়ন করেছি (আমি কর্তৃপক্ষের কাছে সঠিক নিয়োগটি ছেড়ে দিয়েছি)।
- [ ] আমি ISO 26262 (ব্যর্থতা) এবং SOTIF (অপ্রতুলতা) এর মধ্যে পার্থক্য করেছি।
- [ ] আমি সাইবার নিরাপত্তা (বিরুদ্ধ/বিষ) ঝুঁকি বিবেচনায় নিয়েছি।
- [ ] আমি ব্যক্তিগত ডেটা বেনামী এবং ছোট করেছি৷
- [ ] আমি পক্ষপাতিত্ব এবং অতিরিক্ত আত্মবিশ্বাসের ঝুঁকি পরীক্ষা করেছি৷
- [ ] আমি নিশ্চিত করেছি যে সিকিউরিটি ক্লিয়ারেন্স যোগ্য ইঞ্জিনিয়ারের কাছে আছে।