Daromadlar:
- ISO 26262 funktsional xavfsizlik va ISO 21448 (SOTIF) ramkalari va ularning sun'iy intellektni o'z ichiga olgan tizimlarga ta'sirini tushuntirish qobiliyati
- Ma'lumotlar maxfiyligini, haydovchi ma'lumotlarini, kiberxavfsizlikni (ISO/SAE 21434) va avtomobil kontekstidagi axloqiy xavflarni boshqarish qobiliyati
- AI chiqishi vakolatli muhandisning roziligi o'rnini bosmasligini tushunib, xavfsizlik uchun muhim qarorlar uchun inson javobgarligini saqlab qolish qobiliyati
Siz ushbu modulning eng muhim bo'limidasiz. Hozirgacha biz sun'iy intellektni dizayndan ishlab chiqarishgacha, sinovdan tortib ta'minot zanjirigacha tezlatuvchi sifatida ko'rdik. Ammo avtomobilsozlikda hal qiluvchi savol: bu tizim hech kimga zarar etkazadimi va kim javobgar? Bu boʻlim oddiy tilda sunʼiy intellektdan xavfsizlik nuqtai nazaridan muhim boʻlgan sanoatda masʼuliyat bilan foydalanish asoslarini – funktsional xavfsizlik, SOTIF, kiberxavfsizlik, maxfiylik va axloqni qamrab oladi. Asosiy printsip o'zgarmas bo'lib qoladi: AI chiqishi hech qachon malakali muhandis roziligini almashtirmaydi; Xavfsizlik muhim qaror va mas'uliyat insonga tegishli.
ISO 26262: Funktsional xavfsizlik
ISO 26262 yo'l transport vositalarining elektr/elektron tizimlari uchun funktsional xavfsizlik standartidir. Funktsional xavfsizlik; Tizim ishlamay qolganda (sensor buzilgan, dasturiy ta'minot ishdan chiqqan) xavfli vaziyatga olib kelmasligini ta'minlash bilan bog'liq.
Ushbu standartning markazida ASIL (Automotive Safety Integrity Level) yotadi. Xavf uch o'lchovda baholanadi:
- Jiddiylik: Agar bu sodir bo'lsa, qanchalik yomon bo'lar edi? (engil jarohat yoki o'lim)
- Ta'sir qilish: bu qanchalik tez-tez sodir bo'ladi?
- Boshqarish imkoniyati: haydovchi vaziyatni qanchalik nazorat qila oladi?
Bu uchta birlashgan natija ASIL A (eng past) dan ASIL D gacha (eng yuqori, masalan, tormozlash, boshqaruvchi) darajaga olib keladi. Daraja oshgani sayin, ishlab chiqish, sinovdan o'tkazish va hujjatlarga qo'yiladigan talablar yanada qattiqlashadi.
ASOSIY
namuna tizimi
Talab intensivligi
A.
Ichki yoritishning noto'g'ri ishlashi
past
B.
orqa chiroq
o'rta
C.
Ba'zi ADAS funktsiyalari
yuqori
D.
Tormoz, rul boshqaruvi, havo yostig'i
eng yuqori
Maslahat: Funksiyaning ASOSIY darajasini bilish ushbu funktsiyada AIdan foydalanish qanchalik e'tibor talab etilishini bildiradi. Funksiyadagi AI chiqishiga asoslangan hech qanday qaror xavfsizlikni mustaqil tekshirishsiz qabul qilinishi mumkin emas.
ISO 21448 (SOTIF): mo'ljallangan funktsiyaning xavfsizligi
Klassik funktsional xavfsizlik (ISO 26262) "tizim ishlamay qolsa nima bo'ladi?" Degan savolga qaratilgan. Ammo sun'iy intellektni aniqlash tizimlarida yangi muammo paydo bo'ldi: tizim hech qachon noto'g'ri ishlamasa ham, u etarli bo'lmasligi mumkin. Kamera yaxshi ishlaydi, lekin qorli plitani taniy olmaydi; Radar mustahkam, lekin u statsionar transport vositasini sharpa signali sifatida e'tiborsiz qoldiradi. Bu erda apparat/dasturiy ta'minotda nosozlik yo'q; Muammo funktsiyaning mo'ljallangan doirasi chegarasida.
ISO 21448 - SOTIF (Mo'ljallangan funksionallikning xavfsizligi) aynan shu bo'shliqni bartaraf etadi: tizim mo'ljallangan bo'lsa ham, tan olinmagan stsenariylar, aniqlash chegaralari va kutilmagan vaziyatlardan kelib chiqadigan xavflarni boshqarish. AI-ga asoslangan ADAS/avtonom haydashda SOTIF ISO 26262 kabi muhim ahamiyatga ega.
Ramka
Diqqat
misol
ISO 26262
Muvaffaqiyatsizlik tufayli xavf
Sensor buziladi, signal yo'qoladi
ISO 21448 (SOTIF)
Nomutanosiblik / tan olinmaslik xavfi
Qattiq kamera qorli plitani tanimaydi
ISO/SAE 21434
kiberxavfsizlik
Tizim hujumi, ma'lumotlarni manipulyatsiya qilish
Diqqat: AI modellari statistikdir; Ular "har bir vaziyatni to'g'ri ko'rishlariga" kafolat bera olmaydi. SOTIF ushbu tabiatan cheklangan tizimlarda noma'lum xavfli stsenariylarni qisqartirishni va qolgan xavfni maqbul darajaga tushirishni maqsad qilgan. "Model 99,9% aniq" xavfsizlikning isboti emas.
ISO/SAE 21434: kiberxavfsizlik
Bog'langan va dasturiy ta'minot bilan belgilangan transport vositalari kiberhujumga qarshi himoyasiz. Masofaviy tajovuzkor tormoz buyrug'ini o'zgartirishi, telemetriyani o'g'irlashi yoki aniqlash modelini aldashi mumkin (raqib hujum: plastinkaga kichik stiker qo'yish orqali modelni noto'g'ri taniydi). ISO/SAE 21434 avtomobil kiberxavfsizligi uchun muhandislik asosidir. Sun'iy intellekt kontekstida ikkita xavf ajralib turadi: modelni aldash (raqib) va o'quv ma'lumotlarini zaharlash (ma'lumotlardan zaharlanish). Xavfsizlik nuqtai nazaridan muhim bo'lgan AI tizimlari ushbu hujumlarga qarshi sinovdan o'tkazilishi kerak.
Maxfiylik va shaxsiy ma'lumotlar
Zamonaviy avtomobil "g'ildiraklardagi ma'lumotlar markazi" dir: joylashuvi, haydash harakati, audio, hatto kabina kamerasi. Ularning aksariyati shaxsiy ma'lumotlar bo'lib, KVKK (Turkiya) va GDPR (Yevropa) tomonidan qoplanadi. VIN (shassi raqami) transport vositasini va bilvosita uning egasini aniqlashi mumkin. Asosiy tamoyillar:
- Ma'lumotlarni minimallashtirish: faqat kerakli narsalarni to'plang.
- Maqsad cheklovi: Ma'lumotlardan to'plangan maqsaddan boshqa maqsadlarda foydalanmang.
- Anonimlashtirish/psevdononimlashtirish: shaxsni identifikatsiya qiluvchi ma'lumotlarni o'chirish yoki kodlash.
- Aniq rozilik va shaffoflik: haydovchi nima yig'ilayotganini bilishi kerak.
- Xavfsiz saqlash va uzatish.
Diqqat: VIN kodini, joylashuv tarixini yoki haydash xulq-atvorini ommaviy bulutli AI vositasiga yuborish ham maxfiylik buzilishi, ham shartnoma xavfi bo‘lishi mumkin. Ushbu ma'lumotlar bilan ishlashda uni anonimlashtiring va institutsional, ma'lumotlardan himoyalangan muhitdan foydalaning.
Etika va muhandis mas'uliyati
Sun'iy intellekt ba'zi axloqiy xavflarni keltirib chiqaradi:
- Tarafsizlik: Agar mashg'ulot ma'lumotlari ma'lum sharoitlarda (masalan, kunduzi, engil teri, ba'zi mintaqaviy yo'llar) ustun bo'lsa, model kam ifodalangan sharoitlarda (tungi, turli xil sharoitlarda) yomon ishlashi mumkin. Bu zaiflik.
- Haddan tashqari ishonch (avtomatlashtirishga moyillik): Odamlar avtomatlashtirishga ko'r-ko'rona ishonadilar va o'z mulohazalarini bekor qiladilar. Agar sinov muhandisi AI "o'tish" degani uchun xom ma'lumotlarga qarashni to'xtatsa, bu xavfli tendentsiyadir.
- Mas'uliyatni yo'qotish: "Model qaror qildi" - bu himoya emas. Qaror orqasida har doim imzo qo'yadigan shaxs bo'lishi kerak.
Mini amaliy tadqiqotlar
1-holat - SOTIF chegarasi. Avtomatik favqulodda tormoz tizimi barcha laboratoriya sinovlaridan o'tadi, hech qanday nosozliklarsiz. Dalada, quyosh pastda, oq yuk mashinasi tirkamasini osmon deb xato qilib, kech tormozladi. Bu nosozlik emas, balki SOTIF zaifligi: tizim buzilmagan, ammo stsenariy aniqlash chegarasidan tashqarida. Jamoa ushbu stsenariyni sinov kutubxonasiga qo'shadi va radar sintezini kuchaytiradi. Xulosa: "Muvaffaqiyatsizlik yo'q" - bu xavfsizlikning isboti emas; Yetishmaslik ham xavf hisoblanadi.
2-holat - noxolis ma'lumotlar. Piyodalarni aniqlash modeli asosan kunduzgi ma'lumotlar bilan o'qitildi; Kecha xotirasi sezilarli darajada kamayadi. Jamoa tungi va kam yorug'lik ma'lumotlarini muvozanatlashtiradi va qayta o'qitadi va tungi stsenariylarni alohida xabar qiladi. Xulosa: Balanssiz ma'lumotlar ma'lum sharoitlarda halokatli zaiflikni keltirib chiqaradi.
3-holat - Maxfiylik buzilishining oldini olish. Tahlilchi ma'lumotlarda VIN va GPS manzillari mavjudligini payqaganida, park ma'lumotlarini umumiy sun'iy intellekt vositasiga joylashtirmoqchi. U korporativ muhitda ma'lumotlarni anonimlashtirish orqali ishlaydi (VIN o'rniga vehicle_01..arac_50, joylashuv o'rniga mintaqa kodi). Natija: Bir lahzalik e'tibor jiddiy KVKK buzilishining oldini oldi.
tezkor shablonlar
1-shablon - OLDINCHA/xavfni dastlabki baholash (loyiha):
Rol: Siz funktsional xavfsizlik bo'yicha maslahatchisiz. Vazifa: Funktsiya uchun xavf va xavf tahliliga yordam berish uchun loyihani tayyorlaydi. Kontekst: Funktsiya: avtomatik favqulodda tormozlash; shahar va shaharlararo.Cheklash: ASILni aniq belgilash; Jiddiylik / ta'sir qilish / nazorat qilish o'lchovlari bo'yicha savollar ro'yxatini va diqqatni jalb qilish nuqtalarini bering; yakuniy topshiriq vakolatli xavfsizlik muhandisiga tegishli ekanligini ko'rsating. Chiqish: Hajmi | baholash savoli | e'tibor jadvali.
Shablon 2 - SOTIF stsenariysini skanerlash:
Rol: Siz SOTIF mutaxassisisiz. Vazifa: Aniqlash funksiyasi "tizim buzilmagan, lekin etarli emas" bo'lishi mumkin bo'lgan stsenariylarni sanab o'ting. Kontekst: Kamera + radar; past quyosh, qor, tunnel chiqishi, noodatiy ob'ektlar.Chiqish: Ssenariy | nima uchun nomutanosiblik | kamaytirish bo'yicha tavsiya.
Shablon 3 - Maxfiylik nazorati:
Rol: Siz ma'lumotlarni himoya qilish (KVKK/GDPR) maslahatchisisiz. Vazifa: Ma'lumotlar to'plamini almashishdan oldin maxfiylik tekshiruvini o'tkazing. Kontekst: flot telemetriyasi; Ustunlarda VIN, GPS, haydash ko'rsatkichlari mavjud. Cheklov: Qaysi maydonlar shaxsiy ma'lumotlar, ular qanday qilib anonimlashtirilishi kerak, nimani umuman baham ko'rmasligim kerak; sort.Chiqish: Maydon | xavf | tavsiya etilgan tranzaksiya jadvali.
Shablon 4 - tarafkashlik tekshiruvi:
Rol: Siz ML xavfsizligi va adolatli auditorisiz. Vazifa: Aniqlash modelida tarafkashlik xavfini qanday izlash kerakligini ayting. Kontekst: Piyodalarni aniqlash; ta'lim ma'lumotlari vaznli kun/shahar.Chiqish: Tekshirish sharti | o'lchov | xavf belgisi.
Zaif taklif / Kuchli taklif
Zaif taklif:
Ushbu avtonom tormoz tizimi xavfsizmi, tasdiqlang.
AI xavfsizlik ruxsatini olishga urinish xavflidir; Tasdiqlash vakolatli muhandisga tegishli.
Kuchli so'rov:
Rol: Siz funktsional xavfsizlik va SOTIF maslahatchisisiz. Vazifa: Avtomatik tormozlash funksiyam xavfsizligini baholashda qanday savollarni berishim va qanday dalillar to'plashim kerakligini sanab bering. Kontekst: AIga asoslangan aniqlash; kamera+radar; ASIL yuqori bo'lishi mumkin. Cheklov: tizimni "tasdiqlash"; ISO 26262 (nuqson) va SOTIF (kamchilik) bo'yicha savollar va dalillarning alohida ro'yxatini taqdim eting; Yakuniy tasdiqlash vakolatli xavfsizlik muhandisiga tegishli ekanligini ta'kidlang. Chiqish: Framework | savol | talab qilinadigan dalillar jadvali.
Umumiy xatolar
- "Nosozlik yo'q" bilan "xavfsiz" ni chalkashtirib yuborish. SOTIF etishmovchiligi noto'g'ri ishlamasdan o'ldirishi mumkin.
- AI xavfsizlik ruxsatnomasini olish. Tasdiqlash va javobgarlik vakolatli muhandisga tegishli.
- Xavfsizlikning isboti sifatida model aniqligini xato qilish. 99,9% aniqlik qolgan xavf boshqarilganligini bildirmaydi.
- Shaxsiy ma'lumotlarni himoya qilmaslik. VIN/joy/haydovchilik harakati KVKK/GDPR doirasida.
- Xayolparastlik va o'ziga ortiqcha ishonchni e'tiborsiz qoldirish. Balanssiz ma'lumotlar va avtomatlashtirishga ko'r-ko'rona ishonch zaifliklardir.
Xulosa
- ISO 26262 nosozlik xavfini (ASIL bilan) boshqaradi, ISO 21448/SOTIF esa nosozliklarsiz nosozlik xavfini boshqaradi; Ikkalasi ham sun'iy intellektni aniqlashda muhim ahamiyatga ega.
- ISO/SAE 21434 kiberxavfsizlik; raqib va ma'lumotlarni zaharlash hujumlari AIga xos tahdidlardir.
- KVKK/GDPR doirasida ma'lumotlarni minimallashtirish, maqsadni cheklash va anonimlashtirish majburiydir; VIN/joylashuv - shaxsiy ma'lumotlar.
- Xurofot, haddan tashqari ishonch va mas'uliyatni yo'qotish asosiy axloqiy xavf hisoblanadi.
- AI chiqishi malakali muhandis tasdiqlash o'rnini bosa olmaydi; Xavfsizlik muhim qaror va imzo har doim shaxsga tegishli.
Ilova vazifasi
Xavfsizlikka oid funksiyani tanlang (masalan, qatorni saqlash). (1) Nima uchun ushbu funktsiyaning ASIL darajasi jiddiylik/ta'sir qilish/nazorat qilish o'lchovlari bo'yicha yuqori/past bo'lishi mumkinligini muhokama qiling. (2) Shablon 2 yordamida 5 ta "tizim mustahkam, ammo noadekvat" stsenariylarini yarating. (3) 3-shablon yordamida tegishli ma'lumotlar to'plamini maxfiylik tekshiruvi. (4) "Model tasdiqlandi" degan so'z nima uchun himoya emasligini tushuntiring.
nazorat ro'yxati
- [ ] Men funktsiyaning ACTUAL o'lchamlarini baholadim (aniq topshiriqni hokimiyatga qoldirdim).
- [ ] Men ISO 26262 (noto'g'ri ishlash) va SOTIF (etarlilik) o'rtasida farq qildim.
- [ ] Men kiberxavfsizlik (dushmanlik/zaharlanish) xavfini hisobga oldim.
- [ ] Men shaxsiy maʼlumotlarni anonimlashtirdim va minimallashtirdim.
- [ ] Men tarafkashlik va haddan tashqari ishonch xavfi bor-yo'qligini tekshirdim.
- [ ] Xavfsizlik ruxsati malakali muhandisda ekanligini tasdiqladim.