Qazanclar:
- ISO 26262 funksional təhlükəsizlik və ISO 21448 (SOTIF) çərçivələrini və onların süni intellekt ehtiva edən sistemlərə təsirlərini izah etmək bacarığı
- Məlumatların məxfiliyini, sürücü məlumatlarını, kibertəhlükəsizliyi (ISO/SAE 21434) və avtomobil kontekstində etik riskləri idarə etmək bacarığı
- AI çıxışının səlahiyyətli mühəndis təsdiqini əvəz etmədiyini başa düşərək təhlükəsizlik baxımından kritik qərarlar üçün insan məsuliyyətini saxlamaq bacarığı
Siz bu modulun ən kritik bölməsindəsiniz. İndiyə qədər biz AI-ni dizayndan istehsala, sınaqdan tədarük zəncirinə qədər sürətləndirici kimi görmüşük. Ancaq avtomobildə həlledici sual budur: bu sistem kiməsə zərər verəcəkmi və kim cavabdehdir? Bu bölmə təhlükəsizlik baxımından kritik sənayedə AI-dən məsuliyyətlə istifadə üçün çərçivələri sadə dillə əhatə edir - funksional təhlükəsizlik, SOTIF, kibertəhlükəsizlik, məxfilik və etika. Əsas prinsip sabit qalır: AI çıxışı heç vaxt səlahiyyətli mühəndis təsdiqini əvəz etmir; Təhlükəsizlik-kritik qərar və məsuliyyət insana məxsusdur.
ISO 26262: Funksional təhlükəsizlik
ISO 26262 yol nəqliyyat vasitələrinin elektrik/elektron sistemləri üçün funksional təhlükəsizlik standartıdır. Funksional təhlükəsizlik; Sistem uğursuz olduqda (sensor xarab olur, proqram təminatı uğursuz olur) təhlükəli vəziyyətə gətirib çıxarmaması ilə əlaqədardır.
Bu standartın mərkəzində ASIL (Avtomobil Təhlükəsizliyi Dürüstlük Səviyyəsi) dayanır. Təhlükə üç ölçüdə qiymətləndirilir:
- Şiddət: Əgər bu baş versəydi, nə qədər pis olardı? (yüngül xəsarət və ya ölüm)
- Ekspozisiya: Bu nə qədər tez-tez baş verir?
- Nəzarət qabiliyyəti: Sürücü vəziyyəti nə qədər idarə edə bilər?
Bu üç birləşərək ASIL A (ən aşağı) səviyyəsindən ASIL D səviyyəsinə (ən yüksək, məsələn, əyləc, sükan idarəetməsi) qədər nəticə verir. Səviyyə artdıqca inkişaf, sınaq və sənədləşdirmə tələbləri daha sərt olur.
ƏSAS
nümunə sistemi
Tələb intensivliyi
A.
Daxili işıqlandırmanın nasazlığı
aşağı
B.
quyruq işığı
orta
C.
Bəzi ADAS funksiyaları
yüksək
D.
Əyləc, sükan, hava yastığı
ən yüksək
İpucu: Funksiyanın ƏSAS səviyyəsini bilmək sizə bu funksiyada AI-dən istifadənin nə qədər diqqət tələb etdiyini bildirir. Funksiyada AI çıxışına əsaslanan HEÇ bir qərar müstəqil təhlükəsizlik yoxlaması olmadan qəbul edilə bilməz.
ISO 21448 (SOTIF): nəzərdə tutulan funksiyanın təhlükəsizliyi
Klassik funksional təhlükəsizlik (ISO 26262) “sistem uğursuz olarsa nə olacaq?” sualına diqqət yetirir. Ancaq süni intellektin aşkarlama sistemlərində yeni bir problem var: sistem heç vaxt nasazlıq göstərməsə belə, qeyri-adekvat ola bilər. Kamera yaxşı işləyir, lakin qarlı lövhəni tanıya bilmir; Radar möhkəmdir, lakin stasionar avtomobili xəyal siqnalı kimi nəzərə almır. Burada heç bir hardware/proqram çatışmazlığı yoxdur; Problem funksiyanın nəzərdə tutulan əhatə dairəsinin hüdudlarındadır.
ISO 21448 - SOTIF (Nəzərdə tutulan Funksionallığın Təhlükəsizliyi) məhz bu boşluğu aradan qaldırır: sistem nəzərdə tutulduğu kimi işləsə belə, tanınmamış ssenarilərdən, aşkarlama məhdudiyyətlərindən və gözlənilməz vəziyyətlərdən yaranan risklərin idarə edilməsi. Süni intellektə əsaslanan ADAS/avtonom sürücülükdə SOTIF ISO 26262 qədər vacibdir.
Çərçivə
Fokus
misal
ISO 26262
Uğursuzluq səbəbindən risk
Sensor qırılır, siqnal yox olur
ISO 21448 (SOTIF)
Qeyri-adekvatlıq/tanınmama riski
Möhkəm kamera qarlı lövhəni tanımır
ISO/SAE 21434
kiber təhlükəsizlik
Sistem hücumu, məlumatların manipulyasiyası
Diqqət: AI modelləri statistikdir; “Hər vəziyyəti düzgün görəcəklərinə” zəmanət verə bilməzlər. SOTIF bu mahiyyətcə məhdud sistemlərdə naməlum təhlükəli ssenariləri daraltmağı və qalan riski məqbul səviyyəyə endirməyi hədəfləyir. “Model 99,9% dəqiqdir” təhlükəsizliyin sübutu deyil.
ISO/SAE 21434: Kibertəhlükəsizlik
Birləşdirilmiş və proqram təminatı ilə müəyyən edilmiş avtomobillər kiberhücumlara qarşı həssasdır. Uzaqdan hücum edən şəxs əyləc əmrini dəyişdirə, telemetriyanı oğurlaya və ya aşkarlama modelini aldada bilər (rəqib hücumu: boşqaba kiçik bir stiker yerləşdirməklə modelin onu yanlış tanımasına səbəb olur). ISO/SAE 21434 nəqliyyat vasitələrinin kibertəhlükəsizliyi üçün mühəndislik çərçivəsidir. Süni intellekt kontekstində iki risk önə çıxır: modeli aldatmaq (rəqib) və təlim məlumatlarını zəhərləmək (məlumatların zəhərlənməsi). Təhlükəsizlik baxımından kritik AI sistemləri bu hücumlara qarşı sınaqdan keçirilməlidir.
Məxfilik və şəxsi məlumatlar
Müasir avtomobil "təkərlər üzərində məlumat mərkəzidir": yer, sürücülük davranışı, audio, hətta kabin kamerası. Bunların əksəriyyəti şəxsi məlumatlardır və KVKK (Türkiyə) və GDPR (Avropa) tərəfindən əhatə olunur. VIN (şassi nömrəsi) avtomobili və dolayısı ilə sahibini müəyyən edə bilər. Əsas prinsiplər:
- Məlumatların minimuma endirilməsi: Yalnız lazım olanı toplayın.
- Məqsəd məhdudiyyəti: Məlumatı toplandığı məqsəddən başqa məqsədlər üçün istifadə etməyin.
- Anonimləşdirmə/psevdonimləşdirmə: Şəxsi müəyyənləşdirən məlumatları silin və ya kodlayın.
- Açıq razılıq və şəffaflıq: Sürücü nəyin toplandığını bilməlidir.
- Təhlükəsiz saxlama və köçürmə.
Diqqət: xam VIN, məkan tarixçəsi və ya sürücülük davranışını ictimai bulud AI alətinə göndərmək həm məxfiliyin pozulması, həm də müqavilə riski ola bilər. Bu məlumatlarla işləyərkən onu anonimləşdirin və institusional, məlumatla qorunan mühitdən istifadə edin.
Etika və mühəndis məsuliyyəti
Süni intellekt özü ilə bəzi etik riskləri də gətirir:
- Qərəz: Təlim məlumatları müəyyən şərtlərdə üstünlük təşkil edərsə (məsələn, gündüz, açıq dəri, müəyyən regional yollar), model kifayət qədər təmsil olunmayan şəraitdə (gecə, müxtəlif şərtlər) zəif çıxış edə bilər. Bu zəiflikdir.
- Həddindən artıq güvən (avtomatlaşdırma meyli): İnsanlar kor-koranə avtomatlaşdırmaya güvənir və öz mülahizələrini ləğv edirlər. Sınaq mühəndisi süni intellekt “keç” dediyi üçün xam məlumatlara baxmağı dayandırarsa, bu təhlükəli tendensiyadır.
- Məsuliyyətin itirilməsi: "Model qərar verdi" müdafiə deyil. Qərarın arxasında həmişə imza atan şəxs olmalıdır.
Mini keys tədqiqatları
1-ci hal - SOTIF limiti. Avtomatik təcili əyləc sistemi heç bir nasazlıq olmadan bütün laboratoriya sınaqlarından keçir. Çöldə, günəşin alçaq altında, ağ yük maşını qoşqusunu göylə səhv salır və əyləci gec basır. Bu nasazlıq deyil, SOTIF zəifliyidir: sistem bütövdür, lakin ssenari aşkarlama limitindən kənardadır. Komanda bu ssenarini sınaq kitabxanasına əlavə edir və radar birləşməsini gücləndirir. Nəticə: "Uğursuzluq yoxdur" təhlükəsizliyin sübutu deyil; Çatışmazlıq da bir riskdir.
Case 2 - Qərəzli məlumatlar. Piyada aşkarlama modeli əsasən gündüz məlumatları ilə öyrədildi; Gecə xatırlama əhəmiyyətli dərəcədə aşağıdır. Komanda gecə və aşağı işıq məlumatlarını balanslaşdırır və yenidən hazırlayır və gecə ssenarilərini ayrıca bildirir. Nəticə: Balanssız məlumatlar müəyyən şəraitdə ölümcül zəiflik yaradır.
İş 3 - Məxfiliyin pozulmasının qarşısının alınması. Analitik məlumatların xam VIN və GPS yerlərini ehtiva etdiyini görəndə donanma məlumatlarını ictimai AI alətinə yapışdırmaq üzrədir. Məlumatları anonimləşdirməklə korporativ mühitdə işləyir (VIN əvəzinə vehicle_01..arac_50, yer əvəzinə region kodu). Nəticə: Bir anlıq diqqət ciddi KVKK pozuntusunun qarşısını aldı.
operativ şablonlar
Şablon 1 - ƏVVƏL/riskin ilkin qiymətləndirilməsi (qaralama):
Rol: Siz funksional təhlükəsizlik məsləhətçisisiniz. Tapşırıq: Funksiya üçün təhlükə və risk təhlilinə kömək etmək üçün layihə hazırlayır. Kontekst: Funksiya: avtomatik təcili əyləc; şəhər və şəhərlərarası. Məhdudiyyət: ASIL-in dəqiq təyinatı; Şiddətlilik/məruz qalma/idarəolunma ölçüləri üzrə sualların və diqqəti cəlb edən məqamların siyahısını verin; son tapşırığın səlahiyyətli təhlükəsizlik mühəndisinə aid olduğunu göstərir.Çıxış: Ölçü | qiymətləndirmə sualı | diqqət cədvəli.
Şablon 2 - SOTIF ssenari skanı:
Rol: Siz SOTIF ekspertisiniz. Tapşırıq: Aşkarlama funksiyasının "sistem tam, lakin qeyri-kafi" ola biləcəyi ssenariləri sadalayın. Kontekst: Kamera + radar; az günəş, qar, tunel çıxışı, qeyri-adi obyektlər.Çıxış: Ssenari | niyə qeyri-kafilik | azaldılması tövsiyəsi.
Şablon 3 - Məxfiliyə nəzarət:
Rol: Siz məlumatların qorunması (KVKK/GDPR) məsləhətçisisiniz. Tapşırıq: Məlumat dəstini paylaşmazdan əvvəl məxfilik auditini aparın. Kontekst: Donanma telemetriyası; Sütunlarda VIN, GPS, sürücülük hesabı var. Məhdudiyyət: Hansı sahələr şəxsi məlumatlardır, onlar necə anonimləşdirilməlidir, nələri ümumiyyətlə paylaşmamalıyam; sort.Çıxış: Sahə | risk | tövsiyə olunan əməliyyat qrafiki.
Şablon 4 - Qərəz yoxlaması:
Rol: Siz ML təhlükəsizlik və ədalətlilik auditorusunuz. Tapşırıq: Aşkarlama modelində qərəzlilik riskini necə axtarmaq lazım olduğunu deyin. Kontekst: Piyadaların aşkarlanması; təlim məlumatları ölçülmüş gün/şəhər.Çıxış: Yoxlanılması şərt | ölçü | risk əlaməti.
Zəif məlumat / Güclü göstəriş
Zəif çağırış:
Bu avtonom əyləc sistemi təhlükəsizdirmi, təsdiqləyin.
AI təhlükəsizlik rəsmiləşdirilməsini əldə etməyə çalışmaq təhlükəlidir; Təsdiq səlahiyyətli mühəndisə aiddir.
Güclü göstəriş:
Rol: Siz funksional təhlükəsizlik və SOTIF məsləhətçisisiniz. Tapşırıq: Avtomatik əyləc funksiyamın təhlükəsizlik qiymətləndirməsində hansı sualları verməli olduğumu və hansı sübutları toplamalı olduğumu sadalayın. Kontekst: AI əsaslı aşkarlama; kamera+radar; ASIL yüksək ola bilər. Məhdudiyyət: Sistemi təsdiqləyin; İSO 26262 (qüsur) və SOTIF (çatışmazlıq) baxımından ayrı-ayrı suallar və sübut siyahılarını təqdim edin; Yekun təsdiqin səlahiyyətli təhlükəsizlik mühəndisinə aid olduğunu vurğulayın.Çıxış: Çərçivə | sual | tələb olunan sübutlar cədvəli.
Ümumi səhvlər
- "Nasazlıq yoxdur" ilə "təhlükəsiz" sözləri qarışdırmaq. SOTIF çatışmazlığı nasazlıq olmadan öldürə bilər.
- AI təhlükəsizlik rəsmiləşdirilməsi alın. Təsdiq və məsuliyyət səlahiyyətli mühəndisin üzərinə düşür.
- Təhlükəsizliyin sübutu kimi model dəqiqliyini səhv salmaq. 99,9% dəqiqlik qalan riskin idarə olunduğunu göstərmir.
- Şəxsi məlumatların qorunması. VIN/yer/sürücü davranışı KVKK/GDPR çərçivəsindədir.
- Qərəz və həddən artıq özünə inamı görməməzlikdən gəlmək. Balanssız məlumatlar və avtomatlaşdırmaya kor-koranə etibar zəifliklərdir.
Xülasə
- ISO 26262 uğursuzluq riskini idarə edir (ASIL ilə), ISO 21448/SOTIF isə uğursuzluq riskini uğursuzluq olmadan idarə edir; Hər ikisi süni intellektin aşkarlanmasında vacibdir.
- ISO/SAE 21434 kiber təhlükəsizlik; rəqib və məlumatların zəhərlənməsi hücumları süni intellektə xas təhdidlərdir.
- KVKK/GDPR çərçivəsində məlumatların minimuma endirilməsi, məqsədin məhdudlaşdırılması və anonimləşdirilməsi məcburidir; VIN/yer şəxsi məlumatdır.
- Qərəz, həddən artıq güvən və məsuliyyətin itirilməsi əsas etik risklərdir.
- AI çıxışı ixtisaslı mühəndis təsdiqini əvəz etmir; Təhlükəsizlik-kritik qərar və imza həmişə şəxsə məxsusdur.
Tətbiq tapşırığı
Təhlükəsizliyə aid funksiyanı seçin (məsələn, zolaq saxlama). (1) Nə üçün bu funksiyanın ASIL səviyyəsinin şiddət/məruzə/nəzarət ölçüləri boyunca yüksək/aşağı ola biləcəyini müzakirə edin. (2) Şablon 2 ilə 5 “sistem möhkəm, lakin qeyri-adekvat” ssenarisini yaradın. (3) Şablon 3 ilə müvafiq məlumat toplusunun məxfilik auditini aparın. (4) “Model təsdiqləndi” deməyin niyə müdafiə olmadığını izah edin.
yoxlama siyahısı
- [ ] Mən funksiyanın AKTUAL ölçülərini qiymətləndirdim (dəqiq tapşırığı səlahiyyətli orqana buraxdım).
- [ ] Mən ISO 26262 (nasazlıq) və SOTIF (kafilik) arasında fərq qoydum.
- [ ] Mən kibertəhlükəsizlik (müxalif/zəhərlənmə) riskini nəzərə almışam.
- [ ] Mən şəxsi məlumatları anonimləşdirdim və minimuma endirdim.
- [ ] Mən qərəz və həddən artıq güvən risklərini yoxladım.
- [ ] Mən təsdiq etdim ki, təhlükəsizlik rəsmiləşdirilməsi ixtisaslı mühəndislədir.