Пайдалар:
- ISO 26262 функционалдык коопсуздук жана ISO 21448 (SOTIF) алкактарын жана алардын жасалма интеллектти камтыган системаларга тийгизген таасирин түшүндүрүү мүмкүнчүлүгү
- Автоунаа контекстинде маалыматтардын купуялыгын, айдоочунун маалыматтарын, киберкоопсуздукту (ISO/SAE 21434) жана этикалык тобокелдиктерди башкаруу мүмкүнчүлүгү
- AI өндүрүшү компетенттүү инженердин макулдугун алмаштыра албастыгын түшүнүү менен коопсуздук үчүн маанилүү чечимдер үчүн адамдын жоопкерчилигин сактоо жөндөмү
Сиз бул модулдун эң маанилүү бөлүмүндөсүз. Буга чейин биз AIди дизайндан өндүрүшкө, тестирлөөдөн баштап жеткирүү чынжырына чейин акселератор катары көрдүк. Бирок автомобиль тармагындагы чечүүчү суроо: бул система кимдир бирөөлөргө зыян келтиреби жана ким жооп берет? Бул бөлүм функционалдык коопсуздук, SOTIF, киберкоопсуздук, купуялуулук жана этика сыяктуу коопсуздук жагынан критикалык тармакта AIны жоопкерчиликтүү колдонуу үчүн жөнөкөй тилде алкактарды камтыйт. Негизги принцип туруктуу бойдон калууда: AI натыйжасы эч качан компетенттүү инженердин макулдугун алмаштырбайт; Коопсуздук-критикалык чечим жана жоопкерчилик адамга таандык.
ISO 26262: Функционалдык коопсуздук
ISO 26262 жол транспорт каражаттарынын электр/электрондук системалары үчүн функционалдык коопсуздук стандарты болуп саналат. Функционалдык коопсуздук; Бул система иштебей калганда (сенсор бузулганда, программалык камсыздоо иштебей калганда) кооптуу абалга алып келбешин камсыз кылуу менен алектенет.
Бул стандарттын өзөгүн ASIL (Автомобилдик коопсуздуктун бүтүндүгү деңгээли) түзөт. Коркунуч үч өлчөм менен бааланат:
- Катуулугу: Эгер ушундай болуп калса, кандай жаман болмок? (жеңил жаракат же өлүм)
- Экспозиция: Бул канчалык көп болот?
- Башкаруу мүмкүнчүлүгү: Айдоочу кырдаалды канчалык көзөмөлдөй алат?
Бул үчөө биригип ASIL Aдан (эң төмөн) ASIL D деңгээлине чейин (эң жогорку, мисалы, тормоздоо, руль башкаруу) натыйжа берет. Деңгээл жогорулаган сайын иштеп чыгуу, тестирлөө жана документтештирүү талаптары катаалдайт.
НЕГИЗГИ
үлгү системасы
Талаптын интенсивдүүлүгү
А.
Ички жарыктандыруунун бузулушу
төмөн
В.
куйрук жарык
орто
C.
Кээ бир ADAS функциялары
бийик
Д.
Тормоз, руль, коопсуздук жаздыкчасы
эң жогорку
Ишара: Функциянын НЕГИЗГИ деңгээлин билүү бул функцияда AI колдонуу канчалык көңүл бурууну талап кылат. Функциядагы AI натыйжасына негизделген эч кандай чечим коопсуздукту көз карандысыз текшерүүсүз кабыл алынбайт.
ISO 21448 (SOTIF): арналган функциянын коопсуздугу
Классикалык функционалдык коопсуздук (ISO 26262) "система иштебей калса эмне болот?" деген суроого багытталган. Бирок жасалма интеллектти аныктоо системаларында жаңы көйгөй бар: система эч качан бузулбаса да, ал жетишсиз болушу мүмкүн. Камера жакшы иштейт, бирок карлуу плитаны тааный албайт; Радар катуу, бирок ал арбак сигналы катары токтоп турган унааны этибарга албайт. Бул жерде эч кандай аппараттык/программалык ката жок; Маселе функциянын болжолдонгон чөйрөсүнүн чегинде.
ISO 21448 - SOTIF (Негизделген функциялардын коопсуздугу) дал ушул боштукту чечет: таанылбаган сценарийлерден, аныктоо чектеринен жана күтүлбөгөн кырдаалдардан келип чыккан тобокелдиктерди башкаруу, система иштелип чыккандай иштесе да. AI негизиндеги ADAS/автономдук айдоодо SOTIF ISO 26262 сыяктуу маанилүү.
Frame
Фокус
мисал
ISO 26262
Иштебей калуу коркунучу
Сенсор бузулуп, сигнал жоголот
ISO 21448 (SOTIF)
Адекватсыздык/таанылбоо коркунучу
Катуу камера карлуу плитаны тааныбайт
ISO/SAE 21434
кибер коопсуздук
Системага чабуул, маалыматтарды манипуляциялоо
Абайлаңыз: AI моделдери статистикалык болуп саналат; Алар «ар бир жагдайды туура көрөм» деп кепилдик бере алышпайт. SOTIF бул табиятынан чектелген системалардагы белгисиз коркунучтуу сценарийлерди кыскартууга жана калган тобокелдикти алгылыктуу деңгээлге чейин төмөндөтүүгө багытталган. "Модель 99,9% так" коопсуздуктун далили эмес.
ISO/SAE 21434: Кибер коопсуздук
Туташкан жана программалык камсыздоо менен аныкталган унаалар кибер чабуулга дуушар болушат. Алыскы чабуулчу тормоз буйругун өзгөртө алат, телеметрияны уурдай алат же аныктоо моделин алдап алат (каршы чабуул: табакка кичинекей чаптама коюу менен моделди аны туура эмес тааныйт). ISO/SAE 21434 унаа киберкоопсуздугу үчүн инженердик негиз болуп саналат. Жасалма интеллекттин контекстинде эки тобокелдик айырмаланат: моделди алдоо (каршы) жана окуу маалыматтарын уулантуу (маалыматтарды уулануу). Коопсуздук үчүн маанилүү AI системалары бул чабуулдарга каршы сыналышы керек.
Купуялык жана жеке маалыматтар
Заманбап унаа "дөңгөлөктөрдөгү маалымат борбору": жайгашкан жери, айдоо жүрүм-туруму, аудио, ал тургай кабина камерасы. Мунун көбү жеке маалыматтар жана KVKK (Түркия) жана GDPR (Европа) тарабынан камтылган. VIN (шасси номери) унааны жана анын ээсин кыйыр түрдө аныктай алат. Негизги принциптер:
- Дайындарды минималдаштыруу: керектүү нерселерди гана чогултуңуз.
- Максатты чектөө: Дайындарды чогултулган максаттан башка максаттарда колдонбоңуз.
- Анонимдөө/псевдонимдөө: Жеке аныктоочу маалыматты алып салыңыз же коддоңуз.
- Ачык макулдук жана ачыктык: Айдоочу эмне чогултулуп жатканын билиши керек.
- Коопсуз сактоо жана өткөрүп берүү.
Эскертүү: Коомдук булуттун AI куралына чийки VIN кодун, жайгашкан жер таржымалын же айдоо жүрүм-турумун жөнөтүү купуялыктын бузулушу жана келишимдик тобокелдик болушу мүмкүн. Бул маалыматтар менен иштөөдө аны анонимдеңиз жана институционалдык, маалымат менен корголгон чөйрөнү колдонуңуз.
Этика жана инженердик жоопкерчилик
Жасалма интеллект кээ бир этикалык тобокелдиктерди алып келет:
- Бир тараптуулук: Эгерде машыгуу маалыматтары белгилүү бир шарттарда басымдуулук кылса (мисалы, күндүзгү, ачык тери, айрым аймактык жолдор), модель жетишсиз көрсөтүлгөн шарттарда (түнкү, ар кандай шарттарда) начар иштеши мүмкүн. Бул алсыздык.
- Ашыкча ишенүү (автоматташтыруунун бир жактуулугу): Адамдар автоматташтырууга сокурлук менен ишенишет жана өздөрүнүн пикирин жокко чыгарышат. Эгерде инженер-инженер AI "өттү" дегени үчүн чийки маалыматтарды кароону токтотсо, бул кооптуу тенденция.
- Жоопкерчиликти жоготуу: "Модель чечти" - бул коргонуу эмес. Чечимдин артында дайыма кол койгон адам болушу керек.
Мини кейс изилдөөлөр
1-жагдай - SOTIF чеги. Автоматтык авариялык тормоздоо системасы бардык лабораториялык сыноолордон өтөт, эч кандай бузулуулар жок. Талаада, күндүн ысыгында ак жүк ташуучу унаа чиркегичин асман деп адашып, тормозду кеч басты. Бул бузулуу эмес, бирок SOTIF аялуулугу: система бүтүн, бирок сценарий аныктоо чегинен тышкары. Команда бул сценарийди тесттик китепканага кошуп, радарларды бириктирүүнү күчөтөт. Корутунду: "Ийгилик жок" коопсуздуктун далили эмес; Жетишсиздик да коркунучтуу.
2-жагдай - бир тараптуу маалыматтар. Жөө жүргүнчүлөрдү аныктоо модели көбүнчө күндүзгү маалыматтар менен окутулду; Түнкү эс алуу бир кыйла төмөн. Команда түнкү жана аз жарыктык маалыматтарды тең салмактап, кайра үйрөтөт жана түнкү сценарийлерди өзүнчө кабарлайт. Корутунду: Баланссыз маалыматтар белгилүү бир шарттарда өлүмгө дуушар болгон аялуулукту жаратат.
3-жагдай - Купуялыктын бузулушун алдын алуу. Аналитик маалыматтарда чийки VIN жана GPS жайгашкан жерлер бар экенин байкаганда, флоттун маалыматтарын коомдук AI куралына чаптаганы жатат. Ал корпоративдик чөйрөдө маалыматтарды анонимдөө менен иштейт (VIN ордуна vehicle_01..arac_50, жайгашкан жердин ордуна аймак коду). Натыйжа: Бир көз ирмем олуттуу KVKK бузуунун алдын алды.
тез шаблондор
Үлгү 1 - АЛДЫН АЛА/тобокелдикти алдын ала баалоо (долбоор):
Ролу: Сиз функционалдык коопсуздук боюнча кеңешчисисиз. Тапшырма: Функциянын коркунучун жана тобокелдигин анализдөө үчүн долбоорду даярдайт. Контекст: Функция: автоматтык авариялык тормоздоо; шаардык жана шаар аралык.Чектөө: ASIL так дайындоо; Суроолордун тизмесин жана катаалдуулуктун/экспозициянын/контролдуктун өлчөмдөрү боюнча көңүл бурган пункттарды бериңиз; акыркы тапшырма ыйгарым укуктуу коопсуздук инженерине таандык экенин көрсөтөт. Чыгуу: Өлчөм | баалоо суроо | көңүл бөлүү таблицасы.
Үлгү 2 - SOTIF сценарийин сканерлөө:
Рол: Сиз SOTIF экспертисиз. Тапшырма: аныктоо функциясы "система бүтүн, бирок жетишсиз" болушу мүмкүн болгон сценарийлерди тизмектеңиз. Контекст: Камера + радар; аз күн, кар, туннелден чыгуу, адаттан тыш объекттер.Output: Сценарий | эмне үчүн жетишсиздик | кыскартуу боюнча сунуш.
Калып 3 - Купуялыкты көзөмөлдөө:
Рол: Сиз маалыматтарды коргоо (KVKK/GDPR) кеңешчисисиз. Тапшырма: Берилиштер топтомун бөлүшүүдөн мурун купуялык аудитин өткөрүңүз. Контекст: Флоттун телеметриясы; Мамычаларда VIN, GPS, айдоо эсеби бар. Чектөө: Кайсы талаалар жеке маалыматтар, алар кантип анонимдүү болушу керек, эмнени такыр бөлүшпөшүм керек; sort.Output: Field | тобокелдик | сунуш кылынган транзакция диаграммасы.
Калып 4 - Бийиктик текшерүү:
Рол: Сиз ML коопсуздук жана адилеттүүлүк аудиторусуз. Тапшырма: Мага аныктоо моделинде бир тараптуулук коркунучун кантип издөө керектигин айтыңыз. Контекст: Жөө жүргүнчүлөрдү аныктоо; машыгуу маалыматтары салмакталган күн/шаар.Output: Текшерүү шарты | өлчөө | тобокелдик белгиси.
Алсыз тездик / Күчтүү тездик
Алсыз билдирүү:
Бул автономдуу тормоз системасы коопсузбу, ырастаңыз.
AI коопсуздук уруксатын алууга аракет кылуу коркунучтуу; Бекитүү ыйгарым укуктуу инженерге таандык.
Күчтүү билдирүү:
Ролу: Сиз функционалдык коопсуздук жана SOTIF консультантысыз. Тапшырма: Автоматтык тормоздоо функциясынын коопсуздугун баалоодо мен кандай суроолорду беришим керек жана кандай далилдерди чогултушум керек экенин тизмектеп бериңиз. Контекст: AI негизинде аныктоо; камера+радар; ASIL жогору болушу мүмкүн. Чектөө: системаны бекитүү; ISO 26262 (кемчилик) жана SOTIF (жетишпестик) шарттарында суроолордун жана далилдердин өзүнчө тизмелерин бериңиз; Акыркы бекитүү ыйгарым укуктуу коопсуздук инженерине таандык экенин баса белгилеңиз. Чыгуу: Framework | суроо | талап кылынган далилдер таблицасы.
Жалпы каталар
- "Эч кандай бузулуу" менен "коопсуз" дегенди чаташтыруу. SOTIF жетишсиздиги иштебей туруп өлтүрө алат.
- AI коопсуздук уруксатын алуу. Бекитүү жана жоопкерчилик ыйгарым укуктуу инженерге жүктөлөт.
- Коопсуздуктун далили катары моделдин тактыгын жаңылыштык. 99,9% тактык калган тобокелдик башкарылганын билдирбейт.
- Жеке маалыматтарды коргоо эмес. VIN/жайгашкан жер/айдоо жүрүм-туруму KVKK/GDPR алкагында.
- Бир тараптуулукту жана ашыкча ишенимди четке кагуу. Теңдешсиз маалыматтар жана автоматташтырууга сокур ишеним аялуу болуп саналат.
Кыскача айтканда
- ISO 26262 иштебей калуу коркунучун башкарат (ASIL менен), ал эми ISO 21448/SOTIF иштебей калуу коркунучун башкарат; Экөө тең AI аныктоодо маанилүү.
- ISO/SAE 21434 кибер коопсуздук; атаандаштык жана маалыматтарды ууландыруучу чабуулдар AI үчүн өзгөчө коркунучтар болуп саналат.
- Маалыматтарды минималдаштыруу, максатты чектөө жана анонимдөө KVKK/GDPR алкагында милдеттүү болуп саналат; VIN/жер жеке маалымат болуп саналат.
- Бейкалыс, ашыкча ишенүү жана жоопкерчиликти жоготуу негизги этикалык тобокелдиктер болуп саналат.
- AI өндүрүшү квалификациялуу инженердин уруксатын алмаштыра албайт; Коопсуздук-критикалык чечим жана кол ар дайым адамга таандык.
Колдонмо тапшырмасы
Коопсуздукка байланыштуу функцияны тандаңыз (мисалы, жолду кармоо). (1) Эмне үчүн бул функциянын ASIL деңгээли катуу/экспозиция/контролдук өлчөмдөр боюнча жогору/төмөн болушу мүмкүн экенин талкуулаңыз. (2) Калып 2 менен 5 “система бекем, бирок адекваттуу эмес” сценарийди түзүңүз. (3) 3-Шаблон менен тиешелүү маалыматтар топтомун конфиденциалдуулугун текшериңиз. (4) “Модель ырасталды” деген сөз эмне үчүн коргонуу эмес экенин түшүндүрүңүз.
текшерүү тизмеси
- [ ] Мен функциянын ACTUAL өлчөмдөрүнө баа бердим (мен так тапшырманы бийликке калтырдым).
- [ ] Мен ISO 26262 (бузулук) жана SOTIF (жетишсиздик) ортосунда айырмачылыктарды жасадым.
- [ ] Мен кибер коопсуздук (каршылык/уулануу) коркунучун эске алдым.
- [ ] Мен жеке маалыматтарды анонимдүү кылып, минималдаштырдым.
- [ ] Мен бир тараптуулук жана ашыкча ишенүү коркунучтарын текшердим.
- [ ] Мен коопсуздук боюнча уруксат квалификациялуу инженерде экенин ырастадым.