Nyereség:
- Képes elmagyarázni az ISO 26262 funkcionális biztonság és az ISO 21448 (SOTIF) keretrendszereket és ezek hatását a mesterséges intelligenciát tartalmazó rendszerekre
- Képes kezelni az adatvédelmet, a járművezetői adatokat, a kiberbiztonságot (ISO/SAE 21434) és az etikai kockázatokat az autóiparban
- Képes fenntartani az emberi felelősséget a biztonság szempontjából kritikus döntésekért, annak megértésével, hogy az AI-kimenet nem helyettesíti a hozzáértő mérnök jóváhagyását
Ön a modul legkritikusabb egységében van. Eddig azt láttuk, hogy az AI egy gyorsító a tervezéstől a gyártásig, a teszteléstől az ellátási láncig. De a döntő kérdés az autóiparban: vajon ez a rendszer árt-e bárkinek, és ki a felelős? Ez az egység közérthető nyelven lefedi az AI felelősségteljes használatának kereteit a biztonság szempontjából kritikus iparágban – a működési biztonságot, a SOTIF-et, a kiberbiztonságot, a magánéletet és az etikát. Az alapelv változatlan marad: az AI kimenet soha nem helyettesíti a hozzáértő mérnök jóváhagyását; A biztonság szempontjából kritikus döntés és felelősség az emberé.
ISO 26262: funkcionális biztonság
Az ISO 26262 a közúti járművek elektromos/elektronikus rendszereinek funkcionális biztonsági szabványa. Funkcionális biztonság; Arra törekszik, hogy ha egy rendszer meghibásodik (egy érzékelő elromlik, egy szoftver meghibásodik), az ne vezessen veszélyes helyzethez.
Ennek a szabványnak a középpontjában az ASIL (Automotive Safety Integrity Level) áll. A veszélyt három dimenzióban értékelik:
- Súlyosság: Mennyire rossz lenne, ha megtörténne? (kisebb sérülés vagy halál)
- Expozíció: Milyen gyakran fordul elő ez?
- Irányíthatóság: Mennyire tudja a sofőr irányítani a helyzetet?
Ez a három együttes eredménye az ASIL A (legalacsonyabb) és az ASIL D (legmagasabb, pl. fékezés, kormányzás) szintje. A szint emelkedésével a fejlesztési, tesztelési és dokumentációs követelmények szigorodnak.
FŐ
mintarendszer
Követelmény intenzitása
A.
A belső világítás meghibásodása
alacsony
B.
hátsó lámpa
közepes
C.
Néhány ADAS funkció
magas
D.
Fék, kormány, légzsák
legmagasabb
Tipp: Egy függvény FŐ szintjének ismerete megmutatja, hogy mennyi figyelmet igényel az AI az adott funkcióban való használata. Független biztonsági ellenőrzés nélkül NEM fogadható el az AI kimenetén alapuló döntés egy függvényben.
ISO 21448 (SOTIF): a tervezett funkció biztonsága
A klasszikus funkcionális biztonság (ISO 26262) arra a kérdésre összpontosít, hogy "mi történik, ha a rendszer meghibásodik?" De van egy új probléma a mesterséges intelligencia-érzékelő rendszerekben: még ha a rendszer soha nem is működik hibásan, nem lehet megfelelő. A kamera jól működik, de nem ismeri fel a havas lapot; A radar szilárd, de az álló járművet szellemjelként figyelmen kívül hagyja. Itt nincs hardver/szoftver hiba; A probléma a funkció tervezett hatókörének határán van.
Az ISO 21448 – SOTIF (Safety Of The Intended Functionality) pontosan ezt a hiányosságot orvosolja: a fel nem ismert forgatókönyvekből, észlelési korlátokból és előre nem látható helyzetekből eredő kockázatok kezelése, még akkor is, ha a rendszer a tervezettnek megfelelően működik. Az AI-alapú ADAS/autonóm vezetésben a SOTIF ugyanolyan kritikus, mint az ISO 26262.
Keret
Fókusz
példa
ISO 26262
Meghibásodás miatti kockázat
Az érzékelő elromlik, a jel eltűnik
ISO 21448 (SOTIF)
Az elégtelenség/el nem ismerés kockázata
A masszív kamera nem ismeri fel a havas lapot
ISO/SAE 21434
kiberbiztonság
Rendszertámadás, adatmanipuláció
Figyelem: az AI modellek statisztikai jellegűek; Nem tudják garantálni, hogy „minden helyzetet helyesen látnak”. A SOTIF célja, hogy leszűkítse az ismeretlen veszélyes forgatókönyveket ezekben az eredendően korlátozott rendszerekben, és a fennmaradó kockázatot elfogadható szintre csökkentse. „A modell 99,9%-ban pontos” nem a biztonság bizonyítéka.
ISO/SAE 21434: kiberbiztonság
A csatlakoztatott és szoftveresen definiált járművek sebezhetőek a kibertámadásokkal szemben. A távoli támadó megváltoztathatja a fékezési parancsot, ellophatja a telemetriát, vagy becsaphatja az észlelési modellt (ellenkező támadás: félreismerheti a modellt egy kis matrica tányérra helyezésével). Az ISO/SAE 21434 a járművek kiberbiztonságának mérnöki keretrendszere. A mesterséges intelligencia kapcsán két kockázat emelkedik ki: a modell megtévesztése (ellenkező) és a képzési adatok megmérgezése (adatmérgezés). A biztonság szempontjából kritikus mesterséges intelligencia rendszereket tesztelni kell ezekkel a támadásokkal szemben.
Adatvédelem és személyes adatok
A modern jármű egy „kerekeken álló adatközpont”: hely, vezetési viselkedés, hang, sőt kabinkamera is. Ezek nagy része személyes adat, és a KVKK (Türkiye) és a GDPR (Európa) hatálya alá tartozik. A VIN (alvázszám) azonosíthatja a járművet és közvetve annak tulajdonosát. Alapelvek:
- Adatminimalizálás: Csak a szükséges mennyiséget gyűjtse össze.
- Célhoz kötöttség: Ne használja fel az adatokat a gyűjtésük céljától eltérő célra.
- Anonimizálás/álnevesítés: Személyazonosításra alkalmas adatok eltávolítása vagy kódolása.
- Kifejezett beleegyezés és átláthatóság: A járművezetőnek tudnia kell, hogy mit gyűjtenek.
- Biztonságos tárolás és átvitel.
Vigyázat: A nyers VIN, helyelőzmények vagy vezetési viselkedés nyilvános felhőalapú mesterségesintelligencia-eszközbe küldése az adatvédelem megsértését és szerződéses kockázatot is jelenthet. Amikor ezekkel az adatokkal dolgozik, anonimizálja azokat, és használjon intézményi, adatvédett környezetet.
Etika és mérnöki felelősség
A mesterséges intelligencia bizonyos etikai kockázatokat rejt magában:
- Elfogultság: Ha a képzési adatok túlsúlyban vannak bizonyos körülmények között (pl. nappali, világos bőr, bizonyos regionális utak), a modell gyengén teljesíthet alulreprezentált körülmények között (éjszaka, eltérő körülmények). Ez egy sebezhetőség.
- Túlzott magabiztosság (automatizálási elfogultság): Az emberek vakon bíznak az automatizálásban, és felülírják saját ítélőképességüket. Ha a tesztmérnök abbahagyja a nyers adatok nézegetését csak azért, mert az AI azt mondja, hogy „megfelelt”, ez veszélyes tendencia.
- Felelősségvesztés: "A modell döntött" nem védekezés. A döntés mögött mindig legyen egy személy, aki aláírja.
Mini esettanulmányok
1. eset – SOTIF-korlát. Az automatikus vészfékező rendszer minden laboratóriumi teszten átmegy, hiba nélkül. A mezőn, alacsony napsütésben egy fehér teherautó összetéveszti a pótkocsiját az éggel, és későn fékez. Ez nem meghibásodás, hanem SOTIF sebezhetőség: a rendszer sértetlen, de a forgatókönyv kívül esik az észlelési határon. A csapat hozzáadja ezt a forgatókönyvet a tesztkönyvtárhoz, és megerősíti a radarfúziót. Következtetés: A „nincs hiba” nem a biztonság bizonyítéka; Az elégtelenség is kockázatot jelent.
2. eset – Elfogult adatok. A gyalogosészlelési modellt túlnyomórészt nappali adatokkal képezték ki; Az éjszakai visszahívás lényegesen alacsonyabb. A csapat kiegyensúlyozza és áttanítja az éjszakai és gyenge fényviszonyokkal kapcsolatos adatokat, és külön jelentést készít az éjszakai forgatókönyvekről. Következtetés: A kiegyensúlyozatlan adatok bizonyos körülmények között halálos sebezhetőséget okoznak.
3. eset – Az adatvédelem megsértésének megelőzése. Egy elemző éppen beilleszti a flottaadatokat egy nyilvános AI-eszközbe, amikor észreveszi, hogy az adatok nyers VIN- és GPS-helyszíneket tartalmaznak. Vállalati környezetben az adatok anonimizálásával működik (VIN helyett jármű_01..arac_50, hely helyett régiókód). Eredmény: Egy pillanatnyi figyelem megakadályozta a KVKK súlyos megsértését.
prompt sablonok
1. sablon – ELŐZETES/kockázati előzetes értékelés (tervezet):
Szerep: Ön funkcionális biztonsági tanácsadó. Feladat: Tervezetet készít egy funkció veszély- és kockázatelemzésének elősegítésére. Kontextus: Funkció: automatikus vészfékezés; városi és városközi.Kényszer: ASIL pontos hozzárendelése; Adjon egy listát a kérdésekről és a figyelem pontokról a súlyosság/expozíció/kontrollálhatóság dimenzióival kapcsolatban; jelezze, hogy a végső feladatot a felhatalmazott biztonsági mérnök hárítja.Kimenet: Méret | értékelő kérdés | figyelem jegyzet táblázat.
2. sablon – SOTIF forgatókönyv vizsgálat:
Szerep: Ön SOTIF-szakértő. Feladat: Sorolja fel azokat a forgatókönyveket, amelyekben az észlelési funkció „a rendszer sértetlen, de nem megfelelő”. Kontextus: Kamera + radar; alacsony napsütés, hó, alagút kijárata, szokatlan tárgyak.Kimenet: Forgatókönyv | miért elégtelenség | csökkentési ajánlás.
3. sablon – Adatvédelem:
Munkakör: Ön adatvédelmi (KVKK/GDPR) tanácsadó. Feladat: Adatkészlet megosztása előtt végezzen adatvédelmi auditot. Kontextus: Flotta telemetria; Az oszlopok VIN-t, GPS-t, vezetési pontszámot tartalmaznak. Megkötés: Mely mezők személyes adatok, hogyan kell anonimizálni, mit ne osszam meg egyáltalán; rendezés.Kimenet: Mező | kockázat | ajánlott tranzakciós diagram.
4. sablon – Elfogultság ellenőrzése:
Szerep: Ön ML biztonsági és méltányossági auditor. Feladat: Mondja el, hogyan kereshetem a torzítás kockázatát egy észlelési modellben. Kontextus: Gyalogos észlelés; edzési adatok súlyozott nap/város.Kimenet: Ellenőrizendő feltétel | mérés | kockázati jel.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Biztonságos-e ez az autonóm fékrendszer, ellenőrizze.
A mesterséges intelligencia biztonsági engedélyének megszerzése veszélyes; A jóváhagyás a felhatalmazott mérnöké.
Erőteljes felszólítás:
Szerep: Ön funkcionális biztonsági és SOTIF tanácsadó. Feladat: Sorolja fel, milyen kérdéseket kell feltennem, és milyen bizonyítékokat kell gyűjtenem az automatikus fékezési funkcióm biztonsági értékelése során. Kontextus: AI-alapú észlelés; kamera+radar; Az ASIL lehet magas.Kényszer: „Jóváhagyja” a rendszert; Adjon külön listát a kérdésekről és bizonyítékokról az ISO 26262 (hiba) és a SOTIF (hiányosság) tekintetében; Hangsúlyozza, hogy a végső jóváhagyás a felhatalmazott biztonsági mérnöké.Kimenet: keretrendszer | kérdés | szükséges bizonyítékok táblázata.
Gyakori hibák
- A „nincs meghibásodás” összekeverése a „biztonságos”-val. A SOTIF hiánya meghibásodás nélkül megölhet.
- MI biztonsági engedély megszerzése. A jóváhagyás és a felelősség a felhatalmazott mérnököt terheli.
- A modell pontosságának tévedése a biztonság bizonyítékaként. A 99,9%-os pontosság nem azt jelenti, hogy a fennmaradó kockázatot sikerült kezelni.
- Nem védi a személyes adatokat. A VIN/helyszín/vezetési viselkedés a KVKK/GDPR hatálya alá tartozik.
- Az elfogultság és a túlzott önbizalom figyelmen kívül hagyása. A kiegyensúlyozatlan adatok és az automatizálásba vetett vak bizalom sebezhetőség.
Összefoglalva
- Az ISO 26262 kezeli a meghibásodásból eredő kockázatot (ASIL-lel), míg az ISO 21448/SOTIF a meghibásodás kockázatát hiba nélkül; Mindkettő kritikus az AI észlelésében.
- ISO/SAE 21434 kiberbiztonság; az ellenséges és adatmérgező támadások mesterséges intelligencia-specifikus fenyegetések.
- Az adatok minimalizálása, a cél korlátozása és anonimizálása kötelező a KVKK/GDPR hatálya alatt; A VIN/helyszín személyes adat.
- Az előítéletek, a túlzott magabiztosság és a felelősség elvesztése jelentik a fő etikai kockázatokat.
- Az AI-kimenet nem helyettesíti a képzett mérnök jóváhagyását; A biztonság szempontjából kritikus döntés és aláírás mindig az illetőé.
Pályázati feladat
Válasszon egy biztonsággal kapcsolatos funkciót (pl. sávtartás). (1) Beszéljétek meg, miért lehet magas/alacsony ennek a funkciónak az ASIL szintje a súlyossági/expozíciós/szabályozhatósági dimenziók mentén. (2) Generáljon 5 „rendszer szilárd, de nem megfelelő” forgatókönyvet a 2. sablonnal. (3) Titoktartási vizsgálat egy releváns adatkészletet a 3. sablonnal. (4) Magyarázza el, miért nem védekezés a „A modell megerősítve” mondása.
ellenőrző lista
- [ ] Kiértékeltem a funkció AKTUÁLIS méreteit (a pontos hozzárendelést a hatóságra bíztam).
- [ ] Különbséget tettem az ISO 26262 (hiba) és a SOTIF (elégtelenség) között.
- [ ] Figyelembe vettem a kiberbiztonsági (elleni/mérgezési) kockázatot.
- [ ] A személyes adatokat anonimizáltam és minimalizáltam.
- [ ] Ellenőriztem az elfogultság és a túlzott önbizalom kockázatát.
- [ ] Megerősítettem, hogy a biztonsági tanúsítvány a szakképzett mérnöknél van.