Voitot:
- Kyky selittää ISO 26262 toiminnallinen turvallisuus ja ISO 21448 (SOTIF) viitekehykset ja niiden vaikutukset tekoälyä sisältäviin järjestelmiin
- Kyky hallita tietosuojaa, kuljettajatietoja, kyberturvallisuutta (ISO/SAE 21434) ja eettisiä riskejä autoteollisuudessa
- Kyky säilyttää ihmisen vastuu turvallisuuskriittisistä päätöksistä ymmärtämällä, että tekoälytulos ei korvaa pätevän insinöörin hyväksyntää
Olet tämän moduulin kriittisimmässä yksikössä. Toistaiseksi olemme nähneet tekoälyn kiihdyttimenä suunnittelusta valmistukseen, testauksesta toimitusketjuun. Mutta ratkaiseva kysymys autoteollisuudessa on: vahingoittaako tämä järjestelmä ketään ja kuka on vastuussa? Tämä yksikkö kattaa selkeällä kielellä puitteet tekoälyn vastuulliseen käyttöön turvallisuuskriittisellä toimialalla – toiminnallinen turvallisuus, SOTIF, kyberturvallisuus, yksityisyys ja etiikka. Perusperiaate pysyy vakiona: AI-tulostus ei koskaan korvaa pätevän insinöörin hyväksyntää; Turvallisuuskriittinen päätös ja vastuu kuuluu ihmiselle.
ISO 26262: toiminnallinen turvallisuus
ISO 26262 on maantieajoneuvojen sähkö-/elektroniikkajärjestelmien toiminnallinen turvallisuusstandardi. Toiminnallinen turvallisuus; Sen tarkoituksena on varmistaa, että kun järjestelmä epäonnistuu (anturi rikkoutuu, ohjelmisto epäonnistuu), se ei johda vaaralliseen tilanteeseen.
Tämän standardin ytimessä on ASIL (Automotive Safety Integrity Level). Vaara arvioidaan kolmella ulottuvuudella:
- Vakavuus: Kuinka pahaa olisi, jos se tapahtuisi? (pieni loukkaantuminen tai kuolema)
- Altistuminen: Kuinka usein tämä tapahtuu?
- Hallitavuus: Kuinka paljon kuljettaja voi hallita tilannetta?
Nämä kolme yhdessä johtavat tasoon ASIL A:sta (matalin) ASIL D:hen (korkein, esim. jarrutus, ohjaus). Tason noustessa kehitys-, testaus- ja dokumentointivaatimukset kiristyvät.
MAIN
mallijärjestelmä
Vaatimusten intensiteetti
A.
Sisävalon toimintahäiriö
alhainen
B.
takavalo
keskikokoinen
C.
Jotkut ADAS-toiminnot
korkea
D.
Jarru, ohjaus, turvatyyny
korkein
Vihje: Kun tiedät funktion MAIN-tason, näet kuinka paljon huomiota tekoälyn käyttäminen kyseisessä funktiossa vaatii. MITÄÄN funktion tekoälyn lähtöön perustuvaa päätöstä ei voida hyväksyä ilman riippumatonta turvatarkastusta.
ISO 21448 (SOTIF): tarkoitetun toiminnan turvallisuus
Klassinen toimintaturvallisuus (ISO 26262) keskittyy kysymykseen "mitä tapahtuu, jos järjestelmä epäonnistuu?" Mutta tekoälyn havaitsemisjärjestelmissä on uusi ongelma: vaikka järjestelmä ei koskaan toimisi toimintahäiriönä, se voi olla riittämätön. Kamera toimii hyvin, mutta ei tunnista lumista laatta; Tutka on kiinteä, mutta se ei huomioi paikallaan olevaa ajoneuvoa haamusignaalina. Tässä ei ole laitteisto-/ohjelmistovikaa; Ongelma on toiminnon aiotun laajuuden rajalla.
ISO 21448 - SOTIF (Safety Of The Intended Functionality) korjaa juuri tämän puutteen: tunnistamattomista skenaarioista, havaitsemisrajoista ja odottamattomista tilanteista aiheutuvien riskien hallintaa, vaikka järjestelmä toimisi suunnitellusti. Tekoälypohjaisessa ADAS/autonomisessa ajamisessa SOTIF on yhtä kriittinen kuin ISO 26262.
Kehys
Keskity
esimerkki
ISO 26262
Epäonnistumisen aiheuttama riski
Anturi hajoaa, signaali katoaa
ISO 21448 (SOTIF)
Riittämättömyyden/tunnistamatta jättämisen riski
Vankka kamera ei tunnista lunta laatta
ISO/SAE 21434
kyberturvallisuus
Järjestelmähyökkäys, tietojen manipulointi
Varoitus: AI-mallit ovat tilastollisia; He eivät voi taata, että he "näkevät jokaisen tilanteen oikein". SOTIF pyrkii rajaamaan tuntemattomia vaaratilanteita näissä luonnostaan rajoitetuissa järjestelmissä ja pienentämään jäljellä olevan riskin hyväksyttävälle tasolle. "Malli on 99,9 % tarkka" ei ole todiste turvallisuudesta.
ISO/SAE 21434: kyberturvallisuus
Yhdistetyt ja ohjelmiston määrittämät ajoneuvot ovat alttiina kyberhyökkäyksille. Etähyökkääjä voi muuttaa jarrutuskomentoa, varastaa telemetriaa tai huijata havainnointimallia (vastuullinen hyökkäys: saa mallin tunnistamaan sen väärin asettamalla pienen tarran lautaselle). ISO/SAE 21434 on ajoneuvojen kyberturvallisuuden suunnittelukehys. Tekoälyn yhteydessä erottuu kaksi riskiä: mallin huijaaminen (adversarial) ja koulutusdatan myrkyttäminen (data myrkytys). Turvallisuuskriittiset tekoälyjärjestelmät tulee testata näitä hyökkäyksiä vastaan.
Yksityisyys ja henkilötiedot
Nykyaikainen ajoneuvo on "pyörillä oleva tietokeskus": sijainti, ajokäyttäytyminen, ääni, jopa matkustamokamera. Suurin osa näistä on henkilötietoja, ja ne kattavat KVKK (Türkiye) ja GDPR (Eurooppa). VIN (alustanumero) voi tunnistaa ajoneuvon ja epäsuorasti sen omistajan. Perusperiaatteet:
- Tietojen minimointi: Kerää vain tarvittava.
- Käyttötarkoituksen rajoitus: Älä käytä tietoja muihin tarkoituksiin kuin siihen tarkoitukseen, johon ne on kerätty.
- Anonymisointi/pseudonymisointi: Poista tai koodaa henkilökohtaisia tunnistetietoja.
- Nimenomainen suostumus ja avoimuus: Kuljettajan on tiedettävä, mitä kerätään.
- Turvallinen säilytys ja siirto.
Varoitus: Raaka VIN-koodin, sijaintihistorian tai ajokäyttäytymisen lähettäminen julkiseen pilvi tekoälytyökaluun voi olla sekä tietosuojaloukkaus että sopimusriski. Kun käsittelet näitä tietoja, tee ne anonymisoiduksi ja käytä institutionaalista, tietosuojattua ympäristöä.
Etiikka ja insinöörivastuu
Tekoäly tuo mukanaan joitain eettisiä riskejä:
- Bias: Jos harjoitusdata vallitsee tietyissä olosuhteissa (esim. päivällä, vaalea iho, tietyt alueelliset tiet), malli voi toimia huonosti aliedustetuissa olosuhteissa (yö, erilaiset olosuhteet). Tämä on haavoittuvuus.
- Yliluottamus (automaatioharha): Ihmiset luottavat sokeasti automaatioon ja ohittavat oman harkintansa. Jos testiinsinööri lopettaa raakatietojen katselemisen vain siksi, että tekoäly sanoo "hyväksyi", tämä on vaarallinen trendi.
- Vastuun menetys: "Malli päätti" ei ole puolustus. Päätöksen takana tulee aina olla allekirjoittaja.
Pienet tapaustutkimukset
Tapaus 1 - SOTIF-raja. Automaattinen hätäjarrutusjärjestelmä läpäisee kaikki laboratoriotestit ilman toimintahäiriöitä. Pellolla, matalassa auringonpaisteessa, valkoinen kuorma-auto erehtyy perävaununsa taivaaseen ja jarruttaa myöhään. Tämä ei ole toimintahäiriö, vaan SOTIF-haavoittuvuus: järjestelmä on ehjä, mutta skenaario on havaitsemisrajan ulkopuolella. Tiimi lisää tämän skenaarion testikirjastoon ja vahvistaa tutkafuusiota. Johtopäätös: "Ei vikaa" ei ole todiste turvallisuudesta; Myös riittämättömyys on riski.
Tapaus 2 - Puolueet tiedot. Jalankulkijoiden havaitsemismallia opetettiin pääasiassa päiväsaikojen tiedoilla; Yömuisti on huomattavasti pienempi. Tiimi tasapainottaa ja kouluttaa uudelleen yö- ja hämärätietoja ja raportoi yöskenaariot erikseen. Johtopäätös: Epätasapainoinen data luo tappavan haavoittuvuuden tietyissä olosuhteissa.
Tapaus 3 – Tietosuojaloukkausten estäminen. Analyytikko on liittämässä laivastotietoja julkiseen tekoälytyökaluun, kun hän huomaa, että tiedot sisältävät raaka VIN- ja GPS-sijainteja. Se toimii yritysympäristössä anonymisoimalla tiedot (vehicle_01..arac_50 VIN:n sijaan, aluekoodi sijainnin sijaan). Tulos: Hetki huomio esti vakavan KVKK-rikkomuksen.
kehotemalleja
Malli 1 - ENNAKKO/riskien alustava arviointi (luonnos):
Rooli: Olet toiminnallisen turvallisuuden konsultti. Tehtävä: Valmistelee luonnoksen toiminnon vaara- ja riskianalyysin avuksi. Konteksti: Toiminto: automaattinen hätäjarrutus; kaupunkien ja kaupunkien välinen. Rajoitus: ASIL:n tarkka määritys; Anna luettelo kysymyksistä ja huomionkohdista koskien vakavuuden/altistuksen/hallittavuuden ulottuvuuksia; osoittavat, että lopullinen tehtävä on valtuutetulla turvainsinöörillä.Tuloste: Koko | arviointikysymys | huomio muistiinpanotaulukko.
Malli 2 – SOTIF-skenaarion tarkistus:
Rooli: Olet SOTIF-asiantuntija. Tehtävä: Luettele skenaariot, joissa tunnistustoiminto saattaa olla "järjestelmä ehjä mutta riittämätön". Konteksti: Kamera + tutka; matala aurinko, lumi, tunnelin uloskäynti, epätavalliset esineet.Tuloste: Skenaario | miksi riittämättömyys | vähennyssuositus.
Malli 3 – Yksityisyyden hallinta:
Rooli: Olet tietosuojakonsultti (KVKK/GDPR). Tehtävä: Suorita tietosuojatarkastus ennen tietojoukon jakamista. Konteksti: Laivaston telemetria; Sarakkeet sisältävät VIN:n, GPS:n, ajopisteet. Rajoitus: Mitkä kentät ovat henkilötietoja, miten ne tulisi tehdä anonymisoimaan, mitä en saa jakaa ollenkaan; lajittele.Tuloste: Kenttä | riski | suositeltu tapahtumakaavio.
Malli 4 – harhatarkistus:
Rooli: Olet ML-turvallisuuden ja oikeudenmukaisuuden tarkastaja. Tehtävä: Kerro minulle, kuinka havaintomallissa voidaan etsiä harhariskiä. Konteksti: Jalankulkijoiden tunnistus; harjoitustiedot painotettu päivä/kaupunki.Tulos: Tarkistettava ehto | mittaus | riskin merkki.
Heikko kehote / Vahva kehote
Heikko kehote:
Onko tämä autonominen jarrujärjestelmä turvallinen, varmista.
Tekoälyn turvaselvityksen yrittäminen on vaarallista; Hyväksyntä kuuluu valtuutetulle insinöörille.
Tehokas kehotus:
Rooli: Olet toiminnallinen turvallisuus- ja SOTIF-konsultti. Tehtävä: Listaa, mitä kysymyksiä minun tulee kysyä ja mitä todisteita minun tulee kerätä automaattisen jarrutukseni turvallisuusarvioinnissa. Konteksti: AI-pohjainen tunnistus; kamera + tutka; ASIL voi olla korkea. Rajoitus: "Hyväksy" järjestelmä; Toimita erilliset luettelot kysymyksistä ja todisteista ISO 26262 (vika) ja SOTIF (puute) osalta; Korosta, että lopullinen hyväksyntä on valtuutetulla turvainsinöörillä.Tuloste: Framework | kysymys | vaadittu todistetaulukko.
Yleisiä virheitä
- "Ei toimintahäiriö" ja "turvallinen" sekoittaminen. SOTIF-puutos voi tappaa ilman toimintahäiriötä.
- AI-turvallisuusselvitys. Hyväksyntä ja vastuu on valtuutetulla insinöörillä.
- Virheellinen mallin tarkkuus todisteena turvallisuudesta. 99,9 %:n tarkkuus ei tarkoita, että jäljellä oleva riski on hallittu.
- Ei suojaa henkilötietoja. VIN/sijainti/ajokäyttäytyminen kuuluu KVKK/GDPR:n piiriin.
- Unohdetaan puolueellisuus ja liiallinen itseluottamus. Epätasapainoinen data ja sokea luottamus automaatioon ovat haavoittuvuuksia.
Yhteenvetona
- ISO 26262 hallitsee epäonnistumisesta johtuvaa riskiä (ASIL:n kanssa), kun taas ISO 21448/SOTIF hallitsee epäonnistumisen riskiä ilman vikaa; Molemmat ovat kriittisiä tekoälyn havaitsemisessa.
- ISO/SAE 21434 kyberturvallisuus; Vastakkaiset ja tietomyrkytyshyökkäykset ovat tekoälylle ominaisia uhkia.
- Tietojen minimointi, käyttötarkoituksen rajoittaminen ja anonymisointi ovat pakollisia KVKK/GDPR:n puitteissa; VIN/sijainti on henkilötietoja.
- Ennakkoluulot, liiallinen luottamus ja vastuun menetys ovat tärkeimmät eettiset riskit.
- AI-tulostus ei korvaa pätevän insinöörin hyväksyntää; Turvallisuuskriittinen päätös ja allekirjoitus kuuluvat aina henkilölle.
Sovellustehtävä
Valitse turvallisuuteen liittyvä toiminto (esim. kaistanpito). (1) Keskustele, miksi tämän toiminnon ASIL-taso voi olla korkea/matala vakavuus/altistus/hallittavuus-mitoissa. (2) Luo 5 "järjestelmä vakaa, mutta riittämätön" skenaariota mallilla 2. (3) Luottamuksellisuus tarkasta asiaankuuluva tietojoukko mallilla 3. (4) Selitä, miksi "Malli vahvistettu" ei ole puolustus.
tarkistuslista
- [ ] Arvioin toiminnon TODELLISET mitat (tarkan tehtävän jätin viranomaiselle).
- [ ] Tein eron ISO 26262 (vika) ja SOTIF (puute) välillä.
- [ ] Olen ottanut huomioon kyberturvallisuusriskin (kiistan/myrkytys).
- [ ] Anonymisoin ja minimoin henkilötiedot.
- [ ] Tarkistin ennakkoluulojen ja liiallisen itseluottamuksen riskit.
- [ ] Olen vahvistanut, että turvallisuusselvitys on pätevällä insinöörillä.