Kasu:
- Oskus selgitada ISO 26262 funktsionaalse turvalisuse ja ISO 21448 (SOTIF) raamistikke ning nende mõju tehisintellekti sisaldavatele süsteemidele
- Võimalus hallata andmete privaatsust, juhi andmeid, küberturvalisust (ISO/SAE 21434) ja eetilisi riske autotööstuse kontekstis
- Võimalus säilitada inimvastutus ohutuse seisukohalt oluliste otsuste eest, mõistes, et tehisintellekti väljund ei asenda pädeva inseneri kinnitust
Olete selle mooduli kõige kriitilisemas üksuses. Seni oleme näinud tehisintellekti kiirendajana projekteerimisest tootmiseni, testimisest tarneahelani. Kuid autotööstuses on otsustav küsimus: kas see süsteem kahjustab kedagi ja kes vastutab? See üksus käsitleb lihtsas keeles tehisintellekti vastutustundliku kasutamise raamistikke ohutuskriitilises valdkonnas – funktsionaalne ohutus, SOTIF, küberturvalisus, privaatsus ja eetika. Põhiprintsiip jääb muutumatuks: AI väljund ei asenda kunagi pädeva inseneri heakskiitu; Julgeolekukriitiline otsus ja vastutus kuulub inimesele.
ISO 26262: funktsionaalne ohutus
ISO 26262 on maanteesõidukite elektriliste/elektrooniliste süsteemide funktsionaalne ohutusstandard. Funktsionaalne ohutus; Selle eesmärk on tagada, et süsteemi rike (andur puruneb, tarkvara tõrge) ei põhjustaks ohtlikku olukorda.
Selle standardi keskmes on ASIL (Automotive Safety Integrity Level). Ohtu hinnatakse kolmes mõõtmes:
- Raskusaste: kui halb see oleks, kui see juhtuks? (väike vigastus või surm)
- Kokkupuude: kui sageli see juhtub?
- Juhitavus: kui palju suudab juht olukorda kontrollida?
Need kolm kombineerituna annavad taseme ASIL A-st (madalaim) ASIL D-ni (kõrgeim, nt pidurdamine, juhtimine). Taseme tõustes karmistuvad arendus-, testimis- ja dokumentatsiooninõuded.
PEAMISED
näidissüsteem
Nõude intensiivsus
A.
Sisevalgustuse rike
madal
B.
tagatuli
keskmine
C.
Mõned ADAS-i funktsioonid
kõrge
D.
Pidur, rool, turvapadi
kõrgeim
Näpunäide. Funktsiooni MAIN-taseme teadmine annab teile teada, kui palju tähelepanu nõuab AI kasutamine selles funktsioonis. Ühtegi funktsiooni tehisintellekti väljundil põhinevat otsust ei saa aktsepteerida ilma sõltumatu turvakontrollita.
ISO 21448 (SOTIF): ettenähtud funktsiooni ohutus
Klassikaline funktsionaalne ohutus (ISO 26262) keskendub küsimusele "mis juhtub, kui süsteem ebaõnnestub?" Kuid tehisintellekti tuvastussüsteemides on uus probleem: isegi kui süsteem kunagi ei tööta, võib see olla ebapiisav. Kaamera töötab hästi, kuid ei tunne ära lumist plaati; Radar on kindel, kuid eirab seisvat sõidukit kummitussignaalina. Siin pole riistvara/tarkvara riket; Probleem on funktsiooni kavandatud ulatuse piiril.
ISO 21448 – SOTIF (Safety Of The Intended Functionality) tegeleb täpselt selle lüngaga: tundmatutest stsenaariumitest, tuvastamispiirangutest ja ettenägematutest olukordadest tulenevate riskide haldamine isegi siis, kui süsteem töötab kavandatud viisil. Tehisintellektil põhineva ADAS/autonoomse sõidu puhul on SOTIF sama kriitiline kui ISO 26262.
Raam
Keskendu
näide
ISO 26262
Ebaõnnestumisest tulenev risk
Andur puruneb, signaal kaob
ISO 21448 (SOTIF)
Ebapiisavuse/mittetunnustamise oht
Vastupidav kaamera ei tunne lumist plaati ära
ISO/SAE 21434
küberturvalisus
Süsteemirünnak, andmetega manipuleerimine
Ettevaatust: AI mudelid on statistilised; Nad ei saa garanteerida, et nad "näevad iga olukorda õigesti". SOTIF-i eesmärk on kitsendada tundmatuid ohustsenaariume nendes oma olemuselt piiratud süsteemides ja vähendada ülejäänud riski vastuvõetava tasemeni. "Mudel on 99,9% täpne" ei ole turvalisuse tõend.
ISO/SAE 21434: küberturvalisus
Ühendatud ja tarkvaraga määratletud sõidukid on küberrünnakute suhtes haavatavad. Kaugründaja võib muuta pidurduskäsku, varastada telemeetriat või petta tuvastusmudelit (vaenulik rünnak: paneb mudeli valesti ära tundma, asetades taldrikule väikese kleebise). ISO/SAE 21434 on sõidukite küberturvalisuse raamistik. Tehisintellekti kontekstis torkavad silma kaks riski: mudeli petmine (vaenulik) ja treeningandmete mürgitamine (andmete mürgitamine). Turvakriitilisi tehisintellektisüsteeme tuleks nende rünnakute vastu testida.
Privaatsus ja isikuandmed
Kaasaegne sõiduk on "ratastel andmekeskus": asukoht, sõidukäitumine, heli, isegi salongikaamera. Suurem osa neist on isikuandmed ja neid hõlmavad KVKK (Türkiye) ja GDPR (Euroopa). VIN (šassii number) võimaldab tuvastada sõidukit ja kaudselt selle omanikku. Põhiprintsiibid:
- Andmete minimeerimine: koguge ainult seda, mida vajate.
- Eesmärgi piirang: ärge kasutage andmeid muul eesmärgil kui see, milleks need koguti.
- Anonüümseks muutmine/pseudonüümseks muutmine: eemaldage või kodeerige isikut tuvastav teave.
- Selgesõnaline nõusolek ja läbipaistvus: juht peab teadma, mida kogutakse.
- Turvaline ladustamine ja ülekandmine.
Ettevaatust. Toores VIN-koodi, asukohaajaloo või sõidukäitumise saatmine avalikule pilve-AI-tööriistale võib olla nii privaatsuse rikkumine kui ka lepinguline risk. Nende andmetega töötades muutke need anonüümseks ja kasutage institutsionaalset andmekaitsega keskkonda.
Eetika ja inseneri vastutus
Tehisintellekt toob endaga kaasa mõned eetilised riskid:
- Kallutatus: kui treeninguandmed domineerivad teatud tingimustes (nt päeval, hele nahk, teatud piirkondlikud teed), võib mudel alaesindatud tingimustes (öö, erinevad tingimused) halvasti toimida. See on haavatavus.
- Liigne enesekindlus (automaatika eelarvamus): inimesed usaldavad pimesi automatiseerimist ja alistavad oma otsustusvõime. Kui katseinsener lõpetab toorandmete vaatamise lihtsalt seetõttu, et AI ütleb "läbi", on see ohtlik trend.
- Vastutuse kaotamine: "Modell otsustas" ei ole kaitse. Otsuse taga peaks alati olema allkirja andja.
Minijuhtumiuuringud
Juhtum 1 – SOTIF-i limiit. Automaatne hädapidurdussüsteem läbib kõik laboratoorsed testid ilma tõrgeteta. Põllul madala päikese käes ajab valge veoauto haagise taevast ja pidurdab hilja. See ei ole rike, vaid SOTIF-i haavatavus: süsteem on terve, kuid stsenaarium on väljaspool tuvastamispiiri. Meeskond lisab selle stsenaariumi katseteeki ja tugevdab radari fusiooni. Järeldus: "Rikke puudumine" ei ole ohutuse tõend; Ebapiisavus on samuti risk.
Juhtum 2 – kallutatud andmed. Jalakäijate tuvastamise mudelit koolitati peamiselt päevaste andmetega; Öine meeldetuletus on oluliselt madalam. Meeskond tasakaalustab ja treenib ümber öise ja vähese valguse andmeid ning esitab öised stsenaariumid eraldi. Järeldus: tasakaalustamata andmed loovad teatud olukordades surmava haavatavuse.
3. juhtum – privaatsusrikkumiste vältimine. Analüütik kleepib pargiandmeid avalikku AI-tööriista, kui märkab, et andmed sisaldavad töötlemata VIN- ja GPS-asukohti. See töötab ettevõtte keskkonnas, muutes andmed anonüümseks (VIN-koodi asemel vehicle_01..arac_50, asukoha asemel piirkonnakood). Tulemus: Tähelepanuhetk hoidis ära tõsise KVKK rikkumise.
viipade mallid
Mall 1 – EELMINE/riski esialgne hinnang (mustand):
Roll: olete funktsionaalse ohutuse konsultant. Ülesanne: koostab mustand funktsiooni ohu- ja riskianalüüsi hõlbustamiseks. Kontekst: Funktsioon: automaatne hädapidurdus; linna- ja linnadevaheline. Piirang: ASIL-i täpne määramine; Esitage nimekiri küsimustest ja tähelepanupunktidest tõsiduse/särituse/juhitavuse mõõtmete kohta; näitavad, et lõplik ülesanne on volitatud turvainseneril.Väljund: suurus | hindamisküsimus | tähelepanu märkuste tabel.
Mall 2 – SOTIF-stsenaariumi skannimine:
Roll: olete SOTIF-i ekspert. Ülesanne: loetlege stsenaariumid, kus tuvastusfunktsioon võib olla "süsteem terve, kuid ebapiisav". Kontekst: kaamera + radar; madal päike, lumi, tunneli väljapääs, ebatavalised objektid. Väljund: Stsenaarium | miks ebaadekvaatsus | vähendamise soovitus.
Mall 3 – privaatsuskontroll:
Roll: olete andmekaitse (KVKK/GDPR) konsultant. Ülesanne: viige enne andmekogumi jagamist läbi privaatsusaudit. Kontekst: laevastiku telemeetria; Veerud sisaldavad VIN-koodi, GPS-i, sõiduskoori. Piirang: millised väljad on isikuandmed, kuidas neid anonüümseks muuta, mida üldse mitte jagada; sorteeri.Väljund: Väli | risk | soovitatav tehinguskeem.
Mall 4 – kallutatuse kontroll:
Roll: olete ML ohutuse ja õigluse audiitor. Ülesanne: öelge mulle, kuidas otsida tuvastusmudelis kallutatuse riski. Kontekst: jalakäijate tuvastamine; treeningandmete kaalutud päev/linn.Väljund: Kontrollitav seisund | mõõtmine | riskimärk.
Nõrk viip / Tugev viip
Nõrk viip:
Kas see autonoomne pidurisüsteem on ohutu, kinnitage.
Tehisintellekti turvakontrolli püüdmine on ohtlik; Heakskiit kuulub volitatud insenerile.
Võimas viip:
Roll: olete funktsionaalse ohutuse ja SOTIF-i konsultant. Ülesanne: Loetlege, milliseid küsimusi ma peaksin küsima ja milliseid tõendeid peaksin koguma oma automaatse pidurdusfunktsiooni ohutuse hindamisel. Kontekst: AI-põhine tuvastamine; kaamera+radar; ASIL võib olla kõrge.Piirang: "Kinnita" süsteem; Esitage eraldi küsimuste ja tõendite loendid ISO 26262 (defekt) ja SOTIF (puudus) osas; Rõhutage, et lõpliku kinnituse annab volitatud turbeinsener. Väljund: raamistik | küsimus | nõutav tõendite tabel.
Levinud vead
- Segi ajada "tõrge puudub" ja "turvaline". SOTIF-i puudulikkus võib tappa ilma talitlushäireta.
- AI turvakontrolli saamine. Heakskiit ja vastutus lasub volitatud inseneril.
- Mudeli täpsuse eksimine turvalisuse tõestuseks. 99,9% täpsus ei näita, et ülejäänud risk on juhitud.
- Isikuandmeid ei kaitse. VIN/asukoht/sõidukäitumine kuulub KVKK/GDPR reguleerimisalasse.
- Eelarvamuste ja liigse enesekindluse ignoreerimine. Tasakaalustamata andmed ja pime usaldus automatiseerimise vastu on haavatavused.
Kokkuvõttes
- ISO 26262 juhib tõrkest tulenevat riski (koos ASIL-iga), ISO 21448/SOTIF aga tõrketeta; Mõlemad on AI tuvastamisel kriitilised.
- ISO/SAE 21434 küberturvalisus; võistlevad ja andmete mürgitamise rünnakud on AI-spetsiifilised ohud.
- Andmete minimeerimine, eesmärgi piiramine ja anonüümseks muutmine on KVKK/GDPR raames kohustuslikud; VIN/asukoht on isikuandmed.
- Eelarvamused, liigne enesekindlus ja vastutuse kaotamine on peamised eetilised riskid.
- AI väljund ei asenda kvalifitseeritud inseneri kinnitust; Turvakriitiline otsus ja allkiri kuuluvad alati inimesele.
Rakenduse ülesanne
Valige ohutusega seotud funktsioon (nt sõiduraja hoidmine). (1) Arutage, miks selle funktsiooni ASIL-i tase võib raskusastme/särituse/juhitavuse mõõtmetes olla kõrge/madal. (2) Genereerige malliga 2 5 „süsteemi töökindla, kuid ebapiisava” stsenaariumit. (3) Konfidentsiaalsusauditi asjakohast andmekogumit malliga 3. (4) Selgitage, miks „mudel kinnitatud” ei ole kaitse.
kontrollnimekiri
- [ ] Hindasin funktsiooni TEGELIKE mõõtmeid (täpse määramise jätsin asutuse hooleks).
- [ ] Tegin vahet ISO 26262 (tõrge) ja SOTIF (puudus) vahel.
- [ ] Olen arvestanud küberturvalisuse (konkurentsi/mürgituse) riskiga.
- [ ] Muutsin isikuandmed anonüümseks ja minimeerisin.
- [ ] Kontrollisin eelarvamuste ja liigse enesekindluse riske.
- [ ] Olen kinnitanud, et julgeolekukontroll on kvalifitseeritud inseneri käes.