Gevinster:
- Evne til at forklare ISO 26262 funktionel sikkerhed og ISO 21448 (SOTIF) rammer og deres virkninger på systemer, der indeholder kunstig intelligens
- Evne til at administrere databeskyttelse, førerdata, cybersikkerhed (ISO/SAE 21434) og etiske risici i bilsammenhæng
- Evne til at opretholde menneskeligt ansvar for sikkerhedskritiske beslutninger ved at forstå, at AI-output ikke er en erstatning for kompetent ingeniørgodkendelse
Du er i den mest kritiske enhed i dette modul. Indtil videre har vi set AI som en accelerator fra design til fremstilling, fra test til forsyningskæde. Men det afgørende spørgsmål i bilindustrien er: vil dette system skade nogen, og hvem er ansvarlig? Denne enhed dækker i et klart sprog rammerne for ansvarlig brug af AI i en sikkerhedskritisk industri – funktionel sikkerhed, SOTIF, cybersikkerhed, privatliv og etik. Kerneprincippet forbliver konstant: AI-output erstatter aldrig kompetent ingeniørgodkendelse; Sikkerhedskritisk beslutning og ansvar tilhører mennesket.
ISO 26262: funktionel sikkerhed
ISO 26262 er den funktionelle sikkerhedsstandard for elektriske/elektroniske systemer i vejkøretøjer. Funktionel sikkerhed; Det handler om at sikre, at når et system svigter (en sensor går i stykker, en software fejler), fører det ikke til en farlig situation.
Kernen i denne standard er ASIL (Automotive Safety Integrity Level). En fare vurderes i tre dimensioner:
- Sværhedsgrad: Hvor slemt ville det være, hvis det skete? (mindre skade eller død)
- Eksponering: Hvor ofte sker dette?
- Styrbarhed: Hvor meget kan føreren kontrollere situationen?
Disse tre kombineret resulterer i et niveau fra ASIL A (laveste) til ASIL D (højeste, f.eks. bremsning, styring). I takt med at niveauet stiger, skærpes kravene til udvikling, test og dokumentation.
HOVED
prøvesystem
Kravintensitet
A.
Fejl i indvendig belysning
lav
B.
baglygte
medium
C.
Nogle ADAS-funktioner
høj
D.
Bremse, styretøj, airbag
højest
Tip: At kende en funktions HOVEDniveau fortæller dig, hvor meget opmærksomhed det kræver at bruge AI i den funktion. INGEN beslutning baseret på AI-output i en funktion kan accepteres uden uafhængig sikkerhedsverifikation.
ISO 21448 (SOTIF): sikkerhed for tilsigtet funktion
Klassisk funktionel sikkerhed (ISO 26262) fokuserer på spørgsmålet "hvad sker der, hvis systemet svigter?" Men der er et nyt problem i detekteringssystemer til kunstig intelligens: Selvom systemet aldrig fejler, kan det være utilstrækkeligt. Kameraet fungerer fint, men kan ikke genkende en snedækket plade; Radaren er solid, men den ignorerer et stillestående køretøj som et spøgelsessignal. Der er ingen hardware/softwarefejl her; Problemet er på grænsen af det tilsigtede omfang af funktionen.
ISO 21448 - SOTIF (Safety Of The Intended Functionality) adresserer præcis dette hul: håndtering af risici, der opstår fra uerkendte scenarier, detektionsgrænser og uforudsete situationer, selvom systemet fungerer som designet. I AI-baseret ADAS/autonom kørsel er SOTIF lige så kritisk som ISO 26262.
Ramme
Fokus
eksempel
ISO 26262
Risiko på grund af svigt
Sensor går i stykker, signal forsvinder
ISO 21448 (SOTIF)
Risiko for utilstrækkelighed/ikke-anerkendelse
Robust kamera genkender ikke snedækket plade
ISO/SAE 21434
cybersikkerhed
Systemangreb, datamanipulation
Forsigtig: AI-modeller er statistiske; De kan ikke garantere, at de vil "se enhver situation korrekt". SOTIF sigter mod at indsnævre ukendte farlige scenarier i disse iboende begrænsede systemer og reducere den resterende risiko til et acceptabelt niveau. "Modellen er 99,9% nøjagtig" er ikke et bevis på sikkerhed.
ISO/SAE 21434: cybersikkerhed
Forbundne og softwaredefinerede køretøjer er sårbare over for cyberangreb. En fjernangriber kan ændre bremsekommandoen, stjæle telemetri eller narre detektionsmodellen (modstridende angreb: få modellen til at miskende den ved at placere et lille klistermærke på en plade). ISO/SAE 21434 er den tekniske ramme for køretøjers cybersikkerhed. I forbindelse med kunstig intelligens skiller to risici sig ud: bedrag af modellen (modstridende) og forgiftning af træningsdataene (dataforgiftning). Sikkerhedskritiske AI-systemer bør testes mod disse angreb.
Privatliv og personlige data
Det moderne køretøj er et "datacenter på hjul": placering, køreadfærd, lyd, endda kabinekamera. Det meste af dette er persondata og er omfattet af KVKK (Türkiye) og GDPR (Europa). VIN (chassisnummer) kan identificere et køretøj og indirekte dets ejer. Grundlæggende principper:
- Dataminimering: Indsaml kun det nødvendige.
- Formålsbegrænsning: Brug ikke data til andre formål end det formål, hvortil de blev indsamlet.
- Anonymisering/pseudonymisering: Fjern eller indkode personligt identificerende oplysninger.
- Eksplicit samtykke og gennemsigtighed: Chaufføren skal vide, hvad der indsamles.
- Sikker opbevaring og overførsel.
Forsigtig: At sende rå VIN, placeringshistorik eller køreadfærd til et offentligt cloud AI-værktøj kan være både en krænkelse af privatlivets fred og en kontraktmæssig risiko. Når du arbejder med disse data, skal du anonymisere dem og bruge et institutionelt, databeskyttet miljø.
Etik og ingeniøransvar
Kunstig intelligens bringer nogle etiske risici med sig:
- Bias: Hvis træningsdataene dominerer visse forhold (f.eks. dagtimerne, lys hud, visse regionale veje), kan modellen præstere dårligt under underrepræsenterede forhold (nat, forskellige forhold). Dette er en sårbarhed.
- Overmod (automatiseringsbias): Folk stoler blindt på automatisering og tilsidesætter deres egen dømmekraft. Hvis testingeniøren holder op med at se på de rå data, bare fordi AI siger "bestå", er dette en farlig tendens.
- Tab af ansvar: "Modellen besluttede" er ikke et forsvar. Der skal altid stå en person, der skriver under bag beslutningen.
Mini casestudier
Tilfælde 1 - SOTIF-grænse. Et automatisk nødbremsesystem består alle laboratorietests uden fejl. På marken, i den lave sol, forveksler en hvid lastbil sin trailer med himlen og bremser sent. Dette er ikke en funktionsfejl, men en SOTIF-sårbarhed: Systemet er intakt, men scenariet er uden for detektionsgrænsen. Holdet tilføjer dette scenarie til testbiblioteket og styrker radarfusion. Konklusion: "Ingen fejl" er ikke et bevis på sikkerhed; Insufficiens er også en risiko.
Case 2 - Biased data. En fodgængerdetektionsmodel blev overvejende trænet med data om dagen; Natgenkaldelse er væsentligt lavere. Holdet afbalancerer og genoptræner data om nat og svagt lys og rapporterer natscenarier separat. Konklusion: Ubalancerede data skaber en dødelig sårbarhed under visse omstændigheder.
Case 3 - Forebyggelse af brud på privatlivets fred. En analytiker er ved at indsætte flådedata i et offentligt AI-værktøj, når han bemærker, at dataene indeholder rå VIN- og GPS-placeringer. Det fungerer i et virksomhedsmiljø ved at anonymisere dataene (vehicle_01..arac_50 i stedet for VIN, regionskode i stedet for placering). Resultat: Et øjebliks opmærksomhed forhindrede en alvorlig KVKK-overtrædelse.
prompte skabeloner
Skabelon 1 - FORUDSÆTNING/foreløbig risikovurdering (udkast):
Rolle: Du er funktionel sikkerhedskonsulent. Opgave: Forbereder et udkast til hjælp for fare- og risikoanalyse for en funktion. Kontekst: Funktion: automatisk nødbremse; by- og intercity.Constraint: nøjagtig tildeling af ASIL; Giv en liste over spørgsmål og opmærksomhedspunkter om dimensionerne af sværhedsgrad/eksponering/kontrollerbarhed; angive, at den endelige opgave påhviler den autoriserede sikkerhedsingeniør. Output: Størrelse | evalueringsspørgsmål | opmærksomhed note tabel.
Skabelon 2 - SOTIF-scenariescanning:
Rolle: Du er SOTIF-ekspert. Opgave: List scenarier, hvor en detektionsfunktion kan være 'system intakt, men utilstrækkelig'. Kontekst: Kamera + radar; lav sol, sne, tunneludgang, usædvanlige genstande.Output: Scenario | hvorfor utilstrækkelighed | reduktionsanbefaling.
Skabelon 3 - Privatlivskontrol:
Rolle: Du er databeskyttelseskonsulent (KVKK/GDPR). Opgave: Udfør en privatlivsrevision, før du deler et datasæt. Kontekst: Flådetelemetri; Kolonnerne indeholder VIN, GPS, kørescore. Begrænsning: Hvilke felter er personlige data, hvordan skal de anonymiseres, hvad skal jeg slet ikke dele; sort.Output: Felt | risiko | anbefalet transaktionsdiagram.
Skabelon 4 - Bias check:
Rolle: Du er ML sikkerheds- og retfærdighedsrevisor. Opgave: Fortæl mig, hvordan man ser efter risiko for bias i en detektionsmodel. Kontekst: Fodgængerdetektering; træningsdata vægtet dag/by.Output: Betingelse at kontrollere | måling | risikotegn.
Svag prompt / Stærk prompt
Svag prompt:
Er dette autonome bremsesystem sikkert, bekræft.
At forsøge at få AI-sikkerhedsgodkendelse er farligt; Godkendelsen tilhører den autoriserede ingeniør.
Kraftig prompt:
Rolle: Du er funktionel sikkerheds- og SOTIF-konsulent. Opgave: Liste hvilke spørgsmål jeg skal stille og hvilke beviser jeg skal indsamle i sikkerhedsvurderingen af min automatiske bremsefunktion. Kontekst: AI-baseret detektion; kamera+radar; ASIL kan være høj. Constraint: 'Godkend' systemet; Angiv separate lister over spørgsmål og beviser i henhold til ISO 26262 (defekt) og SOTIF (mangel); Understreg, at den endelige godkendelse ligger hos den autoriserede sikkerhedsingeniør. Output: Framework | spørgsmål | krævet bevistabel.
Almindelige fejl
- Forveksler "ingen funktionsfejl" med "sikker". SOTIF-mangel kan dræbe uden funktionsfejl.
- Får AI-sikkerhedsgodkendelse. Godkendelse og ansvar ligger hos den autoriserede ingeniør.
- Forkert modelnøjagtighed som bevis på sikkerhed. 99,9 % nøjagtighed indikerer ikke, at den resterende risiko er blevet styret.
- Beskytter ikke personlige data. VIN/placering/kørselsadfærd er inden for rammerne af KVKK/GDPR.
- Ignorerer bias og overmod. Ubalancerede data og blind tillid til automatisering er sårbarheder.
Sammenfattende
- ISO 26262 styrer risikoen på grund af fejl (med ASIL), mens ISO 21448/SOTIF styrer risikoen for fejl uden fejl; Begge er kritiske i AI-detektion.
- ISO/SAE 21434 cybersikkerhed; modstridende og dataforgiftningsangreb er AI-specifikke trusler.
- Dataminimering, formålsbegrænsning og anonymisering er obligatoriske inden for rammerne af KVKK/GDPR; VIN/placering er personlige data.
- Fordomme, overmod og tab af ansvar er de vigtigste etiske risici.
- AI-output er ikke en erstatning for kvalificeret ingeniørgodkendelse; Den sikkerhedskritiske beslutning og underskrift tilhører altid personen.
Ansøgningsopgave
Vælg en sikkerhedsrelateret funktion (f.eks. vognbaneholding). (1) Diskuter, hvorfor ASIL-niveauet for denne funktion kan være højt/lavt langs dimensionerne for sværhedsgrad/eksponering/kontrollerbarhed. (2) Generer 5 "system solide, men utilstrækkelige" scenarier med skabelon 2. (3) Fortrolighedsrevision af et relevant datasæt med skabelon 3. (4) Forklar, hvorfor det at sige "Modellen bekræftet" ikke er et forsvar.
tjekliste
- [ ] Jeg vurderede de FAKTISKE dimensioner af funktionen (jeg overlod den nøjagtige opgave til myndigheden).
- [ ] Jeg skelnede mellem ISO 26262 (fejl) og SOTIF (insufficiens).
- [ ] Jeg har taget højde for cybersikkerhedsrisikoen (modstridende/forgiftning).
- [ ] Jeg anonymiserede og minimerede personlige data.
- [ ] Jeg tjekkede for risici for bias og overmod.
- [ ] Jeg har bekræftet, at sikkerhedsgodkendelsen er hos den kvalificerede ingeniør.