Winst:
- Vermogen om ISO 26262 functionele beveiliging en ISO 21448 (SOTIF) raamwerken en hun effecten op systemen die kunstmatige intelligentie bevatten uit te leggen
- Mogelijkheid om gegevensprivacy, bestuurdersgegevens, cyberbeveiliging (ISO/SAE 21434) en ethische risico's in de automobielcontext te beheren
- Vermogen om de menselijke verantwoordelijkheid te behouden voor veiligheidskritische beslissingen door te begrijpen dat AI-output geen vervanging is voor de goedkeuring van competente ingenieurs
Je bevindt je in de meest kritische eenheid van deze module. Tot nu toe hebben we AI gezien als een versneller van ontwerp tot productie, van testen tot supply chain. Maar de doorslaggevende vraag in de automobielsector is: zal dit systeem iemand schade berokkenen en wie daarvoor verantwoordelijk is? Deze unit behandelt in duidelijke taal de kaders voor een verantwoord gebruik van AI in een veiligheidskritische sector: functionele veiligheid, SOTIF, cyberbeveiliging, privacy en ethiek. Het kernprincipe blijft constant: AI-output vervangt nooit de goedkeuring van competente ingenieurs; Veiligheidskritische beslissingen en verantwoordelijkheid behoren toe aan de mens.
ISO 26262: functionele veiligheid
ISO 26262 is de functionele veiligheidsnorm voor elektrische/elektronische systemen van wegvoertuigen. Functionele veiligheid; Het gaat erom ervoor te zorgen dat wanneer een systeem faalt (een sensor gaat kapot, een software faalt), dit niet tot een gevaarlijke situatie leidt.
De kern van deze standaard is ASIL (Automotive Safety Integrity Level). Een gevaar wordt op drie dimensies beoordeeld:
- Ernst: Hoe erg zou het zijn als het zou gebeuren? (licht letsel of overlijden)
- Blootstelling: hoe vaak komt dit voor?
- Beheersbaarheid: In hoeverre kan de bestuurder de situatie beheersen?
Deze drie gecombineerd resulteren in een niveau van ASIL A (laagste) tot ASIL D (hoogste, bijvoorbeeld remmen, sturen). Naarmate het niveau stijgt, worden de vereisten voor ontwikkeling, testen en documentatie strenger.
HOOFD
monster systeem
Vereiste intensiteit
EEN.
Binnenverlichting defect
laag
B.
achterlicht
middelmatig
C.
Enkele ADAS-functies
hoog
D.
Rem, stuur, airbag
hoogste
Tip: Als u het MAIN-niveau van een functie kent, weet u hoeveel aandacht het gebruik van AI in die functie vereist. GEEN ENKELE beslissing op basis van AI-uitvoer in een functie kan worden geaccepteerd zonder onafhankelijke beveiligingsverificatie.
ISO 21448 (SOTIF): veiligheid van beoogde functie
Klassieke functionele veiligheid (ISO 26262) richt zich op de vraag "wat gebeurt er als het systeem faalt?" Maar er is een nieuw probleem bij de detectiesystemen voor kunstmatige intelligentie: zelfs als het systeem nooit defect raakt, kan het ontoereikend zijn. De camera werkt prima, maar herkent geen besneeuwde plaat; De radar is solide, maar negeert een stilstaand voertuig als spooksignaal. Er is hier geen sprake van een hardware-/softwarefout; Het probleem ligt aan de grens van de beoogde reikwijdte van de functie.
ISO 21448 - SOTIF (Safety Of The Intended Functionality) pakt precies deze leemte aan: het beheersen van risico's die voortkomen uit niet-onderkende scenario's, detectielimieten en onvoorziene situaties, zelfs als het systeem werkt zoals ontworpen. Bij op AI gebaseerde ADAS/autonoom rijden is SOTIF net zo cruciaal als ISO 26262.
Kader
Focus
voorbeeld
ISO26262
Risico door falen
Sensor kapot, signaal verdwijnt
ISO 21448 (SOTIF)
Risico op ontoereikendheid/niet-erkenning
Robuuste camera herkent geen besneeuwde plaat
ISO/SAE 21434
cyberbeveiliging
Systeemaanval, gegevensmanipulatie
Let op: AI-modellen zijn statistisch; Ze kunnen niet garanderen dat ze “elke situatie correct zullen zien”. SOTIF streeft ernaar onbekende gevaarlijke scenario's in deze inherent beperkte systemen te beperken en het resterende risico tot een acceptabel niveau terug te brengen. “Het model is 99,9% nauwkeurig” is geen bewijs van veiligheid.
ISO/SAE 21434: cyberbeveiliging
Verbonden en softwaregedefinieerde voertuigen zijn kwetsbaar voor cyberaanvallen. Een aanvaller op afstand kan het remcommando wijzigen, telemetrie stelen of het detectiemodel misleiden (vijandige aanval: ervoor zorgen dat het model het verkeerd herkent door een kleine sticker op een bord te plaatsen). ISO/SAE 21434 is het technische raamwerk voor cyberbeveiliging van voertuigen. In de context van kunstmatige intelligentie vallen twee risico’s op: het misleiden van het model (adversarial) en het vergiftigen van de trainingsgegevens (datavergiftiging). Beveiligingskritische AI-systemen moeten tegen deze aanvallen worden getest.
Privacy en persoonlijke gegevens
Het moderne voertuig is een ‘datacenter op wielen’: locatie, rijgedrag, audio, zelfs cabinecamera. Het merendeel hiervan betreft persoonsgegevens en valt onder de KVKK (Türkiye) en GDPR (Europa). VIN (chassisnummer) kan een voertuig en indirect de eigenaar identificeren. Basisprincipes:
- Dataminimalisatie: Verzamel alleen wat nodig is.
- Doelbinding: Gebruik gegevens niet voor andere doeleinden dan het doel waarvoor ze zijn verzameld.
- Anonimisering/pseudonimisering: Persoonlijk identificeerbare informatie verwijderen of coderen.
- Expliciete toestemming en transparantie: De chauffeur moet weten wat er wordt verzameld.
- Veilige opslag en overdracht.
Let op: het verzenden van onbewerkte VIN, locatiegeschiedenis of rijgedrag naar een AI-tool in de openbare cloud kan zowel een schending van de privacy als een contractueel risico zijn. Wanneer u met deze gegevens werkt, anonimiseer deze dan en gebruik een institutionele, gegevensbeschermde omgeving.
Ethiek en ingenieursverantwoordelijkheid
Kunstmatige intelligentie brengt enkele ethische risico’s met zich mee:
- Bias: Als de trainingsgegevens bepaalde omstandigheden overheersen (bijvoorbeeld overdag, lichte huid, bepaalde regionale wegen), presteert het model mogelijk slecht onder ondervertegenwoordigde omstandigheden (nacht, verschillende omstandigheden). Dit is een kwetsbaarheid.
- Overmoed (automation bias): Mensen vertrouwen blindelings op automatisering en negeren hun eigen oordeel. Als de testingenieur stopt met kijken naar de ruwe data, alleen maar omdat de AI ‘pass’ zegt, is dit een gevaarlijke trend.
- Verlies van verantwoordelijkheid: "Het model waartoe besloten is" is geen verdediging. Er moet altijd een persoon achter de beslissing staan die tekent.
Mini-casestudies
Geval 1 - SOTIF-limiet. Een automatisch noodremsysteem doorstaat alle laboratoriumtests, zonder storingen. In het veld, in de laagstaande zon, ziet een witte vrachtwagen zijn aanhanger aan voor de lucht en remt laat. Dit is geen storing, maar een SOTIF-kwetsbaarheid: het systeem is intact maar het scenario valt buiten de detectielimiet. Het team voegt dit scenario toe aan de testbibliotheek en versterkt radarfusie. Conclusie: "Geen storing" is geen bewijs van veiligheid; Onvoldoende is ook een risico.
Geval 2 – Vertekende gegevens. Een voetgangersdetectiemodel werd voornamelijk getraind met gegevens overdag; Nachtherinneringen zijn aanzienlijk lager. Het team balanceert en hertraint gegevens over nacht en weinig licht en rapporteert nachtscenario's afzonderlijk. Conclusie: Onevenwichtige gegevens creëren onder bepaalde omstandigheden een dodelijke kwetsbaarheid.
Geval 3 – Preventie van inbreuk op de privacy. Een analist staat op het punt wagenparkgegevens in een openbare AI-tool te plakken als hij merkt dat de gegevens onbewerkte VIN- en GPS-locaties bevatten. Het werkt in een bedrijfsomgeving door de gegevens te anonimiseren (vehicle_01..arac_50 in plaats van VIN, regiocode in plaats van locatie). Resultaat: Een moment van aandacht voorkwam een ernstige KVKK-overtreding.
snelle sjablonen
Sjabloon 1 - PRIOR/voorlopige risicobeoordeling (ontwerp):
Rol: Je bent een functioneel veiligheidsadviseur. Taak: Bereidt een ontwerp voor ter ondersteuning van de gevaren- en risicoanalyse voor een functie. Context: Functie: automatische noodremming; stedelijk en interstedelijk. Beperking: exacte toewijzing van ASIL; Geef een lijst met vragen en aandachtspunten over de dimensies ernst/blootstelling/beheersbaarheid; geef aan dat de eindopdracht berust bij de geautoriseerde beveiligingsingenieur.Uitvoer: Grootte | evaluatievraag | aandacht notitie tafel.
Sjabloon 2 - SOTIF-scenarioscan:
Rol: Je bent een SOTIF-expert. Taak: Noem scenario's waarin een detectiefunctie mogelijk 'systeem intact maar ontoereikend' is. Context: Camera + radar; laagstaande zon, sneeuw, tunneluitgang, bijzondere objecten.Output: Scenario | waarom ontoereikendheid | reductieadvies.
Sjabloon 3 - Privacycontrole:
Rol: Je bent een gegevensbeschermingsconsulent (KVKK/GDPR). Taak: Voer een privacyaudit uit voordat u een dataset deelt. Context: vloottelemetrie; De kolommen bevatten VIN, GPS, rijscore. Beperking: welke velden zijn persoonlijke gegevens, hoe moeten ze worden geanonimiseerd, wat mag ik helemaal niet delen; sort.Output: Veld | risico | aanbevolen transactieschema.
Sjabloon 4 - Controle van bias:
Rol: U bent een ML-veiligheids- en eerlijkheidsauditor. Taak: Vertel me hoe ik in een detectiemodel kan zoeken naar het risico op vertekening. Context: Voetgangersdetectie; trainingsgegevens gewogen dag/stad.Uitvoer: Te controleren voorwaarde | meting | risico teken.
Zwakke prompt/sterke prompt
Zwakke prompt:
Is dit autonome remsysteem veilig, bevestig dit.
Proberen om een AI-veiligheidsmachtiging te krijgen is gevaarlijk; Goedkeuring behoort toe aan de bevoegde ingenieur.
Krachtige prompt:
Rol: Je bent een functionele veiligheids- en SOTIF-consultant. Taak: Noteer welke vragen ik moet stellen en welk bewijsmateriaal ik moet verzamelen bij de veiligheidsbeoordeling van mijn automatische remfunctie. Context: op AI gebaseerde detectie; camera+radar; ASIL kan hoog zijn. Beperking: 'Keur het systeem goed'; Geef aparte lijsten met vragen en bewijsmateriaal op het gebied van ISO 26262 (defect) en SOTIF (deficiëntie); Benadruk dat de uiteindelijke goedkeuring bij de geautoriseerde beveiligingsingenieur ligt.Uitvoer: Framework | vraag | benodigde bewijstabel.
Veel voorkomende fouten
- Verwarring van ‘geen storing’ met ‘veilig’. Een tekort aan SOTIF kan dodelijk zijn zonder dat het slecht functioneert.
- Het verkrijgen van een AI-veiligheidsmachtiging. Goedkeuring en verantwoordelijkheid liggen bij de bevoegde ingenieur.
- Modelnauwkeurigheid als bewijs van veiligheid beschouwen. Een nauwkeurigheid van 99,9% betekent niet dat het resterende risico is beheerst.
- Persoonlijke gegevens niet beschermen. VIN/locatie/rijgedrag valt binnen de reikwijdte van KVKK/AVG.
- Vooroordelen en overmoed negeren. Onevenwichtige data en blind vertrouwen in automatisering zijn kwetsbaarheden.
Samengevat
- ISO 26262 beheert het risico als gevolg van falen (met ASIL), terwijl ISO 21448/SOTIF het risico van falen beheert zonder falen; Beide zijn van cruciaal belang bij AI-detectie.
- ISO/SAE 21434 cyberbeveiliging; vijandige aanvallen en datavergiftigingsaanvallen zijn AI-specifieke bedreigingen.
- Gegevensminimalisatie, doelbinding en anonimisering zijn verplicht in het kader van de KVKK/AVG; VIN/locatie zijn persoonlijke gegevens.
- Vooroordelen, overmoed en verlies van verantwoordelijkheid zijn de belangrijkste ethische risico's.
- AI-output is geen vervanging voor de goedkeuring van gekwalificeerde ingenieurs; De veiligheidskritische beslissing en handtekening behoren altijd toe aan de persoon.
Applicatie taak
Selecteer een veiligheidsgerelateerde functie (bijv. Lane Keeping). (1) Bespreek waarom het ASIL-niveau van deze functie hoog/laag kan zijn langs de dimensies ernst/blootstelling/beheersbaarheid. (2) Genereer 5 “systeem solide maar ontoereikend” scenario's met sjabloon 2. (3) Vertrouwelijkheidsaudit van een relevante dataset met sjabloon 3. (4) Leg uit waarom het zeggen van “Het model bevestigd” geen verdediging is.
controlelijst
- [ ] Ik heb de WERKELIJKE afmetingen van de functie geëvalueerd (de exacte toewijzing heb ik aan de autoriteit overgelaten).
- [ ] Ik heb onderscheid gemaakt tussen ISO 26262 (storing) en SOTIF (insufficiëntie).
- [ ] Ik heb rekening gehouden met het cyberveiligheidsrisico (tegenstander/vergiftiging).
- [ ] Ik heb persoonlijke gegevens geanonimiseerd en geminimaliseerd.
- [ ] Ik heb gecontroleerd op risico's van vooringenomenheid en overmoed.
- [ ] Ik heb bevestigd dat de veiligheidsmachtiging bij de gekwalificeerde ingenieur is.