Hagnaður:
- Geta til að útskýra ISO 26262 hagnýt öryggi og ISO 21448 (SOTIF) ramma og áhrif þeirra á kerfi sem innihalda gervigreind
- Geta til að stjórna gagnavernd, ökumannsgögnum, netöryggi (ISO/SAE 21434) og siðferðilegum áhættum í bifreiðasamhengi
- Hæfni til að viðhalda ábyrgð manna á mikilvægum öryggisákvörðunum með því að skilja að gervigreind kemur ekki í staðinn fyrir hæft samþykki verkfræðinga
Þú ert í mikilvægustu einingunni í þessari einingu. Hingað til höfum við séð gervigreind sem hraðal frá hönnun til framleiðslu, frá prófunum til aðfangakeðjunnar. En afgerandi spurningin í bílamálum er: mun þetta kerfi skaða einhvern og hver ber ábyrgðina? Þessi eining fjallar á látlausu máli um ramma fyrir notkun gervigreindar á ábyrgan hátt í iðnaði sem skiptir miklu máli fyrir öryggi – hagnýtt öryggi, SOTIF, netöryggi, friðhelgi einkalífs og siðfræði. Kjarnareglan er stöðug: AI framleiðsla kemur aldrei í stað hæfs verkfræðings; Öryggisgagnrýnin ákvörðun og ábyrgð tilheyrir manneskjunni.
ISO 26262: virkniöryggi
ISO 26262 er hagnýtur öryggisstaðall fyrir raf-/rafræn kerfi ökutækja á vegum. Hagnýtur öryggi; Það snýst um að tryggja að þegar kerfi bilar (skynjari bilar, hugbúnaður bilar) leiði það ekki til hættulegra aðstæðna.
Kjarninn í þessum staðli er ASIL (Automotive Safety Integrity Level). Hætta er metin í þremur víddum:
- Alvarleiki: Hversu slæmt væri það ef það gerðist? (minniháttar meiðsl eða dauði)
- Útsetning: Hversu oft gerist þetta?
- Stjórnun: Hversu mikið getur ökumaður stjórnað aðstæðum?
Þetta þrennt samanlagt leiðir til stigs frá ASIL A (lægsta) til ASIL D (hæsta, t.d. hemlun, stýring). Eftir því sem stigið hækkar verða kröfur um þróun, prófun og skjöl strangari.
AÐAL
sýnishornskerfi
Kröfustyrkur
A.
Bilun í innri lýsingu
lágt
B.
afturljós
miðlungs
C.
Sumar ADAS aðgerðir
hátt
D.
Bremsa, stýri, loftpúði
hæst
Ábending: Að þekkja AÐALstig falls segir þér hversu mikla athygli þarf að nota gervigreind í þeirri aðgerð. ENGIN ákvörðun byggð á gervigreindum framleiðsla í aðgerð er hægt að samþykkja án óháðrar öryggisstaðfestingar.
ISO 21448 (SOTIF): öryggi fyrirhugaðrar virkni
Klassískt hagnýtt öryggi (ISO 26262) beinist að spurningunni "hvað gerist ef kerfið bilar?" En það er nýtt vandamál í gervigreindarkerfum: jafnvel þótt kerfið bili aldrei, gæti það verið ófullnægjandi. Myndavélin virkar fínt en þekkir ekki snævi hellu; Ratsjáin er traust en hunsar kyrrstæða ökutæki sem draugamerki. Það er engin vélbúnaðar-/hugbúnaðarbilun hér; Vandamálið er á mörkum fyrirhugaðs umfangs aðgerðarinnar.
ISO 21448 - SOTIF (Safety Of The Intended Functionality) tekur á nákvæmlega þessu bili: stjórnun áhættu sem stafar af óþekktum atburðarásum, greiningarmörkum og ófyrirséðum aðstæðum, jafnvel þótt kerfið virki eins og hannað er. Í gervigreindum ADAS/sjálfvirkum akstri er SOTIF jafn mikilvægt og ISO 26262.
Rammi
Einbeittu þér
dæmi
ISO 26262
Áhætta vegna bilunar
Skynjari bilar, merki hverfur
ISO 21448 (SOTIF)
Hætta á ófullnægjandi/óviðurkenningu
Harðgerð myndavél þekkir ekki snævi plötu
ISO/SAE 21434
netöryggi
Kerfisárás, gagnavinnsla
Varúð: gervigreind líkön eru tölfræðileg; Þeir geta ekki tryggt að þeir muni „sjá allar aðstæður rétt“. SOTIF miðar að því að þrengja að óþekktum hættulegum atburðarásum í þessum takmörkuðu kerfum sem eru í eðli sínu og minnka áhættuna sem eftir er niður í viðunandi mark. „Módelið er 99,9% nákvæmt“ er ekki sönnun um öryggi.
ISO/SAE 21434: netöryggi
Tengd og hugbúnaðarskilgreind farartæki eru viðkvæm fyrir netárásum. Fjarlægur árásarmaður getur breytt bremsuskipuninni, stolið fjarmælingum eða platað uppgötvunarlíkanið (andstæð árás: að láta líkanið misskilja það með því að setja lítinn límmiða á disk). ISO/SAE 21434 er verkfræðilegur rammi fyrir netöryggi ökutækja. Í samhengi gervigreindar standa tvær áhættur upp úr: að blekkja líkanið (andstæðingur) og eitra fyrir þjálfunargögnunum (gagnaeitrun). Öryggismikil gervigreind kerfi ætti að prófa gegn þessum árásum.
Persónuvernd og persónuupplýsingar
Nútíma ökutæki er „gagnaver á hjólum“: staðsetning, aksturshegðun, hljóð, jafnvel myndavél í farþegarými. Mest af þessu eru persónuupplýsingar og falla undir KVKK (Türkiye) og GDPR (Evrópu). VIN (undirvagnsnúmer) getur auðkennt ökutæki og óbeint eiganda þess. Grunnreglur:
- Lágmörkun gagna: Safnaðu aðeins því sem þarf.
- Takmörkun á tilgangi: Ekki nota gögn í öðrum tilgangi en þeim tilgangi sem þeim var safnað í.
- Nafnlausn/dulnefni: Fjarlægðu eða umritaðu persónugreinanlegar upplýsingar.
- Skýrt samþykki og gagnsæi: Ökumaður verður að vita hverju verið er að safna.
- Örugg geymsla og flutningur.
Varúð: Að senda hrátt VIN-númer, staðsetningarferil eða aksturshegðun til almenningsskýi gervigreindarverkfæris getur verið bæði friðhelgisbrot og samningsbundin áhætta. Þegar þú vinnur með þessi gögn skaltu gera þau nafnlaus og nota stofnanaverndað umhverfi.
Siðfræði og ábyrgð verkfræðinga
Gervigreind hefur í för með sér nokkrar siðferðilegar áhættur:
- Hlutdrægni: Ef þjálfunargögnin eru ríkjandi við ákveðnar aðstæður (t.d. að degi til, ljós húð, ákveðnir svæðisvegir), gæti líkanið staðið sig illa við undirmyndaðar aðstæður (nótt, mismunandi aðstæður). Þetta er varnarleysi.
- Ofstraust (sjálfvirkni hlutdrægni): Fólk treystir í blindni sjálfvirkni og hnekkir eigin dómgreind. Ef prófunarverkfræðingurinn hættir að skoða hrá gögnin bara vegna þess að gervigreindin segir „pass,“ er þetta hættuleg þróun.
- Ábyrgðarmissi: „Módelið ákveðið“ er ekki vörn. Það ætti alltaf að vera einhver sem skrifar undir ákvörðunina.
Lítil dæmisögur
Mál 1 - SOTIF takmörk. Sjálfvirkt neyðarhemlakerfi stenst allar rannsóknarstofuprófanir, án bilana. Á vellinum, í lágri sól, vill hvítur vörubíll kerru sína vera himininn og bremsar seint. Þetta er ekki bilun, heldur SOTIF varnarleysi: kerfið er ósnortið en atburðarásin er utan greiningarmarka. Teymið bætir þessari atburðarás við prófasafnið og styrkir ratsjársamruna. Niðurstaða: „Engin bilun“ er ekki sönnun um öryggi; Ófullnægjandi er líka áhætta.
Mál 2 - Hlutdræg gögn. Líkan til uppgötvunar fótgangandi var aðallega þjálfað með daggögnum; Næturinnköllun er verulega minni. Teymið jafnar og endurþjálfar gögn um nætur og lítið ljós og tilkynnir næturatburðarás sérstaklega. Ályktun: Ójafnvægi í gögnum skapar banvænan varnarleysi við ákveðnar aðstæður.
Mál 3 - Forvarnir gegn friðhelgi einkalífs. Sérfræðingur er að fara að líma flotagögn í opinbert gervigreindarverkfæri þegar hann tekur eftir því að gögnin innihalda óunnar VIN og GPS staðsetningar. Það virkar í fyrirtækjaumhverfi með því að gera gögnin nafnlaus (vehicle_01..arac_50 í stað VIN, svæðisnúmer í stað staðsetningar). Niðurstaða: Augnabliks athygli kom í veg fyrir alvarlegt KVKK-brot.
hvetja sniðmát
Snið 1 - FYRIR/áhættumat (drög):
Hlutverk: Þú ert starfhæfur öryggisráðgjafi. Verkefni: Útbýr uppkast til að aðstoða við hættu- og áhættugreiningu fyrir aðgerð. Samhengi: Virka: sjálfvirk neyðarhemlun; þéttbýli og milli borga. Þvingun: nákvæm úthlutun ASIL; Gefðu lista yfir spurningar og athyglisverða þætti um alvarleika/útsetningu/stýranleika; gefa til kynna að lokaverkefni sé hjá viðurkenndum öryggisverkfræðingi. Úttak: Stærð | matsspurning | athygli athugasemdatöflu.
Snið 2 - SOTIF atburðarás skönnun:
Hlutverk: Þú ert SOTIF sérfræðingur. Verkefni: Listaðu aðstæður þar sem uppgötvunaraðgerð gæti verið „kerfi ósnortið en ófullnægjandi“. Samhengi: Myndavél + ratsjá; lág sól, snjór, útgangur úr göngum, óvenjulegir hlutir. Úttak: Atburðarás | hvers vegna ófullnægjandi | tilmæli um lækkun.
Snið 3 - Persónuverndarstýring:
Hlutverk: Þú ert gagnaverndarráðgjafi (KVKK/GDPR). Verkefni: Framkvæmdu persónuverndarúttekt áður en gagnasetti er deilt. Samhengi: Fjarmæling flota; Dálkarnir innihalda VIN, GPS, akstursstig. Þvingun: Hvaða reitir eru persónuleg gögn, hvernig ætti að nafngreina þau, hverju ætti ég alls ekki að deila; flokka.Úttak: Reitur | hætta | mælt viðskiptarit.
Snið 4 - Athugun á hlutdrægni:
Hlutverk: Þú ert ML öryggis- og sanngirnisendurskoðandi. Verkefni: Segðu mér hvernig á að leita að hættu á hlutdrægni í uppgötvunarlíkani. Samhengi: Greining gangandi vegfarenda; æfingagögn vegin dagur/borg.Output: Skilyrði til að athuga | mæling | áhættumerki.
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Er þetta sjálfvirka hemlakerfi öruggt, staðfestu.
Að reyna að fá gervigreind öryggisvottorð er hættulegt; Samþykki tilheyrir viðurkenndum verkfræðingi.
Öflug tilvitnun:
Hlutverk: Þú ert starfrænt öryggis- og SOTIF ráðgjafi. Verkefni: Skráðu hvaða spurningar ég ætti að spyrja og hvaða sönnunargögnum ég ætti að safna í öryggismati á sjálfvirku hemluninni minni. Samhengi: AI-undirstaða uppgötvun; myndavél+ratsjá; ASIL getur verið hátt. Þvingun: 'Samþykkja' kerfið; Gefðu upp sérstaka lista yfir spurningar og sönnunargögn í skilmálar af ISO 26262 (galli) og SOTIF (skortur); Leggðu áherslu á að endanlegt samþykki liggur hjá viðurkenndum öryggisverkfræðingi. Úttak: Rammi | spurning | nauðsynleg sönnunartöflu.
Algeng mistök
- Að rugla saman "engin bilun" og "örugg". SOTIF skortur getur drepið án þess að bila.
- Að fá AI öryggisvottun. Samþykki og ábyrgð er hjá viðurkenndum verkfræðingi.
- Misvísandi nákvæmni líkans sem sönnun um öryggi. 99,9% nákvæmni gefur ekki til kynna að búið sé að stjórna þeirri áhættu sem eftir er.
- Ekki vernda persónuupplýsingar. VIN/staðsetning/aksturshegðun er innan gildissviðs KVKK/GDPR.
- Hunsa hlutdrægni og oftrú. Ójafnvæg gögn og blindt traust á sjálfvirkni eru veikleikar.
Í stuttu máli
- ISO 26262 stýrir áhættu vegna bilunar (með ASIL), en ISO 21448/SOTIF stýrir hættu á bilun án bilunar; Báðir eru mikilvægir í greiningu gervigreindar.
- ISO/SAE 21434 netöryggi; andstæðingar og gagnaeitrunarárásir eru gervigreindarógnir.
- Lágmörkun gagna, takmörkun á tilgangi og nafnleynd er skylda innan gildissviðs KVKK/GDPR; VIN/staðsetning eru persónuupplýsingar.
- Fordómar, oftrú og missi ábyrgðar eru helstu siðferðisáhætturnar.
- AI framleiðsla kemur ekki í staðinn fyrir hæft samþykki verkfræðinga; Öryggisgagnrýna ákvörðunin og undirskriftin tilheyra alltaf viðkomandi.
Umsóknarverkefni
Veldu öryggistengda aðgerð (t.d. akreinargæslu). (1) Ræddu hvers vegna ASIL-stig þessarar aðgerðar gæti verið hátt/lágt eftir alvarleika/útsetningu/stýranleika. (2) Búðu til 5 „kerfis traustar en ófullnægjandi“ aðstæður með sniðmáti 2. (3) Trúnaðarúttekt á viðeigandi gagnasafni með sniðmáti 3. (4) Útskýrðu hvers vegna að segja „líkanið staðfest“ er ekki vörn.
gátlisti
- [ ] Ég mat raunverulegar stærðir fallsins (ég skildi eftir nákvæma úthlutun til yfirvaldsins).
- [ ] Ég gerði greinarmun á ISO 26262 (bilun) og SOTIF (ófullnægjandi).
- [ ] Ég hef tekið tillit til netöryggisáhættu (andstæðinga/eitrunar).
- [ ] Ég nafngreindi og lágmarkaði persónuupplýsingar.
- [ ] Ég athugaði hvort hætta væri á hlutdrægni og oftrú.
- [ ] Ég hef staðfest að öryggisvottorð er hjá hæfum verkfræðingi.