Sigurtà Funzjonali, SOTIF, Etika u Privatezza — Intelliġenza Artifiċjali fl-Inġinerija tal-Karozzi

Qligħ:

Kapaċità li tispjega oqfsa tas-sigurtà funzjonali ISO 26262 u ISO 21448 (SOTIF) u l-effetti tagħhom fuq sistemi li fihom intelliġenza artifiċjali
Kapaċità li timmaniġġja l-privatezza tad-dejta, id-dejta tas-sewwieqa, iċ-ċibersigurtà (ISO/SAE 21434) u riskji etiċi fil-kuntest tal-karozzi
Kapaċità li żżomm ir-responsabbiltà tal-bniedem għal deċiżjonijiet kritiċi għas-sikurezza billi tifhem li l-output tal-AI mhuwiex sostitut għall-approvazzjoni tal-inġinier kompetenti

Inti fl-unità l-aktar kritika ta 'dan il-modulu. S'issa rajna l-AI bħala aċċeleratur mid-disinn għall-manifattura, mill-ittestjar għall-katina tal-provvista. Iżda l-mistoqsija deċiżiva fil-karozzi hija: din is-sistema se tagħmel ħsara lil xi ħadd u min hu responsabbli? Din l-unità tkopri b'lingwaġġ sempliċi l-oqfsa għall-użu tal-AI b'mod responsabbli f'industrija kritika għas-sikurezza—sikurezza funzjonali, SOTIF, ċibersigurtà, privatezza u etika. Il-prinċipju ewlieni jibqa' kostanti: l-output tal-AI qatt ma jissostitwixxi l-approvazzjoni tal-inġinier kompetenti; Deċiżjoni u responsabbiltà kritika għas-sigurtà jappartjenu lill-bniedem.

ISO 26262: sigurtà funzjonali

L-ISO 26262 huwa l-istandard tas-sikurezza funzjonali għas-sistemi elettriċi/elettroniċi tal-vetturi tat-triq. Sigurtà funzjonali; Hija mħassba li tiżgura li meta sistema tfalli (sensor jinkiser, softwer ifalli) ma twassalx għal sitwazzjoni perikoluża.

Fil-qalba ta 'dan l-istandard hemm ASIL (Livell ta' Integrità tas-Sigurtà tal-Karozzi). Periklu huwa evalwat fi tliet dimensjonijiet:

Severità: Kemm ikun ħażin kieku ġara? (korriment żgħir jew mewt)
Espożizzjoni: Kemm-il darba dan iseħħ?
Kontrollabilità: Kemm jista' s-sewwieq jikkontrolla s-sitwazzjoni?

Dawn it-tliet ikkombinati jirriżultaw f'livell minn ASIL A (l-aktar baxx) għal ASIL D (l-ogħla, eż. ibbrejkjar, istering). Hekk kif il-livell jiżdied, ir-rekwiżiti ta 'żvilupp, ittestjar u dokumentazzjoni jsiru aktar stretti.

EWLENIN

sistema tal-kampjun

Intensità tal-ħtieġa

Malfunzjoni tad-dawl ta 'ġewwa

baxx

dawl tad-denb

medju

Ċ.

Xi funzjonijiet ADAS

għolja

Brejk, istering, airbag

l-ogħla

Tip: Li tkun taf il-livell PRINĊIPALI ta' funzjoni jgħidlek kemm teħtieġ attenzjoni bl-użu tal-AI f'dik il-funzjoni. L-EBDA deċiżjoni bbażata fuq l-output AI f'funzjoni ma tista' tiġi aċċettata mingħajr verifika indipendenti tas-sigurtà.

ISO 21448 (SOTIF): sigurtà tal-funzjoni maħsuba

Is-sigurtà funzjonali klassika (ISO 26262) tiffoka fuq il-mistoqsija "x'jiġri jekk is-sistema tfalli?" Iżda hemm problema ġdida fis-sistemi ta 'skoperta ta' intelliġenza artifiċjali: anki jekk is-sistema qatt ma taħdimx ħażin, tista 'tkun inadegwata. Il-kamera taħdem sew iżda ma tistax tagħraf ċangatura tas-silġ; Ir-radar huwa solidu, iżda jinjora vettura wieqfa bħala sinjal ghost. M'hemm l-ebda ħsara fil-ħardwer/software hawn; Il-problema tinsab fil-limitu tal-ambitu maħsub tal-funzjoni.

ISO 21448 - SOTIF (Sikurezza Tal-Funzjonalità Intenzjonata) tindirizza eżattament dan il-vojt: il-ġestjoni tar-riskji li jirriżultaw minn xenarji mhux rikonoxxuti, limiti ta' skoperta u sitwazzjonijiet mhux previsti, anki jekk is-sistema taħdem kif iddisinjat. F'ADAS/sewqan awtonomu bbażat fuq l-AI, SOTIF huwa kritiku daqs l-ISO 26262.

Qafas

Iffoka

eżempju

ISO 26262

Riskju minħabba falliment

Is-sensor jinqasam, is-sinjal jisparixxi

ISO 21448 (SOTIF)

Riskju ta' inadegwatezza/nuqqas ta' rikonoxximent

Kamera imħatteb ma jagħrafx ċangatura tas-silġ

ISO/SAE 21434

sigurtà ċibernetika

Attakk tas-sistema, manipulazzjoni tad-dejta

Attenzjoni: mudelli AI huma statistiċi; Ma jistgħux jiggarantixxu li se "jara kull sitwazzjoni b'mod korrett". Is-SOTIF għandu l-għan li jnaqqas ix-xenarji perikolużi mhux magħrufa f'dawn is-sistemi limitati b'mod inerenti u jnaqqas ir-riskju li jifdal għal livell aċċettabbli. "Il-mudell huwa 99.9% preċiż" mhix prova ta 'sigurtà.

ISO/SAE 21434: sigurtà ċibernetika

Vetturi konnessi u definiti b'softwer huma vulnerabbli għal attakki ċibernetiċi. Attakkant mill-bogħod jista 'jbiddel il-kmand tal-brejk, jisraq it-telemetrija, jew iqarraq bil-mudell ta' skoperta (attakk avversarju: li l-mudell jagħrafha ħażin billi jpoġġi stiker żgħir fuq pjanċa). ISO/SAE 21434 huwa l-qafas tal-inġinerija għaċ-ċibersigurtà tal-vetturi. Fil-kuntest tal-intelliġenza artifiċjali, jispikkaw żewġ riskji: tqarraq bil-mudell (avvelenament) u avvelenament tad-dejta tat-taħriġ (avvelenament tad-dejta). Sistemi AI kritiċi għas-sigurtà għandhom jiġu ttestjati kontra dawn l-attakki.

Privatezza u data personali

Il-vettura moderna hija "ċentru tad-dejta fuq ir-roti": post, imġieba tas-sewqan, awdjo, anke kamera tal-kabina. Ħafna minn din hija data personali u hija koperta minn KVKK (Türkiye) u GDPR (Ewropa). VIN (numru tax-chassis) jista 'jidentifika vettura u indirettament is-sid tagħha. Prinċipji bażiċi:

Minimizzazzjoni tad-dejta: Iġbor biss dak li hu meħtieġ.
Limitazzjoni tal-iskop: Tużax id-dejta għal skopijiet oħra għajr l-iskop li għalih tkun inġabret.
Anonimizzazzjoni/psewdonimizzazzjoni: Neħħi jew ikkodifika informazzjoni ta' identifikazzjoni personali.
Kunsens espliċitu u trasparenza: Is-sewwieq irid ikun jaf x'qed jinġabar.
Ħażna u trasferiment sigur.

Attenzjoni: Li jintbagħat VIN mhux ipproċessat, storja tal-post, jew imġieba tas-sewqan lil għodda tal-AI tas-sħab pubbliku jista' jkun kemm ksur tal-privatezza kif ukoll riskju kuntrattwali. Meta taħdem ma 'din id-dejta, anonimizzaha u uża ambjent istituzzjonali protett mid-dejta.

Etika u responsabbiltà tal-inġinier

L-intelliġenza artifiċjali ġġib magħha xi riskji etiċi:

Preġudizzju: Jekk id-dejta tat-taħriġ tippredomina ċerti kundizzjonijiet (eż. bi nhar, ġilda ħafifa, ċerti toroq reġjonali), il-mudell jista’ jaħdem ħażin f’kundizzjonijiet sottorappreżentati (bil-lejl, kundizzjonijiet differenti). Din hija vulnerabbiltà.
Kunfidenza żejda (preġudizzju tal-awtomazzjoni): In-nies jafdaw bl-addoċċ l-awtomazzjoni u jegħlbu l-ġudizzju tagħhom stess. Jekk l-inġinier tat-test jieqaf milli jħares lejn id-dejta mhux ipproċessata sempliċement għax l-AI tgħid "għaddi", din hija tendenza perikoluża.
Telf tar-responsabbiltà: "Il-mudell iddeċieda" mhix difiża. Dejjem għandu jkun hemm persuna li tiffirma wara d-deċiżjoni.

Mini studji ta' każijiet

Każ 1 - Limitu SOTIF. Sistema awtomatika tal-ibbrejkjar ta' emerġenza tgħaddi mit-testijiet kollha tal-laboratorju, mingħajr ħsarat. Fl-għalqa, fix-xemx baxxa, trakk abjad jiżbalja l-karru tiegħu mas-sema u jbbrejkja tard. Din mhix ħsara, iżda vulnerabbiltà tas-SOTIF: is-sistema hija intatta iżda x-xenarju huwa barra mil-limitu ta 'skoperta. It-tim iżid dan ix-xenarju mal-librerija tat-test u jsaħħaħ il-fużjoni tar-radar. Konklużjoni: "L-ebda falliment" mhix prova ta 'sikurezza; L-insuffiċjenza hija wkoll riskju.

Każ 2 - Data preġudikata. Mudell ta' skoperta ta' pedonali kien imħarreġ prinċipalment b'dejta ta' bi nhar; L-irtirar bil-lejl huwa ferm aktar baxx. It-tim jibbilanċja u jħarreġ mill-ġdid id-dejta tal-lejl u tad-dawl baxx u jirrapporta xenarji tal-lejl separatament. Konklużjoni: Data żbilanċjata toħloq vulnerabbiltà fatali f'ċerti ċirkostanzi.

Każ 3 - Prevenzjoni tal-ksur tal-privatezza. Analista wasal biex iwaħħal id-dejta tal-flotta f'għodda pubblika tal-AI meta jinnota li d-dejta fiha postijiet VIN u GPS mhux maħduma. Jaħdem f'ambjent korporattiv billi anonimizza d-dejta (vehicle_01..arac_50 minflok VIN, kodiċi tar-reġjun minflok il-post). Riżultat: Mument ta' attenzjoni evita ksur serju tal-KVKK.

mudelli fil-pront

Mudell 1 - Valutazzjoni preliminari QABEL/riskju (abbozz):

Rwol: Inti konsulent tas-sigurtà funzjonali. Kompitu: Jipprepara abbozz biex jgħin l-analiżi tal-periklu u tar-riskju għal funzjoni. Kuntest: Funzjoni: ibbrejkjar awtomatiku ta 'emerġenza; urban u intercity.Constraint: assenjazzjoni eżatta tal-ASIL; Agħti lista ta' mistoqsijiet u punti ta' attenzjoni dwar id-dimensjonijiet ta' severità/espożizzjoni/kontrollabbiltà; indika li l-assenjazzjoni finali hija tal-inġinier tas-sigurtà awtorizzat.Output: Daqs | mistoqsija ta' evalwazzjoni | tabella ta 'nota ta' attenzjoni.

Mudell 2 - Skanjar tax-xenarju SOTIF:

Rwol: Inti espert tas-SOTIF. Kompitu: Elenka xenarji fejn funzjoni ta' skoperta tista' tkun 'sistema intatta iżda inadegwata'. Kuntest: Kamera + radar; xemx baxxa, borra, ħruġ mill-mina, oġġetti mhux tas-soltu.Output: Xenarju | għaliex inadegwatezza | rakkomandazzjoni għat-tnaqqis.

Mudell 3 - Kontroll tal-privatezza:

Rwol: Inti konsulent dwar il-protezzjoni tad-dejta (KVKK/GDPR). Kompitu: Wettaq verifika tal-privatezza qabel taqsam sett tad-dejta. Kuntest: Telemetrija tal-flotta; Il-kolonni fihom VIN, GPS, punteġġ tas-sewqan. Limitazzjoni: Liema oqsma huma data personali, kif għandhom ikunu anonimizzati, x'għandi ma naqsam xejn; sort.Output: Qasam | riskju | chart tat-tranżazzjoni rakkomandat.

Mudell 4 - Kontroll tal-preġudizzju:

Rwol: Inti awditur tas-sikurezza u l-ġustizzja tal-ML. Kompitu: Għidli kif infittex riskju ta' preġudizzju f'mudell ta' skoperta. Kuntest: Sejbien ta' persuni mexjin; ġurnata/belt peżata tad-dejta tat-taħriġ.Output: Kundizzjoni biex tiċċekkja | kejl | sinjal tar-riskju.

Pront dgħajjef / Pront qawwi

Pront dgħajjef:

Din is-sistema tal-ibbrejkjar awtonoma hija sigura, ikkonferma.

Li tipprova tikseb l-approvazzjoni tas-sigurtà tal-AI hija perikoluża; L-approvazzjoni tappartjeni lill-inġinier awtorizzat.

Pront qawwi:

Rwol: Int konsulent tas-sigurtà funzjonali u tas-SOTIF. Kompitu: Elenka liema mistoqsijiet għandi nagħmel u x'evidenza għandi niġbor fil-valutazzjoni tas-sikurezza tal-funzjoni tiegħi ta' bbrejkjar awtomatiku. Kuntest: skoperta bbażata fuq l-AI; kamera+radar; ASIL jista' jkun għoli.Restrizzjoni: 'Approva' is-sistema; Ipprovdi listi separati ta' mistoqsijiet u evidenza f'termini ta' ISO 26262 (difett) u SOTIF (defiċjenza); Enfasizza li l-approvazzjoni finali hija tal-inġinier tas-sigurtà awtorizzat. Riżultat: Qafas | mistoqsija | tabella tal-evidenza meħtieġa.

Żbalji komuni

Tħawwad "l-ebda malfunzjoni" ma '"safe". In-nuqqas ta 'SOTIF jista' joqtol mingħajr ma jaħdem ħażin.
Ikseb l-approvazzjoni tas-sigurtà tal-AI. L-approvazzjoni u r-responsabbiltà huma tal-inġinier awtorizzat.
Żbaljat l-eżattezza tal-mudell bħala prova ta 'sigurtà. Preċiżjoni ta' 99.9% ma tindikax li r-riskju li fadal ġie ġestit.
Mhux tipproteġi d-dejta personali. VIN/lokazzjoni/imġieba tas-sewqan hija fl-ambitu tal-KVKK/GDPR.
Injora l-preġudizzju u l-kunfidenza żejda. Dejta żbilanċjata u fiduċja blind fl-awtomazzjoni huma vulnerabbiltajiet.

Fil-qosor

ISO 26262 jimmaniġġja r-riskju minħabba falliment (bl-ASIL), filwaqt li ISO 21448/SOTIF jimmaniġġja r-riskju ta 'falliment mingħajr falliment; It-tnejn huma kritiċi fl-iskoperta tal-AI.
ISO/SAE 21434 ċibersigurtà; attakki avversarji u ta' avvelenament tad-dejta huma theddid speċifiku għall-AI.
Il-minimizzazzjoni tad-dejta, il-limitazzjoni tal-iskop u l-anonimizzazzjoni huma obbligatorji fl-ambitu tal-KVKK/GDPR; VIN/lokazzjoni hija data personali.
Il-preġudizzju, il-kunfidenza żejda u t-telf tar-responsabbiltà huma r-riskji etiċi ewlenin.
L-output AI mhuwiex sostitut għall-approvazzjoni ta 'inġinier kwalifikat; Id-deċiżjoni kritika għas-sigurtà u l-firma dejjem jappartjenu lill-persuna.

Kompitu ta' applikazzjoni

Agħżel funzjoni relatata mas-sikurezza (eż. iż-żamma tal-karreġġjata). (1) Iddiskuti għaliex il-livell ASIL ta 'din il-funzjoni jista' jkun għoli/baxx tul id-dimensjonijiet tas-severità/espożizzjoni/kontrollabbiltà. (2) Iġġenera 5 xenarji "sistema solida iżda inadegwata" b'Mudell 2. (3) Awditjar tal-kunfidenzjalità sett ta' dejta rilevanti b'Mudell 3. (4) Spjega għaliex tgħid "Il-mudell ikkonfermat" mhix difiża.

lista ta' kontroll

[ ] Evalwajt id-dimensjonijiet ATTWALI tal-funzjoni (ħallejt l-inkarigu eżatt lill-awtorità).
[ ] Għamilt id-distinzjoni bejn ISO 26262 (malfunzjoni) u SOTIF (insuffiċjenza).
[ ] Jien qist ir-riskju tas-sigurtà ċibernetika (avvelenament/avvelenament).
[ ] I anonimizzajt u mminimizzajt id-dejta personali.
[ ] Iċċekkjajt għal riskji ta' preġudizzju u kunfidenza żejda.
[ ] Ikkonfermajt li l-approvazzjoni tas-sigurtà hija tal-inġinier kwalifikat.