Girdeji:
- ISO 26262 funksional howpsuzlygy we ISO 21448 (SOTIF) çarçuwalaryny we emeli intellekti öz içine alýan ulgamlara täsirini düşündirmek ukyby.
- Awtoulag kontekstinde maglumatlaryň gizlinligini, sürüjiniň maglumatlary, kiberhowpsuzlygy (ISO / SAE 21434) we etiki töwekgelçilikleri dolandyrmak ukyby
- AI önüminiň başarnykly inerener tassyklamasynyň ornuny tutmaýandygyna düşünmek bilen howpsuzlyk-möhüm kararlar üçin adam jogapkärçiligini saklamak ukyby
Bu modulyň iň möhüm bölüminde. AI-ni şu wagta çenli dizaýndan önümçilige, synagdan başlap üpjünçilik zynjyryna çenli tizlendiriji hökmünde gördük. Automotöne awtoulagda aýgytly sorag: bu ulgam hiç kime zyýan berermi we kim jogapkär? Bu bölüm, aç-açan dilde AI-ni howpsuzlyk üçin möhüm pudakda - funksional howpsuzlyk, SOTIF, kiberhowpsuzlyk, şahsy durmuşyň eldegrilmesizligi we ahlak kadalarynda jogapkärçilikli ulanmak üçin çarçuwalary öz içine alýar. Esasy ýörelge hemişelik bolup galýar: AI önümi hiç haçan başarnykly inereneriň tassyklamasyny çalyşmaýar; Howpsuzlyk taýdan möhüm karar we jogapkärçilik adama degişlidir.
ISO 26262: funksional howpsuzlyk
ISO 26262 ýol ulaglarynyň elektrik / elektron ulgamlary üçin işleýän howpsuzlyk standartydyr. Funksional howpsuzlyk; Ulgam şowsuz bolanda (datçik döwülse, programma üpjünçiligi işlemese) howply ýagdaýa getirmezligi bilen baglanyşykly.
Bu standartyň özeni ASIL (Awtoulag howpsuzlygy bütewiligi derejesi). Howp üç ölçegde bahalandyrylýar:
- Agyrlyk: Eger şeýle bolan bolsa nähili erbet bolardy? (ownuk şikes ýa-da ölüm)
- Ekspozisiýa: Bu näçe gezek ýüze çykýar?
- Dolandyryş: Sürüji ýagdaýy näçe dolandyryp biler?
Bu üç utgaşdyrylan netije ASIL A (iň pes) -den ASIL D (iň ýokary, meselem, tormozlamak, rul) derejesine ýetýär. Derejäniň ýokarlanmagy bilen ösüş, synag we resminamalaryň talaplary has kynlaşýar.
Esasy
nusga ulgamy
Talap intensiwligi
A.
Içerki yşyklandyryş näsazlygy
pes
B.
guýruk çyrasy
orta
C.
Käbir ADAS funksiýalary
beýik
D.
Tormoz, rul, howa ýassygy
iň ýokary
Maslahat: Funksiýanyň esasy derejesini bilmek, bu funksiýada AI-ni ulanmagyň näçeräk ünsi talap edýändigini görkezýär. Funksiýadaky AI çykyşyna esaslanýan hiç bir karar garaşsyz howpsuzlyk barlagy bolmazdan kabul edilip bilinmez.
ISO 21448 (SOTIF): niýetlenen funksiýanyň howpsuzlygy
Klassiki funksional howpsuzlyk (ISO 26262) "ulgam şowsuz bolsa näme bolýar?" Diýen soraga ünsi jemleýär. Emma emeli intellekti kesgitlemek ulgamlarynda täze bir mesele bar: ulgam hiç haçan näsaz işlemese-de, ýeterlik bolmazlygy mümkin. Kamera gowy işleýär, ýöne garly plitany tanap bilmeýär; Radar gaty, ýöne arwah signaly hökmünde stasionar ulagy äsgermezlik edýär. Bu ýerde enjam / programma üpjünçiligi näsazlygy ýok; Mesele funksiýanyň göz öňünde tutulan çäginiň çäginde.
ISO 21448 - SOTIF (Göz öňünde tutulan funksiýanyň howpsuzlygy) hut şu boşlugy çözýär: tanalmaýan ssenariýalardan, ýüze çykaryş çäklerinden we garaşylmadyk ýagdaýlardan döreýän töwekgelçilikleri dolandyrmak, hatda ulgam dizaýn edilen ýaly işlese-de. AI esasly ADAS / awtonom sürüjilikde SOTIF ISO 26262 ýaly möhümdir.
Çarçuwa
Üns beriň
mysal
ISO 26262
Şowsuzlyk sebäpli töwekgelçilik
Sensor döwülýär, signal ýitýär
ISO 21448 (SOTIF)
Ineterliksizlik / ykrar edilmezlik töwekgelçiligi
Berk kamera garly plitany tanamaýar
ISO / SAE 21434
kiberhowpsuzlyk
Ulgam hüjümi, maglumatlary manipulirlemek
Üns beriň: AI modelleri statistik; "Her ýagdaýy dogry görjekdiklerine" kepil geçip bilmeýärler. SOTIF, bu çäklendirilen ulgamlarda näbelli howply ssenariýalary azaltmagy we galan töwekgelçiligi kabul ederlikli derejä çenli azaltmagy maksat edinýär. “Model 99,9% takyk” howpsuzlygyň subutnamasy däl.
ISO / SAE 21434: kiberhowpsuzlyk
Birikdirilen we programma üpjünçiligi bilen kesgitlenen ulaglar kiber hüjüme sezewar bolup biler. Uzakdan hüjüm ediji tormoz buýrugyny üýtgedip, telemetriýany ogurlap ýa-da ýüze çykaryş modelini aldap biler (garşydaş hüjüm: bir tabakda kiçijik stiker goýup, modeli nädogry tanamak). ISO / SAE 21434 ulagyň kiberhowpsuzlygy üçin in engineeringenerçilik çarçuwasydyr. Emeli intellektiň çäginde iki töwekgelçilik tapawutlanýar: modeli aldamak (garşydaş) we okuw maglumatlaryny zäherlemek (maglumatlary zäherlemek). Howpsuzlyk taýdan möhüm AI ulgamlary bu hüjümlere garşy synagdan geçirilmelidir.
Gizlinlik we şahsy maglumatlar
Döwrebap ulag “tigirlerdäki maglumat merkezi”: ýerleşýän ýeri, sürüjilik häsiýeti, ses, hatda kabinet kamerasy. Bularyň köpüsi şahsy maglumatlar bolup, KVKK (Türkiye) we GDPR (Europeewropa) tarapyndan gurulýar. VIN (şassi belgisi) ulagy we gytaklaýyn eýesini kesgitläp biler. Esasy ýörelgeler:
- Maglumatlary azaltmak: Diňe zerur zatlary ýygnaň.
- Maksady çäklendirmek: Maglumatlary ýygnan maksadyndan başga maksatlar üçin ulanmaň.
- Anonimleşdirmek / lakamlaşdyrmak: Şahsy kesgitleýän maglumatlary aýyryň ýa-da kodlaň.
- Aç-açan razylyk we aç-açanlyk: Sürüji nämäniň ýygnalýandygyny bilmelidir.
- Howpsuz saklamak we geçirmek.
Üns beriň: Çig VIN, ýerleşiş taryhy ýa-da köpçülikleýin bulut AI guralyna sürüjilik häsiýetini ibermek şahsy durmuşyň eldegrilmesizligi we şertnama töwekgelçiligi bolup biler. Bu maglumatlar bilen işleýän wagtyňyz, anonim ediň we institusional, maglumat bilen goralýan gurşawy ulanyň.
Etika we inerener jogapkärçiligi
Emeli intellekt özi bilen käbir etiki töwekgelçilikleri getirýär:
- Ikitaraplaýyn: Okuw maglumatlary belli bir şertleri (meselem, gündiz, ýeňil deri, käbir sebit ýollary) agdyklyk edýän bolsa, model görkezilmedik şertlerde (gije, dürli şertlerde) erbet çykyş edip biler. Bu gowşaklyk.
- Özüňe aşa ynam (awtomatlaşdyryş ikitaraplaýynlygy): Adamlar awtomatizasiýa kör ynanýarlar we öz pikirlerini ýok edýärler. Synag inereneri, AI “geç” diýýändigi sebäpli çig mallara seretmegi bes etse, bu howply tendensiýa.
- Jogapkärçiligiň ýitirilmegi: "Model karar" gorag däl. Kararyň arkasynda elmydama gol çekýän adam bolmaly.
Mini mysallar
1-nji hadysa - SOTIF çäk. Awtomatiki gyssagly tormoz ulgamy, näsazlyklar bolmazdan, ähli laboratoriýa synaglaryndan geçýär. Meýdanda, pes güneşde, ak ýük maşyny tirkegini asmana goýberýär we giç tormozlaýar. Bu näsazlyk däl, SOTIF gowşaklygy: ulgam üýtgewsiz, ýöne ssenariýa kesgitlemek çäginden daşda. Topar bu ssenariýany synag kitaphanasyna goşýar we radar birleşmesini güýçlendirýär. Netije: "Şowsuzlyk" howpsuzlygyň subutnamasy däl; .Etmezçilik hem töwekgelçilikdir.
2-nji waka - Ikitaraplaýyn maglumatlar. Pyýadalary kesgitlemek modeli esasan gündiz maglumatlary bilen taýýarlandy; Gijäni ýatlamak ep-esli pesdir. Topar gijeki we pes ýagtylyk maglumatlary deňleşdirýär we täzeden taýýarlaýar we gijeki ssenariýalary aýratyn habar berýär. Netije: Deňagramsyz maglumatlar käbir ýagdaýlarda ölüm howply gowşaklygy döredýär.
3-nji waka - Şahsy durmuşyň bozulmagynyň öňüni almak. Analitik, maglumatlaryň çig VIN we GPS ýerleriniň bardygyny görüp, flot maglumatlaryny köpçülige açyk AI guralyna goýmakçy. Maglumatlary anonimleşdirmek arkaly korporatiw gurşawda işleýär (VIN ýerine ulag_01..arac_50, ýerleşýän ýerine sebit kody). Netije: Bir pursat üns KVKK çynlakaý bozulmagynyň öňüni aldy.
gyssagly şablonlar
Şablon 1 - PRIOR / töwekgelçiligiň deslapky bahalandyrmasy (taslama):
Rol: Siz funksional howpsuzlyk geňeşçisi. Wezipe: Funksiýa üçin howp we töwekgelçilik derňewi üçin taslama taýýarlaýar. Kontekst: Funksiýa: awtomatiki gyssagly tormoz; şäher we şäherara.Konstrasiýa: ASIL-iň takyk tabşyrygy; Agyrlyk / täsir etmek / dolandyrmak ukybynyň ölçeglerine soraglaryň we üns merkezleriniň sanawyny beriň; gutarnykly tabşyrygyň ygtyýarly howpsuzlyk inerenerine degişlidigini görkeziň. Çykyş: Ölçeg | baha bermek soragy | üns belligi tablisasy.
Şablon 2 - SOTIF ssenariý skaneri:
Rol: Siz SOTIF hünärmeni. Wezipe: ectionüze çykarmak funksiýasynyň “ulgam üýtgemän, ýöne ýeterlik däl” bolup biljek ssenariýalaryny sanaň. Kontekst: Kamera + radar; pes gün, gar, tuneliň çykyşy, üýtgeşik zatlar. Çykyş: Ssenariýa | näme üçin ýeterlik däl | azaltmak maslahaty.
Şablon 3 - Gizlinlik gözegçiligi:
Rol: Siz maglumatlary goramak (KVKK / GDPR) geňeşçisi. Wezipe: Maglumat toplumyny paýlaşmazdan ozal gizlinlik barlagyny geçiriň. Kontekst: flot telemetriýasy; Sütünlerde VIN, GPS, sürüjilik baly bar. Çäklendirme: Haýsy ugurlar şahsy maglumatlar, nädip anonim bolmaly, asla paýlaşmaly däl; sort.Output: meýdan | töwekgelçilik | maslahat berilýän geleşik diagrammasy.
Şablon 4 - Ikitaraplaýyn barlag:
Rol: Siz ML howpsuzlygy we adalatlylyk barlagçysy. Wezipe: ectionüze çykaryş modelinde ikitaraplaýyn töwekgelçiligi nädip gözlemelidigini aýdyň. Kontekst: Pyýadalary kesgitlemek; okuw maglumatlary agramly gün / şäher. Çykyş: Barlamagyň ýagdaýy | ölçemek | töwekgelçilik alamaty.
Gowşak haýyş / Güýçli haýyş
Gowşak haýyş:
Bu awtonom tormoz ulgamy ygtybarlymy, tassyklaň.
AI howpsuzlygyny arassalamaga synanyşmak howply; Tassyklamak ygtyýarly inerenerlere degişlidir.
Güýçli haýyş:
Rol: Siz funksional howpsuzlyk we SOTIF geňeşçisi. Wezipe: Awtomat tormozlaýyş funksiýamyň howpsuzlygyny bahalandyrmakda haýsy soraglary bermelidigimi we haýsy subutnamalary ýygnamalydygymy sanaň. Kontekst: AI esasly kesgitleme; kamera + radar; ASIL ýokary bolup biler .Göçürmek: Ulgamy tassyklamak; ISO 26262 (kemçilik) we SOTIF (ýetmezçilik) nukdaýnazaryndan soraglaryň we subutnamalaryň aýratyn sanawlaryny beriň; Soňky tassyklamanyň ygtyýarly howpsuzlyk inereneriniň bardygyny belläň. Çykyş: Çarçuwalar | sorag | zerur subutnamalar tablisasy.
Adaty ýalňyşlyklar
- "Näsazlyk ýok" "ygtybarly" bilen bulaşdyrmak. SOTIF ýetmezçiligi näsaz işlemezden öldürip biler.
- AI howpsuzlygy arassalamak. Makullamak we jogapkärçilik ygtyýarly inereneriň üstüne düşýär.
- Howpsuzlygyň subutnamasy hökmünde model takyklygy. 99,9% takyklyk, galan töwekgelçiligiň dolandyrylandygyny görkezmeýär.
- Şahsy maglumatlary goramazlyk. VIN / ýerleşiş / sürüjilik häsiýeti KVKK / GDPR-iň çäginde.
- Ikitaraplaýyn we aşa ynamly bolmak. Deňagramsyz maglumatlar we awtomatizasiýa kör ynam, gowşak taraplar.
Gysgaça
- ISO 26262 şowsuzlyk sebäpli töwekgelçiligi dolandyrýar (ASIL bilen), ISO 21448 / SOTIF şowsuzlyk töwekgelçiligini şowsuzlyk bilen dolandyrýar; AI kesgitlemekde ikisi hem möhümdir.
- ISO / SAE 21434 kiberhowpsuzlyk; garşydaş we maglumatlary zäherlemek hüjümleri AI-e howp salýar.
- KVKK / GDPR çäginde maglumatlary minimuma eltmek, maksat çäklendirmek we anonimleşdirmek hökmanydyr; VIN / ýerleşýän ýeri şahsy maglumatlar.
- Sypaýyçylyk, aşa ynam we jogapkärçiligi ýitirmek esasy etiki töwekgelçiliklerdir.
- AI önümi hünärli inereneriň tassyklamagynyň ornuny tutmaýar; Howpsuzlyk kritiki karary we goly hemişe adama degişlidir.
Programma meselesi
Howpsuzlyk bilen baglanyşykly funksiýany saýlaň (meselem, zolak saklamak). (1) Bu funksiýanyň ASIL derejesiniň agyrlyk / täsir etmek / gözegçilik edip bolýan ölçegleri boýunça ýokary / pes bolup biljekdigini ara alyp maslahatlaşyň. 2.
gözegçilik sanawy
- [] Funksiýanyň ACTUAL ölçeglerine baha berdim (takyk tabşyrygy häkimiýete goýdum).
- [] ISO 26262 (näsazlyk) bilen SOTIF (ýetmezçilik) arasynda tapawut goýdum.
- [] Kiberhowpsuzlyk (garşydaş / zäherlenmek) töwekgelçiligini göz öňünde tutdum.
- [] Şahsy maglumatlary anonimleşdirdim we kiçeldipdim.
- [] Ikitaraplaýyn we aşa ynamly bolmak töwekgelçiligini barladym.
- [] Howpsuzlygy arassalamagyň ökde inerener bilen bardygyny tassykladym.