Vitengo
1. Utangulizi wa Akili Bandia na Nidhamu ya Uthibitishaji katika Uhandisi wa Magari 2. Usaidizi wa Usanifu wa Gari na Uigaji: CAE, CFD na FEA 3. ADAS na Uendeshaji Unaojiendesha: Misingi ya Kuhisi 4. Udhibiti wa Ubora wa Mstari wa Uzalishaji: Utambuzi wa Kasoro ya Visual 5. Matengenezo ya Utabiri na Telemetry ya Gari 6. Uchambuzi wa Data ya Mtihani na Uthibitishaji 7. Uteuzi wa Nyenzo na Uzani mwepesi 8. Msururu wa Ugavi, Uchanganuzi wa Mahitaji na Mali 9. Uchambuzi wa Data ya Magari na Python: Mwisho-hadi-Mwisho 10. Usalama wa Kitendaji, SOTIF, Maadili na Faragha 11. Ujumuishaji wa Mwisho hadi Mwisho, MLOps na Wajibu wa Mhandisi
Kitengo 10 / 11

Usalama wa Kitendaji, SOTIF, Maadili na Faragha

Faida:

  • Uwezo wa kuelezea usalama wa utendaji wa ISO 26262 na mifumo ya ISO 21448 (SOTIF) na athari zake kwenye mifumo iliyo na akili bandia.
  • Uwezo wa kudhibiti faragha ya data, data ya dereva, usalama wa mtandao (ISO/SAE 21434) na hatari za maadili katika muktadha wa gari.
  • Uwezo wa kudumisha uwajibikaji wa kibinadamu kwa maamuzi muhimu ya usalama kwa kuelewa kuwa pato la AI sio mbadala wa idhini ya mhandisi anayefaa.

Uko katika kitengo muhimu zaidi cha moduli hii. Kufikia sasa tumeona AI kama kiongeza kasi kutoka kwa muundo hadi utengenezaji, kutoka kwa majaribio hadi mnyororo wa usambazaji. Lakini swali la maamuzi katika magari ni: je, mfumo huu utadhuru mtu yeyote na ni nani anayehusika? Kitengo hiki kinashughulikia kwa lugha rahisi mifumo ya kutumia AI kwa kuwajibika katika tasnia ambayo ni muhimu kwa usalama—usalama kiutendaji, SOTIF, usalama wa mtandao, faragha na maadili. Kanuni ya msingi inabaki kuwa thabiti: Pato la AI halichukui nafasi ya idhini ya mhandisi mwenye uwezo; Uamuzi na wajibu muhimu wa usalama ni wa binadamu.

ISO 26262: Usalama wa kazi

ISO 26262 ni kiwango cha usalama kinachofanya kazi kwa mifumo ya umeme/kielektroniki ya magari ya barabarani. Usalama wa kazi; Inahusika na kuhakikisha kwamba wakati mfumo unashindwa (sensor inavunjika, programu inashindwa) haiongoi hali ya hatari.

Kiini cha kiwango hiki ni ASIL (Ngazi ya Uadilifu ya Usalama wa Magari). Hatari inatathminiwa katika vipimo vitatu:

  • Ukali: Ingekuwa mbaya kiasi gani ikiwa itatokea? (jeraha ndogo au kifo)
  • Mfiduo: Hii hutokea mara ngapi?
  • Udhibiti: Dereva anaweza kudhibiti hali hiyo kwa kiasi gani?

Hizi tatu kwa pamoja husababisha kiwango kutoka ASIL A (chini zaidi) hadi ASIL D (juu zaidi, k.m. breki, usukani). Kadiri kiwango kinavyoongezeka, mahitaji ya ukuzaji, majaribio na uhifadhi wa nyaraka huwa magumu zaidi.

KUU

mfumo wa sampuli

Uzito wa mahitaji

A.

Uharibifu wa taa za ndani

chini

B.

mwanga wa mkia

kati

C.

Baadhi ya vitendaji vya ADAS

juu

D.

Breki, usukani, airbag

ya juu zaidi

Kidokezo: Kujua kiwango KUU cha chaguo za kukokotoa hukuambia ni umakini ngapi unatumia AI katika kitendakazi hicho unahitaji. HAKUNA uamuzi kulingana na matokeo ya AI katika chaguo za kukokotoa unaweza kukubaliwa bila uthibitishaji huru wa usalama.

ISO 21448 (SOTIF): usalama wa utendaji uliokusudiwa

Usalama wa utendaji wa kawaida (ISO 26262) unazingatia swali "nini kinatokea ikiwa mfumo utashindwa?" Lakini kuna tatizo jipya katika mifumo ya ugunduzi wa akili bandia: hata kama mfumo hautawahi kufanya kazi vibaya, inaweza kuwa haitoshi. Kamera inafanya kazi vizuri lakini haiwezi kutambua slab ya theluji; Rada ni thabiti, lakini inapuuza gari lisilosimama kama ishara ya roho. Hakuna kushindwa kwa maunzi/programu hapa; Tatizo liko kwenye kikomo cha upeo uliokusudiwa wa chaguo la kukokotoa.

ISO 21448 - SOTIF (Usalama wa Utendaji Unaotarajiwa) hushughulikia hasa pengo hili: kudhibiti hatari zinazotokana na matukio yasiyotambulika, vikomo vya ugunduzi na hali zisizotarajiwa, hata kama mfumo unafanya kazi jinsi ulivyoundwa. Katika ADAS/uendeshaji wa kujitegemea unaotegemea AI, SOTIF ni muhimu kama ISO 26262.

Fremu

Kuzingatia

mfano

ISO 26262

Hatari kutokana na kushindwa

Sensorer huvunja, ishara hupotea

ISO 21448 (SOTIF)

Hatari ya kutotosheleza/kutotambuliwa

Kamera mbovu haitambui ubao wa theluji

ISO/SAE 21434

usalama wa mtandao

Mashambulizi ya mfumo, udanganyifu wa data

Tahadhari: mifano ya AI ni ya takwimu; Hawawezi kuthibitisha kwamba "wataona kila hali kwa usahihi". SOTIF inalenga kupunguza matukio hatari yasiyojulikana katika mifumo hii yenye ukomo wa kiasili na kupunguza hatari iliyosalia hadi kiwango kinachokubalika. "Mfano ni 99.9% sahihi" sio uthibitisho wa usalama.

ISO/SAE 21434: usalama wa mtandao

Magari yaliyounganishwa na yaliyoainishwa na programu yako katika hatari ya kushambuliwa na mtandao. Mshambulizi wa mbali anaweza kubadilisha amri ya breki, kuiba telemetry, au kudanganya muundo wa ugunduzi (shambulio la adui: kufanya muundo usiitambue vibaya kwa kuweka kibandiko kidogo kwenye sahani). ISO/SAE 21434 ni mfumo wa uhandisi wa usalama wa mtandao wa gari. Katika muktadha wa akili ya bandia, hatari mbili zinajitokeza: kudanganya mfano (adui) na sumu ya data ya mafunzo (sumu ya data). Mifumo ya AI muhimu kwa usalama inapaswa kujaribiwa dhidi ya mashambulizi haya.

Faragha na data ya kibinafsi

Gari la kisasa ni "kituo cha data kwenye magurudumu": eneo, tabia ya kuendesha gari, sauti, hata kamera ya cabin. Zaidi ya hii ni data ya kibinafsi na inafunikwa na KVKK (Türkiye) na GDPR (Ulaya). VIN (nambari ya chasi) inaweza kutambua gari na kwa njia isiyo ya moja kwa moja mmiliki wake. Kanuni za msingi:

  • Kupunguza data: Kusanya tu kile kinachohitajika.
  • Ukomo wa Madhumuni: Usitumie data kwa madhumuni mengine isipokuwa madhumuni ambayo ilikusanywa.
  • Kuficha utambulisho/kuficha utambulisho: Ondoa au usimbaji maelezo ya kumtambulisha mtu binafsi.
  • Idhini ya wazi na uwazi: Dereva lazima ajue kinachokusanywa.
  • Hifadhi salama na uhamishe.
Tahadhari: Kutuma VIN ghafi, historia ya eneo, au tabia ya kuendesha gari kwa zana ya AI ya wingu ya umma inaweza kuwa ukiukaji wa faragha na hatari ya kimkataba. Unapofanya kazi na data hii, isijulishe na utumie mazingira ya kitaasisi, yaliyolindwa na data.

Maadili na wajibu wa mhandisi

Akili Bandia huleta hatari fulani za kimaadili:

  • Upendeleo: Ikiwa data ya mafunzo inatawala hali fulani (k.m. mchana, ngozi nyepesi, barabara fulani za eneo), mtindo unaweza kufanya kazi vibaya katika hali ambazo hazijawakilishwa sana (usiku, hali tofauti). Huu ni udhaifu.
  • Kujiamini kupita kiasi (upendeleo wa kiotomatiki): Watu huamini otomatiki kwa upofu na hupuuza uamuzi wao wenyewe. Ikiwa mhandisi wa majaribio ataacha kuangalia data mbichi kwa sababu tu AI inasema "pita," huu ni mtindo hatari.
  • Kupoteza wajibu: "Mfano uliamua" sio utetezi. Daima kuwe na mtu anayetia saini nyuma ya uamuzi.

Uchunguzi mdogo wa kesi

Kesi ya 1 - kikomo cha SOTIF. Mfumo wa kiotomatiki wa kusimama kwa dharura hupitisha vipimo vyote vya maabara, bila hitilafu. Uwanjani, kwenye jua la chini, lori jeupe hukosa trela yake kuelekea angani na kuchelewa kushika breki. Hili si hitilafu, lakini ni hatari ya SOTIF: mfumo ni mzima lakini hali iko nje ya kikomo cha ugunduzi. Timu huongeza hali hii kwenye maktaba ya majaribio na kuimarisha muunganisho wa rada. Hitimisho: "Hakuna kushindwa" sio uthibitisho wa usalama; Ukosefu wa kutosha pia ni hatari.

Kesi ya 2 - Data yenye upendeleo. Mtindo wa kutambua watembea kwa miguu ulifunzwa hasa na data ya mchana; Kukumbuka usiku ni chini sana. Timu husawazisha na kurejesha data ya usiku na yenye mwanga mdogo na kuripoti matukio ya usiku kando. Hitimisho: Data isiyosawazishwa huleta hatari kubwa katika hali fulani.

Kesi ya 3 - Uzuiaji wa uvunjaji wa faragha. Mchanganuzi anakaribia kubandika data ya meli kwenye zana ya umma ya AI anapogundua kuwa data hiyo ina maeneo ghafi ya VIN na GPS. Inafanya kazi katika mazingira ya shirika kwa kutotambulisha data (vehicle_01..arac_50 badala ya VIN, msimbo wa eneo badala ya eneo). Matokeo: Muda wa umakini ulizuia ukiukaji mkubwa wa KVKK.

violezo vya haraka

Kiolezo cha 1 - tathmini ya awali/ya awali ya hatari (rasimu):

Jukumu: Wewe ni mshauri wa usalama wa kazi. Kazi: Hutayarisha rasimu ya kusaidia uchanganuzi wa hatari na hatari kwa utendaji. Muktadha: Kazi: breki ya dharura otomatiki; mijini na mwingiliano.Kizuizi: mgawo kamili wa ASIL; Toa orodha ya maswali na vidokezo vya kuzingatia juu ya vipimo vya ukali / mfiduo / udhibiti; zinaonyesha kuwa kazi ya mwisho ni ya mhandisi wa usalama aliyeidhinishwa.Pato: Ukubwa | swali la tathmini | meza ya tahadhari.

Kiolezo cha 2 - SOTIF scenario scan:

Jukumu: Wewe ni mtaalam wa SOTIF. Kazi: Orodhesha hali ambapo kipengele cha utambuzi kinaweza kuwa 'mfumo mzima lakini hautoshi'. Muktadha: Kamera + rada; jua la chini, theluji, njia ya kutoka kwenye handaki, vitu visivyo vya kawaida.Pato: Mfano | kwa nini upungufu | pendekezo la kupunguza.

Kiolezo cha 3 - Udhibiti wa faragha:

Jukumu: Wewe ni mshauri wa ulinzi wa data (KVKK/GDPR). Kazi: Fanya ukaguzi wa faragha kabla ya kushiriki seti ya data. Muktadha: Telemetry ya meli; Safu zina VIN, GPS, alama za kuendesha. Kizuizi: Ni nyanja gani ambazo ni data ya kibinafsi, zinapaswaje kujulikana, ni nini sipaswi kushiriki kabisa; sort.Pato: Shamba | hatari | chati ya muamala iliyopendekezwa.

Kiolezo cha 4 - Cheki cha Upendeleo:

Jukumu: Wewe ni mkaguzi wa usalama na haki wa ML. Kazi: Niambie jinsi ya kutafuta hatari ya upendeleo katika muundo wa utambuzi. Muktadha: Utambuzi wa watembea kwa miguu; data ya mafunzo iliyopimwa siku/mji.Pato: Hali ya kuangalia | kipimo | ishara ya hatari.

Agizo dhaifu / Ukumbusho thabiti

Agizo dhaifu:

Je, mfumo huu wa kusimama huru ni salama, thibitisha.

Kujaribu kupata kibali cha usalama cha AI ni hatari; Idhini ni ya mhandisi aliyeidhinishwa.

Agizo lenye nguvu:

Jukumu: Wewe ni usalama wa kazi na mshauri wa SOTIF. Kazi: Orodhesha maswali ninayopaswa kuuliza na ni ushahidi gani ninaopaswa kukusanya katika tathmini ya usalama ya utendaji wangu wa breki otomatiki. Muktadha: Ugunduzi wa msingi wa AI; kamera+rada; ASIL inaweza kuwa ya juu.Kizuizi: 'Idhinisha' mfumo; Kutoa orodha tofauti za maswali na ushahidi kwa mujibu wa ISO 26262 (kasoro) na SOTIF (upungufu); Sisitiza kwamba kibali cha mwisho kinatokana na mhandisi wa usalama aliyeidhinishwa.Output: Framework | swali | meza ya ushahidi inayohitajika.

Makosa ya kawaida

  • Kuchanganya "hakuna malfunction" na "salama". Upungufu wa SOTIF unaweza kuua bila kufanya kazi vibaya.
  • Kupata kibali cha usalama cha AI. Idhini na wajibu ni wa mhandisi aliyeidhinishwa.
  • Kukosea kwa usahihi wa mfano kama uthibitisho wa usalama. Usahihi wa 99.9% hauonyeshi kuwa hatari iliyobaki imedhibitiwa.
  • Sio kulinda data ya kibinafsi. Tabia ya VIN/eneo/uendeshaji iko ndani ya mawanda ya KVKK/GDPR.
  • Kupuuza upendeleo na kujiamini kupita kiasi. Data isiyosawazisha na uaminifu wa upofu katika otomatiki ni udhaifu.

Kwa muhtasari

  • ISO 26262 inasimamia hatari kutokana na kushindwa (kwa ASIL), wakati ISO 21448/SOTIF inasimamia hatari ya kushindwa bila kushindwa; Zote mbili ni muhimu katika utambuzi wa AI.
  • Usalama wa mtandao wa ISO/SAE 21434; mashambulizi ya adui na sumu ya data ni vitisho maalum vya AI.
  • Kupunguza data, ukomo wa madhumuni na kutokutambulisha ni lazima ndani ya mawanda ya KVKK/GDPR; VIN/mahali ni data ya kibinafsi.
  • Ubaguzi, kujiamini kupita kiasi na kupoteza wajibu ni hatari kuu za kimaadili.
  • Pato la AI sio mbadala wa idhini ya mhandisi aliyehitimu; Uamuzi muhimu wa usalama na sahihi kila wakati ni mali ya mtu.

Jukumu la maombi

Chagua chaguo la kukokotoa linalohusiana na usalama (k.m. kuweka njia). (1) Jadili kwa nini kiwango cha ASIL cha chaguo za kukokotoa kinaweza kuwa cha juu/chini kulingana na vipimo vya ukali/mfichuo/udhibiti. (2) Tengeneza hali 5 za "mfumo thabiti lakini hazitoshi" ukitumia Kiolezo cha 2. (3) Kagua usiri mkusanyiko wa data unaofaa kwa Kiolezo cha 3. (4) Eleza kwa nini kusema "Mtindo umethibitishwa" sio utetezi.

orodha ya ukaguzi

  • [ ] Nilitathmini vipimo HALISI vya chaguo za kukokotoa (niliacha kazi kamili kwa mamlaka).
  • [ ] Nilitofautisha kati ya ISO 26262 (hitilafu) na SOTIF (kutotosheleza).
  • [ ] Nimezingatia hatari ya usalama wa mtandao (adui/sumu).
  • [ ] Nilificha jina na kupunguza data ya kibinafsi.
  • [ ] Niliangalia hatari za upendeleo na kujiamini kupita kiasi.
  • [ ] Nimethibitisha kuwa kibali cha usalama kiko kwa mhandisi aliyehitimu.
Iliyotangulia Inayofuata