Fitimet:
- Aftësia për të shpjeguar kuadrin e sigurisë funksionale ISO 26262 dhe ISO 21448 (SOTIF) dhe efektet e tyre në sistemet që përmbajnë inteligjencë artificiale
- Aftësia për të menaxhuar privatësinë e të dhënave, të dhënat e shoferit, sigurinë kibernetike (ISO/SAE 21434) dhe rreziqet etike në kontekstin e automobilave
- Aftësia për të mbajtur përgjegjësinë njerëzore për vendimet kritike për sigurinë duke kuptuar se prodhimi i AI nuk është një zëvendësim për miratimin e inxhinierit kompetent
Ju jeni në njësinë më kritike të këtij moduli. Deri më tani ne e kemi parë AI si një përshpejtues nga dizajni në prodhim, nga testimi në zinxhirin e furnizimit. Por pyetja vendimtare në automobil është: a do të dëmtojë ky sistem dikë dhe kush është përgjegjës? Kjo njësi mbulon në gjuhë të thjeshtë kornizat për përdorimin e AI me përgjegjësi në një industri kritike për sigurinë - sigurinë funksionale, SOTIF, sigurinë kibernetike, privatësinë dhe etikën. Parimi kryesor mbetet konstant: prodhimi i AI nuk zëvendëson kurrë miratimin e inxhinierit kompetent; Vendimi dhe përgjegjësia kritike për sigurinë i takon njeriut.
ISO 26262: Siguria funksionale
ISO 26262 është standardi i sigurisë funksionale për sistemet elektrike/elektronike të automjeteve rrugore. Siguria funksionale; Ajo ka të bëjë me sigurimin që kur një sistem dështon (një sensor prishet, një softuer dështon) nuk çon në një situatë të rrezikshme.
Në zemër të këtij standardi është ASIL (Niveli i Integritetit të Sigurisë së Automjeteve). Një rrezik vlerësohet në tre dimensione:
- Ashpërsia: Sa keq do të ishte nëse do të ndodhte? (lëndim i lehtë ose vdekje)
- Ekspozimi: Sa shpesh ndodh kjo?
- Kontrollueshmëria: Sa mund ta kontrollojë shoferi situatën?
Këto tre të kombinuara rezultojnë në një nivel nga ASIL A (më i ulëti) në ASIL D (më i larti, p.sh. frenimi, drejtimi). Me rritjen e nivelit, kërkesat e zhvillimit, testimit dhe dokumentacionit bëhen më të rrepta.
KRYESORE
sistemi i mostrës
Intensiteti i kërkesës
A.
Mosfunksionimi i ndriçimit të brendshëm
të ulëta
B.
drita e pasme
e mesme
C.
Disa funksione ADAS
lartë
D.
Frena, timoni, airbag
më i lartë
Këshillë: Njohja e nivelit KRYESOR të një funksioni ju tregon se sa vëmendje kërkon përdorimi i AI në atë funksion. Asnjë vendim i bazuar në daljen e AI në një funksion nuk mund të pranohet pa verifikim të pavarur sigurie.
ISO 21448 (SOTIF): siguria e funksionit të synuar
Siguria klasike funksionale (ISO 26262) fokusohet në pyetjen "çfarë ndodh nëse sistemi dështon?" Por ka një problem të ri në sistemet e zbulimit të inteligjencës artificiale: edhe nëse sistemi nuk funksionon kurrë, ai mund të jetë i pamjaftueshëm. Kamera funksionon mirë, por nuk mund të njohë një pllakë me borë; Radari është i fortë, por ai injoron një automjet të palëvizshëm si një sinjal fantazmë. Këtu nuk ka asnjë dështim të harduerit/softuerit; Problemi është në kufirin e qëllimit të synuar të funksionit.
ISO 21448 - SOTIF (Siguria e funksionalitetit të synuar) trajton pikërisht këtë boshllëk: menaxhimin e rreziqeve që rrjedhin nga skenarë të panjohur, kufijtë e zbulimit dhe situatat e paparashikuara, edhe nëse sistemi funksionon siç është projektuar. Në drejtimin ADAS/autonome të bazuar në AI, SOTIF është po aq kritik sa ISO 26262.
Kornizë
Fokusimi
shembull
ISO 26262
Rreziku për shkak të dështimit
Sensori prishet, sinjali zhduket
ISO 21448 (SOTIF)
Rreziku i papërshtatshmërisë/mosnjohjes
Kamera e fortë nuk e njeh pllakën me borë
ISO/SAE 21434
sigurinë kibernetike
Sulmi i sistemit, manipulimi i të dhënave
Kujdes: modelet e AI janë statistikore; Ata nuk mund të garantojnë se "do ta shohin saktë çdo situatë". SOTIF synon të kufizojë skenarët e panjohur të rrezikshëm në këto sisteme të kufizuara në thelb dhe të reduktojë rrezikun e mbetur në një nivel të pranueshëm. "Modeli është 99.9% i saktë" nuk është një provë e sigurisë.
ISO/SAE 21434: siguria kibernetike
Automjetet e lidhura dhe të përcaktuara me softuer janë të prekshme ndaj sulmeve kibernetike. Një sulmues në distancë mund të ndryshojë komandën e frenimit, të vjedhë telemetrinë ose të mashtrojë modelin e zbulimit (sulm kundërshtar: duke e bërë modelin ta njohë gabimisht duke vendosur një ngjitëse të vogël në një pjatë). ISO/SAE 21434 është korniza inxhinierike për sigurinë kibernetike të automjeteve. Në kontekstin e inteligjencës artificiale, dallohen dy rreziqe: mashtrimi i modelit (kundërshtar) dhe helmimi i të dhënave të trajnimit (helmimi i të dhënave). Sistemet e inteligjencës artificiale kritike për sigurinë duhet të testohen kundër këtyre sulmeve.
Privatësia dhe të dhënat personale
Automjeti modern është një "qendër të dhënash mbi rrota": vendndodhja, sjellja e drejtimit, audio, madje edhe kamera e kabinës. Shumica e këtyre janë të dhëna personale dhe mbulohen nga KVKK (Turkiye) dhe GDPR (Evropë). VIN (numri i shasisë) mund të identifikojë një automjet dhe në mënyrë indirekte pronarin e tij. Parimet themelore:
- Minimizimi i të dhënave: Mblidhni vetëm atë që ju nevojitet.
- Kufizimi i qëllimit: Mos i përdorni të dhënat për qëllime të ndryshme nga qëllimi për të cilin janë mbledhur.
- Anonimizim/pseudonimizim: Hiq ose kodo informacion personal identifikues.
- Pëlqimi i qartë dhe transparenca: Shoferi duhet të dijë se çfarë po grumbullohet.
- Ruajtja dhe transferimi i sigurt.
Kujdes: Dërgimi i VIN-it të papërpunuar, historikut të vendndodhjes ose sjelljes së drejtimit në një mjet AI publike në renë kompjuterike mund të jetë një shkelje e privatësisë dhe një rrezik kontraktual. Kur punoni me këto të dhëna, anonimizoni ato dhe përdorni një mjedis institucional, të mbrojtur nga të dhënat.
Etika dhe përgjegjësia inxhinierike
Inteligjenca artificiale sjell me vete disa rreziqe etike:
- Paragjykimi: Nëse të dhënat e trajnimit mbizotërojnë kushte të caktuara (p.sh. ditën, lëkurë të hapur, rrugë të caktuara rajonale), modeli mund të performojë dobët në kushte të nënpërfaqësuara (natë, kushte të ndryshme). Kjo është një cenueshmëri.
- Vetëbesimi i tepërt (paragjykimi i automatizimit): Njerëzit i besojnë verbërisht automatizimit dhe anashkalojnë gjykimin e tyre. Nëse inxhinieri i testimit ndalon së shikuari të dhënat e papërpunuara vetëm sepse AI thotë "kaloni", kjo është një prirje e rrezikshme.
- Humbja e përgjegjësisë: "Modeli vendosi" nuk është një mbrojtje. Duhet të ketë gjithmonë një person që nënshkruan pas vendimit.
Mini raste studimore
Rasti 1 - SOTIF limit. Një sistem automatik frenimi emergjent kalon të gjitha testet laboratorike, pa keqfunksionime. Në fushë, në diell të ulët, një kamion i bardhë gabon me rimorkio me qiellin dhe frenon vonë. Ky nuk është një mosfunksionim, por një dobësi SOTIF: sistemi është i paprekur, por skenari është jashtë kufirit të zbulimit. Ekipi e shton këtë skenar në bibliotekën e provës dhe forcon bashkimin e radarëve. Përfundim: "Asnjë dështim" nuk është dëshmi e sigurisë; Pamjaftueshmëria është gjithashtu një rrezik.
Rasti 2 - Të dhëna të njëanshme. Një model i zbulimit të këmbësorëve u trajnua kryesisht me të dhëna gjatë ditës; Kujtesa e natës është dukshëm më e ulët. Ekipi balancon dhe ritrajnon të dhënat e natës dhe të dritës së ulët dhe raporton veçmas skenarët e natës. Përfundim: Të dhënat e çekuilibruara krijojnë një cenueshmëri vdekjeprurëse në rrethana të caktuara.
Rasti 3 - Parandalimi i shkeljes së privatësisë. Një analist është gati të ngjitë të dhënat e flotës në një mjet publik të AI kur vëren se të dhënat përmbajnë vendndodhje të papërpunuara VIN dhe GPS. Funksionon në një mjedis të korporatës duke anonimizuar të dhënat (vehicle_01..arac_50 në vend të VIN, kodi i rajonit në vend të vendndodhjes). Rezultati: Një moment vëmendjeje parandaloi një shkelje të rëndë të KVKK-së.
shabllone të shpejtë
Shablloni 1 - Vlerësimi paraprak PARAPRAK/rreziku (draft):
Roli: Ju jeni një konsulent funksional i sigurisë. Detyra: Përgatit një draft për të ndihmuar analizën e rrezikut dhe rrezikut për një funksion. Konteksti: Funksioni: frenim automatik emergjent; urbane dhe ndërqytetare.Kufizim: caktimi i saktë i ASIL; Jepni një listë pyetjesh dhe pikash vëmendjeje mbi dimensionet e ashpërsisë/ekspozimit/kontrollueshmërisë; tregojnë se detyra përfundimtare i takon inxhinierit të autorizuar të sigurisë.Prodhimi: Madhësia | pyetje vlerësimi | tabela e shënimeve të vëmendjes.
Shablloni 2 - Skanimi i skenarit SOTIF:
Roli: Ju jeni ekspert i SOTIF. Detyrë: Listoni skenarë ku një funksion zbulimi mund të jetë 'sistemi i paprekur por i pamjaftueshëm'. Konteksti: Kamera + radar; diell i ulët, borë, dalje tuneli, objekte të pazakonta.Output: Scenario | pse pamjaftueshmëria | rekomandimi i reduktimit.
Shablloni 3 - Kontrolli i privatësisë:
Roli: Ju jeni një konsulent për mbrojtjen e të dhënave (KVKK/GDPR). Detyra: Kryeni një auditim të privatësisë përpara se të ndani një grup të dhënash. Konteksti: Telemetria e flotës; Kolonat përmbajnë VIN, GPS, rezultatin e drejtimit. Kufizim: Cilat fusha janë të dhëna personale, si duhet të anonimizohen, çfarë nuk duhet të ndaj fare; rendit.Dalja: Fusha | rreziku | grafiku i rekomanduar i transaksioneve.
Modeli 4 - Kontrolli i paragjykimeve:
Roli: Ju jeni një auditor i sigurisë dhe drejtësisë ML. Detyrë: Më tregoni se si të kërkoj rrezikun e paragjykimit në një model zbulimi. Konteksti: Zbulimi i këmbësorëve; të dhënat e trajnimit të ponderuara ditë/qytet.Prodhimi: Gjendja për t'u kontrolluar | matje | shenjë rreziku.
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
A është i sigurt ky sistem frenimi autonom, konfirmoni.
Përpjekja për të marrë certifikatën e sigurisë së AI është e rrezikshme; Miratimi i takon inxhinierit të autorizuar.
Njoftim i fuqishëm:
Roli: Ju jeni një konsulent funksional i sigurisë dhe SOTIF. Detyra: Rendisni çfarë pyetjesh duhet të bëj dhe çfarë provash duhet të mbledh në vlerësimin e sigurisë së funksionit tim të frenimit automatik. Konteksti: Zbulimi i bazuar në AI; kamera+radar; ASIL mund të jetë i lartë. Kufizimi: 'Aprovo' sistemin; Siguroni lista të veçanta pyetjesh dhe dëshmish për sa i përket ISO 26262 (defekt) dhe SOTIF (mangësi); Theksoni se miratimi përfundimtar i takon inxhinierit të autorizuar të sigurisë. Output: Framework | pyetje | tabela e provave të kërkuara.
Gabimet e zakonshme
- Ngatërruar "pa mosfunksionim" me "të sigurt". Mungesa e SOTIF mund të vrasë pa keqfunksionuar.
- Marrja e certifikatës së sigurisë së AI. Miratimi dhe përgjegjësia i takon inxhinierit të autorizuar.
- Gabimi i saktësisë së modelit si provë e sigurisë. Saktësia 99.9% nuk tregon se rreziku i mbetur është menaxhuar.
- Nuk mbron të dhënat personale. VIN/vendndodhja/sjellja e drejtimit të automjetit është brenda objektit të KVKK/GDPR.
- Injorimi i paragjykimeve dhe besimit të tepërt. Të dhënat e pabalancuara dhe besimi i verbër te automatizimi janë dobësi.
Në përmbledhje
- ISO 26262 menaxhon rrezikun për shkak të dështimit (me ASIL), ndërsa ISO 21448/SOTIF menaxhon rrezikun e dështimit pa dështim; Të dyja janë kritike në zbulimin e AI.
- ISO/SAE 21434 siguria kibernetike; Sulmet kundërshtare dhe helmuese të të dhënave janë kërcënime specifike për AI.
- Minimizimi i të dhënave, kufizimi i qëllimit dhe anonimizimi janë të detyrueshëm brenda objektit të KVKK/GDPR; VIN/vendndodhja janë të dhëna personale.
- Paragjykimi, besimi i tepërt dhe humbja e përgjegjësisë janë rreziqet kryesore etike.
- Prodhimi i AI nuk është një zëvendësim për miratimin e inxhinierit të kualifikuar; Vendimi dhe nënshkrimi kritik për sigurinë i përkasin gjithmonë personit.
Detyra e aplikimit
Zgjidhni një funksion të lidhur me sigurinë (p.sh. mbajtja e korsisë). (1) Diskutoni pse niveli ASIL i këtij funksioni mund të jetë i lartë/i ulët përgjatë dimensioneve të ashpërsisë/ekspozimit/kontrollueshmërisë. (2) Gjeneroni 5 skenarë "sistemi solid por joadekuat" me shabllonin 2. (3) Kontrolloni konfidencialitetin një grup të dhënash përkatëse me shabllonin 3. (4) Shpjegoni pse të thuash "Modeli u konfirmua" nuk është mbrojtje.
listë kontrolli
- [ ] Vlerësova përmasat AKTUALE të funksionit (caktimin e saktë ia lashë autoritetit).
- [ ] Unë bëra dallimin midis ISO 26262 (mosfunksionim) dhe SOTIF (pamjaftueshmëri).
- [ ] Kam marrë parasysh rrezikun e sigurisë kibernetike (kundërshtar/helmim).
- [ ] Kam anonimizuar dhe minimizuar të dhënat personale.
- [ ] Kontrollova për rreziqet e paragjykimit dhe besimit të tepërt.
- [ ] Unë kam konfirmuar se leja e sigurisë është me inxhinierin e kualifikuar.