നേട്ടങ്ങൾ:
- ISO 26262 ഫങ്ഷണൽ സെക്യൂരിറ്റിയും ISO 21448 (SOTIF) ചട്ടക്കൂടുകളും ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് അടങ്ങിയ സിസ്റ്റങ്ങളിൽ അവയുടെ സ്വാധീനവും വിശദീകരിക്കാനുള്ള കഴിവ്
- ഡാറ്റാ സ്വകാര്യത, ഡ്രൈവർ ഡാറ്റ, സൈബർ സുരക്ഷ (ISO/SAE 21434), ഓട്ടോമോട്ടീവ് സന്ദർഭത്തിലെ നൈതിക അപകടങ്ങൾ എന്നിവ കൈകാര്യം ചെയ്യാനുള്ള കഴിവ്
- AI ഔട്ട്പുട്ട് യോഗ്യതയുള്ള എഞ്ചിനീയർ അംഗീകാരത്തിന് പകരമല്ലെന്ന് മനസ്സിലാക്കിക്കൊണ്ട് സുരക്ഷാ-നിർണ്ണായക തീരുമാനങ്ങളുടെ മനുഷ്യ ഉത്തരവാദിത്തം നിലനിർത്താനുള്ള കഴിവ്
നിങ്ങൾ ഈ മൊഡ്യൂളിൻ്റെ ഏറ്റവും നിർണായകമായ യൂണിറ്റിലാണ്. ഡിസൈൻ മുതൽ നിർമ്മാണം വരെ, ടെസ്റ്റിംഗ് മുതൽ വിതരണ ശൃംഖല വരെ ഒരു ആക്സിലറേറ്ററായി ഞങ്ങൾ ഇതുവരെ കണ്ടിട്ടുണ്ട്. എന്നാൽ ഓട്ടോമോട്ടീവിലെ നിർണായകമായ ചോദ്യം ഇതാണ്: ഈ സിസ്റ്റം ആരെയെങ്കിലും ഉപദ്രവിക്കുമോ, ആരാണ് ഉത്തരവാദി? സുരക്ഷാ-നിർണ്ണായക വ്യവസായത്തിൽ AI-യെ ഉത്തരവാദിത്തത്തോടെ ഉപയോഗിക്കുന്നതിനുള്ള ചട്ടക്കൂടുകൾ ഈ യൂണിറ്റ് ലളിതമായ ഭാഷയിൽ ഉൾക്കൊള്ളുന്നു - പ്രവർത്തനപരമായ സുരക്ഷ, SOTIF, സൈബർ സുരക്ഷ, സ്വകാര്യത, ധാർമ്മികത. അടിസ്ഥാന തത്വം സ്ഥിരമായി തുടരുന്നു: AI ഔട്ട്പുട്ട് ഒരിക്കലും കഴിവുള്ള എഞ്ചിനീയർ അംഗീകാരത്തിന് പകരമാവില്ല; സുരക്ഷാ-നിർണ്ണായക തീരുമാനവും ഉത്തരവാദിത്തവും മനുഷ്യൻ്റേതാണ്.
ISO 26262: പ്രവർത്തന സുരക്ഷ
റോഡ് വാഹനങ്ങളുടെ ഇലക്ട്രിക്കൽ/ഇലക്ട്രോണിക് സംവിധാനങ്ങൾക്കുള്ള പ്രവർത്തന സുരക്ഷാ മാനദണ്ഡമാണ് ISO 26262. പ്രവർത്തന സുരക്ഷ; ഒരു സിസ്റ്റം പരാജയപ്പെടുമ്പോൾ (ഒരു സെൻസർ തകരുന്നു, ഒരു സോഫ്റ്റ്വെയർ പരാജയപ്പെടുന്നു) അത് അപകടകരമായ അവസ്ഥയിലേക്ക് നയിക്കുന്നില്ലെന്ന് ഉറപ്പാക്കുന്നതിൽ ഇത് ശ്രദ്ധാലുവാണ്.
ഈ മാനദണ്ഡത്തിൻ്റെ ഹൃദയഭാഗത്ത് ASIL (ഓട്ടോമോട്ടീവ് സേഫ്റ്റി ഇൻ്റഗ്രിറ്റി ലെവൽ) ആണ്. ഒരു അപകടസാധ്യത മൂന്ന് അളവുകളിൽ വിലയിരുത്തപ്പെടുന്നു:
- തീവ്രത: അത് സംഭവിച്ചാൽ എത്ര മോശമായിരിക്കും? (ചെറിയ പരിക്ക് അല്ലെങ്കിൽ മരണം)
- എക്സ്പോഷർ: ഇത് എത്ര തവണ സംഭവിക്കുന്നു?
- നിയന്ത്രണക്ഷമത: ഡ്രൈവർക്ക് സാഹചര്യം എത്രത്തോളം നിയന്ത്രിക്കാനാകും?
ഈ മൂന്ന് സംയോജിത ഫലങ്ങളും ASIL A (ഏറ്റവും താഴ്ന്നത്) മുതൽ ASIL D (ഏറ്റവും ഉയർന്നത്, ഉദാ. ബ്രേക്കിംഗ്, സ്റ്റിയറിംഗ്) വരെയുള്ള ഒരു ലെവലിൽ കലാശിക്കുന്നു. ലെവൽ വർദ്ധിക്കുന്നതിനനുസരിച്ച്, വികസനം, പരിശോധന, ഡോക്യുമെൻ്റേഷൻ ആവശ്യകതകൾ എന്നിവ കർശനമാകും.
പ്രധാനം
മാതൃകാ സംവിധാനം
ആവശ്യകതയുടെ തീവ്രത
എ.
ഇൻ്റീരിയർ ലൈറ്റിംഗ് തകരാർ
താഴ്ന്ന
ബി.
ടെയിൽ ലൈറ്റ്
ഇടത്തരം
സി.
ചില ADAS ഫംഗ്ഷനുകൾ
ഉയർന്നത്
ഡി.
ബ്രേക്ക്, സ്റ്റിയറിംഗ്, എയർബാഗ്
ഏറ്റവും ഉയർന്നത്
നുറുങ്ങ്: ഒരു ഫംഗ്ഷൻ്റെ പ്രധാന നില അറിയുന്നത്, ആ ഫംഗ്ഷനിൽ AI ഉപയോഗിക്കുന്നതിന് എത്രമാത്രം ശ്രദ്ധ ആവശ്യമാണെന്ന് നിങ്ങളോട് പറയുന്നു. ഒരു ഫംഗ്ഷനിലെ AI ഔട്ട്പുട്ടിനെ അടിസ്ഥാനമാക്കിയുള്ള ഒരു തീരുമാനവും സ്വതന്ത്ര സുരക്ഷാ പരിശോധന കൂടാതെ അംഗീകരിക്കാൻ കഴിയില്ല.
ISO 21448 (SOTIF): ഉദ്ദേശിച്ച പ്രവർത്തനത്തിൻ്റെ സുരക്ഷ
ക്ലാസിക്കൽ ഫങ്ഷണൽ സേഫ്റ്റി (ISO 26262) "സിസ്റ്റം പരാജയപ്പെട്ടാൽ എന്ത് സംഭവിക്കും?" എന്ന ചോദ്യത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു. എന്നാൽ ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് ഡിറ്റക്ഷൻ സിസ്റ്റങ്ങളിൽ ഒരു പുതിയ പ്രശ്നമുണ്ട്: സിസ്റ്റം ഒരിക്കലും തകരാറിലായില്ലെങ്കിൽ പോലും, അത് അപര്യാപ്തമായിരിക്കാം. ക്യാമറ നന്നായി പ്രവർത്തിക്കുന്നു, പക്ഷേ മഞ്ഞുവീഴ്ചയുള്ള സ്ലാബ് തിരിച്ചറിയാൻ കഴിയില്ല; റഡാർ ദൃഢമാണ്, പക്ഷേ അത് ഒരു നിശ്ചല വാഹനത്തെ ഒരു പ്രേത സിഗ്നലായി അവഗണിക്കുന്നു. ഇവിടെ ഹാർഡ്വെയർ/സോഫ്റ്റ്വെയർ പരാജയം ഇല്ല; ഫംഗ്ഷൻ്റെ ഉദ്ദേശിച്ച പരിധിയുടെ പരിധിയിലാണ് പ്രശ്നം.
ISO 21448 - SOTIF (ഉദ്ദേശിക്കപ്പെട്ട പ്രവർത്തനത്തിൻ്റെ സുരക്ഷ) ഈ വിടവ് കൃത്യമായി നിർവ്വഹിക്കുന്നു: തിരിച്ചറിയാത്ത സാഹചര്യങ്ങൾ, കണ്ടെത്തൽ പരിധികൾ, മുൻകൂട്ടിക്കാണാത്ത സാഹചര്യങ്ങൾ എന്നിവയിൽ നിന്ന് ഉണ്ടാകുന്ന അപകടസാധ്യതകൾ കൈകാര്യം ചെയ്യുക, സിസ്റ്റം രൂപകൽപ്പന ചെയ്തതുപോലെ പ്രവർത്തിക്കുന്നുവെങ്കിൽ പോലും. AI- അടിസ്ഥാനമാക്കിയുള്ള ADAS/ഓട്ടോണമസ് ഡ്രൈവിംഗിൽ, SOTIF ISO 26262 പോലെ നിർണായകമാണ്.
ഫ്രെയിം
ഫോക്കസ് ചെയ്യുക
ഉദാഹരണം
ISO 26262
പരാജയം മൂലമുള്ള അപകടം
സെൻസർ തകരുന്നു, സിഗ്നൽ അപ്രത്യക്ഷമാകുന്നു
ISO 21448 (SOTIF)
അപര്യാപ്തത/അംഗീകാരം ലഭിക്കാത്തതിൻ്റെ അപകടസാധ്യത
പരുക്കൻ ക്യാമറ മഞ്ഞുവീഴ്ചയുള്ള സ്ലാബ് തിരിച്ചറിയുന്നില്ല
ISO/SAE 21434
സൈബർ സുരക്ഷ
സിസ്റ്റം ആക്രമണം, ഡാറ്റ കൃത്രിമത്വം
മുന്നറിയിപ്പ്: AI മോഡലുകൾ സ്ഥിതിവിവരക്കണക്കുകളാണ്; "എല്ലാ സാഹചര്യങ്ങളും ശരിയായി കാണുമെന്ന്" അവർക്ക് ഉറപ്പുനൽകാൻ കഴിയില്ല. ഈ അന്തർലീനമായ പരിമിതമായ സിസ്റ്റങ്ങളിൽ അജ്ഞാതമായ അപകടകരമായ സാഹചര്യങ്ങൾ ചുരുക്കുകയും ശേഷിക്കുന്ന അപകടസാധ്യത സ്വീകാര്യമായ തലത്തിലേക്ക് കുറയ്ക്കുകയും ചെയ്യുക എന്നതാണ് SOTIF ലക്ഷ്യമിടുന്നത്. "മോഡൽ 99.9% കൃത്യമാണ്" എന്നത് സുരക്ഷയുടെ തെളിവല്ല.
ISO/SAE 21434: സൈബർ സുരക്ഷ
കണക്റ്റുചെയ്തതും സോഫ്റ്റ്വെയർ നിർവചിച്ചതുമായ വാഹനങ്ങൾ സൈബർ ആക്രമണത്തിന് ഇരയാകുന്നു. വിദൂര ആക്രമണകാരിക്ക് ബ്രേക്ക് കമാൻഡിൽ മാറ്റം വരുത്താനോ ടെലിമെട്രി മോഷ്ടിക്കാനോ കണ്ടെത്തൽ മോഡലിനെ കബളിപ്പിക്കാനോ കഴിയും (എതിരാളി ആക്രമണം: ഒരു പ്ലേറ്റിൽ ഒരു ചെറിയ സ്റ്റിക്കർ സ്ഥാപിച്ച് മോഡലിനെ തെറ്റായി തിരിച്ചറിയുന്നത്). ISO/SAE 21434 എന്നത് വാഹനത്തിൻ്റെ സൈബർ സുരക്ഷയ്ക്കുള്ള എഞ്ചിനീയറിംഗ് ചട്ടക്കൂടാണ്. ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസിൻ്റെ പശ്ചാത്തലത്തിൽ, രണ്ട് അപകടസാധ്യതകൾ വേറിട്ടുനിൽക്കുന്നു: മോഡലിനെ കബളിപ്പിക്കൽ (എതിരാളി), പരിശീലന ഡാറ്റ വിഷലിപ്തമാക്കൽ (ഡാറ്റ വിഷബാധ). ഈ ആക്രമണങ്ങൾക്കെതിരെ സുരക്ഷാ-നിർണ്ണായക AI സംവിധാനങ്ങൾ പരീക്ഷിക്കണം.
സ്വകാര്യതയും വ്യക്തിഗത ഡാറ്റയും
ആധുനിക വാഹനം "ചക്രങ്ങളിലെ ഡാറ്റാ സെൻ്റർ" ആണ്: സ്ഥാനം, ഡ്രൈവിംഗ് പെരുമാറ്റം, ഓഡിയോ, ക്യാബിൻ ക്യാമറ പോലും. ഇതിൽ ഭൂരിഭാഗവും വ്യക്തിഗത ഡാറ്റയാണ്, ഇത് KVKK (Türkiye), GDPR (യൂറോപ്പ്) എന്നിവയിൽ ഉൾപ്പെടുന്നു. VIN (ചേസിസ് നമ്പർ) ഒരു വാഹനത്തെയും പരോക്ഷമായി അതിൻ്റെ ഉടമയെയും തിരിച്ചറിയാൻ കഴിയും. അടിസ്ഥാന തത്വങ്ങൾ:
- ഡാറ്റ ചെറുതാക്കൽ: ആവശ്യമുള്ളത് മാത്രം ശേഖരിക്കുക.
- ഉദ്ദേശ്യ പരിമിതി: ഡാറ്റ ശേഖരിച്ച ഉദ്ദേശ്യത്തിനല്ലാതെ മറ്റ് ആവശ്യങ്ങൾക്കായി ഉപയോഗിക്കരുത്.
- അജ്ഞാതവൽക്കരണം/അപരനാമകരണം: വ്യക്തിപരമായി തിരിച്ചറിയുന്ന വിവരങ്ങൾ നീക്കം ചെയ്യുക അല്ലെങ്കിൽ എൻകോഡ് ചെയ്യുക.
- വ്യക്തമായ സമ്മതവും സുതാര്യതയും: എന്താണ് ശേഖരിക്കുന്നതെന്ന് ഡ്രൈവർ അറിഞ്ഞിരിക്കണം.
- സുരക്ഷിതമായ സംഭരണവും കൈമാറ്റവും.
മുൻകരുതൽ: ഒരു പൊതു ക്ലൗഡ് AI ടൂളിലേക്ക് റോ VIN, ലൊക്കേഷൻ ചരിത്രം അല്ലെങ്കിൽ ഡ്രൈവിംഗ് പെരുമാറ്റം എന്നിവ അയയ്ക്കുന്നത് ഒരു സ്വകാര്യതാ ലംഘനവും കരാർ സംബന്ധമായ അപകടവും ആകാം. ഈ ഡാറ്റയുമായി പ്രവർത്തിക്കുമ്പോൾ, അത് അജ്ഞാതമാക്കുകയും സ്ഥാപനപരവും ഡാറ്റ പരിരക്ഷിതവുമായ അന്തരീക്ഷം ഉപയോഗിക്കുകയും ചെയ്യുക.
നൈതികതയും എഞ്ചിനീയർ ഉത്തരവാദിത്തവും
ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് ചില ധാർമ്മിക അപകടസാധ്യതകൾ കൊണ്ടുവരുന്നു:
- പക്ഷപാതം: പരിശീലന ഡാറ്റ ചില വ്യവസ്ഥകൾക്ക് മുൻതൂക്കം നൽകുന്നുണ്ടെങ്കിൽ (ഉദാ. പകൽ, ഇളം ചർമ്മം, ചില പ്രാദേശിക റോഡുകൾ), പ്രതിനിധീകരിക്കാത്ത സാഹചര്യങ്ങളിൽ (രാത്രി, വ്യത്യസ്ത സാഹചര്യങ്ങൾ) മോഡൽ മോശമായി പ്രവർത്തിച്ചേക്കാം. ഇതൊരു ദുർബലതയാണ്.
- അമിത ആത്മവിശ്വാസം (ഓട്ടോമേഷൻ ബയസ്): ആളുകൾ ഓട്ടോമേഷനെ അന്ധമായി വിശ്വസിക്കുകയും സ്വന്തം വിധിയെ മറികടക്കുകയും ചെയ്യുന്നു. AI "പാസ്" എന്ന് പറഞ്ഞതുകൊണ്ട് മാത്രം ടെസ്റ്റ് എഞ്ചിനീയർ അസംസ്കൃത ഡാറ്റ നോക്കുന്നത് നിർത്തിയാൽ ഇത് അപകടകരമായ പ്രവണതയാണ്.
- ഉത്തരവാദിത്ത നഷ്ടം: "മോഡൽ തീരുമാനിച്ചു" എന്നത് ഒരു പ്രതിരോധമല്ല. തീരുമാനത്തിന് പിന്നിൽ ഒപ്പിടുന്ന ഒരാൾ എപ്പോഴും ഉണ്ടായിരിക്കണം.
മിനി കേസ് പഠനങ്ങൾ
കേസ് 1 - SOTIF പരിധി. ഒരു ഓട്ടോമാറ്റിക് എമർജൻസി ബ്രേക്കിംഗ് സിസ്റ്റം എല്ലാ ലബോറട്ടറി പരിശോധനകളും വിജയിക്കുന്നു, തകരാറുകളൊന്നുമില്ല. വയലിൽ, കുറഞ്ഞ വെയിലിൽ, ഒരു വെളുത്ത ട്രക്ക് അതിൻ്റെ ട്രെയിലർ ആകാശത്തേക്ക് തെറ്റിദ്ധരിക്കുകയും വൈകി ബ്രേക്ക് ചെയ്യുകയും ചെയ്യുന്നു. ഇതൊരു തകരാർ അല്ല, ഒരു SOTIF അപകടസാധ്യതയാണ്: സിസ്റ്റം കേടുകൂടാതെയിരിക്കുന്നു, പക്ഷേ സാഹചര്യം കണ്ടെത്തൽ പരിധിക്ക് പുറത്താണ്. ടീം ഈ സാഹചര്യം ടെസ്റ്റ് ലൈബ്രറിയിലേക്ക് ചേർക്കുകയും റഡാർ ഫ്യൂഷൻ ശക്തിപ്പെടുത്തുകയും ചെയ്യുന്നു. ഉപസംഹാരം: "പരാജയമില്ല" എന്നത് സുരക്ഷിതത്വത്തിൻ്റെ തെളിവല്ല; അപര്യാപ്തതയും അപകടകരമാണ്.
കേസ് 2 - പക്ഷപാതപരമായ ഡാറ്റ. ഒരു കാൽനട കണ്ടെത്തൽ മോഡൽ പ്രധാനമായും പകൽ സമയ ഡാറ്റ ഉപയോഗിച്ചാണ് പരിശീലിപ്പിച്ചത്; രാത്രി തിരിച്ചുവിളിക്കുന്നത് ഗണ്യമായി കുറവാണ്. രാത്രിയും കുറഞ്ഞ വെളിച്ചവും ഉള്ള ഡാറ്റ ടീം ബാലൻസ് ചെയ്യുകയും വീണ്ടും പരിശീലിപ്പിക്കുകയും രാത്രി സാഹചര്യങ്ങൾ പ്രത്യേകം റിപ്പോർട്ടുചെയ്യുകയും ചെയ്യുന്നു. ഉപസംഹാരം: അസന്തുലിത ഡാറ്റ ചില സാഹചര്യങ്ങളിൽ മാരകമായ ഒരു അപകടസാധ്യത സൃഷ്ടിക്കുന്നു.
കേസ് 3 - സ്വകാര്യത ലംഘനം തടയൽ. ഡാറ്റയിൽ റോ വിഐഎൻ, ജിപിഎസ് ലൊക്കേഷനുകൾ അടങ്ങിയിരിക്കുന്നത് ശ്രദ്ധയിൽപ്പെട്ടപ്പോൾ ഒരു അനലിസ്റ്റ് ഒരു പൊതു AI ടൂളിലേക്ക് ഫ്ലീറ്റ് ഡാറ്റ ഒട്ടിക്കാൻ പോകുന്നു. ഡാറ്റ അജ്ഞാതമാക്കുന്നതിലൂടെ ഇത് ഒരു കോർപ്പറേറ്റ് പരിതസ്ഥിതിയിൽ പ്രവർത്തിക്കുന്നു (VIN-ന് പകരം vehicle_01..arac_50, സ്ഥലത്തിന് പകരം റീജിയൻ കോഡ്). ഫലം: ഒരു നിമിഷത്തെ ശ്രദ്ധ ഒരു ഗുരുതരമായ KVKK ലംഘനത്തെ തടഞ്ഞു.
പ്രോംപ്റ്റ് ടെംപ്ലേറ്റുകൾ
ടെംപ്ലേറ്റ് 1 - മുൻ/റിസ്ക് പ്രാഥമിക വിലയിരുത്തൽ (ഡ്രാഫ്റ്റ്):
റോൾ: നിങ്ങളൊരു ഫങ്ഷണൽ സേഫ്റ്റി കൺസൾട്ടൻ്റാണ്. ടാസ്ക്: ഒരു ഫംഗ്ഷനായി അപകടസാധ്യതകളും അപകടസാധ്യത വിശകലനവും സഹായിക്കുന്നതിന് ഒരു കരട് തയ്യാറാക്കുന്നു. സന്ദർഭം: പ്രവർത്തനം: ഓട്ടോമാറ്റിക് എമർജൻസി ബ്രേക്കിംഗ്; നഗരവും നഗരവും. നിയന്ത്രണങ്ങൾ: ASIL-ൻ്റെ കൃത്യമായ നിയമനം; തീവ്രത/എക്സ്പോഷർ/നിയന്ത്രണക്ഷമത എന്നിവയുടെ അളവുകളെക്കുറിച്ചുള്ള ചോദ്യങ്ങളുടെയും ശ്രദ്ധാകേന്ദ്രങ്ങളുടെയും ഒരു ലിസ്റ്റ് നൽകുക; അന്തിമ അസൈൻമെൻ്റ് അംഗീകൃത സുരക്ഷാ എഞ്ചിനീയറുടെ പക്കലാണെന്ന് സൂചിപ്പിക്കുക. ഔട്ട്പുട്ട്: വലിപ്പം | മൂല്യനിർണ്ണയ ചോദ്യം | ശ്രദ്ധ കുറിപ്പ് പട്ടിക.
ടെംപ്ലേറ്റ് 2 - SOTIF സാഹചര്യം സ്കാൻ:
റോൾ: നിങ്ങളൊരു SOTIF വിദഗ്ദ്ധനാണ്. ടാസ്ക്: ഒരു കണ്ടെത്തൽ ഫംഗ്ഷൻ 'സിസ്റ്റം കേടുകൂടാതെയാണെങ്കിലും അപര്യാപ്തമായ' സാഹചര്യങ്ങൾ ലിസ്റ്റ് ചെയ്യുക. സന്ദർഭം: ക്യാമറ + റഡാർ; കുറഞ്ഞ സൂര്യൻ, മഞ്ഞ്, ടണൽ എക്സിറ്റ്, അസാധാരണമായ വസ്തുക്കൾ. ഔട്ട്പുട്ട്: സാഹചര്യം | എന്തുകൊണ്ട് അപര്യാപ്തത | കുറയ്ക്കൽ ശുപാർശ.
ടെംപ്ലേറ്റ് 3 - സ്വകാര്യതാ നിയന്ത്രണം:
റോൾ: നിങ്ങളൊരു ഡാറ്റാ പ്രൊട്ടക്ഷൻ (KVKK/GDPR) കൺസൾട്ടൻ്റാണ്. ടാസ്ക്: ഒരു ഡാറ്റാ സെറ്റ് പങ്കിടുന്നതിന് മുമ്പ് ഒരു സ്വകാര്യത ഓഡിറ്റ് നടത്തുക. സന്ദർഭം: ഫ്ലീറ്റ് ടെലിമെട്രി; കോളങ്ങളിൽ VIN, GPS, ഡ്രൈവിംഗ് സ്കോർ എന്നിവ അടങ്ങിയിരിക്കുന്നു. പരിമിതി: ഏതൊക്കെ ഫീൽഡുകളാണ് വ്യക്തിഗത ഡാറ്റ, അവ എങ്ങനെ അജ്ഞാതമാക്കണം, എന്തൊക്കെ പങ്കിടാൻ പാടില്ല; അടുക്കുക.ഔട്ട്പുട്ട്: ഫീൽഡ് | അപകടം | ശുപാർശ ചെയ്ത ഇടപാട് ചാർട്ട്.
ടെംപ്ലേറ്റ് 4 - ബയസ് ചെക്ക്:
റോൾ: നിങ്ങൾ ഒരു ML സുരക്ഷയും ന്യായയുക്തവുമായ ഓഡിറ്ററാണ്. ടാസ്ക്: ഒരു ഡിറ്റക്ഷൻ മോഡലിൽ പക്ഷപാതത്തിൻ്റെ അപകടസാധ്യത എങ്ങനെ കാണണമെന്ന് എന്നോട് പറയുക. സന്ദർഭം: കാൽനടയാത്രക്കാരെ കണ്ടെത്തൽ; പരിശീലന ഡാറ്റ വെയ്റ്റഡ് ദിവസം/നഗരം. ഔട്ട്പുട്ട്: പരിശോധിക്കേണ്ട അവസ്ഥ | അളവ് | അപകട ചിഹ്നം.
ദുർബലമായ പ്രോംപ്റ്റ് / ശക്തമായ പ്രോംപ്റ്റ്
ദുർബലമായ പ്രോംപ്റ്റ്:
ഈ സ്വയംഭരണ ബ്രേക്കിംഗ് സിസ്റ്റം സുരക്ഷിതമാണോ, സ്ഥിരീകരിക്കുക.
AI സുരക്ഷാ ക്ലിയറൻസ് നേടാൻ ശ്രമിക്കുന്നത് അപകടകരമാണ്; അംഗീകാരം അംഗീകൃത എഞ്ചിനീയർക്കുള്ളതാണ്.
ശക്തമായ നിർദ്ദേശം:
റോൾ: നിങ്ങളൊരു പ്രവർത്തന സുരക്ഷയും SOTIF കൺസൾട്ടൻ്റുമാണ്. ടാസ്ക്: എൻ്റെ ഓട്ടോമാറ്റിക് ബ്രേക്കിംഗ് ഫംഗ്ഷൻ്റെ സുരക്ഷാ വിലയിരുത്തലിൽ ഞാൻ എന്ത് ചോദ്യങ്ങൾ ചോദിക്കണം, എന്ത് തെളിവുകൾ ശേഖരിക്കണം എന്നിവ ലിസ്റ്റ് ചെയ്യുക. സന്ദർഭം: AI അടിസ്ഥാനമാക്കിയുള്ള കണ്ടെത്തൽ; ക്യാമറ+റഡാർ; ASIL ഉയർന്നതായിരിക്കാം. നിയന്ത്രണം: സിസ്റ്റം 'അംഗീകാരം'; ISO 26262 (വൈകല്യം), SOTIF (കമ്മി) എന്നിവ പ്രകാരം ചോദ്യങ്ങളുടെയും തെളിവുകളുടെയും പ്രത്യേക ലിസ്റ്റുകൾ നൽകുക; അന്തിമ അംഗീകാരം അംഗീകൃത സുരക്ഷാ എഞ്ചിനീയറുടെ പക്കലാണെന്ന് ഊന്നിപ്പറയുക. ഔട്ട്പുട്ട്: ഫ്രെയിംവർക്ക് | ചോദ്യം | ആവശ്യമായ തെളിവ് പട്ടിക.
സാധാരണ തെറ്റുകൾ
- "തകരാർ ഇല്ല" എന്നത് "സുരക്ഷിതം" എന്നതുമായി ആശയക്കുഴപ്പത്തിലാക്കുന്നു. SOTIF ൻ്റെ കുറവ് തകരാറിലാകാതെ തന്നെ കൊല്ലും.
- AI സുരക്ഷാ ക്ലിയറൻസ് ലഭിക്കുന്നു. അംഗീകാരവും ഉത്തരവാദിത്തവും അംഗീകൃത എഞ്ചിനീയർക്കാണ്.
- സുരക്ഷയുടെ തെളിവായി മോഡൽ കൃത്യത തെറ്റിദ്ധരിക്കുന്നു. 99.9% കൃത്യത ബാക്കിയുള്ള അപകടസാധ്യത കൈകാര്യം ചെയ്തതായി സൂചിപ്പിക്കുന്നില്ല.
- വ്യക്തിഗത ഡാറ്റ പരിരക്ഷിക്കുന്നില്ല. VIN/ലൊക്കേഷൻ/ഡ്രൈവിംഗ് പെരുമാറ്റം KVKK/GDPR-ൻ്റെ പരിധിയിലാണ്.
- പക്ഷപാതവും അമിത ആത്മവിശ്വാസവും അവഗണിക്കുന്നു. അസന്തുലിതമായ ഡാറ്റയും ഓട്ടോമേഷനിലുള്ള അന്ധമായ വിശ്വാസവും അപകടസാധ്യതകളാണ്.
ചുരുക്കത്തിൽ
- ISO 26262 പരാജയം മൂലമുണ്ടാകുന്ന അപകടസാധ്യത നിയന്ത്രിക്കുന്നു (ASIL-നൊപ്പം), അതേസമയം ISO 21448/SOTIF പരാജയപ്പെടാതെ പരാജയപ്പെടാനുള്ള സാധ്യത കൈകാര്യം ചെയ്യുന്നു; AI കണ്ടെത്തലിൽ രണ്ടും നിർണായകമാണ്.
- ISO/SAE 21434 സൈബർ സുരക്ഷ; പ്രതികൂലവും ഡാറ്റാ വിഷബാധയുള്ളതുമായ ആക്രമണങ്ങൾ AI-നിർദ്ദിഷ്ട ഭീഷണികളാണ്.
- KVKK/GDPR-ൻ്റെ പരിധിയിൽ ഡാറ്റ ചെറുതാക്കൽ, ഉദ്ദേശ്യ പരിമിതി, അജ്ഞാതവൽക്കരണം എന്നിവ നിർബന്ധമാണ്; VIN/ലൊക്കേഷൻ എന്നത് വ്യക്തിഗത ഡാറ്റയാണ്.
- മുൻവിധി, അമിത ആത്മവിശ്വാസം, ഉത്തരവാദിത്ത നഷ്ടം എന്നിവയാണ് പ്രധാന ധാർമ്മിക അപകടങ്ങൾ.
- AI ഔട്ട്പുട്ട് യോഗ്യതയുള്ള എഞ്ചിനീയർ അംഗീകാരത്തിന് പകരമല്ല; സുരക്ഷാ-നിർണ്ണായക തീരുമാനവും ഒപ്പും എല്ലായ്പ്പോഴും വ്യക്തിയുടേതാണ്.
ആപ്ലിക്കേഷൻ ടാസ്ക്
സുരക്ഷയുമായി ബന്ധപ്പെട്ട ഒരു പ്രവർത്തനം തിരഞ്ഞെടുക്കുക (ഉദാ. ലെയ്ൻ കീപ്പിംഗ്). (1) ഈ ഫംഗ്ഷൻ്റെ ASIL ലെവൽ തീവ്രത/എക്സ്പോഷർ/കൺട്രോളബിലിറ്റി അളവുകൾക്കൊപ്പം ഉയർന്നതോ/താഴ്ന്നതോ ആകുന്നത് എന്തുകൊണ്ടാണെന്ന് ചർച്ച ചെയ്യുക. (2) ടെംപ്ലേറ്റ് 2 ഉപയോഗിച്ച് 5 “സിസ്റ്റം സോളിഡ് എന്നാൽ അപര്യാപ്തമായ” സാഹചര്യങ്ങൾ സൃഷ്ടിക്കുക. (3) ടെംപ്ലേറ്റ് 3 ഉപയോഗിച്ച് ഒരു പ്രസക്തമായ ഡാറ്റാസെറ്റ് രഹസ്യാത്മകത ഓഡിറ്റ് ചെയ്യുക. (4) “മോഡൽ സ്ഥിരീകരിച്ചു” എന്ന് പറയുന്നത് എന്തുകൊണ്ട് ഒരു പ്രതിരോധമല്ലെന്ന് വിശദീകരിക്കുക.
ചെക്ക്ലിസ്റ്റ്
- [ ] ഞാൻ ഫംഗ്ഷൻ്റെ യഥാർത്ഥ അളവുകൾ വിലയിരുത്തി (ഞാൻ കൃത്യമായ അസൈൻമെൻ്റ് അതോറിറ്റിക്ക് വിട്ടു).
- [ ] ISO 26262 (തകരാർ), SOTIF (അപര്യാപ്തത) എന്നിവ തമ്മിൽ ഞാൻ വ്യത്യാസം വരുത്തി.
- [ ] ഞാൻ സൈബർ സുരക്ഷ (എതിരാളി/വിഷബാധ) അപകടസാധ്യത കണക്കിലെടുത്തിട്ടുണ്ട്.
- [ ] ഞാൻ വ്യക്തിഗത ഡാറ്റ അജ്ഞാതമാക്കുകയും ചെറുതാക്കുകയും ചെയ്തു.
- [ ] പക്ഷപാതത്തിൻ്റെയും അമിത ആത്മവിശ്വാസത്തിൻ്റെയും അപകടസാധ്യതകൾ ഞാൻ പരിശോധിച്ചു.
- [ ] സുരക്ഷാ ക്ലിയറൻസ് യോഗ്യതയുള്ള എഞ്ചിനീയറുടെ പക്കലാണെന്ന് ഞാൻ സ്ഥിരീകരിച്ചു.