లాభాలు:
- ISO 26262 ఫంక్షనల్ సెక్యూరిటీ మరియు ISO 21448 (SOTIF) ఫ్రేమ్వర్క్లు మరియు కృత్రిమ మేధస్సు కలిగిన సిస్టమ్లపై వాటి ప్రభావాలను వివరించే సామర్థ్యం
- ఆటోమోటివ్ సందర్భంలో డేటా గోప్యత, డ్రైవర్ డేటా, సైబర్ సెక్యూరిటీ (ISO/SAE 21434) మరియు నైతిక ప్రమాదాలను నిర్వహించగల సామర్థ్యం
- సమర్థ ఇంజనీర్ ఆమోదానికి AI అవుట్పుట్ ప్రత్యామ్నాయం కాదని అర్థం చేసుకోవడం ద్వారా భద్రత-క్లిష్టమైన నిర్ణయాల కోసం మానవ బాధ్యతను నిర్వహించగల సామర్థ్యం
మీరు ఈ మాడ్యూల్ యొక్క అత్యంత క్లిష్టమైన యూనిట్లో ఉన్నారు. ఇప్పటివరకు మేము AIని డిజైన్ నుండి తయారీ వరకు, టెస్టింగ్ నుండి సరఫరా గొలుసు వరకు యాక్సిలరేటర్గా చూశాము. కానీ ఆటోమోటివ్లో నిర్ణయాత్మక ప్రశ్న: ఈ వ్యవస్థ ఎవరికైనా హాని చేస్తుందా మరియు ఎవరు బాధ్యత వహిస్తారు? ఈ యూనిట్ భద్రత-క్లిష్ట పరిశ్రమలో AIని బాధ్యతాయుతంగా ఉపయోగించడం కోసం ఫ్రేమ్వర్క్లను సాదా భాషలో కవర్ చేస్తుంది-ఫంక్షనల్ సేఫ్టీ, SOTIF, సైబర్సెక్యూరిటీ, గోప్యత మరియు నీతి. ప్రధాన సూత్రం స్థిరంగా ఉంటుంది: AI అవుట్పుట్ సమర్థ ఇంజనీర్ ఆమోదాన్ని ఎప్పుడూ భర్తీ చేయదు; భద్రత-క్లిష్టమైన నిర్ణయం మరియు బాధ్యత మానవునికి చెందినది.
ISO 26262: క్రియాత్మక భద్రత
ISO 26262 అనేది రహదారి వాహనాల ఎలక్ట్రికల్/ఎలక్ట్రానిక్ సిస్టమ్ల కోసం ఫంక్షనల్ సేఫ్టీ స్టాండర్డ్. ఫంక్షనల్ భద్రత; సిస్టమ్ విఫలమైనప్పుడు (సెన్సార్ విచ్ఛిన్నమైతే, సాఫ్ట్వేర్ విఫలమైతే) అది ప్రమాదకరమైన పరిస్థితికి దారితీయకుండా చూసుకోవడంలో ఇది ఆందోళన చెందుతుంది.
ఈ ప్రమాణం యొక్క గుండె వద్ద ASIL (ఆటోమోటివ్ సేఫ్టీ ఇంటెగ్రిటీ లెవెల్) ఉంది. ప్రమాదం మూడు కోణాలలో అంచనా వేయబడుతుంది:
- తీవ్రత: అది జరిగితే ఎంత ఘోరంగా ఉంటుంది? (చిన్న గాయం లేదా మరణం)
- బహిర్గతం: ఇది ఎంత తరచుగా జరుగుతుంది?
- నియంత్రణ: డ్రైవర్ పరిస్థితిని ఎంతవరకు నియంత్రించగలడు?
ఈ మూడింటిని కలిపి ASIL A (అత్యల్ప) నుండి ASIL D (అత్యధిక, ఉదా. బ్రేకింగ్, స్టీరింగ్) స్థాయికి దారి తీస్తుంది. స్థాయి పెరిగేకొద్దీ, అభివృద్ధి, పరీక్ష మరియు డాక్యుమెంటేషన్ అవసరాలు కఠినంగా మారతాయి.
ప్రధాన
నమూనా వ్యవస్థ
అవసరం తీవ్రత
ఎ.
ఇంటీరియర్ లైటింగ్ లోపం
తక్కువ
బి.
టెయిల్ లైట్
మధ్యస్థ
సి.
కొన్ని ADAS విధులు
అధిక
డి.
బ్రేక్, స్టీరింగ్, ఎయిర్ బ్యాగ్
అత్యధిక
చిట్కా: ఫంక్షన్ యొక్క ప్రధాన స్థాయిని తెలుసుకోవడం, ఆ ఫంక్షన్లో AIని ఉపయోగించడం ఎంత శ్రద్ధ అవసరమో మీకు తెలియజేస్తుంది. స్వతంత్ర భద్రతా ధృవీకరణ లేకుండా ఫంక్షన్లో AI అవుట్పుట్ ఆధారంగా ఎటువంటి నిర్ణయం ఆమోదించబడదు.
ISO 21448 (SOTIF): ఉద్దేశించిన ఫంక్షన్ యొక్క భద్రత
క్లాసికల్ ఫంక్షనల్ సేఫ్టీ (ISO 26262) "సిస్టమ్ విఫలమైతే ఏమి జరుగుతుంది?" అనే ప్రశ్నపై దృష్టి పెడుతుంది. కానీ కృత్రిమ మేధస్సు గుర్తింపు వ్యవస్థలలో కొత్త సమస్య ఉంది: సిస్టమ్ ఎప్పుడూ పనిచేయకపోయినా, అది సరిపోకపోవచ్చు. కెమెరా బాగా పని చేస్తుంది కానీ మంచు స్లాబ్ను గుర్తించలేదు; రాడార్ దృఢంగా ఉంటుంది, కానీ అది దెయ్యం సిగ్నల్గా స్థిరంగా ఉన్న వాహనాన్ని విస్మరిస్తుంది. ఇక్కడ హార్డ్వేర్/సాఫ్ట్వేర్ వైఫల్యం లేదు; సమస్య ఫంక్షన్ యొక్క ఉద్దేశించిన పరిధి యొక్క పరిమితిలో ఉంది.
ISO 21448 - SOTIF (ఉద్దేశించిన కార్యాచరణ యొక్క భద్రత) సరిగ్గా ఈ గ్యాప్ను పరిష్కరిస్తుంది: గుర్తించబడని దృశ్యాలు, గుర్తింపు పరిమితులు మరియు ఊహించలేని పరిస్థితుల నుండి ఉత్పన్నమయ్యే నష్టాలను నిర్వహించడం, సిస్టమ్ రూపొందించినట్లుగా పనిచేసినప్పటికీ. AI-ఆధారిత ADAS/అటానమస్ డ్రైవింగ్లో, SOTIF ISO 26262 వలె కీలకమైనది.
ఫ్రేమ్
దృష్టి పెట్టండి
ఉదాహరణ
ISO 26262
వైఫల్యం కారణంగా ప్రమాదం
సెన్సార్ విరిగిపోతుంది, సిగ్నల్ అదృశ్యమవుతుంది
ISO 21448 (SOTIF)
అసమర్థత/గుర్తింపు లేని ప్రమాదం
కఠినమైన కెమెరా మంచు స్లాబ్ను గుర్తించదు
ISO/SAE 21434
సైబర్ భద్రత
సిస్టమ్ దాడి, డేటా మానిప్యులేషన్
జాగ్రత్త: AI నమూనాలు గణాంకపరమైనవి; వారు "ప్రతి పరిస్థితిని సరిగ్గా చూస్తారు" అని హామీ ఇవ్వలేరు. SOTIF ఈ అంతర్లీనంగా పరిమితమైన సిస్టమ్లలో తెలియని ప్రమాదకర దృశ్యాలను తగ్గించడం మరియు మిగిలిన ప్రమాదాన్ని ఆమోదయోగ్యమైన స్థాయికి తగ్గించడం లక్ష్యంగా పెట్టుకుంది. "మోడల్ 99.9% ఖచ్చితమైనది" అనేది భద్రతకు రుజువు కాదు.
ISO/SAE 21434: సైబర్ సెక్యూరిటీ
కనెక్ట్ చేయబడిన మరియు సాఫ్ట్వేర్-నిర్వచించిన వాహనాలు సైబర్ దాడికి గురవుతాయి. రిమోట్ అటాకర్ బ్రేక్ కమాండ్ను మార్చవచ్చు, టెలిమెట్రీని దొంగిలించవచ్చు లేదా డిటెక్షన్ మోడల్ను మోసగించవచ్చు (విరోధి దాడి: ఒక ప్లేట్పై చిన్న స్టిక్కర్ను ఉంచడం ద్వారా మోడల్ దానిని తప్పుగా గుర్తించేలా చేస్తుంది). ISO/SAE 21434 అనేది వాహన సైబర్ సెక్యూరిటీ కోసం ఇంజనీరింగ్ ఫ్రేమ్వర్క్. కృత్రిమ మేధస్సు సందర్భంలో, రెండు ప్రమాదాలు ప్రత్యేకంగా ఉంటాయి: మోడల్ను మోసగించడం (విరోధి) మరియు శిక్షణ డేటాను విషపూరితం చేయడం (డేటా పాయిజనింగ్). ఈ దాడులకు వ్యతిరేకంగా భద్రతా-క్లిష్టమైన AI సిస్టమ్లను పరీక్షించాలి.
గోప్యత మరియు వ్యక్తిగత డేటా
ఆధునిక వాహనం "చక్రాలపై డేటా కేంద్రం": స్థానం, డ్రైవింగ్ ప్రవర్తన, ఆడియో, క్యాబిన్ కెమెరా కూడా. ఇందులో ఎక్కువ భాగం వ్యక్తిగత డేటా మరియు KVKK (Türkiye) మరియు GDPR (యూరోప్) ద్వారా కవర్ చేయబడుతుంది. VIN (ఛాసిస్ నంబర్) వాహనాన్ని మరియు పరోక్షంగా దాని యజమానిని గుర్తించగలదు. ప్రాథమిక సూత్రాలు:
- డేటా కనిష్టీకరణ: అవసరమైన వాటిని మాత్రమే సేకరించండి.
- పర్పస్ పరిమితి: డేటాను సేకరించిన ప్రయోజనం కోసం కాకుండా ఇతర ప్రయోజనాల కోసం ఉపయోగించవద్దు.
- అనామకీకరణ/సూడోనామైజేషన్: వ్యక్తిగతంగా గుర్తించే సమాచారాన్ని తీసివేయండి లేదా ఎన్కోడ్ చేయండి.
- స్పష్టమైన సమ్మతి మరియు పారదర్శకత: డ్రైవర్ ఏమి సేకరించబడుతుందో తెలుసుకోవాలి.
- సురక్షిత నిల్వ మరియు బదిలీ.
హెచ్చరిక: పబ్లిక్ క్లౌడ్ AI సాధనానికి ముడి VIN, స్థాన చరిత్ర లేదా డ్రైవింగ్ ప్రవర్తనను పంపడం అనేది గోప్యతా ఉల్లంఘన మరియు ఒప్పంద ప్రమాదం రెండూ కావచ్చు. ఈ డేటాతో పని చేస్తున్నప్పుడు, దానిని అనామకీకరించండి మరియు సంస్థాగత, డేటా-రక్షిత వాతావరణాన్ని ఉపయోగించండి.
నీతి మరియు ఇంజనీర్ బాధ్యత
కృత్రిమ మేధస్సు దానితో పాటు కొన్ని నైతిక ప్రమాదాలను తెస్తుంది:
- పక్షపాతం: శిక్షణ డేటా కొన్ని పరిస్థితులలో (ఉదా. పగటిపూట, తేలికపాటి చర్మం, కొన్ని ప్రాంతీయ రహదారులు) ఎక్కువగా ఉంటే, తక్కువ ప్రాతినిధ్యం లేని పరిస్థితుల్లో (రాత్రి, విభిన్న పరిస్థితులు) మోడల్ పేలవంగా పని చేస్తుంది. ఇది ఒక దుర్బలత్వం.
- ఓవర్ కాన్ఫిడెన్స్ (ఆటోమేషన్ బయాస్): ప్రజలు ఆటోమేషన్ను గుడ్డిగా విశ్వసిస్తారు మరియు వారి స్వంత తీర్పును భర్తీ చేస్తారు. AI "పాస్" అని చెప్పినందున టెస్ట్ ఇంజనీర్ ముడి డేటాను చూడటం ఆపివేస్తే, ఇది ప్రమాదకరమైన ధోరణి.
- బాధ్యత కోల్పోవడం: "మోడల్ నిర్ణయించబడింది" అనేది రక్షణ కాదు. నిర్ణయం వెనుక సంతకం చేసే వ్యక్తి ఎల్లప్పుడూ ఉండాలి.
మినీ కేస్ స్టడీస్
కేసు 1 - SOTIF పరిమితి. ఆటోమేటిక్ ఎమర్జెన్సీ బ్రేకింగ్ సిస్టమ్ అన్ని ప్రయోగశాల పరీక్షలను ఉత్తీర్ణత చేస్తుంది, ఎటువంటి లోపాలు లేకుండా. పొలంలో, తక్కువ ఎండలో, తెల్లటి ట్రక్కు ఆకాశానికి దాని ట్రైలర్ను పొరపాటు చేసి ఆలస్యంగా బ్రేక్ చేస్తుంది. ఇది లోపం కాదు, కానీ SOTIF దుర్బలత్వం: సిస్టమ్ చెక్కుచెదరకుండా ఉంది కానీ దృశ్యం గుర్తించే పరిమితికి వెలుపల ఉంది. బృందం ఈ దృష్టాంతాన్ని పరీక్ష లైబ్రరీకి జోడిస్తుంది మరియు రాడార్ ఫ్యూజన్ను బలపరుస్తుంది. ముగింపు: "నో వైఫల్యం" భద్రతకు రుజువు కాదు; లోపం కూడా ప్రమాదమే.
కేసు 2 - పక్షపాత డేటా. పాదచారులను గుర్తించే నమూనా ప్రధానంగా పగటిపూట డేటాతో శిక్షణ పొందింది; నైట్ రీకాల్ గణనీయంగా తక్కువగా ఉంది. బృందం రాత్రి మరియు తక్కువ కాంతి డేటాను బ్యాలెన్స్ చేస్తుంది మరియు మళ్లీ శిక్షణ ఇస్తుంది మరియు రాత్రి దృశ్యాలను విడిగా నివేదిస్తుంది. ముగింపు: అసమతుల్య డేటా కొన్ని పరిస్థితులలో ఘోరమైన దుర్బలత్వాన్ని సృష్టిస్తుంది.
కేసు 3 - గోప్యతా ఉల్లంఘన నివారణ. డేటా ముడి VIN మరియు GPS స్థానాలను కలిగి ఉందని గమనించినప్పుడు విశ్లేషకుడు ఫ్లీట్ డేటాను పబ్లిక్ AI సాధనంలో అతికించబోతున్నాడు. ఇది డేటాను అనామకంగా మార్చడం ద్వారా కార్పొరేట్ వాతావరణంలో పని చేస్తుంది (VINకి బదులుగా వాహనం_01..arac_50, స్థానానికి బదులుగా రీజియన్ కోడ్). ఫలితం: ఒక క్షణం శ్రద్ధ తీవ్రమైన KVKK ఉల్లంఘనను నిరోధించింది.
ప్రాంప్ట్ టెంప్లేట్లు
టెంప్లేట్ 1 - PRIOR/రిస్క్ ప్రిలిమినరీ అసెస్మెంట్ (డ్రాఫ్ట్):
పాత్ర: మీరు ఫంక్షనల్ సేఫ్టీ కన్సల్టెంట్. విధి: ఒక ఫంక్షన్ కోసం ప్రమాదం మరియు ప్రమాద విశ్లేషణకు సహాయం చేయడానికి డ్రాఫ్ట్ను సిద్ధం చేస్తుంది. సందర్భం: ఫంక్షన్: ఆటోమేటిక్ అత్యవసర బ్రేకింగ్; అర్బన్ మరియు ఇంటర్సిటీ. నిర్బంధం: ASIL యొక్క ఖచ్చితమైన కేటాయింపు; తీవ్రత/బహిర్గతం/నియంత్రణ యొక్క కొలతలపై ప్రశ్నలు మరియు శ్రద్ధగల పాయింట్ల జాబితాను ఇవ్వండి; అధీకృత సెక్యూరిటీ ఇంజనీర్తో తుది కేటాయింపు ఉంటుందని సూచించండి.అవుట్పుట్: పరిమాణం | మూల్యాంకన ప్రశ్న | శ్రద్ధ గమనిక పట్టిక.
టెంప్లేట్ 2 - SOTIF దృశ్య స్కాన్:
పాత్ర: మీరు SOTIF నిపుణుడు. టాస్క్: డిటెక్షన్ ఫంక్షన్ 'సిస్టమ్ చెక్కుచెదరకుండా ఉంది కానీ సరిపోదు' అని జాబితా దృష్టాంతాలు. సందర్భం: కెమెరా + రాడార్; తక్కువ సూర్యుడు, మంచు, సొరంగం నిష్క్రమణ, అసాధారణ వస్తువులు. అవుట్పుట్: దృశ్యం | ఎందుకు అసమర్థత | తగ్గింపు సిఫార్సు.
టెంప్లేట్ 3 - గోప్యతా నియంత్రణ:
పాత్ర: మీరు డేటా రక్షణ (KVKK/GDPR) కన్సల్టెంట్. టాస్క్: డేటా సెట్ను షేర్ చేయడానికి ముందు గోప్యతా తనిఖీని నిర్వహించండి. సందర్భం: ఫ్లీట్ టెలిమెట్రీ; నిలువు వరుసలలో VIN, GPS, డ్రైవింగ్ స్కోర్ ఉన్నాయి. పరిమితి: ఏ ఫీల్డ్లు వ్యక్తిగత డేటా, అవి ఎలా అనామకంగా ఉండాలి, నేను దేనిని షేర్ చేయకూడదు; sort.Output: Field | ప్రమాదం | సిఫార్సు చేసిన లావాదేవీ చార్ట్.
టెంప్లేట్ 4 - బయాస్ చెక్:
పాత్ర: మీరు ML భద్రత మరియు న్యాయమైన ఆడిటర్. టాస్క్: డిటెక్షన్ మోడల్లో బయాస్ రిస్క్ కోసం ఎలా చూడాలో చెప్పండి. సందర్భం: పాదచారుల గుర్తింపు; శిక్షణ డేటా వెయిటెడ్ రోజు/నగరం. అవుట్పుట్: తనిఖీ చేయాల్సిన పరిస్థితి | కొలత | ప్రమాద సంకేతం.
బలహీనమైన ప్రాంప్ట్ / బలమైన ప్రాంప్ట్
బలహీనమైన ప్రాంప్ట్:
ఈ అటానమస్ బ్రేకింగ్ సిస్టమ్ సురక్షితమేనా, నిర్ధారించండి.
AI సెక్యూరిటీ క్లియరెన్స్ పొందడానికి ప్రయత్నించడం ప్రమాదకరం; ఆమోదం అధీకృత ఇంజనీర్కు చెందినది.
శక్తివంతమైన ప్రాంప్ట్:
పాత్ర: మీరు ఫంక్షనల్ సేఫ్టీ మరియు SOTIF కన్సల్టెంట్. టాస్క్: నా ఆటోమేటిక్ బ్రేకింగ్ ఫంక్షన్ యొక్క భద్రతా అంచనాలో నేను ఏ ప్రశ్నలు అడగాలి మరియు నేను ఏ సాక్ష్యాలను సేకరించాలి అని జాబితా చేయండి. సందర్భం: AI-ఆధారిత గుర్తింపు; కెమెరా+రాడార్; ASIL ఎక్కువగా ఉంటుంది. పరిమితి: సిస్టమ్ను 'ఆమోదించండి'; ISO 26262 (లోపం) మరియు SOTIF (లోపం) పరంగా ప్రశ్నలు మరియు సాక్ష్యాల ప్రత్యేక జాబితాలను అందించండి; తుది ఆమోదం అధీకృత భద్రతా ఇంజనీర్తో ఉంటుందని నొక్కి చెప్పండి. అవుట్పుట్: ఫ్రేమ్వర్క్ | ప్రశ్న | అవసరమైన సాక్ష్యం పట్టిక.
సాధారణ తప్పులు
- "ఏ లోపం"తో "సురక్షితమైనది" అని గందరగోళం. SOTIF లోపం పనిచేయకుండానే చంపేస్తుంది.
- AI సెక్యూరిటీ క్లియరెన్స్ పొందడం. ఆమోదం మరియు బాధ్యత అధీకృత ఇంజనీర్పై ఉంటుంది.
- భద్రతకు రుజువుగా మోడల్ ఖచ్చితత్వాన్ని తప్పుబడుతోంది. 99.9% ఖచ్చితత్వం మిగిలిన ప్రమాదం నిర్వహించబడిందని సూచించదు.
- వ్యక్తిగత డేటాను రక్షించడం లేదు. VIN/స్థానం/డ్రైవింగ్ ప్రవర్తన KVKK/GDPR పరిధిలో ఉంటుంది.
- పక్షపాతం మరియు అతి విశ్వాసాన్ని విస్మరించడం. అసమతుల్య డేటా మరియు ఆటోమేషన్లో గుడ్డి నమ్మకం దుర్బలత్వాలు.
సారాంశంలో
- ISO 26262 వైఫల్యం కారణంగా ప్రమాదాన్ని నిర్వహిస్తుంది (ASILతో), అయితే ISO 21448/SOTIF వైఫల్యం లేకుండా విఫలమయ్యే ప్రమాదాన్ని నిర్వహిస్తుంది; AI డిటెక్షన్లో రెండూ కీలకం.
- ISO/SAE 21434 సైబర్ భద్రత; విరోధి మరియు డేటా విషపూరిత దాడులు AI-నిర్దిష్ట బెదిరింపులు.
- KVKK/GDPR పరిధిలో డేటా కనిష్టీకరణ, ప్రయోజన పరిమితి మరియు అనామకీకరణ తప్పనిసరి; VIN/స్థానం అనేది వ్యక్తిగత డేటా.
- పక్షపాతం, అతి విశ్వాసం మరియు బాధ్యత కోల్పోవడం ప్రధాన నైతిక ప్రమాదాలు.
- AI అవుట్పుట్ అర్హత కలిగిన ఇంజనీర్ ఆమోదానికి ప్రత్యామ్నాయం కాదు; భద్రత-క్లిష్టమైన నిర్ణయం మరియు సంతకం ఎల్లప్పుడూ వ్యక్తికి చెందినవి.
అప్లికేషన్ టాస్క్
భద్రత-సంబంధిత ఫంక్షన్ను ఎంచుకోండి (ఉదా. లేన్ కీపింగ్). (1) ఈ ఫంక్షన్ యొక్క ASIL స్థాయి తీవ్రత/ఎక్స్పోజర్/నియంత్రణ కొలతలతో పాటు ఎందుకు ఎక్కువ/తక్కువగా ఉండవచ్చో చర్చించండి. (2) టెంప్లేట్ 2తో 5 “సిస్టమ్ పటిష్టమైన కానీ సరిపోని” దృశ్యాలను రూపొందించండి. (3) టెంప్లేట్ 3తో సంబంధిత డేటాసెట్ను గోప్యత ఆడిట్ చేయండి. (4) “మోడల్ ధృవీకరించబడింది” అని చెప్పడం ఎందుకు రక్షణ కాదు అని వివరించండి.
చెక్లిస్ట్
- [ ] నేను ఫంక్షన్ యొక్క వాస్తవ కొలతలను మూల్యాంకనం చేసాను (నేను ఖచ్చితమైన అసైన్మెంట్ను అధికారానికి వదిలివేసాను).
- [ ] నేను ISO 26262 (వైకల్యం) మరియు SOTIF (సమర్థత) మధ్య వ్యత్యాసాన్ని గుర్తించాను.
- [ ] నేను సైబర్ భద్రత (ప్రత్యర్థి/విషం) ప్రమాదాన్ని పరిగణనలోకి తీసుకున్నాను.
- [ ] నేను వ్యక్తిగత డేటాను అజ్ఞాతీకరించాను మరియు కనిష్టీకరించాను.
- [ ] నేను పక్షపాతం మరియు అతి విశ్వాసం యొక్క ప్రమాదాలను తనిఖీ చేసాను.
- [ ] సెక్యూరిటీ క్లియరెన్స్ అర్హత కలిగిన ఇంజనీర్ వద్ద ఉందని నేను ధృవీకరించాను.