AI-વિશિષ્ટ જોખમો અને જોખમ વ્યવસ્થાપન

નફો:

• AI-વિશિષ્ટ જોખમોને ઓળખવાની ક્ષમતા જેમ કે આભાસ, પૂર્વગ્રહ, ડેટા લીકેજ, મોડલ ડ્રિફ્ટ, નિર્ભરતા અને વ્યવસાયિક અસર સાથે અસ્પષ્ટતા
• સંભવિતતા અને અસરના પરિમાણોમાં જોખમોને સ્કોર કરવા અને તેને ઘટાડવાના પગલાં સાથે સંસ્થાની જોખમની ભૂખમાં રાખવા
• એકરૂપતાને બદલે જોખમના સ્તર અનુસાર દેખરેખને સમાયોજિત કરવાની ક્ષમતા, માનવ અંતિમ કહેવાની ખાતરી કરવી અને ઉચ્ચ જોખમના નિર્ણયોમાં સતત દેખરેખ

મૂલ્ય અને જોખમ એક જ સિક્કાની બે બાજુઓ છે. AI મૂલ્યના નવા સ્ત્રોતો ખોલે છે, પરંતુ તે નવા પ્રકારનાં જોખમો પણ રજૂ કરે છે જે પરંપરાગત સોફ્ટવેર વહન કરતું નથી. વરિષ્ઠ મેનેજર માટે, મુદ્દો જોખમ ટાળવાનો નથી, પરંતુ જોખમને સભાનપણે સંચાલિત કરવાનો છે (જોખમ વ્યવસ્થાપન; જોખમોને ઓળખવા, માપવા, ઘટાડવાની અને તેમને સ્વીકાર્ય મર્યાદામાં રાખવાની શિસ્ત). આ એકમમાં, તમે AI માટે વિશિષ્ટ જોખમો, તેમની વ્યવસાયિક અસર અને વ્યવહારિક શમન પદ્ધતિઓ વિશે શીખી શકશો. ઉદ્દેશ્ય "તે ન કરો કારણ કે ત્યાં જોખમ છે" અથવા "જો કોઈ જોખમ નથી તેમ કાર્ય કરવું" નથી; તે દરેક પહેલને સભાન જોખમની ભૂખ સાથે હાથ ધરવાનું છે; જોખમનું સ્તર જે સંસ્થા લેવા તૈયાર છે.

AI-વિશિષ્ટ જોખમો

પરંપરાગત IT જોખમો (નબળાઈ, આઉટેજ) હજુ પણ લાગુ પડે છે; પરંતુ કૃત્રિમ બુદ્ધિ તેના પોતાના જોખમો ઉમેરે છે:

જોખમ પ્રકાર

તમારો મતલબ શું છે?

વ્યવસાય પ્રભાવનું ઉદાહરણ

આભાસ

તે બનેલું હતું પરંતુ તે વિશ્વાસપાત્ર બન્યું

ગ્રાહકને ખોટી માહિતી, કાનૂની જવાબદારી

પૂર્વગ્રહ

આઉટપુટ પરના ડેટામાં અન્યાયનું પ્રતિબિંબ

ભેદભાવપૂર્ણ ભરતી/ક્રેડિટ નિર્ણય

ડેટા લીક

વાહનમાં ગુપ્ત ડેટા લીક થાય છે

KVKK ઉલ્લંઘન, પ્રતિષ્ઠા ગુમાવવી

મોડલ ડ્રિફ્ટ

સમય જતાં પ્રદર્શનમાં ઘટાડો

નિર્ણયો શાંત ઉથલાવી

વ્યસન

એક જ સપ્લાયરમાં લૉક

કિંમત/એક્સેસ આંચકો

અસ્પષ્ટતા

નિર્ણયનું કારણ જાણતા નથી

ઓડિટ અને વાંધાઓની મુશ્કેલી

અહીં બે શબ્દો મહત્વપૂર્ણ છે: પૂર્વગ્રહ એ છે જ્યારે કૃત્રિમ બુદ્ધિ તાલીમ ડેટામાં અયોગ્ય પેટર્ન શીખે છે અને તેના નિર્ણયોમાં તેને પ્રતિબિંબિત કરે છે; ઉદાહરણ તરીકે, જો ઐતિહાસિક હાયરિંગ ડેટા એક જૂથની તરફેણ કરે છે, તો મોડેલ પણ કરે છે. મૉડલ ડ્રિફ્ટ ત્યારે થાય છે જ્યારે મૉડલ અપ્રચલિત થઈ જાય છે અને વિશ્વ બદલાતા (નવા ઉત્પાદનો, નવી વર્તણૂકો) સાથે તેનું પ્રદર્શન શાંતિપૂર્વક ઘટતું જાય છે.

ટિપ: જોખમનો વિચાર "કદાચ/ન થાય" ના સંદર્ભમાં નહીં પરંતુ બે પરિમાણોમાં કરો: સંભાવના (કેટલી શક્યતા) અને અસર (જો તે થાય તો કેટલું નુકસાન). ઉચ્ચ અસર + ઉચ્ચ સંભાવના ધરાવતા લોકોને પહેલા સંબોધવામાં આવે છે; નીચા+નીચા મૂલ્યો ધરાવતા લોકો સ્વીકારવામાં આવે છે અને તેનું નિરીક્ષણ કરવામાં આવે છે.

જોખમ સ્તર અનુસાર દેખરેખ

દરેક વપરાશ વિસ્તાર સમાન જોખમ ધરાવતું નથી. સ્માર્ટ અભિગમ એ જોખમના સ્તર પર દેખરેખને અનુરૂપ બનાવવાનો છે:

• ઓછું જોખમ (ઇનસેટ ડ્રાફ્ટ, વિચારમંથન): પ્રકાશ નિરીક્ષણ, ઝડપ અગ્રતા.
• મધ્યમ જોખમ (ગ્રાહક માટે સામગ્રી, નિર્ણય સમર્થન): માનવ મંજૂરી, નમૂના નિયંત્રણ.
• ઉચ્ચ જોખમ (ક્રેડિટ, ભરતી, આરોગ્ય, કાનૂની): ફરજિયાત માનવ ચુકાદો, સંપૂર્ણ નોંધણી, નિયમિત ઓડિટ.

આ "જોખમ આધારિત" અભિગમ EU AI કાયદા (યુનિટ 9) ની કરોડરજ્જુ પણ છે.

પગલું દ્વારા પગલું: જોખમ સંચાલન ચક્ર

1. જોખમોને ઓળખો. દરેક પહેલ માટે AI-વિશિષ્ટ જોખમોની યાદી બનાવો.

2. સ્કોર શક્યતા અને અસર. દરેક જોખમનું બે પરિમાણોમાં મૂલ્યાંકન કરો અને પ્રાથમિકતા આપો.

3. શમન માપની વ્યાખ્યા આપો. જેમ કે માનવ મંજૂરી, ડેટા અનામીકરણ, ટ્રેકિંગ, સપ્લાયર વૈવિધ્યકરણ.

4. બાકી રહેલા જોખમને સ્વીકારો અથવા રોકો. ઘટાડા પછી બાકી રહેલું જોખમ સ્વીકારવામાં આવે છે જો તે ભૂખની અંદર હોય; જો નહિં, તો પ્રયાસ અટકે છે.

5. જુઓ અને સમીક્ષા કરો. જોખમો સ્થિર નથી; ડ્રિફ્ટ અને નવા જોખમો માટે સતત દેખરેખ જરૂરી છે.

ત્રણ નાના કેસો

કેસ 1 - આભાસની કિંમત. એરલાઇનના ગ્રાહક ચેટબોટે પેસેન્જર માટે અવિદ્યમાન રિફંડ પોલિસી "બનાવી" છે; ગ્રાહકે આના પર વિશ્વાસ કરીને ટ્રાન્ઝેક્શન કર્યું. કોર્ટે તેના પોતાના બોટના ઘોષણા માટે કંપનીને જવાબદાર ગણાવી હતી. પાઠ: ગ્રાહક માટે AI આઉટપુટ મધ્યમ/ઉચ્ચ જોખમ છે; ચકાસણી અને મર્યાદા જરૂરી હતી. બોટને પછી માત્ર મંજૂર નીતિ ગ્રંથોમાંથી પ્રતિસાદ આપવા માટે પ્રતિબંધિત કરવામાં આવ્યો હતો.

કેસ 2 - શાંત પૂર્વગ્રહ. ઐતિહાસિક ડેટામાં અસંતુલનને કારણે એક કંપનીના હાયરિંગ સ્ક્રિનિંગ મોડલ વ્યવસ્થિત રીતે અમુક શાળાઓમાંથી ભરતીની તરફેણ કરે છે. ઓડિટમાં તફાવત જાહેર થયો હતો; પ્રતિષ્ઠા અને કાનૂની જોખમ હતું. મોડલને સંરક્ષિત લાક્ષણિકતાઓથી અલગ કરવામાં આવ્યું હતું અને નિયમિત ન્યાય નિરીક્ષણ સાથે જોડવામાં આવ્યું હતું. જો શરૂઆતથી જ પૂર્વગ્રહ પરીક્ષણ કરવામાં આવ્યું હોત, તો આ બન્યું ન હોત.

કેસ 3 - ડ્રિફ્ટનું કેપ્ચર. જ્યારે નવી છેતરપિંડી પેટર્ન બહાર આવી ત્યારે બેંકનું છેતરપિંડી શોધ મોડલ શાંતિથી નબળું પડી ગયું હતું; 3 મહિનામાં મિસ રેટ 8% થી વધીને 19% થયો. સારા સમાચાર: એજન્સીએ માસિક પર્ફોર્મન્સ મોનિટરિંગ અમલમાં મૂક્યું હતું, ડ્રિફ્ટ વહેલું શોધી કાઢવામાં આવ્યું હતું, અને મોડેલને ફરીથી તાલીમ આપવામાં આવી હતી. દેખરેખ વિના, નુકસાન ગુણાકાર થયું હોત.

ચાર નકલ કરી શકાય તેવા નમૂનાઓ

1) જોખમ ઇન્વેન્ટરી:

તમારી ભૂમિકા: AI રિસ્ક મેનેજર. નીચેના ઉપયોગના કેસ માટે AI-વિશિષ્ટ જોખમોની સૂચિ બનાવો: આભાસ, પૂર્વગ્રહ, ડેટા લીકેજ, ડ્રિફ્ટ, નિર્ભરતા, અસ્પષ્ટતા. દરેક જોખમ માટે, એક વાક્યમાં તેના સંભવિત અભિવ્યક્તિ અને આ દૃશ્યમાં વ્યવસાયની અસર લખો. ઉપયોગ વિસ્તાર: [ટેક્સ્ટ]

2) સંભાવના/અસર સ્કોરિંગ:

નીચેના જોખમોને સંભાવના (1-5) અને અસર (1-5) તરીકે સ્કોર કરીને અને ગુણાકાર કરીને પ્રાથમિકતા આપો. તમે શા માટે ટોચના ત્રણ જોખમોને પ્રાધાન્ય આપો છો તે સમજાવો. જોખમો: [સૂચિ]

3) શમન યોજના:

નીચેના અગ્રતાના જોખમો માટે વ્યવહારુ શમન પગલાં પ્રસ્તાવિત કરો: [જોખમો]. દરેક માપ માટે: શું કરવું, કોણ જવાબદાર છે, જોખમના કયા સ્તરે ફરજિયાત છે. જ્યાં યોગ્ય હોય ત્યાં માનવ દેખરેખ, ડેટા અનામીકરણ, દેખરેખ અને સપ્લાયર વૈવિધ્યકરણનો ઉપયોગ કરો.

4) જોખમ-આધારિત સર્વેલન્સ મેટ્રિક્સ:

જોખમ સ્તર (નીચા/મધ્યમ/ઉચ્ચ) માટે ઉપયોગના નીચેના ક્ષેત્રોને સોંપો અને દરેક સ્તર માટે જરૂરી દેખરેખ નક્કી કરો: શું માનવીય મંજૂરી જરૂરી છે, શું રેકોર્ડ રાખવામાં આવશે, નિરીક્ષણ આવર્તન શું છે? ઉપયોગો: [સૂચિ]

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા: "આ AI પ્રોજેક્ટના જોખમો શું છે?"

નિષ્કર્ષ: જોખમોની સામાન્ય સૂચિ; સંભાવના, અસર અને કોઈ શમન, તમે નક્કી કરી શકતા નથી.

Güçlü: "અમે બેંકમાં લોન અરજીના પ્રારંભિક મૂલ્યાંકનમાં AI નો ઉપયોગ કરીશું (માણસ અંતિમ નિર્ણય લેશે). આ દૃશ્ય માટે વિશિષ્ટ જોખમોની સૂચિ બનાવો (પૂર્વગ્રહ, અસ્પષ્ટતા, ભ્રામકતા, ડેટા ગોપનીયતા); દરેકને સંભાવના અને અસર દ્વારા સ્કોર કરો; નક્કર શમન અને દેખરેખ સૂચવો. આ ત્રણેય રાજ્ય માટે સૌથી વધુ જોખમની આવશ્યકતાઓ પણ ગણાય છે."

પરિણામ: એક દૃશ્ય-વિશિષ્ટ, સ્કોર, ઘટાડવું અને અનુપાલન-સંબંધિત જોખમ વિશ્લેષણ.

સામાન્ય ભૂલો

• તમામ પહેલ પર સમાન દેખરેખ લાગુ કરવી. ઓછા જોખમવાળા કામને ધીમું કરવું એટલું જ હાનિકારક છે જેટલું વધારે જોખમવાળા કામની અવગણના કરવી; દેખરેખ જોખમ સ્તર પર આધારિત હોવી જોઈએ.
• આભાસને "નાની ભૂલ" ગણીને ભૂલ કરવી. ગ્રાહકને ખોટું આઉટપુટ કાનૂની જવાબદારીમાં પરિણમી શકે છે.
• પૂર્વગ્રહ માટે પરીક્ષણ નથી. નિષ્પક્ષતા પરીક્ષણ વિના જમાવવામાં આવેલ મોડેલ શાંત ભેદભાવ પેદા કરી શકે છે.
• ડ્રિફ્ટ જોઈ નથી. એક મોડેલ કે જે એકવાર સારી રીતે કામ કરે છે તે કાયમ માટે સારું કામ કરતું નથી; સતત દેખરેખ જરૂરી છે.
• એક જ સપ્લાયરમાં લોકીંગ. એક્ઝિટ પ્લાન વિના, વ્યસન તમને કિંમત અને એક્સેસ શોક માટે ખુલ્લું મૂકે છે.

સાવધાન: જોખમ વ્યવસ્થાપન એકવાર અને બધા માટે નથી; આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમ એ જીવંત પ્રણાલી છે. માત્ર કારણ કે આજે એક મોડેલ સલામત છે તે બાંહેધરી આપતું નથી કે તે આવતીકાલે સુરક્ષિત રહેશે. સતત દેખરેખ, નિયમિત નિરીક્ષણ અને સ્પષ્ટ કિલ સ્વીચ દરેક ઉચ્ચ જોખમી સિસ્ટમનો ભાગ હોવો જોઈએ.

સારાંશમાં

પરંપરાગત IT જોખમોની ટોચ પર, AI અનન્ય જોખમો જેમ કે ભ્રામકતા, પૂર્વગ્રહ, ડેટા લીકેજ, ડ્રિફ્ટ, નિર્ભરતા અને અસ્પષ્ટતા ઉમેરે છે. આ જોખમોનું મૂલ્યાંકન કરવું જોઈએ અને સંભાવના અને અસરની દ્રષ્ટિએ પ્રાથમિકતા આપવી જોઈએ, અને ઘટાડાના પગલાં સાથે સંસ્થાની જોખમની ભૂખમાં રાખવી જોઈએ. સર્વેલન્સ એકસમાન નથી પરંતુ જોખમના સ્તરને અનુરૂપ હોવું જોઈએ; ઉચ્ચ-જોખમના નિર્ણયોમાં, લોકોનો અંતિમ અભિપ્રાય હોવો જોઈએ. જોખમ વ્યવસ્થાપન એ સતત ચક્ર છે; દેખરેખ અને નિયંત્રણ વિના પૂર્ણ નથી. આગામી એકમમાં, અમે શાસન અને નીતિ માળખું સ્થાપિત કરીશું જે આ જોખમ શિસ્તને કાયમી બનાવે છે.

એપ્લિકેશન કાર્ય

AI ઉપયોગનો કેસ પસંદ કરો અને નમૂના 1 સાથે તેના ચોક્કસ જોખમોની યાદી બનાવો. ત્રણ સૌથી જટિલને ઓળખીને, સંભાવના અને અસર દ્વારા દરેક જોખમને સ્કોર કરો. આ ત્રણ જોખમો માટે નક્કર શમન પગલાં અને દેખરેખનું સ્તર લખો. છેલ્લે, ઉપયોગને નીચા/મધ્યમ/ઉચ્ચ જોખમ તરીકે વર્ગીકૃત કરો અને નોંધ કરો કે આ દેખરેખની જરૂરિયાતોને કેવી રીતે બદલે છે.

ચેકલિસ્ટ

• [ ] મેં આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિનારીયો-સ્પેસિફિક માટે ચોક્કસ જોખમોની યાદી આપી છે.
• [ ] મેં દરેક જોખમને સંભાવના અને અસર દ્વારા મેળવ્યું.
• [ ] મેં સૌથી ગંભીર જોખમો માટે શમનના પગલાં વ્યાખ્યાયિત કર્યા છે.
• [ ] મેં જોખમ સ્તર અનુસાર ઉપયોગ વિસ્તારનું વર્ગીકરણ કર્યું છે.
• [ ] મેં જોખમના સ્તર અનુસાર સર્વેલન્સને સમાયોજિત કર્યું.
• [ ] મેં પૂર્વગ્રહ અને ડ્રિફ્ટ માટે પરીક્ષણ/નિરીક્ષણનું આયોજન કર્યું.
• [ ] મેં હાઈ રિસ્ક સિસ્ટમ માટે સ્ટોપિંગ ઓથોરિટી સેટ કરી છે.