રિસ્ક એસેસમેન્ટ સપોર્ટ એન્ડ સિક્યુરિટી પ્લાનિંગઃ ધ મોસ્ટ સેન્સિટિવ ફ્રન્ટિયર

નફો:

• કૃત્રિમ બુદ્ધિમત્તા સાથે જોખમ અને રક્ષણાત્મક પરિબળ ચેકલિસ્ટ અને સુરક્ષા યોજના હાડપિંજર તૈયાર કરવાની ક્ષમતા અને કોઈપણ ક્ષેત્રને છોડ્યા વિના કાર્ય
• સમજો કે જોખમ સ્તર/સ્કોર અને સુરક્ષા નિર્ણયો માત્ર નિષ્ણાતો, ટીમો, દેખરેખ અને કાનૂની પ્રક્રિયાઓ દ્વારા લેવામાં આવે છે અને તે કૃત્રિમ બુદ્ધિ નિર્ણયો લઈ શકતી નથી.
• કૃત્રિમ બુદ્ધિમત્તા વંચિત જૂથો માટે વ્યવસ્થિત પૂર્વગ્રહને આભારી હોઈ શકે છે તે જોવું અને તેના આઉટપુટનો નિર્ણય તરીકે ક્યારેય ઉપયોગ ન કરવાની શિસ્ત લાગુ કરવી અને માત્ર એક સુરક્ષિત સિસ્ટમમાં સૌથી સંવેદનશીલ ડેટાની પ્રક્રિયા કરવી.

સામાજિક કાર્યની સૌથી ગંભીર જવાબદારી જોખમનું મૂલ્યાંકન છે - ચુકાદાઓ જે જીવનની સલામતી સાથે સીધી રીતે સંબંધિત છે, જેમ કે બાળકની અવગણના અથવા દુરુપયોગ થાય છે કે કેમ, કોઈ વ્યક્તિ પોતાને અથવા અન્ય કોઈને નુકસાન પહોંચાડે છે કે કેમ, કોઈ વૃદ્ધ વ્યક્તિ સુરક્ષિત છે કે નહીં, અથવા હિંસાનો ભોગ બનેલી વ્યક્તિ કેટલી જોખમમાં છે. આ એકમનો પહેલો અને સૌથી બોલ્ડ નિયમ આ છે: જોખમનો નિર્ણય લેવો એ એઆઈનો નથી, ન કરી શકે અને ન હોવો જોઈએ. વ્યક્તિની સલામતી વિશે નિર્ણય; તે માટે વ્યાવસાયિક સત્તા, ક્લિનિકલ ચુકાદો, મલ્ટિડિસિપ્લિનરી ટીમ અભિપ્રાય, દેખરેખ અને કાનૂની જવાબદારી જરૂરી છે. AI એ અહીં માત્ર તૈયારી અને રીમાઇન્ડર ટૂલ છે: તે તમને યાદ અપાવે છે કે કયા જોખમ અને રક્ષણાત્મક પરિબળોની સમીક્ષા કરવી, તમારી નોંધ ગોઠવવી, સલામતી યોજનાની રૂપરેખા. તે સ્કોર આપતું નથી, તે કહેતું નથી કે "જોખમ ઓછું/ઊંચુ છે", તે નિર્ણય લેતો નથી.

શા માટે આપણે આટલું સખત ભાર આપીએ છીએ? કારણ કે જોખમના ક્ષેત્રમાં, AI ભૂલની કિંમત બદલી ન શકાય તેવી છે. AI નું જોખમ "નીચું" તરીકેનું રેટિંગ બાળકને અસુરક્ષિત છોડી દે છે; જોખમને બિનજરૂરી રીતે "ઉચ્ચ" લાગવાથી કુટુંબ અયોગ્ય રીતે અલગ થઈ શકે છે. વધુમાં, AI પ્રશિક્ષણ ડેટામાં પૂર્વગ્રહ ધરાવે છે: એલ્ગોરિધમ કે જે વ્યવસ્થિત રીતે ચોક્કસ સામાજિક-આર્થિક જૂથો, વંશીયતાઓ અથવા પડોશીઓ માટે ઉચ્ચ જોખમને આભારી છે, વિશ્વભરમાં દસ્તાવેજીકરણ કરવામાં આવ્યું છે. તેથી જો AI નું આઉટપુટ ઇનપુટ હોય તો પણ તે તમારા સ્વતંત્ર ચુકાદાને ક્યારેય ઓવરરાઇડ કરી શકતું નથી.

AI ની કાયદેસર ભૂમિકા: રીમાઇન્ડર અને નિયમન

ત્યાં ત્રણ સ્થાનો છે જ્યાં તમે જોખમમાં AI નો સુરક્ષિત રીતે ઉપયોગ કરી શકો છો:

1. પરિબળ રીમાઇન્ડર. જોખમી પરિબળો (દા.ત., હિંસાનો ભૂતકાળનો ઇતિહાસ, પદાર્થનો ઉપયોગ, સામાજિક અલગતા, અગાઉના પ્રવેશ) અને રક્ષણાત્મક પરિબળો (દા.ત., એક સહાયક પુખ્ત, નિયમિત શાળામાં હાજરી, એક મજબૂત સામાજિક નેટવર્ક) જે જોખમ મૂલ્યાંકનમાં ધ્યાનમાં લેવા જોઈએ તે લાંબા છે; તમારી સંસ્થા જે ફ્રેમવર્કનો ઉપયોગ કરે છે તેના માટે બંધબેસતી ચેકલિસ્ટને યાદ કરીને AI તમને કોઈપણ ક્ષેત્રો ગુમાવવાનું ટાળવામાં મદદ કરે છે.

2. નોંધ સંપાદન. તે તમારા અવલોકન અને ક્લાયંટના નિવેદનોને સંગઠિત, વાસ્તવિક ટેક્સ્ટમાં અનુવાદિત કરે છે — જેથી તમે તમારા નિર્ણયને સ્પષ્ટ ડેટા પર આધારિત કરી શકો.

3. ડ્રાફ્ટ સુરક્ષા યોજના. સુરક્ષા યોજના (એક નક્કર યોજના જે નિર્ધારિત કરે છે કે પીડિત જોખમના કિસ્સામાં શું કરશે, તે કોનો સંપર્ક કરશે, તે ક્યાં જશે) ચોક્કસ માળખું ધરાવે છે. AI ક્લાયંટ સાથે ભરવા માટે ડ્રાફ્ટ હાડપિંજર બનાવી શકે છે; પરંતુ તમે અને ક્લાયન્ટ વાસ્તવિકતા અનુસાર યોજનાની સામગ્રી ભરો.

સાવધાન: એઆઈને ક્યારેય પૂછશો નહીં કે "આ કિસ્સામાં જોખમનું સ્તર શું છે?" અથવા "શું બાળક ઘરે સુરક્ષિત છે?" પૂછશો નહીં. નિર્ણય તરીકે આઉટપુટનો ઉપયોગ કરશો નહીં, ભલે તમે પૂછો. આ પ્રશ્નોના જવાબ ફક્ત સંસ્થાના સત્તાવાર જોખમ સાધન દ્વારા અધિકૃત નિષ્ણાત, ટીમ અને દેખરેખ દ્વારા આપવામાં આવે છે.

સ્ટેપ બાય સ્ટેપ: જોખમ પ્રક્રિયામાં AIને યોગ્ય રીતે સ્થાન આપવું

1. સલામતી પ્રથમ. જો તાત્કાલિક અને ગંભીર ખતરો (જીવન સલામતી) હોય, તો સંસ્થાની કટોકટીની પ્રક્રિયાનું સંચાલન કરવું જરૂરી છે, AI સાથે વ્યવહાર કરવા માટે નહીં. AI એ કોઈપણ તાકીદમાં વિલંબ ન કરવો જોઈએ.
2. ઓળખાણ. જોખમ રેટિંગ સૌથી સંવેદનશીલ ડેટા છે; ક્લાયન્ટને ઓળખતી માહિતી ઓપન ટૂલમાં દાખલ કરવામાં આવતી નથી, ફક્ત સુરક્ષિત સંસ્થા ટૂલનો ઉપયોગ કરવામાં આવે છે.
3. મને પરિબળ યાદી યાદ કરાવો. સંસ્થાકીય માળખાને અનુરૂપ જોખમ અને રક્ષણાત્મક પરિબળ ચેકલિસ્ટની વિનંતી કરો.
4. તમારો પોતાનો નિર્ણય કરો. તમે પરિબળોનું વજન કરો, ટીમ સાથે મૂલ્યાંકન કરો અને સુપરવાઇઝર સાથે સલાહ લો. તમે નથી ઇચ્છતા કે AI "મૂલ્યાંકન" કરે.
5. ગ્રાહક સાથે સલામતી યોજના પૂર્ણ કરો. ડ્રાફ્ટ હાડપિંજર AI માંથી આવી શકે છે; સામગ્રી ક્લાયંટના વાસ્તવિક નેટવર્ક, સંસાધનો અને પસંદગીઓ સાથે રચાયેલ છે.

ત્રણ નાના કેસો

કેસ 1 - ચૂકી ગયેલ રક્ષણાત્મક પરિબળ. એક નિષ્ણાત ઘરેલુ હિંસા કેસમાં જોખમી પરિબળો પર ધ્યાન કેન્દ્રિત કરે છે. ફેક્ટર ચેકલિસ્ટ માટે તેણે AI ને પૂછ્યું હતું કે તેને "રક્ષણાત્મક પરિબળો" વિભાગમાં ક્લાયંટના સુરક્ષિત સપોર્ટ નેટવર્ક વિશે પૂછવામાં આવ્યું હતું - એક વિસ્તાર જે નિષ્ણાત ચૂકી ગયો હતો. આ નેટવર્ક સુરક્ષા યોજનાનો સૌથી વાસ્તવિક ભાગ બની ગયો. નિર્ણય ફરીથી નિષ્ણાત પર હતો; એઆઈએ માત્ર પ્રશ્ન યાદ કરાવ્યો.

કેસ 2 - ખોટો સ્કોર વિશ્વસનીય ન હતો. એક એજન્સીએ ટ્રાયલ AI ટૂલના કેસને "ઓછા જોખમ" તરીકે લેબલ જોયો. જો કે, નિષ્ણાતનું અવલોકન અને ક્લાયંટનું નિવેદન ગંભીર જોખમ તરફ ધ્યાન દોરે છે. ટીમે AI લેબલને નકારી કાઢ્યું અને તેના પોતાના મૂલ્યાંકનના આધારે રક્ષણાત્મક કાર્યવાહી શરૂ કરી. પાછળથી પુષ્ટિ થઈ કે ખતરો વાસ્તવિક હતો. પાઠ: AI સ્કોર એ નિર્ણય નથી; માનવ ચુકાદો અગ્રતા લે છે.

કેસ 3 - પૂર્વગ્રહ પકડાયો. એક અજમાયશમાં, સમાન કેસ એઆઈને બે વાર આપવામાં આવ્યો હતો; ફરક માત્ર એ પડોશનો હતો જ્યાં ક્લાયન્ટ રહેતો હતો. AI એ વંચિત તરીકે ઓળખાતા પડોશ માટે વ્યવસ્થિત રીતે ઉચ્ચ "જોખમની ભાષા" ઉત્પન્ન કરી. આનાથી AIના પ્રશિક્ષણ ડેટામાં પૂર્વગ્રહ પ્રદર્શિત થયો અને જોખમી નિર્ણય લેવામાં AI નો ઉપયોગ ન કરવાની એજન્સીની નીતિને વધુ મજબૂત બનાવી.

ચાર નકલ કરી શકાય તેવા નમૂનાઓ

1) જોખમ/રક્ષણાત્મક પરિબળ રીમાઇન્ડર:

તમારી ભૂમિકા: સામાજિક કાર્ય નિરીક્ષક માટે મદદનીશ. જોખમી પરિબળો અને રક્ષણાત્મક પરિબળોની એક ચેકલિસ્ટ તૈયાર કરો જેની [ઘરેલુ હિંસા] કેસમાં જોખમ મૂલ્યાંકનમાં સમીક્ષા કરવાની ભલામણ કરવામાં આવે છે. રીમાઇન્ડર્સની સૂચિ તરીકે આને પ્રસ્તુત કરો; કોઈપણ સ્કોર્સ, નિર્ણયો અથવા "જોખમ સ્તર" ઉત્પન્ન કરશો નહીં. મૂલ્યાંકન અને નિર્ણય નિષ્ણાતનો છે.

2) સુરક્ષા યોજના ડ્રાફ્ટ હાડપિંજર:

તમારી ભૂમિકા: સંપાદક. ઘરેલું હિંસાનો ભોગ બનેલી વ્યક્તિ સાથે ભરવામાં આવતી સલામતી યોજનાની ખાલી રૂપરેખા તૈયાર કરો: ચેતવણી ચિહ્નો, સલામત સ્થાનો, સંપર્ક કરવા માટેના લોકો અને સંસ્થાઓ, મહત્વપૂર્ણ દસ્તાવેજો, બાળકો માટેની યોજના, ડિજિટલ સલામતી. સામગ્રી ભરવા; ક્લાયન્ટ સાથે ભરવા માટે દરેક મથાળા હેઠળ ખાલી જગ્યાઓ છોડો.

3) જોખમ નોંધ સંપાદિત કરવી (નિર્ણય લીધા વિના):

નીચેના અવલોકનો અને નિવેદન નોંધોને તથ્યપૂર્ણ, સંગઠિત લખાણમાં અનુવાદિત કરો. લેબલ અવલોકન અને ક્લાયંટ સ્ટેટમેન્ટ અલગથી. જોખમ સ્તર જણાવવું, નિર્ણય લેવો, ટિપ્પણી ઉમેરો. નોંધમાં જે છે તે જ સંપાદિત કરો અને ગુમ/અસ્પષ્ટ વિસ્તારોને ચિહ્નિત કરો. નોંધ: [ડી-ઓળખાયેલ નોંધ પેસ્ટ કરો]

4) પૂર્વગ્રહ સ્વ-નિયંત્રણ:

નીચેની જોખમ નોંધના ડ્રાફ્ટમાં, શું કોઈ નિવેદન છે જે ક્લાયન્ટની સામાજિક આર્થિક સ્થિતિ, વંશીયતા, પડોશી અથવા સમાન લાક્ષણિકતાને કારણે અપ્રમાણિત પૂર્વગ્રહ દર્શાવે છે? પુરાવાને બદલે સ્ટીરિયોટાઇપ્સ પર આધારિત દરેક વાક્યને ચિહ્નિત કરો. ટેક્સ્ટ બદલશો નહીં, ફક્ત ચેતવણી આપો. નોંધ: [નોંધ પેસ્ટ કરો]

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા પ્રોમ્પ્ટ:

આ કેસ વાંચો અને નક્કી કરો કે બાળક માટે ઘરમાં રહેવું સલામત છે કે કેમ અને જોખમનું સ્તર શું છે.

આ સોફ્ટવેરને માનવ જીવન વિશેનો સૌથી વધુ વજનદાર નિર્ણય આઉટસોર્સ કરી રહ્યો છે. તે અનૈતિક છે, વ્યાવસાયિક જવાબદારીની વિરુદ્ધ છે અને AI ના પૂર્વગ્રહને સીધા બાળકના ભાવિમાં વહન કરે છે.

શક્તિશાળી પ્રોમ્પ્ટ:

તમારી ભૂમિકા: રીમાઇન્ડર સહાયક. નીચે આપેલી બિન-ઓળખાયેલ નોંધ વાંચતા પહેલા, [બાળકોની ઉપેક્ષા] કેસોના મૂલ્યાંકનમાં સમીક્ષા કરવા માટે જોખમ અને રક્ષણાત્મક પરિબળોની એક ચેકલિસ્ટ તૈયાર કરો. નિર્ણય, સ્કોર અથવા જોખમ સ્તરનું ઉત્પાદન. હું મારી ટીમ સાથે મૂલ્યાંકન કરીશ; તમે ફક્ત મને યાદ કરાવો કે મારે કયા ક્ષેત્રો છોડવા જોઈએ નહીં.

તફાવત: નિર્ણયો માટે પૂછવાને બદલે "મારે કયા પ્રશ્નો ભૂલી ન જવું જોઈએ" કહેવું એ એઆઈને સલામત અને નૈતિક સીમા પર રાખે છે.

જોખમના ક્ષેત્રમાં ભૂમિકાની સીમાઓ

ક્વેસ્ટ

શું AI તે કરી શકે છે?

કોણ કરે છે?

પરિબળ ચેકલિસ્ટ રીમાઇન્ડર

હા

AI (રિમાઇન્ડર)

નોંધોને હકીકતમાં સંપાદિત કરો

હા

AI + નિષ્ણાતની મંજૂરી

સુરક્ષા યોજના ખાલી હાડપિંજર

હા

AI; સામગ્રી ક્લાયંટ + નિષ્ણાત

જોખમ સ્તર/સ્કોર નિર્ધારણ

ના

નિષ્ણાત + ટીમ + દેખરેખ

"શું તે સુરક્ષિત છે?" નિર્ણય

ના

સક્ષમ નિષ્ણાત, કાનૂની પ્રક્રિયા

રક્ષણાત્મક પગલાં શરૂ કરી રહ્યા છીએ

ના

સંસ્થા, સક્ષમ અધિકારી

સામાન્ય ભૂલો

• જોખમ સ્કોર/નિર્ણય માટે AI ને પૂછવું. સૌથી ખતરનાક ભૂલ; નિર્ણય માટે વ્યાવસાયિક સત્તા અને કાનૂની જવાબદારી જરૂરી છે.
• AI લેબલ પર વિશ્વાસ કરવો. "ઓછું જોખમ" નિષ્કર્ષ તેનાથી વિપરીત તમારા અવલોકનને ક્યારેય અમાન્ય કરશે નહીં.
• પૂર્વગ્રહની અવગણના કરવી. AI વંચિત જૂથોને વ્યવસ્થિત ઉચ્ચ જોખમનું કારણ આપી શકે છે; આત્મ-નિયંત્રણ જરૂરી છે.
• તાકીદમાં વિલંબ. જો જીવન સલામતી હોય, તો કટોકટીની પ્રક્રિયા પ્રથમ; AI સાથે વ્યવહાર રાહ જોઈ શકતો નથી.
• ઓપન ટૂલને સૌથી વધુ સંવેદનશીલ ડેટા આપવો. જોખમ નોંધો માત્ર સુરક્ષિત સંસ્થા સાધનમાં પ્રક્રિયા કરવામાં આવે છે.

સારાંશમાં

જોખમનું મૂલ્યાંકન એ સામાજિક કાર્યની સૌથી ગંભીર જવાબદારી છે, અને નિર્ણય સંપૂર્ણપણે વ્યક્તિ - વ્યાવસાયિક, ટીમ, દેખરેખ, કાનૂની સત્તા પર આધારિત છે. અહીં, AI એ ફક્ત યાદ કરાવવાનું એક સાધન છે (જોખમ/રક્ષણાત્મક પરિબળની સૂચિ), આયોજન (તથ્યલક્ષી નોંધ) અને ડ્રાફ્ટિંગ (સુરક્ષા યોજનાનું હાડપિંજર); તે સ્કોર કરતું નથી, તે નિર્ણયો લેતું નથી. યાદ રાખો કે AI પૂર્વગ્રહ રાખે છે, નિર્ણય તરીકે તેના આઉટપુટનો ક્યારેય ઉપયોગ કરશો નહીં અને માત્ર સુરક્ષિત સિસ્ટમમાં જ અત્યંત સંવેદનશીલ ડેટાની પ્રક્રિયા કરો.

એપ્લિકેશન કાર્ય

કાલ્પનિક કેસ પ્રકાર પસંદ કરો. "જોખમ/રક્ષણાત્મક પરિબળ રીમાઇન્ડર" ટેમ્પલેટ સાથે એક ચેકલિસ્ટ મેળવો અને ચકાસો કે AI કોઈપણ "જોખમ સ્તર" ઉત્પન્ન કરતું નથી. પછી "સુરક્ષા યોજના રૂપરેખા હાડપિંજર" નમૂના સાથે ખાલી યોજના હાડપિંજરને પકડો. સભાનપણે એઆઈને પૂછવું કે "જોખમનું સ્તર શું છે?" અને એક વાક્યમાં લખો કે તમારે નિર્ણય તરીકે આઉટપુટનો ઉપયોગ કેમ ન કરવો જોઈએ.

ચેકલિસ્ટ

• [ ] મેં AI ને માત્ર ફેક્ટર રીમાઇન્ડર માટે પૂછ્યું, નિર્ણય/સ્કોર માટે નહીં.
• [ ] મેં ફક્ત સુરક્ષિત એન્ટરપ્રાઇઝ ટૂલમાં સૌથી સંવેદનશીલ ડેટા પર પ્રક્રિયા કરી છે.
• [ ] મેં ક્લાયન્ટ સાથે મળીને સુરક્ષા યોજનાની સામગ્રી ભરવાનું આયોજન કર્યું છે.
• [ ] મેં પૂર્વગ્રહ માટે AI આઉટપુટ તપાસ્યું.
• [ ] મેં પુષ્ટિ કરી કે અંતિમ જોખમનો નિર્ણય ટીમ, દેખરેખ અને યોગ્ય પ્રક્રિયા પર આધારિત છે.