પૂર્વગ્રહ અને ન્યાય — AI સાક્ષરતા

નફો:

સમજે છે કે ડેટા એ AI પૂર્વગ્રહનો પ્રાથમિક સ્ત્રોત છે
કાર્યસ્થળે પૂર્વગ્રહ પેદા કરી શકે તેવા જોખમોને ઓળખે છે
પૂર્વગ્રહ ઘટાડવા માટે લઈ શકાય તેવા પગલાંનો અમલ કરે છે

AI એક તટસ્થ, ઉદ્દેશ્ય મશીન તરીકે દેખાય છે; પરંતુ સત્ય વધુ જટિલ છે. AI પ્રણાલીઓ તેમને જે ડેટા પર તાલીમ આપવામાં આવે છે તેમાં માનવીય પૂર્વગ્રહો શીખે છે અને કેટલીકવાર તેમને વિસ્તૃત અને પુનઃઉત્પાદિત કરે છે. પૂર્વગ્રહ એ ચોક્કસ લોકો અથવા જૂથોને વ્યવસ્થિત રીતે તરફેણ કરવા અથવા બાકાત રાખવાની સિસ્ટમની વલણ છે. આ એકમમાં, અમે વિચારણા કરીશું કે પૂર્વગ્રહ ક્યાંથી આવે છે, કાર્યસ્થળે તે કયા નક્કર જોખમો ઉભી કરે છે અને તેની સામે શું કરી શકાય છે. આ માત્ર "નૈતિકતા" ની બાબત નથી; તે એક વ્યવહારુ વ્યાપારી બાબત છે જે ગેરવ્યવસ્થાપિત થાય ત્યારે કાનૂની, વ્યાપારી અને પ્રતિષ્ઠિત જોખમ વહન કરે છે.

પૂર્વગ્રહ ક્યાંથી આવે છે?

ભાષાના નમૂનાની માહિતી માનવ દ્વારા ઉત્પન્ન કરાયેલા વિશાળ ગ્રંથોમાંથી આવે છે. આ ગ્રંથોમાં માનવ સમાજનું તમામ જ્ઞાન તેમજ તેની તમામ સ્ટીરિયોટાઇપ્સ, અસંતુલન અને ઐતિહાસિક અસમાનતાઓ છે. મોડેલ "સારા" અને "ખરાબ" પેટર્ન વચ્ચે તફાવત કરતું નથી; તે ડેટામાં જે પણ છે તે શીખે છે.

ઉદાહરણ: જો પાછલા ગ્રંથોમાં અમુક વ્યવસાયો મુખ્યત્વે લિંગ સાથે સંકળાયેલા હોય (દા.ત. સ્ત્રી સાથે "નર્સ", પુરુષ સાથે "એન્જિનિયર"), તો મોડેલ આ જોડાણ શીખે છે. તે વાક્ય પૂર્ણ કરતી વખતે પુરૂષ સર્વનામ પસંદ કરવાનું વલણ ધરાવે છે, "એક એન્જિનિયર ઓફિસમાં ગયો, તે..." મોડેલ દૂષિત નથી; તે માત્ર ડેટામાં અસંતુલન દર્શાવે છે.

તેથી પૂર્વગ્રહ મોટે ભાગે તે ડેટાનો અરીસો હોવાને કારણે છે, સભાન પ્રોગ્રામિંગ ભૂલ નથી. "કોઈએ ખરાબ કોડ લખ્યો છે" તરીકે સમસ્યા સમજાવવી એ ભ્રામક છે; સમસ્યા એ છે કે વિશ્વમાં અસંતુલન ડેટામાં અને ત્યાંથી મોડેલમાં લઈ જવામાં આવે છે.

કાર્યસ્થળમાં મૂર્ત જોખમો

વિસ્તાર

પૂર્વગ્રહનું જોખમ

સંભવિત નુકસાન

ભરતી

ઐતિહાસિક ડેટામાં વલણ જાણો અને અમુક જૂથોને દૂર કરો

કાનૂની કેસ, ક્ષમતા ગુમાવવી

ગ્રાહક સંચાર

સ્ટીરિયોટીપિકલ અથવા બાકાત ભાષા

પ્રતિષ્ઠા ગુમાવવી, ગ્રાહક ફ્લાઇટ

ક્રેડિટ/જોખમ

ભૂતકાળની અસમાનતાઓને કાયમી બનાવવી

ભેદભાવ, પ્રતિબંધો

પ્રદર્શન મૂલ્યાંકન

નિર્ણયમાં ડેટામાં પૂર્વગ્રહ વહન કરવું

અયોગ્ય પ્રમોશન/બોનસ

સામગ્રી/માર્કેટિંગ

ચોક્કસ જૂથને અદ્રશ્ય બનાવો

બ્રાન્ડ નુકસાન

ત્રણ મિની કેસ

કેસ 1 - જાહેરાત ભાષાને સંકુચિત કરી રહી હતી. એક કંપનીએ AI સાથે જોબ પોસ્ટિંગ પ્રિન્ટ કરવાનું શરૂ કર્યું. થોડા સમય પછી, એવું નોંધવામાં આવ્યું કે જાહેરાતોએ "યુવાન અને ગતિશીલ", "આક્રમક લક્ષ્ય" જેવા અભિવ્યક્તિઓ સાથે ચોક્કસ પ્રોફાઇલને અપીલ કરી અને તેથી એપ્લિકેશનની વિવિધતામાં ઘટાડો કર્યો. ટીમે એક પગલું ઉમેર્યું જે દરેક પોસ્ટિંગને "સમાવેશક ભાષા" માટે તપાસે છે; અરજદારોની વિવિધતા થોડા મહિનામાં નોંધપાત્ર રીતે વધી છે.

કેસ 2 — સારાંશમાં છુપાયેલ પૂર્વગ્રહ. એક મેનેજર પાસે AI નો સારાંશ 30 કર્મચારીઓનો પ્રતિસાદ હતો. રીકેપ એક ચોક્કસ ટીમ પર નકારાત્મક ટિપ્પણીઓ પર ધ્યાન કેન્દ્રિત કરે તેવું લાગતું હતું; જ્યારે કાચા ડેટામાં પરિસ્થિતિ સંતુલિત હતી. મોડેલે ઘણા મજબૂત નિવેદનોને અતિશયોક્તિ કરી. જ્યારે મેનેજરે પાછું જઈને કાચો ડેટા ચેક કર્યો તો તેણે ગેરસમજ કરવાનું ટાળ્યું.

કેસ 3 - સમાવેશીતાના આદેશે કામ કર્યું. એક માર્કેટિંગ ટીમે "સમાવેશક, બિન-વિશિષ્ટ લિંગ/વય/જૂથ ભાષાનો ઉપયોગ કરવા અને તમારી ધારણાઓને અંતે સૂચિબદ્ધ કરવા" માટે ઝુંબેશ નકલમાં સૂચનાને પ્રમાણિત કરી. ઉત્પાદિત ગ્રંથોમાં ફોર્મ્યુલેક અભિવ્યક્તિઓ નોંધપાત્ર રીતે ઘટી છે; ટીમે દરેક આઉટપુટને ફરીથી અને ફરીથી મેન્યુઅલી સુધારવાની જરૂર નહોતી.

પૂર્વગ્રહને ઓળખવું શા માટે મુશ્કેલ છે?

પૂર્વગ્રહ વિશેની સૌથી કપટી બાબત એ છે કે તે ઘણીવાર અદ્રશ્ય હોય છે. આઉટપુટ સરળ, વ્યાવસાયિક અને વાજબી લાગે છે; તેની અંદરની વૃત્તિ ત્યારે જ સ્પષ્ટ થાય છે જ્યારે વ્યક્તિ ધ્યાનથી જુએ અથવા વિવિધ જૂથો પર તેની અસરને માપે. એક જ ઉદાહરણ જોઈને "અહીં કોઈ પક્ષપાત નથી" એમ કહેવું ભ્રામક છે; પૂર્વગ્રહ ઘણીવાર વ્યક્તિગત ઉદાહરણોમાં નહીં પરંતુ સિસ્ટમના સામાન્ય વલણમાં પ્રગટ થાય છે.

સાવધાન: "હું તટસ્થ છું, તેથી હું જે સાધનનો ઉપયોગ કરું છું તે પણ તટસ્થ છે" એવી ધારણા જોખમી છે. ટૂલની તટસ્થતા તમારા ઇરાદા પર નહીં, પરંતુ તાલીમના ડેટા અને તેનું નિરીક્ષણ કેવી રીતે કરવામાં આવે છે તેના પર આધારિત છે.

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા પ્રોમ્પ્ટ: આ પદ માટેના આદર્શ ઉમેદવારનું વર્ણન કરો.

પરિણામ: મોડેલ સ્ટીરિયોટાઇપ્સ પર આધાર રાખે છે અને ચોક્કસ પ્રોફાઇલને "આદર્શ" તરીકે રજૂ કરી શકે છે.

મજબૂત પ્રોમ્પ્ટ: આ પદ માટે માત્ર માપી શકાય તેવી ક્ષમતાઓની યાદી બનાવો જે ખરેખર નોકરી માટે સુસંગત છે. નોકરી સાથે સંબંધિત ન હોય તેવી કોઈપણ લાક્ષણિકતાઓનો ઉપયોગ કરશો નહીં, જેમ કે લિંગ, ઉંમર, વૈવાહિક સ્થિતિ, વતન. છેલ્લે, "હું ટાળું છું એવી ધારણાઓ" શીર્ષક હેઠળ તમે જે છોડ્યું તે લખો.

પરિણામ: મૂલ્યાંકન નોકરી-સંબંધિત માપદંડો સુધી મર્યાદિત છે, અપ્રસ્તુત સુવિધાઓ બાકાત રાખવામાં આવી છે.

પૂર્વગ્રહ ઘટાડવા માટેના નમૂનાઓ

સમાવિષ્ટ ભાષા માટે નીચેનો ટેક્સ્ટ તપાસો. ફ્લેગ સ્ટેટમેન્ટ જે લિંગ, ઉંમર, વંશીયતા, વિકલાંગતા અથવા ચોક્કસ જૂથને સૂચિત કરે છે અને દરેક માટે તટસ્થ વિકલ્પ સૂચવે છે. ટેક્સ્ટ: [અહીં પેસ્ટ કરો]

આ મૂલ્યાંકન ફક્ત આ ઉદ્દેશ્ય માપદંડોના આધારે કરો: [માપદંડ]. આ માપદંડો (નામ, જાતિ, ઉંમર) સિવાયની કોઈપણ માહિતીને ધ્યાનમાં ન લો.

તમે બનાવેલ ટેક્સ્ટમાં તમે કઈ ધારણાઓ કરી છે તેના અંતે એક અલગ મથાળા હેઠળ સૂચિ બનાવો. તેથી હું છુપાયેલા પૂર્વગ્રહો જોઈ શકું છું.

વાચકોના ત્રણ અલગ-અલગ જૂથોની નજર દ્વારા આ સામગ્રીનું મૂલ્યાંકન કરો અને તેમાંથી કોઈપણને નારાજ/નારાજ કરી શકે તેવા કોઈપણ નિવેદનોને ચિહ્નિત કરો. સામગ્રી: [અહીં પેસ્ટ કરો]

સામાન્ય ભૂલો

"તટસ્થ" AI આઉટપુટ ધારી રહ્યા છીએ. ભલે આઉટપુટ તટસ્થ દેખાય, તે ડેટામાં પૂર્વગ્રહ ધરાવી શકે છે; સક્રિય દેખરેખ જરૂરી છે.
એક ઉદાહરણ જોઈએ અને કહે છે કે "ત્યાં કોઈ પક્ષપાત નથી". તંત્રની સામાન્ય વૃત્તિમાં પૂર્વગ્રહ છુપાયેલો છે.
ઉચ્ચ-અસરકારક નિર્ણય લેવાનું અસુરક્ષિત AI પર છોડીને. ભરતી, પ્રમોશન અને ક્રેડિટ જેવા નિર્ણયોમાં માનવ સત્તા જરૂરી છે.
સર્વસમાવેશકતાની માંગ કરવાનું ભૂલી જવું. જો તમે પ્રોમ્પ્ટમાં સ્પષ્ટપણે તેની વિનંતી ન કરો, તો મોડલ ડિફૉલ્ટ પેટર્ન પર પાછા ફરે છે.
તેનો અર્થ છે "મશીને તે કહ્યું." જે વ્યક્તિ નિર્ણયનો ઉપયોગ કરે છે તે પરિણામ માટે પણ જવાબદાર છે.

ન્યાય એ દરેક વ્યક્તિની જવાબદારી છે

પૂર્વગ્રહ સામે લડવું એ માત્ર ટેકનિકલ ટીમનું કામ નથી. દરેક કર્મચારી જે AI આઉટપુટનો ઉપયોગ કરે છે તે પ્રશ્ન કરવાની જવાબદારી ધરાવે છે કે શું તે આઉટપુટ વાજબી છે. "મશીને મને કહ્યું" એ બહાનું નથી; નિર્ણય લેનાર વ્યક્તિ પરિણામ માટે પણ જવાબદાર છે.

સારાંશમાં

AI પૂર્વગ્રહનો પ્રાથમિક સ્ત્રોત દુષ્ટતા નથી, પરંતુ પ્રશિક્ષણ ડેટામાં હાલની અસંતુલન અને સ્ટીરિયોટાઇપ્સ છે.
પૂર્વગ્રહ; તે ભરતી, ગ્રાહક સંચાર, ફાઇનાન્સ અને મૂલ્યાંકન જેવા ક્ષેત્રોમાં વાસ્તવિક કાનૂની અને પ્રતિષ્ઠિત જોખમ બનાવે છે.
પૂર્વગ્રહ ઘણીવાર અદ્રશ્ય હોય છે અને સિસ્ટમના એકંદર સ્વભાવમાં જડિત હોય છે; એક એક ઉદાહરણ જોઈએ તો ભ્રામક છે.
ઘટાડવા માટે: જાગૃત રહો, નિર્ણયને જોબ-સંબંધિત માપદંડો સુધી મર્યાદિત કરો, સ્પષ્ટપણે સમાવેશ માટે પૂછો, ઉચ્ચ અસરવાળા નિર્ણયો પર માનવ નિયંત્રણ મૂકો.
"મશીને મને કહ્યું" એ બહાનું નથી; નિષ્પક્ષતા એ દરેક વ્યક્તિની જવાબદારી છે જે આઉટપુટનો ઉપયોગ કરે છે.

એપ્લિકેશન કાર્ય

AI ને કહો "આદર્શ [કોઈપણ વ્યવસાય] કાર્યકરનું વર્ણન કરો" અને આઉટપુટમાં કઈ (કદાચ બિનજરૂરી) ધારણાઓ કરવામાં આવી હતી તે ચિહ્નિત કરો. પછી ઉપરના "નોકરી-સંબંધિત માપદંડ" ટેમ્પલેટ સાથે પુનરાવર્તન કરો અને વાજબીતા માટે બે આઉટપુટની તુલના કરો.

ચેકલિસ્ટ

[ ] હું સમજું છું કે પૂર્વગ્રહનો પ્રાથમિક સ્ત્રોત તાલીમ ડેટા છે.
[ ] હું એવા નક્કર જોખમોને નામ આપી શકું છું જે કાર્યસ્થળે પૂર્વગ્રહ પેદા કરી શકે છે.
[ ] હું જાણું છું કે પક્ષપાત ઘણીવાર અદ્રશ્ય હોય છે અને એક જ ઉદાહરણને જોવું ભ્રામક છે.
[ ] હું સ્પષ્ટપણે પ્રોમ્પ્ટમાં સર્વસમાવેશકતા અને જોબ-સંબંધિત માપદંડો માટે પૂછી શકું છું.
[ ] મને ઉચ્ચ અસરવાળા નિર્ણયોની માનવીય દેખરેખની જરૂર છે.