પૂર્વગ્રહ, ભેદભાવ અને નૈતિકતા: વાજબી અને સાંસ્કૃતિક રીતે પ્રતિભાવશીલ ઉપયોગ

નફો:

• જ્યારે AI તાલીમ ડેટા, ફ્રેમિંગ, બેવડા ધોરણો અને ખુશામત દ્વારા પૂર્વગ્રહ પેદા કરે છે ત્યારે ઓળખવું
• તટસ્થ પ્રશ્નો, પુરાવા-સ્ટીરિયોટાઇપ ભેદભાવ અને રિવર્સ એંગલ ટેસ્ટ સાથે પૂર્વગ્રહ સામે નિયંત્રણ સ્થાપિત કરવાની ક્ષમતા
• ચોક્કસ નિયમને બદલે સાંસ્કૃતિક જ્ઞાનનો ઉપયોગ કરીને કલંકિત ભાષાને વર્ણનાત્મક અને આદરણીય ભાષામાં અનુવાદિત કરવાની ક્ષમતા

સામાજિક કાર્યનો ઉદ્દેશ્ય ન્યાય અને માનવીય ગૌરવ છે; વ્યવસાયના મૂળમાં એક પ્રતિબદ્ધતા છે કે દરેક વ્યક્તિ સમાન મૂલ્ય ધરાવે છે, ભેદભાવનો વિરોધ કરવામાં આવે છે, અને સંવેદનશીલ જૂથો સુરક્ષિત છે. આર્ટિફિશિયલ ઇન્ટેલિજન્સ જોખમ વહન કરે છે જે ચૂપચાપ ચોક્કસપણે આ મૂલ્યોને નુકસાન પહોંચાડી શકે છે: પૂર્વગ્રહ. AI ઐતિહાસિક ડેટામાંથી શીખે છે; જો તે ડેટામાં સમાજમાં અસમાનતાઓ, સ્ટીરિયોટાઇપ્સ અને ભેદભાવનો સમાવેશ થાય છે, તો AI તેમને શીખે છે અને તેમને અસ્ખલિત, "ઉદ્દેશ" દેખાતી ભાષામાં પુનઃઉત્પાદન કરે છે. સામાજિક કાર્યકરના હાથમાં, આ જૂથના વ્યવસ્થિત રીતે વધુ નકારાત્મક મૂલ્યાંકન, કુટુંબની સ્ટીરિયોટાઇપિંગ અથવા સંસ્કૃતિની ગેરસમજમાં અનુવાદ કરી શકે છે. આ એકમમાં, તમે AI પૂર્વગ્રહને ઓળખવાનું, તેની સામે નિયંત્રણ કરવાનું અને ઔચિત્ય અને સાંસ્કૃતિક સંવેદનશીલતા સાથે AI નો ઉપયોગ કરવાનું શીખી શકશો.

શરૂઆતથી એક હકીકત: AI તટસ્થ નથી, તે તટસ્થ દેખાય છે. સૌથી ખતરનાક પૂર્વગ્રહ એ છે જે આત્મવિશ્વાસ અને વ્યાવસાયિક ભાષામાં રજૂ કરવામાં આવે છે; કારણ કે તે પ્રશ્ન વિના સ્વીકારવામાં આવે છે. સામાજિક કાર્યકર તરીકે તમારું કાર્ય આ અદ્રશ્ય પૂર્વગ્રહને દૃશ્યમાન બનાવવાનું છે અને આઉટપુટ તમારા વ્યાવસાયિક મૂલ્યો સાથે વિરોધાભાસી છે કે કેમ તેનું નિરીક્ષણ કરવાનું છે.

AI પૂર્વગ્રહ ક્યાંથી આવે છે અને તે કેવો દેખાય છે?

• તાલીમ ડેટા પૂર્વગ્રહ. AI એ પાઠોમાંથી શીખે છે જે સમાજમાં અસમાનતાને પ્રતિબિંબિત કરે છે. અમુક વંશીય જૂથો, ગરીબો, અપંગો, અમુક પડોશીઓ અથવા જાતિઓ વિશેની સ્ટીરિયોટાઇપ્સ આઉટપુટમાં લીક થઈ શકે છે.
• ભાષા અને ફ્રેમિંગ પૂર્વગ્રહ. AI જૂથને નિષ્ક્રિય, "સમસ્યાયુક્ત" અથવા "મદદની જરૂર હોય તેવી વસ્તુ" તરીકે ફ્રેમ કરી શકે છે; વિષય તરીકે અન્ય જૂથ. સમાન વર્તનને એક જૂથ દ્વારા "સાંસ્કૃતિક" તરીકે અને બીજા જૂથ દ્વારા "સમસ્યારૂપ" તરીકે અર્થઘટન કરી શકાય છે.
• પ્રતિનિધિત્વનો અભાવ. AI અચોક્કસ રીતે અથવા ઉપરછલ્લી રીતે એવા જૂથોને સમજી શકે છે કે જેઓ ડેટા (નાની વસ્તી, દુર્લભ કિસ્સાઓ) માં અન્ડરપ્રેઝેન્ટેડ છે.
• ખુશામતખોર (ઉપયોગીતા). AI તમારા ગર્ભિત દૃષ્ટિકોણની પુષ્ટિ કરે છે; એક પક્ષપાતી પ્રશ્ન પક્ષપાતી પુષ્ટિ લાવે છે.

આ પૂર્વગ્રહો સામાજિક કાર્યમાં ખાસ કરીને ખતરનાક છે કારણ કે આઉટપુટ વાસ્તવિક લોકોના જીવનને સીધો સ્પર્શ કરે છે - એક મૂલ્યાંકન, એક અહેવાલ, એક રેફરલ.

સાવધાન: "એઆઈએ તેનું મૂલ્યાંકન તે રીતે કર્યું" એ ચેતવણીનું ચિહ્ન છે, વાજબીપણું નથી. જ્યારે તમે આઉટપુટ જુઓ છો કે જે જૂથ અથવા વ્યક્તિને નકારાત્મક રીતે ચિત્રિત કરે છે, ત્યારે પ્રથમ પ્રશ્ન એ છે કે "શું તે પુરાવા પર આધારિત છે કે સ્ટીરિયોટાઇપ્સ પર આધારિત છે?" હોવું જોઈએ.

પગલું દ્વારા પગલું: પૂર્વગ્રહ સામે ઓડિટીંગ

1. તટસ્થ પૂછો. એવા પ્રશ્નો પૂછો કે જે સૂચિત અથવા દોરી ન હોય; "આ કુટુંબ કેમ ઉપેક્ષિત છે તે સમજાવો" નહીં, પરંતુ "આ અવલોકનોનો અર્થ શું હોઈ શકે, વૈકલ્પિક સ્પષ્ટતાઓ શું છે?" પૂછો
2. પુરાવા અને સ્ટીરિયોટાઇપ વચ્ચેનો તફાવત. દરેક નકારાત્મક નિવેદન માટે, પૂછો: શું તે મારી સામેના નક્કર પુરાવા પર આધારિત છે, અથવા તે જૂથ વિશેની સામાન્ય ધારણા પર આધારિત છે?
3. વિરુદ્ધ ખૂણાથી પરીક્ષણ કરો. એક અલગ જૂથ માટે સમાન પરિસ્થિતિનો વિચાર કરો: "જો ક્લાયન્ટ અલગ સામાજિક-આર્થિક/વંશીય પૃષ્ઠભૂમિમાંથી હોત, તો શું AI તેને સમાન ભાષામાં લખશે?"
4. સાંસ્કૃતિક સંવેદનશીલતા શોધો. વર્તનના સાંસ્કૃતિક સંદર્ભ વિશે પૂછો; પરંતુ સાંસ્કૃતિક જ્ઞાનને એક શક્યતા અને સાવચેતીના મુદ્દા તરીકે લો, સંપૂર્ણ નિયમ નહીં (સ્ટીરિયોટાઇપ ટાળો).
5. છાપવાળી જીભને સાફ કરો. તેને એવી ભાષામાં અનુવાદિત કરો કે જે પરિસ્થિતિનું વર્ણન કરે છે, વ્યક્તિનું નહીં, અને શક્તિઓ પણ જુએ છે.

ત્રણ નાના કેસો

કેસ 1 - વિપરીત કોણ પૂર્વગ્રહ દર્શાવે છે. એક નિષ્ણાત પાસે બે સમાન કેસોનો સારાંશ AI હતો; તફાવત માત્ર પરિવારોની સામાજિક આર્થિક સ્થિતિનો હતો. YZ એ ઓછી આવક ધરાવતા પરિવાર માટે "ઉपेक्षाનું ઉચ્ચ જોખમ" અને ઉચ્ચ આવક ધરાવતા કુટુંબ માટે "માતાપિતાએ વર્તન કરવાની ફરજ પડી" ના સ્વરમાં લખ્યું. નિષ્ણાતે આ બેવડા ધોરણને માન્યતા આપી અને બંને મૂલ્યાંકનોને પુરાવા-આધારિત, સમાન ભાષામાં નિસ્યંદિત કર્યા.

કેસ 2 — સાંસ્કૃતિક ખોટું અર્થઘટન સુધારેલ. YZ એ વિસ્તૃત પરિવાર સાથે રહેતા બાળકની પરિસ્થિતિને "સીમા સમસ્યાઓ અને મિશ્ર ઘરનું વાતાવરણ" તરીકે ઘડ્યું. નિષ્ણાત જાણતા હતા કે કુટુંબના સાંસ્કૃતિક સંદર્ભમાં, વિસ્તૃત કુટુંબ આધાર અને રક્ષણનો શક્તિશાળી સ્ત્રોત છે. AI એ સાંસ્કૃતિક બળને સમસ્યામાં ફેરવી દીધું હતું. આ સમર્થનને સંસાધન તરીકે ઓળખવા માટે સમીક્ષામાં સુધારો કરવામાં આવ્યો છે.

કેસ 3 - અગ્રણી પ્રશ્ને પૂર્વગ્રહ ઉત્પન્ન કર્યો. "આ પિતા શા માટે અવિશ્વાસુ છે તે લખો," એક ઇન્ટર્નએ એઆઈને પૂછ્યું. AI એ એક ટેક્સ્ટ બનાવ્યું જે કોઈ પુરાવા વિના પિતાને નકારાત્મક રીતે (ખુશખુશાલ) ચિત્રિત કરે છે. સુપરવાઈઝરે પ્રશ્નમાં ફેરફાર કર્યો: "પિતા વિશે શું અવલોકનો છે, તેમની શક્તિ અને નબળાઈઓ શું હોઈ શકે?" આઉટપુટ સંતુલિત અને પુરાવા આધારિત બન્યું છે. પાઠ: પક્ષપાતી પ્રશ્ન પક્ષપાતી જવાબ પેદા કરે છે.

ચાર નકલ કરી શકાય તેવા નમૂનાઓ

1) તટસ્થ, સંતુલિત મૂલ્યાંકનની વિનંતી કરો:

નીચેના અવલોકનોનો સારાંશ આપતાં, તમે સંભવિત શક્તિઓ અને સંભવિત ચિંતાઓ બંનેને સંતુલિત રીતે અને માત્ર પુરાવાના આધારે રજૂ કરો છો. સ્ટીરિયોટાઇપ્સ પર આધારિત કોઈપણ અનુમાન ન કરો. જો કોઈ ટિપ્પણી અવલોકન પર આધાર રાખતી નથી, તો "અપૂરતા પુરાવા" લખો. અવલોકનો: [પેસ્ટ અવલોકનો]

2) પૂર્વગ્રહ તપાસ (વિરોધી કોણ પરીક્ષણ):

નીચે સમીક્ષા ટેક્સ્ટ તપાસો. શું એવા નિવેદનો છે જે ગ્રાહકની સામાજિક-આર્થિક સ્થિતિ, વંશીયતા, ધર્મ, લિંગ, અપંગતા અથવા પડોશને કારણે બિનસલાહભર્યા સ્ટીરિયોટાઇપ દર્શાવે છે? દરેક માટે, પૂછો: "જો ક્લાયન્ટ અલગ જૂથમાંથી હોત તો શું આ એક જ ભાષામાં લખવામાં આવશે?" ફ્લેગ સમસ્યા વાક્યો. ટેક્સ્ટ: [ટેક્સ્ટ પેસ્ટ કરો]

3) સાંસ્કૃતિક સંદર્ભ (બિન-સ્ટીરિયોટાઇપ):

વિવિધ સાંસ્કૃતિક સંદર્ભોમાં નીચેની વર્તણૂક/સ્થિતિનો અર્થ શું હોઈ શકે તેની શક્યતાઓ પ્રદાન કરો. આને ધ્યાનમાં લેવાના મુદ્દા તરીકે આપો, સંપૂર્ણ નિયમો તરીકે નહીં; ભારપૂર્વક જણાવો કે દરેક સમુદાયમાં વ્યક્તિગત તફાવતો છે. એક જૂથ વિશે સામાન્યીકરણ કરશો નહીં. પરિસ્થિતિ: [સ્થિતિ લખો]

4) જીભની સફાઈની છાપ:

નીચેના લખાણમાં, એવા વિશેષણો શોધો જે વ્યક્તિનું મૂલ્યાંકન કરે અથવા તેને કલંકિત કરે (દા.ત., "ઉપેક્ષિત," "અસહયોગી," "સમસ્યાયુક્ત"). દરેક માટે, સમાન હકીકતને એવા વિકલ્પ સાથે બદલો જે વર્ણનાત્મક, આદરણીય અને શક્તિઓને ઓળખે. નવી માહિતી ઉમેરી રહ્યા છીએ. ટેક્સ્ટ: [ટેક્સ્ટ પેસ્ટ કરો]

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા પ્રોમ્પ્ટ:

સમજાવો કે શા માટે આ કુટુંબ બાળકોને ઉછેરવામાં અપૂરતું છે.

આ પ્રશ્ન શરૂઆતથી પરિણામ ધારે છે ("અપૂરતું"). AI, ખુશામત કરવાની તેની વૃત્તિ સાથે, પુરાવા-મુક્ત અને પક્ષપાતી ટેક્સ્ટનું નિર્માણ કરશે જે આ ધારણાની પુષ્ટિ કરે છે. જો પ્રશ્ન પક્ષપાતી હશે તો જવાબ પણ પક્ષપાતી હશે.

શક્તિશાળી પ્રોમ્પ્ટ:

નીચેના અવલોકનોના આધારે, આ પરિવારની બાળ-ઉછેરની શક્તિઓ અને ચિંતાના ક્ષેત્રો બંનેને સંતુલિત અને માત્ર પુરાવાની રીતે સૂચિબદ્ધ કરો. શરૂઆતથી પરિણામ ધારો નહીં; જો પુરાવા અપૂરતા હોય, તો જણાવો. સ્ટીરિયોટાઇપ્સ ટાળો. અવલોકનો: [પેસ્ટ અવલોકનો]

તફાવત: સંતુલિત પ્રશ્ન કે જે પરિણામને ધારે નહીં અને પુરાવા માટે પૂછે છે તે પ્રથમ સ્થાને પૂર્વગ્રહને અટકાવે છે.

પૂર્વગ્રહ અને પ્રતિકારના પ્રકારો

પૂર્વગ્રહનો પ્રકાર

તે શું દેખાય છે

પ્રતિમાપ

તાલીમ ડેટા

જૂથ સ્ટીરિયોટાઇપ

પુરાવા-પેટર્નનો ભેદ

ફ્રેમિંગ

નિષ્ક્રિય/નકારાત્મક ભાષા

સંતુલિત, વિષય-કેન્દ્રિત ભાષા

ડબલ ધોરણ

સમાન વર્તન, અલગ સ્વર

વિપરીત કોણ પરીક્ષણ

સાંસ્કૃતિક અંધત્વ

સાંસ્કૃતિક શક્તિને સમસ્યામાં ફેરવવી

સાંસ્કૃતિક સંદર્ભ પ્રશ્ન

ખુશામત

સૂચિતાર્થની પુષ્ટિ કરો

તટસ્થ પ્રશ્નો પૂછશો નહીં

પ્રતિનિધિત્વનો અભાવ

સુપરફિસિયલ/ગેરસમજ

સ્થાનિક/નિષ્ણાત પુષ્ટિ

સામાન્ય ભૂલો

• પૂર્વગ્રહયુક્ત પ્રશ્નો પૂછવા. એક પ્રશ્ન જે નિષ્કર્ષ ધારે છે તે પક્ષપાતી જવાબ આપે છે; તટસ્થ સમસ્યા.
• આત્મવિશ્વાસપૂર્ણ ભાષા પર આધાર રાખવો. વ્યવસાયિક સ્વર પૂર્વગ્રહને યોગ્ય બનાવતો નથી; પુરાવા જુઓ.
• સાંસ્કૃતિક જ્ઞાનને ચોક્કસ નિયમ તરીકે ધ્યાનમાં લેવું. તેને શક્યતા અને ધ્યાનના બિંદુ તરીકે લો; સ્ટીરિયોટાઇપ્સ ટાળો.
• બેવડા ધોરણોની નોંધ લેતા નથી. વિવિધ જૂથોમાં સમાન વર્તન કેવી રીતે લખાય છે તેનું પરીક્ષણ કરો.
• પુરાવા તરીકે સ્ટેમ્પની ભૂલ કરવી. તે એક "બેદરકારી" ચુકાદો છે; ઘટનાનું વર્ણન કરો, વ્યક્તિનો ન્યાય ન કરો.

સારાંશમાં

AI તટસ્થ નથી, તે તટસ્થ દેખાય છે; તે અસ્ખલિત ભાષામાં શૈક્ષણિક ડેટામાં અસમાનતા અને સ્ટીરિયોટાઇપ્સનું પુનઃઉત્પાદન કરે છે. સામાજિક કાર્યમાં, આનાથી વાસ્તવિક લોકોનું અયોગ્ય મૂલ્યાંકન થઈ શકે છે. પૂર્વગ્રહને ઓળખો (તાલીમ ડેટા, ફ્રેમિંગ, બેવડા ધોરણો, સાંસ્કૃતિક અંધત્વ, ખુશામત), તેની સામે તપાસો (તટસ્થ પ્રશ્ન, પુરાવા-પેટર્ન અલગ, કોણ પરીક્ષણ, સાંસ્કૃતિક સંવેદનશીલતા, કલંક ક્લીયરિંગ), અને વ્યવસાયના વાજબીતા અને સન્માનના મૂલ્યો દ્વારા દરેક આઉટપુટને ફિલ્ટર કરો. અંતિમ નૈતિક ફિલ્ટર હંમેશા તમે છો.

એપ્લિકેશન કાર્ય

AI પાસે બે અલગ-અલગ ગ્રૂપ પ્રોફાઇલ્સ (દા.ત. વિવિધ સામાજિક આર્થિક સ્થિતિ) સાથે કાલ્પનિક અવલોકનોના સમાન સમૂહનો સારાંશ આપો અને ટોન/ભાષા અલગ-અલગ હોય કે કેમ તે "રિવર્સ એંગલ ટેસ્ટ" સાથે સરખામણી કરો. પછી સભાનપણે પક્ષપાતી પ્રશ્ન સાથે તટસ્થ પ્રશ્નનો પ્રયાસ કરો ("તે શા માટે અપૂરતું છે તે સમજાવો") અને પરિણામોમાં તફાવત તપાસો. છેલ્લે, ટેક્સ્ટ પર "વોટરમાર્કર લેંગ્વેજ ક્લિનિંગ" ટેમ્પલેટ લાગુ કરો.

ચેકલિસ્ટ

• [ ] મેં પરિણામ ધાર્યા વિના મારા પ્રશ્નો તટસ્થપણે ઘડ્યા.
• [ ] મેં પુરાવા-સ્ટીરિયોટાઇપ ભેદનો ઉપયોગ કરીને દરેક નકારાત્મક નિવેદનને તપાસ્યું.
• [ ] મેં રિવર્સ એંગલ ટેસ્ટ વડે ડબલ સ્ટાન્ડર્ડ તપાસ્યું.
• [ ] મેં સાંસ્કૃતિક જ્ઞાનનો ઉપયોગ સાવધાનીના મુદ્દા તરીકે કર્યો છે, સંપૂર્ણ નિયમ તરીકે નહીં.
• [ ] મેં કલંકિત ભાષાને વર્ણનાત્મક, આદરણીય ભાષા સાથે બદલી છે.