पूर्वाग्रह, भेदभाव और नैतिकता: निष्पक्ष और सांस्कृतिक रूप से उत्तरदायी उपयोग — सामाजिक कार्य में कृत्रिम बुद्धिमत्ता

लाभ:

यह पहचानना कि एआई प्रशिक्षण डेटा, फ़्रेमिंग, दोहरे मानकों और चापलूसी के माध्यम से पूर्वाग्रह पैदा करता है
तटस्थ प्रश्नों, साक्ष्य-रूढ़िवादी भेदभाव और रिवर्स एंगल परीक्षण के साथ पूर्वाग्रह के खिलाफ नियंत्रण स्थापित करने की क्षमता
एक निश्चित नियम के बजाय सांस्कृतिक ज्ञान को ध्यान के बिंदु के रूप में उपयोग करके कलंकित करने वाली भाषा को वर्णनात्मक और सम्मानजनक भाषा में अनुवाद करने की क्षमता

सामाजिक कार्य का उद्देश्य न्याय और मानवीय गरिमा है; पेशे के मूल में यह प्रतिबद्धता है कि प्रत्येक व्यक्ति का मूल्य समान है, भेदभाव का विरोध किया जाता है और कमजोर समूहों की रक्षा की जाती है। कृत्रिम बुद्धिमत्ता में एक जोखिम होता है जो चुपचाप इन मूल्यों को नुकसान पहुंचा सकता है: पूर्वाग्रह। एआई ऐतिहासिक डेटा से सीखता है; यदि उस डेटा में समाज में असमानताएं, रूढ़िवादिता और भेदभाव शामिल है, तो एआई उन्हें सीखता है और उन्हें धाराप्रवाह, "उद्देश्यपूर्ण" दिखने वाली भाषा में पुन: पेश करता है। एक सामाजिक कार्यकर्ता के हाथों में, यह किसी समूह के व्यवस्थित रूप से अधिक नकारात्मक मूल्यांकन, परिवार की रूढ़िवादिता या संस्कृति की गलतफहमी में तब्दील हो सकता है। इस इकाई में, आप एआई पूर्वाग्रह को पहचानना, इसके खिलाफ नियंत्रण करना और निष्पक्षता और सांस्कृतिक संवेदनशीलता के साथ एआई का उपयोग करना सीखेंगे।

शुरू से एक तथ्य: एआई तटस्थ नहीं है, यह तटस्थ प्रतीत होता है। सबसे खतरनाक पूर्वाग्रह वह है जिसे आत्मविश्वासपूर्ण और पेशेवर भाषा में प्रस्तुत किया जाता है; क्योंकि इसे बिना किसी सवाल के स्वीकार कर लिया जाता है. एक सामाजिक कार्यकर्ता के रूप में आपका काम इस अदृश्य पूर्वाग्रह को दृश्यमान बनाना और निगरानी करना है कि क्या आउटपुट आपके पेशेवर मूल्यों के साथ संघर्ष करता है।

एआई पूर्वाग्रह कहां से आता है और यह कैसा दिखता है?

प्रशिक्षण डेटा पूर्वाग्रह. एआई उन पाठों से सीखता है जो समाज में असमानताओं को दर्शाते हैं। कुछ जातीय समूहों, गरीबों, विकलांगों, कुछ पड़ोस या लिंग के बारे में रूढ़िवादिता आउटपुट में लीक हो सकती है।
भाषा और फ़्रेमिंग पूर्वाग्रह. एआई किसी समूह को निष्क्रिय, "समस्याग्रस्त" या "सहायता की आवश्यकता वाली वस्तु" के रूप में प्रस्तुत कर सकता है; विषयों के रूप में एक और समूह। एक ही व्यवहार की व्याख्या एक समूह द्वारा "सांस्कृतिक" और दूसरे समूह द्वारा "समस्याग्रस्त" के रूप में की जा सकती है।
प्रतिनिधित्व का अभाव. एआई उन समूहों को गलत या सतही तौर पर समझ सकता है जिनका डेटा में कम प्रतिनिधित्व है (छोटी आबादी, दुर्लभ मामले)।
चापलूसी (चाटुकारिता)। एआई आपके निहित दृष्टिकोण की पुष्टि करता है; एक पक्षपातपूर्ण प्रश्न पक्षपातपूर्ण पुष्टि लाता है।

ये पूर्वाग्रह सामाजिक कार्यों में विशेष रूप से खतरनाक हैं क्योंकि आउटपुट सीधे वास्तविक लोगों के जीवन को छूता है - एक मूल्यांकन, एक रिपोर्ट, एक रेफरल।

सावधानी: "एआई ने इसका मूल्यांकन इस तरह किया" एक चेतावनी संकेत है, औचित्य नहीं। जब आप कोई ऐसा आउटपुट देखते हैं जो किसी समूह या व्यक्ति को नकारात्मक रूप से चित्रित करता है, तो पहला प्रश्न यह होता है कि "क्या यह साक्ष्य पर आधारित है या रूढ़िवादिता पर आधारित है?" होना चाहिए.

चरण दर चरण: पूर्वाग्रह के विरुद्ध ऑडिटिंग

तटस्थ होकर पूछो. ऐसे प्रश्न पूछें जिनका कोई मतलब या नेतृत्व न हो; यह न बताएं कि "यह परिवार क्यों उपेक्षित है", बल्कि "इन टिप्पणियों का क्या अर्थ हो सकता है, वैकल्पिक स्पष्टीकरण क्या हैं?" पूछना।
साक्ष्य और रूढ़िवादिता के बीच अंतर स्पष्ट करें। प्रत्येक नकारात्मक कथन के लिए पूछें: क्या यह मेरे सामने मौजूद ठोस सबूतों पर आधारित है, या यह किसी समूह के बारे में सामान्य धारणा पर आधारित है?
विपरीत कोण से परीक्षण करें. एक अलग समूह के लिए समान स्थिति पर विचार करें: "यदि ग्राहक एक अलग सामाजिक-आर्थिक/जातीय पृष्ठभूमि से होता, तो क्या एआई इसे उसी भाषा में लिखता?"
सांस्कृतिक संवेदनशीलता की तलाश करें. किसी व्यवहार के सांस्कृतिक संदर्भ के बारे में पूछें; लेकिन सांस्कृतिक ज्ञान को एक संभावना और सावधानी के बिंदु के रूप में लें, न कि एक पूर्ण नियम के रूप में (रूढ़िवादिता से बचें)।
छापने वाली जीभ को साफ करें. इसे ऐसी भाषा में अनुवादित करें जो व्यक्ति का नहीं बल्कि स्थिति का वर्णन करती हो और ताकत भी देखती हो।

तीन मिनी मामले

केस 1 - उलटे कोण से पूर्वाग्रह का पता चला। एक विशेषज्ञ ने एआई को दो समान मामलों का सारांश दिया था; एकमात्र अंतर परिवारों की सामाजिक-आर्थिक स्थिति का था। YZ ने कम आय वाले परिवार के लिए "उपेक्षा के उच्च जोखिम" के स्वर में और उच्च आय वाले परिवार के लिए "माता-पिता को व्यवहार करने के लिए मजबूर" के स्वर में लिखा। विशेषज्ञ ने इस दोहरे मानक को पहचाना और दोनों आकलनों को साक्ष्य-आधारित, समान भाषा में बदल दिया।

केस 2 - सांस्कृतिक गलत व्याख्या को सुधारा गया। YZ ने विस्तारित परिवार के साथ रहने वाले बच्चे की स्थिति को "सीमा संबंधी मुद्दे और मिश्रित घरेलू वातावरण" के रूप में परिभाषित किया। विशेषज्ञ जानता था कि परिवार के सांस्कृतिक संदर्भ में, विस्तारित परिवार समर्थन और सुरक्षा का एक शक्तिशाली स्रोत था। एआई ने एक सांस्कृतिक शक्ति को एक समस्या में बदल दिया था। इस समर्थन को एक संसाधन के रूप में पहचानने के लिए समीक्षा को सही किया गया है।

केस 3 - प्रमुख प्रश्न ने पूर्वाग्रह उत्पन्न किया। एक प्रशिक्षु ने एआई से पूछा, "लिखें कि यह पिता अविश्वसनीय क्यों है।" एआई ने एक पाठ तैयार किया जो बिना किसी सबूत के पिता को नकारात्मक (चापलूसी) चित्रित करता है। पर्यवेक्षक ने प्रश्न को संशोधित किया: "पिता के बारे में क्या टिप्पणियाँ हैं, उनकी ताकत और कमजोरियाँ क्या हो सकती हैं?" आउटपुट संतुलित और साक्ष्य-आधारित हो गया है। पाठ: पक्षपातपूर्ण प्रश्न पक्षपातपूर्ण उत्तर उत्पन्न करता है।

चार प्रतिलिपि योग्य टेम्पलेट

1) तटस्थ, संतुलित मूल्यांकन का अनुरोध करें:

निम्नलिखित टिप्पणियों को संक्षेप में प्रस्तुत करते हुए, आप संभावित शक्तियों और संभावित चिंताओं दोनों को संतुलित तरीके से और केवल साक्ष्य के आधार पर प्रस्तुत करते हैं। रूढ़िवादिता के आधार पर कोई भी निष्कर्ष न निकालें। यदि कोई टिप्पणी अवलोकन पर निर्भर नहीं करती है, तो "अपर्याप्त साक्ष्य" लिखें। टिप्पणियाँ: [टिप्पणियाँ चिपकाएँ]

2) पूर्वाग्रह जांच (विपरीत कोण परीक्षण):

नीचे समीक्षा पाठ देखें. क्या ऐसे कथन हैं जो ग्राहक की सामाजिक आर्थिक स्थिति, जातीयता, धर्म, लिंग, विकलांगता या पड़ोस के कारण एक अप्रमाणित रूढ़िवादिता व्यक्त करते हैं? प्रत्येक के लिए, पूछें: "यदि ग्राहक किसी भिन्न समूह से होता तो क्या यह उसी भाषा में लिखा जाता?" समस्या वाक्यों को चिह्नित करें। पाठ: [पाठ चिपकाएँ]

3) सांस्कृतिक संदर्भ (गैर-रूढ़िवादी):

विभिन्न सांस्कृतिक संदर्भों में निम्नलिखित व्यवहार/स्थिति का क्या अर्थ हो सकता है, इसकी संभावनाएँ प्रदान करें। इन्हें विचारणीय बिंदुओं के रूप में दें, पूर्ण नियमों के रूप में नहीं; इस बात पर ज़ोर दें कि हर समुदाय में व्यक्तिगत भिन्नताएँ होती हैं। किसी एक समूह के बारे में सामान्यीकरण न करें. स्थिति: [स्थिति लिखें]

4) जीभ की सफाई करना:

नीचे दिए गए पाठ में, ऐसे विशेषण खोजें जो व्यक्ति को आंकते हैं या कलंकित करते हैं (उदाहरण के लिए, "उपेक्षित," "असहयोगी," "समस्याग्रस्त")। प्रत्येक के लिए, उसी तथ्य को ऐसे विकल्प से बदलें जो वर्णनात्मक हो, सम्मानजनक हो और ताकत को पहचानता हो। नई जानकारी जोड़ना। पाठ: [पाठ चिपकाएँ]

कमजोर संकेत/मजबूत संकेत

कमजोर संकेत:

बताएं कि यह परिवार बच्चों के पालन-पोषण में अपर्याप्त क्यों है।

यह प्रश्न प्रारंभ से ही परिणाम ("अपर्याप्त") मानता है। एआई, चापलूसी की अपनी प्रवृत्ति के साथ, एक साक्ष्य-मुक्त और पक्षपातपूर्ण पाठ तैयार करेगा जो इस धारणा की पुष्टि करता है। यदि प्रश्न पक्षपातपूर्ण है तो उत्तर भी पक्षपातपूर्ण होगा।

शक्तिशाली संकेत:

निम्नलिखित टिप्पणियों के आधार पर, इस परिवार की बच्चों के पालन-पोषण की ताकत और चिंता के क्षेत्रों को संतुलित और केवल साक्ष्य तरीके से सूचीबद्ध करें। परिणाम को शुरू से न मानें; यदि साक्ष्य अपर्याप्त है तो बताएं। रूढ़िबद्ध धारणाओं से बचें। टिप्पणियाँ: [टिप्पणियाँ चिपकाएँ]

अंतर: एक संतुलित प्रश्न जो परिणाम को नहीं मानता और सबूत मांगता है, सबसे पहले पूर्वाग्रह को रोकता है।

पूर्वाग्रह के प्रकार और प्रतिउपाय

पूर्वाग्रह का प्रकार

यह कैसा दिखता है

जवाबी उपाय

प्रशिक्षण डेटा

समूह स्टीरियोटाइप

साक्ष्य-पैटर्न भेद

फ़्रेमिंग

निष्क्रिय/नकारात्मक भाषा

संतुलित, विषय-केंद्रित भाषा

दोहरा मापदंड

व्यवहार वही, लहजा अलग

विपरीत कोण परीक्षण

सांस्कृतिक अंधापन

सांस्कृतिक शक्ति को समस्या में बदलना

सांस्कृतिक संदर्भ प्रश्न

चापलूसी

निहितार्थ की पुष्टि करें

तटस्थ प्रश्न मत पूछो

प्रतिनिधित्व का अभाव

सतही/गलतफहमी

स्थानीय/विशेषज्ञ पुष्टि

सामान्य गलतियाँ

पूर्वाग्रहपूर्ण प्रश्न पूछना. एक प्रश्न जो निष्कर्ष मानता है वह पक्षपातपूर्ण उत्तर उत्पन्न करता है; तटस्थ समस्या.
आत्मविश्वासपूर्ण भाषा पर भरोसा करना। व्यावसायिक लहजा पूर्वाग्रह को सही नहीं बनाता; सबूत देखो.
सांस्कृतिक ज्ञान को एक निश्चित नियम मानना। इसे संभावना और ध्यान के बिंदु के रूप में लें; रूढ़िवादिता से बचें.
दोहरे मापदंड पर ध्यान नहीं। परीक्षण करें कि एक ही व्यवहार विभिन्न समूहों में कैसे लिखा जाता है।
स्टाम्प को साक्ष्य समझ लिया। यह एक "लापरवाह" निर्णय है; घटना का वर्णन करें, व्यक्ति का मूल्यांकन न करें।

संक्षेप में

एआई तटस्थ नहीं है, यह तटस्थ प्रतीत होता है; यह शैक्षिक डेटा में असमानताओं और रूढ़ियों को धाराप्रवाह भाषा में पुन: प्रस्तुत करता है। सामाजिक कार्य में, इससे वास्तविक लोगों का अनुचित मूल्यांकन हो सकता है। पूर्वाग्रह (प्रशिक्षण डेटा, फ़्रेमिंग, दोहरे मानदंड, सांस्कृतिक अंधापन, चापलूसी) को पहचानें, इसके खिलाफ जाँच करें (तटस्थ प्रश्न, साक्ष्य-पैटर्न पृथक्करण, कोण परीक्षण, सांस्कृतिक संवेदनशीलता, कलंक साफ़ करना), और निष्पक्षता और सम्मान के पेशे के मूल्यों के माध्यम से प्रत्येक आउटपुट को फ़िल्टर करें। अंतिम नैतिक फ़िल्टर हमेशा आप ही होते हैं।

आवेदन कार्य

एआई को दो अलग-अलग समूह प्रोफाइल (उदाहरण के लिए अलग-अलग सामाजिक-आर्थिक स्थिति) के साथ काल्पनिक टिप्पणियों के एक ही सेट को सारांशित करने दें और "रिवर्स एंगल टेस्ट" के साथ तुलना करें कि क्या स्वर/भाषा भिन्न हैं। फिर सचेत रूप से पक्षपाती प्रश्न के साथ एक तटस्थ प्रश्न का प्रयास करें ("स्पष्ट करें कि यह अपर्याप्त क्यों है") और परिणामों में अंतर की जांच करें। अंत में, टेक्स्ट पर "वॉटरमार्कर लैंग्वेज क्लीनिंग" टेम्पलेट लागू करें।

चेकलिस्ट

[ ] मैंने परिणाम की कल्पना किए बिना, अपने प्रश्न तटस्थता से तैयार किए।
[ ] मैंने साक्ष्य-स्टीरियोटाइप भेद का उपयोग करके प्रत्येक नकारात्मक कथन की जाँच की।
[ ] मैंने रिवर्स एंगल टेस्ट के साथ दोहरे मानक की जांच की।
[ ] मैंने सांस्कृतिक ज्ञान का उपयोग सावधानी के बिंदु के रूप में किया, पूर्ण नियम के रूप में नहीं।
[ ] मैंने कलंकित करने वाली भाषा को वर्णनात्मक, सम्मानजनक भाषा से बदल दिया।