नफा:
- प्रशिक्षण डेटा, फ्रेमिंग, दुहेरी मानके आणि खुशामत याद्वारे एआय पक्षपात करते तेव्हा ओळखणे
- तटस्थ प्रश्न, पुरावा-स्टिरियोटाइप भेदभाव आणि उलट कोन चाचणीसह पूर्वाग्रहाविरूद्ध नियंत्रण स्थापित करण्याची क्षमता
- कलंकित भाषेचे वर्णनात्मक आणि आदरयुक्त भाषेत भाषांतर करण्याची क्षमता सांस्कृतिक ज्ञानाचा वापर करून निश्चित नियमाऐवजी लक्ष वेधून घेणे
सामाजिक कार्याचा आधार म्हणजे न्याय आणि मानवी प्रतिष्ठा; प्रत्येक व्यक्ती समान मूल्याची आहे, भेदभावाला विरोध केला जातो आणि असुरक्षित गटांना संरक्षण दिले जाते ही वचनबद्धता व्यवसायाच्या मुळाशी आहे. कृत्रिम बुद्धिमत्तेमध्ये एक धोका असतो जो शांतपणे या मूल्यांना हानी पोहोचवू शकतो: पूर्वाग्रह. एआय ऐतिहासिक डेटावरून शिकते; त्या डेटामध्ये समाजातील असमानता, रूढी आणि भेदभाव यांचा समावेश असल्यास, AI त्यांना शिकते आणि अस्खलित, "उद्देशीय" दिसणाऱ्या भाषेत त्यांचे पुनरुत्पादन करते. सामाजिक कार्यकर्त्याच्या हातात, हे एखाद्या गटाचे पद्धतशीरपणे अधिक नकारात्मक मूल्यांकन, कुटुंबाचे स्टिरियोटाइपिंग किंवा संस्कृतीबद्दल गैरसमज मध्ये अनुवादित होऊ शकते. या युनिटमध्ये, तुम्ही AI पूर्वाग्रह ओळखण्यास, त्यावर नियंत्रण ठेवण्यास आणि निष्पक्षता आणि सांस्कृतिक संवेदनशीलतेसह AI वापरण्यास शिकाल.
सुरुवातीपासून एक वस्तुस्थिती: AI तटस्थ नाही, ते तटस्थ दिसते. सर्वात धोकादायक पूर्वाग्रह आत्मविश्वासपूर्ण आणि व्यावसायिक भाषेत सादर केलेला आहे; कारण ते कोणत्याही प्रश्नाशिवाय स्वीकारले जाते. एक सामाजिक कार्यकर्ता म्हणून तुमचे कार्य हे अदृश्य पूर्वाग्रह दृश्यमान करणे आणि आउटपुट तुमच्या व्यावसायिक मूल्यांशी विरोधाभास आहे की नाही याचे निरीक्षण करणे आहे.
AI पूर्वाग्रह कुठून येतो आणि तो कसा दिसतो?
- प्रशिक्षण डेटा पूर्वाग्रह. AI समाजातील असमानता दर्शविणाऱ्या ग्रंथांमधून शिकते. विशिष्ट वांशिक गट, गरीब, अपंग, विशिष्ट अतिपरिचित क्षेत्र किंवा लिंग यांबद्दलचे स्टिरियोटाइप आउटपुटमध्ये येऊ शकतात.
- भाषा आणि फ्रेमिंग पूर्वाग्रह. AI एखाद्या गटाला निष्क्रिय, "समस्याग्रस्त" किंवा "मदतीची गरज असलेली वस्तू" म्हणून फ्रेम करू शकते; विषय म्हणून दुसरा गट. समान वर्तनाचा एका गटाद्वारे "सांस्कृतिक" आणि दुसऱ्या गटाद्वारे "समस्यापूर्ण" म्हणून अर्थ लावला जाऊ शकतो.
- प्रतिनिधित्वाचा अभाव. AI चुकीच्या पद्धतीने किंवा वरवरच्या रीतीने डेटामध्ये कमी प्रतिनिधित्व केलेले गट समजू शकते (लहान लोकसंख्या, दुर्मिळ प्रकरणे).
- खुशामत करणे (चापलूस). एआय आपल्या निहित दृश्याची पुष्टी करते; एक पक्षपाती प्रश्न पक्षपाती पुष्टीकरण आणतो.
हे पूर्वाग्रह विशेषतः सामाजिक कार्यात धोकादायक असतात कारण आउटपुट प्रत्यक्ष लोकांच्या जीवनाला स्पर्श करते - मूल्यांकन, अहवाल, संदर्भ.
खबरदारी: "एआयने त्याच प्रकारे मूल्यांकन केले" हे एक चेतावणी चिन्ह आहे, समर्थन नाही. जेव्हा तुम्ही एखाद्या समूहाचे किंवा व्यक्तीचे नकारात्मक चित्रण करणारे आउटपुट पाहता तेव्हा पहिला प्रश्न येतो "ते पुराव्यावर आधारित आहे की स्टिरियोटाइपवर आधारित आहे?" असावे.
स्टेप बाय स्टेप: बायस विरुद्ध ऑडिटिंग
- तटस्थपणे विचारा. असे प्रश्न विचारा जे सूचित करत नाहीत किंवा नेतृत्व करत नाहीत; "हे कुटुंब दुर्लक्षित का आहे हे स्पष्ट करू नका," परंतु "या निरीक्षणांचा अर्थ काय असू शकतो, पर्यायी स्पष्टीकरणे काय आहेत?" विचारा
- पुरावा आणि स्टिरियोटाइप यांच्यात फरक करा. प्रत्येक नकारात्मक विधानासाठी, विचारा: ते माझ्यासमोरील ठोस पुराव्यावर आधारित आहे किंवा एखाद्या गटाबद्दलच्या सामान्य गृहीतकावर आधारित आहे?
- विरुद्ध कोनातून चाचणी घ्या. भिन्न गटासाठी समान परिस्थितीचा विचार करा: "जर ग्राहक भिन्न सामाजिक-आर्थिक/जातीय पार्श्वभूमीचा असेल, तर AI ते त्याच भाषेत लिहील का?"
- सांस्कृतिक संवेदनशीलता शोधा. वर्तनाच्या सांस्कृतिक संदर्भाबद्दल विचारा; परंतु सांस्कृतिक ज्ञान एक शक्यता आणि सावधगिरीचा मुद्दा म्हणून घ्या, एक परिपूर्ण नियम नाही (स्टिरियोटाइप टाळा).
- छापील जीभ स्वच्छ करा. एखाद्या व्यक्तीचे नव्हे तर परिस्थितीचे वर्णन करणाऱ्या भाषेत भाषांतर करा आणि सामर्थ्य देखील पहा.
तीन लहान प्रकरणे
केस 1 - उलट कोनाने पूर्वाग्रह प्रकट केला. एका तज्ञाने एआयला दोन समान प्रकरणांचा सारांश दिला होता; फरक फक्त कुटुंबांच्या सामाजिक आर्थिक स्थितीचा होता. YZ ने कमी उत्पन्न असलेल्या कुटुंबासाठी "उपेक्षा जास्त धोका" आणि उच्च उत्पन्न असलेल्या कुटुंबासाठी "पालकांनी वागण्यास भाग पाडले" या टोनमध्ये लिहिले. तज्ञाने हे दुहेरी मानक ओळखले आणि दोन्ही मुल्यांकन पुराव्यावर आधारित, समान भाषेत केले.
केस 2 - सांस्कृतिक चुकीचा अर्थ दुरुस्त केला. YZ ने विस्तारित कुटुंबासह राहणा-या मुलाची परिस्थिती "सीमा समस्या आणि मिश्रित घरगुती वातावरण" म्हणून तयार केली. तज्ञांना माहित होते की कुटुंबाच्या सांस्कृतिक संदर्भात, विस्तारित कुटुंब समर्थन आणि संरक्षणाचा एक शक्तिशाली स्त्रोत आहे. एआयने सांस्कृतिक शक्तीला समस्येत बदलले होते. हे समर्थन संसाधन म्हणून ओळखण्यासाठी पुनरावलोकन दुरुस्त केले गेले आहे.
प्रकरण 3 - अग्रगण्य प्रश्नाने पूर्वाग्रह निर्माण केला. "हे वडील अविश्वासू का आहेत ते लिहा," एका इंटर्नने एआयला विचारले. एआयने एक मजकूर तयार केला ज्यामध्ये कोणत्याही पुराव्याशिवाय वडिलांचे नकारात्मक (चापलूस) चित्रण केले गेले. पर्यवेक्षकाने प्रश्न सुधारित केला: "वडिलांबद्दल काय निरीक्षणे आहेत, त्यांची ताकद आणि कमकुवतता काय असू शकते?" आउटपुट संतुलित आणि पुराव्यावर आधारित झाले आहे. धडा: पक्षपाती प्रश्न पक्षपाती उत्तर निर्माण करतो.
चार कॉपी करण्यायोग्य टेम्पलेट्स
1) तटस्थ, संतुलित मूल्यमापनाची विनंती करा:
खालील निरिक्षणांचा सारांश देताना, तुम्ही संभाव्य सामर्थ्य आणि संभाव्य चिंता दोन्ही संतुलित पद्धतीने मांडता आणि केवळ पुराव्यावर आधारित. स्टिरियोटाइपवर आधारित कोणतेही अनुमान काढू नका. टिप्पणी निरीक्षणावर अवलंबून नसल्यास, "अपुरा पुरावा" लिहा. निरीक्षणे: [पेस्ट निरीक्षणे]
२) बायस चेक (विरुद्ध कोन चाचणी):
खालील पुनरावलोकन मजकूर पहा. क्लायंटची सामाजिक-आर्थिक स्थिती, वांशिकता, धर्म, लिंग, अपंगत्व किंवा अतिपरिचित क्षेत्र यामुळे अप्रमाणित स्टिरियोटाइप व्यक्त करणारी विधाने आहेत का? प्रत्येकासाठी, विचारा: "जर क्लायंट वेगळ्या गटातील असेल तर हे त्याच भाषेत लिहिले जाईल का?" ध्वजांकित समस्या वाक्य. मजकूर: [मजकूर पेस्ट करा]
3) सांस्कृतिक संदर्भ (नॉन-स्टिरियोटाइप):
वेगवेगळ्या सांस्कृतिक संदर्भांमध्ये खालील वर्तन/परिस्थितीचा अर्थ काय असू शकतो यासाठी शक्यता प्रदान करा. हे मुद्दे विचारात घेण्यासारखे द्या, परिपूर्ण नियम म्हणून नव्हे; प्रत्येक समाजात वैयक्तिक फरक आहेत यावर जोर द्या. एका गटाबद्दल सामान्यीकरण करू नका. परिस्थिती: [परिस्थिती लिहा]
4) छाप जीभ साफ करणे:
खालील मजकुरात, व्यक्तीला न्याय देणारी किंवा कलंकित करणारे विशेषण शोधा (उदा., "उपेक्षित," "असहयोग," "समस्याग्रस्त"). प्रत्येकासाठी, समान वस्तुस्थिती वर्णनात्मक, आदरयुक्त आणि सामर्थ्य ओळखणाऱ्या पर्यायाने बदला. नवीन माहिती जोडत आहे. मजकूर: [मजकूर पेस्ट करा]
कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट
कमकुवत प्रॉम्प्ट:
मुलांचे संगोपन करण्यासाठी हे कुटुंब अपुरे का आहे हे स्पष्ट करा.
हा प्रश्न सुरुवातीपासूनच परिणाम गृहीत धरतो ("अपुरा"). AI, खुशामत करण्याच्या प्रवृत्तीसह, एक पुरावा-मुक्त आणि पक्षपाती मजकूर तयार करेल जो या गृहीतकाची पुष्टी करेल. प्रश्न पक्षपाती असेल तर उत्तरही पक्षपाती असेल.
शक्तिशाली सूचना:
खालील निरिक्षणांच्या आधारे, या कुटुंबाची बाल संगोपन शक्ती आणि चिंतेची क्षेत्रे या दोन्हींची संतुलित आणि केवळ पुराव्यानिशी यादी करा. सुरुवातीपासूनच परिणाम गृहीत धरू नका; पुरावे अपुरे असल्यास, तसे सांगा. स्टिरिओटाइप टाळा.निरीक्षण: [पेस्ट निरीक्षणे]
फरक: एक संतुलित प्रश्न जो परिणाम गृहीत धरत नाही आणि पुरावे विचारतो तो प्रथमतः पूर्वाग्रह टाळतो.
पूर्वाग्रह आणि प्रतिकाराचे प्रकार
पक्षपाताचा प्रकार
ते कसे दिसते
प्रतिकार
प्रशिक्षण डेटा
गट स्टिरियोटाइप
पुरावा-नमुना भेद
फ्रेमिंग
निष्क्रिय/नकारात्मक भाषा
संतुलित, विषय-केंद्रित भाषा
दुहेरी मानक
तीच वागणूक, वेगळा सूर
उलट कोन चाचणी
सांस्कृतिक अंधत्व
सांस्कृतिक शक्तीला समस्येत बदलणे
सांस्कृतिक संदर्भ प्रश्न
खुशामत
परिणामाची पुष्टी करा
तटस्थ प्रश्न विचारू नका
प्रतिनिधित्वाचा अभाव
वरवरचा/गैरसमज
स्थानिक/तज्ञ पुष्टीकरण
सामान्य चुका
- पूर्वग्रहदूषित प्रश्न विचारणे. एखादा प्रश्न जो निष्कर्ष गृहीत धरतो तो पक्षपाती उत्तर देतो; तटस्थ समस्या.
- आत्मविश्वासपूर्ण भाषेवर अवलंबून. व्यावसायिक टोन पूर्वाग्रह योग्य करत नाही; पुरावे पहा.
- सांस्कृतिक ज्ञानाचा एक निश्चित नियम म्हणून विचार करणे. शक्यता आणि लक्ष एक बिंदू म्हणून घ्या; स्टिरियोटाइप टाळा.
- दुटप्पीपणा लक्षात घेत नाही. वेगवेगळ्या गटांमध्ये समान वर्तन कसे लिहिले जाते ते तपासा.
- पुरावा म्हणून शिक्का चुकवणे. तो एक "निष्काळजी" निर्णय आहे; घटनेचे वर्णन करा, व्यक्तीचा न्याय करू नका.
सारांशात
AI तटस्थ नाही, ते तटस्थ दिसते; हे अस्खलित भाषेत शैक्षणिक डेटामधील असमानता आणि रूढीवादी गोष्टींचे पुनरुत्पादन करते. सामाजिक कार्यात, यामुळे वास्तविक लोकांचे अयोग्य मूल्यमापन होऊ शकते. पूर्वाग्रह ओळखा (प्रशिक्षण डेटा, फ्रेमिंग, दुहेरी मानके, सांस्कृतिक अंधत्व, खुशामत), त्याविरुद्ध तपासा (तटस्थ प्रश्न, पुरावा-नमुना वेगळे करणे, कोन चाचणी, सांस्कृतिक संवेदनशीलता, कलंक क्लिअरिंग) आणि प्रत्येक आउटपुट व्यवसायाच्या निष्पक्षता आणि सन्मानाच्या मूल्यांद्वारे फिल्टर करा. अंतिम नैतिक फिल्टर नेहमी तुम्ही आहात.
अर्ज कार्य
AI ला दोन भिन्न गट प्रोफाइल (उदा. भिन्न सामाजिक-आर्थिक स्थिती) सह काल्पनिक निरीक्षणांचा समान संच सारांशित करा आणि टोन/भाषा भिन्न आहेत की नाही याची “रिव्हर्स अँगल टेस्ट” शी तुलना करा. नंतर जाणीवपूर्वक पक्षपाती प्रश्नासह तटस्थ प्रश्न वापरून पहा ("ते अपुरे का आहे ते स्पष्ट करा") आणि परिणामांमधील फरक तपासा. शेवटी, मजकूरावर "वॉटरमार्कर भाषा स्वच्छता" टेम्पलेट लागू करा.
चेकलिस्ट
- [] परिणाम गृहीत न धरता मी माझे प्रश्न तटस्थपणे मांडले.
- [ ] मी पुरावा-स्टिरियोटाइप भेद वापरून प्रत्येक नकारात्मक विधान तपासले.
- [ ] मी उलट कोन चाचणीसह दुहेरी मानक तपासले.
- [ ] मी सांस्कृतिक ज्ञानाचा उपयोग सावधगिरीचा मुद्दा म्हणून केला आहे, पूर्ण नियम नाही.
- [ ] मी कलंकित भाषेच्या जागी वर्णनात्मक, आदरयुक्त भाषेने बदलले.