लाभ:
- उदाहरणों के साथ पहचानें कि कैसे कृत्रिम बुद्धिमत्ता मॉडल में सांस्कृतिक, लिंग और नैदानिक पूर्वाग्रह मनोविज्ञान के संदर्भ में नुकसान पहुंचाते हैं
- एक पूर्वाग्रह जांच को लागू करने की क्षमता जो विभिन्न समूहों, भाषाओं और संस्कृतियों के लिए आउटपुट का परीक्षण करती है
- शीघ्र और सत्यापन तकनीक विकसित करने की क्षमता जो पश्चिमी-केंद्रित मानदंड और कलंककारी भाषा को सही करती है
कृत्रिम बुद्धिमत्ता (एआई) तटस्थ नहीं है। एक एआई मॉडल इंटरनेट पर पाठ के विशाल ढेर से सीखता है, और मॉडल का "विश्व दृष्टिकोण" इस बात से भिन्न होता है कि किसकी आवाज़ में अधिक है और किसकी कम है। इस विकृति को पूर्वाग्रह कहा जाता है। मनोविज्ञान में पूर्वाग्रह कोई सामान्य तकनीकी खामी नहीं है; यह किसी व्यक्ति के मूल्यांकन, निदान और उपचार को सीधे प्रभावित कर सकता है। एक लक्षण को एक संस्कृति में "सामान्य" और दूसरे में "पैथोलॉजिकल" के रूप में पढ़ा जा सकता है; किसी व्यवहार को एक लिंग में "मुखरता" और दूसरे में "आक्रामकता" के रूप में परिभाषित किया जा सकता है। एआई इन ऐतिहासिक पूर्वाग्रहों को सीख और दोहरा सकता है। इस इकाई में आप मनोविज्ञान के संदर्भ में एआई में पूर्वाग्रह को पहचानना सीखेंगे और विभिन्न समूहों, भाषाओं और संस्कृतियों के आउटपुट का ऑडिट करेंगे।
पूर्वाग्रह कहां से आता है और यह कैसे नुकसान पहुंचाता है?
एआई पूर्वाग्रह के तीन प्राथमिक स्रोत हैं:
- प्रशिक्षण डेटा असंतुलन. मॉडलों को मुख्य रूप से एक विशिष्ट भाषा, संस्कृति और अवधि के पाठों के साथ प्रशिक्षित किया जाता है। मनोविज्ञान साहित्य का बड़ा हिस्सा पश्चिमी, शिक्षित, औद्योगिकीकृत समाजों से आता है; इसलिए एआई की "सामान्य मानव" धारणा इस संकीर्ण नमूने को दर्शाती है।
- ऐतिहासिक पूर्वाग्रह का समावेश. अतीत में कुछ समूहों को विकृत और कलंकित करने वाले पाठ भी डेटा में शामिल हैं; मॉडल इन पैटर्न को सीखता है।
- प्रतिनिधित्व का अभाव. मॉडल में कम प्रतिनिधित्व वाले समूहों (विभिन्न जातीयता, भाषा, यौन अभिविन्यास, विकलांगता) के बारे में या तो अपर्याप्त या रूढ़िवादी जानकारी है।
नुकसान स्पष्ट है: एआई किसी लक्षण का मूल्यांकन एक समूह में अधिक गंभीर और दूसरे में हल्के के रूप में कर सकता है; किसी सांस्कृतिक अभिव्यक्ति (शोक अनुष्ठान, धार्मिक अनुभव) को गलती से एक लक्षण मान सकता है; यह कलंकित करने वाली, घिसी-पिटी भाषा उत्पन्न कर सकता है।
सावधानी: भले ही एआई से प्राप्त आउटपुट "उद्देश्य विज्ञान" प्रतीत होता है, लेकिन इसमें सीखे गए पूर्वाग्रह हो सकते हैं। विशेष रूप से जब विभिन्न संस्कृतियों, लिंगों, यौन रुझानों और सामाजिक-आर्थिक समूहों की बात आती है, तो हम प्रत्येक परिणाम पर विचार करते हैं "क्या यह सभी समूहों के लिए उचित है?" प्रश्न के साथ फ़िल्टर करें.
मनोविज्ञान के लिए विशिष्ट पूर्वाग्रह के प्रकार
पूर्वाग्रह का प्रकार
मनोविज्ञान में देखें
जोखिम
सांस्कृतिक पूर्वाग्रह
पश्चिमी मानदंडों को सार्वभौमिक मानना
सांस्कृतिक अभिव्यक्ति को विकृति विज्ञान समझने की भूल न करें
लिंग पूर्वाग्रह
लिंग के आधार पर एक ही व्यवहार की अलग-अलग व्याख्या करना
नैदानिक असमानता
नैदानिक पूर्वाग्रह
कुछ समूहों को कुछ निदानों के प्रति "प्रवण" के रूप में चित्रित करना
अधिक/कम निदान
भाषा पूर्वाग्रह
प्रमुख भाषा में अधिक "कुशल", दूसरे में सतही
असमान मूल्यांकन
मुद्रांकन
वह भाषा जो व्यक्ति की पहचान उसके निदान से करती है
अपमानजनक फ़्रेमिंग
चरण दर चरण: पूर्वाग्रह नियंत्रण
- आप आउटपुट को "यह किसके लिए लिखा गया था?" में बदल सकते हैं। सवाल। डिफ़ॉल्ट विषय कौन है? वह आम तौर पर एक शिक्षित, पश्चिमी, "औसत" लड़का है।
- विभिन्न समूहों के साथ परीक्षण करें. विभिन्न सांस्कृतिक, लिंग और आयु संदर्भों में एक ही संकेत दोहराएं; क्या टिप्पणियाँ बदल रही हैं?
- कलंकित जीभ को स्कैन करें. सही शब्दांकन जो व्यक्ति को उसके निदान ("सिज़ोफ्रेनिक" के बजाय सिज़ोफ्रेनिया का अनुभव करने वाला व्यक्ति) से पहचानता है।
- सांस्कृतिक संदर्भ जोड़ें. एआई को ग्राहक का सांस्कृतिक/भाषाई संदर्भ बताएं और "ऐसी अभिव्यक्तियों पर विचार न करें जो इस संदर्भ में सामान्य हो सकती हैं।"
- विशेषज्ञ और समुदाय की निगाहें। यदि आप किसी सांस्कृतिक मुद्दे के बारे में अनिश्चित हैं, तो उस संस्कृति को जानने वाले किसी सहकर्मी से परामर्श लें।
- लोगों को निर्णय लेने दीजिए. यहां तक कि पूर्वाग्रह जांच का काम भी एआई पर नहीं छोड़ा गया है; न्याय का अंतिम निर्णय आपका है.
युक्ति: यह जांचने का एक व्यावहारिक तरीका कि कोई आउटपुट पक्षपाती है या नहीं: प्रॉम्प्ट में एक विशेषता (लिंग, संस्कृति, आयु) बदलें और वही प्रश्न दोबारा पूछें। यदि इस परिवर्तन के साथ व्याख्या "अनुचित" रूप से बदल जाती है, तो पूर्वाग्रह होता है।
तीन मिनी मामले
केस 1 - सांस्कृतिक अभिव्यक्ति का विकृतिकरण। एक पेशेवर एआई को बताता है कि एक अलग संस्कृति का ग्राहक दुःख की प्रक्रिया के दौरान "मृतक से बात कर रहा है"। एआई इसे "एक मानसिक लक्षण हो सकता है" के रूप में परिभाषित करता है। हालाँकि, यह उस ग्राहक की संस्कृति में दुःख की एक सामान्य और सामान्य अभिव्यक्ति है। विशेषज्ञ एआई के आउटपुट को अस्वीकार कर देता है क्योंकि वह सांस्कृतिक संदर्भ जानता है। जो कोई संदर्भ नहीं जानता वह गंभीर गलत निर्णय ले सकता है।
केस 2 - लिंग पूर्वाग्रह परीक्षण। एक अन्वेषक एक ही मामले का सारांश एआई को दो बार देता है; यह सिर्फ व्यक्ति का लिंग बदलता है। "महिला" संस्करण में, एआई "भावनात्मक अस्थिरता" पर जोर देता है, जबकि "पुरुष" संस्करण में, यह उसी व्यवहार को "तनाव प्रतिक्रिया" के रूप में प्रस्तुत करता है। यह स्पष्ट रूप से मॉडल के लैंगिक पूर्वाग्रह को दर्शाता है। शोधकर्ता इस अंतर का दस्तावेजीकरण करता है और इस जागरूकता के साथ आउटपुट का उपयोग करता है।
केस 3 - कलंकित करने वाली भाषा को सुधारना। एक रिपोर्ट के मसौदे में कहा गया है कि एआई एक "बीमार सीमा रेखा" है। विशेषज्ञ इसे एक कलंकित करने वाली भाषा के रूप में देखता है जो व्यक्ति को उसके निदान के साथ पहचानती है और इसे उस भाषा में अनुवादित करती है जो व्यक्ति पर केंद्रित होती है, जैसे कि "एक परिभाषित सीमा रेखा व्यक्तित्व पैटर्न वाला व्यक्ति"। भाषा में एक छोटा सा बदलाव ग्राहक की गरिमा की रक्षा में बड़ा बदलाव लाता है।
कॉपी करने योग्य संकेत और टेम्पलेट
पूर्वाग्रह के लिए निम्नलिखित पाठ की जाँच करें: ध्वज कथन जो सांस्कृतिक, लिंग, यौन अभिविन्यास, आयु, या सामाजिक आर्थिक पूर्वाग्रह का संकेत देते हैं। उन धारणाओं को भी दर्शाइए जो पश्चिमी मानदंडों को सार्वभौमिक मानती हैं। प्रत्येक के लिए एक उचित विकल्प सुझाएं। पाठ: [पाठ]
निम्नलिखित स्थिति का मूल्यांकन करने में मेरी सहायता करें, लेकिन ग्राहक का सांस्कृतिक संदर्भ [संस्कृति/भाषा] है। इस संदर्भ में, उन अभिव्यक्तियों को प्रस्तुत करना जो सामान्य हो सकती हैं विकृति विज्ञान के रूप में; यदि आप किसी सांस्कृतिक बिंदु के बारे में अनिश्चित हैं, तो कहें "यह सांस्कृतिक रूप से भिन्न हो सकता है, किसी विशेषज्ञ से परामर्श लें।" स्थिति: [गुमनाम स्थिति]
इस पाठ में उन कलंकित करने वाली अभिव्यक्तियों का अनुवाद करें जो व्यक्ति को उनके निदान के साथ पहचानते हैं (उदाहरण के लिए, "स्किज़ोफ्रेनिक," "एक सीमा रेखा") जो व्यक्ति को केंद्रित करती है और उनकी गरिमा को बनाए रखती है। सामग्री न बदलें, केवल भाषा को मानवीय बनाएं। पाठ: [पाठ]
मैं निम्नलिखित केस सारांश का दो बार मूल्यांकन करूंगा: एक बार विषय [फीचर ए], दूसरा [फीचर बी]। क्या दोनों मूल्यांकनों के बीच कोई अनुचित अंतर है, और यदि हां, तो क्या यह पूर्वाग्रह के कारण है? तुलना करें.सार: [गुमनाम सार]
कमजोर संकेत/मजबूत संकेत
कमज़ोर संकेत: "क्या इस ग्राहक का व्यवहार सामान्य है या असामान्य?"
यह संकेत यह नहीं पूछता कि "सामान्य" किसके लिए है; एआई एक पश्चिमी-केंद्रित, असंस्कृत "सामान्य" मानता है और सांस्कृतिक अभिव्यक्ति को विकृत कर सकता है।
सशक्त संकेत: "यह ग्राहक [सांस्कृतिक/भाषाई संदर्भ] में है। बताएं कि क्या यह व्यवहार उस सांस्कृतिक संदर्भ में एक सामान्य अभिव्यक्ति हो सकता है या एक संकेत जिस पर ध्यान देने की आवश्यकता है, दोनों पर अलग से चर्चा करें। कोई निश्चित निर्णय न लें; मुझे एक ऐसे विशेषज्ञ से परामर्श करने के लिए याद दिलाएं जो सांस्कृतिक संदर्भ को जानता हो।"
यह संकेत संदर्भ को केंद्र में रखता है, सांस्कृतिक गलत व्याख्या को रोकता है, और निर्णय विशेषज्ञ पर छोड़ देता है।
सामान्य गलतियां
- एआई आउटपुट को "उद्देश्य" समझने की भूल। यह भूल जाना कि मॉडल पूर्वाग्रह रखता है और आउटपुट को वैज्ञानिक तथ्य के रूप में स्वीकार करना।
- पश्चिमी आदर्श को सार्वभौमिक मानना। एक ही संस्कृति के अनुसार "सामान्य" को परिभाषित करना और विभिन्न अभिव्यक्तियों का विकृतिकरण करना।
- कलंकित करने वाली भाषा पर ध्यान नहीं। उस भाषा को जो उसके निदान वाले व्यक्ति की पहचान कराती है, उसे "तकनीकी भाषा" समझ लिया जाता है।
- पूर्वाग्रह के लिए परीक्षण नहीं. विभिन्न समूहों के साथ एक ही संकेत का प्रयास न करना और निरंतरता की जाँच न करना।
- ऐसी संस्कृति में अकेले निर्णय लेना जिसे आप नहीं जानते। उस संस्कृति को जानने वाले किसी सहकर्मी से परामर्श किए बिना निर्णय लेना।
संक्षेप में
एआई पक्षपाती है क्योंकि यह पक्षपाती दुनिया के पाठों से सीखता है; मनोविज्ञान में, यह पूर्वाग्रह सांस्कृतिक, लिंग, निदान, भाषा और कलंक के रूप में वास्तविक नुकसान में तब्दील होता है। प्रत्येक आउटपुट की तुलना इस प्रश्न से करें कि "क्या यह सभी समूहों के लिए उचित है?" इसे तनाव दें; विभिन्न समूहों के साथ एक ही संकेत का परीक्षण करें; अपने प्रॉम्प्ट में सांस्कृतिक संदर्भ जोड़ें; कलंक लगाने वाली भाषा को व्यक्ति-केंद्रित भाषा में बदलें; जिस संस्कृति से आप अपरिचित हैं उस पर विशेषज्ञ/समुदाय की नजरें तलाशें। न्याय का निर्णय, पूर्वाग्रह के नियंत्रण सहित, मनुष्य से निकलता है।
आवेदन कार्य
केस सारांश (अनाम) तैयार करें। इसे एआई को दो बार दें; केवल एक विशेषता (लिंग, संस्कृति या उम्र) बदलें। दोनों प्रिंटआउट को एक साथ रखें और अनुचित अंतरों की जांच करें। साथ ही एआई को रिपोर्ट पैराग्राफ में कलंक लगाने वाले वाक्यांशों का व्यक्ति-केंद्रित भाषा में अनुवाद करने और अंतर नोट करने के लिए कहें।
चेकलिस्ट
- [ ] आउटपुट को "क्या यह सभी समूहों के लिए उचित है?" में बदलें। मैंने सवाल पूछा.
- [ ] मैंने विभिन्न समूहों/संस्कृतियों के साथ एक ही संकेत का परीक्षण किया।
- [ ] मैंने प्रॉम्प्ट में सांस्कृतिक संदर्भ जोड़ा; मैंने सांस्कृतिक अभिव्यक्ति को विकृत नहीं किया।
- [ ] मैंने कलंकित करने वाली भाषा को व्यक्ति-केन्द्रित भाषा में बदल दिया।
- [ ] मैंने एक सांस्कृतिक मुद्दे पर एक विशेषज्ञ/सहकर्मी की सलाह मांगी जिससे मैं अपरिचित था।
- [ ] मैंने निष्पक्षता का अंतिम निर्णय अपने निर्णय पर छोड़ा है, एआई पर नहीं।