नफा:
- कृत्रिम बुद्धिमत्ता मॉडेलमधील सांस्कृतिक, लिंग आणि निदानात्मक पूर्वाग्रह मानसशास्त्राच्या संदर्भात कसे नुकसान करतात ते उदाहरणांसह ओळखा
- विविध गट, भाषा आणि संस्कृतींसाठी आउटपुट तपासणारी पूर्वाग्रह तपासणी लागू करण्याची क्षमता
- पाश्चात्य-केंद्रित रूढी आणि कलंकित भाषा दुरुस्त करणारे त्वरित आणि सत्यापन तंत्र विकसित करण्याची क्षमता
कृत्रिम बुद्धिमत्ता (AI) तटस्थ नाही. एआय मॉडेल इंटरनेटवरील मजकूराच्या मोठ्या ढिगाऱ्यातून शिकते आणि मॉडेलचे "जागतिक दृश्य" कोणाच्या आवाजात जास्त आहे आणि कोणाचा आवाज कमी आहे यावर आधारित आहे. या विकृतीला पक्षपात म्हणतात. मानसशास्त्रातील पूर्वाग्रह हा एक सामान्य तांत्रिक दोष नाही; त्याचा थेट परिणाम एखाद्या व्यक्तीच्या मूल्यांकन, निदान आणि उपचारांवर होऊ शकतो. एक लक्षण एका संस्कृतीत "सामान्य" आणि दुसऱ्या संस्कृतीत "पॅथॉलॉजिकल" म्हणून वाचले जाऊ शकते; वर्तन एका लिंगात "निश्चितता" आणि दुसऱ्यामध्ये "आक्रमकता" म्हणून तयार केले जाऊ शकते. AI हे ऐतिहासिक पूर्वाग्रह जाणून घेऊ शकते आणि त्याची प्रतिकृती बनवू शकते. या युनिटमध्ये तुम्ही मानसशास्त्राच्या संदर्भात AI मधील पक्षपात ओळखण्यास आणि विविध गट, भाषा आणि संस्कृतींच्या आउटपुटचे ऑडिट करण्यास शिकाल.
पूर्वग्रह कुठून येतो आणि ते कसे नुकसान करते?
AI पूर्वाग्रहाचे तीन प्राथमिक स्त्रोत आहेत:
- प्रशिक्षण डेटा असंतुलन. मॉडेल्सना प्रामुख्याने विशिष्ट भाषा, संस्कृती आणि कालखंडातील मजकुराचे प्रशिक्षण दिले जाते. बहुतेक मानसशास्त्र साहित्य पाश्चात्य, सुशिक्षित, औद्योगिक समाजांतून येते; म्हणून AI ची "सामान्य मानवी" गृहीतक हा अरुंद नमुना प्रतिबिंबित करते.
- ऐतिहासिक पूर्वाग्रहाचा समावेश. भूतकाळात विशिष्ट गटांना पॅथॉलॉजीज आणि कलंकित करणारे मजकूर देखील डेटामध्ये समाविष्ट केले आहेत; मॉडेल हे नमुने शिकते.
- प्रतिनिधित्वाचा अभाव. मॉडेलमध्ये अप्रस्तुत गटांबद्दल एकतर अपुरी किंवा स्टिरियोटाइपिकल माहिती आहे (भिन्न वंश, भाषा, लैंगिक प्रवृत्ती, अपंगत्व).
हानी मूर्त आहे: एआय लक्षणांचे मूल्यांकन एका गटात अधिक गंभीर आणि दुसऱ्या गटापेक्षा सौम्य म्हणून करू शकते; चुकून सांस्कृतिक अभिव्यक्ती (शोक विधी, धार्मिक अनुभव) एक लक्षण मानू शकते; त्यातून कलंकित, क्लिच भाषा निर्माण होऊ शकते.
सावधानता: जरी AI मधील आउटपुट "वस्तुनिष्ठ विज्ञान" असल्याचे दिसत असले तरीही, ते शिकलेले पूर्वाग्रह असू शकते. विशेषत: जेव्हा भिन्न संस्कृती, लिंग, लैंगिक अभिमुखता आणि सामाजिक-आर्थिक गटांचा विचार केला जातो, तेव्हा आम्ही प्रत्येक परिणामाचा विचार करतो "हे सर्व गटांसाठी योग्य आहे का?" प्रश्नासह फिल्टर करा.
मानसशास्त्रासाठी विशिष्ट पूर्वाग्रहाचे प्रकार
पक्षपाताचा प्रकार
मानसशास्त्रात पहा
धोका
सांस्कृतिक पूर्वाग्रह
पाश्चिमात्य नियमांना सार्वत्रिक मानणे
पॅथॉलॉजीसाठी सांस्कृतिक अभिव्यक्ती चुकू नका
लिंग पूर्वाग्रह
लिंगानुसार समान वर्तनाचा वेगळ्या पद्धतीने अर्थ लावणे
निदान असमानता
निदान पूर्वाग्रह
विशिष्ट रोगनिदानांसाठी विशिष्ट गटांना "प्रवण" म्हणून चित्रित करणे
ओव्हर / कमी निदान
भाषा पूर्वाग्रह
प्रबळ भाषेत अधिक "प्रवीण", दुसऱ्या भाषेत वरवरचा
असमान मूल्यमापन
मुद्रांकन
भाषा जी व्यक्तीला त्यांच्या निदानाने ओळखते
निकृष्ट फ्रेमिंग
स्टेप बाय स्टेप: बायस कंट्रोल
- तुम्ही आउटपुट बदलू शकता "ते कोणासाठी लिहिले होते?" प्रश्न डिफॉल्ट विषय कोण आहे? तो साधारणपणे एक सुशिक्षित, पाश्चात्य, "सरासरी" माणूस आहे.
- वेगवेगळ्या गटांसह चाचणी करा. वेगवेगळ्या सांस्कृतिक, लिंग आणि वय संदर्भांमध्ये समान प्रॉम्प्ट पुन्हा करा; टिप्पण्या बदलत आहेत का?
- कलंकित जीभ स्कॅन करा. योग्य शब्दरचना जी व्यक्तीच्या निदानाने ओळखते ("स्किझोफ्रेनिक" ऐवजी "स्किझोफ्रेनिया अनुभवणारी व्यक्ती").
- सांस्कृतिक संदर्भ जोडा. AI ला क्लायंटचा सांस्कृतिक/भाषिक संदर्भ सांगा आणि "या संदर्भात सामान्य वाटणाऱ्या अभिव्यक्तींना पॅथॉलॉजी मानू नका."
- तज्ञ आणि समुदाय डोळे. एखाद्या सांस्कृतिक समस्येबद्दल तुम्हाला खात्री नसल्यास, त्या संस्कृतीची जाण असलेल्या सहकाऱ्याचा सल्ला घ्या.
- लोकांना ठरवू द्या. पूर्वाग्रह तपासणे देखील AI वर सोडलेले नाही; न्यायाचा अंतिम निर्णय तुमचा आहे.
टीप: आउटपुट पक्षपाती आहे की नाही हे तपासण्याचा एक व्यावहारिक मार्ग: प्रॉम्प्टमध्ये एकच विशेषता (लिंग, संस्कृती, वय) बदला आणि तोच प्रश्न पुन्हा विचारा. जर या बदलाने व्याख्या "अयोग्यरित्या" बदलली तर पक्षपात आहे.
तीन लहान प्रकरणे
केस 1 - पॅथॉलॉजीजिंग सांस्कृतिक अभिव्यक्ती. एक व्यावसायिक एआयला सांगतो की दु:ख प्रक्रियेदरम्यान वेगळ्या संस्कृतीतील ग्राहक "मृत व्यक्तीशी बोलत आहे". एआय हे "मानसिक लक्षण असू शकते" म्हणून फ्रेम करते. तथापि, त्या क्लायंटच्या संस्कृतीत दुःखाची ही एक सामान्य आणि सामान्य अभिव्यक्ती आहे. तज्ञ AI चे आउटपुट नाकारतो कारण त्याला सांस्कृतिक संदर्भ माहित आहे. ज्याला संदर्भ माहित नाही तो गंभीर गैरसमज करू शकतो.
केस 2 - लिंग पूर्वाग्रह चाचणी. एक अन्वेषक एआयला दोनदा समान प्रकरणाचा सारांश देतो; ते फक्त व्यक्तीचे लिंग बदलते. "महिला" आवृत्तीमध्ये, AI "भावनिक अस्थिरता" वर जोर देते, तर "पुरुष" आवृत्तीमध्ये, ते "ताण प्रतिसाद" सारखेच वर्तन फ्रेम करते. हे मॉडेलचे लिंग पूर्वाग्रह स्पष्टपणे दर्शवते. संशोधक या फरकाचे दस्तऐवजीकरण करतो आणि या जागरूकतेसह आउटपुट वापरतो.
केस 3 - कलंकित भाषा सुधारणे. एआय ही एक "आजारी सीमारेषा आहे," एका अहवालाचा मसुदा सांगते. तज्ञ याला कलंकित करणारी भाषा म्हणून पाहतात जी व्यक्तीला त्याच्या निदानाने ओळखते आणि व्यक्तीवर लक्ष केंद्रित करणाऱ्या भाषेत अनुवादित करते, जसे की "परिभाषित सीमारेषा व्यक्तिमत्व नमुना असलेली व्यक्ती". भाषेतील एक छोटासा बदल क्लायंटच्या प्रतिष्ठेचे रक्षण करण्यात मोठा फरक करतो.
कॉपी करण्यायोग्य प्रॉम्प्ट आणि टेम्पलेट्स
पक्षपातासाठी खालील मजकूर तपासा: सांस्कृतिक, लिंग, लैंगिक अभिमुखता, वय किंवा सामाजिक-आर्थिक पूर्वाग्रह दर्शवणारी ध्वज विधाने. पाश्चात्य मानदंडांना सार्वत्रिक मानणारी गृहितके देखील दर्शवा. प्रत्येकासाठी योग्य पर्याय सुचवा. मजकूर: [text]
खालील परिस्थितीचे मूल्यांकन करण्यात मला मदत करा, परंतु क्लायंटचा सांस्कृतिक संदर्भ [संस्कृती/भाषा] आहे. या संदर्भात, पॅथॉलॉजी म्हणून सामान्य असू शकतात अशा अभिव्यक्ती सादर करणे; तुम्हाला सांस्कृतिक मुद्द्याबद्दल खात्री नसल्यास, "हे सांस्कृतिकदृष्ट्या बदलू शकते, तज्ञाचा सल्ला घ्या" असे म्हणा. स्थिती: [अनामिक स्थिती]
या मजकुरातील कलंक लावणाऱ्या अभिव्यक्तींचे भाषांतर करा जे व्यक्तीला त्यांच्या निदानाने ओळखतात (उदा. "स्किझोफ्रेनिक,","एक सीमारेषा") जी व्यक्ती केंद्रस्थानी ठेवते आणि त्यांची प्रतिष्ठा जपते. सामग्री बदलू नका, फक्त भाषा मानवीकरण करा. मजकूर: [मजकूर]
मी खालील केस सारांशचे दोनदा मूल्यांकन करेन: एकदा विषय [वैशिष्ट्य A], दुसरा [वैशिष्ट्य B]. दोन मूल्यमापनांमध्ये अयोग्य फरक आहे का, आणि असल्यास, ते पूर्वाग्रहामुळे आहे का? तुलना करा.अमूर्त: [निनावी गोषवारा]
कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट
कमकुवत प्रॉम्प्ट: "या क्लायंटचे वर्तन सामान्य आहे की असामान्य?"
हा प्रॉम्प्ट "सामान्य" कोणासाठी आहे हे विचारत नाही; AI एक पाश्चात्य-केंद्रित, असंस्कृत "सामान्य" गृहीत धरते आणि सांस्कृतिक अभिव्यक्ती पॅथॉलॉजी करू शकते.
जोरदार प्रॉम्प्ट: "हा क्लायंट [सांस्कृतिक/भाषिक संदर्भात] आहे. हे वर्तन त्या सांस्कृतिक संदर्भात एक सामान्य अभिव्यक्ती आहे की लक्ष देण्याची आवश्यकता आहे हे स्पष्ट करा, दोन्हीवर स्वतंत्रपणे चर्चा करून. निश्चित निर्णय घेऊ नका; मला सांस्कृतिक संदर्भ माहित असलेल्या तज्ञाशी सल्लामसलत करण्याची आठवण करून द्या."
हे प्रॉम्प्ट संदर्भ केंद्रस्थानी ठेवते, सांस्कृतिक चुकीचे वाचन प्रतिबंधित करते आणि निर्णय तज्ञावर सोडते.
सामान्य चुका
- "उद्देश" साठी AI आउटपुट चुकत आहे. मॉडेलमध्ये पक्षपात आहे हे विसरणे आणि आउटपुटला वैज्ञानिक तथ्य म्हणून स्वीकारणे.
- पाश्चात्य रूढी सार्वत्रिक मानणे. एका संस्कृतीनुसार "सामान्य" परिभाषित करणे आणि विविध अभिव्यक्तींचे पॅथॉलॉजी करणे.
- कलंकित भाषा लक्षात न घेणे. "तांत्रिक भाषा" म्हणून त्याच्या निदानाने व्यक्तीला ओळखणारी भाषा चुकणे.
- पक्षपातासाठी चाचणी नाही. वेगवेगळ्या गटांसह समान प्रॉम्प्ट वापरत नाही आणि सातत्य तपासत नाही.
- तुम्हाला माहीत नसलेल्या संस्कृतीत एकट्याने निर्णय घेणे. ती संस्कृती जाणणाऱ्या सहकाऱ्याचा सल्ला न घेता निर्णय घेणे.
सारांशात
AI पक्षपाती आहे कारण ते पक्षपाती जगाच्या ग्रंथांमधून शिकते; मानसशास्त्रात, हा पूर्वाग्रह सांस्कृतिक, लिंग, निदान, भाषा आणि कलंक या स्वरूपात मूर्त हानीमध्ये अनुवादित करतो. प्रत्येक आउटपुटची तुलना "हे सर्व गटांसाठी योग्य आहे का?" या प्रश्नासह करा. तो ताण; वेगवेगळ्या गटांसह समान प्रॉम्प्टची चाचणी घ्या; तुमच्या प्रॉम्प्टवर सांस्कृतिक संदर्भ जोडा; कलंकित भाषा व्यक्ती-केंद्रित भाषेत बदला; तुम्हाला अपरिचित असल्याच्या संस्कृतीवर तज्ञ/समुदायाचे लक्ष शोधा. न्यायाचा निर्णय, ज्यात पक्षपाताचे नियंत्रण समाविष्ट आहे, ते मानवातून बाहेर पडतात.
अर्ज कार्य
केस सारांश तयार करा (निनावी). ते एआयला दोनदा द्या; फक्त एक वैशिष्ट्य बदला (लिंग, संस्कृती किंवा वय). दोन प्रिंटआउट शेजारी ठेवा आणि अयोग्य फरक तपासा. तसेच AI ला अहवाल परिच्छेदातील कलंकित वाक्ये व्यक्ती-केंद्रित भाषेत अनुवादित करा आणि फरक लक्षात घ्या.
चेकलिस्ट
- आउटपुट बदला "हे सर्व गटांसाठी योग्य आहे का?" मी प्रश्न विचारला.
- मी वेगवेगळ्या गट/संस्कृतींसह समान प्रॉम्प्टची चाचणी केली.
- [ ] मी प्रॉम्प्टमध्ये सांस्कृतिक संदर्भ जोडला आहे; मी सांस्कृतिक अभिव्यक्ती पॅथॉलॉजी केली नाही.
- मी कलंकित भाषा व्यक्तिकेंद्रित भाषेत बदलली.
- मला अपरिचित असलेल्या सांस्कृतिक विषयावर मी तज्ञ/सहकाऱ्याचा सल्ला घेतला.
- [ ] मी निष्पक्षतेचा अंतिम निर्णय माझ्या स्वतःच्या निर्णयावर सोडला आहे, AI वर नाही.