नफा:
- डेटा हा AI पूर्वाग्रहाचा प्राथमिक स्रोत आहे हे समजते
- कामाच्या ठिकाणी पूर्वाग्रहामुळे निर्माण होणारे धोके ओळखतात
- पूर्वग्रह कमी करण्यासाठी जे उपाय करता येतील ते अंमलात आणते
AI तटस्थ, वस्तुनिष्ठ मशीन म्हणून दिसते; पण सत्य जास्त क्लिष्ट आहे. AI सिस्टम त्यांना प्रशिक्षित केलेल्या डेटामध्ये मानवी पूर्वाग्रह शिकतात आणि काहीवेळा ते मोठे करतात आणि पुनरुत्पादित करतात. पूर्वग्रह ही एखाद्या प्रणालीची पद्धतशीरपणे काही लोक किंवा गटांना अनुकूल किंवा वगळण्याची प्रवृत्ती आहे. या युनिटमध्ये, आम्ही पूर्वग्रह कोठून येतो, कामाच्या ठिकाणी कोणते ठोस धोके निर्माण करतो आणि त्याविरुद्ध काय केले जाऊ शकते याचा विचार करू. ही केवळ "नीती" ची बाब नाही; ही एक व्यावहारिक व्यावसायिक बाब आहे जी चुकीचे व्यवस्थापन करताना कायदेशीर, व्यावसायिक आणि प्रतिष्ठेची जोखीम बाळगते.
पूर्वग्रह कुठून येतो?
भाषेच्या मॉडेलची माहिती मानवाने तयार केलेल्या प्रचंड ग्रंथांमधून येते. या ग्रंथांमध्ये मानवी समाजाचे सर्व ज्ञान, तसेच त्यातील सर्व रूढी, असमतोल आणि ऐतिहासिक असमानता आहेत. मॉडेल "चांगले" आणि "वाईट" नमुन्यांमध्ये फरक करत नाही; डेटामध्ये जे काही आहे ते ते शिकते.
उदाहरण: जर काही व्यवसाय प्रामुख्याने भूतकाळातील लिंगाशी संबंधित असतील (उदा. "नर्स" स्त्रीसह, "अभियंता" पुरुषासह), मॉडेल ही संबद्धता शिकते. "एक अभियंता कार्यालयात गेला, तो..." हे वाक्य पूर्ण करताना पुरुष सर्वनाम निवडण्याचा तिचा कल असू शकतो, मॉडेल दुर्भावनापूर्ण नाही; ते केवळ डेटामधील असमतोल दर्शवते.
तर बायस हे मुख्यतः डेटाचा आरसा असल्यामुळे आहे, जाणीवपूर्वक प्रोग्रामिंग त्रुटी नाही. "कोणीतरी वाईट कोड लिहिला" म्हणून समस्येचे स्पष्टीकरण दिशाभूल करणारे आहे; समस्या अशी आहे की जगातील असंतुलन डेटामध्ये आणि तेथून मॉडेलमध्ये नेले जाते.
कामाच्या ठिकाणी मूर्त जोखीम
क्षेत्र
पक्षपाताचा धोका
संभाव्य हानी
भरती
ऐतिहासिक डेटामधील कल जाणून घ्या आणि काही गट काढून टाका
कायदेशीर केस, क्षमता कमी होणे
ग्राहक संवाद
स्टिरियोटिपिकल किंवा अपवर्जन भाषा
प्रतिष्ठा गमावणे, ग्राहक उड्डाण
क्रेडिट/जोखीम
भूतकाळातील असमानता कायम ठेवणे
भेदभाव, मंजूरी
कामगिरी मूल्यांकन
निर्णयामध्ये डेटामधील पूर्वाग्रह घेऊन जाणे
अयोग्य प्रमोशन/बोनस
सामग्री/विपणन
विशिष्ट गट अदृश्य करा
ब्रँड नुकसान
तीन मिनी केसेस
केस 1 - जाहिरात भाषा कमी करत होती. एका कंपनीने AI सह जॉब पोस्टिंग छापण्यास सुरुवात केली. काही काळानंतर, असे लक्षात आले की जाहिरातींनी "तरुण आणि गतिमान", "आक्रमक लक्ष्य" सारख्या अभिव्यक्तीसह विशिष्ट प्रोफाइलला आवाहन केले आणि त्यामुळे अनुप्रयोगांची विविधता कमी झाली. संघाने एक पाऊल जोडले जे प्रत्येक पोस्टिंग "समावेशक भाषा" साठी तपासते; अर्जदारांच्या विविधतेत काही महिन्यांत लक्षणीय वाढ झाली आहे.
केस 2 - सारांशात लपलेला पूर्वाग्रह. एका व्यवस्थापकाकडे AI सारांशित 30 कर्मचारी अभिप्राय होता. संक्षेपाने एका विशिष्ट संघावर नकारात्मक टिप्पण्या केंद्रित केल्यासारखे दिसत होते; कच्च्या डेटामध्ये परिस्थिती संतुलित होती. मॉडेलने अनेक मजबूत विधाने अतिशयोक्तीपूर्ण केली. मॅनेजरने परत जाऊन रॉ डाटा तपासला असता त्यांनी गैरसमज करण्याचे टाळले.
प्रकरण 3 - समावेशकतेच्या आदेशाने काम केले. एका विपणन संघाने "समावेशक, गैर-विशिष्ट लिंग/वय/गट भाषा वापरण्यासाठी आणि शेवटी तुमच्या गृहितकांची यादी करण्यासाठी" मोहिमेच्या कॉपीमधील सूचना प्रमाणित केल्या. उत्पादित ग्रंथांमधील सूत्रात्मक अभिव्यक्ती लक्षणीयरीत्या कमी झाल्या आहेत; संघाला प्रत्येक आउटपुट पुन्हा पुन्हा व्यक्तिचलितपणे दुरुस्त करण्याची गरज नव्हती.
पूर्वाग्रह ओळखणे कठीण का आहे?
पूर्वग्रहाबद्दलची सर्वात कपटी गोष्ट म्हणजे ती अनेकदा अदृश्य असते. आउटपुट गुळगुळीत, व्यावसायिक आणि वाजवी दिसते; जेव्हा एखादी व्यक्ती काळजीपूर्वक पाहते किंवा वेगवेगळ्या गटांवर त्याचा प्रभाव मोजतो तेव्हाच त्यातील प्रवृत्ती स्पष्ट होते. एकच उदाहरण बघून "इथे पक्षपात नाही" असे म्हणणे दिशाभूल करणारे आहे; पूर्वाग्रह अनेकदा वैयक्तिक उदाहरणांमध्ये नव्हे तर प्रणालीच्या सामान्य प्रवृत्तीमध्ये प्रकट होतो.
खबरदारी: "मी तटस्थ आहे, म्हणून मी वापरत असलेले साधन देखील तटस्थ आहे" ही धारणा धोकादायक आहे. साधनाची तटस्थता प्रशिक्षण डेटा आणि त्याची तपासणी कशी केली जाते यावर अवलंबून असते, तुमच्या हेतूवर नाही.
कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट
कमकुवत प्रॉम्प्ट: या पदासाठी आदर्श उमेदवाराचे वर्णन करा.
परिणाम: मॉडेल स्टिरियोटाइपवर अवलंबून असू शकते आणि विशिष्ट प्रोफाइल "आदर्श" म्हणून सादर करू शकते.
सशक्त प्रॉम्प्ट: या पदासाठी केवळ मोजता येण्याजोग्या क्षमतांची यादी करा जी खरोखरच नोकरीशी संबंधित आहेत. नोकरीशी संबंधित नसलेली कोणतीही वैशिष्ट्ये वापरू नका, जसे की लिंग, वय, वैवाहिक स्थिती, मूळ गाव. शेवटी, "मी टाळत असलेले गृहितक" या शीर्षकाखाली तुम्ही काय सोडले ते लिहा.
परिणाम: मूल्यांकन नोकरी-संबंधित निकषांपुरते मर्यादित आहे, अप्रासंगिक वैशिष्ट्ये वगळण्यात आली आहेत.
पूर्वाग्रह कमी करण्यासाठी टेम्पलेट्स
Check the text below for inclusive language. ध्वजांकित विधाने जी लिंग, वय, वंश, अपंगत्व किंवा विशिष्ट गट सूचित करतात आणि प्रत्येकासाठी तटस्थ पर्याय सुचवतात. मजकूर: [येथे पेस्ट करा]
हे मूल्यमापन केवळ या वस्तुनिष्ठ निकषांवर आधारित करा: [निकष]. या निकषांव्यतिरिक्त (नाव, लिंग, वय) कोणतीही माहिती विचारात घेऊ नका.
तुम्ही तयार केलेल्या मजकुरात तुम्ही कोणते गृहितक केले ते शेवटी एका स्वतंत्र शीर्षकाखाली सूचीबद्ध करा. त्यामुळे मी लपलेले पूर्वाग्रह पाहू शकतो.
वाचकांच्या तीन वेगवेगळ्या गटांच्या नजरेतून या सामग्रीचे मूल्यमापन करा आणि त्यांच्यापैकी कोणालाही अपमानित/अपमानित करणारी कोणतीही विधाने चिन्हांकित करा. सामग्री: [येथे पेस्ट करा]
सामान्य चुका
सामान्य चुका
- "तटस्थ" AI आउटपुट गृहीत धरून. जरी आउटपुट तटस्थ दिसत असले तरी ते डेटामध्ये पूर्वाग्रह ठेवू शकते; सक्रिय पर्यवेक्षण आवश्यक आहे.
- Looking at one example and saying "there is no bias". व्यवस्थेच्या सामान्य प्रवृत्तीमध्ये पूर्वग्रह दडलेला असतो.
- पर्यवेक्षण न केलेल्या AI वर उच्च-प्रभावी निर्णय घेणे सोडणे. भरती, पदोन्नती आणि पत यासारख्या निर्णयांमध्ये मानवी अधिकार आवश्यक आहे.
- सर्वसमावेशकतेची मागणी करणे विसरणे. तुम्ही प्रॉम्प्टमध्ये स्पष्टपणे विनंती न केल्यास, मॉडेल डीफॉल्ट पॅटर्नवर परत येईल.
- याचा अर्थ "यंत्राने ते सांगितले." निर्णयाचा वापर करणारी व्यक्तीही परिणामांसाठी जबाबदार आहे.
न्याय ही प्रत्येकाची जबाबदारी आहे
पूर्वग्रहांशी लढणे हे केवळ तांत्रिक संघाचे काम नाही. AI आउटपुट वापरणाऱ्या प्रत्येक कर्मचाऱ्याची जबाबदारी आहे की ते आउटपुट न्याय्य आहे की नाही. “मशीनने मला सांगितले” हे निमित्त नाही; निर्णय घेणारी व्यक्ती देखील परिणामांसाठी जबाबदार आहे.
सारांशात
- AI पूर्वाग्रहाचा प्राथमिक स्त्रोत कुरूपता नाही, परंतु प्रशिक्षण डेटामधील विद्यमान असमतोल आणि रूढीवादी आहेत.
- पूर्वग्रह; हे भरती, ग्राहक संप्रेषण, वित्त आणि मूल्यमापन यासारख्या क्षेत्रांमध्ये वास्तविक कायदेशीर आणि प्रतिष्ठित धोका निर्माण करते.
- पूर्वाग्रह अनेकदा अदृश्य आणि प्रणालीच्या एकूण स्वभावामध्ये अंतर्भूत असतो; एकच उदाहरण पाहिल्यास दिशाभूल होते.
- कमी करण्यासाठी: जागरूक रहा, नोकरीशी संबंधित निकषांपुरते निर्णय मर्यादित करा, सर्वसमावेशकतेसाठी स्पष्टपणे विचारा, उच्च-प्रभावकारी निर्णयांवर मानवी नियंत्रण ठेवा.
- “मशीनने मला सांगितले” हे निमित्त नाही; निष्पक्षता ही आउटपुट वापरणाऱ्या प्रत्येकाची जबाबदारी आहे.
अर्ज कार्य
AI ला सांगा "आदर्श [कोणत्याही व्यवसायातील] कामगाराचे वर्णन करा" आणि आउटपुटमध्ये काय (कदाचित अनावश्यक) गृहितक केले गेले ते चिन्हांकित करा. नंतर वरील "नोकरी-संबंधित निकष" टेम्पलेटसह पुनरावृत्ती करा आणि निष्पक्षतेसाठी दोन आउटपुटची तुलना करा.
चेकलिस्ट
- [ ] मला समजले आहे की पूर्वाग्रहाचा प्राथमिक स्रोत प्रशिक्षण डेटा आहे.
- [ ] मी कामाच्या ठिकाणी पक्षपातीपणामुळे उद्भवू शकणाऱ्या ठोस धोक्यांची नावे देऊ शकतो.
- [ ] मला माहित आहे की पक्षपाती सहसा अदृश्य असतो आणि एकच उदाहरण पाहणे दिशाभूल करणारे असते.
- [ ] मी प्रॉम्प्टमध्ये सर्वसमावेशकता आणि नोकरी-संबंधित निकष स्पष्टपणे विचारू शकतो.
- [ ] मला उच्च-प्रभावी निर्णयांचे मानवी निरीक्षण आवश्यक आहे.