लाभ:
- जिम्मेदार एआई सिद्धांतों (निष्पक्षता, पारदर्शिता, जवाबदेही, गोपनीयता, मानवीय निरीक्षण, सुरक्षा, स्थिरता) को ठोस निर्णयों से जोड़ने की क्षमता
- नैतिकता को कानूनी अनुपालन से अलग करके और 'हम कर सकते हैं' और 'हमें चाहिए' के बीच अंतर करके प्रभावित पक्षों और पूर्वाग्रहों का परीक्षण करने की क्षमता
- डिज़ाइन में पारदर्शिता, मानव निगरानी और अपील को शामिल करके दुरुपयोग परिदृश्यों को पहले से ही कम करने की क्षमता
एक एआई स्टार्टअप तकनीकी रूप से परिपूर्ण, वित्तीय रूप से लाभदायक और कानूनी रूप से व्यवहार्य हो सकता है; लेकिन यह अभी भी गलत हो सकता है. नैतिकता "हम कर सकते हैं" और "हमें करना चाहिए" के बीच का अंतर है। एक वरिष्ठ प्रबंधक के लिए, नैतिकता अलंकरण या जनसंपर्क का विषय नहीं है; यह वह आधार है जो संस्था की दीर्घकालिक विश्वसनीयता, प्रतिष्ठा और सामाजिक वैधता को बनाए रखता है। इस इकाई में, आप जिम्मेदार एआई के सिद्धांतों (निष्पक्ष, पारदर्शी, जवाबदेह और मानवीय गरिमा का सम्मान करने वाले तरीके से कृत्रिम बुद्धिमत्ता को विकसित करने और उपयोग करने का एक दृष्टिकोण) और उन्हें दैनिक निर्णयों में प्रतिबिंबित करने के तरीके के बारे में जानेंगे।
जिम्मेदार एआई के मौलिक सिद्धांत
विभिन्न ढाँचे समान सिद्धांतों पर मिलते हैं। एक प्रबंधक के लिए व्यावहारिक सारांश:
सिद्धांत
आपका क्या मतलब है?
व्यवस्थापक प्रश्न
न्याय
गैर-भेदभाव
क्या इससे किसी समूह पर अनुचित प्रभाव पड़ता है?
पारदर्शिता
समझने योग्य हो
क्या हम निर्णय का कारण बता सकते हैं?
जवाबदेही
कौन जिम्मेदार है इसकी पहचान की जा रही है
यदि कोई त्रुटि होती है तो कौन जिम्मेदार है?
गोपनीयता
व्यक्तिगत डेटा का सम्मान
क्या हमें डेटा का उपयोग करने का अधिकार है?
मानव निगरानी
नियंत्रण में रहना
क्या कोई आपत्ति करके इसे रोक सकता है?
सुरक्षा
कोई नुकसान मत करो
क्या इसका दुरुपयोग किया जा सकता है?
स्थिरता
पर्यावरणीय/सामाजिक प्रभाव
हम इसकी कीमत किस पर थोपें?
ये सिद्धांत अमूर्त नहीं हैं; उनमें से प्रत्येक को एक ठोस निर्णय से जोड़ा जा सकता है। उदाहरण के लिए, "पारदर्शिता" का अर्थ है ग्राहक को यह बताना कि वे एआई से बात कर रहे हैं; "मानव निरीक्षण" का अर्थ है ऋण अस्वीकृत होने पर मानव द्वारा समीक्षा करना और इसे अपील के लिए खुला छोड़ना।
युक्ति: प्रत्येक उच्च-प्रभाव वाले AI निर्णय के साथ, एक प्रश्न पूछें: "क्या मैं सबसे अधिक नकारात्मक रूप से प्रभावित व्यक्ति को इस निर्णय के बारे में स्पष्ट रूप से समझा सकता हूँ और उसके पीछे खड़ा हो सकता हूँ?" यदि प्रतिक्रिया अपमानजनक है, तो एक नैतिक समस्या है।
नैतिकता कानून से भिन्न है
एक महत्वपूर्ण अंतर: कानूनी अनुपालन (इकाई 9) न्यूनतम है; नैतिकता एक उच्चतर रेखा है. कुछ कानूनी लेकिन अनैतिक हो सकता है। उदाहरण के लिए, किसी ऐप को उपयोगकर्ता के व्यवहार में हेरफेर करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करने से प्रतिबंधित नहीं किया जा सकता है, लेकिन यह अनैतिक है। जिम्मेदार संस्थान "क्या यह वर्जित है?" नहीं "क्या यह सच है?" वह पूछता है.
कदम दर कदम: निर्णय में नैतिकता शामिल करना
1. प्रभावित पक्षों की पहचान करें. इस पहल से कौन प्रभावित है? (ग्राहक, कर्मचारी, समाज, वंचित समूह)
2. नीतियों के साथ स्कैन करें. उपरोक्त प्रत्येक सिद्धांत के संदर्भ में पहल पर प्रश्न उठाएं।
3. पूर्वाग्रह और हानि का परीक्षण करें। क्या यह मॉडल कुछ समूहों को गलत तरीके से प्रभावित करता है? दुरुपयोग के परिदृश्य क्या हैं?
4. पारदर्शिता और निरीक्षण जोड़ें. मानवीय आपत्ति के लिए कोई रास्ता न छोड़ते हुए कृत्रिम बुद्धिमत्ता के उपयोग की रिपोर्ट करें।
5. दस्तावेज़ और समीक्षा. नैतिक मूल्यांकन सहेजें; समय-समय पर जाँच करते रहें।
तीन मिनी मामले
केस 1 - कानूनी लेकिन गलत। एक ऐप ने उपयोगकर्ताओं को लंबे समय तक ऐप में बनाए रखने के लिए व्यसनी सूचनाएं उत्पन्न करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग किया। कोई कानूनी बाधा नहीं थी, लेकिन जब प्रेस में इसकी सूचना मिली, तो प्रतिष्ठा की गंभीर हानि हुई; विशेष रूप से युवा उपयोगकर्ताओं को लक्षित करने की इसकी आलोचना हुई। कंपनी ने इस फीचर को हटा दिया है. अगर एथिकल फ़िल्टर शुरू से होता तो ये ख़तरा दिखता.
केस 2 - निष्पक्षता परीक्षण का मूल्य। एक बैंक के क्रेडिट स्कोरिंग मॉडल ने व्यवस्थित रूप से संरक्षित समूहों के आवेदनों को कम स्कोर दिया। यह बात जस्टिस ऑडिट में पकड़ी गई. इसके परिणामों में अंतरसमूह समानता सुनिश्चित करने के लिए मॉडल को फिर से डिज़ाइन किया गया और नियमित रूप से परीक्षण किया गया। नैतिक सिद्धांत (न्याय) एक ठोस परीक्षण में बदल गया और वास्तविक नुकसान को रोका गया।
केस 3 - पारदर्शिता ने विश्वास पैदा किया। एक ई-कॉमर्स कंपनी ने अपने ग्राहक सहायता चैटबॉट की शुरुआत में "एक कृत्रिम बुद्धिमत्ता सहायक आपकी मदद करता है, आप किसी भी समय एक मानव प्रतिनिधि से जुड़ सकते हैं" वाक्यांश डाला। पारदर्शिता और मानवीय निकास से संतुष्टि कम नहीं हुई; इसके विपरीत, इससे आत्मविश्वास बढ़ा और शिकायतों में 15% की कमी आई। सही ढंग से की गई पारदर्शिता मूल्य थी, लागत नहीं।
चार प्रतिलिपि योग्य टेम्पलेट
1) नैतिक जांच:
आपकी भूमिका: जिम्मेदार एआई सलाहकार। इस पहल को 7 सिद्धांतों के लिए स्कैन करें: निष्पक्षता, पारदर्शिता, जवाबदेही, गोपनीयता, मानवीय निरीक्षण, सुरक्षा, स्थिरता। प्रत्येक पॉलिसी के लिए एक जोखिम और एक अनुशंसा लिखें। पहल: [पाठ]
2) प्रभावित पक्ष विश्लेषण:
इस एआई पहल (ग्राहक, कर्मचारी, समाज, वंचित समूह) से प्रभावित सभी पक्षों की सूची बनाएं। प्रत्येक पक्ष के लिए संभावित सकारात्मक और नकारात्मक प्रभावों को लिखें; उस समूह को चिह्नित करें जिससे सबसे अधिक नुकसान होने की संभावना है। पहल: [पाठ]
3) दुर्व्यवहार परिदृश्य:
5 परिदृश्य उत्पन्न करें जिनमें निम्नलिखित एआई सुविधा का दुरुपयोग किया जा सकता है (हेरफेर, भेदभाव, गोपनीयता उल्लंघन, धोखे सहित)। प्रत्येक परिदृश्य के लिए एक निवारक डिज़ाइन निर्णय का सुझाव दें। विशेषता: [पाठ]
4) पारदर्शिता और निगरानी नियंत्रण:
ग्राहक-सामना वाले एआई के लिए एक पारदर्शिता और मानवीय निरीक्षण योजना लिखें: उपयोगकर्ता को क्या और कैसे सूचित किया जाएगा; इसे इंसानों में कैसे स्थानांतरित किया जा सकता है? वह फैसले पर आपत्ति कैसे कर सकते हैं? उपयोग: [पाठ]
कमजोर संकेत/मजबूत संकेत
कमज़ोर: "क्या यह AI नैतिक है?"
परिणाम: एक सतही "हाँ/नहीं"; कौन सा सिद्धांत, कौन प्रभावित, कौन सा माप अस्पष्ट है।
स्ट्रांग: "हम एक भर्ती प्री-स्क्रीनिंग टूल में एआई का उपयोग करने पर विचार कर रहे हैं (मानव अंतिम निर्णय लेगा)। निष्पक्षता, पारदर्शिता, जवाबदेही और मानवीय निरीक्षण के सिद्धांतों के लिए इसे स्क्रीन करें। ठोस रूप से लिखें कि उम्मीदवारों के कौन से समूह गलत तरीके से प्रभावित हो सकते हैं, मुझे कौन से पूर्वाग्रह परीक्षण करने की आवश्यकता है, और उम्मीदवार निर्णय के खिलाफ कैसे अपील कर सकते हैं।"
परिणाम: एक सिद्धांत-आधारित, व्यावहारिक मूल्यांकन जो प्रभावित पक्ष की पहचान करता है और परीक्षण और अपील का सुझाव देता है।
सामान्य गलतियाँ
- कानूनी अनुपालन के साथ नैतिकता को भ्रमित करना। जो कुछ कानूनी है वह नैतिक नहीं है; नैतिकता एक उच्चतर रेखा है.
- नैतिकता को कायम रहने देना. डिज़ाइन के बाद "नैतिकता अनुमोदन" प्राप्त करने में बहुत देर हो चुकी है; डिज़ाइन में शुरुआत से ही नैतिकता अंतर्निहित होनी चाहिए।
- न्याय का परीक्षण नहीं. यह धारणा कि "हमारा मॉडल तटस्थ है" खतरनाक है; माप के बिना ज्ञात नहीं किया जा सकता।
- पारदर्शिता को लागत समझने की भूल करना। सही ढंग से की गई पारदर्शिता विश्वास और मूल्य बढ़ाती है।
- प्रभावित पक्षों को संकीर्ण रखना. केवल ग्राहक के बारे में सोचना और कर्मचारी, समाज और वंचित समूहों की अनदेखी करना एक अंध स्थान पैदा करता है।
सावधानी: नैतिक मूल्यांकन को पूरी तरह से कृत्रिम बुद्धिमत्ता पर छोड़ना विरोधाभासी और खतरनाक है। एआई नैतिक प्रश्न उठाने में मदद कर सकता है, लेकिन मूल्य निर्णय, सांस्कृतिक संदर्भ और अंतिम नैतिक जिम्मेदारी मानव पर निर्भर है। किसी संगठन का नैतिक रुख लोगों की जागरूक पसंद से निर्धारित होता है, न कि "एआई ने ऐसा कहा।"
सारांश
नैतिकता "हम कर सकते हैं" और "हमें चाहिए" के बीच का अंतर है और संगठन की दीर्घकालिक विश्वसनीयता की रक्षा करती है। जिम्मेदार एआई; यह न्याय, पारदर्शिता, जवाबदेही, गोपनीयता, मानवीय निरीक्षण, सुरक्षा और स्थिरता के सिद्धांतों पर आधारित है। ये सिद्धांत अमूर्त नहीं हैं; यह प्रभावित पक्षों की पहचान करने, पूर्वाग्रह के लिए परीक्षण करने, पारदर्शिता प्रदान करने और मानवीय निरीक्षण को जोड़ने जैसे ठोस निर्णयों में तब्दील होता है। नैतिकता कानून से भिन्न है और एक उच्चतर रेखा है; इसे अंत तक नहीं छोड़ा जा सकता, इसे डिज़ाइन में समाहित किया जाना चाहिए। अगली इकाई में, हम अनुपालन पर चर्चा करेंगे, जो नैतिकता के कानूनी समकक्ष है, विशेष रूप से ईयू एआई कानून और केवीकेके।
आवेदन कार्य
एक उच्च प्रभाव वाला AI स्टार्टअप चुनें। टेम्पलेट 2 के साथ, सभी प्रभावित पक्षों को सूचीबद्ध करें और उस समूह को चिह्नित करें जिसे सबसे अधिक नुकसान होने की संभावना है। टेम्प्लेट 1 के साथ, सात सिद्धांतों के लिए पहल को स्कैन करें। दो सबसे महत्वपूर्ण नैतिक जोखिमों के लिए एक ठोस उपाय (निष्पक्षता परीक्षण, पारदर्शिता अधिसूचना, अपील मार्ग, आदि) परिभाषित करें। अंत में, "क्या मैं इस निर्णय के बारे में सबसे अधिक नकारात्मक रूप से प्रभावित व्यक्ति को समझा सकता हूँ?" प्रश्न का उत्तर ईमानदारी से दें।
चेकलिस्ट
- [ ] मैंने सभी प्रभावित पक्षों की पहचान कर ली है।
- [ ] मैंने जिम्मेदार एआई के सात सिद्धांतों के साथ स्टार्टअप की जांच की।
- [ ] मैंने पूर्वाग्रह/निष्पक्षता के लिए एक परीक्षण की योजना बनाई।
- [ ] मैंने पारदर्शिता विवरण डिज़ाइन किया है।
- [ ] मैंने मानवीय निरीक्षण और अपील के लिए कोई रास्ता नहीं छोड़ा।
- [ ] मैंने दुर्व्यवहार परिदृश्यों के बारे में सोचा।
- [ ] "क्या मैं इसे सबसे अधिक नकारात्मक रूप से प्रभावित व्यक्ति को समझा सकता हूँ?" मैंने परीक्षा उत्तीर्ण की।