लाभ:
- कृत्रिम बुद्धिमत्ता के साथ जोखिम और सुरक्षात्मक कारक चेकलिस्ट और सुरक्षा योजना कंकाल तैयार करने और किसी भी क्षेत्र को छोड़े बिना काम करने की क्षमता
- समझें कि जोखिम स्तर/स्कोर और सुरक्षा निर्णय केवल विशेषज्ञों, टीमों, पर्यवेक्षण और कानूनी प्रक्रियाओं द्वारा किए जाते हैं, और कृत्रिम बुद्धिमत्ता निर्णय नहीं ले सकती है।
- यह देखते हुए कि कृत्रिम बुद्धिमत्ता वंचित समूहों के लिए व्यवस्थित पूर्वाग्रह का कारण बन सकती है और अपने आउटपुट को निर्णय के रूप में कभी भी उपयोग न करने और सबसे संवेदनशील डेटा को केवल एक सुरक्षित प्रणाली में संसाधित करने का अनुशासन लागू कर सकती है।
सामाजिक कार्य की सबसे गंभीर जिम्मेदारी जोखिम मूल्यांकन है - ऐसे निर्णय जो सीधे जीवन सुरक्षा से संबंधित हैं, जैसे कि क्या किसी बच्चे की उपेक्षा की जाती है या उसके साथ दुर्व्यवहार किया जाता है, क्या किसी व्यक्ति द्वारा खुद को या किसी और को नुकसान पहुंचाने की संभावना है, क्या कोई बुजुर्ग व्यक्ति सुरक्षित है, या हिंसा का शिकार कितना खतरे में है। इस इकाई का पहला और सबसे साहसिक नियम यह है: जोखिम निर्णय लेना एआई से संबंधित नहीं है, न ही हो सकता है और न ही होना चाहिए। किसी व्यक्ति की सुरक्षा के बारे में निर्णय; इसके लिए पेशेवर प्राधिकार, नैदानिक निर्णय, बहु-विषयक टीम की राय, पर्यवेक्षण और कानूनी जिम्मेदारी की आवश्यकता होती है। एआई यहां केवल एक तैयारी और अनुस्मारक उपकरण है: यह आपको याद दिलाता है कि किन जोखिम और सुरक्षात्मक कारकों की समीक्षा करनी है, आपके नोट्स को व्यवस्थित करता है, एक सुरक्षा योजना की रूपरेखा तैयार करता है। यह कोई अंक नहीं देता है, यह नहीं कहता है कि "जोखिम कम/अधिक है", यह कोई निर्णय नहीं लेता है।
हम इस पर इतना ज़ोर क्यों देते हैं? क्योंकि जोखिम के क्षेत्र में, एआई गलती की कीमत अपरिवर्तनीय है। एआई की जोखिम को "कम" रेटिंग देने से बच्चा असुरक्षित हो जाता है; जोखिम को अनावश्यक रूप से "उच्च" दिखाने से परिवार को गलत तरीके से अलग किया जा सकता है। इसके अतिरिक्त, एआई प्रशिक्षण डेटा में पूर्वाग्रह रखता है: एल्गोरिदम जो व्यवस्थित रूप से कुछ सामाजिक आर्थिक समूहों, जातियों या पड़ोसों को उच्च जोखिम बताते हैं, दुनिया भर में प्रलेखित किए गए हैं। इसलिए भले ही एआई का आउटपुट एक इनपुट हो, यह कभी भी आपके स्वतंत्र निर्णय को ओवरराइड नहीं कर सकता है।
एआई की वैध भूमिका: अनुस्मारक और विनियमन
ऐसे तीन स्थान हैं जहां आप जोखिम में एआई का सुरक्षित रूप से उपयोग कर सकते हैं:
1. कारक अनुस्मारक. जोखिम कारक (उदाहरण के लिए, हिंसा का पिछला इतिहास, मादक द्रव्यों का उपयोग, सामाजिक अलगाव, पिछले प्रवेश) और सुरक्षात्मक कारक (उदाहरण के लिए, एक सहायक वयस्क, नियमित स्कूल उपस्थिति, एक मजबूत सामाजिक नेटवर्क) जिन पर जोखिम मूल्यांकन में विचार किया जाना चाहिए; एआई आपके संगठन द्वारा उपयोग किए जाने वाले ढांचे में फिट होने वाली चेकलिस्ट को याद करके किसी भी क्षेत्र को चूकने से बचाने में आपकी मदद करता है।
2. नोट संपादन. यह आपके अवलोकन और ग्राहक के बयानों को एक संगठित, तथ्यात्मक पाठ में अनुवादित करता है - ताकि आप अपने निर्णय को स्पष्ट डेटा पर आधारित कर सकें।
3. ड्राफ्ट सुरक्षा योजना. एक सुरक्षा योजना (एक ठोस योजना जो यह निर्धारित करती है कि खतरे की स्थिति में पीड़ित क्या करेगा, वह किससे संपर्क करेगा, कहाँ जाएगा) की एक निश्चित संरचना होती है। एआई क्लाइंट के साथ भरने के लिए एक ड्राफ्ट स्केलेटन तैयार कर सकता है; लेकिन आप और ग्राहक वास्तविकता के अनुसार योजना की सामग्री भरते हैं।
सावधानी: एआई से कभी न पूछें "इस मामले में जोखिम का स्तर क्या है?" या "क्या बच्चा घर पर सुरक्षित है?" मत पूछो. आउटपुट को निर्णय के रूप में उपयोग न करें, भले ही आप पूछें। इन सवालों का जवाब संस्था के आधिकारिक जोखिम उपकरण के माध्यम से केवल अधिकृत विशेषज्ञ, टीम और पर्यवेक्षण द्वारा दिया जाता है।
चरण दर चरण: जोखिम प्रक्रिया में एआई को सही ढंग से स्थापित करना
- सुरक्षा पहले. यदि कोई तत्काल और गंभीर खतरा (जीवन सुरक्षा) है, तो संस्थान की आपातकालीन प्रक्रिया को संचालित करना आवश्यक है, न कि एआई से निपटना। एआई को किसी भी तात्कालिकता में देरी नहीं करनी चाहिए।
- पहचान पहचानो. जोखिम रेटिंग सबसे संवेदनशील डेटा हैं; ग्राहक की पहचान करने वाली जानकारी खुले टूल में दर्ज नहीं की जाती है, केवल सुरक्षित संस्थान टूल का उपयोग किया जाता है।
- मुझे कारक सूची की याद दिलाएं. संस्थागत ढांचे के लिए उपयुक्त जोखिम और सुरक्षात्मक कारक चेकलिस्ट का अनुरोध करें।
- अपना निर्णय स्वयं करें. आप कारकों का मूल्यांकन करते हैं, टीम के साथ मूल्यांकन करते हैं और पर्यवेक्षक से परामर्श करते हैं। आप नहीं चाहते कि AI "मूल्यांकन" करे।
- ग्राहक के साथ सुरक्षा योजना पूरी करें। ड्राफ्ट कंकाल एआई से आ सकता है; सामग्री ग्राहक के वास्तविक नेटवर्क, संसाधनों और प्राथमिकताओं से भरी हुई है।
तीन मिनी मामले
केस 1 - छूटा हुआ सुरक्षात्मक कारक। एक विशेषज्ञ ने घरेलू हिंसा के मामले में जोखिम कारकों पर ध्यान केंद्रित किया। जिस कारक चेकलिस्ट के लिए उन्होंने एआई से पूछा था, उसमें उन्होंने "सुरक्षात्मक कारक" अनुभाग में काम पर ग्राहक के सुरक्षित समर्थन नेटवर्क के बारे में पूछा था - एक ऐसा क्षेत्र जिसे विशेषज्ञ चूक गए थे। यह नेटवर्क सुरक्षा योजना का सबसे यथार्थवादी हिस्सा बन गया। निर्णय फिर से विशेषज्ञ पर निर्भर था; एआई ने केवल प्रश्न याद दिलाया।
केस 2 - गलत स्कोर पर भरोसा नहीं किया गया। एक एजेंसी ने एक परीक्षण एआई टूल को एक मामले को "कम जोखिम" के रूप में लेबल करते देखा। हालाँकि, विशेषज्ञ का अवलोकन और ग्राहक का बयान एक गंभीर खतरे की ओर इशारा करता है। टीम ने एआई लेबल को खारिज कर दिया और अपने मूल्यांकन के आधार पर सुरक्षात्मक कार्रवाई शुरू की। बाद में पुष्टि हुई कि ख़तरा वास्तविक था। पाठ: एआई स्कोर कोई निर्णय नहीं है; मानवीय निर्णय को प्राथमिकता दी जाती है।
केस 3 - पूर्वाग्रह पकड़ा गया। एक मुकदमे में एक ही मामला दो बार एआई को दिया गया; एकमात्र अंतर उस पड़ोस का था जहां ग्राहक रहता था। एआई ने व्यवस्थित रूप से वंचित माने जाने वाले पड़ोस के लिए उच्च "जोखिम वाली भाषा" का उत्पादन किया। इसने एआई के प्रशिक्षण डेटा में पूर्वाग्रह को प्रदर्शित किया और जोखिम निर्णय लेने में एआई का उपयोग न करने की एजेंसी की नीति को मजबूत किया।
चार प्रतिलिपि योग्य टेम्पलेट
1) जोखिम/सुरक्षात्मक कारक अनुस्मारक:
आपकी भूमिका: सामाजिक कार्य पर्यवेक्षक के सहायक। जोखिम कारकों और सुरक्षात्मक कारकों की एक चेकलिस्ट तैयार करें जिनकी [घरेलू हिंसा] मामलों में जोखिम मूल्यांकन में समीक्षा करने की सिफारिश की जाती है। इसे अनुस्मारक की सूची के रूप में प्रस्तुत करें; कोई स्कोर, निर्णय या "जोखिम स्तर" उत्पन्न न करें। मूल्यांकन और निर्णय विशेषज्ञ का है।
2) सुरक्षा योजना ड्राफ्ट कंकाल:
आपकी भूमिका: संपादक. घरेलू हिंसा की पीड़िता से भरी जाने वाली सुरक्षा योजना की एक खाली रूपरेखा तैयार करें: चेतावनी संकेत, सुरक्षित स्थान, संपर्क करने के लिए लोग और संस्थान, महत्वपूर्ण दस्तावेज़, बच्चों के लिए योजना, डिजिटल सुरक्षा। सामग्री भरना; क्लाइंट से भरने के लिए प्रत्येक शीर्षक के नीचे रिक्त स्थान छोड़ें।
3) जोखिम नोट संपादित करना (बिना निर्णय लिए):
निम्नलिखित अवलोकन और कथन नोट्स का तथ्यात्मक, व्यवस्थित पाठ में अनुवाद करें। अवलोकन और ग्राहक कथन को अलग-अलग लेबल करें। जोखिम का स्तर बताना, निर्णय लेना, टिप्पणी जोड़ना। केवल वही संपादित करें जो नोट में है और लुप्त/अस्पष्ट क्षेत्रों को चिह्नित करें। नोट: [पहचान रहित नोट चिपकाएँ]
4) पूर्वाग्रह आत्म-नियंत्रण:
नीचे दिए गए ड्राफ्ट जोखिम नोट में, क्या कोई ऐसा बयान है जो ग्राहक की सामाजिक आर्थिक स्थिति, जातीयता, पड़ोस या इसी तरह की विशेषता के कारण अप्रमाणित पूर्वाग्रह व्यक्त करता है? प्रत्येक वाक्य को चिह्नित करें जो साक्ष्य के बजाय रूढ़िवादिता पर आधारित है। पाठ न बदलें, केवल चेतावनी दें। नोट: [नोट चिपकाएँ]
कमजोर संकेत/मजबूत संकेत
कमजोर संकेत:
इस मामले को पढ़ें और तय करें कि क्या बच्चे के लिए घर पर रहना सुरक्षित है और जोखिम का स्तर क्या है।
यह मानव जीवन के बारे में सबसे महत्वपूर्ण निर्णय को एक सॉफ्टवेयर पर आउटसोर्स करना है। यह अनैतिक है, पेशेवर जिम्मेदारी के विपरीत है, और एआई के पूर्वाग्रह को सीधे बच्चे के भाग्य में ले जाता है।
शक्तिशाली संकेत:
आपकी भूमिका: अनुस्मारक सहायक. नीचे दिए गए डी-आइडेंटिफाइड नोट को पढ़ने से पहले, [बाल उपेक्षा] मामलों के मूल्यांकन में समीक्षा के लिए जोखिम और सुरक्षात्मक कारकों की एक चेकलिस्ट तैयार करें। उत्पादन निर्णय, स्कोर या जोखिम स्तर। मैं अपनी टीम के साथ मूल्यांकन करूंगा; आप बस मुझे याद दिलाएं कि मुझे किन क्षेत्रों को नहीं छोड़ना चाहिए।
अंतर: निर्णय पूछने के बजाय "मुझे कौन से प्रश्न नहीं भूलना चाहिए" कहना एआई को सुरक्षित और नैतिक सीमा पर रखता है।
जोखिम के क्षेत्र में भूमिका की सीमाएँ
खोज
क्या AI ऐसा कर सकता है?
कौन करता है?
कारक चेकलिस्ट अनुस्मारक
हाँ
एआई (अनुस्मारक)
नोट्स को तथ्यात्मक रूप से संपादित करना
हाँ
एआई + विशेषज्ञ अनुमोदन
सुरक्षा योजना रिक्त कंकाल
हाँ
ऐ; सामग्री ग्राहक+विशेषज्ञ
जोखिम स्तर/स्कोर निर्धारण
नहीं
विशेषज्ञ + टीम + पर्यवेक्षण
"क्या यह सुरक्षित है?" निर्णय
नहीं
सक्षम विशेषज्ञ, कानूनी प्रक्रिया
सुरक्षात्मक उपाय शुरू करना
नहीं
संस्था, सक्षम प्राधिकारी
सामान्य गलतियाँ
- जोखिम स्कोर/निर्णय के लिए एआई से पूछना। सबसे खतरनाक गलती; निर्णय के लिए पेशेवर प्राधिकार और कानूनी जिम्मेदारी की आवश्यकता होती है।
- एआई लेबल पर भरोसा करना। इसके विपरीत एक "कम जोखिम" निष्कर्ष कभी भी आपके अवलोकन को अमान्य नहीं करेगा।
- पूर्वाग्रह को नजरअंदाज करना. एआई वंचित समूहों को व्यवस्थित उच्च जोखिम का कारण बता सकता है; आत्म-नियंत्रण आवश्यक है.
- विलंब की तात्कालिकता. जीवन सुरक्षा है तो आपातकालीन प्रक्रिया पहले; एआई से निपटने के लिए इंतजार नहीं किया जा सकता।
- ओपन टूल को सबसे संवेदनशील डेटा देना। जोखिम नोट केवल सुरक्षित संस्थान टूल में संसाधित किए जाते हैं।
संक्षेप में
जोखिम मूल्यांकन सामाजिक कार्य की सबसे गंभीर ज़िम्मेदारी है, और निर्णय पूरी तरह से व्यक्ति - पेशेवर, टीम, पर्यवेक्षण, कानूनी प्राधिकारी पर निर्भर करता है। यहां, एआई केवल याद दिलाने (जोखिम/सुरक्षात्मक कारक सूची), व्यवस्थित करने (तथ्यात्मक नोट) और मसौदा तैयार करने (सुरक्षा योजना कंकाल) के लिए एक उपकरण है; यह स्कोर नहीं करता, यह निर्णय नहीं लेता। याद रखें कि एआई पूर्वाग्रह रखता है, इसके आउटपुट को कभी भी निर्णय के रूप में उपयोग न करें और सबसे संवेदनशील डेटा को केवल सुरक्षित सिस्टम में ही संसाधित करें।
आवेदन कार्य
एक काल्पनिक केस प्रकार चुनें. "जोखिम/सुरक्षात्मक कारक अनुस्मारक" टेम्पलेट के साथ एक चेकलिस्ट प्राप्त करें और सत्यापित करें कि एआई कोई "जोखिम स्तर" उत्पन्न नहीं करता है। फिर "सुरक्षा योजना रूपरेखा कंकाल" टेम्पलेट के साथ एक खाली योजना कंकाल लें। जानबूझकर एआई से पूछें "जोखिम स्तर क्या है?" और एक वाक्य में लिखें कि आपको निर्णय के रूप में आउटपुट का उपयोग क्यों नहीं करना चाहिए।
चेकलिस्ट
- [ ] मैंने एआई से केवल एक कारक अनुस्मारक मांगा, निर्णय/स्कोर नहीं।
- [ ] मैंने सबसे संवेदनशील डेटा को केवल सुरक्षित एंटरप्राइज़ टूल में संसाधित किया।
- [ ] मैंने क्लाइंट के साथ मिलकर सुरक्षा योजना की सामग्री भरने की योजना बनाई।
- [ ] मैंने पूर्वाग्रह के लिए एआई आउटपुट की जाँच की।
- [ ] मैंने पुष्टि की कि अंतिम जोखिम निर्णय टीम, पर्यवेक्षण और उचित प्रक्रिया पर निर्भर करता है।