सामाजिक कार्य में कृत्रिम बुद्धिमत्ता का परिचय: भूमिकाएँ, सीमाएँ, प्रमाणीकरण, गोपनीयता और नैतिकता

लाभ:

• यह भेद करने में सक्षम होना कि कहाँ कृत्रिम बुद्धिमत्ता सामाजिक कार्य वर्कफ़्लो (सारांश, संपादन, सरलीकरण, मसौदा) में समय बचाती है और कहाँ जोखिम के स्तर के आधार पर नैदानिक ​​निर्णय, जोखिम और प्रतिनिधित्व निर्णय मानव पर छोड़ दिया जाता है।
• एक अनुशासन लागू करने की क्षमता जो प्रत्येक आउटपुट को वास्तविक साक्ष्य से जोड़ने, वर्तमान आधिकारिक स्रोतों के साथ बाहरी जानकारी की पुष्टि करने और पूर्वाग्रह के माध्यम से फ़िल्टर करने के चरणों के माध्यम से सत्यापित करती है।
• यह समझने के लिए कि ग्राहक की गोपनीयता, अनाम और ग्राहक डेटा दुनिया के बीच अंतर, और केवीकेके जिम्मेदारी को सामाजिक कार्य में शुरुआत से ही ध्यान में रखा जाना चाहिए।

आप एक सामाजिक सेवा केंद्र की सुबह में हैं। कल तीन नए आवेदन आए: एक महिला जो हिंसा की शिकार थी और उसके दो बच्चे, एक बुजुर्ग व्यक्ति जिसे देखभाल की आवश्यकता है, और एक किशोर जिसके स्कूल छोड़ने का खतरा है। आपके डेस्क पर चार सामाजिक जांच रिपोर्टें हैं, एक अदालत द्वारा अनुरोधित राय, मामले के रिकॉर्ड जिन्हें भरने की आवश्यकता है, और आज दोपहर एक परिवार के साथ घर के दौरे की तैयारी है। सामाजिक कार्य (व्यक्तियों, परिवारों और समुदायों की सामाजिक कार्यक्षमता में सुधार करने, अधिकारों और कल्याण तक उनकी पहुंच सुनिश्चित करने और कमजोर समूहों की रक्षा करने के लिए किया जाने वाला पेशा और अनुशासन) एक ऐसा क्षेत्र है जो स्वाभाविक रूप से दस्तावेज़-गहन, समय-दबाव वाला, मानव जीवन को छूने वाला और उच्च जिम्मेदारी वाला है। आर्टिफिशियल इंटेलिजेंस (एआई - सॉफ्टवेयर जो ऐतिहासिक डेटा से पैटर्न निकाल सकता है और पाठ, सारांश, अनुवाद और ड्राफ्ट का उत्पादन या वर्गीकरण कर सकता है) आपको इस दस्तावेज़ भार और समय के दबाव से राहत देता है। लेकिन इस मॉड्यूल की शुरुआत ही स्पष्ट है: एआई एक सहायक, सारांश और रूपरेखा जनरेटर है; आप सक्षम विशेषज्ञ हैं जो ग्राहक के बारे में मूल्यांकन, जोखिम और अंतिम निर्णय लेते हैं।

इस पहली इकाई में हम अनुशासन पर ध्यान देंगे, उपकरण पर नहीं। आप सीखेंगे कि कहां एआई सामाजिक कार्य वर्कफ़्लो में वास्तविक समय बचाने वाला है, कहां यह खतरनाक है, प्रत्येक आउटपुट को कैसे सत्यापित किया जाए, क्लाइंट की गोपनीयता और व्यक्तिगत डेटा की सुरक्षा कैसे की जाए, और पूर्वाग्रह के प्रति कैसे सतर्क रहें। इस नींव को रखे बिना, बाद की इकाइयाँ हवा में रह जाती हैं - क्योंकि सामाजिक कार्य में, एक असत्यापित आउटपुट सिर्फ एक गलत वाक्य नहीं है; यह एक ऐसी गलती है जिसके कारण बच्चे को गलत आंका जा सकता है, नजरअंदाज किए जाने का जोखिम हो सकता है, परिवार को गलत तरीके से कलंकित किया जा सकता है, या संवेदनशील जानकारी लीक हो सकती है।

सामाजिक कार्य वर्कफ़्लो में AI कहाँ काम आता है?

आइए सामाजिक कार्य नौकरियों को दो बड़े समूहों में विभाजित करें। पहला क्लस्टर: दस्तावेज़-गहन, दोहराव, पैटर्न-निकालने योग्य और भाषा-आधारित कार्य। एक साक्षात्कार के बाद बिखरे हुए नोट्स को एक संगठित केस रिकॉर्ड में अनुवाद करना, एक लंबी फ़ाइल का कालानुक्रमिक सारांश, एक सामाजिक जांच रिपोर्ट का पहला ढांचा, ग्राहक की भाषा के अनुरूप सहायता/सेवा सूची का सरलीकरण, एक रेफरल पत्र का मसौदा, एक बहुभाषी ग्राहक के लिए एक सरल सूचना पाठ का अनुवाद, एक कार्यक्रम के पहले ढांचे के विश्लेषण की आवश्यकता है। इन नौकरियों में एआई घंटों को मिनटों में कम कर देता है और थकान नहीं होती।

दूसरा समूह: निर्णय, नैदानिक ​​मूल्यांकन, जोखिम निर्णय और जिम्मेदारी की आवश्यकता वाले कार्य। क्या कोई बच्चा घर पर सुरक्षित है, किसी व्यक्ति के आत्म-नुकसान के जोखिम का स्तर, क्या परिवार को सुरक्षात्मक उपायों की आवश्यकता है, क्या राय जिसके साथ अदालत में रिपोर्ट पेश की जाएगी, क्या कोई सेवा वास्तव में ग्राहक के लिए उपयुक्त है। इन निर्णयों के लिए पेशेवर क्षमता, नैदानिक ​​निर्णय, संदर्भ ज्ञान, नैतिक जिम्मेदारी और अक्सर बहु-विषयक टीम की राय की आवश्यकता होती है। यहां, एआई विकल्पों को कई गुना बढ़ा देता है, ड्राफ्ट तैयार करता है, आपको याद दिलाता है कि क्या अनदेखा किया गया था - लेकिन अंतिम मूल्यांकन और हस्ताक्षर आपका है।

आइए एक वाक्य में अंतर स्पष्ट करें: एआई "इस फ़ाइल में क्या है और पहला ड्राफ्ट कैसा दिखता है" प्रश्नों पर मजबूत है; जब "इस व्यक्ति की वास्तविक स्थिति क्या है और क्या मैं अपने पेशे की ओर से इसका बचाव कर सकता हूं?" जैसे प्रश्नों की बात आती है तो निर्णय आपका है।

युक्ति: एआई को नौकरी आउटसोर्स करने से पहले, पूछें: "यदि यह आउटपुट गलत है तो किसे नुकसान होगा?" यदि उत्तर "रिफैक्टरिंग के कुछ मिनट" है, तो आराम से सौंपें। यदि उत्तर "ग्राहक का गलत मूल्यांकन, जोखिम से बचना या लीक हुई जानकारी" है, तो एआई को मसौदा तैयार करने दें और आप निर्णय और सत्यापन करें।

गोपनीयता: अनुल्लंघनीय सिद्धांत

सामाजिक कार्य का हृदय विश्वास है, और विश्वास गोपनीयता पर आधारित है। एक ग्राहक पेशेवर गोपनीयता पर भरोसा करते हुए आपको अपनी सबसे निजी, सबसे नाजुक जानकारी - हिंसा, गरीबी, स्वास्थ्य स्थिति, पारिवारिक रहस्य - बताता है। जब यह जानकारी गलत हाथों में पड़ती है तो इससे व्यक्ति के जीवन, सुरक्षा और सम्मान को खतरा होता है। यहां मूल नियम: ग्राहक की पहचान करने वाला कोई भी व्यक्तिगत डेटा (नाम, पता, टीआर आईडी, स्वास्थ्य, पारिवारिक जानकारी, आदि) सार्वजनिक एआई टूल में दर्ज नहीं किया जाएगा जिसे आपके संस्थान ने मंजूरी नहीं दी है। सार्वजनिक एआई सेवा में आपके द्वारा टाइप किया गया टेक्स्ट उस सेवा के सर्वर पर संसाधित होता है; आप यह नियंत्रित नहीं कर सकते कि इसे कौन देखता है, इसे कहाँ संग्रहीत किया जाता है, और क्या इसका उपयोग मॉडल के प्रशिक्षण में किया जाता है। तुर्किये में, यह KVKK (व्यक्तिगत डेटा संरक्षण कानून - वह कानून जो व्यक्तिगत डेटा के प्रसंस्करण को नियंत्रित करता है) के तहत एक कानूनी दायित्व है।

इसलिए, सामाजिक कार्य में एआई का उपयोग दो अलग-अलग दुनियाओं में संचालित होता है: सामान्य उपकरणों का उपयोग डी-आइडेंटिफाइड/जेनेरिक दुनिया के लिए किया जा सकता है (गुमनाम या काल्पनिक उदाहरण जो ग्राहक की पहचान नहीं करते हैं, सामान्य ज्ञान के प्रश्न); क्लाइंट डेटा की दुनिया के लिए, केवल इन-हाउस, सुरक्षित, अनुमोदित सिस्टम का उपयोग किया जाता है जो डेटा लीक नहीं करते हैं। दोनों को भ्रमित करना इस मॉड्यूल की सबसे खतरनाक गलती है।

सावधानी: "एआई ने ऐसा कहा" कोई औचित्य नहीं है और केस फ़ाइल में इसका कोई बल नहीं है। यदि कोई गलत निर्णय, मनगढ़ंत जानकारी या लीक हुआ डेटा है, तो जिम्मेदारी एआई की नहीं है, बल्कि उस विशेषज्ञ की है जो उस आउटपुट को सत्यापित किए बिना उपयोग करता है या उस डेटा को टूल में दर्ज करता है।

सत्यापन अनुशासन: तीन चरण

एआई तरलतापूर्वक और आत्मविश्वास से उत्पादन करता है; इसका मतलब यह नहीं कि यह सच है. एआई कभी-कभी मतिभ्रम पैदा करता है - यानी, यह वास्तविक रूप में कानून का एक टुकड़ा प्रस्तुत करता है जो अस्तित्व में नहीं है, एक सेवा जो अस्तित्व में नहीं है, एक बना-बनाया आँकड़ा, या एक बयान जो ग्राहक ने कभी नहीं कहा। किसी सामाजिक जांच रिपोर्ट या जोखिम ज्ञापन में, यह विनाशकारी है। प्रत्येक आउटपुट पर तीन-चरणीय रिफ्लेक्स लागू करें:

1. स्रोत/साक्ष्य से लिंक करें। क्लाइंट के बारे में एआई का प्रत्येक बयान आपके द्वारा दिए गए वास्तविक नोट या बातचीत पर आधारित होना चाहिए। "किस बातचीत में, किसके मुंह से, किस अवलोकन से यह जानकारी दी गई?" पूछना। एआई को ऐसा कुछ भी नहीं जोड़ना चाहिए जो क्लाइंट ने नहीं कहा हो।
2. स्वतंत्र स्रोत से पुष्टि करें. वर्तमान आधिकारिक स्रोत से बाहरी जानकारी जैसे कानून, अधिकार, सेवा, अग्रेषण पता आदि सत्यापित करें। एआई द्वारा प्रदान की गई एप्लिकेशन आवश्यकता या फ़ोन नंबर पुराना या नकली हो सकता है।
3. इसे व्याख्या और पूर्वाग्रह के फिल्टर से गुजारें। क्या आउटपुट किसी समूह के प्रति पक्षपाती है? क्या ऐसी भाषा है जो ग्राहक को कलंकित और दोषी ठहराती है? क्या यह शक्तियों की अनदेखी करता है? आपका पेशेवर निर्णय ही अंतिम फ़िल्टर है।

तीन मिनी मामले

केस 1 - दस्तावेज़ीकरण से समय की बचत हुई। एक सामाजिक कार्यकर्ता ने एक सप्ताह में 14 साक्षात्कार आयोजित किए और प्रत्येक के लिए ढीले हाथ नोट रखे। एआई-सहायता प्राप्त संपादन ने इन नोट्स को संरचित केस रिकॉर्ड में अनुवाद करने में लगने वाले कुल समय को लगभग 4 घंटे से घटाकर 1 घंटा कर दिया। लेकिन प्रत्येक रिकॉर्डिंग को विशेषज्ञ द्वारा पढ़ा गया और वास्तविक साक्षात्कार के साथ तुलना करके सत्यापित किया गया; एआई द्वारा "व्याख्या की गई" दो वाक्य हटा दिए गए।

केस 2 - सत्यापन में मतिभ्रम पकड़ा गया। एक विशेषज्ञ ने एआई से एक अधिकार प्रश्न पूछा; YZ ने कहा, "इस सहायता के लिए न्यूनतम 24 महीने की निवास आवश्यकता है।" जब विशेषज्ञ ने आधिकारिक कानून को देखा, तो ऐसी कोई आवश्यकता नहीं थी; एआई ने दो समान सहायताओं को मिला दिया था और ऐसी स्थिति बना दी थी जो अस्तित्व में ही नहीं थी। एट्रिब्यूशन चरण ने ग्राहक को गलत तरीके से दूर जाने से रोका।

केस 3 - गोपनीयता उल्लंघन से वापसी। त्वरित होने के लिए, एक नया पेशेवर बाल संरक्षण मामले की सभी जानकारी (बच्चे का नाम, पता, स्कूल सहित) को एक सार्वजनिक एआई टूल में पेस्ट करना चाहता था और एक रिपोर्ट प्रिंट करना चाहता था। वरिष्ठ विशेषज्ञ को एहसास हुआ: यह केवीकेके के दायरे में संवेदनशील व्यक्तिगत डेटा था और बाहर था। इस घटना को डेटा उल्लंघन के रूप में माना गया था; कार्य को क्रेडेंशियल्स को हटाकर और केवल इन-हाउस सुरक्षित विधि के साथ दोबारा किया गया था।

चार प्रतिलिपि योग्य टेम्पलेट

1) नौकरी उपयुक्तता मूल्यांकन:

आपकी भूमिका: वरिष्ठ सामाजिक कार्यकर्ता और पर्यवेक्षक। मैं नीचे काम का वर्णन करूंगा। मुझे बताएं (1) क्या यह एक सारांश/संपादन/रूपरेखा का काम है जिसे एआई को सौंपा जा सकता है, या ऐसा काम जिसके लिए नैदानिक ​​​​निर्णय और जोखिम निर्णय की आवश्यकता होती है, (2) गलत आउटपुट की ग्राहक को लागत, (3) सत्यापन जो मुझे प्रतिनिधिमंडल से पहले और बाद में करने की आवश्यकता है। नौकरी: [यहाँ नौकरी डालें]

2) साक्ष्य पर भरोसा करने की बाध्यता:

मैं तुम्हें एक मीटिंग के नोट्स दूंगा. रिकॉर्डिंग संपादित करते समय, केवल नोट में दी गई जानकारी का उपयोग करें। ऐसा कुछ भी न जोड़ें जो ग्राहक ने न कहा हो, निदान न करें, टिप्पणी न करें। अवलोकन और ग्राहक की अभिव्यक्ति को अलग-अलग लेबल करें। गुम या अस्पष्ट क्षेत्रों को "स्पष्टीकरण की आवश्यकता" के रूप में चिह्नित करें।

3) गोपनीयता पूर्व जांच:

प्रसंस्करण से पहले निम्नलिखित पाठ का मूल्यांकन करें: क्या इस पाठ में ग्राहक की पहचान करने वाला व्यक्तिगत डेटा (नाम, पता, टीआर आईडी, स्वास्थ्य, पारिवारिक जानकारी) हो सकता है? यदि हां, तो कौन से अनुभाग? इस प्रकार, यदि इसे किसी सार्वजनिक टूल में संसाधित नहीं किया जाना चाहिए, तो मुझे चेतावनी दें और उन फ़ील्ड्स को सूचीबद्ध करें जिन्हें मुझे डी-आइडेंटिफ़ाई करने की आवश्यकता है। टेक्स्ट: [यहां टेक्स्ट लिखें]

4) पूर्वाग्रह/भाषा जांच:

निम्नलिखित केस रिकॉर्ड पर विचार करें: क्या ऐसी कोई भाषा है जो किसी समूह के प्रति ग्राहक को कलंकित करती है, दोष देती है या पूर्वाग्रह से ग्रसित करती है? क्या यह शक्तियों और संसाधनों की अनदेखी करता है? ऐसी भाषा सुझाएं जो अधिक सम्मानजनक, तथ्य-केंद्रित हो और ताकत को पहचानती हो। रिकॉर्ड न बदलें, बस भाषा संबंधी समस्याओं को चिह्नित करें।

कमजोर संकेत/मजबूत संकेत

कमजोर संकेत:

इस परिवार पर एक रिपोर्ट लिखें और तय करें कि बच्चा घर पर सुरक्षित है या नहीं।

यह संकेत संदर्भहीन और खतरनाक है: यह स्पष्ट नहीं है कि बच्चे की सुरक्षा के बारे में निर्णय लेने के लिए कौन सी जानकारी, कौन सा अवलोकन और एआई कहा जा रहा है। एआई भविष्यवाणी कर सकता है, पूर्वाग्रह कर सकता है, बना सकता है - और इसमें मानव जीवन शामिल है।

शक्तिशाली संकेत:

आपकी भूमिका: सहायक संपादक से लेकर सामाजिक कार्यकर्ता तक। स्रोत: साक्षात्कार और अवलोकन नोट्स जिनमें पहचान संबंधी जानकारी हटा दी गई है, जिसे मैं नीचे चिपकाऊंगा। कार्य: केवल इन नोटों में मौजूद जानकारी के आधार पर एक सामाजिक जांच रिपोर्ट का मसौदा तैयार करना; अवलोकन, ग्राहक कथन और गुम जानकारी को अलग-अलग लेबल करें। जोखिम या सुरक्षा संबंधी निर्णय लेना; मैं मूल्यांकन करूंगा. जिस क्षेत्र के बारे में आप निश्चित नहीं हैं उसे "स्पष्टीकरण की आवश्यकता" के रूप में चिह्नित करें।

अंतर स्पष्ट है: डी-आइडेंटिफिकेशन, "ट्रू-पासिंग" बाधा, लेबलिंग, और "निर्णय" बाधा आउटपुट को सुरक्षित और उपयोगी बनाती है।

भूमिका/कार्य तुलना चार्ट

व्यापार

एआई की भूमिका

आदमी की भूमिका

सत्यापन

केस रिकॉर्ड संपादित करें

नोट कॉन्फ़िगर करें

पुष्टि, सटीकता

नोट से तुलना

फ़ाइल सारांश

कालानुक्रमिक रूपरेखा

महत्व, टिप्पणी

स्रोत से लिंक करें

अधिकार/सेवा संबंधी जानकारी

पहला मसौदा

वर्तमान पुष्टि

आधिकारिक विधान

जोखिम मूल्यांकन

प्रश्न/फ़्रेम अनुस्मारक

नैदानिक निर्णय, निर्णय

टीम+पर्यवेक्षण

रिपोर्ट करें

कंकाल रेखाचित्र

सामग्री, राय, हस्ताक्षर

साक्ष्य-बयान मिलान

प्रोग्राम डिज़ाइन

विचार/ढांचा निर्माण

पात्रता, निर्णय

फ़ील्ड + डेटा पुष्टिकरण

सामान्य गलतियाँ

• मूल्यांकन के लिए एआई आउटपुट को गलत समझना। आउटपुट हमेशा सत्यापित किया जाने वाला एक ड्राफ्ट होता है; यह साक्ष्य से जुड़े बिना फ़ाइल में प्रवेश नहीं करता है।
• क्लाइंट डेटा को खुले टूल में चिपकाना। यदि यह लीक हो गया है, तो इसे पूर्ववत नहीं किया जा सकता है और यह केवीकेके का उल्लंघन है; यह सबसे खतरनाक गलती है.
• एआई को जोखिम/सुरक्षा निर्णय लेने के लिए कहना। इन निर्णयों के लिए पेशेवर अधिकार और जिम्मेदारी की आवश्यकता होती है; AI निर्णय नहीं ले सकता.
• एक अनुरोध जिसके लिए साक्ष्य की आवश्यकता नहीं है। यदि आप यह नहीं कहते हैं, "बस नोट में जो है उसका उपयोग करें," एआई वह जोड़ सकता है जो ग्राहक ने नहीं कहा है।
• कलंकित करने वाली भाषा पर ध्यान नहीं। एआई की भाषा में पूर्वाग्रह हो सकता है; वह भाषा जो सम्मानजनक हो और ताकत पर विचार करती हो, वह आपके नियंत्रण में है।

सारांश

एआई सामाजिक कार्यों में एक शक्तिशाली सहायक है: गंदे नोट को व्यवस्थित करता है, फ़ाइल को सारांशित करता है, ड्राफ्ट तैयार करता है, सरल बनाता है, अनुवाद करता है। लेकिन नैदानिक ​​निर्णय, जोखिम मूल्यांकन, प्रतिनिधित्व और अंतिम निर्णय मानव का है। इस मॉड्यूल की रीढ़ के रूप में दो-सेट पृथक्करण (दस्तावेज़-गहन कार्य बनाम निर्णय/जोखिम निर्णय), तीन-चरण सत्यापन (साक्ष्य के लिए लिंक, स्वतंत्र पुष्टि, पूर्वाग्रह फ़िल्टर), गोपनीयता जागरूकता (अनाम बनाम ग्राहक डेटा दुनिया) और पूर्वाग्रह के प्रति सतर्कता रखें।

आवेदन कार्य

अपने स्वयं के (या काल्पनिक) डेस्क से 6 कार्यों की सूची बनाएं। प्रत्येक को "एआई-प्रतिनिधित्व योग्य सारांश/संपादन/ड्राफ्ट" या "नैदानिक ​​निर्णय/जोखिम निर्णय" के रूप में वर्गीकृत करें। हस्तांतरणीय लोगों में से एक के लिए (एक काल्पनिक उदाहरण के साथ जो ग्राहक की पहचान नहीं करता है), ऊपर दिए गए "नौकरी उपयुक्तता मूल्यांकन" टेम्पलेट का उपयोग करें और एआई से प्रतिक्रिया प्राप्त करें; फिर तीन-चरणीय सत्यापन लागू करें और गोपनीयता प्रीचेक का भी प्रयास करें।

चेकलिस्ट

• [ ] मैंने कार्य को दो समूहों (दस्तावेज़-गहन/निर्णय-जोखिम निर्णय) में विभाजित किया है।
• [ ] मैंने तीन-चरणीय सत्यापन (साक्ष्य, स्वतंत्र पुष्टि, पूर्वाग्रह) लागू किया।
• [ ] मैंने यह सुनिश्चित किया कि मैं क्लाइंट की पहचान करने वाला व्यक्तिगत डेटा ओपन टूल को प्रदान नहीं करूँ।
• [ ] मैंने क्लाइंट के बारे में एआई द्वारा दिए गए हर बयान को वास्तविक नोट से जोड़ा।
• [ ] मैंने आउटपुट में कलंकित करने वाली/पक्षपाती भाषा की जाँच की।