मतिभ्रम और विश्वसनीयता की सीमाएँ

लाभ:

• बता सकते हैं कि मतिभ्रम क्या है और यह क्यों होता है
• यह निर्धारित कर सकता है कि एआई आउटपुट को कब सत्यापित करने की आवश्यकता है
• विश्वसनीयता बढ़ाने वाली व्यावहारिक तकनीकें लागू कर सकते हैं

शायद इस इकाई में एआई साक्षरता का सबसे महत्वपूर्ण विषय है: मॉडल बनाना, यानी मतिभ्रम। एआई का उपयोग करने वाले किसी भी व्यक्ति के लिए इस शब्द को समझना सबसे बुनियादी सुरक्षा सावधानी है। क्योंकि एक उपयोगकर्ता जो मतिभ्रम को नहीं पहचानता है वह गलत जानकारी को सच मान सकता है और इसे व्यावसायिक निर्णय, ग्राहक संचार या आधिकारिक दस्तावेज़ में स्थानांतरित कर सकता है। इस इकाई में, आप सीखेंगे कि मतिभ्रम क्या है, यह अपरिहार्य क्यों है, और इससे कैसे बचाव करें।

मतिभ्रम क्या है?

मतिभ्रम तब होता है जब एक भाषा मॉडल ऐसी जानकारी उत्पन्न करता है जो वास्तव में धाराप्रवाह और आत्मविश्वासपूर्ण भाषा में मौजूद नहीं होती है, जैसे कि वह सच हो। मॉडल का झूठ बोलने का इरादा नहीं है; केवल "सबसे संभावित निरंतरता" उत्पन्न करने में, यह एक ऐसा पाठ बनाता है जो संभावित लगता है लेकिन वास्तव में गलत है।

उदाहरण: यदि आप एक मॉडल को बताते हैं "विषय पर एक अकादमिक स्रोत की सिफारिश करें तो सब कुछ सही प्रारूप में और ठोस रूप से दिखाई देता है; लेकिन स्रोत पूरी तरह से काल्पनिक है। यह मतिभ्रम का एक उत्कृष्ट उदाहरण है।

ऐसा क्यों होता है? (इकाई दो याद रखें)

मतिभ्रम का स्रोत मॉडल के कार्य सिद्धांत में निहित है। मॉडल "तथ्यों का विश्वकोश" नहीं है; यह एक "संभावना मशीन" है। इसका काम आपके प्रश्न को यथासंभव सहजता से जारी रखना है; यह सबसे सटीक जानकारी लाने के बारे में नहीं है। मॉडल:

• वह वह नहीं जानता जो वह नहीं जानता; जब उसका सामना किसी रिक्त स्थान से होता है, तो वह "मुझे नहीं पता" कहने के बजाय संभावित उत्तर भरने लगता है।
• इसमें वास्तविकता को नियंत्रित करने का कोई तंत्र नहीं है; यह जाँच नहीं करता कि यह जो पाठ तैयार करता है वह दुनिया से मेल खाता है या नहीं।
• उसके लिए प्रवाह और सटीकता दो अलग चीजें हैं; सिर्फ इसलिए कि यह धाराप्रवाह है इसका मतलब यह नहीं है कि यह सही है।

सावधानी: मतिभ्रम कोई "ख़राबी" नहीं है; यह प्रौद्योगिकी की एक अंतर्निहित विशेषता है. नए मॉडल इसे कम तो करते हैं लेकिन पूरी तरह ख़त्म नहीं कर सकते. इसलिए, "गैर-मतिभ्रम मॉडल" की प्रतीक्षा करने के बजाय, मतिभ्रम के साथ जीना सीखना आवश्यक है।

मतिभ्रम का जोखिम कहाँ अधिक है?

हर परिणाम समान रूप से जोखिम भरा नहीं होता. जोखिम तब बढ़ जाता है जब:

उच्च जोखिम

कम जोखिम

सटीक आंकड़े, दिनांक, आँकड़े

सामान्य विचार उत्पन्न करना, विचार-मंथन करना

स्रोतों, उद्धरणों, संदर्भों का अनुरोध करना

किसी पाठ का स्वर बदलें

आला, विशिष्ट विषय

सामान्य, सामान्य विषय

वर्तमान घटनाएँ और लोग

अपने पाठ को सारांशित करें

आपकी कंपनी के लिए विशिष्ट आंतरिक जानकारी

व्याकरण सुधार

तीन मिनी मामले

केस 1 - प्रेजेंटेशन में एक नकली आकृति दर्ज हुई। एक कर्मचारी ने उद्योग रिपोर्ट के लिए एआई से "2023 ई-कॉमर्स विकास दर और तुर्किये में स्रोत" पूछा। मॉडल ने एक ठोस प्रतिशत (48%) और एक संस्थान का नाम लौटाया। कर्मचारी ने इसे सत्यापित किए बिना प्रेजेंटेशन में डाल दिया; जब बैठक में यह खुलासा हुआ कि यह आंकड़ा मनगढ़ंत है, तो प्रेजेंटेशन और कंपनी की प्रतिष्ठा दोनों को नुकसान पहुंचा। अगर उसी कर्मचारी को आधिकारिक स्रोत से आंकड़ा मिल जाता तो कोई दिक्कत नहीं होती.

केस 2 - विधान का अस्तित्वहीन टुकड़ा। एक सहायक ने एक याचिका के लिए एआई से "कानून का प्रासंगिक लेख" मांगा। मॉडल ने एक यथार्थवादी दिखने वाला आइटम नंबर और टेक्स्ट तैयार किया; लेकिन वह वस्तु वहां नहीं थी. सौभाग्य से, डिलीवरी से पहले कानूनी विभाग ने इस पर ध्यान दिया। पाठ: कानूनी उद्धरण हमेशा प्राथमिक स्रोत से सत्यापित किए जाते हैं।

केस 3 - सही तरीका, सुरक्षित परिणाम। उसी टीम के एक अन्य कर्मचारी ने केवल एआई से रिपोर्ट का मसौदा तैयार किया था, आधिकारिक डेटा से सभी नंबरों को स्वयं दर्ज किया था और उसे निर्देश दिया था कि "कोई भी आंकड़े न जोड़ें जो इस पाठ में नहीं हैं।" परिणाम तेज़ और सटीक दोनों था। अंतर: एआई ने मसौदा लिखा, मानव ने तथ्य लिखे।

कमजोर संकेत/मजबूत संकेत

कमजोर संकेत: लेखक और वर्ष के साथ इस विषय पर 3 सबसे महत्वपूर्ण शैक्षणिक स्रोत दें।

परिणाम: मॉडल गैर-मौजूद स्रोतों को सुरक्षित रूप से फिट कर सकता है।

शक्तिशाली संकेत: मेरे द्वारा नीचे चिपकाए गए पाठ के आधार पर एक सारांश लिखें। इस पाठ में केवल जानकारी का उपयोग करें. कोई भी नाम, संख्या या स्रोत न जोड़ें जो पाठ में नहीं हैं। यदि आप निश्चित नहीं हैं, तो "पाठ में निर्दिष्ट नहीं" लिखें।<text>[यहाँ चिपकाएँ]</text>

परिणाम: चूँकि मॉडल को आपसे स्रोत मिलता है, फिटिंग का स्थान संकरा हो जाता है।

व्यावहारिक तकनीकें जो विश्वसनीयता बढ़ाती हैं

प्रत्येक सत्यापन योग्य दावे को अपने उत्तर (संख्या, दिनांक, नाम, स्रोत) में चिह्नित करें और उन्हें एक अलग "अवश्य जांचें" सूची में रखें।

इस प्रश्न का उत्तर दीजिये. यदि आप निश्चित नहीं हैं, तो अनुमान न लगाएं; कहें "मुझे यकीन नहीं है" और समझाएं कि आप नहीं जानते कि क्या है। विषय: [विषय]

एक ही प्रश्न का उत्तर दो अलग-अलग तरीकों से दें और दोनों उत्तरों के बीच विरोधाभासों को चिह्नित करें। तो आइए देखें कि कौन से बिंदु संदिग्ध हैं। प्रश्न: [प्रश्न]

मैं नीचे दिए गए पाठ को सत्यापित करूंगा. महत्व के क्रम में उन जोखिम भरे दावों की सूची बनाएं जिनकी मुझे जांच करनी चाहिए और सुझाव दें कि मैं प्रत्येक को कहां सत्यापित कर सकता हूं। पाठ: [यहां चिपकाएं]

साथ ही इन आदतों को अपनाएं:

1. आप स्रोत प्रदान करें. प्रासंगिक दस्तावेज़ को पाठ में चिपकाएँ और कहें "केवल इसी के आधार पर उत्तर दें।"
2. हमेशा सत्यापन योग्य तथ्यों की जाँच करें। किसी स्वतंत्र, विश्वसनीय स्रोत से संख्याओं, तिथियों, नामों, उद्धरणों और स्रोतों का सत्यापन करें।
3. उससे यह बताने के लिए कहें कि वह मॉडल के बारे में निश्चित नहीं है। इससे ख़तरा कम हो जाता है लेकिन पूरी तरह ख़त्म नहीं होता.
4. उच्च जोखिम वाली नौकरियों के लिए, किसी विशेषज्ञ से आउटपुट का निरीक्षण करवाएं। कानूनी, वित्तीय और स्वास्थ्य संबंधी आउटपुट को मानव विशेषज्ञों के फ़िल्टर से गुजरना होगा।
5. एआई को "प्रारंभिक बिंदु" के रूप में उपयोग करें, न कि "अंतिम शब्द" के रूप में। ड्राफ्ट उसी का है; सत्यापन और निर्णय आपका है.

सावधानी: "मॉडल ने इसे दो बार कहा, तो यह सच है" तर्क गलत है। वही गलती आत्मविश्वास से दोहरा सकते हैं. दोहराव सटीकता का प्रमाण नहीं है.

सामान्य गलतियाँ

सामान्य गलतियाँ

• स्रोतों को सत्यापित किए बिना उनका उपयोग करना। यह मॉडल पुस्तकें, लेख, कानून के लेख और लिंक बना सकता है; प्रत्येक संदर्भ की पुष्टि की जानी चाहिए.
• आत्मविश्वासपूर्ण स्वर को सटीकता समझ लेना। मतिभ्रम के बारे में सबसे खतरनाक बात यह है कि यह आश्वस्त प्रतीत होता है।
• बस मॉडल का यह कहना कि "आप सत्यापित करें" पर्याप्त है। मॉडल का स्व-सत्यापन स्वतंत्र सत्यापन नहीं है।
• किसी विशेषज्ञ को दिखाए बिना उच्च जोखिम वाले आउटपुट का उपयोग करना। धन, कानून और स्वास्थ्य में मानव नियंत्रण आवश्यक है।

संक्षेप में

• मतिभ्रम तब होता है जब मॉडल गैर-मौजूद जानकारी को धाराप्रवाह और आत्मविश्वासपूर्ण तरीके से प्रस्तुत करता है जैसे कि वह सच हो।
• इसका कारण कोई खराबी नहीं है, बल्कि मॉडल की संभाव्यता-भविष्यवाणी करने वाली प्रकृति है; पूर्णतया समाप्त नहीं किया जा सकता।
• जब सटीक आंकड़ों, स्रोतों, अद्यतन जानकारी और विशिष्ट मुद्दों की बात आती है तो जोखिम विशेष रूप से अधिक होता है।
• अपनी सुरक्षा के लिए: स्रोत बताएं, तथ्यों को सत्यापित करें, कहें "यदि आप निश्चित नहीं हैं, तो मुझे बताएं", उच्च जोखिम वाले आउटपुट की किसी विशेषज्ञ से जांच कराएं।
• शुरुआती बिंदु के रूप में एआई का उपयोग करें; अंतिम सत्यापन और जिम्मेदारी हमेशा आपकी रहती है।

अनुप्रयोग कार्य

अपने एआई टूल को उस विषय पर "3 शैक्षणिक स्रोतों का सुझाव देने" के लिए कहें जिसके लिए विशेषज्ञता की आवश्यकता है और इंटरनेट पर उसके द्वारा सुझाए गए स्रोतों की पुष्टि करने का प्रयास करें; ध्यान दें कि कितने वास्तविक हैं. फिर उसी कार्य को "आप स्रोत दें" विधि से दोहराएं और अंतर देखें।

चेकलिस्ट

• [ ] मैं समझा सकता हूं कि मतिभ्रम क्या है और यह क्यों होता है।
• [ ] मैं उच्च और निम्न मतिभ्रम जोखिम वाले कार्यों के बीच अंतर कर सकता हूं।
• [ ] मैं मॉडल को स्रोत देकर निर्माण के जोखिम को कम कर सकता हूं।
• [ ] मैं संख्याओं, तिथियों, नामों और स्रोतों को स्वतंत्र रूप से सत्यापित करता हूं।
• [ ] मैं आत्मविश्वासपूर्ण लहजे को सटीकता का प्रमाण नहीं मानता।