लाभ:
- यह समझाने की क्षमता कि मतिभ्रम (मनगढ़ंत स्रोत, उद्धरण, घटना) और कालभ्रम इतिहास की सबसे खतरनाक गलतियाँ क्यों हैं
- कैटलॉग में प्रत्येक संदर्भ को सत्यापित करने, दस्तावेज़ की सामग्री की तुलना करने और महत्वपूर्ण तथ्यों की पुष्टि करने के अनुशासन को लागू करने की क्षमता।
- वास्तविक स्रोत के बजाय कृत्रिम बुद्धिमत्ता से पूछकर स्रोतों में पूर्वाग्रह और गायब आवाज़ों पर सवाल उठाने की क्षमता
इस मॉड्यूल की प्रत्येक इकाई में एक चेतावनी दोहराई गई है: सत्यापित होने तक एआई का आउटपुट एक दावा है, तथ्य नहीं। यह इकाई उस चेतावनी को एक अनुशासन में बदल देती है। इतिहास और संग्रह स्वाभाविक रूप से साक्ष्य-आधारित क्षेत्र हैं; एक इतिहासकार का सबसे बुनियादी कौशल स्रोत आलोचना है (यह सवाल करना कि कोई स्रोत किसके द्वारा, कब, किस उद्देश्य से तैयार किया गया था और यह कितना विश्वसनीय है)। एआई के युग में, यह कौशल और भी महत्वपूर्ण हो गया है क्योंकि स्रोत अब स्वयं गढ़ा जा सकता है।
यहां हम तीन खतरों को गहराई से कवर करेंगे: मतिभ्रम (एआई मनगढ़ंत जानकारी, स्रोत या उद्धरण उत्पन्न करता है), कालानुक्रमिकता (आवधिक तत्वों को गलत अवधि में ले जाया जा रहा है), और सामान्य रूप से स्रोत सत्यापन का अनुशासन। हम एआई को ऐसे स्रोतों से सीखते हुए भी देखेंगे जो अतीत में गलत या पक्षपातपूर्ण थे, इसलिए यह पूर्वाग्रह को पुन: उत्पन्न कर सकता है।
मतिभ्रम: सबसे खतरनाक गलती
मतिभ्रम तब होता है जब कोई एआई आत्मविश्वास से कुछ ऐसा प्रस्तुत करता है जो वास्तव में मौजूद नहीं है। ऐतिहासिक रूप से, इसे आमतौर पर निम्नलिखित रूपों में देखा जाता है:
- मनगढ़ंत स्रोत/संदर्भ: एक गैर-मौजूद पुरालेख निधि, फ़ाइल संख्या, पुस्तक या लेख।
- मनगढ़ंत उद्धरण: एक शब्द जो वास्तव में कहा नहीं गया, एक वाक्य जो दस्तावेज़ में नहीं है।
- मनगढ़ंत घटना/तारीख/व्यक्ति: एक घटना जो घटित नहीं हुई, एक झूठी तारीख, एक व्यक्ति जिसका अस्तित्व ही नहीं है।
- काल्पनिक संबंध: दो वास्तविक घटनाओं के बीच अस्तित्वहीन कारण-प्रभाव वाला संबंध।
जो चीज़ मतिभ्रम को खतरनाक बनाती है वह यह है कि यह विश्वसनीय लगता है। एक बने-बनाए संदर्भ का प्रारूप वास्तविक संदर्भ के समान ही होता है: फंड का नाम, संख्या, दिनांक। इसलिए "प्रारूप सही दिखता है" का अर्थ कभी भी "सही" नहीं होता।
ध्यान दें: YZ द्वारा उत्पादित किसी भी संसाधन का उपयोग सत्यापित किए बिना और कैटलॉग में या किसी विश्वसनीय स्थान पर पाए बिना नहीं किया जा सकता है। यह साबित करने का एकमात्र तरीका है कि कोई संदर्भ मौजूद है, उसे यह देखना है कि मूल स्रोत कहाँ स्थित है (संग्रह सूची, पुस्तकालय, प्रकाशन)। "एआई ने इसे दिया" सबूत नहीं है।
कालानुक्रमिकता: काल का चश्मा
अनाक्रोनिज्म अतीत को आज के चश्मे से देखना है। चूँकि AI को आज की भाषा में प्रशिक्षित किया जाता है, इसलिए इसकी प्रबल प्रवृत्ति है:
- शब्द अनाक्रोनिज़्म: ऐसे शब्द, संस्था या अवधारणा का उपयोग करना जो उस अवधि से संबंधित नहीं है।
- कालभ्रमवाद की अवधारणा: वर्तमान के एक विचार (उदाहरण के लिए एक आधुनिक विचारधारा या पहचान) को अतीत में प्रक्षेपित करना।
- मूल्य अनाचारवाद: अतीत के व्यवहार को केवल आज के मानकों के आधार पर आंकना।
इतिहासकार का काम अतीत को उसके संदर्भ में समझना है। एआई में इस संदर्भ संवेदनशीलता का अभाव है; आपको इसे स्वयं प्रदान करना होगा.
यह समझने से कि मतिभ्रम इतनी बार क्यों होता है, इससे बचाव करना आसान हो जाता है। एआई एक ऐसी प्रणाली है जो "अगला सबसे संभावित शब्द" उत्पन्न करने के लिए काम करती है; इसका "सच्चाई जानने" जैसा कोई उद्देश्य नहीं है। जब कोई प्रश्न पूछा जाता है, चाहे वह उत्तर जानता हो या नहीं, वह ऐसा पाठ प्रस्तुत करता है जो सांख्यिकीय रूप से विश्वसनीय लगता है। अभिलेखीय संदर्भ का प्रारूप (निधि का नाम, संख्या, दिनांक) एक सीखा हुआ पैटर्न है; एआई इस पैटर्न को वास्तविक संदर्भ के बिना भर सकता है। तो "एआई इसे क्यों बनाता है?" प्रश्न का उत्तर सरल है: उसके लिए "नहीं जानने" की तुलना में इसे बनाना आसान है। इन सांचों को वास्तविक संसाधनों से भरने की जिम्मेदारी आप पर आती है।
स्रोत सत्यापन अनुशासन: चरण दर चरण
1. संसाधन के अस्तित्व की पुष्टि करें. एआई द्वारा दिए गए प्रत्येक संदर्भ को कैटलॉग/प्रकाशन में खोजें। यदि आप इसे नहीं पा सकते हैं, तो इसका उपयोग न करें।
2. सामग्री की तुलना स्रोत से करें। क्या एआई द्वारा किसी दस्तावेज़ को दी गई जानकारी वास्तव में दस्तावेज़ में मौजूद है? क्या उद्धरण बिल्कुल वैसा ही है?
3. क्रॉस-पुष्टि करें। किसी महत्वपूर्ण तथ्य के लिए, कम से कम दो स्वतंत्र विश्वसनीय स्रोतों को देखें।
4. स्रोत आलोचना लागू करें. क्या स्रोत स्वयं विश्वसनीय है? इसका निर्माण किसने, कब और किस उद्देश्य से किया? क्या यह पक्षपातपूर्ण है?
5. इसे एनाक्रोनिज़्म फ़िल्टर से गुजारें। क्या ऐसे कोई नियम, अवधारणाएं या मूल्य निर्णय हैं जो आउटपुट में अवधि के अनुरूप नहीं हैं?
6. पूर्वाग्रह पर सवाल उठाना. क्या एआई ऐतिहासिक स्रोतों में पूर्वाग्रहों को पुन: उत्पन्न कर सकता है (एक समूह की उपेक्षा, एक दृष्टिकोण का पक्ष लेना)?
प्रमाणीकरण परत
प्रश्न
कौन करता है
इकाई
क्या यह संसाधन वास्तव में मौजूद है?
आप कैटलॉग में.
सामग्री
क्या दस्तावेज़ में सचमुच ऐसा कहा गया है?
आप दस्तावेज़ में
पुष्टि
क्या कोई अन्य स्रोत इसका समर्थन करता है?
तुम, पार करो
विश्वसनीयता
क्या स्रोत विश्वसनीय है?
विशेषज्ञ निर्णय
अवधि
क्या कोई कालानुक्रमिकता है?
विशेषज्ञ निर्णय
पूर्वाग्रह
किसकी आवाज गायब/विकृत है?
विशेषज्ञ निर्णय
तीन मिनी मामले
केस 1 - छह मनगढ़ंत संदर्भ। एक शोधकर्ता ने एआई से किसी विषय पर स्रोतों की सूची मांगी। YZ ने उत्तम स्वरूपण के साथ 6 संग्रह संदर्भ प्रदान किए। कैटलॉग खोज में, 6 में से 4 गायब थे, उनमें से 2 पर गलत नंबर था। यदि शोधकर्ता ने सत्यापित नहीं किया होता, तो गैर-मौजूद स्रोतों का हवाला देने वाला एक अध्ययन सामने आता। पाठ: प्रत्येक संदर्भ कैटलॉग में सत्यापित है।
केस 2 - मनगढ़ंत उद्धरण। एक लेखक एक आकर्षक उद्धरण का उपयोग करेगा जो एआई एक ऐतिहासिक व्यक्ति को बताता है। जब उन्होंने स्रोत की जांच की, तो उन्होंने देखा कि ऐसा कोई दस्तावेज़ नहीं था जो साबित करता हो कि उस व्यक्ति ने ऐसी बात कही थी, और यह बयान एआई द्वारा "बनाया गया" था। पाठ: प्राथमिक या विश्वसनीय स्रोत से सत्यापन के बिना उद्धरणों का उपयोग नहीं किया जा सकता।
केस 3 - पूर्वाग्रह का पुनरुत्पादन। एक छात्र को एआई ने एक क्षेत्र का इतिहास समझाया। आउटपुट ने उस क्षेत्र के एक विशिष्ट समुदाय को पूरी तरह से नजरअंदाज कर दिया क्योंकि एआई ने जिन स्रोतों से सीखा था, उन्होंने उन्हें भी नजरअंदाज कर दिया था। छात्र ने इस अंतर को देखा और क्रॉस-रेफरेंस के साथ इसे ठीक किया। पाठ: एआई स्रोतों में चुप्पी और पूर्वाग्रहों को पुन: उत्पन्न करता है; किसी को पूछना चाहिए कि किसकी आवाज गायब है.
चार प्रतिलिपि योग्य टेम्पलेट
1) संदर्भ सत्यापन सूची:
नीचे दिए गए पाठ में सभी स्रोत, संदर्भ, उद्धरण, दिनांक और व्यक्ति के नाम एक अलग सूची में दिखाई देते हैं। प्रत्येक के लिए एक नोट जोड़ें: "इस पाठ में दावा किया गया, स्वतंत्र रूप से सत्यापित होना चाहिए।" यदि आप कोई नहीं चुनते हैं, तो "सत्यापित करें"; सत्यापित करने के लिए बस एक सूची तैयार करें ताकि मैं इसे कैटलॉग/स्रोत से जांच सकूं। पाठ: [यहाँ]
2) एनाक्रोनिज़्म स्कैनिंग:
नीचे [अवधि] के बारे में पाठ की जाँच करें। उन शब्दों, संस्थानों, अवधारणाओं और मूल्यों पर प्रकाश डालें जो इस अवधि से संबंधित नहीं हो सकते हैं। प्रत्येक के लिए, संक्षेप में लिखें कि आपको संदेह क्यों है। अंतिम निर्णय लेना; संदेहों की एक सूची बनाएं जिसकी विशेषज्ञ जांच करेगा। पाठ: [यहाँ]
3) स्रोत आलोचना रूपरेखा:
निम्नलिखित स्रोत के बारे में एक स्रोत आलोचना का मसौदा तैयार किया गया है: (1) इसे किसने बनाया होगा, (2) कब, (3) किस उद्देश्य के लिए, (4) इसके संभावित पूर्वाग्रह क्या हैं, (5) किन मुद्दों पर भरोसा किया जाना चाहिए और किससे सावधान रहना चाहिए। अंतिम निर्णय थोपना; प्रश्न और संभावित उत्तर विकल्प प्रदान करें। स्रोत: [यहाँ]
4) गुम मात्रा/पूर्वाग्रह नियंत्रण:
निम्नलिखित ऐतिहासिक सारांश में किसकी आवाज़ और किस समूह का अनुभव गायब या एकतरफ़ा हो सकता है? कौन सा परिप्रेक्ष्य प्रमुख है, कौन सा अदृश्य है? इसे प्रश्नों की एक सूची के रूप में तैयार करें; मैं इसे क्रॉस-रेफरेंस से भर दूंगा। सारांश: [यहाँ]
कमजोर संकेत/मजबूत संकेत
कमज़ोर:
मुझे इस विषय पर विश्वसनीय ऐतिहासिक स्रोत और उद्धरण दें।
"स्रोत" और "उद्धरण" मांगे जाने पर एआई ऐसे संदर्भ प्रस्तुत करने में सक्षम है जो रूप में तो सही हैं लेकिन सामग्री में मनगढ़ंत हैं। यह संकेत मतिभ्रम का सीधा निमंत्रण है।
मजबूत:
सुझाव दें कि मुझे इस विषय पर अपने शोध में किस प्रकार के स्रोतों (संग्रह निधि प्रकार, प्रकाशन प्रकार, संस्थान) की तलाश करनी चाहिए। एक विशिष्ट संदर्भ, फ़ाइल संख्या या उद्धरण फिट करना; बस मुझे बताओ कि कहाँ देखना है। तब मुझे कैटलॉग से वास्तविक स्रोत मिलेंगे।
अंतर: एआई से "कहां देखना है" पूछा जाता है, "वास्तविक संदर्भ" नहीं; मतिभ्रम का जोखिम मौलिक रूप से कम हो जाता है और सत्यापन मानव पर छोड़ दिया जाता है।
सामान्य गलतियाँ
- सही सन्दर्भ पर भरोसा. बना-बनाया संदर्भ भी दोषरहित प्रतीत होता है; कैटलॉग में सत्यापित किया जाना चाहिए.
- एआई से सीधा उद्धरण लेना। प्राथमिक/विश्वसनीय स्रोत से पुष्टि के बिना कोटेशन का उपयोग नहीं किया जा सकता।
- कालभ्रम की अनदेखी. आज के नियम और अवधारणाएँ चुपचाप अतीत में समा जाती हैं।
- पूर्वाग्रह का पुनरुत्पादन. एआई स्रोतों से चुप्पी की प्रतिलिपि बनाता है; गायब आवाज़ के बारे में पूछना ज़रूरी है.
- एक ही स्रोत पर भरोसा करना. महत्वपूर्ण तथ्यों की पुष्टि कम से कम दो स्वतंत्र स्रोतों से होनी चाहिए।
संक्षेप में
स्रोत सत्यापन इतिहास और संग्रह के केंद्र में है, और एआई के युग में यह और भी महत्वपूर्ण है। मतिभ्रम ऐसे स्रोत, उद्धरण और घटनाएँ उत्पन्न करता है जिनका रूप उत्तम है लेकिन जिनकी सामग्री काल्पनिक है; कालभ्रमवाद आज के चश्मे से अतीत को विकृत करता है; और एआई स्रोतों में पूर्वाग्रहों को पुन: उत्पन्न करता है। रक्षा एक अनुशासन है: कैटलॉग में प्रत्येक संदर्भ को सत्यापित करें, सामग्री की दस्तावेज़ से तुलना करें, महत्वपूर्ण तथ्यों की जांच करें, अवधि और पूर्वाग्रह के माध्यम से फ़िल्टर करें। एआई से "कहां देखना है" पूछें, न कि "वास्तविक स्रोत।" सत्य का संरक्षक सदैव विशेषज्ञ होता है।
आवेदन कार्य
जिस विषय पर आप काम कर रहे हैं उस पर एआई से संसाधनों की एक सूची तैयार करने को कहें (जानबूझकर "कमजोर संकेत के साथ")। फिर "संदर्भ सत्यापन सूची" टेम्पलेट के साथ इस आउटपुट से सभी संदर्भ निकालें और प्रत्येक को कैटलॉग में खोजें। गणना करें कि कितने वास्तव में अस्तित्व में हैं और कितने झूठे या गलत हैं। उसी विषय को "मजबूत संकेत" ("मुझे कहाँ देखना चाहिए") के साथ दोहराएं और अंतर का अनुभव करें।
चेकलिस्ट
- [ ] मैंने कैटलॉग/विश्वसनीय स्रोत में प्रत्येक संदर्भ को सत्यापित किया।
- [ ] मैंने प्रत्येक उद्धरण को प्राथमिक/विश्वसनीय स्रोत से सत्यापित किया है।
- [ ] मैंने कम से कम दो स्वतंत्र स्रोतों से महत्वपूर्ण तथ्यों की जांच की है।
- [ ] मैंने एनाक्रोनिज्म के लिए आउटपुट को फ़िल्टर किया।
- [ ] मैंने गुम/विकृत आवाज़ों और पूर्वाग्रह पर सवाल उठाया।