स्रोत सत्यापन, दुष्प्रचार और पूर्वाग्रह

लाभ:

• उत्पत्ति, स्रोत विश्वसनीयता और स्वतंत्र क्रॉस-चेकिंग चरणों के माध्यम से किसी दावे को व्यवस्थित रूप से सत्यापित करने की क्षमता
• यह समझने की क्षमता कि कृत्रिम बुद्धिमत्ता स्वयं मतिभ्रम, प्रशिक्षण डेटा पूर्वाग्रह और चापलूसी के माध्यम से गलत जानकारी उत्पन्न कर सकती है, और इसके आउटपुट को अतिरिक्त संदेह के साथ व्यवहार करने की क्षमता
• स्पष्ट आत्मविश्वास स्तर लेबल के साथ परिणाम को चिह्नित करके और विभिन्न दृष्टिकोणों से एक ही घटना का मूल्यांकन करके पूर्वाग्रह का परीक्षण करने की क्षमता

कूटनीति सूचना के साथ काम करती है और सूचना का मूल्य उसकी सटीकता पर निर्भर करता है। गलत जानकारी पर आधारित ब्रीफिंग, बातचीत की स्थिति या सार्वजनिक बयान के ऐसे परिणाम होते हैं जिन्हें उलटना मुश्किल होता है। इसीलिए एक राजनयिक के सबसे आवश्यक कौशलों में से एक स्रोत सत्यापन है: व्यवस्थित रूप से मूल्यांकन करना कि दावा कहां से आता है, यह कितना विश्वसनीय है, और क्या यह वास्तव में सच है। इस इकाई में, आप सीखेंगे कि सत्यापन में कृत्रिम बुद्धिमत्ता को कैसे शामिल किया जाए; लेकिन आप यह ध्यान में रखते हुए इसका उपयोग करना सीखेंगे कि एआई स्वयं गलत सूचना और पूर्वाग्रह का स्रोत हो सकता है।

आइए पहले तीन अवधारणाओं को अलग करें। ग़लत सूचना: गलत सूचना अनजाने में फैल गई। दुष्प्रचार: गलत सूचना जो सचेत रूप से, लक्षित रूप से उत्पादित और फैलाई जाती है। पूर्वाग्रह: सूचना या मूल्यांकन को एक निश्चित पक्ष की ओर व्यवस्थित रूप से स्थानांतरित करना। एक राजनयिक को इन तीनों के प्रति सतर्क रहना चाहिए, और एआई इन तीनों में मदद और जोखिम दोनों हो सकता है।

चरण दर चरण: दावे का सत्यापन करना

1. दावे को स्पष्ट रूप से बताएं. वास्तव में क्या सत्यापित किया जाना है? इसे एक एकल, स्पष्ट दावे में समेटें जैसे "देश X समझौते Y से हट गया।" अस्पष्ट दावों की पुष्टि नहीं की जा सकती.

2. अपना मूल खोजें. यह दावा सबसे पहले कहाँ, कब और किसके द्वारा किया गया था? अधिकांश गलत सूचनाएँ एक ही संदिग्ध स्रोत से उत्पन्न होती हैं और फैलाई जाती हैं। स्रोत पर वापस जाएँ.

3. स्रोत की विश्वसनीयता का मूल्यांकन करें. क्या स्रोत आधिकारिक, स्वतंत्र या पक्षपातपूर्ण है? क्या उसने अतीत में सटीक जानकारी प्रदान की है? क्या इसमें उनका कोई निहित स्वार्थ है? यहां तक ​​कि एक विश्वसनीय स्रोत भी गलत हो सकता है; लेकिन कम विश्वसनीयता वाले स्रोत के लिए अतिरिक्त पुष्टि की आवश्यकता होती है।

4. क्रॉस-चेक करें। कम से कम दो स्वतंत्र, विश्वसनीय स्रोतों से दावे की पुष्टि करें। एक ही समाचार एजेंसी द्वारा प्रदत्त 50 साइटें स्वतंत्र स्रोत नहीं हैं।

5. आंतरिक स्थिरता और संदर्भ का परीक्षण करें। क्या दावा आंतरिक रूप से सुसंगत है? क्या यह ज्ञात तथ्यों का खंडन करता है? संदर्भ से बाहर ले जाया गया? एक सच्चा वाक्य गलत सन्दर्भ में भ्रामक हो सकता है।

6. परिणाम को आत्मविश्वास के स्तर से चिह्नित करें। "सत्यापित", "आंशिक रूप से सत्यापित", "एकमात्र स्रोत", "सत्यापित नहीं किया जा सका", "गलत" जैसे स्पष्ट लेबल दें। यहां तक ​​कि "मुझे यकीन नहीं है" भी एक निष्कर्ष है और इसे ईमानदारी से कहा जाना चाहिए।

युक्ति: कोई दावा जितना अधिक गूंजता है या भावनात्मक प्रतिक्रिया उत्पन्न करता है, आपको उसे सत्यापित करने में उतनी ही अधिक सावधानी बरतनी चाहिए। दुष्प्रचार क्रोध, भय, या "वह समाचार जो हम चाहते हैं" की भावना को लक्षित करता है। वह जानकारी जो आपको तुरंत कार्रवाई करने के लिए प्रेरित करती है, अक्सर वह जानकारी होती है जिसके सत्यापन की सबसे अधिक आवश्यकता होती है।

एआई स्वयं जोखिम का एक स्रोत है

इस इकाई की सबसे महत्वपूर्ण चेतावनी: एआई कोई सत्यापन प्राधिकारी नहीं है; यह स्वयं गलत सूचना और पूर्वाग्रह उत्पन्न कर सकता है। AI तीन तरह से गुमराह कर सकता है:

1. मतिभ्रम: किसी अस्तित्वहीन स्रोत, उद्धरण या घटना को वास्तविक के रूप में प्रस्तुत करता है। "कौन सा स्रोत इस दावे की पुष्टि करता है?" जब आप पूछते हैं, तो वह आपको एक बना-बनाया स्रोत नाम भी दे सकता है।

2. प्रशिक्षण डेटा पूर्वाग्रह: एआई उन पाठों में प्रमुख परिप्रेक्ष्य को दर्शाता है जिन पर इसे प्रशिक्षित किया जाता है। यदि किसी विशेष मुद्दे पर दुनिया के एक हिस्से का दृष्टिकोण डेटा पर हावी है, तो एआई उस तरह से प्रभावित कर सकता है। यह जानबूझकर नहीं है, बल्कि डेटा का प्रतिबिंब है - लेकिन परिणाम अभी भी एक पक्षपातपूर्ण आउटपुट है।

3. चाटुकारिता: एआई प्रश्न का उत्तर उस तरीके से दे सकता है जो आपको पसंद आए। यदि आप किसी दावे को सत्यापित करना चाहते हैं, तो यह एक ऐसा उत्तर प्रस्तुत करता है जो इसका समर्थन करता है।

इसलिए सत्यापन के लिए एआई को एक उपकरण के रूप में उपयोग करें (स्रोतों को संपादित करना, विवादों को चिह्नित करना, उत्पत्ति का पता लगाने में मदद करना), लेकिन कभी भी एआई को "यह सच है" कहने को अंतिम शब्द के रूप में न लें।

सावधानी: जब आप AI से किसी स्रोत का सत्यापन करवाते हैं, तो जांचें कि क्या AI आपको वास्तविक स्रोत दिखा रहा है या कोई विश्वसनीय दिखने वाली मनगढ़ंत कहानी तैयार कर रहा है। इसे तब तक "सत्यापित" न मानें जब तक आप स्वतंत्र रूप से खोलकर उसके द्वारा दिए गए प्रत्येक स्रोत का नाम, लिंक और उद्धरण नहीं देख लेते। एआई-मनगढ़ंत स्रोत वास्तविक स्रोत की तुलना में अधिक विश्वसनीय लग सकता है।

तीन मिनी मामले

केस 1 - मूल सत्यापन सहेजा गया। एक "आधिकारिक घोषणा" का स्क्रीनशॉट मेज पर गिरा और वह वास्तविक लग रहा था। सत्यापन से पता चला कि उस संस्था के आधिकारिक चैनलों पर ऐसा कोई बयान नहीं था; छवि नकली थी. मूल जांच ने एक नकली बयान को ब्रीफिंग में प्रवेश करने से रोक दिया।

केस 2 - एआई निर्मित स्रोत। एक विशेषज्ञ ने AI से एक आँकड़ा सत्यापित करवाया। YZ ने एक सूत्र का हवाला देते हुए कहा, "इस संगठन की 2023 रिपोर्ट के अनुसार..." उन्होंने विशेषज्ञ स्रोत को बुलाया: न तो ऐसी कोई रिपोर्ट थी और न ही ऐसा कोई आंकड़ा था; एआई ने दोनों को बनाया था। स्वतंत्र जाँच में एक मनगढ़ंत "पुष्टि" पकड़ी गई।

केस 3 - पूर्वाग्रह ऑफसेट। एक विशेषज्ञ ने एआई को एक विवादास्पद घटना का सारांश दिया और देखा कि आउटपुट स्पष्ट रूप से एक पक्ष की कहानी के करीब था। जब मैंने दोबारा पूछा, "उसी घटना को दूसरे पक्ष के दृष्टिकोण से सारांशित करें", तो एक बहुत अलग तस्वीर उभर कर सामने आई। दोनों परिणामों की तुलना करने से रिपोर्ट में एकतरफा रूपरेखा पेश करने से रोका गया।

चार प्रतिलिपि योग्य टेम्पलेट

1) दावा सत्यापन प्रोटोकॉल:

आपकी भूमिका: सत्यापन विश्लेषक। निम्नलिखित दावे के लिए: (1) दावे को नेटटेक वाक्य में कम करें, (2) मेरे द्वारा दिए गए स्रोतों में इसका उल्लेख पहली बार कहां/कब किया गया है, (3) कितने स्वतंत्र स्रोत इसका समर्थन करते हैं, (4) क्या कोई विरोधाभासी स्रोत हैं, (5) परिणाम को निम्नलिखित टैग में से एक के साथ चिह्नित करें: सत्यापित / एकल स्रोत / विरोधाभासी / असत्यापित। स्रोत निर्माण; बस जो मैं तुम्हें देता हूं उसका उपयोग करो। दावा+स्रोत: [यहां]

2) एआई पूर्वाग्रह परीक्षण:

सबसे पहले, निम्नलिखित घटना का यथासंभव वस्तुनिष्ठ सारांश प्रस्तुत करें। फिर उसी घटना को अलग से सारांशित करें (ए) पार्टी ए के दृष्टिकोण से, (बी) पार्टी बी के दृष्टिकोण से। तीन संस्करणों के बीच अंतर सूचीबद्ध करें। इस प्रकार, यह देखा जा सकता है कि कौन से बिंदु पार्टियों की व्याख्या हैं और कौन से सामान्य तथ्य हैं। मामला/स्रोत: [यहां]

3) स्रोत विश्वसनीयता मूल्यांकन:

निम्नलिखित स्रोत के लिए मूल्यांकन करें: प्रकार (आधिकारिक/स्वतंत्र/पक्षपाती/गुमनाम), मामले में संभावित रुचि, पिछली विश्वसनीयता पर प्रदान की गई जानकारी, सत्यापन के लिए आवश्यक अतिरिक्त कदम। यह भी लिखें कि स्रोत गलत क्यों हो सकता है। स्रोत: [यहाँ]

4) दुष्प्रचार लाल झंडे:

दुष्प्रचार के लिए नीचे दी गई सामग्री को स्कैन करें। इन झंडों को देखें: बिना स्रोत वाले आँकड़े, भावना भड़काने वाली भाषा, बिना सन्दर्भ के चित्र, "जल्दी करें/शेयर करें" दबाव, अप्रमाणित अधिकार शब्द, एक साथ समन्वित प्रसार। प्रत्येक निष्कर्ष को औचित्य के साथ चिह्नित करें। अंतिम निर्णय न लें. सामग्री: [यहाँ]

कमजोर संकेत/मजबूत संकेत

कमजोर संकेत:

क्या ये दावा सच है? ऑनलाइन खोजें और मुझे बताएं।

एआई का "सत्य" कहना सत्यापन नहीं है; वह गलत स्रोत दे सकता है या पक्षपातपूर्ण या चापलूसी वाला उत्तर दे सकता है।

शक्तिशाली संकेत:

आपकी भूमिका: सत्यापन विश्लेषक. नीचे एक दावा और मेरे द्वारा एकत्र किए गए स्रोत हैं। मुझे "सही/गलत" मत बताओ; इसके बजाय: दावे का मूल, स्वतंत्र स्रोतों की संख्या, कोई विरोधाभास और आत्मविश्वास का स्तर दिखाएं। मेरे द्वारा दिए गए स्रोतों से आगे मत जाओ, स्रोत मत बनाओ। यदि आप निश्चित नहीं हैं, तो इसे "मानव सत्यापन की आवश्यकता है" के रूप में चिह्नित करें। दावा+स्रोत: [यहां]

अंतर स्पष्ट है: "सच्चे/झूठे" निर्णय के बजाय उद्गम, स्वतंत्र पुष्टि और विश्वास के स्तर की आवश्यकता एआई के जोखिमों को सीमित करती है।

सत्यापन स्थिति तालिका

लेबल

मतलब

रिपोर्ट में उपयोग

सत्यापित

कम से कम 2 स्वतंत्र विश्वसनीय स्रोत

केस के तौर पर इस्तेमाल किया जा सकता है

आंशिक रूप से पुष्टि की गई

कुछ ने पुष्टि की

सीमित, स्पष्टीकरण के साथ

एकल स्रोत

बस एक स्रोत

"दावे" के रूप में पुष्टि आवश्यक है

विरोधाभासी

स्रोत मेल नहीं खाते

अनिश्चितता के रूप में प्रस्तुत किया गया

सत्यापित नहीं किया जा सका

कोई पुष्टि नहीं मिली

तथ्य के रूप में उपयोग नहीं किया गया

गलत

विपरीत सिद्ध हो चुका है

रिपोर्ट में सुधार के तौर पर

सामान्य गलतियाँ

• एआई के "सही" कथन को सत्यापन के रूप में मानते हुए। एआई गढ़ सकता है, पक्षपात कर सकता है, या बढ़ावा दे सकता है।
• एआई द्वारा दिए गए स्रोत को खोलना और उसे देखे बिना स्वीकार करना। मनगढ़ंत स्रोत विश्वसनीय प्रतीत होते हैं।
• आपकी आवश्यकताओं के अनुरूप छोटी-छोटी जानकारी का सत्यापन करना। भावनात्मक/उपयुक्त जानकारी वह जानकारी है जिसके लिए सबसे अधिक पुष्टि की आवश्यकता होती है।
• प्रतियों की प्रचुरता को पुष्टि समझ लेना। एक ही स्रोत से संचालित होने वाली सैकड़ों साइटें एक ही स्रोत हैं।
• पूर्वाग्रह का परीक्षण बिल्कुल नहीं। एक ही घटना को विभिन्न दृष्टिकोणों से सारांशित करने से संतुलन मिलता है।

संक्षेप में

स्रोत सत्यापन राजनयिक ज्ञान की नींव है, और एआई इस काम में मदद और जोखिम दोनों है। एआई स्रोतों को व्यवस्थित करता है, उद्गम ट्रैकिंग और संघर्ष ध्वजांकन में मदद करता है; लेकिन यह स्वयं मतिभ्रम, प्रशिक्षण डेटा पूर्वाग्रह और चापलूसी के कारण गलत सूचना उत्पन्न कर सकता है। उद्गम अनुरेखण, स्वतंत्र क्रॉस-चेकिंग, स्रोत-सूचना विश्वसनीयता पृथक्करण, विश्वास स्तर टैगिंग और एआई आउटपुट पर अतिरिक्त संदेह इस इकाई की रीढ़ हैं।

आवेदन कार्य

एक मौजूदा, विवादास्पद दावा चुनें और विभिन्न शैलियों से स्रोत इकट्ठा करें। "दावा सत्यापन प्रोटोकॉल" के साथ उत्पत्ति और स्वतंत्र सत्यापन के लिए दावे का मूल्यांकन करें। "एआई पूर्वाग्रह परीक्षण" के साथ, एक ही घटना को विभिन्न दृष्टिकोणों से सारांशित करें और अंतरों को सूचीबद्ध करें। यदि एआई कोई संसाधन देता है, तो उसे स्वतंत्र रूप से खोलें और जांचें कि क्या वह वास्तव में मौजूद है।

चेकलिस्ट

• [ ] मैंने दावे को एक स्पष्ट वाक्य तक सीमित कर दिया और इसके मूल की तलाश की।
• [ ] मैंने कम से कम दो स्वतंत्र विश्वसनीय स्रोतों से जांच की है।
• [ ] मैंने एआई द्वारा प्रदान किए गए प्रत्येक स्रोत को स्वतंत्र रूप से सत्यापित किया है।
• [ ] मैंने एक ही घटना को अलग-अलग दृष्टिकोण से सारांशित करके पूर्वाग्रह का परीक्षण किया।
• [ ] मैंने परिणाम को स्पष्ट आत्मविश्वास स्तर लेबल के साथ चिह्नित किया।