व्यावसायिक संशयवाद और कृत्रिम बुद्धिमत्ता: पुष्टिकरण पूर्वाग्रह, मतिभ्रम, और गंभीर पूछताछ

लाभ:

• समझें कि पेशेवर संशयवाद क्या है और कृत्रिम बुद्धिमत्ता का उपयोग करते समय पुष्टिकरण पूर्वाग्रह और स्वचालन पूर्वाग्रह में पड़ने के जोखिम क्या हैं
• एक पूछताछ तकनीक के साथ कृत्रिम बुद्धिमत्ता आउटपुट का परीक्षण करने की क्षमता जो खंडन करने की कोशिश करती है (विपरीत की तलाश करें)
• यह समझने में सक्षम होना कि कृत्रिम बुद्धिमत्ता के प्रवाह का मतलब सटीकता नहीं है, कि संदेहपूर्ण दिमाग नियंत्रण का मूल है और इसे स्थानांतरित नहीं किया जा सकता है।

एक मानसिक दृष्टिकोण है जो स्वतंत्र ऑडिटिंग को कई अन्य व्यवसायों से अलग करता है: पेशेवर संदेहवाद। आईएसए इसे परिभाषित करते हैं कि ऑडिटर "एक जिज्ञासु दिमाग के साथ काम करता है, यह देखता है कि क्या साक्ष्य संभावित गलतबयानी का संकेत देता है, और साक्ष्य का गंभीर रूप से मूल्यांकन करता है।" अर्थात्, ऑडिटर उसे प्रस्तुत की गई किसी भी जानकारी को स्वचालित रूप से स्वीकार नहीं करता है - न कि प्रबंधन का बयान, न ही दस्तावेज़, न ही कोई खाता जो "उचित लगता है" - सच है। मुझे लगातार आश्चर्य होता है "क्या सचमुच ऐसा है?" वह पूछता है. यह रवैया नियंत्रण का मूल है और अविभाज्य है।

कृत्रिम बुद्धिमत्ता के युग में, यह कोर एक बिल्कुल नए परीक्षण का सामना करता है। क्योंकि एआई मानव मस्तिष्क की दो गहरी कमजोरियों को ट्रिगर करने में माहिर है - स्वचालन पूर्वाग्रह और पुष्टिकरण पूर्वाग्रह। इस इकाई में, हम देखेंगे कि एआई का उपयोग करने वाला एक ऑडिटर कैसे अपने संदेह को बनाए रख सकता है या उसे मजबूत भी कर सकता है। मुख्य थीसिस यह है कि एआई का प्रवाह सटीकता नहीं है; एआई के सामने संशयवादी दिमाग और भी महत्वपूर्ण हो जाता है।

दो खतरनाक पूर्वाग्रह

स्वचालन पूर्वाग्रह लोगों की अपने निर्णय से अधिक मशीन/सॉफ्टवेयर के आउटपुट पर भरोसा करने की प्रवृत्ति है। "कंप्यूटर ने इसकी गणना की, यह सही है।" जब एआई की बात आती है तो यह खतरा और बढ़ जाता है, क्योंकि एआई सिर्फ गणना नहीं करता है; धाराप्रवाह, आत्मविश्वासी, इंसानों जैसे, तर्कपूर्ण वाक्य बोलता है। भले ही जानकारी सटीक न हो, एक आत्मविश्वासपूर्ण लहजा प्रेरक होता है।

पुष्टिकरण पूर्वाग्रह लोगों की ऐसी जानकारी की तलाश करने की प्रवृत्ति है जो उस निष्कर्ष का समर्थन करती है जिस पर वे पहले विश्वास करते थे या जिसकी उन्होंने आशा की थी और परस्पर विरोधी जानकारी को नजरअंदाज कर देते हैं। यह ऑडिटिंग में घातक है: एक ऑडिटर जो सोचता है कि "यह ग्राहक साफ होना चाहिए" उसे राहत मिलेगी जब वह एआई से पूछेगा और पुष्टि प्राप्त करेगा, और इसके विपरीत सबूत की तलाश करना बंद कर देगा। क्योंकि एआई पूछे जाने वाले प्रश्न की ओर झुक जाता है (यदि आप पूछते हैं "यह ठीक है, ठीक है?" तो इससे ऐसा उत्तर मिलने की अधिक संभावना है जो आपसे सहमत हो), यह पुष्टिकरण पूर्वाग्रह को बढ़ावा दे सकता है।

एक तीसरा भी है: मतिभ्रम. हमने इसे मॉड्यूल में कई बार देखा - एआई धाराप्रवाह रूप से एक संख्या, आइटम, संसाधन बना सकता है जो मौजूद नहीं है। खतरा तब और बढ़ जाता है जब तीन कमजोरियां संयुक्त हो जाती हैं: एआई चीजें बनाता है (मतिभ्रम), आप इस पर विश्वास करते हैं क्योंकि यह तरल है (स्वचालन पूर्वाग्रह), आप इस पर सवाल नहीं उठाते क्योंकि यह आपको बताता है कि आप क्या उम्मीद करते हैं (पुष्टि पूर्वाग्रह)।

एआई के खिलाफ संशयवादी दिमाग के तीन उपकरण

आइए एआई के खिलाफ ठोस तकनीकों में संदेह डालें:

1. खंडन करने का प्रयास करें, पुष्टि करने का नहीं। कोई AI अपने आउटपुट से पूछ सकता है "क्या यह सच है?" नहीं "मुझे कैसे पता चलेगा कि यह गलत है?" सवाल। अपने आप से पूछें: "यदि यह कथन झूठा होता, तो कौन सा सबूत इसे दिखाता?" और उस सबूत की तलाश करो. एक भी पुष्टिकारक उदाहरण ढूंढना आसान है; खंडन करने का प्रयास करना और असफल होना वास्तविक आश्वासन देता है।
2. तटस्थ होकर और पीछे की ओर पूछें। एआई से पूछें "यहाँ कोई समस्या नहीं है, ठीक है?" मत पूछो; यह एक अनुमोदनात्मक प्रतिक्रिया आमंत्रित करता है। इसके बजाय, "इस डेटा में वे कौन से जोखिम हैं जिनसे मैं चूक गया हूँ?" और "तीन सबसे संभावित परिदृश्य कौन से हैं जिनमें यह परिणाम गलत हो सकता है?" पूछना। एक ही प्रश्न दो विपरीत पक्षों से पूछें और उत्तरों की तुलना करें।
3. स्रोत पर डाउनलोड करें और पुनरुत्पादन करें। प्रत्येक मुद्दे, एट्रिब्यूशन और निष्कर्ष के लिए, "मैं इसे स्वतंत्र रूप से कहां सत्यापित करूं?" प्रश्न पूछें और वास्तव में सत्यापित करें। एआई के आउटपुट को एक दावे के रूप में देखें; सबूत दावे से बाहर है.

युक्ति: एक आदत बनाएं: एआई द्वारा दिए गए प्रत्येक महत्वपूर्ण आउटपुट के आगे, हाथ से दो चीजें लिखें - "(1) मैंने इसे किससे सत्यापित किया, (2) यदि यह गलत होता तो कौन सा सबूत इसे दिखाता।" ये दो नोट स्वचालन और पुष्टिकरण पूर्वाग्रह दोनों को तोड़ते हैं।

ऐसे निर्णय जिन्हें लेखापरीक्षक नहीं सौंप सकता

कुछ नौकरियों में स्वाभाविक रूप से संदेह और निर्णय की आवश्यकता होती है; इन्हें AI को नहीं सौंपा जा सकता, केवल समर्थित हैं:

अहस्तांतरणीय क्षेत्राधिकार

क्यों

क्या सबूत पर्याप्त और उचित है

व्यावसायिक निर्णय; संदर्भ पर निर्भर

स्पष्टीकरण की संभाव्यता

उद्यम और इरादे पर विचार करने की आवश्यकता है

धोखाधड़ी जोखिम मूल्यांकन

संशयवाद और अंतर्ज्ञान; डेटा पैटर्न से परे

भौतिकता एवं राय निर्णय

न्यायपालिका जनता के प्रति उत्तरदायी है

प्रबंधन की ईमानदारी के बारे में राय

मानव व्यवहार पढ़ना; AI ऐसा नहीं कर सकता

संशयवाद और पांडित्य के बीच अंतर: एक मापा रवैया

व्यावसायिक संशयवाद का मतलब हर बात पर अविश्वास करना या पहले से ही प्रबंधन को दोष देना नहीं है; यह अतिरेक होगा और नियंत्रण को अप्रभावी बना देगा। संशयवाद न तो शुद्ध विश्वास है (जो कुछ भी आपको बताया गया है उसे स्वीकार करना) और न ही अंधा इनकार (हर चीज को अस्वीकार करना); इसके बीच में साक्ष्यों के अनुरूप पूछताछ का रुख है। लेखा परीक्षक प्रबंधन को ईमानदार मान सकता है, लेकिन इस स्वीकृति को साक्ष्य के साथ परखता है; स्पष्टीकरण प्रशंसनीय लग सकता है, लेकिन प्रशंसनीयता की पुष्टि करता है। एआई इस संतुलन को बिगाड़ सकता है: एक दिशा में, यह आपको अपने तरल आउटपुट के साथ अति आत्मविश्वास में डाल देता है; दूसरी ओर, यदि आप इसे "हर चीज़ में गलती ढूंढने" के लिए कहते हैं तो यह आप पर अंतहीन झूठी सकारात्मकता की बौछार कर देगा। सबूत पेश करने और सबूतों को गलत साबित करने के लिए एआई चलाते समय सही रवैया हमेशा सबूतों के वजन के मुकाबले नतीजे को तौलना है। संशयवाद कोई व्यक्तित्व लक्षण नहीं है, बल्कि काम करने का एक अनुशासित तरीका है; और यह ऑडिटर है जो इस अनुशासन को स्थापित करता है, बनाए रखता है और इसका साक्ष्य देता है, एआई नहीं।

तीन मिनी मामले

केस 1 - खंडन तकनीक काम करती है। एक ऑडिटर ने एआई को यह कहते हुए प्रिंट किया कि "यह स्टॉक मूल्यांकन उचित लगता है।" पुष्टि करने के बजाय, उन्होंने उलटे स्वर में पूछा: "यदि यह मूल्यांकन बढ़ा-चढ़ाकर बताया गया है, तो कौन सा सबूत इसे दिखाएगा?" YZ ने कहा, "ऐसी वस्तुएं जिनकी बिक्री के बाद कीमतें लागत से कम हो जाती हैं।" ऑडिटर ने इन वस्तुओं की खोज की और एक समूह पाया जिसका वास्तव में कम मूल्यांकन किया गया था। खंडन प्रश्न ने उस जोखिम को उजागर कर दिया जिसे पुष्टिकरण ने छुपाया था।

केस 2 - पुष्टिकरण पूर्वाग्रह में पड़ना। टीम के एक सदस्य ने कठिन समय के दौरान एआई से पूछा, "इस खाते में कोई बड़ी गड़बड़ी नहीं है, है ना?" उसने पूछा. YZ ने प्रश्न पर झुकते हुए कहा, "आपके द्वारा प्रदान की गई जानकारी के अनुसार, कोई महत्वपूर्ण समस्या नहीं लगती है।" टीम के सदस्य ने आराम किया और पेन को बंद कर दिया। हालाँकि, उन्होंने कोई सबूत पेश नहीं किया था; एआई ने केवल उनके वाक्य को प्रतिबिंबित किया। जिम्मेदार व्यक्ति ने दर्शाया कि प्रश्न निष्पक्षता से नहीं पूछा गया था। पाठ: आप प्रश्न कैसे पूछते हैं यह निर्धारित करता है कि आपको क्या उत्तर मिलेगा; पुष्टि चाहने वाला प्रश्न पुष्टि उत्पन्न करता है।

केस 3 - प्रवाह के प्रति आकर्षित होना। एक ऑडिटर ने सोचा कि कानून की व्याख्या जिसे YZ ने बहुत ही धाराप्रवाह और तर्कसंगत पैराग्राफ में समझाया था वह सही थी और इसे वर्किंग पेपर में शामिल कर दिया। पाठ इतना साफ-सुथरा था कि उसके मन में इस पर सवाल उठाने का विचार ही नहीं आया। जिम्मेदार व्यक्ति ने दिखाया कि संदर्भ का आधिकारिक पाठ में कोई समकक्ष नहीं था। पाठ: प्रवाह और आत्मविश्वास सटीकता का प्रमाण नहीं हैं; जो परिणाम सबसे विश्वसनीय लगता है वह सबसे खतरनाक हो सकता है।

कमजोर संकेत/मजबूत संकेत

कमजोर संकेत:

यह विश्लेषण सही है, है ना? क्या आपको मंजूर है?

समस्या: एक पक्षपातपूर्ण प्रश्न जो पुष्टि चाहता है। यह AI को आपसे जुड़ने के लिए प्रेरित करता है; यह पुष्टिकरण पूर्वाग्रह को बढ़ावा देता है और वास्तविक जोखिम को छुपाता है।

शक्तिशाली संकेत:

आपकी भूमिका: आप एक स्वतंत्र लेखा परीक्षक के महत्वपूर्ण पूछताछ भागीदार हैं। आपका काम मुझसे सहमत होना नहीं है, बल्कि मेरे आउटपुट को अस्वीकार करने का प्रयास करना है। संदर्भ: नीचे एक विश्लेषणात्मक प्रक्रिया का मेरा निष्कर्ष और मेरा अस्थायी निष्कर्ष है। ठोस, खोजने योग्य साक्ष्य सुझाएँ। 3) किसी भी डेटा या धारणा को चिह्नित करें जो मुझसे छूट गया हो। 4) ऐसे वाक्य न बनाएं जो मुझसे सहमत हों; आपको कमजोर बिंदु ढूंढने का काम सौंपा गया है। जहां आप निश्चित नहीं हैं वहां "अज्ञात" चिह्नित करें।

यह संकेत शक्तिशाली है क्योंकि यह एआई (खंडन) की भूमिका को उलट देता है, जिसके लिए खंडन परिदृश्यों और खोज योग्य साक्ष्य की आवश्यकता होती है, और पुष्टि-मांगने वाली भाषा पर रोक लगती है। यह एआई को पुष्टिकरण पूर्वाग्रह के साधन के बजाय संदेह की सेवा में रखता है।

सामान्य गलतियाँ

• अनुमोदन चाहने वाले प्रश्न पूछना। "यह ठीक है, है ना?" पूछकर और सहमत उत्तर सुनिश्चित करके।
• प्रवाह को सटीकता समझने की भूल करना। बिना किसी प्रश्न के अच्छी तरह से लिखे गए, आत्मविश्वासपूर्ण आउटपुट को स्वीकार करना।
• एक पुष्टिकारक उदाहरण से संतुष्ट रहें। इसका खंडन करने का प्रयास किए बिना, पहले सहायक निष्कर्ष के साथ समापन।
• अहस्तांतरणीय क्षेत्राधिकार प्रत्यायोजित करना। साक्ष्य पर्याप्तता, तर्कसंगतता, राय का निर्णय एआई पर छोड़ना।
• समय के दबाव में संशय को त्यागना। जब आप फंस जाएं तो एआई के आरामदायक उत्तर का आश्रय लें।

सावधानी: समय का दबाव संशयवाद का सबसे बड़ा दुश्मन है, और एआई इस दबाव में सबसे खतरनाक हो जाता है; क्योंकि यह आपको तेज़, धाराप्रवाह और आरामदायक उत्तर प्रदान करता है। जब आप जल्दी में हों तो खंडनात्मक प्रश्न अवश्य पूछें।

संक्षेप में

व्यावसायिक संशयवाद ऑडिटिंग के मूल में है और एआई के युग में और भी महत्वपूर्ण हो गया है। एआई तीन कमजोरियों को ट्रिगर करता है: मतिभ्रम (इसे बनाता है), स्वचालन पूर्वाग्रह (हम इस पर विश्वास करते हैं क्योंकि यह तरल है), पुष्टिकरण पूर्वाग्रह (हम इस पर सवाल नहीं उठाते क्योंकि यह वही कहता है जिसकी हम आशा करते हैं)। मारक उपाय एआई का खंडन करने में जल्दबाजी करना है, इसकी पुष्टि करना नहीं: "यदि यह गलत है, तो कौन सा सबूत इसे दिखाएगा?" ' और विपरीत साक्ष्य की तलाश करना, वस्तुनिष्ठ और पीछे की ओर पूछना, स्रोत से प्रत्येक आउटपुट को पुन: प्रस्तुत करना। सबूतों की पर्याप्तता, तर्कसंगतता, धोखाधड़ी का जोखिम और राय निर्णय जैसे निर्णयों पर संदेह की आवश्यकता होती है और ये हस्तांतरणीय नहीं होते हैं। प्रवाह सटीकता नहीं है; संशयवादी मन तुम्हारा है।

आवेदन कार्य

अपना ऑडिट परिणाम (या एक काल्पनिक परिणाम) प्राप्त करें। एआई से पहले "पुष्टि-चाहने वाले" कमजोर प्रश्न के साथ पूछें, फिर ऊपर दिए गए "खंडन" मजबूत संकेत पैटर्न के साथ। दोनों परिणामों को एक साथ रखें और अंतर लिखें: केवल खंडन प्रश्न से कौन से जोखिम प्रकट हुए? फिर अपने आउटपुट में प्रत्येक मुख्य दावे के आगे दो नोट जोड़ें: "मैंने क्या सत्यापित किया" और "यदि यह गलत था तो क्या सबूत दिखाएगा"।

चेकलिस्ट

• [ ] मैंने एआई खंडन/तटस्थ प्रश्न पूछे, पुष्टि चाहने वाले प्रश्न नहीं।
• [ ] प्रत्येक महत्वपूर्ण परिणाम के लिए, "यदि यह गलत है, तो कौन सा सबूत इसे दिखाएगा?" मैंने सवाल पूछा और सबूत तलाशे।
• [ ] मैंने आउटपुट का परीक्षण किया, जो अतिरिक्त संदेह के साथ सहज और आश्वस्त लग रहा था।
• [ ] मैं एक भी पुष्टिकारक उदाहरण पर नहीं रुका; मैंने इसका खंडन करने की कोशिश की लेकिन असफल रहा।'
• [ ] मैंने सबूतों की पर्याप्तता, तर्कसंगतता और राय जैसे अपने निर्णय स्वयं लिए।
• [ ] समय के दबाव में भी, मैंने खंडन प्रश्न को नहीं छोड़ा।
• [ ] महत्वपूर्ण दावों के आगे, मैंने "मैंने क्या सत्यापित किया / यदि यह गलत था तो क्या दिखाएगा" के नोट्स बनाए।