व्यावसायिक संशयवाद आणि कृत्रिम बुद्धिमत्ता: पुष्टीकरण पूर्वाग्रह, भ्रम, आणि गंभीर चौकशी

नफा:

• कृत्रिम बुद्धिमत्ता वापरताना व्यावसायिक साशंकता काय आहे आणि पुष्टीकरण पूर्वाग्रह आणि ऑटोमेशन पूर्वाग्रहात पडण्याचे धोके समजून घ्या
• कृत्रिम बुद्धिमत्ता आउटपुटची चाचणी घेण्याची क्षमता एका प्रश्न तंत्राने जे खंडन करण्याचा प्रयत्न करते (विरुद्ध पहा)
• कृत्रिम बुद्धिमत्तेच्या प्रवाहाचा अर्थ अचूकता नाही, संशयवादी मन हे नियंत्रणाचे केंद्र आहे आणि ते हस्तांतरित केले जाऊ शकत नाही हे समजण्यास सक्षम असणे.

एक मानसिक वृत्ती आहे जी स्वतंत्र ऑडिटिंगला इतर अनेक व्यवसायांपेक्षा वेगळे करते: व्यावसायिक संशयवाद. ISAs हे लेखापरीक्षक म्हणून "चौकशीच्या मनाने, पुरावे संभाव्य चुकीचे विधान सूचित करतात की नाही हे लक्षात घेऊन, आणि पुराव्याचे गंभीरपणे मूल्यमापन करणारे" अशी व्याख्या करतात. म्हणजेच, ऑडिटर त्याला सादर केलेली कोणतीही माहिती आपोआप स्वीकारत नाही - व्यवस्थापन विधान नाही, दस्तऐवज नाही, अगदी "वाजवी वाटणारे" खाते देखील नाही - सत्य म्हणून. मला सतत प्रश्न पडतो "खरंच असं आहे का?" तो विचारतो. ही वृत्ती नियंत्रणाचा गाभा आहे आणि अविभाज्य आहे.

कृत्रिम बुद्धिमत्तेच्या युगात, या कोरला अगदी नवीन चाचणीचा सामना करावा लागतो. कारण AI मानवी मनाच्या दोन खोल-बसलेल्या कमकुवतपणाला चालना देण्यात पटाईत आहे - ऑटोमेशन बायस आणि कन्फर्मेशन बायस. या युनिटमध्ये, एआय वापरणारा ऑडिटर त्याचा संशय कसा टिकवून ठेवू शकतो किंवा आणखी मजबूत करू शकतो हे आम्ही पाहू. मुख्य प्रबंध असा आहे की AI ची प्रवाही अचूकता नाही; AI च्या समोर संशयवादी मन आणखी महत्वाचे बनते.

दोन धोकादायक पूर्वाग्रह

ऑटोमेशन बायस ही लोकांची स्वतःच्या निर्णयापेक्षा मशीन/सॉफ्टवेअरच्या आउटपुटवर विश्वास ठेवण्याची प्रवृत्ती आहे. "संगणकाने मोजले, ते बरोबर आहे." जेव्हा एआयचा विचार केला जातो तेव्हा हा धोका वाढतो, कारण एआय फक्त गणना करत नाही; अस्खलित, आत्मविश्वासपूर्ण, मानवासारखी, तर्कसंगत वाक्ये बोलतात. माहिती अचूक नसली तरीही आत्मविश्वासपूर्ण टोन प्रेरक असतो.

पुष्टीकरण पूर्वाग्रह ही लोकांची माहिती शोधण्याची प्रवृत्ती आहे जी त्यांनी पूर्वी विश्वास ठेवलेल्या किंवा ज्याची अपेक्षा केली होती त्या निष्कर्षाचे समर्थन करते आणि परस्परविरोधी माहितीकडे दुर्लक्ष करते. ऑडिटिंगमध्ये हे घातक आहे: "हा क्लायंट स्वच्छ असणे आवश्यक आहे" असा विचार करणारा ऑडिटर जेव्हा एआयला विचारतो आणि त्याला पुष्टी मिळते तेव्हा आराम मिळेल आणि उलट पुरावे शोधणे थांबवेल. कारण AI विचारल्या जाणाऱ्या प्रश्नाकडे झुकते (जर तुम्ही “हे ठीक आहे, बरोबर?” असे विचारले तर ते तुमच्याशी सहमत असलेले उत्तर देण्याची अधिक शक्यता असते), ते पुष्टीकरण पूर्वाग्रह वाढवू शकते.

तिसरा देखील आहे: भ्रम. आम्ही मॉड्यूलमध्ये ते अनेक वेळा पाहिले — AI अस्खलितपणे अस्तित्वात नसलेली संख्या, आयटम, संसाधन बनवू शकते. जेव्हा तीन कमकुवतता एकत्र केल्या जातात तेव्हा धोका वाढतो: AI गोष्टी बनवते (भ्रम), तुमचा विश्वास आहे कारण ते द्रव आहे (ऑटोमेशन बायस), तुम्ही त्यावर प्रश्न विचारत नाही कारण ते तुम्हाला काय अपेक्षित आहे ते सांगते (पुष्टीकरण पूर्वाग्रह).

संशयवादी मनाची एआय विरुद्धची तीन साधने

एआय विरूद्ध ठोस तंत्रांमध्ये संशय ठेवूया:

1. खंडन करण्याचा प्रयत्न करा, पुष्टी करू नका. एआय त्याचे आउटपुट विचारू शकते "हे खरे आहे का?" नाही "हे चुकीचे आहे हे मला कसे कळेल?" प्रश्न स्वतःला विचारा: "जर हे विधान खोटे असेल तर ते कोणते पुरावे दाखवतील?" आणि ते पुरावे शोधा. एकच पुष्टी करणारे उदाहरण शोधणे सोपे आहे; खंडन करण्याचा प्रयत्न करणे आणि अयशस्वी होणे हे खरे आश्वासन देते.
2. तटस्थपणे आणि मागे विचारा. एआयला विचारा "येथे काही अडचण नाही, बरोबर?" विचारू नका; हे एक मंजूर प्रतिसाद आमंत्रित करते. त्याऐवजी, "या डेटामध्ये मी कोणते धोके गमावले असतील?" आणि "तीन संभाव्य परिस्थिती कोणती आहेत ज्यात हा निकाल चुकीचा असू शकतो?" विचारा समान प्रश्न दोन विरुद्ध बाजूंनी विचारा आणि उत्तरांची तुलना करा.
3. स्त्रोतावर डाउनलोड करा आणि पुनरुत्पादन करा. प्रत्येक समस्या, विशेषता आणि निष्कर्षासाठी, "मी हे स्वतंत्रपणे कोठे सत्यापित करू?" प्रश्न विचारा आणि प्रत्यक्षात सत्यापित करा. प्रतिपादन म्हणून AI चे आउटपुट पहा; पुरावा दाव्यासाठी बाह्य आहे.

टीप: सवय लावा: AI देत असलेल्या प्रत्येक महत्त्वाच्या आउटपुटच्या पुढे, दोन गोष्टी हाताने लिहा — “(1) मी हे कशाने सत्यापित केले, (2) हे खोटे असेल तर ते कोणते पुरावे दाखवेल.” या दोन नोट्स ऑटोमेशन आणि पुष्टीकरण पूर्वाग्रह दोन्ही खंडित करतात.

लेखापरीक्षक नियुक्त करू शकत नाही असे निर्णय

काही नोकऱ्यांमध्ये स्वाभाविकपणे संशय आणि निर्णय आवश्यक असतो; हे AI ला दिले जाऊ शकत नाही, फक्त समर्थित:

अपरिहार्य अधिकार क्षेत्र

का

पुरावे पुरेसे आणि योग्य आहेत की नाही

व्यावसायिक निर्णय; संदर्भ अवलंबून

स्पष्टीकरणाची तर्कसंगतता

एंटरप्राइझ आणि हेतूचा विचार करणे आवश्यक आहे

फसवणूक जोखीम मूल्यांकन

संशय आणि अंतर्ज्ञान; डेटा पॅटर्नच्या पलीकडे

भौतिकता आणि मत निर्णय

जनतेला जबाबदार न्यायव्यवस्था

व्यवस्थापनाच्या प्रामाणिकपणाबद्दल मत

मानवी वर्तन वाचणे; AI हे करू शकत नाही

संशयवाद आणि पेडंट्रीमधील फरक: मोजलेली वृत्ती

व्यावसायिक साशंकता म्हणजे प्रत्येक गोष्टीवर अविश्वास करणे किंवा व्यवस्थापनाला आगाऊ दोष देणे असा होत नाही; हे एक ओव्हररीच असेल आणि नियंत्रण अप्रभावी करेल. संशयवाद म्हणजे शुद्ध विश्वास (तुम्हाला सांगितलेल्या प्रत्येक गोष्टीचा स्वीकार करणे) किंवा आंधळा नकार (सर्व काही नाकारणे) नाही; दरम्यान, पुराव्यांशी सुसंगत चौकशी करण्याची ही वृत्ती आहे. ऑडिटर व्यवस्थापनाला प्रामाणिक मानू शकतो, परंतु पुराव्यासह या स्वीकृतीची चाचणी घेतो; स्पष्टीकरण प्रशंसनीय वाटू शकते, परंतु प्रशंसनीयतेची पुष्टी करते. AI हा समतोल बिघडू शकतो: एका दिशेने, ते त्याच्या द्रव उत्पादनामुळे तुमचा अतिआत्मविश्वास वाढवते; दुसरीकडे, जर तुम्ही त्याला "प्रत्येक गोष्टीत दोष शोधा" असे सांगितले तर ते तुमच्यावर अंतहीन खोट्या सकारात्मक गोष्टींचा भडिमार करेल. पुरावे सादर करण्यासाठी आणि पुरावे खोटे ठरवण्यासाठी एआय चालवताना नेहमी पुराव्याच्या वजनाविरुद्ध निकालाचे वजन करणे ही योग्य वृत्ती आहे. संशयवाद हा व्यक्तिमत्वाचा गुणधर्म नसून काम करण्याची एक शिस्तबद्ध पद्धत आहे; आणि ही शिस्त प्रस्थापित, देखरेख आणि पुरावे देणारा ऑडिटर आहे, AI नाही.

तीन लहान प्रकरणे

केस 1 - खंडन तंत्र कार्य करते. एका ऑडिटरने AI छापून सांगितले की "हे स्टॉक मूल्यांकन वाजवी दिसते." पुष्टी करण्याऐवजी, त्याने उलटसुलटपणे विचारले: "जर हे मूल्यांकन अतिरंजित असेल तर ते कोणते पुरावे दर्शवेल?" "ज्या वस्तूंच्या विक्रीनंतरच्या किमती किमतीच्या खाली येतात," YZ म्हणाले. ऑडिटरने या वस्तूंचा शोध घेतला आणि त्यांना एक गट सापडला ज्याचे मूल्य कमी झाले. खंडन प्रश्नाने पुष्टीकरण लपविलेल्या धोक्याचा पर्दाफाश केला.

केस 2 - पुष्टीकरण पूर्वाग्रह मध्ये पडणे. एका टीम सदस्याने AI ला विचारले, "या खात्यात काही मोठी चूक नाही, बरोबर?" त्याने विचारले. YZ प्रश्नाकडे झुकले आणि म्हणाले, "तुम्ही दिलेल्या माहितीनुसार, काही महत्त्वाची समस्या असेल असे वाटत नाही." टीम मेंबरने आराम केला आणि पेन कॅप केला. मात्र, त्यांनी कोणताही पुरावा सादर केला नव्हता; एआयने केवळ त्याचे वाक्य प्रतिबिंबित केले. निःपक्षपातीपणे प्रश्न विचारला नसल्याचे जबाबदार व्यक्तीने दाखवून दिले. धडा: तुम्ही प्रश्न कसा विचारता ते तुम्हाला मिळणारे उत्तर ठरवते; पुष्टीकरण शोधणारा प्रश्न पुष्टीकरण निर्माण करतो.

केस 3 - प्रवाहीपणासाठी पडणे. एका लेखापरीक्षकाला वाटले की वायझेडने अतिशय अस्खलित आणि तर्कशुद्ध परिच्छेदात स्पष्ट केलेले कायद्याचे स्पष्टीकरण योग्य आहे आणि ते कामकाजाच्या पेपरमध्ये समाविष्ट केले आहे. मजकूर इतका सुबक होता की त्यावर प्रश्न करायचा विचार त्याच्या मनात आला नाही. जबाबदार व्यक्तीने दाखवले की अधिकृत मजकुरात संदर्भ समतुल्य नाही. धडा: प्रवाह आणि आत्मविश्वास हे अचूकतेचे पुरावे नाहीत; सर्वात खात्रीशीर वाटणारा परिणाम सर्वात धोकादायक असू शकतो.

कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट

कमकुवत प्रॉम्प्ट:

हे विश्लेषण बरोबर आहे ना? तुम्हाला मान्यता आहे का?

समस्या: एक पक्षपाती प्रश्न जो पुष्टीकरण शोधतो. ते AI ला तुमच्यात सामील होण्यासाठी ढकलते; हे पुष्टीकरण पूर्वाग्रह वाढवते आणि खरा धोका लपवते.

शक्तिशाली सूचना:

तुमची भूमिका: तुम्ही स्वतंत्र ऑडिटरचे गंभीर चौकशी भागीदार आहात. तुमचे कार्य माझ्याशी सहमत होणे नाही तर माझे आउटपुट नाकारण्याचा प्रयत्न करणे हे आहे. संदर्भ: खाली विश्लेषणात्मक प्रक्रियेचा माझा निष्कर्ष आणि माझा तात्पुरता निष्कर्ष आहे.[परिणाम मजकूर]कार्य:1) 3 संभाव्य परिस्थितींची यादी करा ज्यामध्ये हा निष्कर्ष चुकीचा असू शकतो. 2) प्रत्येक परिस्थितीसाठी हे खरे असेल तर पुरावा काय असेल: "काय दाखवेल?" ठोस, शोधण्यायोग्य पुरावे सुचवा. 3) माझ्याकडून चुकलेला कोणताही डेटा किंवा गृहितक चिन्हांकित करा. 4) माझ्याशी सहमत असलेली वाक्ये बनवू नका; तुम्हाला कमकुवत गुण शोधण्याचे काम दिले आहे. जिथे तुम्हाला खात्री नाही तिथे "अज्ञात" चिन्हांकित करा.

हे प्रॉम्प्ट शक्तिशाली आहे कारण ते AI (खंडन) ची भूमिका उलट करते, खंडन परिस्थिती आणि शोधण्यायोग्य पुरावे आवश्यक असतात आणि पुष्टीकरण-शोधणारी भाषा प्रतिबंधित करते. हे पुष्टीकरण पूर्वाग्रहाच्या साधनापेक्षा AI ला संशयाच्या सेवेत ठेवते.

सामान्य चुका

• मान्यतेसाठी प्रश्न विचारत आहे. "ठीक आहे ना?" विचारून आणि सहमत उत्तराची खात्री करून.
• अचूकतेसाठी चुकीचा प्रवाह. प्रश्न न करता चांगले लिखित, आत्मविश्वासपूर्ण आउटपुट स्वीकारणे.
• एकल पुष्टीकरण उदाहरणासह समाधानी रहा. त्याचे खंडन करण्याचा प्रयत्न न करता, प्रथम समर्थन शोधांसह बंद करणे.
• अपरिहार्य अधिकार क्षेत्र सोपविणे. पुराव्याची पुरेशीता, वाजवीपणा, मताचा निर्णय AI वर सोडणे.
• वेळेच्या दबावाखाली संशय सोडणे. तुम्ही अडकलेले असताना AI च्या दिलासादायक उत्तराचा आश्रय घ्या.

खबरदारी: वेळेचा दबाव हा संशयाचा सर्वात मोठा शत्रू आहे आणि या दबावाखाली AI सर्वात धोकादायक बनते; कारण ते तुम्हाला जलद, अस्खलित आणि दिलासा देणारे उत्तर देते. तुम्ही गर्दीत असता तेव्हा खंडन प्रश्न विचारणे अनिवार्य करा.

सारांशात

व्यावसायिक साशंकता ऑडिटिंगच्या केंद्रस्थानी आहे आणि AI च्या युगात ते अधिक गंभीर बनते. AI तीन कमकुवतपणाला चालना देते: भ्रम (ते बनवते), ऑटोमेशन बायस (आम्ही त्यावर विश्वास ठेवतो कारण ते द्रव आहे), पुष्टीकरण पूर्वाग्रह (आम्ही यावर प्रश्न विचारत नाही कारण ते सांगते की आम्हाला काय आशा आहे). उतारा म्हणजे एआयला खोटे ठरवण्यासाठी घाई करणे, त्याची पुष्टी न करणे: "जर हे खोटे असेल तर ते कोणते पुरावे दाखवतील?" ' आणि विरुद्ध पुरावा शोधत, वस्तुनिष्ठपणे आणि मागे विचारून, स्त्रोताकडून प्रत्येक आउटपुटचे पुनरुत्पादन करा. पुराव्याची पुरेशीता, वाजवीपणा, फसवणूक होण्याचा धोका आणि मताचा निर्णय यासारख्या निर्णयांना संशयाची आवश्यकता असते आणि ते हस्तांतरणीय नसतात. ओघ म्हणजे अचूकता नाही; संशयी मन तुझें ।

अर्ज कार्य

तुमचा ऑडिट परिणाम (किंवा काल्पनिक परिणाम) मिळवा. AI ला प्रथम "पुष्टीकरण-शोधणारा" कमकुवत प्रश्न विचारा, नंतर वरील "खंडन" मजबूत प्रॉम्प्ट पॅटर्नसह. दोन्ही निकाल शेजारी ठेवा आणि फरक लिहा: फक्त खंडन प्रश्नाने कोणते धोके उघड झाले? नंतर तुमच्या आउटपुटमध्ये प्रत्येक मुख्य दाव्याच्या पुढे दोन नोट्स जोडा: "मी कशासह सत्यापित केले" आणि "खोटे असल्यास कोणते पुरावे दाखवतील".

चेकलिस्ट

• [] मी AI खंडन/तटस्थ प्रश्न विचारले, पुष्टीकरण-शोधणारे प्रश्न नाहीत.
• [] प्रत्येक महत्त्वपूर्ण परिणामासाठी, "जर हे खोटे असेल, तर ते कोणते पुरावे दाखवतील?" मी प्रश्न विचारला आणि पुरावे शोधले.
• [ ] मी आउटपुटची चाचणी केली, जे गुळगुळीत आणि आत्मविश्वासपूर्ण वाटले, अतिरिक्त संशयासह.
• [ ] मी एकच पुष्टी करणारे उदाहरण देऊन थांबलो नाही; मी त्याचे खंडन करण्याचा प्रयत्न केला पण अयशस्वी झालो.
• [ ] मी माझे स्वतःचे निर्णय घेतले जसे की पुराव्याची पुरेशीता, वाजवीपणा आणि मत.
• वेळेच्या दबावाखालीही मी खंडन प्रश्न सोडला नाही.
• [ ] महत्त्वाच्या दाव्यांच्या पुढे, मी "मी काय सत्यापित केले / ते चुकीचे असल्यास काय दर्शवेल" च्या नोट्स बनवल्या.