سود:
- درک اینکه شک حرفه ای چیست و خطرات قرار گرفتن در سوگیری تایید و سوگیری اتوماسیون در هنگام استفاده از هوش مصنوعی چیست
- امکان تست خروجی هوش مصنوعی با تکنیک پرسشگری که سعی در رد کردن دارد (به دنبال عکس آن باشید)
- توانایی درک اینکه روان بودن هوش مصنوعی به معنای دقت نیست، ذهن شکاک هسته کنترل است و قابل انتقال نیست.
یک نگرش ذهنی وجود دارد که حسابرسی مستقل را از بسیاری از مشاغل دیگر متمایز می کند: شک و تردید حرفه ای. استانداردهای بین المللی حسابرسی این را اینگونه تعریف می کنند که حسابرس «با ذهنی پرسشگر کار می کند، توجه می کند که آیا شواهد نشان دهنده تحریف بالقوه است یا خیر، و شواهد را به طور انتقادی ارزیابی می کند». به این معنا که حسابرس به طور خودکار هیچ اطلاعاتی را که به او ارائه میشود - نه یک بیانیه مدیریت، نه یک سند، و نه حتی حسابی که «معقول به نظر میرسد» - درست نمیپذیرد. من دائماً به این فکر می کنم که "آیا واقعا اینطور است؟" او می پرسد. این نگرش هسته اصلی کنترل و غیرقابل انکار است.
در عصر هوش مصنوعی، این هسته با یک آزمایش کاملاً جدید روبرو است. زیرا هوش مصنوعی در ایجاد دو نقطه ضعف عمیق ذهن انسان مهارت دارد - سوگیری اتوماسیون و سوگیری تایید. در این بخش، ما توضیح خواهیم داد که چگونه یک حسابرس با استفاده از هوش مصنوعی می تواند شک خود را حفظ یا حتی تقویت کند. تز اصلی این است که تسلط هوش مصنوعی دقت نیست. ذهن شکاک در مواجهه با هوش مصنوعی اهمیت بیشتری پیدا می کند.
دو سوگیری خطرناک
تعصب اتوماسیون تمایل افراد به اعتماد به خروجی یک ماشین/نرم افزار بیش از قضاوت خود است. "کامپیوتر آن را محاسبه کرد، درست است." این خطر در مورد هوش مصنوعی بزرگتر می شود، زیرا هوش مصنوعی فقط محاسبه نمی کند. جملاتی روان، با اعتماد به نفس، انسان گونه و مستدل صحبت می کند. لحن مطمئن حتی اگر اطلاعات دقیق نباشد متقاعد کننده است.
سوگیری تأیید، تمایل افراد به جستجوی اطلاعاتی است که از نتیجهای که قبلاً به آن اعتقاد داشتند یا امیدوار بودند، پشتیبانی میکند و اطلاعات متناقض را نادیده میگیرند. این در حسابرسی کشنده است: حسابرسی که فکر می کند "این مشتری باید تمیز باشد" وقتی از هوش مصنوعی می پرسد و تایید می کند آسوده می شود و دیگر به دنبال شواهدی بر خلاف آن نیست. از آنجایی که هوش مصنوعی تمایل دارد به سؤالی که پرسیده می شود متمایل شود (اگر بپرسید "اشکال ندارد، درست است؟" به احتمال زیاد پاسخی مطابق با شما ایجاد می کند)، می تواند سوگیری تایید را تقویت کند.
سومی هم وجود دارد: توهم. ما آن را بارها در ماژول دیدیم - هوش مصنوعی میتواند به راحتی یک عدد، آیتم، منبعی را که وجود ندارد تشکیل دهد. این خطر زمانی تشدید میشود که سه نقطه ضعف با هم ترکیب شوند: هوش مصنوعی همه چیز را ایجاد میکند (توهم)، شما آن را باور میکنید زیرا روان است (سوگیری اتوماسیون)، شما آن را زیر سوال نمیبرید زیرا به شما میگوید چه انتظاری دارید (سوگیری تایید).
سه ابزار ذهن شکاک در برابر هوش مصنوعی
بیایید شک و تردید را در تکنیک های مشخص علیه هوش مصنوعی قرار دهیم:
- سعی کنید رد کنید نه تایید. یک هوش مصنوعی ممکن است از خروجی خود بپرسد "آیا درست است؟" نه "چگونه بفهمم این اشتباه است؟" سوال از خود بپرسید: "اگر این گفته نادرست بود، چه مدرکی آن را نشان می داد؟" و به دنبال آن شواهد باشید. یافتن یک نمونه تایید کننده واحد آسان است. تلاش برای رد کردن و شکست خوردن اطمینان واقعی می دهد.
- خنثی و معکوس بپرسید. از هوش مصنوعی بپرسید "اینجا مشکلی نیست، درست است؟" نپرس؛ این یک پاسخ تایید کننده را دعوت می کند. در عوض، "خطراتی که ممکن است در این داده ها از دست داده باشم چیست؟" و "سه سناریوی محتمل که در آن این نتیجه ممکن است اشتباه باشد کدامند؟" بپرسید همین سوال را از دو طرف مقابل بپرسید و پاسخ ها را با هم مقایسه کنید.
- دانلود به منبع و تکثیر. برای هر موضوع، انتساب و نتیجهگیری، «از کجا به طور مستقل این را تأیید کنم؟» سوال را بپرسید و در واقع تایید کنید. خروجی AI را به عنوان یک ادعا مشاهده کنید. شواهد خارج از ادعا است.
نکته: عادت کنید: در کنار هر خروجی قابل توجهی که هوش مصنوعی میدهد، دو چیز را با دست بنویسید: «1) با چه چیزی تأیید کردم، (2) اگر نادرست بود، چه شواهدی این را نشان میداد». این دو یادداشت هم سوگیری اتوماسیون و هم سوگیری تایید را می شکند.
قضاوت هایی که حسابرس نمی تواند آنها را تفویض کند
برخی از مشاغل ذاتاً نیاز به شک و قضاوت دارند. اینها را نمی توان به هوش مصنوعی واگذار کرد، فقط پشتیبانی می شود:
صلاحیت سلب ناپذیر
چرا
اینکه آیا شواهد کافی و مناسب هستند
قضاوت حرفه ای؛ وابسته به زمینه
معقول بودن یک توضیح
مستلزم در نظر گرفتن سرمایه گذاری و قصد است
ارزیابی ریسک تقلب
شک و شهود؛ فراتر از الگوی داده
اهمیت و تصمیم گیری نظر
قوه قضائیه در قبال مردم مسئول است
نظر در مورد صداقت مدیریت
خواندن رفتار انسان؛ هوش مصنوعی نمی تواند این کار را انجام دهد
تفاوت بین شکاکیت و فضولی: یک نگرش سنجیده
بدبینی حرفه ای به معنای ناباوری همه چیز یا سرزنش پیشاپیش مدیریت نیست. این امر بیش از حد است و کنترل را بی اثر می کند. شک و تردید نه اعتماد خالص است (پذیرفتن هر چیزی که به شما گفته می شود) و نه انکار کورکورانه (رد کردن همه چیز). در این بین، این یک نگرش تحقیقی متناسب با شواهد است. حسابرس ممکن است مدیریت را صادقانه بپذیرد، اما این پذیرش را با شواهد آزمایش می کند. ممکن است توضیحی را قابل قبول بداند، اما قابل قبول بودن را تایید می کند. هوش مصنوعی میتواند این تعادل را به هم بزند: از یک جهت، شما را با خروجی سیال خود به اعتماد به نفس بیش از حد سوق میدهد. از سوی دیگر، اگر به او بگویید "در همه چیز عیب جویی کنید" شما را با نتایج نادرست بی پایان بمباران می کند. نگرش صحیح این است که همیشه نتیجه را با وزن شواهد سنجید، در حالی که هوش مصنوعی را برای تولید شواهد و رد شواهد اجرا می کنید. شک و تردید یک ویژگی شخصیتی نیست، بلکه یک روش منضبط کار است. و این حسابرس است که این رشته را ایجاد، حفظ و اثبات می کند، نه هوش مصنوعی.
سه کیف کوچک
مورد 1 - تکنیک ابطال کار می کند. یک حسابرس هوش مصنوعی را چاپ کرد و گفت: "این ارزش گذاری سهام معقول به نظر می رسد." او به جای تایید، با تعجب پرسید: "اگر این ارزش گذاری اغراق آمیز باشد، چه شواهدی آن را نشان می دهد؟" YZ گفت: "اقلامی که قیمت های پس از فروش آنها کمتر از قیمت تمام شده است." حسابرس این موارد را جستجو کرد و گروهی را یافت که در واقع کمتر از ارزش گذاری شده بودند. سؤال رد، خطری را که تأیید پنهان می کرد، آشکار کرد.
مورد 2 - قرار گرفتن در سوگیری تایید. یکی از اعضای تیم در یک زمان بحرانی از هوش مصنوعی پرسید: "این حساب مشکلی ندارد، درست است؟" او پرسید. YZ روی سوال تکیه کرد و گفت: "طبق اطلاعاتی که شما ارائه کردید، به نظر مشکل خاصی وجود ندارد." عضو تیم آرام شد و سر قلم را بست. با این حال، او هیچ مدرکی ارائه نکرده بود. هوش مصنوعی فقط جمله او را منعکس می کرد. شخص مسئول نشان داد که سوال بی طرفانه پرسیده نشده است. درس: نحوه پرسیدن سوال تعیین کننده پاسخ شماست. سؤالی که به دنبال تأیید است، تأیید تولید می کند.
مورد 3 - گرفتار شدن در تسلط. یک حسابرس فکر کرد که تفسیری از قوانین که YZ در یک پاراگراف بسیار روان و مستدل توضیح داده است صحیح است و آن را در کارنامه گنجانده است. متن آنقدر مرتب بود که به ذهنش خطور نمی کرد که آن را زیر سوال ببرد. شخص مسئول نشان داد که مرجع هیچ معادلی در متن رسمی ندارد. درس: تسلط و اعتماد به نفس دلیلی بر صحت نیست. نتیجه ای که قانع کننده ترین به نظر می رسد ممکن است خطرناک ترین باشد.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
این تحلیل درست است، درست است؟ آیا شما تایید می کنید؟
مشکل: یک سوال مغرضانه که به دنبال تایید است. این هوش مصنوعی را وادار می کند تا به شما ملحق شود. سوگیری تایید را تقویت می کند و خطر واقعی را پنهان می کند.
اعلان قدرتمند:
نقش شما: شما یک شریک تحقیق انتقادی حسابرس مستقل هستید. وظیفه شما موافقت با من نیست، بلکه تلاش برای امتناع از خروجی من است. زمینه: در زیر نتیجه گیری من از یک روش تحلیلی و نتیجه گیری آزمایشی من است.[متن نتیجه]تکلیف:1) 3 حالت محتمل را که در آنها این نتیجه گیری ممکن است نادرست باشد را فهرست کنید.2) برای هر سناریو: "اگر این درست بود، چه شواهدی نشان می داد؟" شواهد ملموس و قابل جستجو را پیشنهاد دهید. 3) هر داده یا فرضی را که ممکن است از دست داده باشم علامت گذاری کنید. 4) جملاتی را که با من موافق است نسازید. شما وظیفه پیدا کردن نقاط ضعف را دارید. جایی که مطمئن نیستید علامت «ناشناخته» بزنید.
این اعلان قدرتمند است زیرا نقش هوش مصنوعی (ابطال) را معکوس می کند، به سناریوهای ابطال و شواهد قابل جستجو نیاز دارد و زبان تایید را ممنوع می کند. این امر هوش مصنوعی را در خدمت شک و تردید قرار می دهد تا ابزاری برای سوگیری تایید.
اشتباهات رایج
- سوال پرسیدن به دنبال تایید "اشکالی نداره، درسته؟" با پرسیدن و اطمینان از پاسخ توافق شده.
- اشتباه گرفتن تسلط با دقت پذیرش خروجی خوب نوشته شده و مطمئن بدون سوال.
- به یک مثال تاییدی اکتفا کنید. بسته شدن با اولین یافته حمایتی، بدون تلاش برای رد آن.
- تفویض صلاحیت سلب ناپذیر. تصمیم گیری در مورد کفایت، معقول بودن، نظر را به هوش مصنوعی واگذار می کنیم.
- رها کردن شک و تردید تحت فشار زمان. پناه بردن به پاسخ آرامش بخش هوش مصنوعی زمانی که گیر کرده اید.
احتیاط: فشار زمان بزرگترین دشمن شک و تردید است و هوش مصنوعی تحت این فشار خطرناک ترین می شود. زیرا پاسخی سریع، روان و راحت به شما ارائه می دهد. وقتی عجله دارید پرسیدن سوال رد را الزامی کنید.
به طور خلاصه
شک و تردید حرفه ای در هسته حسابرسی قرار دارد و در عصر هوش مصنوعی حیاتی تر می شود. هوش مصنوعی سه نقطه ضعف را ایجاد میکند: توهم (آن را میسازد)، سوگیری اتوماسیون (ما آن را به دلیل روان بودن آن باور داریم)، سوگیری تأیید (ما آن را زیر سوال نمیبریم زیرا آنچه را که ما به آن امیدواریم میگوید). پادزهر این است که برای رد هوش مصنوعی عجله کنیم، نه تایید آن: "اگر این نادرست است، چه مدرکی آن را نشان می دهد؟" و به دنبال شواهد مخالف، درخواست عینی و معکوس، بازتولید هر خروجی از منبع. قضاوت هایی مانند کافی بودن شواهد، معقول بودن، خطر تقلب، و قضاوت نظری نیاز به شک و تردید دارند و قابل انتقال نیستند. روانی دقت نیست. ذهن شکاک مال شماست.
وظیفه کاربردی
نتیجه حسابرسی خود (یا یک نتیجه فرضی) را دریافت کنید. ابتدا با یک سوال ضعیف "تأیید به دنبال" و سپس با الگوی سریع قوی "ابطال" در بالا از هوش مصنوعی بپرسید. دو نتیجه را در کنار هم قرار دهید و تفاوت را بنویسید: کدام خطرات فقط با سوال رد کردن آشکار شدند؟ سپس دو یادداشت در کنار هر ادعای کلیدی در خروجی خود اضافه کنید: «با چه چیزی تأیید کردم» و «اگر نادرست بود چه شواهدی نشان میداد».
چک لیست
- [ ] من سؤالات ابطال/خنثی هوش مصنوعی پرسیدم، نه سؤالات تأییدیه.
- [ ] برای هر پیامد مهم، "اگر این نادرست است، چه شواهدی آن را نشان می دهد؟" من سوال را پرسیدم و دنبال شواهد گشتم.
- [ ] من خروجی را که صاف و مطمئن به نظر می رسید، با شک و تردید بیشتری آزمایش کردم.
- [ ] من به یک مثال تاییدی اکتفا نکردم. سعی کردم ردش کنم اما نشد.
- [ ] من قضاوت های خود را مانند شواهد کافی، معقول بودن و نظر انجام دادم.
- [ ] حتی تحت فشار زمان، من از سوال رد رد نشدم.
- [ ] در کنار ادعاهای مهم، یادداشت هایی از "آنچه با آن راستی آزمایی کردم / چه چیزی نشان می داد اگر اشتباه بود" را یادداشت کردم.