Табыстар:
- Кәсіби скептицизмнің не екенін және жасанды интеллектті пайдалану кезінде растау және автоматтандыруға бейімділікке түсу қаупін түсініңіз.
- Жасанды интеллект нәтижелерін жоққа шығаруға тырысатын сұрақ қою әдісімен сынау мүмкіндігі (қарсы іздеңіз)
- Жасанды интеллекттің еркін сөйлеуі дәлдікті білдірмейтінін, скептикалық ақыл басқарудың өзегі екенін және оны тасымалдауға болмайтынын түсіне білу.
Тәуелсіз аудитті көптеген басқа кәсіптерден ерекшелендіретін бір психикалық көзқарас бар: кәсіби скептицизм. АХС мұны «дәлелдемелер ықтимал бұрмалауларды көрсететін-көрсетпейтінін байқайтын және дәлелдемелерді сыни тұрғыдан бағалайтын» жұмыс істейтін аудитор ретінде анықтайды. Яғни, аудитор өзіне ұсынылған кез келген ақпаратты – басшылық мәлімдемені де, құжатты да, тіпті «ақылға қонымды» болып көрінетін есептерді де автоматты түрде қабылдамайды. Мен үнемі «шынымен солай ма?» деп ойлаймын. деп сұрайды ол. Бұл көзқарас бақылаудың өзегі болып табылады және ажырағысыз.
Жасанды интеллект дәуірінде бұл ядро жаңа сынаққа тап болады. Өйткені AI адам ақыл-ойының екі терең әлсіз тұсын - автоматтандырудың бұрмалануын және растау бағытын қоздыруға шебер. Бұл бөлімде біз AI пайдаланатын аудитор өзінің күмәнділігін қалай сақтай алатынын немесе тіпті күшейте алатынын қарастырамыз. Негізгі тезис АИ-нің еркін сөйлеуі дәлдік емес; AI алдында күмәнданатын ақыл одан да маңыздырақ болады.
Екі қауіпті көзқарас
Автоматтандыруға бейімділік - бұл адамдардың өз пікірінен гөрі машинаның/бағдарламалық құралдың шығысына сену үрдісі. «Компьютер есептеді, ол дұрыс». Бұл қауіп AI-ға келгенде ұлғаяды, өйткені AI жай ғана есептемейді; Еркін, сенімді, адам тәрізді, дәлелді сөйлемдер айтады. Ақпарат дәл болмаса да сенімді реңк сендіреді.
Растау бұрмалануы - адамдардың бұрын сенген немесе үміттенген тұжырымын растайтын ақпаратты іздеуге және қарама-қайшы ақпаратты елемеуге бейімділік. Бұл аудитте өлімге әкеледі: «Бұл клиент таза болуы керек» деп ойлайтын аудитор AI сұрағанда және растау алған кезде жеңілдейді және керісінше дәлел іздеуді тоқтатады. Жасанды интеллект қойылған сұраққа бейім болғандықтан (егер сіз «жақсы, солай ма?» Деп сұрасаңыз, ол сізбен келісетін жауап беруі ықтимал), ол растаудың біржақтылығын тудыруы мүмкін.
Үшіншісі де бар: галлюцинация. Біз оны модульде бірнеше рет көрдік — AI жоқ санды, элементті, ресурсты еркін құра алады. Үш әлсіздік біріктірілгенде қауіп күшейе түседі: AI заттарды жасайды (галлюцинация), сіз оған сенесіз, өйткені ол сұйық (автоматтандырудың біржақтылығы), сіз оған күмәнданбайсыз, өйткені ол сізге не күткеніңізді айтады (растау қиғаштығы).
Скептикалық ақыл-ойдың AI-ға қарсы үш құралы
Жасанды интеллектке қарсы нақты әдістерге күмәнмен қарайық:
- Растау емес, теріске шығаруға тырысыңыз. AI өз нәтижесінен «бұл рас па?» Деп сұрауы мүмкін. емес "бұл дұрыс емес пе, мен қайдан білемін?" сұрақ. Өзіңізден сұраңыз: «Егер бұл мәлімдеме жалған болса, оны қандай дәлелдеуге болады?» және сол дәлелдерді іздеңіз. Бір растайтын мысалды табу оңай; Теріске тырысу және сәтсіздікке жету шынайы сенімділік береді.
- Бейтарап және кері сұрау. AI-дан «мұнда проблема жоқ, солай ма?» деп сұраңыз. Сұрамаңыз; бұл мақұлдайтын жауапты шақырады. Оның орнына, «бұл деректерде мен жіберіп алған тәуекелдер қандай болуы мүмкін?» және «бұл нәтиже қате болуы мүмкін ең ықтимал үш сценарий қандай?» сұраңыз. Бірдей сұрақты қарама-қарсы екі жақтан қойып, жауаптарын салыстырыңыз.
- Дереккөзге жүктеп алыңыз және қайта жасаңыз. Әрбір шығарылым, атрибуция және қорытынды үшін «Мен мұны қайдан тәуелсіз тексеремін?» Сұрақ қойыңыз және нақты тексеріңіз. AI шығысын бекіту ретінде қараңыз; Дәлелдер талаптан тыс болып табылады.
Кеңес: әдетке айналдырыңыз: AI беретін әрбір маңызды нәтиженің жанына екі нәрсені қолмен жазыңыз: «(1) мен мұны немен тексердім, (2) егер ол жалған болса, мұны қандай дәлел көрсетеді». Бұл екі ескертпе автоматтандыруды да, растауды да бұзады.
Аудитор тапсыра алмайтын шешімдер
Кейбір жұмыстар табиғи түрде скептицизм мен пайымдауды қажет етеді; бұларды AI-ға беруге болмайды, тек қолдау көрсетіледі:
ажырамас юрисдикция
Неліктен
Дәлелдер жеткілікті және орынды ма
Кәсіби пайымдау; контекстке тәуелді
Түсіндірудің орындылығы
Кәсіпорын мен ниетті қарастыруды талап етеді
Алаяқтық тәуекелін бағалау
Скептицизм және интуиция; деректер үлгісінен тыс
Маңыздылық және пікір шешімі
Халық алдында жауапты сот жүйесі
Басқарудың адалдығы туралы пікір
Адамның мінез-құлқын оқу; AI мұны істей алмайды
Скептицизм мен педантрия арасындағы айырмашылық: өлшенген көзқарас
Кәсіби скептицизм бәріне сенбеу немесе алдын ала басшылықты кінәлау дегенді білдірмейді; Бұл шектен шығып, бақылауды тиімсіз етеді. Скептицизм – таза сенім де (айтқанның бәрін қабылдау), соқыр бас тарту да (бәрінен бас тарту); Арасында бұл дәлелдерге сәйкес келетін тергеу қатынасы. Аудитор басшылықты адал деп қабылдауы мүмкін, бірақ бұл қабылдауды дәлелдермен тексереді; түсініктемені орынды деп табуы мүмкін, бірақ орындылығын растайды. AI бұл тепе-теңдікті бұзуы мүмкін: бір бағытта ол сұйықтықтың шығуымен сізді шектен тыс сенімділікке түсіреді; Екінші жағынан, егер сіз оған «бәрінен мін іздеңіз» десеңіз, ол сізді шексіз жалған позитивтермен бомбалайды. Дұрыс көзқарас - дәлелдемелерді шығару және дәлелдемелерді жоққа шығару үшін AI-ны іске қосу кезінде нәтижені дәлелдемелердің салмағымен салыстыру. Скептицизм - бұл тұлғаның қасиеті емес, тәртіпті жұмыс тәсілі; Және бұл тәртіпті орнататын, қолдайтын және дәлелдейтін AI емес, аудитор.
үш шағын іс
1-жағдай – Теріс техникасы жұмыс істейді. Аудитор AI басып шығарды, «бұл акциялардың бағасы ақылға қонымды көрінеді». Ол растаудың орнына: «Егер бұл баға асып кетсе, оны қандай дәлелдеуге болады?» - деп сұрады. «сатудан кейінгі бағасы өзіндік құнынан төмен түсетін заттар», - деді YZ. Аудитор осы элементтерді іздеп, нақты бағаланбаған топты тапты. Теріс сұрақ растау жасырған тәуекелді ашты.
2-жағдай - растау бағытына түсу. Команда мүшесі AI-дан қиын уақытта: «Бұл есептік жазбада маңызды ештеңе жоқ, солай ма?» деп сұрады. — деп сұрады ол. YZ бұл сұраққа сүйеніп: «Сіз берген ақпаратқа қарағанда, айтарлықтай мәселе жоқ сияқты» деді. Команда мүшесі босаңсып, қаламды тығындады. Алайда ол ешқандай дәлел келтірген жоқ; AI жай ғана оның сөйлемін бейнеледі. Жауапты адам сұрақтың бейтарап қойылмағанын көрсетті. Сабақ: сұрақты қалай қойғаның, алатын жауабыңды анықтайды; Растауды іздейтін сұрақ растауды тудырады.
3-жағдай – еркін сөйлеуге құмарту. Аудитор YZ өте еркін және дәлелді параграфта түсіндірілген заңнаманың түсіндірмесі дұрыс деп есептеп, оны жұмыс құжатына енгізді. Мәтіннің ұқыпты болғаны сонша, оған күмән келтіру оның ойына да келмеді. Жауапты тұлға анықтаманың ресми мәтінде баламасы жоқ екенін көрсетті. Сабақ: еркін сөйлеу және сенімділік дәлдіктің дәлелі емес; Ең сенімді болып көрінетін нәтиже ең қауіпті болуы мүмкін.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Бұл талдау дұрыс, солай ма? Сіз мақұлдайсыз ба?
Мәселе: растауды іздейтін біржақты сұрақ. Ол AI-ны сізге қосылуға итермелейді; Бұл растау қателігін арттырады және шынайы тәуекелді жасырады.
Күшті шақыру:
Сіздің рөліңіз: сіз тәуелсіз аудитордың сыни сауалнама бойынша серіктесісіз. Сіздің міндетіңіз – менімен КЕЛІСІУ емес, менің шығарылымымнан БАСТАУға тырысу. Мәтінмән: Төменде аналитикалық процедураның қорытындысы және менің болжамды тұжырымым берілген.[nәtice мәтіні]Тапсырма:1) Бұл тұжырым ЖАЛҒАН болуы мүмкін ең ықтимал 3 сценарийді көрсетіңіз.2) Әрбір сценарий үшін: «егер бұл шындық болса, нені көрсетеді?». Нақты, іздеуге болатын дәлелдерді ұсыныңыз. 3) Мен жіберіп алған кез келген деректерді немесе болжамдарды белгілеңіз. 4) Менімен сәйкес келетін сөйлемдер құрама; Сізге әлсіз тұстарды табу тапсырылады. Сіз сенімді емес жерде «белгісіз» деп белгілеңіз.
Бұл шақыру күшті, өйткені ол AI рөлін өзгертеді (қайтару), жоққа шығару сценарийлері мен іздеуге болатын дәлелдерді қажет етеді және растауды іздейтін тілге тыйым салады. Бұл AI-ны растау құралына емес, скептицизмге қызмет етеді.
Жалпы қателер
- Мақұлдау үшін сұрақтар қою. — Жарайды, солай ма? сұрау және келісілген жауапты қамтамасыз ету арқылы.
- Еркін сөйлеуді дәлдікпен қателесу. Жақсы жазылған, сенімді нәтижені сұрақсыз қабылдау.
- Бір ғана растайтын мысалға қанағаттаныңыз. Оны жоққа шығаруға тырыспай, бірінші тірек тұжырыммен жабу.
- Бөлінбейтін юрисдикцияны беруге. Дәлелдердің жеткіліктілігін, негізділігін, пікірін шешуді АИ-ге қалдыру.
- Уақыт қысымы кезінде скептицизмнен арылу. Сіз кептеліп қалған кезде AI-ның жұбататын жауабына паналаңыз.
Абайлаңыз: Уақыт қысымы - скептицизмнің ең үлкен жауы, ал AI бұл қысымда ең қауіпті болады; өйткені ол сізге жылдам, еркін және жайлы жауап береді. Асығыс кезде теріске шығаратын сұрақ қоюды міндетті етіңіз.
Қысқаша айтқанда
Кәсіби скептицизм аудиттің негізі болып табылады және АИ дәуірінде одан да маңыздырақ болады. AI үш әлсіз тұсты тудырады: галлюцинация (оны жасайды), автоматтандырудың бұрмалануы (біз оған сенеміз, өйткені ол сұйық), растау бұрмалануы (біз оған күмән келтірмейміз, өйткені ол біз үміттенетін нәрсені айтады). Антидот - бұл AI-ны растауға емес, жоққа шығаруға асығу: «егер бұл жалған болса, оны қандай дәлел көрсетеді?» ' және қарама-қарсы дәлелдерді іздеу, объективті және кері сұрау, көзден әрбір нәтижені шығару. Дәлелдердің жеткіліктілігі, негізділігі, алаяқтық қаупі және пікірді пайымдау сияқты пайымдаулар скептицизмді қажет етеді және оларды ауыстыруға болмайды. Еркін сөйлеу дәлдік емес; Күмәншіл ақыл сіздікі.
Қолданбалы тапсырма
Аудит нәтижесін (немесе гипотетикалық нәтижені) алыңыз. Жасанды интеллектке алдымен «растауды іздейтін» әлсіз сұрақпен, содан кейін жоғарыдағы «қарсылық» күшті шақыру үлгісімен сұраңыз. Екі нәтижені қатар қойып, айырмашылықты жазыңыз: қандай тәуекелдер тек теріске шығару сұрағымен анықталды? Содан кейін нәтижедегі әрбір негізгі шағымның жанына екі ескертпе қосыңыз: «мен немен тексердім» және «өтірік болса, қандай дәлелдер көрсетіледі».
бақылау парағы
- [ ] Мен растауды іздейтін сұрақтар емес, AI теріске шығару/бейтарап сұрақтар қойдым.
- [ ] Әрбір маңызды нәтиже үшін «егер бұл жалған болса, оны қандай дәлел көрсетеді?» Мен сұрақ қойып, дәлел іздедім.
- [ ] Мен қосымша скептицизммен тегіс және сенімді болып көрінген нәтижені сынадым.
- [ ] Мен бір ғана растайтын мысалмен тоқталған жоқпын; Мен оны жоққа шығаруға тырыстым, бірақ болмады.
- [ ] Мен дәлелдердің жеткіліктілігі, парасаттылық және пікір сияқты өз пайымдауларымды жасадым.
- [ ] Тіпті уақыт қысымына қарамастан, мен теріске шығару сұрағын өткізіп жіберген жоқпын.
- [ ] Маңызды талаптардың жанында мен «немен тексердім/егер ол дұрыс емес болса, не көрсетеді» деген жазбалар жасадым.