Qazanclar:
- Peşəkar skeptisizmin nə olduğunu və süni intellektdən istifadə edərkən təsdiqləmə qərəzinə və avtomatlaşdırma qərəzinə düşmə risklərini anlayın.
- Süni intellektin nəticəsini təkzib etməyə çalışan bir sorğulama texnikası ilə sınaqdan keçirmək bacarığı (əksini axtarın)
- Süni intellektin rəvanlığının dəqiqlik demək olmadığını, skeptik zehnin nəzarətin nüvəsi olduğunu və ötürülə bilməyəcəyini başa düşmək.
Müstəqil auditi bir çox başqa peşələrdən fərqləndirən bir psixi münasibət var: peşəkar skeptisizm. BMS-lər bunu “dəlillərin potensial təhrifləri göstərib-göstərmədiyini qeyd edən və sübutları tənqidi qiymətləndirən” auditor kimi müəyyən edir. Yəni, auditor ona təqdim edilən heç bir məlumatı - nə rəhbərliyin bəyanatını, nə sənədi, nə də "məqbul görünən" hesabı avtomatik olaraq həqiqət kimi qəbul etmir. Mən daima "həqiqətən belədirmi?" deyə soruşur. Bu münasibət nəzarətin əsasını təşkil edir və ayrılmazdır.
Süni intellekt əsrində bu nüvəni tamamilə yeni bir sınaq gözləyir. Çünki süni intellekt insan şüurunun iki dərin zəif tərəfini - avtomatlaşdırma meylini və təsdiqləmə qərəzini - tetiklemede mahirdir. Bu bölmədə biz süni intellektdən istifadə edən auditorun öz skeptisizmini necə qoruyub saxlaya biləcəyini və ya hətta gücləndirə biləcəyini əhatə edəcəyik. Əsas tezis ondan ibarətdir ki, AI-nin rəvanlığı dəqiqlik deyil; Şübhəli ağıl AI qarşısında daha da vacib olur.
İki təhlükəli qərəz
Avtomatlaşdırma qərəzi insanların öz mülahizələrindən daha çox maşın/proqramın çıxışına etibar etmə meylidir. “Kompüter hesablayıb, düzdür”. Süni intellektə gəldikdə bu təhlükə daha da artır, çünki AI sadəcə hesablamır; Səlis, inamlı, insana xas, əsaslandırılmış cümlələr danışır. Etibarlı ton, məlumat dəqiq olmasa belə inandırıcıdır.
Təsdiq qərəzi insanların əvvəllər inandıqları və ya ümid etdikləri nəticəni dəstəkləyən məlumat axtarmaq və ziddiyyətli məlumatlara məhəl qoymamaq meylidir. Auditdə bu ölümcüldür: "Bu müştəri təmiz olmalıdır" deyən auditor AI-dən soruşduqda və təsdiqini alanda rahatlaşacaq və əksini sübut edən dəlil axtarmağı dayandıracaq. Süni intellekt verilən suala meylləndiyi üçün (“yaxşıdır, elə deyilmi?” sualını versəniz, sizinlə razılaşan cavab vermə ehtimalı daha yüksəkdir), bu, təsdiqləmə qərəzliyini artıra bilər.
Üçüncüsü də var: halüsinasiyalar. Biz bunu modulda dəfələrlə görmüşük — AI sərbəst şəkildə mövcud olmayan nömrəni, elementi, resursu təşkil edə bilir. Üç zəif cəhət birləşdirildikdə təhlükə daha da artır: süni intellekt hər şeyi uydurur (hallüsinasiya), siz buna inanırsınız, çünki o, mayedir (avtomatlaşdırma qərəzi), siz onu sorğulamırsınız, çünki o sizə nə gözlədiyinizi deyir (təsdiq qərəzi).
Skeptik ağılın süni intellektə qarşı üç aləti
Gəlin süni intellektə qarşı konkret üsullara şübhə ilə yanaşaq:
- Təsdiq etməyə yox, təkzib etməyə çalışın. Süni intellekt öz çıxışından “doğrudurmu?” deyə soruşa bilər. "Bunun səhv olub olmadığını necə biləcəm?" sual. Özünüzdən soruşun: "Əgər bu ifadə yalan olsaydı, bunu hansı dəlil göstərərdi?" və bu dəlilləri axtarın. Tək bir təsdiqləyici nümunə tapmaq asandır; Təkzib etməyə çalışmaq və uğursuzluq real arxayınlıq verir.
- Neytral və geri soruşun. AI-dən soruşun "burada problem yoxdur, elə deyilmi?" soruşma; bu, təsdiqedici cavabı dəvət edir. Bunun əvəzinə "bu məlumatda qaçırmış ola biləcəyim risklər nələrdir?" və "bu nəticənin səhv ola biləcəyi ən çox ehtimal olunan üç ssenari hansılardır?" soruş. Eyni sualı iki əks tərəfdən verin və cavabları müqayisə edin.
- Mənbəyə endirin və çoxaldın. Hər buraxılış, atribusiya və nəticə üçün "mən bunu müstəqil olaraq harada yoxlaya bilərəm?" Sual verin və həqiqətən yoxlayın. AI-nin çıxışını bir təsdiq kimi nəzərdən keçirin; Sübutlar iddiadan kənardır.
İpucu: Vərdiş edin: Süni intellektin verdiyi hər bir əhəmiyyətli məhsulun yanında əl ilə iki şey yazın - "(1) bunu nə ilə təsdiqlədim, (2) yalan olsaydı, bunu hansı sübut göstərərdi." Bu iki qeyd həm avtomatlaşdırma, həm də təsdiqləmə meylini pozur.
Auditorun həvalə edə bilməyəcəyi qərarlar
Bəzi işlər təbii olaraq skeptisizm və mühakimə tələb edir; bunlar AI-yə həvalə edilə bilməz, yalnız dəstəklənir:
ayrılmaz yurisdiksiya
Niyə
Sübutların kifayət qədər və uyğun olub-olmaması
Peşəkar mühakimə; kontekstdən asılıdır
İzahın inandırıcılığı
Müəssisə və niyyətin nəzərə alınmasını tələb edir
Fırıldaqçılıq riskinin qiymətləndirilməsi
skeptisizm və intuisiya; məlumat modelindən kənarda
Əhəmiyyətlilik və rəy qərarı
Məhkəmə ictimaiyyət qarşısında cavabdehdir
İdarəetmənin dürüstlüyü haqqında rəy
İnsan davranışını oxumaq; AI bunu edə bilməz
Skeptizm və pedantriya arasındakı fərq: ölçülmüş münasibət
Peşəkar skeptisizm hər şeyə inanmamaq və ya əvvəlcədən rəhbərliyi günahlandırmaq demək deyil; Bu, həddən artıq həddən artıq iş olardı və nəzarəti təsirsiz edərdi. Skeptisizm nə xalis güvən (sizə deyilən hər şeyi qəbul etmək), nə də kor-koranə inkar (hər şeyi rədd etmək); Arada, dəlillərlə mütənasib bir araşdırma münasibətidir. Auditor rəhbərliyi dürüst qəbul edə bilər, lakin bu qəbulu sübutlarla yoxlayır; izahı inandırıcı tapa bilər, lakin inandırıcılığı təsdiqləyir. Süni intellekt bu tarazlığı poza bilər: bir istiqamətdə, maye çıxışı ilə sizi həddən artıq güvənləndirir; Digər tərəfdən, ona "hər şeydə günah axtar" desəniz, o, sizi sonsuz yalan pozitivlərlə bombalayacaq. Düzgün münasibət sübut yaratmaq və sübutları təkzib etmək üçün süni intellektlə işləyərkən həmişə nəticəni sübutların ağırlığı ilə ölçməkdir. Skeptizm şəxsiyyət xüsusiyyəti deyil, nizam-intizamlı iş üsuludur; Və bu intizamı quran, saxlayan və sübut edən auditordur, AI deyil.
üç mini qutu
1-ci hal – Təkzib texnikası işləyir. Auditor AI-ni çap etdi və "bu səhmlərin qiymətləndirilməsi ağlabatan görünür" dedi. Təsdiq etmək əvəzinə o, arxadan soruşdu: “Əgər bu qiymətləndirmə həddən artıq göstərilsə, bunu hansı dəlil göstərəcək?” "Satışdan sonrakı qiymətlərin maya dəyərindən aşağı düşdüyü əşyalar" dedi YZ. Auditor bu maddələri axtardı və faktiki olaraq aşağı qiymətləndirilmiş bir qrup tapdı. Təkzib sualı təsdiqin gizlədilən riskini ortaya qoydu.
Hal 2 - Təsdiq qərəzinə düşmək. Bir komanda üzvü AI-dan çətin bir vaxtda soruşdu: "Bu hesabda ciddi bir səhv yoxdur, elə deyilmi?" – deyə soruşdu. YZ suala söykənərək “Sizin verdiyiniz məlumata görə, elə də ciddi problem görünmür” dedi. Komanda üzvü rahatladı və qələmin qapağını bağladı. Lakin o, heç bir sübut təqdim etməmişdi; AI sadəcə onun cümləsini əks etdirdi. Məsul şəxs sualın qərəzsiz verilmədiyini göstərdi. Dərs: sualı necə verdiyiniz cavabı müəyyənləşdirir; Təsdiq axtaran sual təsdiqi yaradır.
3-cü vəziyyət – səlis danışıq qabiliyyətinə düşmək. Auditor YZ-nin çox səlis və əsaslandırılmış paraqrafda izah etdiyi qanunvericiliyin şərhini düzgün hesab etdi və onu iş sənədinə daxil etdi. Mətn o qədər səliqəli idi ki, ona sual vermək ağlına da gəlmirdi. Məsul şəxs göstərdi ki, arayışın rəsmi mətndə ekvivalenti yoxdur. Dərs: səlislik və özünə inam dəqiqliyin sübutu deyil; Ən inandırıcı görünən nəticə ən təhlükəli ola bilər.
Zəif məlumat / Güclü göstəriş
Zəif çağırış:
Bu analiz düzgündür, elə deyilmi? Təsdiq edirsiniz?
Problem: təsdiq axtaran qərəzli sual. O, AI-ni sizə qoşulmağa sövq edir; Təsdiq qərəzini artırır və əsl riski gizlədir.
Güclü göstəriş:
Sizin rolunuz: siz müstəqil auditorun tənqidi sorğu tərəfdaşısınız. Sizin tapşırığınız mənimlə RAZI OLMAQ deyil, mənim çıxışımdan İMTİNA etməyə çalışmaqdır. Kontekst: Aşağıda mənim analitik prosedura dair qənaətim və ilkin qənaətim var.[nəticə mətni]Tapşırıq:1) Bu nəticənin YANLIŞ ola biləcəyi ən çox ehtimal olunan 3 ssenarini sadalayın.2) Hər bir ssenari üçün: "əgər bu, doğru olsaydı, nə sübut olardı?" Konkret, axtarılan sübutlar təklif edin. 3) Qaçırmış ola biləcəyim hər hansı məlumat və ya fərziyyələri qeyd edin. 4) Mənimlə uyğun gələn cümlələr qurmayın; Zəif nöqtələri tapmaq sizə tapşırılır. Əmin olmadığınız yerdə "naməlum" işarələyin.
Bu təklif güclüdür, çünki AI-nin rolunu dəyişdirir (təkzib), təkzib ssenariləri və axtarılan sübut tələb edir və təsdiq axtaran dili qadağan edir. Bu, süni intellektni təsdiqləmə qərəzinin aləti deyil, skeptisizm xidmətinə qoyur.
Ümumi səhvlər
- Təsdiq üçün suallar vermək. "Yaxşıdır, hə?" soruşaraq və razılaşdırılmış cavabı təmin etməklə.
- Dəqiqlik üçün axıcılığı səhv salmaq. Yaxşı yazılmış, inamlı çıxışı sualsız qəbul etmək.
- Tək bir təsdiqedici nümunə ilə kifayətlən. Onu təkzib etməyə çalışmadan ilk dəstəkləyici tapıntı ilə yekunlaşmaq.
- Ayrılmaz yurisdiksiyanı həvalə etmək. Sübutların yetərliliyi, əsaslılığı, rəyi ilə bağlı qərarın AI-yə buraxılması.
- Zamanın təzyiqi altında skeptisizmi buraxmaq. Sıxıldığınız zaman AI-nin təsəlliverici cavabına sığınmaq.
Diqqət: Zaman təzyiqi skeptisizmin ən böyük düşmənidir və AI bu təzyiq altında ən təhlükəli hala gəlir; çünki o sizə sürətli, səlis və təsəlliverici cavab təklif edir. Tələsdiyiniz zaman təkzib sualını verməyi mütləq edin.
Xülasə
Peşəkar skeptisizm auditin əsasını təşkil edir və AI əsrində daha da kritik olur. Süni intellekt üç zəif tərəfi tətikləyir: halüsinasiya (onu düzəldir), avtomatlaşdırma meyli (biz buna inanırıq, çünki bu, mayedir), təsdiqləmə qərəzi (biz buna şübhə etmirik, çünki ümid etdiyimizi deyir). Panzehir süni intellektin təsdiqini yox, təkzib etməyə tələsməkdir: “Əgər bu yalandırsa, onu hansı dəlil göstərəcək?” ' və əks dəlil axtarır, obyektiv və geriyə doğru soruşur, hər bir çıxışı mənbədən təkrarlayır. Sübutların yetərliliyi, əsaslılıq, saxtakarlıq riski və rəy mühakiməsi kimi mühakimələr skeptisizm tələb edir və ötürülə bilməz. Səlislik dəqiqlik deyil; Skeptik ağıl sizindir.
Tətbiq tapşırığı
Audit nəticəsini (və ya hipotetik nəticəni) əldə edin. Süni intellektdən əvvəlcə "təsdiq axtaran" zəif sualla, sonra yuxarıdakı "təkzib" güclü tez nümunəsi ilə soruşun. İki nəticəni yan-yana qoyun və fərqi yazın: hansı risklər yalnız təkzib sualı ilə aşkar edilib? Sonra çıxışınızdakı hər bir əsas iddianın yanına iki qeyd əlavə edin: "nə ilə yoxladım" və "yalan olsaydı, hansı dəlil göstərərdi".
yoxlama siyahısı
- [ ] Mən süni intellektə təkzib/neytral suallar verdim, təsdiq axtaran suallar deyil.
- [ ] Hər bir əhəmiyyətli nəticə üçün, "əgər bu yalandırsa, bunu hansı sübut göstərəcək?" Sualı verdim və sübut axtardım.
- [ ] Mən hamar və inamlı görünən çıxışı əlavə şübhə ilə sınaqdan keçirdim.
- [ ] Mən tək bir təsdiqedici misalla dayanmadım; Mən bunu təkzib etməyə çalışdım, amma alınmadı.
- [ ] Mən sübutların yetərliliyi, əsaslılıq və rəy kimi öz mühakimələrimi etdim.
- [ ] Hətta zamanın təzyiqi altında mən təkzib sualını atlamadım.
- [ ] Əhəmiyyətli iddiaların yanında "nəyi təsdiqlədim / səhv olsaydı nə göstərəcəkdim" qeydlərini etdim.