Daromadlar:
- Professional skeptitsizm nima ekanligini va sun'iy intellektdan foydalanganda tasdiqlash tarafkashligi va avtomatlashtirish tarafkashligiga tushib qolish xavfini tushuning
- Sun'iy intellekt natijalarini rad etishga harakat qiladigan so'roq qilish usuli bilan sinab ko'rish qobiliyati (aksini qidiring)
- Sun'iy intellektning ravonligi aniqlikni anglatmasligini, skeptik aql boshqaruvning yadrosi ekanligini va uni o'tkazib bo'lmasligini tushuna olish.
Mustaqil auditni boshqa ko'plab kasblardan ajratib turadigan bitta ruhiy munosabat mavjud: professional skeptitsizm. AXS buni "dalillar mumkin bo'lgan noto'g'ri ma'lumotni ko'rsatadimi yoki yo'qligini ko'rsatuvchi va dalillarni tanqidiy baholaydigan so'rovchi fikr bilan ishlaydigan" auditor deb belgilaydi. Ya'ni, auditor unga taqdim etilgan har qanday ma'lumotni - boshqaruv bayonotini ham, hujjatni ham, hatto "oqilona ko'rinadigan" hisobni ham avtomatik ravishda haqiqat deb qabul qilmaydi. Men doimo "haqiqatan ham shundaymi?" — deb so‘radi u. Bu munosabat nazoratning o'zagi bo'lib, ajralmasdir.
Sun'iy intellekt asrida bu yadro mutlaqo yangi sinovga duch keladi. Chunki sun'iy intellekt inson ongining ikkita chuqur o'rin tutgan zaif tomonlarini - avtomatlashtirish tarafkashligi va tasdiqlash tarafkashligini qo'zg'atishga mohir. Ushbu bo'limda biz sun'iy intellektdan foydalanadigan auditor o'z shubhasini qanday saqlab turishi yoki hatto kuchaytirishi mumkinligini ko'rib chiqamiz. Asosiy tezis shundaki, AIning ravonligi aniq emas; AI oldida shubhali aql yanada muhimroq bo'ladi.
Ikkita xavfli fikr
Avtomatlashtirishning noto'g'riligi - bu odamlarning mashina/dasturiy ta'minot chiqishiga o'z fikridan ko'ra ko'proq ishonish tendentsiyasi. "Kompyuter hisoblab chiqdi, bu to'g'ri." AI haqida gap ketganda, bu xavf kuchayadi, chunki AI shunchaki hisoblab chiqmaydi; Ravon, ishonchli, insoniy, asosli gaplarni gapiradi. Ishonchli ohang, ma'lumot to'g'ri bo'lmasa ham, ishontiradi.
Tasdiqlash tarafkashligi - bu odamlarning ilgari ishongan yoki umid qilgan xulosalarini tasdiqlovchi ma'lumotni izlashga va qarama-qarshi ma'lumotlarni e'tiborsiz qoldirishga moyilligi. Bu auditda halokatli: "Bu mijoz toza bo'lishi kerak" deb o'ylagan auditor AIdan so'raganida va tasdiqni olganida xotirjam bo'ladi va aksincha dalil qidirishni to'xtatadi. Chunki sun'iy intellekt beriladigan savolga moyil bo'ladi (agar siz "yaxshi emasmi?" Deb so'rasangiz, u sizga mos keladigan javobni olish ehtimoli ko'proq bo'ladi), bu tasdiqlash tarafdorligini kuchaytirishi mumkin.
Uchinchisi ham bor: gallyutsinatsiya. Biz buni modulda ko'p marta ko'rganmiz — AI mavjud bo'lmagan raqam, element, resursni bemalol tashkil qilishi mumkin. Uchta zaiflik birlashganda xavf yanada kuchayadi: AI narsalarni o'ylab topadi (gallyutsinatsiya), siz bunga ishonasiz, chunki u suyuq (avtomatlashtirish tarafkashligi), siz undan shubhalanmaysiz, chunki u sizga nima kutayotganingizni aytadi (tasdiqlash tarafkashligi).
Skeptik aqlning AIga qarshi uchta vositasi
Keling, AIga qarshi aniq usullarga shubha bilan qaraymiz:
- Tasdiqlashga emas, rad etishga harakat qiling. AI o'z natijasini so'rashi mumkin "bu haqiqatmi?" emas, balki "bu noto'g'ri yoki yo'qligini qanday bilaman?" savol. O'zingizdan so'rang: "Agar bu bayonot yolg'on bo'lsa, buni qanday dalillar ko'rsatadi?" va bu dalilni qidiring. Bitta tasdiqlovchi misolni topish oson; Rad etishga urinish va muvaffaqiyatsizlik haqiqiy ishonchni beradi.
- Neytral va orqaga qarab so'rang. AIdan so'rang: "Bu erda muammo yo'q, shunday emasmi?" so'ramang; bu ma'qullovchi javobni taklif qiladi. Buning o'rniga, "bu ma'lumotlarda men qanday xavflarni o'tkazib yuborgan bo'lishim mumkin?" va "bu natija noto'g'ri bo'lishi mumkin bo'lgan uchta eng katta stsenariy qaysi?" so'rang. Ikki qarama-qarshi tomondan bir xil savol bering va javoblarni solishtiring.
- Manba uchun yuklab oling va ko'paytiring. Har bir masala, atribut va xulosa uchun "men buni mustaqil ravishda qayerda tekshiraman?" Savol bering va haqiqatan ham tasdiqlang. AI chiqishini tasdiq sifatida ko'ring; Dalillar da'vodan tashqarida.
Maslahat: odat qiling: AI bergan har bir muhim mahsulotning yoniga qo'lda ikkita narsani yozing - "(1) men buni nima bilan tasdiqladim, (2) agar u noto'g'ri bo'lsa, buni qaysi dalillar ko'rsatadi." Ushbu ikkita eslatma ham avtomatlashtirishni, ham tasdiqlash tarafdorligini buzadi.
Auditor topshira olmaydigan qarorlar
Ba'zi ishlar tabiatan shubha va mulohaza yuritishni talab qiladi; Bularni AIga topshirish mumkin emas, faqat qo'llab-quvvatlanadi:
ajralmas yurisdiktsiya
Nima uchun
Dalillar etarli va mos keladimi
Professional hukm; kontekstga bog'liq
Tushuntirishning ishonchliligi
Korxona va niyatni hisobga olishni talab qiladi
Firibgarlik xavfini baholash
Skeptitsizm va sezgi; ma'lumotlar namunasidan tashqari
Muhimlik va fikr qarori
Sud hokimiyati jamoatchilik oldida javobgar
Boshqaruvning halolligi haqidagi fikr
Inson xatti-harakatlarini o'qish; AI buni qila olmaydi
Skeptizm va pedantriya o'rtasidagi farq: o'lchovli munosabat
Professional skeptitsizm hamma narsaga ishonmaslik yoki rahbariyatni oldindan ayblash degani emas; Bu haddan tashqari ko'p bo'ladi va nazoratni samarasiz qiladi. Skeptitsizm - na sof ishonch (sizga aytilgan hamma narsani qabul qilish), na ko'r-ko'rona inkor etish (hamma narsani rad etish); O'rtada, bu dalillarga mos keladigan tergov munosabati. Auditor boshqaruvni halol deb qabul qilishi mumkin, lekin bu qabulni dalillar bilan tekshiradi; tushuntirishni asosli deb topishi mumkin, lekin ishonchliligini tasdiqlaydi. AI bu muvozanatni buzishi mumkin: bir yo'nalishda u o'zining suyuqlik chiqishi bilan sizni haddan tashqari ishonchga soladi; Boshqa tomondan, agar siz unga "hamma narsada ayb toping" desangiz, u sizni cheksiz yolg'on pozitivlar bilan bombardimon qiladi. To'g'ri munosabat - bu dalillarni keltirib chiqarish va dalillarni rad etish uchun AIni ishga tushirganda, natijalarni dalillarning og'irligiga qarab har doim tortish. Skeptitsizm shaxsiy xususiyat emas, balki intizomli ishlash usulidir; Va bu intizomni o'rnatuvchi, qo'llab-quvvatlaydigan va isbotlovchi AI emas, balki auditordir.
uchta mini holat
1-holat - Rad etish texnikasi ishlaydi. Auditor AI-ni chop etdi, "bu aksiyalarni baholash oqilona ko'rinadi". Tasdiqlash o'rniga u teskari so'radi: "Agar bu baho oshirib yuborilgan bo'lsa, buni qanday dalil ko'rsatadi?" "Sotishdan keyingi narxlar tannarxdan past bo'lgan mahsulotlar", dedi YZ. Auditor ushbu elementlarni qidirib topdi va haqiqatan ham kam baholangan guruhni topdi. Rad etish savoli tasdiqlash yashirgan xavfni ochib berdi.
2-holat - Tasdiqlash tarafkashligiga tushish. Bir jamoa a'zosi qiyin paytda sun'iy intellektdan so'radi: "Bu hisobda katta xatolik yo'q, to'g'rimi?" — deb soʻradi u. YZ bu savolga suyanib, "Siz bergan ma'lumotlarga ko'ra, jiddiy muammo yo'qdek" dedi. Jamoa a'zosi bo'shashib, qalamni yopib qo'ydi. Biroq, u hech qanday dalil keltirmagan; AI shunchaki uning gapini aks ettirdi. Mas’ul shaxs savol xolis berilmaganini ko‘rsatdi. Dars: savolni qanday qo'yganingiz sizga javobni aniqlaydi; Tasdiqlashni talab qiluvchi savol tasdiqni keltirib chiqaradi.
3-holati - Ravon gapirishga moyillik. Auditor YZ juda ravon va asosli paragrafda tushuntirib bergan qonunchilikning talqinini to'g'ri deb hisobladi va uni ishchi hujjatga kiritdi. Matn shu qadar toza ediki, unga savol berish uning xayoliga ham kelmasdi. Mas'ul shaxs ma'lumotnomaning rasmiy matnda ekvivalenti yo'qligini ko'rsatdi. Dars: ravonlik va ishonchlilik aniqlik isboti emas; Eng ishonchli ko'rinadigan natija eng xavfli bo'lishi mumkin.
Zaif taklif / Kuchli taklif
Zaif taklif:
Bu tahlil to'g'ri, to'g'rimi? Siz ma'qullaysizmi?
Muammo: tasdiqlashni talab qiladigan noxolis savol. Bu AIni sizga qo'shilishga undaydi; Bu tasdiqlash tarafkashligini kuchaytiradi va haqiqiy xavfni yashiradi.
Kuchli so'rov:
Sizning rolingiz: siz mustaqil auditorning tanqidiy so'rov bo'yicha hamkorisiz. Sizning vazifangiz men bilan ROZILISH emas, balki mening xulosamni RAD ETmoqchi bo'lishdir. Kontekst: Quyida mening tahliliy protsedura bo'yicha xulosam va taxminiy xulosam keltirilgan.[natija matni]Vazifa:1) Bu xulosa YOLG'ON bo'lishi mumkin bo'lgan 3 ta eng ehtimoliy stsenariyni sanab o'ting.2) Har bir stsenariy uchun: "agar bu to'g'ri bo'lsa, bu nimani ko'rsatardi?" Aniq, qidirish mumkin bo'lgan dalillarni taklif qiling. 3) Men o'tkazib yuborgan har qanday ma'lumot yoki taxminlarni belgilang. 4) Menga mos keladigan gaplar tuzmang; Sizga zaif tomonlarni topish vazifasi yuklatilgan. Ishonchingiz komil bo'lmagan joyda "noma'lum" deb belgilang.
Bu taklif kuchli, chunki u AI rolini o'zgartiradi (rad etish), rad etish stsenariylari va izlanadigan dalillarni talab qiladi va tasdiqlovchi tilni taqiqlaydi. Bu sun'iy intellektni tasdiqlash vositasi emas, balki skeptitsizm xizmatiga qo'yadi.
Umumiy xatolar
- Tasdiqlash uchun savollar berish. — Hechqisi yo‘q, to‘g‘rimi? so'rash va kelishilgan javobni ta'minlash orqali.
- Ravonlikni aniqlik bilan adashtirish. Yaxshi yozilgan, ishonchli chiqishni shubhasiz qabul qilish.
- Bitta tasdiqlovchi misol bilan qanoatlaning. Uni rad etishga urinmasdan, birinchi yordamchi topilma bilan yakunlash.
- Ajralmas yurisdiktsiyani topshirish. Dalillarning etarliligi, asosliligi, fikr-mulohazalarini AIga qoldirish.
- Vaqt bosimi ostida skeptitsizmga yo'l qo'yish. Qotib qolganingizda AIning tasalli beruvchi javobidan panoh toping.
Diqqat: Vaqt bosimi shubhaning eng katta dushmani va AI bu bosim ostida eng xavfli bo'lib qoladi; chunki u sizga tez, ravon va tasalli beruvchi javobni taklif qiladi. Shoshayotganingizda rad javobini berishni shart qiling.
Xulosa
Professional skeptitsizm auditning asosini tashkil etadi va AI davrida yanada muhimroq bo'ladi. AI uchta zaiflikni qo'zg'atadi: gallyutsinatsiya (uni o'ylab topadi), avtomatlashtirishning noto'g'riligi (biz bunga ishonamiz, chunki u suyuqlikdir), tasdiqlovchi tarafkashlik (biz undan shubhalanmaymiz, chunki u biz umid qilayotgan narsani aytadi). Antidot - bu sun'iy intellektni tasdiqlash uchun emas, balki rad etishga shoshilish: "agar bu yolg'on bo'lsa, uni qanday dalil ko'rsatadi?" ' va qarama-qarshi dalillarni qidirish, ob'ektiv va orqaga qarab so'rash, manbadan har bir natijani takrorlash. Dalillarning etarliligi, asoslilik, firibgarlik xavfi va fikrni baholash kabi hukmlar shubhalilikni talab qiladi va ularni o'tkazib bo'lmaydi. Ravonlik bu aniqlik emas; Shubhali aql sizniki.
Ilova vazifasi
Audit natijasini (yoki taxminiy natijani) oling. AIga avval "tasdiqlash" uchun zaif savol, keyin yuqoridagi "rad etish" kuchli tezkor namunasi bilan so'rang. Ikkala natijani yonma-yon qo'ying va farqni yozing: qaysi xavflar faqat rad etish savolida aniqlandi? Keyin chiqishingizdagi har bir asosiy da'vo yoniga ikkita eslatma qo'shing: "nima bilan tasdiqladim" va "agar u noto'g'ri bo'lsa, qanday dalil ko'rsatiladi".
nazorat ro'yxati
- [ ] Men tasdiqlovchi savollarni emas, balki sunʼiy intellektni rad etuvchi/neytral savollar berdim.
- [ ] Har bir muhim natija uchun "agar bu noto'g'ri bo'lsa, buni qanday dalil ko'rsatadi?" Men savol berdim va dalil qidirdim.
- [ ] Men silliq va ishonchli ko'rinadigan chiqishni qo'shimcha shubha bilan sinab ko'rdim.
- [ ] Men bitta tasdiqlovchi misol bilan toʻxtamadim; Men buni rad etishga harakat qildim, lekin muvaffaqiyatsiz.
- [ ] Men dalillarning etarliligi, asoslilik va fikr kabi o'z hukmlarimni qildim.
- [ ] Vaqt bosimi ostida ham, men rad etish savolini o'tkazib yubormadim.
- [ ] Muhim da'volar yonida men "nima bilan tasdiqlaganim / noto'g'ri bo'lsa, nimani ko'rsatishi" haqida eslatma qo'ydim.