Qligħ:
- Ifhem x'inhu x-xettiċiżmu professjonali u r-riskji li taqa 'f'preġudizzju ta' konferma u preġudizzju ta 'awtomazzjoni meta tuża l-intelliġenza artifiċjali
- Kapaċità li tittestja l-output ta 'intelliġenza artifiċjali b'teknika ta' interrogazzjoni li tipprova tirrifjuta (fittxu l-oppost)
- Li tkun kapaċi tifhem li l-ħeffa tal-intelliġenza artifiċjali ma tfissirx preċiżjoni, li l-moħħ xettiku huwa l-qalba tal-kontroll u ma jistax jiġi trasferit.
Hemm attitudni mentali waħda li tiddistingwi l-awditjar indipendenti minn ħafna professjonijiet oħra: ix-xettiċiżmu professjonali. L-ISAs jiddefinixxu dan bħala l-awditur jaħdem "b'moħħ inkwirenti, jinnota jekk l-evidenza tindikax dikjarazzjoni ħażina potenzjali, u jevalwa b'mod kritiku l-evidenza." Jiġifieri, l-awditur ma jaċċettax awtomatikament xi informazzjoni ppreżentata lilu—mhux dikjarazzjoni tal-maniġment, la dokument, lanqas kont li “jidher raġonevoli”—bħala vera. Kontinwament nistaqsi "Huwa tassew hekk?" jistaqsi. Din l-attitudni hija l-qalba tal-kontroll u hija inaljenabbli.
Fl-era tal-intelliġenza artifiċjali, din il-qalba tiffaċċja test ġdid fjamant. Minħabba li l-AI hija kapaċi tiskatta żewġ dgħufijiet fil-fond tal-moħħ tal-bniedem - preġudizzju ta 'awtomazzjoni u preġudizzju ta' konferma. F'din l-unità, se nkopru kif awditur li juża l-AI jista' jżomm jew saħansitra jsaħħaħ ix-xettiċiżmu tiegħu. It-teżi ewlenija hija li l-ħeffa ta 'l-AI mhix preċiżjoni; Il-moħħ xettiku jsir saħansitra aktar importanti quddiem l-AI.
Żewġ preġudizzji perikolużi
Il-preġudizzju tal-awtomazzjoni huwa t-tendenza għan-nies li jafdaw l-output ta 'magna/software aktar mill-ġudizzju tagħhom stess. "Il-kompjuter ikkalkulaha, hija korretta." Dan il-periklu huwa kabbar meta niġu għall-AI, għaliex l-AI ma tikkalkulax biss; Titkellem sentenzi fluwenti, kunfidenti, qisu umani u raġunati. Ton kunfidenti huwa persważiv anki jekk l-informazzjoni mhix preċiża.
Il-preġudizzju tal-konferma huwa t-tendenza tan-nies li jfittxu informazzjoni li tappoġġja l-konklużjoni li qabel kienu jemmnu jew ttamaw għaliha u li jinjoraw informazzjoni konfliġġenti. Dan huwa fatali fl-awditjar: Awditur li jaħseb li "Dan il-klijent għandu jkun nadif" se jkun meħlus meta jistaqsi lill-AI u jieħu konferma, u jieqaf ifittex evidenza għall-kuntrarju. Minħabba li l-AI għandha t-tendenza li tixgħel fil-mistoqsija li tkun qed issir (jekk tistaqsi "okay, right?" huwa aktar probabbli li tipproduċi tweġiba li taqbel miegħek), tista 'trawwem preġudizzju ta' konferma.
Hemm ukoll it-tielet: alluċinazzjoni. Rajna ħafna drabi fil-modulu — AI tista 'tagħmel b'mod fluwenti numru, oġġett, riżors li ma jeżistix. Il-periklu huwa aggravat meta tliet dgħufijiet huma kkombinati: AI tagħmel l-affarijiet up (alluċinazzjoni), inti temmen li huwa fluwidu (preġudizzju ta 'awtomazzjoni), inti ma tiddubitah għaliex jgħidlek dak li qed tistenna (preġudizzju ta' konferma).
It-tliet għodod tal-moħħ xettiku kontra l-AI
Ejja npoġġu x-xettiċiżmu f'tekniki konkreti kontra l-AI:
- Ipprova tirrifjuta, mhux tikkonferma. AI tista' tistaqsi l-output tagħha "huwa vera?" mhux "kif inkun naf jekk dan hux ħażin?" mistoqsija. Staqsi lilek innifsek: “Kieku din id-dikjarazzjoni kienet falza, liema evidenza turiha?” u tfittex dik l-evidenza. Huwa faċli li ssib eżempju wieħed li jikkonferma; Li tipprova tirrifjuta u tonqos tagħti assigurazzjoni reali.
- Staqsi b'mod newtrali u b'lura. Staqsi lill-AI "l-ebda problema hawn, hux?" Titlobx; dan jistieden rispons ta' approvazzjoni. Minflok, "x'inhuma r-riskji li stajt qbiżt f'din id-dejta?" u "x'inhuma l-aktar tliet xenarji probabbli li fihom dan ir-riżultat jista' jkun ħażin?" staqsi. Staqsi l-istess mistoqsija minn żewġ naħat opposti u qabbel it-tweġibiet.
- Niżżel fis-sors u jirriproduċi. Għal kull kwistjoni, attribuzzjoni, u konklużjoni, "fejn nivverifika dan b'mod indipendenti?" Staqsi l-mistoqsija u fil-fatt tivverifika. Ara l-output tal-AI bħala affermazzjoni; L-evidenza hija esterna għat-talba.
Tip: Agħmel drawwa: Ħdejn kull output sinifikanti li tagħti l-AI, ikteb żewġ affarijiet bl-idejn - "(1) b'liema verifikajt dan, (2) liema evidenza turi dan jekk tkun falza." Dawn iż-żewġ noti jiksru kemm l-awtomazzjoni kif ukoll il-preġudizzju tal-konferma.
Sentenzi li l-awditur ma jistax jiddelega
Xi impjiegi b'mod inerenti jeħtieġu xettiċiżmu u ġudizzju; dawn ma jistgħux jiġu delegati lill-AI, appoġġjati biss:
ġurisdizzjoni inaljenabbli
Għaliex
Jekk l-evidenza hijiex biżżejjed u xierqa
Ġudizzju professjonali; dipendenti mill-kuntest
Plawżibbiltà ta' spjegazzjoni
Jeħtieġ konsiderazzjoni ta 'intrapriża u intenzjoni
Valutazzjoni tar-riskju ta' frodi
Xettiċiżmu u intuwizzjoni; lil hinn mill-mudell tad-data
Materjalità u deċiżjoni ta' opinjoni
Ġudikatura responsabbli lejn il-pubbliku
Opinjoni dwar l-onestà tal-maniġment
Qari tal-imġieba tal-bniedem; AI ma tistax tagħmel dan
Id-differenza bejn xettiċiżmu u pedantry: attitudni mkejla
Xettiċiżmu professjonali ma jfissirx li ma temminx kollox jew li twaħħal il-maniġment minn qabel; Dan ikun eċċess u jagħmel il-kontroll ineffettiv. Ix-xettiċiżmu la hu fiduċja pura (li taċċetta dak kollu li jgħidulek) u lanqas ċaħda għama (li tirrifjuta kollox); F'nofs, hija attitudni ta' inkjesta proporzjonata mal-evidenza. L-awditur jista' jaċċetta l-maniġment bħala onest, iżda jittestja din l-aċċettazzjoni b'evidenza; jista' jsib spjegazzjoni plawsibbli, iżda jikkonferma plawżibbiltà. L-AI tista 'tħarbat dan il-bilanċ: f'direzzjoni waħda, tħaffik f'kunfidenza żejda bl-output fluwidu tagħha; Min-naħa l-oħra, jekk tgħidlu biex “issib it-tort f’kollox” jibbumbardjawk b’pożittivi foloz bla tarf. L-attitudni korretta hija li dejjem tiżen ir-riżultat kontra l-piż tal-evidenza, filwaqt li tmexxi l-AI biex tipproduċi evidenza u tiċħad l-evidenza. Ix-xettiċiżmu mhuwiex karatteristika tal-personalità, iżda mod dixxiplinat ta’ kif taħdem; U huwa l-awditur li jistabbilixxi, iżomm u juri din id-dixxiplina, mhux l-AI.
tliet każijiet żgħar
Każ 1 — It-teknika ta' konfutazzjoni taħdem. Awditur stampa l-AI u qal "din il-valutazzjoni tal-istokk tidher raġonevoli." Minflok ikkonferma, staqsa b'mod torbot: "Jekk din il-valutazzjoni hija eżaġerata, liema evidenza turiha?" "oġġetti li għalihom il-prezzijiet ta 'wara l-bejgħ jaqgħu taħt l-ispiża," qal YZ. L-awditur fittex dawn l-oġġetti u sab grupp li fil-fatt kien sottovalutat. Il-mistoqsija ta' konfutazzjoni kixfet ir-riskju li l-konferma kienet taħbi.
Każ 2 — Waqa' fi preġudizzju ta' konferma. Membru tat-tim staqsa lill-AI waqt kriżi, "m'hemm xejn kbir ħażin f'dan il-kont, hux?" staqsa. YZ qagħad fuq il-mistoqsija u qal, "Skond l-informazzjoni li pprovdejt, ma jidhirx li hemm problema sinifikanti." Il-membru tat-tim irrilassaw u tefgħu l-pinna. Madankollu, huwa ma kien ippreżenta l-ebda evidenza; L-AI sempliċement tirrifletti s-sentenza tiegħu. Il-persuna responsabbli wriet li l-mistoqsija ma saritx b’mod imparzjali. Lezzjoni: kif tistaqsi l-mistoqsija tiddetermina t-tweġiba li tirċievi; Mistoqsija li tfittex konferma tipproduċi konferma.
Każ 3 — Waqgħa għall-ħeffa. Awditur ħaseb li interpretazzjoni tal-leġiżlazzjoni li YZ spjega f’paragrafu fluwenti u raġunat ħafna kienet korretta u inkludietha fid-dokument ta’ ħidma. It-test tant kien pulit li ma kienx f’moħħu li jistaqsih. Il-persuna responsabbli wriet li r-referenza ma kellha ebda ekwivalenti fit-test uffiċjali. Lezzjoni: il-ħeffa u l-kunfidenza mhumiex prova tal-eżattezza; Ir-riżultat li jidher l-aktar konvinċenti jista’ jkun l-aktar perikoluż.
Pront dgħajjef / Pront qawwi
Pront dgħajjef:
Din l-analiżi hija korretta, hux? Tapprova?
Il-problema: mistoqsija preġudikata li tfittex konferma. Timbotta l-AI biex tingħaqad miegħek; Hija trawwem preġudizzju ta 'konferma u jaħbi riskju veru.
Pront qawwi:
Ir-rwol tiegħek: inti sieħeb ta' inkjesta kritika ta' awditur indipendenti. Il-kompitu tiegħek mhuwiex li taqbel miegħi, iżda li tipprova tirrifjuta l-output tiegħi. Kuntest: Hawn taħt tinsab il-konklużjoni tiegħi ta’ proċedura analitika u l-konklużjoni tentattiva tiegħi.[test tar-riżultat]Kompitu:1) Elenka t-3 xenarji l-aktar probabbli li fihom din il-konklużjoni tista’ tkun FALZ.2) Għal kull xenarju: "jekk dan kien veru, liema evidenza turiha?" Issuġġerixxi evidenza konkreta u li tista' titfittex. 3) Immarka kwalunkwe dejta jew suppożizzjoni li seta’ qbiżt. 4) Tagħmilx sentenzi li jaqblu miegħi; Int inkarigat li ssib punti dgħajfa. Immarka "mhux magħruf" fejn m'intix ċert.
Dan il-pront huwa b'saħħtu minħabba li jreġġa' lura r-rwol tal-AI (konfutazzjoni), jeħtieġ xenarji ta' konfutazzjoni u evidenza li tista' titfittex, u jipprojbixxi lingwaġġ li jfittex il-konferma. Dan ipoġġi l-AI fis-servizz tax-xettiċiżmu aktar milli strument ta 'preġudizzju ta' konferma.
Żbalji komuni
- Tistaqsi mistoqsijiet li jfittxu approvazzjoni. "Huwa tajjeb, id-dritt?" billi tistaqsi u tiżgura t-tweġiba maqbula.
- Żbalja tal-ħeffa għall-eżattezza. Taċċetta output miktub tajjeb u kunfidenti mingħajr mistoqsija.
- Kun ikkuntentat b'eżempju konfermatorju wieħed. Nagħlaq bl-ewwel sejba ta’ sostenn, mingħajr ma tipprova tirribattiha.
- Li jiddelega ġurisdizzjoni inaljenabbli. Id-deċiżjoni ta' suffiċjenza tal-evidenza, ir-raġonevolezza, l-opinjoni titħalla f'idejn AI.
- Inħalli x-xettiċiżmu taħt pressjoni taż-żmien. Li tieħu kenn fit-tweġiba ta’ faraġ tal-AI meta tkun mwaħħla.
Attenzjoni: Il-pressjoni tal-ħin hija l-akbar ghadu tax-xettiċiżmu, u l-AI ssir l-aktar perikoluża taħt din il-pressjoni; għax toffrilek tweġiba mgħaġġla, fluwenti u ta’ faraġ. Agħmilha obbligatorja li tistaqsi l-mistoqsija ta' konfutazzjoni meta tkun għaġla.
Fil-qosor
Ix-xettiċiżmu professjonali huwa fil-qalba tal-awditjar u jsir saħansitra aktar kritiku fl-era tal-IA. L-AI tqajjem tliet dgħufijiet: alluċinazzjoni (tagħmel dan), preġudizzju ta 'awtomazzjoni (nemmnuh għax huwa fluwidu), preġudizzju ta' konferma (ma niddubitawx għax jgħid dak li nittamaw għalih). L-antidotu huwa li tgħaġġel biex tiċħad l-AI, mhux tikkonfermaha: "jekk dan huwa falz, liema evidenza turiha?" 'u tfittex evidenza kuntrarja, tistaqsi b'mod oġġettiv u b'lura, tirriproduċi kull output mis-sors. Sentenzi bħas-suffiċjenza tal-evidenza, ir-raġonevolezza, ir-riskju ta’ frodi, u l-ġudizzju tal-opinjoni jeħtieġu xettiċiżmu u mhumiex trasferibbli. Il-ħeffa mhix preċiżjoni; Il-moħħ xettiku huwa tiegħek.
Kompitu ta' applikazzjoni
Ikseb ir-riżultat tal-verifika tiegħek (jew riżultat ipotetiku). Staqsi lill-AI l-ewwel b'mistoqsija dgħajfa "li tfittex konferma", imbagħad bil-mudell qawwi fil-pront ta '"konfutazzjoni" hawn fuq. Poġġi ż-żewġ riżultati ħdejn xulxin u ikteb id-differenza: liema riskji ġew żvelati biss mill-mistoqsija ta' konfutazzjoni? Imbagħad żid żewġ noti ħdejn kull talba ewlenija fl-output tiegħek: "ma' xiex ivverifikajt" u "x'evidenza turi kieku kienet falza".
lista ta' kontroll
- [ ] Staqsejt il-mistoqsijiet ta' konfutazzjoni/newtrali tal-AI, mhux mistoqsijiet li jfittxu konferma.
- [ ] Għal kull riżultat sinifikanti, "jekk dan huwa falz, liema evidenza turih?" Staqsejt il-mistoqsija u fittixt evidenza.
- [ ] Ittestjajt l-output, li deher bla xkiel u kunfidenti, b'xettiċiżmu żejjed.
- [ ] Ma waqaftx b'eżempju wieħed ta' konferma; Ippruvajt niċħadha imma fallejt.
- [ ] Jien għamilt il-ġudizzji tiegħi stess bħas-suffiċjenza tal-evidenza, ir-raġonevolezza, u l-opinjoni.
- [ ] Anke taħt pressjoni tal-ħin, ma naqbeżx il-mistoqsija ta' konfutazzjoni.
- [ ] Ħdejn il-klejms importanti, għamilt noti ta' "dak li vverifikajt bih / dak li juri jekk kienx ħażin".