Hagnaður:
- Skilja hvað fagleg tortryggni er og hættuna á að falla í staðfestingarhlutdrægni og sjálfvirkni hlutdrægni þegar gervigreind er notuð
- Geta til að prófa gervigreindarúttak með spurningatækni sem reynir að hrekja (leita að hinu gagnstæða)
- Að geta skilið að flæði gervigreindar þýðir ekki nákvæmni, að efins hugur er kjarni stjórnunar og er ekki hægt að flytja.
Það er eitt hugarfar sem greinir óháða endurskoðun frá mörgum öðrum starfsgreinum: fagleg efahyggja. ISA skilgreinir þetta þannig að endurskoðandinn vinnur „með spyrjandi huga, tekur eftir því hvort sönnunargögnin benda til hugsanlegrar rangfærslu og metur sönnunargögnin á gagnrýninn hátt. Það er að segja að endurskoðandinn samþykkir ekki sjálfkrafa neinar upplýsingar sem honum eru lagðar fram – ekki stjórnunaryfirlýsingu, ekki skjal, ekki einu sinni reikning sem „virðist sanngjarn“ – sem sannar. Ég velti stöðugt fyrir mér "Er það virkilega svo?" spyr hann. Þetta viðhorf er kjarni stjórnunar og er ófrávíkjanlegt.
Á tímum gervigreindar stendur þessi kjarni frammi fyrir glænýju prófi. Vegna þess að gervigreind er dugleg að koma af stað tveimur djúpstæðum veikleikum mannshugans - sjálfvirkni hlutdrægni og staðfestingarhlutdrægni. Í þessari einingu munum við fara yfir hvernig endurskoðandi sem notar gervigreind getur viðhaldið eða jafnvel styrkt tortryggni sína. Meginritgerðin er sú að AI er ekki nákvæmni; Efahyggjuhugurinn verður enn mikilvægari í ljósi gervigreindar.
Tvær hættulegar fordómar
Sjálfvirkni hlutdrægni er tilhneiging fólks til að treysta framleiðslu vélar/hugbúnaðar meira en eigin dómgreind. "Tölvan reiknaði það, það er rétt." Þessi hætta eykst þegar kemur að gervigreind, því gervigreind reiknar ekki bara; Talar reiprennandi, öruggar, mannlegar, rökstuddar setningar. Öruggur tónn er sannfærandi jafnvel þótt upplýsingarnar séu ekki réttar.
Staðfestingarhlutdrægni er tilhneiging fólks til að leita upplýsinga sem styður þá niðurstöðu sem það áður trúði eða vonaðist eftir og hunsa misvísandi upplýsingar. Þetta er banvænt í endurskoðun: Endurskoðandi sem heldur að „Þessi viðskiptavinur verður að vera hreinn“ verður létt þegar hann spyr gervigreindina og fær staðfestingu og hættir að leita að sönnunargögnum um hið gagnstæða. Vegna þess að gervigreind hefur tilhneigingu til að hallast að spurningunni sem spurt er (ef þú spyrð „það er í lagi, ekki satt?“ er líklegra að það skili svari sem er sammála þér), getur það ýtt undir staðfestingarhlutdrægni.
Það er líka þriðja: ofskynjanir. Við sáum það oft í einingunni - gervigreind getur reiprennandi gert upp tölu, hlut, tilföng sem er ekki til. Hættan bætist við þegar þrír veikleikar eru teknir saman: gervigreind býr til hluti (ofskynjanir), þú trúir því vegna þess að það er fljótandi (sjálfvirkni hlutdrægni), þú efast ekki um það vegna þess að það segir þér hvers þú býst við (staðfestingarhlutdrægni).
Þrjú verkfæri efahyggjuhugans gegn gervigreind
Við skulum setja tortryggni í áþreifanlega tækni gegn gervigreind:
- Reyndu að hrekja, ekki staðfesta. Gervigreind gæti spurt úttak þess „er það satt? ekki "hvernig veit ég hvort þetta er rangt?" spurningu. Spyrðu sjálfan þig: „Ef þessi staðhæfing væri röng, hvaða sönnunargögn myndu sýna það? og leitaðu að þeim sönnunargögnum. Það er auðvelt að finna eitt staðfestingardæmi; Að reyna að hrekja og mistakast gefur raunverulega fullvissu.
- Spyrðu hlutlaust og afturábak. Spyrðu gervigreindina "ekkert vandamál hér, ekki satt?" Ekki spyrja; þetta kallar á samþykkt svar. Í staðinn, "hverjar eru áhætturnar sem ég gæti hafa misst af í þessum gögnum?" og "hverjar eru þrjár líklegastar aðstæður þar sem þessi niðurstaða gæti verið röng?" spyrja. Spyrðu sömu spurningarinnar frá tveimur andstæðum hliðum og berðu saman svörin.
- Hlaða niður til uppruna og endurskapa. Fyrir hvert mál, eignarhluti og niðurstöðu, „hvar staðfesti ég þetta sjálfstætt? Spyrðu spurningarinnar og sannreyndu í raun. Skoðaðu úttak gervigreindar sem fullyrðingu; Sönnunargögnin eru utan við kröfuna.
Ábending: Gerðu að venju: Við hliðina á öllum mikilvægum framleiðslum sem gervigreind gefur, skrifaðu tvö atriði í höndunum - "(1) með hverju sannreyndi ég þetta, (2) hvaða sönnunargögn myndu sýna þetta ef það væri rangt." Þessar tvær athugasemdir brjóta bæði sjálfvirkni og staðfestingarhlutdrægni.
Dómar sem endurskoðandi getur ekki framselt
Sum störf krefjast í eðli sínu tortryggni og dómgreind; þetta er ekki hægt að framselja til gervigreindar, aðeins stutt:
ófrávíkjanlegt lögsagnarumdæmi
Hvers vegna
Hvort sönnunargögnin séu fullnægjandi og viðeigandi
Faglegt mat; samhengi háður
Trúverðugleiki skýringar
Krefst tillits til framtaks og ásetnings
Hættumat á svikum
Efahyggja og innsæi; fyrir utan gagnamynstrið
Málefna- og álitsákvörðun
Dómsvald ábyrgt gagnvart almenningi
Skoðun um heiðarleika stjórnenda
Að lesa mannlega hegðun; AI getur þetta ekki
Munurinn á efahyggju og pedantry: mælt viðhorf
Fagleg tortryggni þýðir ekki að trúa öllu eða kenna stjórnendum um fyrirfram; Þetta væri of langt mál og myndi gera eftirlitið ómarkvisst. Efahyggja er hvorki hreint traust (að samþykkja allt sem þér er sagt) né blind afneitun (hafna öllu); Þess á milli er það rannsóknarviðhorf sem er í samræmi við sönnunargögnin. Endurskoðandi getur samþykkt stjórnun sem heiðarlegan, en prófar þessa viðurkenningu með sönnunargögnum; gæti fundist skýring trúverðug, en staðfestir trúverðugleika. Gervigreind getur raskað þessu jafnvægi: í eina átt vaggar það þig í ofurtrausti með vökvaframleiðslu sinni; Á hinn bóginn, ef þú segir því að "finna galla í öllu" mun það sprengja þig með endalausum fölskum jákvæðum. Rétt viðhorf er að vega alltaf niðurstöðuna á móti þyngd sönnunargagna, á meðan þú keyrir gervigreindina til að framleiða sönnunargögn og afsanna sönnunargögnin. Efahyggja er ekki persónueinkenni heldur öguð vinnubrögð; Og það er endurskoðandinn sem kemur á fót, viðheldur og sannar þessa fræðigrein, ekki gervigreind.
þrjú smámál
Tilfelli 1 - Hrifunartæknin virkar. Endurskoðandi prentaði út gervigreindina og sagði „þetta verðmat á hlutabréfum lítur sanngjarnt út. Í stað þess að staðfesta, spurði hann aftur á móti: „Ef þetta verðmat er ofmetið, hvaða sönnunargögn myndu sýna það? „hlutir sem eftirsöluverð er undir kostnaðarverði,“ sagði YZ. Endurskoðandi leitaði að þessum hlutum og fann hóp sem var í raun vanmetinn. Svarspurningin leiddi í ljós þá hættu að staðfestingin leyndi.
Mál 2 - Að detta í staðfestingarhlutdrægni. Liðsmaður spurði gervigreindina á erfiðum tíma, "það er ekkert alvarlegt athugavert við þennan reikning, ekki satt?" spurði hann. YZ hallaði sér að spurningunni og sagði: "Samkvæmt þeim upplýsingum sem þú gafst upp virðist ekki vera um verulegt vandamál að ræða." Liðsmaðurinn slakaði á og setti lok á pennann. Hins vegar hafði hann ekki lagt fram nein sönnunargögn; AI endurspeglaði aðeins setningu hans. Ábyrgðarmaður sýndi fram á að spurningin var ekki spurð af hlutleysi. Lexía: hvernig þú spyrð spurningarinnar ákvarðar svarið sem þú færð; Spurning sem leitar staðfestingar gefur staðfestingu.
Tilfelli 3 - Falla fyrir reiprennandi. Endurskoðandi taldi að túlkun laga sem YZ gerði grein fyrir í mjög fljótandi og rökstuddri málsgrein væri rétt og setti hana inn í vinnuskjalið. Textinn var svo snyrtilegur að honum datt ekki í hug að efast um hann. Ábyrgðarmaður sýndi fram á að tilvísunin ætti sér ekki hliðstæðu í opinbera textanum. Lexía: mælsku og sjálfstraust eru ekki sönnun um nákvæmni; Niðurstaðan sem virðist mest sannfærandi getur verið hættulegast.
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Þessi greining er rétt, ekki satt? Samþykkir þú?
Vandamálið: hlutdræg spurning sem leitar staðfestingar. Það ýtir gervigreindinni til að ganga til liðs við þig; Það ýtir undir staðfestingarhlutdrægni og felur raunverulega áhættu.
Öflug tilvitnun:
Þitt hlutverk: þú ert mikilvægur fyrirspurnarfélagi óháðs endurskoðanda. Verkefni þitt er ekki að SEMJA mér, heldur að reyna að HAFA úttakinu mínu.Samhengi: Hér fyrir neðan er niðurstaða mín af greiningarferli og bráðabirgðaniðurstaða mín.[niðurstöðutexti]Verkefni:1) Nefndu 3 líklegastar aðstæður þar sem þessi niðurstaða gæti verið RÖNG.2) Fyrir hverja atburðarás: "ef þetta væri satt, hvaða sönnunargögn myndu sýna það?" Stingdu upp á áþreifanlegum, leitanlegum sönnunargögnum. 3) Merktu við öll gögn eða forsendur sem ég gæti hafa misst af. 4) Ekki búa til setningar sem eru sammála mér; Þér er falið að finna veika punkta. Merktu „óþekkt“ þar sem þú ert ekki viss.
Þessi tilvitnun er öflug vegna þess að hún snýr við hlutverki gervigreindar (afsláttar), krefst öflunarsviðsmynda og leitarhæfra sönnunargagna, og bannar tungumál sem leitar staðfestingar. Þetta setur gervigreind í þjónustu efahyggju frekar en tæki til staðfestingar hlutdrægni.
Algeng mistök
- Spyrja spurninga til að leita samþykkis. "Það er allt í lagi, ekki satt?" með því að spyrja og tryggja umsamið svar.
- Misvísandi reiprennsli fyrir nákvæmni. Samþykkja vel skrifuð, örugg framleiðsla án spurninga.
- Vertu sáttur við eitt staðfestingardæmi. Loka með fyrstu stuðningsuppgötvuninni, án þess að reyna að hrekja hana.
- Að framselja ófrávíkjanlega lögsögu. Láta ákvörðun um nægjanlegt sönnunargögn, sanngirni, álit í hendur gervigreindar.
- Að sleppa tortryggni í tímapressu. Leitaðu skjóls í huggulegu svari gervigreindar þegar þú ert fastur.
Varúð: Tímapressa er mesti óvinur efahyggjunnar og gervigreind verður hættulegast við þessa þrýsting; vegna þess að það býður þér hratt, reiprennandi og hughreystandi svar. Gerðu það að nauðsyn að spyrja afneitunarinnar þegar þú ert að flýta þér.
Í stuttu máli
Fagleg efahyggja er kjarninn í endurskoðun og verður enn mikilvægari á tímum gervigreindar. Gervigreind kallar fram þrjá veikleika: ofskynjanir (bætir það upp), sjálfvirkni hlutdrægni (við trúum því vegna þess að það er fljótandi), staðfestingarskekkju (við efum það ekki vegna þess að það segir það sem við vonumst eftir). Mótefnið er að flýta sér að afsanna gervigreind, ekki staðfesta það: „ef þetta er rangt, hvaða sönnunargögn myndu sýna það? ' og leita að gagnstæðum sönnunargögnum, spyrja hlutlægt og afturábak, endurskapa hverja útkomu frá upprunanum. Dómar eins og nægjanleg sönnunargögn, sanngirni, hætta á svikum og álitsdómur krefjast efasemda og eru ekki framseljanlegir. Flutningur er ekki nákvæmni; Efahyggjuhugurinn er þinn.
Umsóknarverkefni
Fáðu úttektarniðurstöðu þína (eða ímyndaða niðurstöðu). Spyrðu gervigreindina fyrst með "staðfestingarleitar" veikri spurningu, síðan með "afsönnun" sterku hvetjandi mynstrinu hér að ofan. Settu þessar tvær niðurstöður hlið við hlið og skrifaðu niður muninn: hvaða áhættur komu aðeins í ljós með öflunarspurningunni? Bættu síðan við tveimur athugasemdum við hverja lykilkröfu í úttakinu þínu: "hvað staðfesti ég með" og "hvaða sönnunargögn myndu sýna ef það væri rangt".
gátlisti
- [ ] Ég spurði AI hrekja/hlutlausu spurninganna, ekki staðfestingarleitar.
- [ ] Fyrir hverja marktæka niðurstöðu, „ef þetta er rangt, hvaða sönnunargögn myndu sýna það? Ég spurði spurningarinnar og leitaði að sönnunargögnum.
- [ ] Ég prófaði úttakið, sem virtist slétt og öruggt, með auka tortryggni.
- [ ] Ég hætti ekki með eitt staðfestingardæmi; Ég reyndi að hrekja það en mistókst.
- [ ] Ég gerði mína eigin dóma eins og nægjanleg sönnunargögn, sanngirni og skoðun.
- [ ] Jafnvel undir tímapressu sleppti ég ekki andmælaspurningunni.
- [ ] Við hliðina á mikilvægum fullyrðingum skrifaði ég athugasemdir um "hvað ég staðfesti með / hvað myndi sýna ef það væri rangt".