Mashaka ya Kitaalam na Akili Bandia: Upendeleo wa Uthibitisho, Udanganyifu, na Uchunguzi Muhimu.

Faida:

• Kuelewa mashaka ya kitaalam ni nini na hatari za kuanguka katika upendeleo wa uthibitisho na upendeleo wa kiotomatiki wakati wa kutumia akili ya bandia.
• Uwezo wa kujaribu matokeo ya akili ya bandia na mbinu ya kuuliza ambayo inajaribu kukanusha (tafuta kinyume)
• Kuwa na uwezo wa kuelewa kwamba ufasaha wa akili ya bandia haimaanishi usahihi, kwamba akili ya wasiwasi ni msingi wa udhibiti na haiwezi kuhamishwa.

Kuna mtazamo mmoja wa kiakili unaotofautisha ukaguzi huru kutoka kwa taaluma zingine nyingi: mashaka ya kitaalam. ISAs hufafanua hili kama mkaguzi anayefanya kazi "kwa akili ya kudadisi, akibainisha kama ushahidi unaonyesha uwezekano wa taarifa zisizo sahihi, na kutathmini kwa kina ushahidi." Hiyo ni, mkaguzi hakubali moja kwa moja taarifa yoyote iliyotolewa kwake-si taarifa ya usimamizi, si hati, hata akaunti ambayo "inaonekana kuwa sawa" - kuwa kweli. Mimi daima kujiuliza "Je, ni kweli hivyo?" anauliza. Mtazamo huu ndio msingi wa udhibiti na hauwezi kuondolewa.

Katika umri wa akili ya bandia, msingi huu unakabiliwa na mtihani mpya kabisa. Kwa sababu AI ni mahiri katika kuchochea udhaifu wa akili wa mwanadamu - upendeleo wa kiotomatiki na upendeleo wa uthibitisho. Katika kitengo hiki, tutaangazia jinsi mkaguzi anayetumia AI anaweza kudumisha au hata kuimarisha mashaka yake. Thesis kuu ni kwamba ufasaha wa AI sio usahihi; Akili yenye mashaka inakuwa muhimu zaidi mbele ya AI.

Upendeleo mbili hatari

Upendeleo wa kiotomatiki ni tabia ya watu kuamini matokeo ya mashine/programu kuliko uamuzi wao wenyewe. "Kompyuta ilihesabu, ni sawa." Hatari hii inakuzwa inapokuja kwa AI, kwa sababu AI haihesabu tu; Huzungumza sentensi fasaha, zenye kujiamini, zinazofanana na za kibinadamu. Toni ya kujiamini inashawishi hata ikiwa habari si sahihi.

Upendeleo wa uthibitisho ni tabia ya watu kutafuta habari inayounga mkono hitimisho ambalo waliamini au walitarajia hapo awali na kupuuza habari zinazokinzana. Hii ni mbaya katika ukaguzi: Mkaguzi anayefikiria "Mteja huyu lazima awe msafi" atafarijika atakapouliza AI na kupata uthibitisho, na ataacha kutafuta ushahidi kinyume chake. Kwa sababu AI inaelekea kuegemea kwenye swali linaloulizwa (ukiuliza “ni sawa, sawa?” kuna uwezekano mkubwa wa kutoa jibu linalokubaliana nawe), inaweza kukuza upendeleo wa uthibitishaji.

Pia kuna ya tatu: hallucination. Tuliiona mara nyingi kwenye moduli - AI inaweza kuunda nambari, bidhaa, rasilimali ambayo haipo kwa ufasaha. Hatari huchangiwa pale madhaifu matatu yanapounganishwa: AI hutengeneza mambo (hallucination), unaamini kwa sababu ni maji (automation bias), hauhoji kwa sababu inakuambia kile unachotarajia (upendeleo wa uthibitisho).

Zana tatu za akili yenye shaka dhidi ya AI

Wacha tuweke mashaka katika mbinu thabiti dhidi ya AI:

1. Jaribu kukataa, sio kuthibitisha. AI inaweza kuuliza matokeo yake "ni kweli?" si "nitajuaje kama hii si sahihi?" swali. Jiulize: “Kama taarifa hii ingekuwa ya uwongo, ni uthibitisho gani ungeonyesha?” na kutafuta ushahidi huo. Ni rahisi kupata mfano mmoja wa kuthibitisha; Kujaribu kukanusha na kushindwa kunatoa hakikisho la kweli.
2. Uliza kwa upande wowote na nyuma. Uliza AI "hakuna shida hapa, sawa?" Usiulize; hii inakaribisha jibu la kuidhinisha. Badala yake, "ni hatari gani ambazo huenda nilikosa katika data hii?" na "ni hali gani tatu zinazowezekana zaidi ambazo matokeo haya yanaweza kuwa mabaya?" uliza. Uliza swali moja kutoka pande mbili tofauti na ulinganishe majibu.
3. Pakua hadi chanzo na uzalishe tena. Kwa kila toleo, maelezo na hitimisho, "ni wapi ninaweza kuthibitisha hili kwa kujitegemea?" Uliza swali na uthibitishe. Tazama matokeo ya AI kama madai; Ushahidi uko nje ya madai.

Kidokezo: Jenga mazoea: Karibu na kila matokeo muhimu ambayo AI inatoa, andika vitu viwili kwa mkono - "(1) nilithibitisha nini hii, (2) ni ushahidi gani ungeonyesha hii ikiwa ni ya uwongo." Vidokezo hivi viwili vinavunja upendeleo wa kiotomatiki na uthibitishaji.

Hukumu ambazo mkaguzi hawezi kukasimu

Baadhi ya kazi kwa asili zinahitaji mashaka na uamuzi; hizi haziwezi kukabidhiwa kwa AI, zinaungwa mkono tu:

mamlaka isiyoweza kuondolewa

Kwa nini

Ikiwa ushahidi unatosha na unafaa

Hukumu ya kitaaluma; kutegemea muktadha

Usahihi wa maelezo

Inahitaji kuzingatia biashara na nia

Tathmini ya hatari ya udanganyifu

Mashaka na Intuition; zaidi ya muundo wa data

Uamuzi wa nyenzo na maoni

Mahakama inayowajibika kwa umma

Maoni juu ya uaminifu wa usimamizi

Kusoma tabia ya mwanadamu; AI siwezi kufanya hivi

Tofauti kati ya mashaka na pedantry: mtazamo uliopimwa

Mashaka ya kitaaluma haimaanishi kutoamini kila kitu au kulaumu usimamizi mapema; Hili litakuwa ni unyanyasaji na litafanya udhibiti kutofanya kazi. Mashaka si imani tupu (kukubali kila kitu unachoambiwa) wala kukataa kipofu (kukataa kila kitu); Katikati, ni mtazamo wa uchunguzi unaolingana na ushahidi. Mkaguzi anaweza kukubali usimamizi kama waaminifu, lakini anajaribu kukubalika huku kwa ushahidi; inaweza kupata maelezo kuwa yenye kusadikika, lakini inathibitisha kusadikika. AI inaweza kuvuruga usawa huu: kwa mwelekeo mmoja, inakuwezesha kujiamini kupita kiasi na pato lake la maji; Kwa upande mwingine, ukiiambia "tafuta makosa katika kila kitu" itakuletea matokeo chanya ya uwongo yasiyoisha. Mtazamo sahihi ni kupima matokeo kila wakati dhidi ya uzito wa ushahidi, wakati wa kuendesha AI ili kutoa ushahidi na kukanusha ushahidi. Kutilia shaka si hulka ya utu, bali ni njia yenye nidhamu ya kufanya kazi; Na mkaguzi ndiye anayeanzisha, kudumisha na kuthibitisha nidhamu hii, sio AI.

kesi tatu ndogo

Kesi ya 1 - Mbinu ya kukataa inafanya kazi. Mkaguzi alichapisha AI akisema "tathmini hii ya hisa inaonekana sawa." Badala ya kuthibitisha, aliuliza hivi kwa ubishi: “Ikiwa hesabu hii imezidishwa, ni uthibitisho gani unaoonyesha hilo?” "vitu ambavyo bei zake baada ya mauzo hushuka chini ya gharama," YZ alisema. Mkaguzi alitafuta vitu hivi na kupata kikundi ambacho hakikuwa na thamani. Swali la kukanusha lilifichua hatari ambayo uthibitisho ulifichwa.

Kesi ya 2 - Kuanguka katika upendeleo wa uthibitisho. Mshiriki wa timu aliuliza AI wakati wa shida, "hakuna chochote kibaya na akaunti hii, sivyo?" Aliuliza. YZ aliegemea swali na kusema, "Kulingana na maelezo uliyotoa, inaonekana hakuna tatizo kubwa." Mshiriki wa timu alilegea na kufunga kalamu. Hata hivyo, hakuwa amewasilisha ushahidi wowote; AI iliakisi tu sentensi yake. Aliyehusika alionyesha kuwa swali halikuulizwa bila upendeleo. Somo: jinsi unavyouliza swali huamua jibu unalopata; Swali linalotafuta uthibitisho hutoa uthibitisho.

Kesi ya 3 - Kuanguka kwa ufasaha. Mkaguzi alifikiri kwamba tafsiri ya sheria ambayo YZ aliielezea kwa ufasaha sana na aya yenye hoja ilikuwa sahihi na iliijumuisha kwenye karatasi ya kufanyia kazi. Maandishi yalikuwa nadhifu sana hata hakuingia akilini kuyahoji. Mtu aliyehusika alionyesha kuwa marejeleo hayana sawa katika maandishi rasmi. Somo: ufasaha na kujiamini sio uthibitisho wa usahihi; Matokeo ambayo yanaonekana kushawishi zaidi yanaweza kuwa hatari zaidi.

Mwongozo dhaifu / Mwongozo thabiti

Agizo dhaifu:

Uchambuzi huu ni sahihi, sivyo? Je, unaidhinisha?

Tatizo: swali la upendeleo ambalo linatafuta uthibitisho. Inasukuma AI kujiunga nawe; Inakuza upendeleo wa uthibitisho na huficha hatari ya kweli.

Agizo lenye nguvu:

Jukumu lako: wewe ni mshirika huru wa uchunguzi muhimu wa mkaguzi. Jukumu lako si KUKUBALIANA nami, bali kujaribu KUKATAA matokeo yangu.Muktadha: Hapa chini ni hitimisho langu la utaratibu wa uchanganuzi na hitimisho langu la majaribio.[maandishi ya matokeo]Kazi:1) Orodhesha matukio 3 ambayo yanaweza kuwa ya UONGO.2) Kwa kila kisa: "ikiwa hii ingekuwa kweli, ni ushahidi gani ungeonyesha?" Pendekeza ushahidi thabiti, unaoweza kutafutwa. 3) Weka alama kwenye data au mawazo ambayo huenda nimekosa. 4) Usitunge sentensi zinazokubaliana nami; Una kazi ya kutafuta pointi dhaifu. Weka alama "haijulikani" ambapo huna uhakika.

Kidokezo hiki ni chenye nguvu kwa sababu kinabadilisha jukumu la AI (kanusho), inayohitaji matukio ya kukanusha na ushahidi unaoweza kutafutwa, na kukataza lugha ya kutafuta uthibitisho. Hii inaweka AI katika huduma ya kutilia shaka badala ya chombo cha upendeleo wa uthibitisho.

Makosa ya kawaida

• Kuuliza maswali kutafuta kibali. "Ni sawa, sawa?" kwa kuuliza na kuhakikisha jibu lililokubaliwa.
• Kukosea ufasaha kwa usahihi. Kukubali matokeo yaliyoandikwa vizuri, yenye ujasiri bila swali.
• Ridhika na mfano mmoja wa uthibitisho. Kufunga na kutafuta kwanza kuunga mkono, bila kujaribu kukanusha.
• Kukasimu mamlaka isiyoweza kutenganishwa. Kuacha uamuzi wa utoshelevu wa ushahidi, busara, maoni kwa AI.
• Kuacha mashaka chini ya shinikizo la wakati. Kukimbilia katika jibu la kufariji la AI wakati umekwama.

Tahadhari: Shinikizo la wakati ni adui mkubwa wa mashaka, na AI inakuwa hatari zaidi chini ya shinikizo hili; kwa sababu inakupa jibu la haraka, fasaha na la kufariji. Fanya iwe lazima kuuliza swali la kukanusha wakati uko katika haraka.

Kwa muhtasari

Mashaka ya kitaaluma ni msingi wa ukaguzi na inakuwa muhimu zaidi katika umri wa AI. AI inasababisha udhaifu tatu: ufahamu (hutengeneza), upendeleo wa kiotomatiki (tunaamini kwa sababu ni majimaji), upendeleo wa uthibitisho (hatuulizi kwa sababu inasema kile tunachotarajia). Dawa ni kukimbilia kukanusha AI, sio kuithibitisha: "ikiwa hii ni uwongo, ni ushahidi gani ungeonyesha?" ' na kutafuta ushahidi kinyume, kuuliza kwa lengo na nyuma, kuzaliana kila matokeo kutoka kwa chanzo. Hukumu kama vile utoshelevu wa ushahidi, usawaziko, hatari ya ulaghai na uamuzi wa maoni zinahitaji kutiliwa shaka na haziwezi kuhamishwa. Ufasaha si usahihi; Akili ya mashaka ni yako.

Jukumu la maombi

Pata matokeo yako ya ukaguzi (au matokeo ya dhahania). Uliza AI kwanza kwa swali dhaifu la "kutafuta uthibitisho", kisha kwa muundo wa haraka wa "kukataa" hapo juu. Weka matokeo mawili kwa upande na uandike tofauti: ni hatari gani zilifunuliwa tu na swali la kukataa? Kisha ongeza madokezo mawili karibu na kila dai la ufunguo kwenye pato lako: "nilithibitisha nini" na "ushahidi gani ungeonyesha ikiwa ni uwongo".

orodha ya ukaguzi

• [ ] Niliuliza maswali ya AI ya kukanusha/ya upande wowote, sio maswali ya kutafuta uthibitisho.
• [ ] Kwa kila tokeo muhimu, "ikiwa hii ni uwongo, ni ushahidi gani ungeonyesha?" Niliuliza swali na kutafuta ushahidi.
• [ ] Nilijaribu matokeo, ambayo yalionekana kuwa laini na ya kujiamini, kwa mashaka ya ziada.
• [ ] Sikuacha na mfano mmoja wa uthibitisho; Nilijaribu kukanusha lakini nilishindwa.
• [ ] Nilifanya maamuzi yangu mwenyewe kama vile utoshelevu wa ushahidi, busara, na maoni.
• [ ] Hata chini ya shinikizo la muda, sikuruka swali la kukanusha.
• [ ] Kando ya madai muhimu, niliandika maelezo ya "kile nilichothibitisha nacho / ni nini kitaonyesha ikiwa si sahihi".