Faida:
- Kuwa na uwezo wa kutambua kwa nini akili ya bandia hufanya makosa katika hisabati (kuwa kielelezo cha lugha, si kuangalia mantiki) na aina saba kuu za makosa.
- Uwezo wa kueleza kwa nini ni muhimu kuthibitisha kila hatua kwa kuelewa kwamba makosa yanaenezwa na usahihi ni wa binary katika hisabati.
- Uwezo wa kutumia nidhamu ya uthibitishaji wa tabaka nyingi kupitia upimaji wa akili ya kawaida, mpangilio wa ukaguzi wa ukubwa, ukaguzi, ukaguzi na njia huru.
Kitengo hiki kinaongeza wazo katika moyo wa moduli: kwa nini na jinsi gani AI hufanya makosa katika hisabati, ni aina gani za makosa haya na jinsi gani tunayapata kwa utaratibu? Katika vitengo vilivyotangulia, tumeona mbinu za uthibitishaji kwa kila mada; Hapa tunakusanya anatomy ya makosa chini ya paa moja. Jambo ni kwamba, unapoangalia pato la AI unajiuliza "ni kosa gani linaweza kuwa hapa?" Ni kupata mawazo ya uthibitisho ambayo hufikiri kwa kutafakari.
Kikumbusho: Maoni ni wakati AI hutoa habari ambayo si kweli. Katika hisabati, hallucination mara nyingi inaonekana kwa namna ya "kushawishi lakini uongo." Kwa nini AI hufanya makosa? Kwa sababu ni mfano wa lugha, si injini ya mantiki - yaani, hutoa maandishi na mifumo ya takwimu, haiangalii uhalali wa kimantiki wa hatua. "Kuzidisha kwa tarakimu 3" na "uthibitisho halali" ni kwake kazi ya kuzalisha aina moja ya maandishi; Haina utaratibu wa ndani wa kuhakikisha usahihi.
Anatomy ya makosa ya hisabati: aina saba
Orodha ifuatayo ya aina ni muhtasari wa makosa ya kawaida utakayokumbana nayo katika utoaji wa AI na kinza kwa kila moja.
Aina ya hitilafu
Inaonekanaje
dawa
makosa ya hesabu
Hitilafu ya nambari kama 7×8=54
Kikokotoo/SymPy
kosa la ishara
−(a-b)=−a-b
Fungua jina langu mwenyewe
Nadharia iliyotengenezwa
jina la nadharia ambayo haipo
Uthibitisho kutoka kwa chanzo
Utumizi mbaya wa kanuni
Usisahau kanuni ya mnyororo
"Kanuni ipi?" swali
Hali iliyoruka
Puuza mzizi hasi
Orodhesha hali zote
pengo la ushahidi
"Kwa hiyo" bila kuhesabiwa haki
Kuhoji kila pasi
Data ya zamani/isiyo sahihi
habari zilizopitwa na wakati
vyanzo
Kwa nini hisabati inahitaji uangalifu maalum?
Katika maeneo mengi, kosa dogo lina matokeo madogo. Katika hisabati, makosa huenea na kukua. Hitilafu ya ishara katika mstari wa kwanza wa equation hufanya mistari kumi inayofuata na matokeo ya mwisho kuwa mabaya kabisa. Pengo katikati ya uthibitisho hufanya uthibitisho wote kuwa batili. "Udhaifu" huu hufanya iwe muhimu kuthibitisha kila hatua katika hisabati - "kuzungumza kwa ujumla inaonekana kuwa kweli" haitoshi.
Zaidi ya hayo, ukweli katika hisabati ni wa binary: matokeo ni ya kweli au ya uongo, hakuna kati. "Asilimia themanini sahihi" inaweza kuchukuliwa kuwa inakubalika katika muhtasari wa maandishi; Hakuna kitu kama "asilimia themanini sahihi" katika muhtasari-ama ni matokeo sahihi au sivyo. Asili hii ya aina mbili hufanya uthibitishaji kuwa muhimu zaidi na (kwa bahati nzuri) iwezekanavyo zaidi: matokeo yanaweza kupita uthibitishaji au hayafanyi.
Hatua kwa hatua: nidhamu ya uthibitishaji wa kimfumo
1. Thibitisha kila matokeo ya nambari kwa chombo. Usiache kamwe hesabu ili kutegemea AI; SymPy, kikokotoo au kwa mkono.
2. Angalia kila matokeo ya ishara kwa SymPy. Integral, derivative, kurahisisha, equation-yote yanaweza kuthibitishwa na SymPy.
3. Thibitisha kila nadharia/formula kutoka kwa chanzo. Je, jina na usemi ni sahihi? Nadharia zilizoundwa ndio mtego wa siri zaidi.
4. Swali kila tukio katika kila uthibitisho. "Je, hii inafuata hatua ya awali?" Kesi ya msingi, dhana isiyo wazi, ukaguzi wa pengo.
5. Angalia na countercheck. Uendeshaji kinyume, uingizwaji, hali ya kikomo, uchambuzi wa dimensional.
6. Weka kwenye mtihani wa akili ya kawaida. Je, matokeo ni ya kuridhisha? Ikiwa uwezekano ni mkubwa kuliko 1, kuna hitilafu ikiwa urefu ni hasi.
Kidokezo: Jaribio la haraka zaidi la akili ya kawaida ni ukaguzi wa "mpangilio wa ukubwa". Je, matokeo ni takriban ndani ya masafa yanayotarajiwa? Ikiwa wastani wa darasa ni 250 (kati ya 100), au uwezekano ni 3.5, utajua kuna hitilafu bila kuangalia maelezo. Cheki hiki cha sekunde 5 huondoa matokeo mengi ya ujinga kwenye bud.
kesi tatu ndogo
Kesi ya 1 - Hitilafu ya ishara ya mnyororo. Mwanafunzi mmoja aligundua kuwa katika kurahisisha aljebra ya mistari 8, kosa la ishara ambalo AI ilifanya kwenye mstari wa 2 lilienea kwa mistari 6 inayofuata. Matokeo ya mwisho hayakuwa sawa kabisa, lakini AI iliwasilisha kwa ujasiri kamili. Mwanafunzi aliporahisisha kutoka mwanzo na SymPy, matokeo sahihi yalipatikana na kuruhusu AI kupata hitilafu kwenye mstari wa 2. Ishara moja ilikanusha mistari 6.
Kesi ya 2 - Akili ya kawaida iliokoa jaribio. Mwalimu alikuwa na AI kutatua tatizo la uwezekano; Matokeo yalikuwa 1.4. Bila kuangalia maelezo, mwalimu alisema "uwezekano hauwezi kuwa mkubwa kuliko 1" na akatafuta kosa: AI ilikuwa imekusanya matukio yasiyo ya kipekee kana kwamba yalikuwa tofauti. Jaribio la akili ya kawaida lilionyesha kosa ndani ya sekunde.
Kesi ya 3 - formula iliyoundwa. Mhandisi aliuliza AI "fomula iliyofungwa" ya jumla ya mfululizo. AI imetoa fomula ya kushawishi. Mhandisi alijaribu fomula kwa thamani ndogo ya n (n=3) kwa fomula na kwa kuongeza kwa mkono; Matokeo hayakulingana. Fomula iliundwa. Kurekebisha kidogo kulizuia saa za matumizi mabaya.
Violezo vinne vinavyoweza kunakiliwa
1) Ombi la uthibitishaji wa tabaka nyingi:
Umepata: [matokeo]. Sasa thibitisha hili kwa njia TATU tofauti: (1) kuharakisha kinyume, (2) kupima thamani rahisi maalum, (3) msimbo fulani ili kuangalia na SymPy (nitaona matokeo). Niambie ikiwa njia zote tatu ni thabiti; Ikiwa sivyo, onyesha ni hatua gani ina hitilafu.
2) Akili ya kawaida/jaribio la cheo:
Umepata: [matokeo]. Weka kwenye jaribio la akili ya kawaida ili kuona ikiwa matokeo haya ni YA AKILI: ni mpangilio gani unaotarajiwa wa ukubwa, je ishara ni sahihi, je, iko ndani ya mipaka (k.m. uwezekano 0-1)? Ikiwa sio busara, chunguza mahali ambapo kunaweza kuwa na makosa.
3) Uthibitisho wa nadharia / formula:
Je, [nadharia/fomula] unayotumia ni ya kawaida na ni sahihi? Andika usemi wake wa kawaida na masharti. Onyesha akaunti inayojaribu hii kwa sampuli ndogo (k.m. n=3). Ikiwa ni fomula iliyoundwa au jambo ambalo huna uhakika nalo, liseme waziwazi.
4) Utambuzi wa hali ya makosa:
Najua kuna mdudu kwenye suluhisho hapa chini. Angalia aina hizi za makosa moja baada ya nyingine: hesabu, ishara, sheria isiyo sahihi, hali iliyoruka, kikoa. Niambie ni kosa la aina gani na kwa hatua gani. Suluhisho: [hapa]
Mwongozo dhaifu / Mwongozo thabiti
Dhaifu: "Hitimisho hili ni sahihi?" [Bandika matokeo]
Matokeo: AI mara nyingi husema "ndio sawa" (tabia ya kuthibitisha pato lake mwenyewe); isiyotegemewa kwa sababu hakuna ukaguzi huru.
Nguvu: "ANGALIA matokeo haya kwa njia huru: tumia njia tofauti ya kufanya kazi au angalia na msimbo wa SymPy (Nitaendesha msimbo). Usiseme tu 'kweli/sivyo'; onyesha hundi uliyofanya na matokeo. Ikiwa hundi itashindwa, pata hitilafu."
Matokeo: Njia ya udhibiti wa kujitegemea ni changamoto; AI inazuiwa kuidhinisha kwa upofu matokeo yake mwenyewe.
Makosa ya kawaida
- Kupata AI ili kudhibitisha matokeo yake mwenyewe. "Hii ni kweli?" AI mara nyingi huthibitisha kosa lake mwenyewe; Mbinu ya kujitegemea inahitajika.
- Kuruka mtihani wa akili ya kawaida. Upuuzi kama vile uwezekano mkubwa kuliko 1 na urefu kuwa hasi unaweza kupatikana bila kuangalia maelezo.
- Inategemea uthibitishaji mmoja. Tumia njia nyingi huru (heshi + SymPy + thamani maalum) kwenye matokeo muhimu.
- Sio kujaribu fomula na sampuli ndogo. Fomula zilizoundwa huanguka mara moja kwa thamani ndogo kama vile n=2, n=3.
- Kusahau kwamba mdudu huenezwa. Hitilafu katika mstari wa kwanza huharibu matokeo yote; Ukipata hitilafu, iangalie tangu mwanzo.
Tahadhari: Hakuna uwiano kati ya imani ya AI na usahihi wake. Sentensi inayoonekana kuamuliwa zaidi, fasaha zaidi, "uhakika" zaidi inaweza kuwa sio sahihi kabisa. Amini uthibitishaji huru, sio toni. Zingatia tu matokeo ya "kweli" unapoithibitisha kwa mkono au kwa zana ya kuamua - sio kwa sababu AI inasema "hakika."
Kwa muhtasari
AI hufanya makosa katika hisabati kwa sababu ni modeli ya lugha ambayo hutokeza maandishi kitakwimu, si injini inayodhibiti mantiki. Hitilafu huangukia katika aina saba kuu: hesabu, ishara, nadharia iliyoundwa, matumizi mabaya ya sheria, kesi iliyoachwa, pengo la uthibitisho, data ya zamani. Katika hisabati, makosa huenea na kukua, ukweli ni wa aina mbili - kwa hivyo ni lazima kila hatua ithibitishwe. Nidhamu ya kimfumo: thibitisha kila zana ya nambari, kila tokeo la ishara kwa SymPy, kila nadharia kutoka kwa chanzo, kila uthibitisho hupita kwa kuhoji; Tumia hundi, ukaguzi wa kukanusha na upimaji wa akili ya kawaida. Kujiamini kwa AI sio ushahidi wa usahihi.
Jukumu la maombi
Chagua tatizo na ufumbuzi wa urefu wa kati (angalau hatua 6-8) na uwe na AI kutatua. Kisha fanya uthibitishaji wa tabaka nyingi ukitumia ruwaza 1 na 4 kutoka kwa kitengo hiki: (a) majaribio ya akili/cheo, (b) kuangalia na SymPy, (c) kupima thamani maalum. Kisha pitia mstari wa suluhisho kwa mstari na jicho la "kuwinda mdudu" kimakusudi na uangalie ni aina gani kati ya aina saba za makosa zinaweza kutokea. Rekodi kila kosa unalopata pamoja na aina yake.
orodha ya ukaguzi
- [ ] Nilithibitisha kila tokeo la nambari kwa zana ya kubainisha.
- [ ] Niliangalia kila matokeo ya mfano na SymPy.
- [ ] Nilithibitisha nadharia/fomula iliyotumiwa kutoka kwa chanzo au kwa mfano mdogo.
- [ ] Nilitumia akili ya kawaida/agizo la kipimo cha ukubwa.
- [ ] Niliikagua kwa njia huru (bila kutegemea idhini ya AI yenyewe).
- [ ] Nilipopata hitilafu, niliangalia tena suluhisho tangu mwanzo.