Hagnaður:
- Geta gert sér grein fyrir hvers vegna gervigreind gerir mistök í stærðfræði (að vera tungumálalíkan, ekki athuga rökfræði) og sjö helstu tegundir villna
- Geta til að útskýra hvers vegna það er brýnt að sannreyna hvert skref með því að skilja að villa breiðist út og nákvæmni er tvöfalt í stærðfræði.
- Hæfni til að beita margþættri sannprófunargrein með skynsemisprófum, stærðarprófun, eftirlitstölum, krossathugun og sjálfstæðum aðferðum
Þessi eining dýpkar hugmyndina í hjarta einingarinnar: hvers vegna og hvernig gerir gervigreind mistök í stærðfræði, hvers konar mistök eru það og hvernig náum við þeim kerfisbundið? Í fyrri einingum höfum við séð sannprófunaraðferðir fyrir hvert efni; Hér söfnum við líffærafræði villanna undir einu þaki. Málið er að þegar þú horfir á gervigreind framleiðsla veltirðu fyrir þér "hvað gæti verið mistök hér?" Það er til að öðlast staðfestingarhugsun sem hugsar í viðbragðsstöðu.
Áminning: ofskynjanir er þegar gervigreind framleiðir af öryggi upplýsingar sem eru í raun ekki sannar. Í stærðfræði birtast ofskynjanir oft í formi "sannfærandi en rangar." Af hverju gerir gervigreind mistök? Vegna þess að það er tungumálalíkan, ekki rökfræðivél - það er að segja, það framleiðir texta með tölfræðilegum mynstrum, athugar það ekki rökrétt réttmæti skrefanna. "Þriggja stafa margföldun" og "gild sönnun" eru fyrir hann það verkefni að framleiða sams konar texta; Það hefur engan innri vélbúnað til að tryggja nákvæmni.
Líffærafræði stærðfræðivillna: sjö tegundir
Eftirfarandi listi yfir tegundir tekur saman algengustu villurnar sem þú munt lenda í í gervigreindarframleiðslu og móteitur fyrir hverja.
Villutegund
Hvernig lítur það út
móteitur
reiknivillu
Talnavilla eins og 7×8=54
Reiknivél/SymPy
merki villa
−(a−b)=−a−b
Opnaðu nafnið mitt handvirkt
Tilbúin setning
nafn setningar sem ekki er til
Staðfesting frá heimildarmanni
Regla ranglega beitingu
Ekki gleyma keðjureglunni
"Hvaða regla?" spurningu
Sleppt stöðu
Hunsa neikvæðu rótina
Listaðu allar stöður
sönnunargap
„Þess vegna“ án rökstuðnings
Spyrja hvern gang
Gömul/röng gögn
úreltar upplýsingar
uppspretta
Hvers vegna krefst stærðfræði sérstaka athygli?
Á flestum sviðum hafa lítil mistök litlar afleiðingar. Í stærðfræði dreifist villan og stækkar. Formerkjavilla í fyrstu línu jöfnu gerir næstu tíu línur og lokaniðurstaðan algjörlega röng. Bil í miðri sönnun gerir alla sönnunina ógilda. Þessi „viðkvæmni“ gerir það að verkum að nauðsynlegt er að sannreyna hvert skref í stærðfræði - „almennt séð virðist satt“ er ekki nóg.
Þar að auki, sannleikur í stærðfræði er tvískiptur: niðurstaða er annað hvort sönn eða ósönn, það er ekkert þar á milli. „Áttatíu prósent nákvæm“ getur talist ásættanlegt í textasamantekt; Það er ekkert til sem heitir „80 prósent rétt“ í heild – annað hvort er það rétt niðurstaða eða ekki. Þetta tvíþætta eðli gerir sannprófun bæði mikilvægari og (sem betur fer) mögulegri: niðurstaðan annað hvort stenst sannprófun eða ekki.
Skref fyrir skref: aga kerfisbundinnar sannprófunar
1. Staðfestu hverja tölulega niðurstöðu með tóli. Aldrei yfirgefa reikning til að treysta á gervigreind; SymPy, reiknivél eða í höndunum.
2. Athugaðu hverja táknræna niðurstöðu með SymPy. Heild, afleiða, einfalda, jöfnu - allt er hægt að sannreyna með SymPy.
3. Staðfestu hverja setningu/formúlu frá heimildinni. Er nafn og orðatiltæki rétt? Tilbúnar setningar eru lævíslegasta gildran.
4. Spurðu hvert atvik í hverri sönnun. "Fylgir þetta virkilega af fyrra skrefi?" Grunntilvik, óbein forsenda, bilathugun.
5. Athugaðu og mótathugaðu. Öfug aðgerð, útskipti, markaástand, víddargreining.
6. Settu það á skynsemispróf. Er niðurstaðan sanngjörn? Ef líkur eru meiri en 1 er villa ef lengd er neikvæð.
Ábending: Fljótlegasta skynsemisprófið er „stærðarmælikvarðinn“. Er niðurstaðan nokkurn veginn innan væntanlegra marka? Ef bekkjarmeðaltal er 250 (af 100), eða líkurnar eru 3,5, muntu vita að það er villa án þess að skoða smáatriðin. Þessi 5 sekúndna athugun útilokar margar fáránlegar niðurstöður í brjóstinu.
þrjú smámál
Tilfelli 1 - Keðjumerkisvilla. Einn nemandi komst að því að í 8 lína algebrulegri einföldun breiddist táknvilla sem gervigreindin gerði í línu 2 til næstu 6 lína. Lokaniðurstaðan var algjörlega röng, en gervigreindin kynnti hana af fullu öryggi. Þegar nemandinn einfaldaði það frá grunni með SymPy fékkst rétt niðurstaða og gerði gervigreindinni kleift að finna villuna í 2. línu. Eitt skilti vísaði á bug 6 línum.
Mál 2 - Skynsemin bjargaði prófinu. Kennari lét AI leysa líkindavandamál; Niðurstaðan var 1,4. Án þess að skoða smáatriðin sagði kennarinn „líkurnar geta ekki verið meiri en 1“ og leitaði að villunni: gervigreindin hafði safnað óákveðnum atburðum eins og þeir væru stakir. Skynsemispróf benti á villuna innan nokkurra sekúndna.
Tilfelli 3 — Tilbúin formúla. Verkfræðingur bað gervigreindina um „lokaða formúlu“ fyrir röð summan. AI hefur gefið sannfærandi formúlu. Verkfræðingurinn prófaði formúluna fyrir lítið gildi n (n=3) bæði með formúlu og handsamsetningu; Úrslitin stóðu ekki saman. Formúlan var gerð. Smá lagfæringar komu í veg fyrir ótímabundna misnotkun.
Fjögur afritanleg sniðmát
1) Marglaga staðfestingarbeiðni:
Þú fannst: [niðurstaða]. Staðfestu þetta nú á ÞRJÁ mismunandi vegu: (1) að hassa það öfugt, (2) prófa einfalt sérsniðið gildi, (3) einhvern kóða til að athuga með SymPy (ég mun sjá úttakið). Segðu mér hvort allar þrjár leiðirnar séu í samræmi; Ef ekki, sýndu hvaða skref er með villu.
2) Skynsemi/stöðupróf:
Þú fannst: [niðurstaða]. Prófaðu skynsemisprófið til að sjá hvort þessi niðurstaða sé RÁÐLEG: hver er væntanleg stærðarröð, er táknið rétt, er það innan marka (t.d. líkur 0-1)? Ef það er ekki sanngjarnt skaltu kanna hvar það gæti verið mistök.
3) Staðfesting á setningu/formúlu:
Er [setningin/formúlan] sem þú notar virkilega staðlað og rétt? Skrifaðu staðlaða tjáningu þess og skilyrði. Sýndu reikning sem prófar þetta með litlu úrtaki (t.d. n=3). Ef þetta er tilbúið formúla eða eitthvað sem þú ert ekki viss um, segðu það skýrt.
4) Villuhamsgreining:
Ég veit að það er galli í lausninni hér að neðan. Athugaðu þessar villutegundir eina í einu: reikningur, tákn, röng regla, sleppt ástandi, lén. Segðu mér hvers konar villu það er og í hvaða skrefi. Lausn: [hér]
Veik kvaðning / Sterk kvaðning
Veik: "Er þessi niðurstaða rétt?" [líma niðurstöðuna]
Niðurstaða: gervigreind segir oft „já rétt“ (tilhneiging til að staðfesta eigin framleiðsla); óáreiðanlegt vegna þess að það er engin óháð úttekt.
Sterkt: "ATHUGIÐ þessa niðurstöðu á óháðan hátt: notaðu aðra lausn eða athugaðu með SymPy kóða (ég mun keyra kóðann). Ekki segja bara 'true/false'; sýndu hvaða athugun þú gerðir og niðurstöðuna. Ef athugunarsumman mistekst, finndu villuna."
Niðurstaða: Óháð eftirlitsaðferð er mótmælt; Komið er í veg fyrir að gervigreind samþykki í blindni eigin framleiðslu.
Algeng mistök
- Að fá gervigreindina til að sannreyna eigin framleiðsla. "Er þetta satt?" AI staðfestir oft eigin mistök; Óháð aðferð er nauðsynleg.
- Sleppa skynsemisprófinu. Það er hægt að grípa vitleysu eins og líkur meiri en 1 og lengd neikvæð án þess að skoða smáatriðin.
- Að treysta á einni staðfestingu. Notaðu margar óháðar slóðir (kássa + SymPy + sérsniðið gildi) fyrir mikilvægar niðurstöður.
- Ekki prófa formúlur með litlum sýnum. Tilbúnar formúlur hrynja strax við lítil gildi eins og n=2, n=3.
- Gleymdi því að villan er dreift. Villa í fyrstu línu skemmir alla niðurstöðuna; Ef þú finnur villu skaltu athuga hana frá upphafi.
Varúð: Það er engin fylgni á milli sjálfstrausts gervigreindar og nákvæmni þess. Sú setning sem virðist ákveðnust, reiprennust, „öruggust“ getur mjög vel verið algjörlega röng. Treystu óháðri sannprófun, ekki tóni. Líttu aðeins á niðurstöðuna „sanna“ þegar þú staðfestir hana með hendi eða með ákvörðunartæki - ekki vegna þess að gervigreindin segir „víst“.
Í stuttu máli
Gervigreind gerir mistök í stærðfræði vegna þess að það er tungumálalíkan sem framleiðir texta tölfræðilega, ekki vél sem stjórnar rökfræði. Villur falla í sjö megingerðir: reikning, tákn, tilbúna setningu, ranga beitingu reglu, falli sem sleppt hefur verið, sönnunarbil, gamaldags gögn. Í stærðfræði dreifist villan og stækkar, sannleikurinn er tvöfaldur - svo hvert skref verður að vera sannreynt. Kerfisbundin aga: sannreyndu hvert talnaverkfæri, hverja táknræna niðurstöðu með SymPy, sérhverja setningu frá upprunanum, hverja sönnun sem er framhjá spurningum; Notaðu ávísun, gagnathugun og skynsemispróf. Sjálfstraust gervigreindar er ekki sönnun um nákvæmni.
Umsóknarverkefni
Veldu vandamál með lausn af miðlungs lengd (að minnsta kosti 6-8 skref) og láttu gervigreindina leysa það. Gerðu síðan marglaga sannprófun með því að nota mynstur 1 og 4 úr þessari einingu: (a) skynsemi/stöðuprófun, (b) athuga með SymPy, (c) prófa á sérstöku gildi. Farðu síðan í gegnum lausnina línu fyrir línu með vísvitandi „gallaveiði“ auga og athugaðu hverjar af sjö tegundum villna gætu átt sér stað. Skráðu hverja villu sem þú finnur ásamt gerð hennar.
gátlisti
- [ ] Ég staðfesti hverja tölulega niðurstöðu með ákvörðunartæki.
- [ ] Ég athugaði hverja táknræna niðurstöðu með SymPy.
- [ ] Ég sannreyndi setninguna/formúluna sem notuð var úr heimildinni eða með litlu dæmi.
- [ ] Ég beitti skynsemi/stærðarprófinu.
- [ ] Ég endurskoðaði það á óháðan hátt (án þess að treysta á samþykki gervigreindar).
- [ ] Þegar ég fann villu athugaði ég lausnina aftur frá upphafi.