Voitot:
- Pystyy tunnistamaan, miksi tekoäly tekee virheitä matematiikassa (olemalla kielimalli, ei tarkista logiikkaa) ja seitsemän pääasiallista virhetyyppiä
- Kyky selittää, miksi on välttämätöntä varmistaa jokainen vaihe ymmärtämällä, että virhe leviää ja tarkkuus on binääristä matematiikassa.
- Kyky soveltaa monitasoista verifiointia tervejärkeen testaamisen, suuruusluokan tarkistuksen, tarkistussummien, ristiintarkistuksen ja itsenäisten menetelmien avulla
Tämä yksikkö syventää moduulin ytimessä olevaa ajatusta: miksi ja miten tekoäly tekee virheitä matematiikassa, minkä tyyppisiä nämä virheet ovat ja miten saamme ne systemaattisesti kiinni? Aiemmissa yksiköissä olemme nähneet kunkin aiheen vahvistusmenetelmiä; Tässä kootaan virheiden anatomia saman katon alle. Pointti on siinä, että kun katsot tekoälytulosta, ihmettelet "mikä tässä voisi olla virhe?" Se on vahvistusmentaliteetti, joka ajattelee refleksiivisesti.
Muistutus: hallusinaatio on, kun tekoäly tuottaa luottavaisesti tietoa, joka ei todellakaan ole totta. Matematiikassa hallusinaatiot esiintyvät usein muodossa "vakuuttava mutta väärä". Miksi tekoäly tekee virheitä? Koska se on kielimalli, ei logiikkamoottori – eli se tuottaa tekstiä tilastollisilla kuvioilla, se ei tarkista vaiheiden loogista oikeellisuutta. "3-numeroinen kertolasku" ja "pätevä todistus" ovat hänelle tehtävänä tuottaa samantyyppinen teksti; Siinä ei ole sisäistä mekanismia, joka takaa tarkkuuden.
Matemaattisten virheiden anatomia: seitsemän tyyppiä
Seuraavassa tyyppiluettelossa on yhteenveto yleisimmistä tekoälytulostuksessa kohtaamistasi virheistä ja vastalääke jokaiselle.
Virhetyyppi
Miltä se näyttää?
vastalääke
aritmeettinen virhe
Numerovirhe kuten 7×8=54
Laskin/SymPy
allekirjoitusvirhe
−(a−b)=−a−b
Avaa nimeni manuaalisesti
Tehty teoreema
olematon lauseen nimi
Vahvistus lähteestä
Säännön virheellinen soveltaminen
Älä unohda ketjusääntöä
"Mikä sääntö?" kysymys
Ohitettu tila
Ohita negatiivinen juuri
Listaa kaikki tilat
todisteiden aukko
"Siksi" ilman perusteluja
Kyseenalaistaa jokaisen passin
Vanhat/virheelliset tiedot
vanhentunutta tietoa
hankinta
Miksi matematiikka vaatii erityistä huomiota?
Useimmilla alueilla pienellä virheellä on pieni seuraus. Matematiikassa virheet leviävät ja kasvavat. Etumerkkivirhe yhtälön ensimmäisellä rivillä tekee seuraavat kymmenen riviä ja lopputuloksesta täysin väärän. Todistuksen keskellä oleva aukko tekee koko todisteesta pätemättömän. Tämä "hauraus" tekee välttämättömäksi tarkistaa jokaisen matematiikan vaiheen - "yleensä ottaen näyttää olevan totta" ei riitä.
Lisäksi totuus matematiikassa on binäärinen: tulos on joko tosi tai epätosi, väliä ei ole. "Kahdeksankymmentä prosenttia tarkka" voidaan pitää hyväksyttävänä tekstiyhteenvedossa; Integraalissa ei ole sellaista asiaa kuin "kahdeksankymmentä prosenttia oikein" – joko se on oikea tulos tai ei. Tämä kaksoisluonne tekee verifioinnista sekä kriittisemmän että (onneksi) mahdollisemman: tulos joko läpäisee verifioinnin tai ei.
Askel askeleelta: systemaattisen verifioinnin kurinalaisuus
1. Vahvista jokainen numeerinen tulos työkalulla. Älä koskaan jätä aritmetiikkaa luottamaan tekoälyyn. SymPy, laskin tai käsin.
2. Tarkista jokainen symbolinen tulos SymPyllä. Integraali, johdannainen, yksinkertaistaminen, yhtälö – kaikki voidaan tarkistaa SymPyllä.
3. Vahvista jokainen lause/kaava lähteestä. Ovatko nimi ja ilmaisu oikein? Keksityt lauseet ovat salakavalisimpia ansa.
4. Kyseenalaista jokainen esiintyminen jokaisessa todistuksessa. "Seuraako tämä todella edellisestä vaiheesta?" Perustapaus, implisiittinen oletus, aukon tarkistus.
5. Tarkista ja vastatarkista. Käänteinen toiminta, substituutio, rajatilat, ulottuvuusanalyysi.
6. Testaa se tervettä järkeä. Onko tulos kohtuullinen? Jos todennäköisyys on suurempi kuin 1, on virhe, jos pituus on negatiivinen.
Vihje: Nopein maalaisjärkin testi on "suuruusjärjestyksen" tarkistus. Onko tulos suunnilleen odotetulla alueella? Jos luokan keskiarvo on 250 (100:sta) tai todennäköisyys on 3,5, tiedät virheen tarkastelematta yksityiskohtia. Tämä 5 sekunnin tarkistus poistaa monia naurettavia tuloksia alkuunsa.
kolme minilaukkua
Tapaus 1 — Ketjumerkkivirhe. Eräs opiskelija havaitsi, että 8-rivisessä algebrallisessa yksinkertaistamisessa rivillä 2 tekemä tekoälyvirhe eteni seuraaville kuudelle riville. Lopputulos oli täysin väärä, mutta tekoäly esitteli sen täysin luottavaisin mielin. Kun opiskelija yksinkertaisti sitä tyhjästä SymPyllä, saatiin oikea tulos ja AI sai löytää virheen toiselta riviltä. Yksi merkki kumosi 6 riviä.
Tapaus 2 – Terve järki pelasti testin. Opettaja ratkaisi tekoälyn todennäköisyysongelman; Tulos oli 1,4. Tarkastelematta yksityiskohtia opettaja sanoi "todennäköisyys ei voi olla suurempi kuin 1" ja etsi virhettä: tekoäly oli kerännyt ei-diskreettejä tapahtumia ikään kuin ne olisivat diskreettejä. Maalaisjärkeä koskeva testi osoitti virheen sekunneissa.
Tapaus 3 – Valmistettu kaava. Insinööri pyysi tekoälyltä "suljettua kaavaa" sarjasummalle. Tekoäly on antanut vakuuttavan kaavan. Insinööri testasi kaavan pienelle arvolle n (n=3) sekä kaavalla että käsin lisäämällä; Tulokset eivät täsmänneet. Kaava keksittiin. Pienellä säätämisellä vältyttiin tuntien väärinkäytöltä.
Neljä kopioitavaa mallia
1) Monikerroksinen vahvistuspyyntö:
Löysit: [tulos]. Tarkista nyt tämä KOLME eri tavalla: (1) hajautus käänteisesti, (2) yksinkertaisen mukautetun arvon testaus, (3) jokin koodi tarkistettavaksi SymPyllä (näen tulosteen). Kerro, ovatko kaikki kolme tapaa johdonmukaisia; Jos ei, näytä, missä vaiheessa on virhe.
2) Maalaisjärki/arvotesti:
Löysit: [tulos]. Testaa tervettä järkeä nähdäksesi, onko tämä tulos HYVÄ: mikä on odotettu suuruusluokka, onko merkki oikea, onko se rajoissa (esim. todennäköisyys 0-1)? Jos se ei ole järkevää, tutki, missä voi olla virhe.
3) Lauseen/kaavan vahvistus:
Onko käyttämäsi [lause/kaava] todella vakio ja oikea? Kirjoita sen vakiolauseke ja ehdot. Näytä tili, joka testaa tätä pienellä otoksella (esim. n=3). Jos se on keksitty kaava tai jotain, josta et ole varma, sano se selvästi.
4) Virhetilan diagnoosi:
Tiedän, että alla olevassa ratkaisussa on virhe. Tarkista nämä virhetyypit yksitellen: aritmetiikka, etumerkki, väärä sääntö, ohitettu ehto, verkkotunnus. Kerro minkä tyyppinen virhe on ja missä vaiheessa. Ratkaisu: [täällä]
Heikko kehote / Vahva kehote
Heikko: "Onko tämä johtopäätös oikea?" [liitä tulos]
Tulos: AI sanoo usein "joo oikein" (taipumus vahvistaa omaa tulostaan); epäluotettava, koska ei ole riippumatonta tarkastusta.
Vahva: "TARKISTA tämä tulos itsenäisesti: käytä toista kiertotapaa tai tarkista SymPy-koodilla (ajan koodin). Älä sano vain "tosi/epätosi", vaan näytä, minkä tarkistuksen teit ja tulos. Jos tarkistussumma epäonnistuu, etsi virhe."
Tulos: Riippumaton ohjausmenetelmä on kyseenalaistettu; Tekoälyä estetään hyväksymästä sokeasti omaa tulostaan.
Yleisiä virheitä
- Tekoälyn saaminen vahvistamaan oman tulostensa. "Onko tämä totta?" AI usein vahvistaa oman virheensä; Riippumaton menetelmä vaaditaan.
- Tervejärkisten testien väliin. Hölynpölyä, kuten todennäköisyys suurempi kuin 1 ja pituus negatiivinen, voidaan saada kiinni tarkastelematta yksityiskohtia.
- Luotetaan yhteen vahvistukseen. Käytä kriittisiin tuloksiin useita itsenäisiä polkuja (tiiviste + SymPy + mukautettu arvo).
- Ei testata kaavoja pienillä näytteillä. Tehdyt kaavat romahtavat välittömästi pienillä arvoilla, kuten n=2, n=3.
- Unohtaen, että bugi leviää. Virhe ensimmäisellä rivillä turmelee koko tuloksen; Jos löydät virheen, tarkista se alusta.
Varoitus: Tekoälyn luotettavuuden ja sen tarkkuuden välillä ei ole korrelaatiota. Lause, joka vaikuttaa päättäväisimmältä, sujuvimmalta, "varmimmalta", voi hyvinkin olla täysin väärä. Luota riippumattomaan vahvistukseen, älä ääneen. Pidä tulosta "tosi" vain, kun vahvistat sen käsin tai deterministisellä työkalulla - ei siksi, että tekoäly sanoo "varma".
Yhteenvetona
Tekoäly tekee virheitä matematiikassa, koska se on kielimalli, joka tuottaa tilastollisesti tekstiä, ei logiikkaa ohjaava moottori. Virheet jakautuvat seitsemään päätyyppiin: aritmeettinen, etumerkki, keksitty lause, säännön virheellinen soveltaminen, pois jätetty kirjainkoko, todistusaukko, vanhentunut data. Matematiikassa virheet leviävät ja kasvavat, totuus on binäärinen – joten jokainen askel on tarkistettava. Systemaattinen kuri: tarkista jokainen numeerinen työkalu, jokainen symbolinen tulos SymPyllä, jokainen lähteen lause, jokainen todistus käy kyseenalaistamalla; Käytä tarkastusta, vastatarkistusta ja maalaisjärkeä. Tekoälyn luottamus ei ole todiste tarkkuudesta.
Sovellustehtävä
Valitse ongelma keskipitkällä ratkaisulla (vähintään 6-8 askelta) ja pyydä tekoälyä ratkaisemaan se. Suorita sitten monikerroksinen vahvistus käyttämällä tämän yksikön malleja 1 ja 4: (a) maalaisjärkeen/luokkien testaus, (b) tarkistaminen SymPyllä, (c) erikoisarvon testaus. Käy sitten läpi ratkaisu rivi riviltä harkiten "vikojaetsintä" ja tarkista, mitä seitsemästä virhetyypistä saattaa esiintyä. Kirjaa ylös jokainen löytämäsi virhe ja sen tyyppi.
tarkistuslista
- [ ] Vahvistin jokaisen numeerisen tuloksen deterministisellä työkalulla.
- [ ] Tarkastin jokaisen symbolisen tuloksen SymPyllä.
- [ ] Varmistin käytetyn lauseen/kaavan lähteestä tai pienellä esimerkillä.
- [ ] Käytin tervettä järkeä/suuruusluokkatestiä.
- [ ] Tarkastin sen riippumattomasti (luottamatta tekoälyn omaan hyväksyntään).
- [ ] Kun löysin virheen, tarkistin ratkaisun uudelleen alusta.