Табыстар:
- Неліктен жасанды интеллект математикада қателіктер жіберетінін (тілдік модель болу, логиканы тексеру емес) және қателердің негізгі жеті түрін тани білу.
- Математикада қатенің таралатынын және дәлдіктің екілік екенін түсіну арқылы әрбір қадамды тексерудің неліктен міндетті екенін түсіндіре білу.
- Жалпы мағынада тестілеу, шамаларды тексеру тәртібі, бақылау сомасы, өзара тексеру және тәуелсіз әдістер арқылы көп деңгейлі тексеру пәнін қолдану мүмкіндігі
Бұл бөлім модульдің негізінде жатқан идеяны тереңдетеді: AI математикада неге және қалай қателіктер жібереді, бұл қателердің түрлері қандай және біз оларды жүйелі түрде қалай ұстаймыз? Алдыңғы бөлімдерде біз әрбір тақырып бойынша тексеру әдістерін көрдік; Мұнда біз қателер анатомиясын бір шаңырақ астына жинаймыз. Мәселе мынада, сіз AI нәтижесіне қараған кезде сіз «мұнда не қате болуы мүмкін?» Дейсіз. Бұл рефлексивті түрде ойлайтын валидация менталитетіне ие болу.
Еске сала кетейік: галлюцинация - бұл AI шын мәнінде шындыққа сәйкес келмейтін ақпаратты сенімді түрде шығаратын кезде. Математикада галлюцинация көбінесе «сенімді, бірақ жалған» түрінде пайда болады. Неліктен AI қателіктер жібереді? Бұл логикалық қозғалтқыш емес, тілдік модель болғандықтан, яғни статистикалық үлгілері бар мәтінді шығарады, ол қадамдардың логикалық жарамдылығын тексермейді. «3-таңбалы көбейту» және «жарамды дәлел» ол үшін мәтіннің бір түрін шығару міндеті болып табылады; Оның дәлдігіне кепілдік беретін ішкі механизмі жоқ.
Математикалық қателердің анатомиясы: жеті түрі
Төмендегі түрлер тізімі AI шығысында кездесетін ең жиі кездесетін қателерді және әрқайсысына қарсы антидотты қорытындылайды.
Қате түрі
Ол қандай көрінеді
антидот
арифметикалық қате
7×8=54 сияқты сан қатесі
Калькулятор/SymPy
таңба қатесі
−(a−b)=−a−b
Менің атымды қолмен ашыңыз
Құрастырылған теорема
жоқ теорема атауы
Дереккөзден растау
Ережені дұрыс қолданбау
Тізбек ережесін ұмытпаңыз
«Қай ереже?» сұрақ
Өткізілген күй
Теріс түбірді елемеу
Барлық күйлерді тізімдеңіз
дәлелдеудің алшақтығы
«Сондықтан» негізсіз
Әр өтуге сұрақ қою
Ескі/қате деректер
ескірген ақпарат
көзден алу
Неліктен математика ерекше назар аударуды қажет етеді?
Көптеген аймақтарда кішкене қателіктің салдары аз болады. Математикада қате таралады және өседі. Теңдеудің бірінші жолындағы белгі қатесі келесі он жолды және соңғы нәтижені мүлде қате етеді. Дәлелдеудің ортасындағы бос орын бүкіл дәлелді жарамсыз етеді. Бұл «нәзіктік» математикадағы әрбір қадамды тексеруді қажет етеді - «жалпы айтқанда, шындыққа ұқсайды» жеткіліксіз.
Оның үстіне математикадағы ақиқат екілік: нәтиже не ақиқат, не жалған, арасында ешбір нәрсе жоқ. Мәтіндік қысқаша мазмұнда «сексен пайыз дәлдік» қолайлы деп есептелуі мүмкін; Интегралда «сексен пайыз дұрыс» деген ұғым жоқ — бұл дұрыс нәтиже немесе олай емес. Бұл қосарлы сипат тексеруді маңыздырақ және (бақытымызға орай) мүмкін етеді: нәтиже тексеруден өтеді немесе өтпейді.
Қадамдық: жүйелі тексеру пәні
1. Әрбір сандық нәтижені құралмен растаңыз. AI-ға сену үшін ешқашан арифметиканы қалдырмаңыз; SymPy, калькулятор немесе қолмен.
2. Әрбір символдық нәтижені SymPy арқылы тексеріңіз. Интегралдық, туынды, оңайлату, теңдеу — барлығын SymPy арқылы тексеруге болады.
3. Әрбір теореманы/формуланы көзден растаңыз. Аты мен өрнек дұрыс па? Ойдан құрастырылған теоремалар – ең жасырын тұзақ.
4. Әрбір дәлелде әрбір оқиғаға сұрақ қойыңыз. «Бұл шынымен де алдыңғы қадамнан келе ме?» Базалық жағдай, жасырын болжам, алшақтықты тексеру.
5. Тексеру және қарсы тексеру. Кері амал, алмастыру, шекті күйлер, өлшемдік талдау.
6. Оны жалпы ақылға сынауға қойыңыз. Нәтиже орынды ма? Егер ықтималдық 1-ден үлкен болса, ұзындығы теріс болса, қате бар.
Нұсқау: ақыл-ойдың ең жылдам сынағы - бұл «шаманың реті» тексеру. Нәтиже шамамен күтілетін ауқымда ма? Егер сыныптың орташа мәні 250 (100-ден) немесе ықтималдық 3,5 болса, мәліметтерді қарамай-ақ қате бар екенін білесіз. Бұл 5 секундтық тексеру бүршіктегі көптеген күлкілі нәтижелерді жояды.
үш шағын іс
1-жағдай — Тізбек белгісі қатесі. Бір студент 8 жолдық алгебралық жеңілдету кезінде 2-жолда жасаған AI белгісі қатесі келесі 6 жолға таралатынын анықтады. Соңғы нәтиже мүлдем қате болды, бірақ AI оны толық сенімділікпен ұсынды. Студент оны SymPy көмегімен нөлден жеңілдеткенде, дұрыс нәтиже алынды және AI-ға 2-жолдағы қатені табуға мүмкіндік берді. Бір ғана белгі 6 жолды жоққа шығарды.
2-жағдай - Тестті парасаттылық құтқарды. Мұғалімде ықтималдық мәселесін шешетін AI болды; Нәтиже 1,4 болды. Егжей-тегжейлерге қарамай, мұғалім «ықтималдық 1-ден үлкен болмауы керек» деді және қатені іздеді: AI дискретті емес оқиғаларды дискретті сияқты жинады. Жалпы мағына сынағы қатені бірнеше секунд ішінде көрсетті.
3-жағдай — құрастырылған формула. Инженер AI-дан сериялық сома үшін «жабық формуланы» сұрады. AI сенімді формуланы берді. Инженер формуланы формула бойынша да, қолмен қосу арқылы да n (n=3) аз мәні үшін сынады; Нәтижелері сәйкес келмеді. Формула құрастырылды. Кішкене түзету бірнеше сағат бойы дұрыс емес пайдаланудың алдын алды.
Көшірілетін төрт үлгі
1) Көп деңгейлі тексеру сұрауы:
Сіз таптыңыз: [нәтиже]. Енді осы ҮШ түрлі жолды тексеріңіз: (1) оны кері хэштеу, (2) қарапайым теңшелетін мәнді сынау, (3) SymPy арқылы тексеру үшін кейбір код (шығын көремін). Маған үш жолдың да сәйкестігін айтыңыз; Олай болмаса, қай қадамда қате бар екенін көрсетіңіз.
2) Парасаттылық/дәреже сынағы:
Сіз таптыңыз: [нәтиже]. Нәтиженің НЕГІЗГІ екенін көру үшін оны ақылға қонымды сынауға қойыңыз: шаманың күтілетін тәртібі қандай, белгі дұрыс па, шектерде ме (мысалы, ықтималдық 0-1)? Егер бұл ақылға қонымды болмаса, қай жерде қате болуы мүмкін екенін зерттеңіз.
3) Теореманы/формуланы бекіту:
Сіз қолданып жатқан [теорема/формула] шынымен стандартты және дұрыс па? Оның стандартты өрнегі мен шарттарын жазыңыз. Мұны шағын үлгімен тексеретін есептік жазбаны көрсетіңіз (мысалы, n=3). Егер бұл құрастырылған формула немесе сіз сенімді болмасаңыз, оны анық айтыңыз.
4) Қате режимінің диагностикасы:
Төмендегі шешімде қате бар екенін білемін. Осы қате түрлерін бір-бірден тексеріңіз: арифметикалық, белгі, қате ереже, өткізіп алынған шарт, домен. Қатенің қандай түрі және қай қадамда екенін айтыңыз. Шешім: [мұнда]
Әлсіз шақыру / Күшті шақыру
Әлсіз: «Бұл тұжырым дұрыс па?» [нәтижені қою]
Нәтиже: AI жиі «иә дұрыс» дейді (өзінің нәтижесін растау үрдісі); сенімсіз, өйткені тәуелсіз аудит жоқ.
Күшті: "Бұл нәтижені тәуелсіз жолмен ТЕКСЕРІҢІЗ: басқа уақытша шешімді пайдаланыңыз немесе SymPy кодымен тексеріңіз (кодты іске қосамын). Тек "шын/жалған" деп айтпаңыз; қай тексеруді орындағаныңызды және нәтижені көрсетіңіз. Бақылау сомасы сәтсіз болса, қатені табыңыз."
Нәтижесі: тәуелсіз бақылау әдісіне шағымданады; AI өз өнімін соқыр мақұлдауға жол бермейді.
Жалпы қателер
- Өзінің шығысын растау үшін AI алу. «Бұл рас па?» AI жиі өз қатесін растайды; Тәуелсіз әдіс қажет.
- Жалпы мағына сынамасын өткізіп жіберу. Ықтималдық 1-ден жоғары және ұзындық теріс сияқты сандырақтарды егжей-тегжейге қарамай-ақ түсінуге болады.
- Бір тексеруге сүйену. Маңызды нәтижелерде бірнеше тәуелсіз жолдарды (хэштер + SymPy + теңшелетін мән) пайдаланыңыз.
- Формулаларды шағын үлгілермен сынамау. Жасалған формулалар n=2, n=3 сияқты шағын мәндерде бірден құлайды.
- Қатенің таралатынын ұмыту. Бірінші жолдағы қате бүкіл нәтижені бұзады; Қатені тапсаңыз, оны басынан бастап тексеріңіз.
Абайлаңыз: AI сенімділігі мен оның дәлдігі арасында ешқандай байланыс жоқ. Ең айқын, ең жатық, ең «сенімді» болып көрінетін сөйлем мүлде қате болуы мүмкін. Тон емес, тәуелсіз тексеруге сеніңіз. Нәтижені қолмен немесе детерминирленген құралмен растаған кезде ғана «шын» деп есептеңіз - AI «әрине» деп айтқандықтан емес.
Қысқаша айтқанда
AI математикада қателіктер жібереді, себебі бұл логиканы басқаратын қозғалтқыш емес, статистикалық түрде мәтін шығаратын тілдік модель. Қателер жеті негізгі түрге бөлінеді: арифметикалық, белгі, құрастырылған теорема, ережені дұрыс қолданбау, түсірілген жағдай, дәлелдеу алшақтығы, ескірген деректер. Математикада қате таралады және өседі, ақиқат екілік, сондықтан әрбір қадамды тексеру керек. Жүйелі пән: әрбір сандық құралды, әрбір символдық нәтижені SymPy көмегімен, көзден алынған әрбір теореманы, әрбір дәлелді сұрақ арқылы тексеру; Тексеруді, қарсы тексеруді және жалпы мағынаны тексеруді қолданыңыз. AI сенімділігі дәлдіктің дәлелі емес.
Қолданбалы тапсырма
Орташа ұзындықтағы (кем дегенде 6-8 қадам) шешімі бар мәселені таңдап, оны AI шешуін талап етіңіз. Содан кейін осы құрылғыдағы 1 және 4 үлгілерін пайдаланып көп деңгейлі тексеруді орындаңыз: (a) жалпы мағынаны/дәрежені тексеру, (б) SymPy арқылы тексеру, (c) арнайы мән бойынша тестілеу. Содан кейін қасақана «қателерді іздеу» көзімен шешім сызығынан өтіп, жеті қате түрінің қайсысы болуы мүмкін екенін тексеріңіз. Кез келген қатені түрімен бірге жазып алыңыз.
бақылау парағы
- [ ] Мен әрбір сандық нәтижені детерминирленген құралмен растадым.
- [ ] Мен әр символдық нәтижені SymPy арқылы тексердім.
- [ ] Мен дереккөзден немесе шағын мысалмен қолданылған теореманы/формуланы тексердім.
- [ ] Мен жалпы мағына/мөлшер тәртібі сынағын қолдандым.
- [ ] Мен оны тәуелсіз түрде тексердім (AI-ның өз мақұлдауына сүйенбестен).
- [ ] Қатені тапқанда, шешімді басынан бастап қайта тексердім.