Naúrar 9 / 11

Hallucination, Kurakurai na Lissafi na gama gari, da La'anar Tabbatarwa

Riba:

  • Iya gane dalilin da yasa hankali na wucin gadi yana yin kuskure a cikin lissafi (kasancewar samfurin harshe, ba duba dabaru) da manyan kurakurai guda bakwai
  • Ikon bayyana dalilin da ya sa yana da mahimmanci don tabbatar da kowane mataki ta hanyar fahimtar cewa kuskure yana yaduwa kuma daidaito shine binary a cikin lissafi.
  • Ƙarfin yin amfani da horo na tabbatarwa mai nau'i-nau'i ta hanyar gwajin hankali na gama gari, tsari mai girma, ƙididdiga, duba giciye da hanyoyi masu zaman kansu.

Wannan rukunin yana zurfafa tunani a zuciyar tsarin: me yasa kuma ta yaya AI ke yin kuskure a cikin lissafi, menene nau'ikan waɗannan kurakuran kuma ta yaya muke kama su cikin tsari? A cikin raka'o'in da suka gabata, mun ga hanyoyin tabbatarwa ga kowane batu; Anan muna tattara tsarin jikin kurakurai a ƙarƙashin rufin daya. Ma'anar ita ce, lokacin da kuka kalli fitowar AI kuna mamakin "menene zai iya zama kuskure a nan?" Shi ne don samun ingantaccen tunani wanda ke tunani a hankali.

Tunatarwa: Hallucination shine lokacin da AI ya samar da bayanan da ba gaskiya bane. A cikin lissafi, hallucination sau da yawa yana bayyana a cikin nau'i na "lallashi amma ƙarya." Me yasa AI ke yin kuskure? Domin samfurin harshe ne, ba injiniyan dabaru ba - wato, yana samar da rubutu tare da tsarin ƙididdiga, baya duba ingancin ma'ana na matakan. “Mai yawa lambobi 3” da “tabbatacciyar hujja” a gare shi aikin samar da irin wannan rubutu ne; Ba shi da wata hanyar ciki don tabbatar da daidaito.

Anatomy na kurakurai na lissafi: iri bakwai

Jerin nau'ikan nau'ikan masu zuwa yana taƙaita mafi yawan kurakuran da za ku ci karo da su a cikin fitowar AI da maganin kowane.

Nau'in kuskure

Me yayi kama

maganin rigakafi

kuskuren lissafi

Kuskuren lamba kamar 7×8=54

Kalkuleta/SymPy

kuskuren alamar

-(a-b)=-a-b

Bude sunana da hannu

Ka'idar da aka gyara

sunan theorem wanda babu shi

Tabbatarwa daga tushe

Dokar rashin amfani

Kar a manta da tsarin sarkar

"Wace mulki?" tambaya

Matsayin da aka tsallake

Yi watsi da tushen mara kyau

Lissafa duk matsayi

tazarar hujja

"Saboda haka" ba tare da hujja ba

Tambayoyi kowane wucewa

Tsofaffi/bayanai mara daidai

bayanan da suka gabata

tushen

Me yasa ilimin lissafi ke buƙatar kulawa ta musamman?

A mafi yawan wurare, ƙananan kuskure yana da ƙananan sakamako. A cikin ilimin lissafi, kuskure yana yaduwa kuma yana girma. Kuskuren alamar a layin farko na lissafin yana sanya layi goma na gaba da sakamakon ƙarshe gaba ɗaya kuskure. Wani tazari a tsakiyar hujja yana sa duk tabbacin ba ya aiki. Wannan "rauni" ya sa ya zama dole don tabbatar da kowane mataki a cikin ilimin lissafi - "magana gabaɗaya ga alama" bai isa ba.

Bugu da ƙari, gaskiya a cikin lissafi shine binary: sakamako ko dai gaskiya ne ko ƙarya, babu a tsakanin. "Kashi 80 daidai cikin 100 daidai" ana iya la'akari da karbuwa a cikin taƙaitaccen rubutu; Babu wani abu kamar "kashi tamanin daidai" a cikin haɗin kai - ko dai sakamakon daidai ne ko ba haka ba. Wannan yanayin biyu yana sa tabbatarwa duka biyu mafi mahimmanci kuma (sa'a) mafi yuwuwa: sakamakon ko dai ya wuce tabbatarwa ko a'a.

Mataki zuwa mataki: horo na tabbatarwa na tsari

1. Tabbatar da kowane sakamakon lamba tare da kayan aiki. Kada ka bar lissafin don dogara ga AI; SymPy, kalkuleta ko da hannu.

2. Bincika kowane sakamako na alama tare da SymPy. Haɗe-haɗe, wanda aka samu, sauƙaƙa, daidaitawa-duk ana iya tabbatar da su tare da SymPy.

3. Tabbatar da kowace ka'ida/tsari daga tushen. Shin suna da magana daidai? Abubuwan da aka ƙera su ne tarko mafi banƙyama.

4. Tambayi kowane abin da ya faru a kowace hujja. "Shin da gaske wannan ya biyo bayan matakin da ya gabata?" Harka ta tushe, zato a fakaice, duba tazara.

5. Bincika da sake dubawa. Aiki mai jujjuyawar, musanya, iyakokin jihohi, bincike mai girma.

6. Sanya shi a gwajin hankali. Shin sakamakon da ya dace? Idan yuwuwar ta fi 1 girma, akwai kuskure idan tsayi mara kyau.

Alamomi: Gwajin hankali mafi sauri shine duban "tsari na girma". Shin sakamakon yana cikin iyakar da ake tsammani? Idan matsakaicin aji shine 250 (cikin 100), ko yuwuwar ita ce 3.5, zaku san akwai kuskure ba tare da duba cikakkun bayanai ba. Wannan rajistan na biyu na 5 yana kawar da sakamako masu ban dariya da yawa a cikin toho.

uku mini lokuta

Case 1 - Kuskuren alamar sarkar. Ɗaya daga cikin ɗalibi ya gano cewa a cikin sauƙi na algebra mai layi 8, kuskuren alamar da AI yayi a layi na 2 ya yada zuwa layi na 6 na gaba. Sakamakon karshe ya kasance ba daidai ba, amma AI ya gabatar da shi tare da cikakkiyar amincewa. Lokacin da ɗalibin ya sauƙaƙa shi daga karce tare da SymPy, an sami sakamako daidai kuma an ba AI damar gano kuskuren a cikin layi na 2. Alama guda ta karyata layi 6.

Case 2 - Hankali na yau da kullun ya ceci gwajin. Wani malami yana da AI ya warware matsalar yuwuwar; Sakamakon ya kasance 1.4. Ba tare da duba cikakkun bayanai ba, malamin ya ce "yiwuwar ba zai iya zama mafi girma fiye da 1" kuma ya nemi kuskuren: AI ta tattara abubuwan da ba su da hankali kamar dai suna da hankali. Gwajin hankali na gama gari ya nuna kuskuren cikin daƙiƙa.

Case 3 - Ƙirƙirar ƙira. Wani injiniya ya tambayi AI don "rufe dabara" don jerin jimla. AI ya ba da tsari mai gamsarwa. Injiniyan ya gwada dabara don ƙaramin ƙima na n (n=3) duka ta dabara da ƙari da hannu; Sakamakon bai yi daidai ba. An yi dabarar. Ɗan tweaking ya hana sa'o'i na rashin amfani.

Samfura huɗu masu kwafi

1) Buƙatar tabbatar da yawan Layer:

Kun samo: [sakamako]. Yanzu tabbatar da wannan hanyoyi daban-daban guda uku: (1) hashing ta baya, (2) gwada ƙimar al'ada mai sauƙi, (3) wasu lambobi don bincika tare da SymPy (Zan ga fitarwa). Faɗa mini idan duk hanyoyin guda uku sun daidaita; Idan ba haka ba, nuna wane mataki yake da kuskure.

2) Jarabawar hankali/daraja:

Kun samo: [sakamako]. Sanya shi a gwajin hankali don ganin ko wannan sakamakon yana da HANKALI: menene tsarin da ake tsammanin girma, alamar daidai ne, shin yana cikin iyaka (misali yiwuwar 0-1)? Idan bai dace ba, bincika inda za a iya samun kuskure.

3) Tabbatar da ka'idar / tsari:

Shin [theorem/formula] da kuke amfani da shi daidai ne kuma daidai ne? Rubuta daidaitattun maganganun sa da yanayi. Nuna asusun da ke gwada wannan tare da ƙaramin samfurin (misali n=3). Idan dabara ce ko wani abu da ba ku da tabbas game da shi, faɗi shi a fili.

4) Ganewar yanayin kuskure:

Na san akwai matsala a cikin maganin da ke ƙasa. Bincika waɗannan nau'ikan kuskure ɗaya bayan ɗaya: lissafi, alamar, ƙa'idar kuskure, yanayin tsallakewa, yanki. Fada mani wane irin kuskure ne kuma a wane mataki. Magani: [nan]

Rauni mai ƙarfi / Ƙarfi mai ƙarfi

Rauni: "Shin wannan ƙarshe daidai ne?" [manna sakamakon]
Sakamako: AI sau da yawa yana cewa "eh dama" (yanayin tabbatar da fitarwa); wanda ba a dogara ba saboda babu wani bincike mai zaman kansa.
Ƙarfafa: "DUBI wannan sakamakon ta hanya mai zaman kanta: yi amfani da wani aiki daban ko duba tare da lambar SymPy (Zan gudanar da lambar). Kada kawai a ce 'gaskiya / ƙarya'; nuna wanda ka yi da sakamakon. Idan checksum ya kasa, nemo kuskuren. "
Sakamakon: An ƙalubalanci hanyar sarrafawa mai zaman kanta; An hana AI daga amincewa da abin da ya fitar a makance.

Kuskuren gama gari

  • Samun AI don tabbatar da fitowar nasa. "Wannan gaskiya ne?" AI sau da yawa yana tabbatar da kuskurensa; Ana buƙatar hanya mai zaman kanta.
  • Tsallake gwajin hankali. Maganar banza kamar yuwuwar sama da 1 kuma tsayin daka mara kyau ana iya kama shi ba tare da duba cikakkun bayanai ba.
  • Dogaro da tabbaci guda ɗaya. Yi amfani da hanyoyi masu zaman kansu da yawa (hashes + SymPy + ƙimar al'ada) akan sakamako masu mahimmanci.
  • Ba gwada dabara tare da ƙananan samfurori ba. Ƙididdiga da aka ƙera suna rushewa nan da nan a ƙananan dabi'u kamar n=2, n=3.
  • Manta cewa an yada kwaro. Kuskure a layin farko yana lalata duk sakamakon; Idan kun sami kuskure, duba shi daga farkon.
Tsanaki: Babu alaƙa tsakanin amincewar AI da daidaitonta. Jumlar da ke da alama mafi ƙayyadaddun ƙayyadaddun bayanai, mafi dacewa, mafi “tabbatacce” na iya zama kuskure gaba ɗaya. Amince tabbatarwa mai zaman kanta, ba sautin murya ba. Yi la'akari da sakamakon "gaskiya" kawai lokacin da kuka tabbatar da shi da hannu ko tare da kayan aiki mai mahimmanci - ba saboda AI ta ce "tabbas ba."

A takaice

AI yana yin kuskure a lissafin lissafi saboda ƙirar harshe ne wanda ke samar da rubutu a ƙididdiga, ba injin da ke sarrafa dabaru ba. Kurakurai sun faɗo cikin manyan nau'ikan guda bakwai: lissafi, alama, ƙa'idar da aka ƙera, rashin amfani da ƙa'ida, shari'ar da aka tsallake, tazarar hujja, bayanan datti. A cikin ilimin lissafi, kuskure yana yaduwa kuma yana girma, gaskiya binary ce - don haka kowane mataki dole ne a tabbatar da shi. Tsarin tsari: tabbatar da kowane kayan aiki na lambobi, kowane sakamako na alama tare da SymPy, kowace ka'ida daga tushe, kowace hujja ta wuce ta tambayoyi; Aiwatar da rajistan, counter-check da gwajin hankali. Amincewar AI ba shaida ce ta daidaito ba.

Aikin aikace-aikace

Zaɓi matsala tare da maganin matsakaicin matsakaici (aƙalla matakan 6-8) kuma ku sami AI ta warware ta. Sa'an nan kuma yi tabbatarwa da yawa-Layer ta amfani da alamu 1 da 4 daga wannan rukunin: (a) gwajin hankali/daraja, (b) duba tare da SymPy, (c) gwaji akan ƙima ta musamman. Sa'an nan kuma shiga cikin layin mafita ta layi tare da "farauta kwaro" da gangan kuma duba wane nau'in kurakurai bakwai na iya faruwa. Yi rikodin kowane kuskuren da kuka samu tare da nau'in sa.

jerin abubuwan dubawa

  • [ ] Na tabbatar da kowane sakamako na lamba tare da ƙayyadaddun kayan aiki.
  • [ ] Na duba kowane sakamako na alama tare da SymPy.
  • [ ] Na tabbatar da ka'idar/formula da aka yi amfani da ita daga tushe ko tare da ƙaramin misali.
  • [ ] Na yi amfani da ma'ana / tsari na gwajin girma.
  • [ ] Na duba shi ta hanya mai zaman kanta (ba tare da dogaro da amincewar AI ba).
  • [ ] Lokacin da na sami kuskure, na sake duba mafita daga farkon.