Awọn anfani:
- Loye kini ṣiyemeji alamọdaju jẹ ati awọn eewu ti ja bo sinu aiṣedeede ìmúdájú ati aiṣedeede adaṣe nigba lilo oye atọwọda
- Agbara lati ṣe idanwo iṣelọpọ oye atọwọda pẹlu ilana ibeere ti o gbiyanju lati tako (wa fun idakeji)
- Ni anfani lati ni oye pe irọrun ti itetisi atọwọda ko tumọ si deede, pe ọkan ti o ṣiyemeji jẹ ipilẹ iṣakoso ati pe ko le gbe lọ.
Iwa ọpọlọ kan wa ti o ṣe iyatọ iṣatunṣe ominira lati ọpọlọpọ awọn oojọ miiran: ṣiyemeji ọjọgbọn. Awọn ISA ṣalaye eyi bi ẹniti nṣe ayẹwo iwe-owo ti n ṣiṣẹ “pẹlu ọkan ti o beere, ṣe akiyesi boya ẹri naa tọkasi aiṣedeede ti o pọju, ati ṣiṣe iṣiro ẹri naa.” Ìyẹn ni pé, ẹni tó ń ṣe àyẹ̀wò náà kì í gba ìsọfúnni èyíkéyìí tí wọ́n bá gbé kalẹ̀ lọ́fẹ̀ẹ́—kì í ṣe gbólóhùn àbójútó, kì í ṣe ìwé kan, kódà àpamọ́wọ́ “tí ó dà bíi pé ó bọ́gbọ́n mu”—gẹ́gẹ́ bí òótọ́. Mo n ṣe iyalẹnu nigbagbogbo "Ṣe o jẹ bẹ bẹ?" o beere. Iwa yii jẹ ipilẹ ti iṣakoso ati pe ko ṣee ṣe.
Ni ọjọ ori oye atọwọda, mojuto yii dojukọ idanwo tuntun kan. Nitori AI jẹ ọlọgbọn ni nfa awọn ailagbara ti o jinlẹ meji ti ọkan eniyan - aiṣedeede adaṣe ati aiṣedeede idaniloju. Ninu ẹyọ yii, a yoo bo bii oluyẹwo ti nlo AI ṣe le ṣetọju tabi paapaa fun iyemeji rẹ lagbara. Akori akọkọ ni pe imọye AI kii ṣe deede; Okan alaigbagbọ di paapaa pataki ni oju AI.
Meji lewu abosi
Iyatọ adaṣe adaṣe jẹ ifarahan fun eniyan lati gbẹkẹle iṣelọpọ ẹrọ / sọfitiwia diẹ sii ju idajọ tiwọn lọ. "Kọmputa naa ṣe iṣiro rẹ, o tọ." Ewu yii pọ si nigbati o ba de AI, nitori AI kii ṣe iṣiro nikan; Sọ daradara, igboya, bi eniyan, awọn gbolohun ọrọ idi. Ohun orin ti o ni igboya jẹ idaniloju paapaa ti alaye naa ko ba jẹ deede.
Iyatọ ìmúdájú jẹ itẹsi ti awọn eniyan lati wa alaye ti o ṣe atilẹyin ipari ti wọn gbagbọ tẹlẹ tabi nireti ati lati foju kọ alaye ti o fi ori gbarawọn. Eyi jẹ apaniyan ni iṣayẹwo: Oluyẹwo ti o ro pe “Onibara yii gbọdọ jẹ mimọ” yoo ni itunu nigbati o ba beere lọwọ AI ati pe yoo ni idaniloju, yoo dawọ wiwa ẹri si ilodi si. Nitori AI duro lati tẹra si ibeere ti a beere (ti o ba beere “o dara, otun?” o ṣee ṣe diẹ sii lati gbe idahun ti o gba pẹlu rẹ), o le ṣe agbero abosi ijẹrisi.
Ẹkẹta tun wa: hallucination. A rii ni ọpọlọpọ igba ninu module - AI le ṣe ni irọrun ṣe nọmba kan, ohun kan, awọn orisun ti ko si. Ewu naa jẹ idapọ nigbati awọn ailagbara mẹta ba ni idapo: AI ṣe awọn nkan soke (hallucination), o gbagbọ nitori pe o jẹ ito (aiṣedeede adaṣe), iwọ ko ṣe ibeere rẹ nitori pe o sọ fun ọ ohun ti o nireti (ijẹrisi ijẹri).
Awọn skeptical okan ká mẹta irinṣẹ lodi si AI
Jẹ ki a fi iṣiyemeji sinu awọn imọ-ẹrọ nja si AI:
- Gbiyanju lati tako, ko jẹrisi. AI le beere abajade rẹ “Ṣe o jẹ ootọ?” kii ṣe "bawo ni MO ṣe mọ boya eyi jẹ aṣiṣe?" ibeere. Bi ara rẹ léèrè pé: “Tó bá jẹ́ irọ́ ni gbólóhùn yìí, ẹ̀rí wo ló máa fi hàn?” ki o si wa ẹri naa. O rọrun lati wa apẹẹrẹ ifẹsẹmulẹ kan; Gbiyanju lati tako ati aise funni ni idaniloju gidi.
- Beere ni didoju ati sẹhin. Beere lọwọ AI "ko si iṣoro nibi, otun?" Maṣe beere; eyi n pe idahun alakosile. Dipo, “kini awọn eewu ti MO le ti padanu ninu data yii?” ati “kini awọn oju iṣẹlẹ mẹta ti o ṣeeṣe julọ ninu eyiti abajade yii le jẹ aṣiṣe?” beere. Beere ibeere kanna lati awọn ẹgbẹ idakeji meji ki o ṣe afiwe awọn idahun.
- Ṣe igbasilẹ si orisun ati tun ṣe. Fun atẹjade kọọkan, ifaramọ, ati ipari, “Nibo ni MO ti jẹrisi eyi ni ominira?” Beere ibeere naa ki o rii daju ni otitọ. Wo abajade ti AI bi idaniloju; Ẹri naa jẹ ita si ẹtọ naa.
Imọran: Ṣe ihuwasi: Lẹgbẹẹ gbogbo awọn abajade pataki ti AI funni, kọ awọn nkan meji pẹlu ọwọ - “(1) kini MO jẹrisi eyi pẹlu, (2) ẹri wo ni yoo fihan eyi ti o ba jẹ eke.” Awọn akọsilẹ meji wọnyi fọ mejeeji adaṣiṣẹ ati aibikita ijẹrisi.
Awọn idajọ ti oluyẹwo ko le ṣe aṣoju
Diẹ ninu awọn iṣẹ inherently beere skepticism ati idajọ; Iwọnyi ko le ṣe aṣoju si AI, atilẹyin nikan:
inalienable ẹjọ
Kí nìdí
Boya ẹri naa ti to ati pe o yẹ
Ọjọgbọn idajọ; àrà ti o gbẹkẹle
Plausibility ti ẹya alaye
Nbeere ero ti iṣowo ati idi
Ayẹwo ewu ẹtan
Skepticism ati intuition; kọja ilana data
Ohun elo ati ipinnu ero
Idajọ lodidi si ita
Ero nipa otitọ ti iṣakoso
Kika ihuwasi eniyan; AI ko le ṣe eyi
Iyatọ laarin ṣiyemeji ati pedantry: iwa ti o niwọn
Ọjọgbọn skepticism ko tumo si aigbagbọ ohun gbogbo tabi ìdálẹbi isakoso ilosiwaju; Eyi yoo jẹ aibikita ati pe yoo jẹ ki iṣakoso naa doko. Skepticism kii ṣe igbẹkẹle mimọ (gbigba ohun gbogbo ti a sọ fun ọ) tabi kiko afọju (kiko ohun gbogbo); Laarin, o jẹ iwa ti ibeere ti o ni ibamu pẹlu ẹri naa. Oluyẹwo le gba iṣakoso bi ooto, ṣugbọn ṣe idanwo gbigba yii pẹlu ẹri; le rii alaye ti o ṣeeṣe, ṣugbọn o jẹrisi iṣeeṣe. AI le ṣe idamu iwọntunwọnsi yii: ni itọsọna kan, o fa ọ sinu igbẹkẹle apọju pẹlu iṣelọpọ ito rẹ; Ni apa keji, ti o ba sọ fun u lati “wa ẹbi ninu ohun gbogbo” yoo gba ọ pẹlu awọn idaniloju iro ailopin. Iwa ti o pe ni lati ṣe iwọn abajade nigbagbogbo lodi si iwuwo ẹri naa, lakoko ti o nṣiṣẹ AI lati gbejade ẹri ati tako ẹri naa. Skepticism kii ṣe iwa eniyan, ṣugbọn ọna ibawi ti ṣiṣẹ; Ati pe o jẹ ẹniti nṣe ayẹwo iwe-owo ti o fi idi rẹ mulẹ, ṣetọju ati ṣe afihan ibawi yii, kii ṣe AI.
mẹta mini igba
Ọran 1 - Ilana atunṣe n ṣiṣẹ. Oluyẹwo kan ti tẹjade AI ni sisọ “Iwọn idiyele ọja yii dabi ẹni ti o bọgbọnwa.” Dípò kí ó fìdí rẹ̀ múlẹ̀, ó béèrè lọ́wọ́ ẹ̀yìn pé: “Bí wọ́n bá ṣàfikún ìdiwọ̀n yìí, ẹ̀rí wo ni yóò fi hàn?” “Awọn nkan fun eyiti awọn idiyele lẹhin-tita ṣubu ni isalẹ idiyele,” YZ sọ. Oluyẹwo naa wa awọn nkan wọnyi ati pe o rii ẹgbẹ kan ti a ko ni idiyele gaan. Ibeere atunṣe naa ṣafihan ewu ti ijẹrisi ti o fi pamọ.
Irú 2 - Ja bo sinu ìmúdájú abosi. Ọmọ ẹgbẹ kan beere lọwọ AI lakoko akoko gbigbẹ, “ko si ohun ti o buru pupọ pẹlu akọọlẹ yii, abi?” o beere. YZ da lori ibeere naa o si sọ pe, "Gegebi alaye ti o pese, ko dabi pe o jẹ iṣoro pataki." Awọn egbe omo egbe ni ihuwasi ati capped awọn pen. Sibẹsibẹ, ko ṣe afihan eyikeyi ẹri; AI nikan ṣe afihan gbolohun rẹ. Ẹni tó ń ṣe ojúsàájú fi hàn pé a kò béèrè ìbéèrè náà láìṣojúsàájú. Ẹkọ: bi o ṣe beere ibeere naa pinnu idahun ti o gba; Ibeere ti n wa ìmúdájú gbejade ìmúdájú.
Ọran 3 - Ja bo fun fluency. Oluyewo kan ro pe itumọ ofin ti YZ ṣe alaye ni irọrun pupọ ati paragi ti o ni imọran jẹ deede ati pe o wa ninu iwe iṣẹ. Ọrọ naa dara tobẹẹ ti ko ṣẹlẹ si i lati beere lọwọ rẹ. Eniyan ti o ni iduro fihan pe itọkasi ko ni deede ninu ọrọ osise. Ẹkọ: fluency ati igbekele kii ṣe ẹri ti deede; Abajade ti o dabi pe o ni idaniloju julọ le jẹ ewu julọ.
Ailagbara kiakia / Alagbara kiakia
Ibere ailagbara:
Itupalẹ yii tọ, otun? Ṣe o fọwọsi?
Iṣoro naa: ibeere aiṣedeede ti o wa ijẹrisi. O titari AI lati darapọ mọ ọ; O ṣe agbega abosi ijẹrisi ati tọju eewu tootọ.
Ibere ti o lagbara:
Ipa rẹ: o jẹ alabaṣepọ oniwadi to ṣe pataki ti oluyẹwo ominira. Iṣẹ rẹ kii ṣe lati gba pẹlu mi, ṣugbọn lati gbiyanju lati kọ iṣẹjade mi. Ọrọ: Ni isalẹ ni ipari mi ti ilana itupalẹ ati ipari ipari mi.[ọrọ abajade] Iṣẹ-ṣiṣe: 1) Ṣe atokọ awọn oju iṣẹlẹ 3 ti o ṣeeṣe julọ ninu eyiti ipari yii le jẹ FALSE.2) Fun oju iṣẹlẹ kọọkan: “Ti eyi ba jẹ otitọ, ẹri wo ni yoo fihan?” Dabaa nja, ẹri wiwa. 3) Samisi eyikeyi data tabi awọn ero ti Mo le ti padanu. 4) Maṣe ṣe awọn gbolohun ọrọ ti o gba pẹlu mi; O jẹ iṣẹ ṣiṣe pẹlu wiwa awọn aaye alailagbara. Samisi "aimọ" nibiti o ko da ọ loju.
Itọkasi yii lagbara nitori pe o yi ipa ti AI (rebuttal) pada, nilo awọn oju iṣẹlẹ atunwi ati ẹri wiwa, ati idinamọ ede wiwa-ẹri. Eyi fi AI sinu iṣẹ ti ṣiyemeji ju ohun elo ti aiṣedeede idaniloju.
Awọn aṣiṣe ti o wọpọ
- Béèrè awọn ibeere wiwa alakosile. "O dara, otun?" nipa bibeere ati idaniloju idahun ti o gba.
- Asise fluency fun išedede. Gbigba kikọ daradara, iṣelọpọ igboya laisi ibeere.
- Ṣe akoonu pẹlu apẹẹrẹ ijẹrisi ẹyọkan. Pipade pẹlu wiwa atilẹyin akọkọ, laisi igbiyanju lati tako rẹ.
- Lati fi aṣẹ-aṣẹ ti ko le ya sọtọ. Nlọ kuro ni ipinnu ti ẹri ẹri, oye, ero si AI.
- Gbigbe lọ ti skepticism labẹ titẹ akoko. Gbigba aabo ni idahun itunu ti AI nigbati o di.
Išọra: Iwọn akoko jẹ ọta ti o tobi julo ti ṣiyemeji, ati AI di ewu julọ labẹ titẹ yii; nitori ti o nfun o kan sare, fluent ati itunu idahun. Mu ki o jẹ dandan lati beere ibeere atunwi naa nigbati o ba wa ni iyara.
Ni akojọpọ
Iṣiyemeji ọjọgbọn wa ni ipilẹ ti iṣatunṣe ati di paapaa pataki ni ọjọ-ori AI. AI nfa awọn ailagbara mẹta: hallucination (mu ki o soke), aifọwọyi adaṣe (a gbagbọ nitori pe o jẹ ito), aiṣedeede idaniloju (a ko ni ibeere nitori pe o sọ ohun ti a nireti). Aṣoju oogun naa ni lati yara lati tako AI, ko jẹrisi rẹ: “Ti eyi ba jẹ eke, ẹri wo ni yoo fihan?” ' ati wiwa fun ilodi si eri, béèrè objectively ati sẹhin, reproducing gbogbo o wu lati awọn orisun. Awọn idajọ gẹgẹbi imun-ẹri ti o to, oye, ewu ti ẹtan, ati idajọ ero nilo ṣiyemeji ati pe ko ṣe gbigbe. Fluency kii ṣe deede; Okan oniyemeji jẹ tirẹ.
Ohun elo iṣẹ-ṣiṣe
Gba abajade iṣayẹwo rẹ (tabi abajade arosọ kan). Beere lọwọ AI ni akọkọ pẹlu ibeere alailagbara “ifọwọsi-wiwa”, lẹhinna pẹlu “rebuttal” ilana itọsẹ to lagbara loke. Fi awọn abajade meji si ẹgbẹ ki o kọ iyatọ silẹ: awọn ewu wo ni a fi han nikan nipasẹ ibeere atunṣe? Lẹhinna ṣafikun awọn akọsilẹ meji lẹgbẹẹ ibeere bọtini kọọkan ninu iṣẹjade rẹ: “kini MO jẹrisi pẹlu” ati “ẹri wo ni yoo fihan ti o ba jẹ eke”.
akojọ ayẹwo
- [] Mo beere awọn iwifun AI/awọn ibeere aiṣootọ, kii ṣe awọn ibeere wiwa ijẹrisi.
- [] Fun abajade pataki kọọkan, “ti eyi ba jẹ eke, ẹri wo ni yoo fihan?” Mo beere ibeere naa mo si wa ẹri.
- [] Mo ti ni idanwo awọn o wu, eyi ti o dabi dan ati igboya, pẹlu afikun skepticism.
- [] Emi ko da pẹlu kan nikan ìmúdájú apẹẹrẹ; Mo gbiyanju lati tako o sugbon o kuna.
- [] Mo ṣe awọn idajọ ti ara mi gẹgẹbi ẹri ti o to, ironu, ati ero.
- [] Paapaa labẹ titẹ akoko, Emi ko foju ibeere rebuttal.
- [] Ni atẹle si awọn ẹtọ pataki, Mo ṣe awọn akọsilẹ ti “ohun ti Mo jẹrisi pẹlu / kini yoo fihan ti o ba jẹ aṣiṣe”.