Hallucination ati awọn ifilelẹ ti igbekele

Awọn anfani:

Le ṣe alaye kini hallucination jẹ ati idi ti o fi waye
Le pinnu nigbati iṣelọpọ AI nilo lati fọwọsi
Le lo awọn ilana ti o wulo ti o mu igbẹkẹle pọ si

Boya koko pataki julọ ti imọwe AI wa ninu ẹyọ yii: Awoṣe ṣiṣe soke, iyẹn ni, hallucination. Loye ọrọ yii jẹ iṣọra aabo ipilẹ julọ fun ẹnikẹni ti o nlo AI. Nitoripe oluṣamulo ti ko ṣe idanimọ irokuro le ṣe aṣiṣe alaye eke bi otitọ ati gbe lọ si ipinnu iṣowo, ibaraẹnisọrọ alabara tabi iwe aṣẹ osise. Ninu ẹyọkan yii, iwọ yoo kọ ẹkọ kini ipalọlọ jẹ, idi ti o jẹ eyiti ko ṣee ṣe, ati bii o ṣe le daabobo lodi si rẹ.

Kíni ìfọ̀kànbalẹ̀?

Ibanujẹ jẹ nigbati awoṣe ede kan gbejade alaye ti ko si ni otitọ ni ede ti o ni irọrun ati igboya, gẹgẹ bi ẹni pe o jẹ otitọ. Awọn awoṣe ko ni pinnu lati parq; Ni ṣiṣejade nikan ni “itẹsiwaju iṣeeṣe julọ”, o ṣẹda ọrọ ti o dabi ẹni pe o ṣee ṣe ṣugbọn eke ni otitọ.

Apeere: Ti o ba sọ fun awoṣe kan "Ṣeduro orisun ẹkọ kan lori koko Ohun gbogbo han ni ọna kika ti o tọ ati ni idaniloju; Ṣugbọn orisun naa jẹ oju inu patapata. Eyi jẹ apẹẹrẹ Ayebaye ti hallucination.

Kí Nìdí Tí Ó Fi Ṣẹlẹ̀? (Ranti Ẹka Meji)

Orisun hallucination wa ni ipilẹ iṣẹ ti awoṣe. Awọn awoṣe kii ṣe "ìmọ ọfẹ ti awọn otitọ"; O jẹ "ẹrọ iṣeeṣe". Awọn oniwe-ise ni lati gbe awọn smoothest ṣee ṣe itesiwaju ti ibeere rẹ; Kii ṣe nipa kiko alaye deede julọ. Awoṣe:

Oun ko mọ ohun ti ko mọ; Nigbati o ba dojuko òfo, o duro lati kun idahun ti o ṣeeṣe ju ki o sọ "Emi ko mọ."
O ni o ni ko si siseto lati sakoso otito; Ko ṣayẹwo boya ọrọ ti o gbejade ṣe ibaamu agbaye.
Fluency ati awọn išedede ni o wa meji ti o yatọ ohun fun u; O kan nitori pe o jẹ pipe ko tumọ si pe o tọ.

Išọra: Hallucination kii ṣe “aiṣedeede”; O jẹ ẹya atorunwa ti imọ-ẹrọ. Awọn awoṣe titun dinku eyi ṣugbọn ko le ṣe imukuro rẹ patapata. Nitorina, dipo ti nduro fun "apẹrẹ ti kii ṣe hallucination", o jẹ dandan lati kọ ẹkọ lati gbe pẹlu hallucination.

Nibo ni Ewu ti Hallucinations Ga?

Kii ṣe gbogbo abajade jẹ eewu bakanna. Ewu naa pọ si nigbati:

Ewu to gaju

Ewu kekere

Awọn isiro gangan, awọn ọjọ, awọn iṣiro

Ti o npese gbogboogbo ero, brainstorming

Nbeere awọn orisun, awọn agbasọ, awọn itọkasi

Yi ohun orin pada

Niche, awọn koko-ọrọ pataki

Wọpọ, awọn koko-ọrọ gbogbogbo

Awọn iṣẹlẹ lọwọlọwọ ati awọn eniyan

Ṣe akopọ ọrọ rẹ

Alaye inu kan pato si ile-iṣẹ rẹ

Atunse girama

Mẹta Mini igba

Ọran 1 - A iro olusin ti tẹ igbejade. Oṣiṣẹ kan beere AI fun “oṣuwọn idagbasoke e-commerce 2023 ati orisun ni Türkiye” fun ijabọ ile-iṣẹ naa. Awoṣe naa da ipin idaniloju kan pada (48%) ati orukọ igbekalẹ kan. Oṣiṣẹ naa fi sii sinu igbejade laisi idaniloju; Nígbà tí wọ́n ṣí i payá nípàdé náà pé wọ́n hùmọ̀ ẹ̀rọ náà, àkójọpọ̀ ọ̀rọ̀ náà àti òkìkí ilé iṣẹ́ náà bà jẹ́. Ti oṣiṣẹ kanna ba ti gba eeya naa lati orisun osise, kii yoo jẹ iṣoro.

Ọran 2 - Ko si tẹlẹ nkan ti ofin. Oluranlọwọ kan beere lọwọ AI fun “Nkan ti o wulo ti ofin” fun ẹbẹ kan. Awoṣe ṣe agbejade nọmba ohun kan ti o ni ojulowo ati ọrọ; ṣugbọn nkan yẹn ko si nibẹ. O da, Ẹka ofin ṣe akiyesi rẹ ṣaaju ifijiṣẹ. Ẹkọ: Awọn itọka ofin nigbagbogbo ni idaniloju lati orisun akọkọ.

Ọran 3 - Ọna ti o tọ, abajade ailewu. Oṣiṣẹ miiran lori ẹgbẹ kanna ni irọrun ni ijabọ AI, titẹ gbogbo awọn nọmba funrararẹ lati data osise ati kọ ọ lati “fikun awọn isiro ti ko si ninu ọrọ yii.” Abajade jẹ iyara ati deede. Iyatọ: AI kowe apẹrẹ, awọn otitọ ifunni eniyan.

Ailagbara Tọ / Alagbara Tọ

Itọkasi ailagbara: Fun awọn orisun ẹkọ 3 pataki julọ lori koko-ọrọ yii pẹlu onkọwe ati ọdun.

Abajade: Awoṣe le ni aabo awọn orisun ti ko si tẹlẹ.

Ibere ti o lagbara: Kọ akopọ kan da lori ọrọ ti Mo fi si isalẹ. Lo alaye ti o wa ninu ọrọ yii nikan. Maṣe fi awọn orukọ kan kun, awọn nọmba tabi awọn orisun ti ko si ninu ọrọ naa. Ti o ko ba ni idaniloju, kọ "ko ṣe pato ninu ọrọ naa"<text>[lẹẹmọ nibi]</text>

Abajade: Niwọn igba ti awoṣe n gba orisun lati ọdọ rẹ, aaye ti o baamu di dín.

Awọn ọna ṣiṣe ti o wulo ti o mu igbẹkẹle pọ si

Samisi ibeere ijẹrisi kọọkan ninu idahun rẹ (nọmba, ọjọ, orukọ, orisun) ki o si fi wọn si atokọ “gbọdọ ṣayẹwo” lọtọ.

Dahun ibeere yi. Ti o ko ba da ọ loju, maṣe gboju; Sọ "Emi ko ni idaniloju" ki o si ṣe alaye pe o ko mọ kini. Koko-ọrọ: [koko]

Dahun ibeere kanna ni awọn ọna oriṣiriṣi meji ki o samisi awọn itakora laarin awọn idahun mejeeji. Nitorinaa jẹ ki n wo awọn aaye wo ni o jẹ ibeere.Ibeere: [ibeere]

Emi yoo jẹrisi ọrọ ti o wa ni isalẹ. Ṣe atokọ awọn ẹtọ ti o lewu ti MO yẹ ki o ṣayẹwo ni ọna ti o ṣe pataki ati daba ibi ti MO le rii daju ọkọọkan.Text: [lẹẹmọ nibi]

Ni afikun, gba awọn aṣa wọnyi:

O pese orisun. Lẹẹmọ iwe ti o yẹ sinu ọrọ naa ki o sọ "idahun ti o da lori eyi nikan."
Ṣayẹwo awọn otitọ ti o le rii daju nigbagbogbo. Daju awọn nọmba, awọn ọjọ, awọn orukọ, awọn agbasọ ọrọ ati awọn orisun lati ominira, orisun igbẹkẹle.
Beere lọwọ rẹ lati fihan pe ko ni idaniloju nipa awoṣe naa. Eyi dinku eewu ṣugbọn kii ṣe imukuro rẹ patapata.
Fun awọn iṣẹ ti o ni eewu giga, jẹ ki onimọran kan ṣayẹwo iṣẹjade. Ofin, owo ati awọn abajade ti o ni ibatan ilera gbọdọ kọja nipasẹ àlẹmọ ti awọn amoye eniyan.
Lo AI bi “ojuami ibẹrẹ,” kii ṣe bi “ọrọ ipari.” Ilana naa wa lati ọdọ rẹ; Ijẹrisi ati ipinnu jẹ tirẹ.

Išọra: “Awoṣe naa sọ ọ lẹẹmeji, lẹhinna o jẹ otitọ” ọgbọn jẹ aṣiṣe. Le tun asise kanna ni igboya. Atunwi kii ṣe ẹri ti deede.

Awọn aṣiṣe ti o wọpọ

Lilo awọn orisun laisi idaniloju wọn. O le ṣẹda awọn iwe awoṣe, awọn nkan, awọn nkan ti ofin ati awọn ọna asopọ; Gbogbo itọkasi gbọdọ wa ni timo.
Aṣiṣe ohun orin igboya fun deede. Ohun ti o lewu julo nipa hallucination jẹ ni pipe pe o dabi igboya.
Nikan nini awoṣe sọ pe "o jẹrisi" ti to. Ifọwọsi ara ẹni ti awoṣe kii ṣe afọwọsi ominira.
Lilo iṣelọpọ eewu giga laisi fifihan si amoye kan. Iṣakoso eniyan jẹ pataki ni owo, ofin ati ilera.

Ni akojọpọ

Hallucination jẹ nigbati awoṣe ṣe agbejade alaye ti ko si tẹlẹ ni irọrun ati igboya bi ẹni pe o jẹ otitọ.
Idi naa kii ṣe aiṣedeede, ṣugbọn iṣeeṣe-asọtẹlẹ iseda ti awoṣe; ko le ṣe imukuro patapata.
Ewu naa ga paapaa nigbati o ba de awọn isiro kongẹ, awọn orisun, alaye imudojuiwọn ati awọn ọran onakan.
Lati daabobo ararẹ: fun orisun, ṣayẹwo awọn otitọ, sọ “ti o ko ba da ọ loju, sọ fun mi”, ni abajade eewu giga ti o ṣayẹwo nipasẹ alamọja kan.
Lo AI bi ibẹrẹ; Ijẹrisi ipari ati ojuse nigbagbogbo wa pẹlu rẹ.

Iṣẹ-ṣiṣe Ohun elo

Sọ fun ọpa AI rẹ lati "dabaa awọn orisun ẹkọ 3" lori koko-ọrọ ti o nilo imọran ati gbiyanju lati jẹrisi awọn orisun ti o ni imọran lori intanẹẹti; Ṣe akiyesi iye melo ni gidi. Lẹhinna tun iṣẹ kanna ṣe pẹlu ọna “o fun orisun” ki o ṣe akiyesi iyatọ naa.

Akojọ ayẹwo

[] Mo le ṣe alaye kini hallucination jẹ ati idi ti o fi waye.
[] Mo le ṣe iyatọ laarin awọn iṣẹ ṣiṣe eewu hallucination giga ati kekere.
[] Mo le dinku eewu ti iṣelọpọ nipa fifun orisun si awoṣe.
[] Mo mọ daju awọn nọmba, ọjọ, awọn orukọ ati awọn orisun.
[] Emi ko ka ohun orin igboya bi ẹri ti deede.