Ẹyọ 10 / 11

Ijerisi Orisun, Hallucination ati Ibawi Itọkasi

Awọn anfani:

  • Mọ idi ti hallucination ti wa ni pamọ ni agbegbe eniyan ati ni anfani lati kọja orisun kọọkan nipasẹ ẹwọn ijẹrisi-igbesẹ marun (aye, ami-ami, agbasọ, ọrọ-ọrọ, ikasi)
  • Agbara lati jẹrisi ododo orisun pẹlu awọn idamọ nja bii DOI, ISBN ati katalogi.
  • Loye ibawi ti idinamọ oye itetisi atọwọda lati ṣiṣe awọn airotẹlẹ ati maṣe fi ijẹri ijẹwọsọ asọye ati iṣotitọ isọ si.

Iye ọrọ kan ninu eniyan ati awọn aaye awujọ da lori otitọ ati gbigbe deede ti awọn orisun ti o da lori. Arokọ iwe-kikọ, iwe afọwọkọ kan, akọsilẹ ikowe kan — gbogbo rẹ gbarale awọn orisun ti o gbẹkẹle ati iyasọtọ otitọ (fifihan tani / nibo ti o ti ni alaye tabi agbasọ). AI nfunni ni irọrun nla ni aaye yii, ṣugbọn o tun gbe ewu nla julọ: hallucination, iyẹn ni, ti n ṣe orisun orisun ti ko si, agbasọ tabi otitọ bi gidi. Ẹyọ yii jẹ igbẹhin si idasile “ihamọra ijerisi” lodi si ewu yii.

Ofin gbolohun-ọkan: Ko si orisun AI ti ipilẹṣẹ, agbasọ, ọjọ tabi nọmba ti o le tẹ ọrọ sii laisi ijẹrisi ẹni akọkọ lati orisun akọkọ tabi igbẹkẹle. Ofin yi ni awọn julọ tun ati ki o kere rọ ofin ti yi module.

Kini idi ti irokuro lewu ni aaye yii?

Ti AI ba jẹ aṣiṣe lori ibeere imọ-ẹrọ, igbagbogbo yoo ṣe akiyesi; ṣùgbọ́n ní àyíká ènìyàn, ìràwọ̀ a fi ọgbọ́n bò ó mọ́lẹ̀.

  • Laini ojulowo: AI daapọ orukọ onkọwe gidi kan pẹlu akọle ti o yẹ si aaye ati ọdun ti oye. Abajade jẹ orisun ti ko si ṣugbọn o dabi gidi gidi.
  • Ọrọ asọye ti o yẹ si ara: AI le farawe ara ti onkọwe kan ati ṣafihan gbolohun kan ti kii ṣe tirẹ bi “ọrọ rẹ”.
  • Ọjọ ti o sunmọ ṣugbọn ti ko tọ: Ọdun iṣẹ kan le yipada nipasẹ ọdun kan tabi meji; Eyi sa fun oluka aibikita.
  • Iṣe idamu: Le sọ ero kan si eniyan ti ko tọ.

Gbogbo awọn wọnyi le ni idakẹjẹ wọ inu ọrọ ti onkọwe pẹlu awọn ero otitọ, ati pe ti a ko ba mu, ba orukọ ti onkọwe jẹ ati igbẹkẹle oluka naa jẹ.

Išọra: Nitoripe orisun kan han “otitọ” si AI ko tumọ si pe o jẹ gidi. Otitọ ati otitọ jẹ awọn nkan oriṣiriṣi meji; AI jẹ oluwa ni iṣaaju, ko le ṣe iṣeduro igbehin.

Ihamọra ijerisi: igbese nipa igbese

Fun orisun kọọkan ati agbasọ, tẹle ẹwọn yii:

  1. Se o wa bi? Wa orisun ninu iwe ikawe, ibi ipamọ data ti o gbẹkẹle, tabi aaye ti olutẹjade. Ti ko ba le rii, ko si tẹlẹ - maṣe lo.
  2. Ṣe itọka naa tọ? Onkọwe, akọle, akede/irohin, ọdun, oju-iwe — gbogbo rẹ gbọdọ baramu ni deede.
  3. Ṣe idiyele gidi? Wa agbasọ ọrọ naa ni orisun funrararẹ, lori oju-iwe ti a sọ pato, ki o ṣe afiwe rẹ ni ilodisi.
  4. Ṣé àyíká ọ̀rọ̀ náà tọ̀nà? Njẹ ọrọ agbasọ ọrọ gangan lo, tabi o ti daru bi?
  5. Njẹ iyasọtọ naa jẹ ooto? Njẹ ero naa jẹ si ẹni ti o tọ, jẹ nkan ti a mu lati orisun keji ti a fihan bi akọkọ bi?

Ti o ba jẹ paapaa ọna asopọ kan ti pq yii, ko le tẹ ọrọ orisun sii.

Imọran: Kọ AI lati ibẹrẹ: "Maṣe fun eyikeyi orisun ti o ko ni idaniloju pe o wa; ti o ko ba ni idaniloju, sọ 'Emi ko le ri orisun'." Eyi ko pari ifọkanbalẹ patapata, ṣugbọn o taki AI lati sọ “Emi ko mọ” dipo ṣiṣe.

Itọkasi ati ibawi

Pẹlú ìmúdájú, ìdánilẹ́kọ̀ọ́ òtítọ́ tún jẹ́ ìbáwí kan:

  • Fun agbasọ taara pẹlu awọn agbasọ ati oju-iwe; Jẹ ki o jẹ gangan.
  • Bakanna ṣe asopọ asọye aiṣe-taara (apapọ ni awọn ọrọ tirẹ) si orisun; Ti ero naa ko ba jẹ tirẹ, o nilo ifaramọ.
  • Sọ ni gbangba idasi AI ni ibamu si ofin agbari rẹ; AI kii ṣe “awọn orisun,” ṣugbọn ti o ba lo, o gbọdọ kede.
  • Maṣe ṣe afihan orisun keji bi akọkọ; Ti o ba gba agbasọ lati ọdọ onkọwe lati iwe miiran, tọka eyi.

mẹta mini igba

Ọran 1 - Meji ninu awọn orisun marun wa jade lati jẹ airotẹlẹ. Oluwadi kan lọ nipasẹ ilana iṣeduro ti awọn orisun 5 ti a fun nipasẹ AI. 2 ko si ninu katalogi rara, 1 ni ọdun ti ko tọ, 2 jẹ gidi ati pe o tọ. Awọn 2 ti a rii daju ni a lo; article ni idaabobo lati fictitious ikalara.

Case 2 - Quote iparun mu. Ọmọ ile-iwe kan rii agbasọ kan lati AI ninu iwe gangan, ṣugbọn agbasọ naa tumọ si idakeji gangan ni ipo atilẹba. AI ti mu gbolohun naa kuro ni ọrọ-ọrọ. Ọmọ ile-iwe ṣe atunṣe agbasọ ọrọ naa pẹlu ipo ti o pe.

Ọran 3 - Atunse ikalara ti ko tọ. Ninu akọsilẹ ikẹkọ kan, AI sọ ero kan si onkọwe ti ko tọ. Nígbà tí olùkọ́ náà ṣàyẹ̀wò rẹ̀ pẹ̀lú àwọn orísun ìgbẹ́kẹ̀lé méjì, ó rí ẹni tí ó ní ẹ̀tọ́ tí ó sì tún un ṣe. Akọsilẹ naa ye laisi aṣiṣe lọ si ọmọ ile-iwe naa.

Mẹrin daakọ awọn awoṣe

1) Awọn itọnisọna idinamọ iṣelọpọ:

Lati isisiyi lọ: MAA ṢE gbejade eyikeyi orisun, agbasọ, ọjọ tabi nọmba ti o ko da ọ loju pe o wa. Ti o ko ba ni idaniloju, sọ "nilo ijẹrisi" tabi "Emi ko le ri." Maṣe fun ni aami kan ti o jẹ ojulowo ṣugbọn o ko le ṣe ẹri ododo rẹ. Tẹle ofin yii pẹlu gbogbo idahun.

2) Ilana oju-ọna ijẹrisi orisun:

Emi yoo rii daju orisun ti o wa ni isalẹ ara mi. Sọ fun mi ibiti mo ti le wa orisun yii (katalogi, data data, akede) ati pẹlu alaye bọtini wo. O jẹrisi pe orisun wa; kan fun awọn igbesẹ idaniloju naa. Orisun: [lẹẹ mọ kirẹditi]

3) Sọ ọrọ ayẹwo ọrọ-ọrọ:

Ni isalẹ ni agbasọ kan ati paragi gangan ninu eyiti o waye. Njẹ agbasọ ọrọ naa ni a lo ni ipo atilẹba rẹ tabi a ti daru bi? Kan gbekele ọrọ ti mo fun ọ; fifi ọrọ kan kun.Quote: [...] Atilẹba paragira: [...]

4) Ayẹwo iṣotitọ ikasi:

Ninu ọrọ mi ti o wa ni isalẹ: awọn gbolohun wo ni o nilo orisun kan ṣugbọn ti o wa lainidi, imọran wo le jẹ ti ẹlomiiran, jẹ aaye kan wa nibiti Mo ṣe afihan orisun keji bi akọkọ? Ni imọran awọn orisun ti a ṣẹda; kan tọka si awọn itọka ti o padanu.Text: [paste text]

Ailagbara kiakia / Alagbara kiakia

Ailagbara: "Fun awọn orisun ẹkọ 5 ati awọn agbasọ ọrọ lori koko yii."

Güçlü: "Sọ fun mi iru awọn orisun ati awọn koko-ọrọ ti Mo yẹ ki o wa lakoko ti o n ṣe iwadi lori koko-ọrọ yii. Maṣe gbe awọn itọkasi tabi awọn agbasọ ọrọ ti o ko ni idaniloju tẹlẹ; ti o ko ba ni idaniloju, sọ 'Emi ko le ri'. Emi yoo fun ọ ni awọn orisun ti mo ri nigbamii; Emi yoo jẹrisi awọn agbasọ lati awọn iwe. "

Iyara ti o lagbara ti ilẹkun si hallucination ati fi ijẹrisi silẹ fun eniyan. Itọkasi alailagbara taara n pe iṣelọpọ awọn orisun inu inu.

Afọwọsi pq tabili

igbese

Ibeere

ipo ijerisi

nkankan

Njẹ orisun wa ni otitọ bi?

Katalogi / database

titẹ sita

Njẹ onkọwe, ọdun, oju-iwe jẹ deede?

Akede / Isamisi

agbasọ

Ṣe o jẹ ọrọ-ọrọ ninu ọrọ naa?

orisun funrararẹ

Atokọ

Ṣe itumọ naa daru bi?

akọkọ ìpínrọ

Itọkasi

Si eniyan ọtun?

agbelebu ayẹwo

Ijerisi pẹlu ọna asopọ titilai ati aami

Awọn ọna nja wa lati yara ati igbẹkẹle jẹrisi boya orisun kan wa nitootọ. Pupọ julọ awọn atẹjade eto-ẹkọ ti ode oni ni DOI (Idamo Nkan Digital — ID alailẹgbẹ ti ko yipada ti a sọtọ patapata si atẹjade kan; o ṣe bi ọna asopọ ati tọka taara si atẹjade). Ti o ba wọle si atẹjade gangan nigbati o tẹ DOI ti nkan kan sinu ẹrọ aṣawakiri kan, orisun yẹn wa; Ti o ko ba le rii tabi DOI ko si rara, jẹ ifura. AI-ti ipilẹṣẹ "DOIs" ti wa ni igba ṣe-soke ati ki o lọ besi; Eyi jẹ ọkan ninu awọn idanwo ti o wulo julọ ti yiya orisun ero inu.

ISBN (International Standard Book Number) pese iru idanimọ fun awọn iwe; O le mọ daju otitọ ti iwe naa nipa wiwa fun ISBN ninu iwe-ikawe ile-ikawe tabi aaye data iwe ti o gbẹkẹle. Fun awọn iwe-akọọlẹ, ṣayẹwo orukọ iwe-akọọlẹ ati alaye iwọn didun/ọrọ lori oju opo wẹẹbu osise ti akede. Awọn idamo nja wọnyi jẹ idahun si ibeere naa "Ṣe orisun gidi?" O dahun ibeere rẹ kedere laarin iṣẹju.

Awọn ọna wọnyi yi ijẹrisi pada si “idunadura” dipo “iṣura” kan: nigbati o ṣii ati wo orisun kọọkan ni eniyan, ninu iwe akọọlẹ, nipasẹ DOI, tabi lori aaye atẹjade, eewu ti ifaramọ Phantom ti yọkuro patapata.

Imọran: Nigbati o ba pari iwe-kikọ rẹ, ṣe “tẹ irin-ajo”: nitootọ ṣii DOI tabi igbasilẹ katalogi ti orisun kọọkan. Paapaa orisun kan ti ko ṣii jẹ ikilọ; boya ṣe atunṣe pẹlu titẹ to tọ tabi yọ kuro ninu atokọ naa.

Awọn aṣiṣe ti o wọpọ

  • Asise otito fun otito. Idanimọ ti o ṣeeṣe ti AI ko jẹrisi wiwa rẹ.
  • Ko ṣe idaniloju agbasọ lati orisun. Awọn agbasọ ọrọ ti a ṣe tabi daru le jo.
  • Gbigba itan lati orisun kan. Agbelebu-ṣayẹwo pẹlu o kere ju awọn orisun igbẹkẹle meji.
  • Ṣiṣe awọn Atẹle wo bi akọkọ. Sọ ẹwọn gbigbe ni otitọ.
  • Ti tọka AI bi orisun kan. AI kii ṣe ohun elo; Lilo rẹ ti kede, itọkasi ni a ṣe si orisun akọkọ.

Ni soki

Otitọ ninu awọn ẹda eniyan da lori orisun ati išedede itọkasi. Ewu ti o tobi julọ ti AI ni pe o ṣe agbejade awọn orisun ati awọn agbasọ ti o dabi ojulowo ṣugbọn ko si tẹlẹ. Kọja orisun kọọkan ati itọka nipasẹ pq ijerisi igbesẹ marun (ohun kan, kirẹditi, agbasọ ọrọ, ọrọ-ọrọ, ikasi). Fi ofin de AI lati iṣelọpọ lati ibẹrẹ ati pe ko ṣe aṣoju ijẹrisi si. Ẹkọ yii jẹ iṣeduro igbẹkẹle rẹ ni iṣẹ yii.

Ohun elo iṣẹ-ṣiṣe

Gbiyanju lati ni AI daba awọn orisun diẹ ati agbasọ kan lori koko kan. Ṣiṣe awọn orisun kọọkan nipasẹ pq ijerisi: melo ni o wa tẹlẹ, melo ni o ni ẹda ti o pe, jẹ agbasọ ọrọ gangan ni orisun naa? Kọ awọn esi sinu tabili kan. Iriri yii yoo ṣe afihan awọn opin ti AI ni aaye yii.

akojọ ayẹwo

  • [] Mo timo awọn aye ti kọọkan awọn oluşewadi ninu awọn katalogi.
  • [] Mo ti jẹrisi ọrọ sisọ kọọkan ni iṣojuuwọn lati orisun atilẹba.
  • [] Mo ti ṣayẹwo pe ọrọ-ọrọ ọrọ-ọrọ naa ko ti daru.
  • [] Mo ti ṣayẹwo-ṣayẹwo awọn ọjọ pẹlu o kere ju awọn orisun meji.
  • [] Mo ti fi ofin de AI lati iṣelọpọ ati pe ko ṣe aṣoju ijẹrisi si.