Awọn anfani:
- Agbara lati ni oye idi ti ipilẹṣẹ ti idajọ jẹ ailagbara ati oye itetisi atọwọda le jẹ alabaṣepọ didasilẹ nikan
- Agbara lati ṣe idanimọ awọn fọọmu ti hallucination ati lọtọ ṣe idaniloju idawọle ida mẹwa 10 laarin otitọ 90 ogorun.
- Agbara lati ṣetọju iṣotitọ ọgbọn nipasẹ awọn ilana ti ko tọju aibikita, fifihan idasi bi deede, ati idanwo ọkan ti ararẹ.
A ti wa si awọn ti aigbagbo kuro ti yi module. Ohun kan ṣoṣo ti o niyelori ninu imọ-jinlẹ ni ironu funrararẹ — adayanri atilẹba, iwe-ẹkọ igboya, idalare arekereke. Ninu ẹyọkan yii a yoo bo awọn akori mẹta ti o ni asopọ: atilẹba ti ero (nigbati ero kan jẹ abajade ti ero ti ara ẹni nitootọ, kii ṣe ẹda ti ẹlomiran tabi iṣelọpọ ti ẹrọ ti a ṣe), hallucination (nibiti AI ṣe agbejade alaye ti kii ṣe tẹlẹ, orisun tabi asọye bi otitọ), ati iṣotitọ ọgbọn (jije olotitọ pẹlu ararẹ ati awọn miiran; ko mọ kini imọran ati kini awọn imọran ti o ti gba lati ọdọ awọn imọran ti o han gbangba ati kini awọn imọran ti o gba lati ọdọ awọn imọran wo ati kini awọn imọran ti o ti gba lati ọdọ rẹ. jẹ koyewa). Awọn mẹta wọnyi jẹ ipilẹ ihuwasi ti lilo AI ninu awọn ẹda eniyan.
Ti tẹlẹ sipo kọ nikan ogbon; Ẹka yii ṣe agbekalẹ ibawi ọpọlọ ti o wa labẹ gbogbo rẹ. Nitoripe awọn irinṣẹ yipada, ṣugbọn otitọ ọgbọn ko ṣe.
Kini idi ti ipilẹṣẹ ti idajọ ko ṣe yẹ?
Ni imoye, ko to fun ọrọ kan lati "fi idahun ti o tọ"; Bii o ṣe de idahun yẹn, awọn iyatọ wo ni o ṣe, ati awọn atako wo ni o nireti ati pade ni iye gidi. AI ṣe agbejade apapọ awọn miliọnu awọn ọrọ; aropin yii dabi ito, ironu, ati nigbagbogbo deede-ṣugbọn kii ṣe atilẹba. Ironu atilẹba bẹrẹ ni ibi ti o yapa kuro ni apapọ: iyatọ ti ẹnikan ko ṣe, ipenija igboya si wiwo aṣa, asopọ tuntun laarin awọn imọran meji.
O le lo AI bi alabaṣepọ ero - jẹ ki o ṣe agbekalẹ awọn atako, ṣafihan aaye afọju rẹ, ṣe iranlọwọ fun ọ lati ṣalaye imọran kan. Ṣugbọn ti o ba fi ero naa funrarẹ - iwe-ẹkọ, idalare, ipari-o ti fi ọrọ silẹ pẹlu aropin ọrọ ati pe ilowosi rẹ jẹ odo. Pẹlupẹlu, eyi jẹ ilodi si otitọ ọgbọn: fifihan ọja ẹlomiiran (ninu ọran yii ẹrọ kan) bi tirẹ.
Imọran: Beere lọwọ ararẹ ni igba kọọkan iyatọ laarin “Jẹ ki AI ronu nipa rẹ fun mi” ati “Jẹ ki AI ṣe ironu mi.” Ni igba akọkọ ti pa originality; Awọn keji lagbara. Apejuwe nja: Njẹ iwe-ẹkọ ati idalare ti o jade ni opin igba ti wa lati inu rẹ tabi ṣe daakọ lati iboju?
Ti idanimọ ati warding pa hallucination
Hallucination kii ṣe aṣiṣe ti AI, ṣugbọn abajade ti ọna ti o ṣiṣẹ: awoṣe ko “mọ” otitọ, o ṣe agbejade ọrọ iṣeeṣe iṣiro. Nitori naa paapaa nigba ti ko ba ni idahun si ibeere kan, o kun aafo naa pẹlu iro ti o gbagbọ. Awọn fọọmu aṣoju ti hallucination ni awọn agbegbe eniyan:
- Orisun ti a ṣe: iwe ti ko si, nkan, DOI iro.
- Irọ ọrọ iro: gbolohun ọrọ kan ninu awọn ami asọye ti ko jẹ ti onkọwe gidi.
- Misattribution: ikalara ti oju-iwoye otitọ si ọlọgbọn ti ko tọ.
- Ọjọ/otitọ ti a ṣe: ọjọ kan, iṣẹlẹ, tabi iṣiro ti ko si.
- Idaniloju idaniloju: fifihan ọrọ kan ti o jẹ ariyanjiyan gangan bi ẹnipe o jẹ otitọ patapata.
Apanirun jẹ ibawi ijẹrisi ti o kọ jakejado module yii: ọna asopọ si orisun, rii daju ni ominira, ṣayẹwo ni ilodisi. Ṣugbọn afikun ifasilẹ: Maṣe ṣe aṣiṣe ohun orin igboya AI fun ami kan ti deede. AI dabi igboya pupọ julọ paapaa nigbati o n ṣe pupọ julọ.
Išọra: Iru aṣiwere julọ ti hallucination jẹ 10% iṣelọpọ ti a fi sinu ọrọ otitọ 90% kan. Níwọ̀n bí ó ti jẹ́ pé òótọ́ ni ọ̀pọ̀ jù lọ ọ̀rọ̀ náà, òǹkàwé náà sinmi, ó sì rò pé apá tí a ṣe sókè náà jẹ́ òtítọ́. Ti o ni idi ti idanwo "gbogbo dabi pe o tọ" ko to; Daju orisun kọọkan pato, agbasọ, ati otitọ ni ẹyọkan.
Awọn ofin mẹta ti otitọ ọgbọn
1. nọmbafoonu aidaniloju. Ma ṣe ṣafihan bi ohun kan ti o ko mọ tabi ko le rii daju. Wipe “ojuami yii jẹ ariyanjiyan” tabi “Emi ko le rii daju eyi” jẹ ooto, kii ṣe ailera.
2. Ṣe afihan ilowosi daradara. Ti o ba ti lo AI ati pe ajo rẹ nilo ifihan, sọ eyi ni gbangba. Maṣe gba ti elomiran tabi idasi ẹrọ naa bi tirẹ.
3. Ṣe idanwo pẹlu ọkan ti ara rẹ. Bó ti wù kí àbájáde rẹ̀ wúlò tó, má ṣe gbà á láìjẹ́ pé o ṣe ìdájọ́ tìrẹ. Aṣẹ ikẹhin jẹ ọkan pataki rẹ, kii ṣe ẹrọ naa.
mẹta mini igba
Ọran 1 - Apapọ woye. Ọmọ ile-iwe PhD kan kowe apakan rẹ nipasẹ “igbiyanju ọpọlọ” pẹlu AI, ṣugbọn o lo abajade ni pataki bi o ti jẹ. Oludamọran rẹ sọ pe ọrọ ko ni awọn iyatọ alailẹgbẹ ṣugbọn o jẹ aropin “ti ẹnikẹni le sọ.” Ọmọ ile-iwe naa tun lo AI gẹgẹbi alabaṣepọ ijiroro: o gba awọn atako, ṣugbọn o ṣeto iwe-ẹkọ ati idalare. Akọsilẹ keji ni idasi atilẹba ninu.
Ọran 2 - 10% iṣelọpọ. Oniwadi kan yoo lo orisun 10 kan, ṣiṣanwọle ati akopọ iwe-kikọ deede ti AI gbejade. Ọrọ gbogbogbo jẹ to lagbara, nitorinaa o fẹrẹ kọja ijẹrisi. Sibẹsibẹ, o ṣayẹwo gbogbo awọn orisun: 1 ni 10 ni a ṣẹda ati pe a mu agbasọ kan jade ni agbegbe. Nitoripe pupọ julọ ọrọ naa jẹ otitọ ko jẹ ki 10% jẹ alaiṣẹ. Ṣiṣayẹwo eto mu aṣiṣe kan.
Ọran 3 - Otitọ aidaniloju. Ọmọ ile-iwe ko le ṣe idalare aaye kan ninu ọrọ apejọ kan. Dipo ki o yọ kuro nipa sisọ "AI sọ bẹ," o kọwe ni kedere, "ipepe yii ko han ni awọn orisun, o nilo lati rii daju." Olùgbaninímọ̀ràn náà ka èyí sí àmì ìdàgbàdénú, kì í ṣe àìlera. Iṣootọ ọgbọn jẹ diẹ niyelori ju idaniloju eke lọ.
Ailagbara kiakia / Alagbara kiakia
Ibere ailagbara:
Kọ ohun atilẹba ati inu-itupalẹ imoye lori koko yii.
Ibeere yii jẹ ilodi si: ibeere atilẹba lati AI pa ipilẹṣẹ gangan. Abajade jẹ ọrọ ti o han “atilẹba” ṣugbọn jẹ aropin ati o ṣee ṣe apocryphal.
Ibere ti o lagbara:
Rẹ ipa: a socratic ero alabaṣepọ. MA KO FUN MI lori koko yi ki o si MA FUN MI A THESIS. Dipo, mu ironu mi pọ si: 1) Beere fun awọn aaye ailera 3 ni ipo mi. 2) Tọkasi awọn iyatọ 2 ti Mo le ti padanu. 3) Fun apẹẹrẹ counter kan ki MO le ṣe idanwo iwe-ẹkọ mi. Ti o ba beere orisun kan tabi otitọ, samisi bi “a gbọdọ jẹri”; maṣe ṣe soke ti o ko ba ni idaniloju. Emi yoo kọ iwe-ẹkọ ati ọrọ naa. Ipo mi: [fi ipo tirẹ sii]
Itọkasi yii jẹ ki ironu wa ninu rẹ, yi AI pada si alabaṣepọ ti o pọ, ati ki o taki aami-apakan hallucination.
Mẹrin daakọ awọn awoṣe
1) Alabaṣepọ Socratic (jẹ ki o ronu):
Maṣe da mi lohùn; beere awọn ibeere Ṣe idanwo ipo mi ni isalẹ pẹlu awọn ibeere Socratic 5 didasilẹ: ṣii awọn arosinu mi, awọn igbesẹ ti o fo, ati awọn apẹẹrẹ atako. Ṣiṣejade iwe-ẹkọ kan. Ipo mi: [ipo]
2) Isamisi hallucination:
Dahun ni isalẹ, ṣugbọn fi aami si ibeere otitọ kọọkan, orisun, ati agbasọ pẹlu ipele ti igbẹkẹle rẹ: [FỌRỌ] / [GBỌDỌ NI FIDIDI] / [KO DAJU]. Ma ṣe ṣẹda eyikeyi orisun tabi agbasọ ọrọ ti o ko ni idaniloju. Sọ "Emi ko mọ" dipo. Ibeere: [ibeere]
3) Iṣayẹwo aropin-pato:
Ọrọ ti o wa ni isalẹ jẹ temi. Awọn apakan wo ni apapọ, eyiti “gbogbo eniyan le sọ”, ati eyiti o ni iyatọ / ẹtọ alailẹgbẹ ninu? Samisi awọn aaye to ku ki MO le jẹ ki wọn jẹ alailẹgbẹ. Fifi akoonu; ṣe iwadii aisan nikan.Text: [ọrọ]
4) Otitọ aidaniloju:
Wa awọn ẹtọ ninu ọrọ ti o wa ni isalẹ ti o ṣe afihan bi deede ṣugbọn ti o jẹ ariyanjiyan tabi ti ko ni idaniloju. Fun ọkọọkan, daba bi o ṣe le ṣe afihan diẹ sii ni otitọ. Ọrọ: [ọrọ]
tabili otitọ / otitọ
iwa
atilẹba
ooto
Ipari
Nini iwe-ẹkọ ti a kọ nipasẹ AI
Ko si
ṣẹ
asan, eewu
Ọpọlọ pẹlu AI, kikọ iwe afọwọkọ funrararẹ
Bẹẹni
Otitọ (sọ)
iyebiye
Lilo orisun AI laisi ijẹrisi rẹ
-
Ewu ṣẹ
Ewu ti iṣelọpọ
Sọ aidaniloju naa kedere
-
ga
gbẹkẹle
Awọn aṣiṣe ti o wọpọ
- Beere fun atilẹba lati AI. O ti wa ni a ilodi eletan; atilẹba dide nikan lati idajọ rẹ.
- Yanju fun "otitọ ni gbogbogbo". 10% iṣelọpọ pamọ laarin 90% otitọ; Daju ibeere kọọkan pato lọtọ.
- Aṣiṣe ohun orin igboya fun deede. AI dabi igboya julọ nigbati o n ṣe pupọ julọ.
- Ìbòmọlẹ aidaniloju. Idaniloju eke jẹ ipalara diẹ sii ju ifiṣura otitọ lọ ati ba igbẹkẹle jẹ.
- Ìfipamọ́ ilowosi. Ikuna lati ṣafihan lilo AI jẹ ilodi si eto imulo ajọṣepọ ati iduroṣinṣin.
Ni soki
Atilẹba ti idajọ, hallucination, ati iṣotitọ ọgbọn jẹ ipilẹ ihuwasi ti lilo AI ninu awọn ẹda eniyan. Awọn ero tikararẹ jẹ eyiti a ko le ṣe: AI le jẹ alabaṣepọ ti o nipọn, ṣugbọn iwe-ẹkọ, imọran, ati ipari jẹ tirẹ; Bibẹẹkọ, ohun ti o ku jẹ aropin ati ọrọ ti a ko da. Hallucination jẹ abajade ti ọna ti AI ṣiṣẹ; Maṣe ṣe asise ohun orin igboya fun otitọ ki o mu idawọle 10% laarin otitọ 90% nipasẹ ijẹrisi lọtọ. Awọn ofin mẹta ti iṣotitọ ọgbọn: tọju aidaniloju, ilowosi lọwọlọwọ ni deede, ṣe idanwo pẹlu ọkan tirẹ. Awọn irinṣẹ yipada; Ilana yii ko yipada.
Ohun elo iṣẹ-ṣiṣe
- Kọ ipo imọ-ọrọ ti tirẹ (ninu awọn ọrọ tirẹ, ni ṣoki).
- Gba awọn ibeere nikan lati AI pẹlu awoṣe “alabaṣepọ Socratic”; maṣe gba iwe-ẹkọ kankan.
- Mu ipo rẹ lagbara nipa kikọ awọn idahun tirẹ si awọn ibeere wọnyi.
- Ṣe iṣelọpọ AI ti ipilẹṣẹ pẹlu awoṣe “siṣamisi hallucination” ati rii daju ni otitọ awọn ẹtọ ti a samisi [VERIFIED].
- Ṣe idanwo ọrọ tirẹ pẹlu awoṣe “ayẹwo-apapọ-pilẹṣẹ” ki o jẹ ki apakan kan jẹ alailẹgbẹ.
akojọ ayẹwo
- [] Mo ṣe agbejade iwe-ẹkọ, idalare ati ipari pẹlu ero inu mi.
- [] Mo lo AI gẹgẹbi alabaṣepọ lati mu ero pọ si, kii ṣe bi aropo.
- [] Mo ti jẹrisi ọkọọkan orisun, agbasọ, ati otitọ.
- [] Mo gbẹkẹle ẹri naa, kii ṣe ohun orin igboya AI.
- [] Mo ti ṣe afihan ni otitọ / awọn ẹtọ ti ko ni idaniloju.
- [] Mo ti kede lilo AI ni ibamu si eto imulo ile-iṣẹ.