Kini RAG ati Kini idi ti o ṣe pataki?

Awọn anfani:

• Ti n ṣalaye pe RAG ṣe abẹrẹ ọrọ-ọrọ laisi iyipada awọn iwuwo awoṣe ati ṣiṣẹ pẹlu ọgbọn “idanwo iwe ṣiṣi” kan
• Ifiwera RAG pẹlu iṣatunṣe itanran ati awọn isunmọ ọrọ gigun ni ibamu si idiyele, akoko ati oju iṣẹlẹ lilo
• Kikojọ awọn igbesẹ ti opo gigun ti epo RAG aṣoju ti o ni titọka ati awọn ipele ibeere

Laibikita bawo ni awoṣe ede ṣe lagbara to (imọran atọwọda ti o loye ati ṣe agbejade ọrọ; a yoo pe ni awoṣe fun kukuru lati isisiyi lọ) jẹ, ko mọ adehun ti ile-iṣẹ rẹ fowo si ni ana, oju-iwe wiki inu rẹ (orisun imọ inu), tabi akọsilẹ idasilẹ ti a tẹjade ni owurọ yii. Awoṣe naa ni opin si imọ gbogbogbo titi di ọjọ ti a ti kọ ọ; Eyi ni a npe ni "ọjọ gige-ẹkọ". RAG (Gbigba-Augmented Generation) fọwọsi aafo yii ni deede: o wa awọn iwe aṣẹ ile-iṣẹ ti o ni ibatan si ibeere naa, o fun ni awoṣe bi ọrọ-ọrọ (iyẹn ni, ọrọ afikun ti yoo ka lakoko ti o njade idahun) ati pe o ni idahun ti o da lori aaye yii.

Ninu ẹyọ yii, a yoo rii kedere kini RAG jẹ, nigba ti o fẹ ju awọn omiiran miiran, ati awọn igbesẹ ti opo gigun ti epo RAG aṣoju. Gbogbo awọn ẹya ti o tẹle yoo jinlẹ awọn apakan ti maapu yii ni ọkọọkan.

Ero Ipilẹ ti RAG: Ṣii Idanwo Iwe

Jẹ ki a ṣe alaye RAG ni gbolohun kan: "Ni akọkọ wa iwe ti o yẹ, lẹhinna jẹ ki awoṣe ka iwe naa ki o si tẹ idahun ni ibamu."

Apejuwe ti o wulo julọ ni eyi: RAG gbe awoṣe naa lati “idanwo iwe pipade” si “idanwo iwe ṣiṣi.” Ninu idanwo iwe pipade, ọmọ ile-iwe dahun nikan lati iranti; Ewu giga wa ti ṣiṣe ohun ti o ko ranti. Ninu idanwo iwe ṣiṣi, ọmọ ile-iwe dahun nipa wiwo orisun ti a gbe siwaju rẹ. Ni RAG, awoṣe ko tun dahun lati iranti tirẹ, ṣugbọn lati inu lọwọlọwọ ati ọrọ pato ti o fun ni.

Ojuami pataki: RAG ko yi awọn iwuwo awoṣe pada, iyẹn ni, awọn ọkẹ àìmọye ti awọn aye nọmba ti awoṣe ti kọ. Iwọ ko tun ṣe atunṣe awoṣe naa. Fun ibeere kọọkan, o fi awọn ṣoki ọrọ ti o ni ibatan si ibeere yẹn sinu itọsi (ọrọ itọnisọna ti a fi ranṣẹ si awoṣe). Nitorina o ko ni lati tun ṣe atunṣe awoṣe nigbati a ṣe imudojuiwọn iwe-ipamọ; o kan sọ igbasilẹ ti o yẹ ni ibi ipamọ data wiwa.

Akiyesi: Awọn ibeere meji pinnu didara RAG: (1) Ṣe o rii iwe ti o tọ? (2) Ṣé àwòṣe náà kà á dáadáa? Ohun akọkọ ni “didara igbapada”, ekeji ni “didara iran”. Awọn mejeeji ni iwọn ati ilọsiwaju lọtọ.

RAG, Fine-Tuning tabi Ọrọ Gigun?

Awọn ọna mẹta jẹ idamu nigbagbogbo nigbati o n wa ojutu si iṣoro iṣeto kan. Jẹ ki a ṣe alaye awọn iyatọ wọn. Atunse ti o dara julọ n ṣe imudojuiwọn awọn iwuwo awoṣe pẹlu data rẹ ati nkọ ni ihuwasi/ara tuntun. Ọrọ-ọrọ gigun tumọ si kikun gbogbo awọn iwe aṣẹ taara sinu tọ laisi yiyan eyikeyi.

Ona

Kini o ṣe

Nigbawo ni o yẹ?

Iye owo / Ewu

RAG

Fi iwe-ipamọ ti o yẹ bi ọrọ-ọrọ

Yiyipada loorekoore, sanlalu, alaye kan pato

Kekere; rọrun lati mu, orisun le ti wa ni toka

Titun-tuntun

Ṣe imudojuiwọn awọn iwuwo pẹlu data tuntun

Aṣa ti o wa titi / ọna kika / ẹkọ ede

Giga; Atunṣe nilo pẹlu imudojuiwọn gbogbo

Ọrọ-ọrọ gigun nikan

Kun gbogbo awọn iwe aṣẹ sinu tọ

Kekere, ṣeto iwe iduro

Iye owo ami ati eewu ti “pipadanu apakan arin” pọ si

Bi ofin: Fine-tuning kọ awọn awoṣe bi o si sọrọ; RAG sọ fun awoṣe kini lati mọ. Ninu ọpọlọpọ awọn oju iṣẹlẹ ile-iṣẹ, RAG ni a gbiyanju ni akọkọ nitori o jẹ olowo poku, imudojuiwọn, ati pe o le ṣafihan orisun ti idahun naa. Ọgangan gigun jẹ ironu ti eto iwe-ipamọ ba kere gaan ati ti o wa titi (fun apẹẹrẹ afọwọṣe oju-iwe 20 kan); Ṣugbọn pẹlu ẹgbẹẹgbẹrun awọn oju-iwe, o jẹ gbowolori ati pe awoṣe le padanu alaye ni aarin ọrọ gigun.

A aṣoju RAG Pipeline

RAG ni awọn ipele akọkọ meji: titọka (igbaradi, ṣe lẹẹkan tabi lorekore) ati ibeere (ṣiṣẹ lori gbogbo ibeere olumulo).

Atọka igbesẹ nipasẹ igbese (aisinipo, laisi idaduro olumulo):

1. Gba: Fa awọn iwe aṣẹ lati awọn orisun (PDF, wiki, tikẹti eto, database, imeeli).
2. Pipin: fọ ọrọ gigun sinu awọn ege ti o le ṣakoso ni kekere.
3. Fi sabọ: Yi apakan kọọkan pada si ifibọ (nọmba fekito ti o ni itumọ ọrọ naa).
4. Fipamọ: Kọ awọn olutọpa pẹlu ọrọ ati metadata (orisun, ọjọ, alaye aṣẹ) si ibi ipamọ data fekito.

Ibeere-igbesẹ-igbesẹ (online, lakoko ti olumulo n duro):

1. Yi ibeere olumulo pada si ifibọ.
2. Gba awọn ẹya ti o jọra julọ pada lati ibi ipamọ data fekito.
3. Gbe awọn ege wọnyi + ibeere sinu awoṣe kiakia.
4. Gba idahun ọrọ-ọrọ ati awọn orisun rẹ lati awoṣe.

# Conceptual outline of the inquiry phase (ko gbarale ede)ibeere = "Ọjọ melo ni isinmi ọdọọdun?"question_vektor = embed(question)parts = vektor_db.search(question_vektor, top_k=4) # most similar partsprompt = f"""Dahun QUESTION nipa lilo CONTEXTI" ti alaye ko ba si ni isalẹ. Fitting.CONTEXT:{parts}IBEERE: {ibeere}"" idahun = model.uret(prompt) # f.eks. awoṣe: claude-opus-4-8

Sisan yii jẹ maapu ti ipele kọọkan, eyiti a yoo tu silẹ ni ọkọọkan ni awọn apa ti o tẹle.

Ailagbara Tọ / Alagbara Tọ

Paapaa pẹlu ipo RAG kanna, didara itọka naa yi idahun pada.

Ilọsiwaju ti ko lagbara (ṣii si ibamu awoṣe, ko nilo awọn orisun):

Lo alaye yii ki o sọ isinmi ọdọọdun: {awọn apakan}. Ibeere: {ibeere}

Itọkasi ti o lagbara (fifilẹ + “Emi ko mọ” igbanilaaye + ibeere orisun):

Idahun nikan da lori CONTEXT ni isalẹ. Ti ko ba si idahun ti o daju ni ọrọ-ọrọ, kọ "Emi ko le ri alaye nipa eyi ninu iwe-ipamọ"; Maṣe gboju. Ṣafikun aami [Orisun: file_name] ti nkan ti o gbẹkẹle ni ipari idahun rẹ. ORO: {pieces} IBEERE: {ibeere}

Mẹta Mini igba

Ọran 1 - oluranlọwọ HR (Awọn orisun Eda Eniyan). Ile-iṣẹ kan ni iwe-afọwọkọ HR oju-iwe 340 ati awọn oṣiṣẹ beere lọwọ aropin awọn ibeere 90 ni ọjọ kan. A ti gbiyanju atunṣe daradara, ṣugbọn niwọn igba ti a ti ṣe imudojuiwọn iwe-aṣẹ naa ni oṣooṣu, a nilo atunṣe ni akoko kọọkan; Iye owo naa de ẹgbẹẹgbẹrun dọla fun oṣu kan. Lẹhin iyipada si RAG, imudojuiwọn naa dinku si igbesẹ “tun-tọka iwe-ipamọ” (awọn iṣẹju) ati pe oṣuwọn idahun ti o tọ pọ si lati 71% si 93% ni wiwọn afọwọṣe.

Ọran 2 - Atilẹyin alabara. Ẹgbẹ atilẹyin naa ni awọn tikẹti ipinnu 12,000 ati awọn nkan iranlọwọ 800. Yoo gba aropin iṣẹju mẹrin fun aṣoju lati wa idahun pẹlu ọwọ. Nigba ti oluranlọwọ RAG mu awọn igbasilẹ 5 ti o yẹ julọ ti o si ṣe idahun esi, akoko naa dinku si 40 awọn aaya; Ṣugbọn ẹgbẹ naa rii ewu ti “wiwa laimo nipa kiko nkan ti ko tọ” ati pe o jẹ dandan lati tọka orisun naa.

Ọran 3 - Ofin. Ẹgbẹ adehun kan beere "ninu awọn adehun wo ni gbolohun ọrọ asiri ni ọdun 5 to koja?" o beere ibeere naa. Ninu iwadii ọrọ igba pipẹ, awọn adehun 60 ti kun sinu iyara kan; awoṣe skipped aarin meji siwe. Nigbati awọn ohun kan ti o yẹ nikan ni a ṣe pẹlu RAG, iye owo ami-ami dinku nipasẹ 80% ati pe ṣifo ti o padanu ti tun.

Kini idi ti RAG nilo?

• Lọwọlọwọ: O wọle si alaye lẹhin ọjọ gige ikẹkọ.
• Alaye pataki: Awọn iwe aṣẹ inu rẹ ko si ninu ikẹkọ ti eyikeyi awoṣe; Nikan o le fun.
• Ijeri: O le tọka orisun ti idahun (itọkasi) - pataki fun iṣatunṣe ati igbẹkẹle.
• Iṣakoso hallucination: O da lori ọrọ ti a gbe si iwaju rẹ ju ṣiṣe apẹrẹ kan.
• Iye owo: O din owo pupọ ati yiyara lati fi si iṣẹ ju ṣiṣe atunṣe lọ.

Išọra: RAG kii ṣe idan. Ti o ba mu nkan ti ko tọ wọle, awoṣe naa de idahun ti ko tọ ti o n wo “igboya.” Fiyesi gbolohun ọrọ naa "Didara igbapada = Didara RAG".

Awọn aṣiṣe ti o wọpọ

• Aṣiṣe RAG fun atunṣe-itanran: RAG ko yi awọn iwuwo pada; O kan ṣafikun ọrọ-ọrọ. Riru awọn meji wọnyi yoo ja si yiyan faaji ti ko tọ.
• Ko gba laaye "Emi ko mọ": Ti itọka naa ba fi awoṣe silẹ ni ọfẹ lati kun òfo, yoo ṣe soke.
• Ko sọ awọn orisun: Idahun laisi orisun ko le ṣayẹwo; Olumulo ko le ṣe akiyesi aṣiṣe naa.
• Pipa ohun gbogbo sinu itọka kan: Opo gigun dabi olowo poku ṣugbọn o gbowolori ati padanu alaye aarin.
• Didi ni iran laisi wiwọn igbapada: Ti idahun ba buru, akọkọ beere "Ṣe apakan ọtun de?" yẹ ki o beere.

Ni akojọpọ

• RAG jẹ ọna ti o fi awọn iwe aṣẹ ti o nii ṣe pẹlu ibeere sinu awoṣe bi ipo; ko ni yi awọn òṣuwọn ("ìmọ iwe kẹhìn").
• Titun-fine kọni ara / ọna kika, RAG n fun lọwọlọwọ ati alaye pato; gun o tọ ṣiṣẹ daradara fun kekere ti o wa titi tosaaju. Ni ọpọlọpọ awọn oju iṣẹlẹ, RAG ti gbiyanju ni akọkọ.
• Opo opo gigun ti epo ni awọn ipele meji: titọka aisinipo (chunk + ifibọ + fipamọ) ati ibeere lori ayelujara (imupadabọ + itusilẹ + ipilẹṣẹ).
• RAG n pese akoko ti akoko, alaye kan pato, ijẹrisi, iṣakoso hallucination, ati idiyele kekere.
• Didara eto taara da lori didara igbapada: nkan ti ko tọ tumọ si idahun ti ko tọ.

Ohun elo iṣẹ-ṣiṣe

Yan ojulowo orisun alaye lati ọdọ ẹgbẹ tirẹ (fun apẹẹrẹ iwe ilana tabi oju-iwe FAQ). (1) Kọ awọn ibeere otitọ 5 nipa orisun yii. (2) Ṣe akiyesi apakan ti iwe-ipamọ ni idahun to pe fun ibeere kọọkan - eyi di atokọ “idahun goolu” rẹ. (3) Lilo awoṣe "itọpa ti o lagbara" loke, fi ọwọ lẹẹmọ apakan ti o yẹ gẹgẹbi ọrọ-ọrọ ati beere awoṣe kan. (4) Ṣe afiwe idahun ti a fun nipasẹ awoṣe pẹlu idahun goolu ati samisi bi otitọ/eke. Eyi ni ẹda afọwọṣe akọkọ ti iṣiro ti iwọ yoo ṣe adaṣe ni awọn ẹya iwaju.

akojọ ayẹwo

• [] Mo le ṣe alaye ninu gbolohun kan pe RAG ko yi awọn iwuwo pada, o kan ṣafikun ọrọ-ọrọ.
• [] Mo ti le iyato laarin RAG, itanran-tuning ati ki o gun o tọ ati nigbati eyi ti o jẹ yẹ.
• [] Mo le ka titọka (kojọpọ-shred-embed-fipamọ) ati ibeere (fi sabe-fetch-prompt-generate) awọn ipele ni lẹsẹsẹ.
• [] Mo mọ idi ti mo fi kun awọn "ti o ba ti o ni ko ni o tọ, wi Emi ko mọ" ati "to awọn orisun" ilana si awọn tọ.
• [] Mo le ṣe atunṣe ilana ti "didara atunṣe = didara RAG" si ọran ti ara mi.