RAG என்றால் என்ன, அது ஏன் அவசியம்?

ஆதாயங்கள்:

• மாதிரியின் எடையை மாற்றாமல் RAG சூழலை உட்செலுத்துகிறது மற்றும் 'திறந்த புத்தக தேர்வு' தர்க்கத்துடன் செயல்படுகிறது என்பதை விளக்குகிறது
• RAG ஐ சிறந்த-சரிப்படுத்தும் மற்றும் நீண்ட சூழல் அணுகுமுறைகளுடன் செலவு, நேரம் மற்றும் பயன்பாட்டு சூழ்நிலைக்கு ஏற்ப ஒப்பிடுதல்
• அட்டவணைப்படுத்தல் மற்றும் வினவல் கட்டங்களைக் கொண்ட பொதுவான RAG பைப்லைனின் படிகளை பட்டியலிடுகிறது

மொழி மாதிரி எவ்வளவு சக்தி வாய்ந்ததாக இருந்தாலும் (உரையைப் புரிந்து கொண்டு உருவாக்கும் செயற்கை நுண்ணறிவு; இனி சுருக்கமாக மாடல் என்று அழைப்போம்) அதற்கு உங்கள் நிறுவனம் நேற்று கையொப்பமிட்ட ஒப்பந்தம், உங்கள் உள் விக்கி (உள் அறிவுத் தளம்) பக்கம் அல்லது இன்று காலை வெளியிடப்பட்ட வெளியீட்டுக் குறிப்பு தெரியாது. மாதிரியானது பயிற்சியளிக்கப்பட்ட தேதி வரை பொது அறிவுக்கு வரம்புக்குட்பட்டது; இது "கல்வி கட்-ஆஃப் தேதி" என்று அழைக்கப்படுகிறது. RAG (Retrieval-Augmented Generation) இந்த இடைவெளியை சரியாக நிரப்புகிறது: இது கேள்வி தொடர்பான நிறுவனத்தின் ஆவணங்களைக் கண்டறிந்து, அதை மாதிரிக்கு சூழலாகக் கொடுக்கிறது (அதாவது, பதிலைத் தயாரிக்கும் போது அது படிக்கும் கூடுதல் உரை) மற்றும் இந்தச் சூழலின் அடிப்படையில் தயாரிக்கப்பட்ட பதிலைக் கொண்டுள்ளது.

இந்த யூனிட்டில், RAG என்றால் என்ன, எந்த மாற்றுகளுக்கு முன்னுரிமை அளிக்கப்படும், மற்றும் ஒரு பொதுவான RAG பைப்லைனின் படிகள் ஆகியவற்றை தெளிவாகப் பார்ப்போம். அனைத்து அடுத்தடுத்த அலகுகளும் இந்த வரைபடத்தின் பகுதிகளை ஒவ்வொன்றாக ஆழப்படுத்தும்.

RAG இன் அடிப்படை யோசனை: திறந்த புத்தகத் தேர்வு

RAG ஐ ஒரு வாக்கியத்தில் விளக்குவோம்: "முதலில் தொடர்புடைய ஆவணத்தைக் கண்டுபிடித்து, பின்னர் அந்த ஆவணத்தை மாதிரியைப் படித்து அதற்கேற்ப பதிலை அச்சிடவும்."

மிகவும் பயனுள்ள ஒப்புமை இதுதான்: RAG மாதிரியை "மூடப்பட்ட புத்தகத் தேர்வு" என்பதிலிருந்து "திறந்த புத்தகத் தேர்வுக்கு" நகர்த்துகிறது. மூடிய புத்தகத் தேர்வில், மாணவர் நினைவிலிருந்து மட்டுமே பதிலளிக்கிறார்; உங்களுக்கு நினைவில் இல்லாததை உருவாக்குவதற்கான அதிக ஆபத்து உள்ளது. திறந்த புத்தகத் தேர்வில், மாணவர் தனது முன் வைக்கப்பட்டுள்ள மூலத்தைப் பார்த்து பதிலளிக்கிறார். RAG இல், மாடல் அதன் சொந்த நினைவகத்திலிருந்து பதிலளிக்காது, ஆனால் நீங்கள் வழங்கும் தற்போதைய மற்றும் குறிப்பிட்ட உரையிலிருந்து.

முக்கியமான புள்ளி: RAG ஆனது மாதிரியின் எடையை மாற்றாது, அதாவது, மாதிரி கற்றுக்கொண்ட பில்லியன் கணக்கான எண் அளவுருக்கள். நீங்கள் மாதிரியை மீண்டும் பயிற்சி செய்ய வேண்டாம். ஒவ்வொரு கேள்விக்கும், அந்த கேள்விக்கு தொடர்புடைய உரையின் துண்டுகளை நீங்கள் வரியில் செலுத்துகிறீர்கள் (மாதிரிக்கு அனுப்பப்பட்ட அறிவுறுத்தல் உரை). எனவே ஒரு ஆவணம் புதுப்பிக்கப்படும் போது நீங்கள் மாதிரியை மீண்டும் பயிற்சி செய்ய வேண்டியதில்லை; தேடல் தரவுத்தளத்தில் தொடர்புடைய பதிவை நீங்கள் புதுப்பிக்கலாம்.

குறிப்பு: RAG இன் தரத்தை இரண்டு கேள்விகள் தீர்மானிக்கின்றன: (1) சரியான ஆவணத்தைக் கண்டுபிடித்தீர்களா? (2) மாதிரி சரியாகப் படித்தாரா? முதலாவது "மீட்பு தரம்", இரண்டாவது "தலைமுறை தரம்". இரண்டும் தனித்தனியாக அளவிடப்பட்டு மேம்படுத்தப்படுகின்றன.

RAG, Fine-Tuning அல்லது Long Context?

ஒரு நிறுவன பிரச்சனைக்கு தீர்வு தேடும் போது மூன்று பாதைகள் அடிக்கடி குழப்பமடைகின்றன. அவர்களின் வேறுபாடுகளை தெளிவுபடுத்துவோம். ஃபைன்-டியூனிங் என்பது மாதிரியின் எடையை உங்கள் தரவுகளுடன் புதுப்பித்து, அதற்கு ஒரு புதிய நடத்தை/பாணியைக் கற்பிக்கிறது. நீண்ட சூழல் என்பது எந்த தேர்வும் இல்லாமல் அனைத்து ஆவணங்களையும் நேரடியாக வரியில் நிரப்புவதாகும்.

அணுகுமுறை

என்ன செய்கிறது

அது எப்போது பொருத்தமானது?

செலவு / ஆபத்து

RAG

தொடர்புடைய ஆவணத்தை சூழலாகப் புகுத்துகிறது

அடிக்கடி மாறும், விரிவான, குறிப்பிட்ட தகவல்

குறைந்த; புதுப்பிக்க எளிதானது, மூலத்தை மேற்கோள் காட்டலாம்

நன்றாகச் சரிசெய்தல்

புதிய தரவுகளுடன் எடையை மேம்படுத்துகிறது

நிலையான நடை/வடிவம்/மொழி கற்பித்தல்

உயர்; ஒவ்வொரு புதுப்பித்தலுடனும் மீண்டும் பயிற்சி தேவை

நீண்ட சூழல் மட்டுமே

அனைத்து ஆவணங்களையும் வரியில் நிரப்புகிறது

சிறிய, நிலையான ஆவண தொகுப்பு

டோக்கன் செலவு மற்றும் "நடுத்தர பகுதியை இழக்கும்" ஆபத்து அதிகரிக்கிறது

ஒரு விதியாக: ஃபைன்-ட்யூனிங் எப்படி பேச வேண்டும் என்று மாதிரியை கற்றுக்கொடுக்கிறது; RAG மாதிரி என்ன தெரிந்து கொள்ள வேண்டும் என்று சொல்கிறது. பெரும்பாலான நிறுவன சூழ்நிலைகளில், RAG முதலில் முயற்சிக்கப்படுகிறது, ஏனெனில் இது மலிவானது, புதுப்பிக்கக்கூடியது மற்றும் பதிலின் மூலத்தைக் காட்ட முடியும். ஆவணத் தொகுப்பு மிகவும் சிறியதாகவும் நிலையானதாகவும் இருந்தால் நீண்ட சூழல் நியாயமானது (எ.கா. ஒற்றை 20-பக்க கையேடு); ஆனால் ஆயிரக்கணக்கான பக்கங்களுடன், இது விலை உயர்ந்தது மற்றும் மாடல் நீண்ட உரையின் நடுவில் தகவலை இழக்கக்கூடும்.

ஒரு வழக்கமான RAG பைப்லைன்

RAG இரண்டு முக்கிய கட்டங்களைக் கொண்டுள்ளது: அட்டவணைப்படுத்தல் (தயாரித்தல், ஒரு முறை அல்லது அவ்வப்போது செய்யப்படுகிறது) மற்றும் வினவல் (ஒவ்வொரு பயனர் கேள்வியிலும் இயங்குகிறது).

படிப்படியாக அட்டவணைப்படுத்தல் (ஆஃப்லைனில், பயனர் காத்திருக்காமல்):

1. சேகரிக்கவும்: ஆதாரங்களில் இருந்து ஆவணங்களை இழுக்கவும் (PDF, விக்கி, டிக்கெட் அமைப்பு, தரவுத்தளம், மின்னஞ்சல்).
2. துண்டித்தல்: நீண்ட உரையை நிர்வகிக்கக்கூடிய சிறிய துண்டுகளாக உடைக்கவும்.
3. உட்பொதி: ஒவ்வொரு பகுதியையும் உட்பொதிவாக மாற்றவும் (உரையின் பொருளைக் கொண்டிருக்கும் எண் திசையன்).
4. சேமி: திசையன் தரவுத்தளத்தில் உரை மற்றும் மெட்டாடேட்டா (மூலம், தேதி, அங்கீகார தகவல்) ஆகியவற்றுடன் திசையன்களை எழுதவும்.

படிப்படியான வினவல் (ஆன்லைனில், பயனர் காத்திருக்கும்போது):

1. பயனரின் கேள்வியை உட்பொதிக்க மாற்றவும்.
2. திசையன் தரவுத்தளத்திலிருந்து மிகவும் ஒத்த பகுதிகளை மீட்டெடுக்கவும்.
3. இந்த துண்டுகள் + கேள்வியை ஒரு உடனடி டெம்ப்ளேட்டில் வைக்கவும்.
4. மாதிரியிலிருந்து சூழ்நிலைப் பதிலையும் அதன் ஆதாரங்களையும் பெறவும்.

# விசாரணைக் கட்டத்தின் கருத்தியல் அவுட்லைன் (மொழியைச் சார்ந்தது அல்ல)கேள்வி = "வருடாந்திர விடுப்பு எத்தனை நாட்கள்?"question_vektor = embed(question)parts = vektor_db.search(question_vektor, top_k=4) # most similar partsprompt = f"""இந்த கேள்விக்கு பதில் இல்லை என்றால், CONTEST ஐப் பயன்படுத்தி கீழே உள்ள கேள்விக்கு பதிலளிக்கவும். Fitting.CONTEXT:{parts}QUESTION: {question}"""answer = model.uret(prompt) # எ.கா. மாதிரி: claude-opus-4-8

இந்த ஓட்டம் ஒவ்வொரு கட்டத்தின் வரைபடமாகும், அதை அடுத்தடுத்த அலகுகளில் ஒவ்வொன்றாக பிரிப்போம்.

பலவீனமான ப்ராம்ட் / ஸ்ட்ராங் ப்ராம்ட்

அதே RAG சூழலில் இருந்தாலும், ப்ராம்ட்டின் தரம் பதிலை மாற்றுகிறது.

பலவீனமான ப்ராம்ட் (மாடல் பொருத்துவதற்கு திறந்திருக்கும், ஆதாரங்கள் தேவையில்லை):

இந்தத் தகவலைப் பயன்படுத்தி, வருடாந்திர விடுப்பு எனக் கூறவும்: {parts}. கேள்வி: {question}

சக்திவாய்ந்த ப்ராம்ட் (கிரவுண்டிங் + "எனக்குத் தெரியாது" அனுமதி + ஆதார கோரிக்கை):

கீழே உள்ள CONTEXT அடிப்படையில் மட்டுமே பதிலளிக்கவும். சூழலில் தெளிவான பதில் இல்லை என்றால், "ஆவணத்தில் இதைப் பற்றிய தகவலை என்னால் கண்டுபிடிக்க முடியவில்லை" என்று எழுதவும்; யூகிக்காதே. உங்கள் பதிலின் முடிவில் நீங்கள் நம்பியிருக்கும் பகுதியின் [Source: file_name] குறிச்சொல்லைச் சேர்க்கவும். சூழல்: {துண்டுகள்} கேள்வி: {question}

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - மனிதவள உதவியாளர் (மனித வளங்கள்). ஒரு நிறுவனத்தில் 340 பக்க மனிதவள கையேடு உள்ளது மற்றும் ஊழியர்கள் ஒரு நாளைக்கு சராசரியாக 90 கேள்விகளைக் கேட்கிறார்கள். ஃபைன்-ட்யூனிங் முயற்சி செய்யப்பட்டது, ஆனால் கையேடு மாதந்தோறும் புதுப்பிக்கப்பட்டதால், ஒவ்வொரு முறையும் மீண்டும் பயிற்சி தேவைப்பட்டது; செலவு மாதத்திற்கு ஆயிரக்கணக்கான டாலர்களை எட்டியது. RAGக்கு மாறிய பிறகு, புதுப்பிப்பு "ஆவணத்தை மறு-குறியீடு" படி (நிமிடங்கள்) ஆகக் குறைக்கப்பட்டது மற்றும் கைமுறை அளவீட்டில் சரியான பதில் விகிதம் 71% இலிருந்து 93% ஆக அதிகரித்தது.

வழக்கு 2 - வாடிக்கையாளர் ஆதரவு. ஆதரவுக் குழுவில் 12,000 தீர்க்கப்பட்ட டிக்கெட்டுகள் மற்றும் 800 உதவிக் கட்டுரைகள் உள்ளன. ஒரு பிரதிநிதி கைமுறையாக பதிலைக் கண்டுபிடிக்க சராசரியாக 4 நிமிடங்கள் ஆகும். RAG உதவியாளர் 5 மிகவும் பொருத்தமான பதிவுகளைக் கொண்டு வந்து வரைவு பதிலைத் தயாரித்தபோது, ​​நேரம் 40 வினாடிகளாகக் குறைக்கப்பட்டது; ஆனால் குழு "தவறான கட்டுரையைக் கொண்டு வருவதன் மூலம் நிச்சயமற்றதாகத் தோன்றுகிறது" என்ற அபாயத்தை உணர்ந்து, ஆதாரத்தை மேற்கோள் காட்டுவதை கட்டாயமாக்கியது.

வழக்கு 3 - சட்டம். ஒரு ஒப்பந்தக் குழு "எந்த ஒப்பந்தங்களில் ரகசியத்தன்மை 5 ஆண்டுகள் நீடிக்கும்?" அவர் கேள்வி கேட்கிறார். நீண்ட சூழல் சோதனையில், 60 ஒப்பந்தங்கள் ஒரே வரியில் நிரப்பப்பட்டன; மாடல் நடுத்தர இரண்டு ஒப்பந்தங்களைத் தவிர்த்தது. RAG உடன் தொடர்புடைய பொருட்கள் மட்டுமே அறிமுகப்படுத்தப்பட்டபோது, ​​டோக்கன் விலை 80% குறைந்துள்ளது மற்றும் விடுபட்ட ஸ்கிப்பிங் மீட்டமைக்கப்பட்டது.

RAG ஏன் தேவைப்படுகிறது?

• நடப்பு: பயிற்சி கட்-ஆஃப் தேதிக்குப் பிறகு நீங்கள் தகவலை அணுகலாம்.
• சிறப்புத் தகவல்: உங்கள் உள் ஆவணங்கள் எந்த மாதிரியின் பயிற்சியிலும் சேர்க்கப்படவில்லை; உங்களால் மட்டுமே கொடுக்க முடியும்.
• சரிபார்ப்பு: நீங்கள் பதிலின் மூலத்தை மேற்கோள் காட்டலாம் (மேற்கோள்) - தணிக்கை மற்றும் நம்பிக்கைக்கு அவசியம்.
• மாயத்தோற்றம் கட்டுப்பாடு: இது ஒரு மாதிரியை உருவாக்குவதை விட அதன் முன் வைக்கப்பட்டுள்ள உரையை நம்பியுள்ளது.
• செலவு: ஃபைன்-டியூனிங்கை விட இது மிகவும் மலிவானது மற்றும் வேகமானது.

எச்சரிக்கை: RAG என்பது மந்திரம் அல்ல. நீங்கள் தவறான பகுதியைக் கொண்டுவந்தால், மாடல் "நம்பிக்கையுடன்" தவறான பதிலைப் பெறுகிறது. "மீட்பு தரம் = RAG தரம்" என்ற சொற்றொடரை மனதில் கொள்ளுங்கள்.

பொதுவான தவறுகள்

• RAG ஐ ஃபைன்-ட்யூனிங்கிற்காக தவறாகப் புரிந்துகொள்வது: RAG எடைகளை மாற்றாது; இது சூழலைச் சேர்க்கிறது. இந்த இரண்டையும் குழப்புவது தவறான கட்டிடக்கலையை தேர்ந்தெடுக்க வழிவகுக்கும்.
• "எனக்குத் தெரியாது" என்பதை அனுமதிக்கவில்லை: ப்ராம்ட் மாடலை காலியாக நிரப்பினால், அது ஈடுசெய்யும்.
• ஆதாரங்களை மேற்கோள் காட்டவில்லை: ஆதாரம் இல்லாத பதிலைச் சரிபார்க்க முடியாது; பயனர் தவறை கவனிக்க முடியாது.
• எல்லாவற்றையும் ஒரே வரியில் குவித்தல்: நீண்ட சூழல் மலிவாகத் தெரிகிறது ஆனால் விலை உயர்ந்தது மற்றும் நடுத்தரத் தகவலைத் தவறவிடுகிறது.
• மீட்டெடுப்பை அளவிடாமல் தலைமுறையில் சிக்கிக்கொள்வது: பதில் மோசமாக இருந்தால், முதலில் "சரியான பகுதி வந்ததா?" கேட்கப்பட வேண்டும்.

சுருக்கமாக

• RAG என்பது கேள்விக்கு தொடர்புடைய ஆவணங்களை மாதிரியில் சூழலாகச் செலுத்தும் அணுகுமுறையாகும்; எடையை மாற்றாது ("திறந்த புத்தக தேர்வு").
• ஃபைன்-ட்யூனிங் பாணி/வடிவமைப்பைக் கற்பிக்கிறது, RAG தற்போதைய மற்றும் குறிப்பிட்ட தகவலை வழங்குகிறது; சிறிய நிலையான தொகுப்புகளுக்கு நீண்ட சூழல் நன்றாக வேலை செய்கிறது. பெரும்பாலான காட்சிகளில், RAG முதலில் முயற்சிக்கப்படுகிறது.
• பைப்லைனில் இரண்டு கட்டங்கள் உள்ளன: ஆஃப்லைன் அட்டவணைப்படுத்தல் (துண்டு + உட்பொதித்தல் + சேமித்தல்) மற்றும் ஆன்லைன் வினவல் (மீட்டெடுப்பு + ப்ராம்ட் + உருவாக்குதல்).
• RAG ஆனது நேரம், குறிப்பிட்ட தகவல், சரிபார்த்தல், மாயத்தோற்றம் கட்டுப்பாடு மற்றும் குறைந்த விலை ஆகியவற்றை வழங்குகிறது.
• கணினியின் தரம் நேரடியாக மீட்டெடுப்பின் தரத்தைப் பொறுத்தது: தவறான துண்டு என்பது தவறான பதிலைக் குறிக்கிறது.

விண்ணப்ப பணி

உங்கள் சொந்தக் குழுவிடமிருந்து உண்மையான தகவல் மூலத்தைத் தேர்வு செய்யவும் (எ.கா. நடைமுறை ஆவணம் அல்லது அடிக்கடி கேட்கப்படும் கேள்விகள் பக்கம்). (1) இந்த மூலத்தைப் பற்றிய 5 உண்மைக் கேள்விகளை எழுதவும். (2) ஆவணத்தின் எந்தப் பகுதியில் ஒவ்வொரு கேள்விக்கும் சரியான பதில் உள்ளது என்பதைக் கவனியுங்கள் - இது உங்கள் "தங்க பதில்" பட்டியலாக மாறும். (3) மேலே உள்ள "strong prompt" டெம்ப்ளேட்டைப் பயன்படுத்தி, தொடர்புடைய பகுதியை கைமுறையாகச் சூழலாக ஒட்டவும் மற்றும் மாதிரியைக் கேட்கவும். (4) மாதிரி வழங்கிய பதிலை பொன்னான பதிலுடன் ஒப்பிட்டு உண்மை/தவறு எனக் குறிக்கவும். எதிர்கால யூனிட்களில் நீங்கள் தானியங்குபடுத்தும் மதிப்பீட்டின் முதல் கையேடு பதிப்பு இதுவாகும்.

சரிபார்ப்பு பட்டியல்

• RAG எடைகளை மாற்றாது, அது சூழலைச் சேர்க்கிறது என்பதை என்னால் ஒரு வாக்கியத்தில் விளக்க முடியும்.
• [ ] என்னால் RAG, ஃபைன்-டியூனிங் மற்றும் நீண்ட சூழல் மற்றும் எது பொருத்தமானது என்பதை வேறுபடுத்தி அறிய முடியும்.
• [ ] நான் அட்டவணைப்படுத்தல் (சேகரிப்பு-துண்டாக்குதல்-உட்பொதித்தல்-சேமித்தல்) மற்றும் வினவல் (உட்பொதித்தல்-எடுத்தல்-உரையில்-உருவாக்கம்) ஆகிய கட்டங்களை வரிசையாக எண்ண முடியும்.
• [ ] "அது சூழலில் இல்லை என்றால், எனக்குத் தெரியாது என்று சொல்லுங்கள்" மற்றும் "ஆதாரத்தை மேற்கோள் காட்டு" வழிமுறைகளை ஏன் ப்ராம்ட்டில் சேர்த்தேன் என்பது எனக்குத் தெரியும்.
• [ ] "மீட்பு தரம் = RAG தரம்" என்ற கொள்கையை எனது சொந்த விஷயத்திற்கு மாற்றியமைக்க முடியும்.