എന്താണ് RAG, എന്തുകൊണ്ട് അത് ആവശ്യമാണ്?

നേട്ടങ്ങൾ:

• മോഡലിൻ്റെ ഭാരം മാറ്റാതെ തന്നെ RAG സന്ദർഭം കുത്തിവയ്ക്കുന്നുവെന്നും ഒരു 'ഓപ്പൺ ബുക്ക് എക്സാം' ലോജിക്കിൽ പ്രവർത്തിക്കുന്നുവെന്നും വിശദീകരിക്കുന്നു
• ചെലവ്, സമയബന്ധിതം, ഉപയോഗ സാഹചര്യം എന്നിവ അനുസരിച്ച് മികച്ച ട്യൂണിംഗും നീണ്ട സന്ദർഭ സമീപനങ്ങളുമായി RAG താരതമ്യം ചെയ്യുന്നു
• ഇൻഡക്‌സിംഗും അന്വേഷണ ഘട്ടങ്ങളും അടങ്ങുന്ന ഒരു സാധാരണ RAG പൈപ്പ്‌ലൈനിൻ്റെ ഘട്ടങ്ങൾ ലിസ്റ്റുചെയ്യുന്നു

എത്ര ശക്തമായ ഭാഷാ മോഡൽ (വാചകം മനസ്സിലാക്കുകയും നിർമ്മിക്കുകയും ചെയ്യുന്ന കൃത്രിമബുദ്ധി; ഞങ്ങൾ അതിനെ ഇനി മുതൽ മോഡൽ എന്ന് ചുരുക്കി വിളിക്കും) ആണെങ്കിലും, അതിന് നിങ്ങളുടെ കമ്പനി ഇന്നലെ ഒപ്പിട്ട കരാറോ നിങ്ങളുടെ ആന്തരിക വിക്കി (ആന്തരിക വിജ്ഞാന അടിത്തറ) പേജോ ഇന്ന് രാവിലെ പ്രസിദ്ധീകരിച്ച റിലീസ് കുറിപ്പോ അറിയില്ല. മോഡൽ അത് പരിശീലിപ്പിച്ച തീയതി വരെയുള്ള പൊതുവിജ്ഞാനത്തിൽ പരിമിതപ്പെടുത്തിയിരിക്കുന്നു; ഇതിനെ "വിദ്യാഭ്യാസ കട്ട്-ഓഫ് തീയതി" എന്ന് വിളിക്കുന്നു. RAG (Retrieval-Augmented Generation) ഈ വിടവ് കൃത്യമായി നികത്തുന്നു: അത് ചോദ്യവുമായി ബന്ധപ്പെട്ട കമ്പനിയുടെ രേഖകൾ കണ്ടെത്തുകയും മോഡലിന് സന്ദർഭമായി നൽകുകയും ചെയ്യുന്നു (അതായത്, ഉത്തരം തയ്യാറാക്കുമ്പോൾ അത് വായിക്കുന്ന അധിക വാചകം) കൂടാതെ ഈ സന്ദർഭത്തെ അടിസ്ഥാനമാക്കിയുള്ള ഉത്തരം നിർമ്മിക്കുകയും ചെയ്യുന്നു.

ഈ യൂണിറ്റിൽ, RAG എന്താണെന്നും, ഏത് ബദലുകളേക്കാൾ മുൻഗണന നൽകുമ്പോൾ, ഒരു സാധാരണ RAG പൈപ്പ്ലൈനിൻ്റെ ഘട്ടങ്ങൾ എന്താണെന്നും നമുക്ക് വ്യക്തമായി കാണാം. തുടർന്നുള്ള എല്ലാ യൂണിറ്റുകളും ഈ മാപ്പിൻ്റെ ഭാഗങ്ങൾ ഓരോന്നായി ആഴത്തിലാക്കും.

RAG-ൻ്റെ അടിസ്ഥാന ആശയം: ഓപ്പൺ ബുക്ക് പരീക്ഷ

RAG-നെ ഒരു വാചകത്തിൽ വിശദീകരിക്കാം: "ആദ്യം പ്രസക്തമായ പ്രമാണം കണ്ടെത്തുക, തുടർന്ന് മോഡൽ ആ പ്രമാണം വായിക്കുകയും അതിനനുസരിച്ച് ഉത്തരം പ്രിൻ്റ് ചെയ്യുകയും ചെയ്യുക."

ഏറ്റവും ഉപയോഗപ്രദമായ സാമ്യം ഇതാണ്: RAG മോഡലിനെ "ക്ലോസ്ഡ് ബുക്ക് എക്സാം" എന്നതിൽ നിന്ന് "ഓപ്പൺ ബുക്ക് എക്സാം" എന്നതിലേക്ക് മാറ്റുന്നു. അടച്ച പുസ്തക പരീക്ഷയിൽ, വിദ്യാർത്ഥി ഓർമ്മയിൽ നിന്ന് മാത്രം ഉത്തരം നൽകുന്നു; നിങ്ങൾ ഓർക്കാത്ത കാര്യങ്ങൾ ഉണ്ടാക്കുന്നതിനുള്ള ഉയർന്ന അപകടസാധ്യതയുണ്ട്. ഓപ്പൺ ബുക്ക് പരീക്ഷയിൽ, വിദ്യാർത്ഥി തൻ്റെ മുന്നിൽ വച്ചിരിക്കുന്ന ഉറവിടം നോക്കി ഉത്തരം നൽകുന്നു. RAG-ൽ, മോഡൽ ഇനി ഉത്തരം നൽകുന്നത് സ്വന്തം മെമ്മറിയിൽ നിന്നല്ല, മറിച്ച് നിങ്ങൾ നൽകുന്ന നിലവിലുള്ളതും നിർദ്ദിഷ്ടവുമായ വാചകത്തിൽ നിന്നാണ്.

നിർണ്ണായക പോയിൻ്റ്: RAG മോഡലിൻ്റെ ഭാരം മാറ്റില്ല, അതായത്, മോഡൽ പഠിച്ച കോടിക്കണക്കിന് സംഖ്യാ പാരാമീറ്ററുകൾ. നിങ്ങൾ മോഡൽ വീണ്ടും പരിശീലിപ്പിക്കരുത്. ഓരോ ചോദ്യത്തിനും, ആ ചോദ്യത്തിന് പ്രസക്തമായ വാചകത്തിൻ്റെ ഭാഗങ്ങൾ നിങ്ങൾ പ്രോംപ്റ്റിലേക്ക് കുത്തിവയ്ക്കുന്നു (മോഡലിലേക്ക് അയച്ച നിർദ്ദേശ വാചകം). അതിനാൽ ഒരു പ്രമാണം അപ്ഡേറ്റ് ചെയ്യുമ്പോൾ നിങ്ങൾ മോഡൽ വീണ്ടും പരിശീലിപ്പിക്കേണ്ടതില്ല; നിങ്ങൾ തിരയൽ ഡാറ്റാബേസിൽ പ്രസക്തമായ റെക്കോർഡ് പുതുക്കിയെടുക്കുക.

സൂചന: രണ്ട് ചോദ്യങ്ങൾ RAG-ൻ്റെ ഗുണനിലവാരം നിർണ്ണയിക്കുന്നു: (1) നിങ്ങൾ ശരിയായ പ്രമാണം കണ്ടെത്തിയോ? (2) മോഡൽ അത് ശരിയായി വായിച്ചിട്ടുണ്ടോ? ആദ്യത്തേത് "വീണ്ടെടുക്കൽ ഗുണനിലവാരം", രണ്ടാമത്തേത് "തലമുറ നിലവാരം". രണ്ടും വെവ്വേറെ അളക്കുകയും മെച്ചപ്പെടുത്തുകയും ചെയ്യുന്നു.

RAG, ഫൈൻ-ട്യൂണിംഗ് അല്ലെങ്കിൽ നീണ്ട സന്ദർഭം?

ഒരു സംഘടനാ പ്രശ്നത്തിന് പരിഹാരം തേടുമ്പോൾ മൂന്ന് വഴികൾ പലപ്പോഴും ആശയക്കുഴപ്പത്തിലാകുന്നു. അവരുടെ വ്യത്യാസങ്ങൾ വ്യക്തമാക്കാം. ഫൈൻ-ട്യൂണിംഗ് എന്നത് നിങ്ങളുടെ ഡാറ്റ ഉപയോഗിച്ച് മോഡലിൻ്റെ ഭാരം അപ്‌ഡേറ്റ് ചെയ്യുകയും അതിന് ഒരു പുതിയ സ്വഭാവം/ശൈലി പഠിപ്പിക്കുകയും ചെയ്യുന്നു. ദൈർഘ്യമേറിയ സന്ദർഭം എന്നാൽ തിരഞ്ഞെടുക്കാതെ തന്നെ എല്ലാ രേഖകളും പ്രോംപ്റ്റിലേക്ക് നേരിട്ട് പൂരിപ്പിക്കുക എന്നാണ്.

സമീപിക്കുക

എന്ത് ചെയ്യുന്നു

എപ്പോഴാണ് അത് ഉചിതം?

ചെലവ് / അപകടസാധ്യത

RAG

സന്ദർഭമായി പ്രസക്തമായ രേഖ കുത്തിവയ്ക്കുന്നു

പതിവായി മാറുന്ന, വിപുലമായ, നിർദ്ദിഷ്ട വിവരങ്ങൾ

താഴ്ന്നത്; അപ്ഡേറ്റ് ചെയ്യാൻ എളുപ്പമാണ്, ഉറവിടം ഉദ്ധരിക്കാം

ഫൈൻ-ട്യൂണിംഗ്

പുതിയ ഡാറ്റ ഉപയോഗിച്ച് ഭാരം അപ്ഡേറ്റ് ചെയ്യുന്നു

സ്ഥിരമായ ശൈലി/ഫോർമാറ്റ്/ഭാഷ പഠിപ്പിക്കൽ

ഉയർന്നത്; ഓരോ അപ്‌ഡേറ്റിലും വീണ്ടും പരിശീലനം ആവശ്യമാണ്

നീണ്ട സന്ദർഭം മാത്രം

പ്രോംപ്റ്റിൽ എല്ലാ രേഖകളും പൂരിപ്പിക്കുന്നു

ചെറുതും നിശ്ചലവുമായ ഡോക്യുമെൻ്റ് സെറ്റ്

ടോക്കൺ വിലയും "മധ്യഭാഗം നഷ്‌ടപ്പെടാനുള്ള" അപകടസാധ്യതയും വർദ്ധിക്കുന്നു

ചട്ടം പോലെ: ഫൈൻ-ട്യൂണിംഗ് എങ്ങനെ സംസാരിക്കണമെന്ന് മോഡലിനെ പഠിപ്പിക്കുന്നു; മോഡലിനോട് എന്താണ് അറിയേണ്ടതെന്ന് RAG പറയുന്നു. മിക്ക എൻ്റർപ്രൈസ് സാഹചര്യങ്ങളിലും, RAG ആണ് ആദ്യം പരീക്ഷിക്കുന്നത്, കാരണം അത് വിലകുറഞ്ഞതും അപ്ഡേറ്റ് ചെയ്യാവുന്നതും ഉത്തരത്തിൻ്റെ ഉറവിടം കാണിക്കാനും കഴിയും. ഡോക്യുമെൻ്റ് സെറ്റ് വളരെ ചെറുതും സ്ഥിരവുമാണെങ്കിൽ (ഉദാ. ഒരു 20-പേജ് മാനുവൽ) ദൈർഘ്യമേറിയ സന്ദർഭം ന്യായമാണ്; എന്നാൽ ആയിരക്കണക്കിന് പേജുകൾ ഉള്ളതിനാൽ, ഇത് ചെലവേറിയതും മോഡലിന് നീണ്ട വാചകത്തിൻ്റെ മധ്യത്തിൽ വിവരങ്ങൾ നഷ്‌ടപ്പെട്ടേക്കാം.

ഒരു സാധാരണ RAG പൈപ്പ്ലൈൻ

RAG-ൽ രണ്ട് പ്രധാന ഘട്ടങ്ങൾ അടങ്ങിയിരിക്കുന്നു: ഇൻഡെക്സിംഗ് (തയ്യാറാക്കൽ, ഒരു തവണ അല്ലെങ്കിൽ ആനുകാലികമായി നടത്തുന്നു) കൂടാതെ ചോദ്യം ചെയ്യൽ (എല്ലാ ഉപയോക്തൃ ചോദ്യത്തിലും പ്രവർത്തിക്കുന്നു).

ഘട്ടം ഘട്ടമായുള്ള ഇൻഡക്‌സിംഗ് (ഓഫ്‌ലൈൻ, ഉപയോക്തൃ കാത്തിരിപ്പ് ഇല്ലാതെ):

1. ശേഖരിക്കുക: ഉറവിടങ്ങളിൽ നിന്ന് പ്രമാണങ്ങൾ വലിക്കുക (PDF, വിക്കി, ടിക്കറ്റ് സിസ്റ്റം, ഡാറ്റാബേസ്, ഇമെയിൽ).
2. ചങ്കിംഗ്: ദൈർഘ്യമേറിയ വാചകം കൈകാര്യം ചെയ്യാവുന്ന ചെറിയ കഷണങ്ങളായി വിഭജിക്കുക.
3. ഉൾച്ചേർക്കുക: ഓരോ ഭാഗവും ഉൾച്ചേർക്കലിലേക്ക് പരിവർത്തനം ചെയ്യുക (വാചകത്തിൻ്റെ അർത്ഥം വഹിക്കുന്ന നമ്പർ വെക്റ്റർ).
4. സംരക്ഷിക്കുക: വെക്റ്റർ ഡാറ്റാബേസിലേക്ക് ടെക്സ്റ്റും മെറ്റാഡാറ്റയും (ഉറവിടം, തീയതി, അംഗീകാര വിവരം) സഹിതം വെക്റ്ററുകൾ എഴുതുക.

ഘട്ടം ഘട്ടമായുള്ള അന്വേഷണം (ഓൺലൈനിൽ, ഉപയോക്താവ് കാത്തിരിക്കുമ്പോൾ):

1. ഉപയോക്താവിൻ്റെ ചോദ്യം ഉൾച്ചേർക്കലിലേക്ക് പരിവർത്തനം ചെയ്യുക.
2. വെക്റ്റർ ഡാറ്റാബേസിൽ നിന്ന് സമാനമായ ഭാഗങ്ങൾ വീണ്ടെടുക്കുക.
3. ഈ കഷണങ്ങൾ + ചോദ്യം ഒരു പ്രോംപ്റ്റ് ടെംപ്ലേറ്റിൽ സ്ഥാപിക്കുക.
4. മാതൃകയിൽ നിന്ന് സന്ദർഭോചിതമായ ഉത്തരവും അതിൻ്റെ ഉറവിടങ്ങളും നേടുക.

# അന്വേഷണ ഘട്ടത്തിൻ്റെ ആശയപരമായ രൂപരേഖ (ഭാഷയെ ആശ്രയിക്കുന്നില്ല) ചോദ്യം = "വാർഷിക ലീവ് എത്ര ദിവസം?"question_vektor = embed(question)parts = vektor_db.search(question_vektor, top_k=4) # ഏറ്റവും സമാനമായ ഭാഗങ്ങൾ പ്രോംപ്റ്റ് = f"""ചോദ്യം ഉപയോഗിക്കുമ്പോൾ ഈ ചോദ്യത്തിന് ഉത്തരം ഇല്ലെങ്കിൽ, CONTEXT ഉപയോഗിച്ച് ഉത്തരം പറയുക." Fitting.CONTEXT:{parts}QUESTION: {question}"""answer = model.uret(prompt) # ഉദാ. മോഡൽ: claude-opus-4-8

ഈ ഫ്ലോ ഓരോ ഘട്ടത്തിൻ്റെയും ഒരു ഭൂപടമാണ്, അത് ഞങ്ങൾ തുടർന്നുള്ള യൂണിറ്റുകളിൽ ഓരോന്നായി അൺപാക്ക് ചെയ്യും.

ദുർബലമായ പ്രോംപ്റ്റ് / ശക്തമായ പ്രോംപ്റ്റ്

അതേ RAG സന്ദർഭത്തിൽ പോലും, പ്രോംപ്റ്റിൻ്റെ ഗുണനിലവാരം ഉത്തരത്തെ മാറ്റുന്നു.

ദുർബലമായ പ്രോംപ്റ്റ് (മോഡൽ ഫിറ്റിംഗിലേക്ക് തുറന്നിരിക്കുന്നു, ഉറവിടങ്ങൾ ആവശ്യമില്ല):

ഈ വിവരങ്ങൾ ഉപയോഗിച്ച് വാർഷിക അവധി പറയുക: {parts}. ചോദ്യം: {question}

ശക്തമായ പ്രോംപ്റ്റ് (ഗ്രൗണ്ടിംഗ് + "എനിക്കറിയില്ല" അനുമതി + റിസോഴ്സ് അഭ്യർത്ഥന):

ചുവടെയുള്ള CONTEXT അടിസ്ഥാനമാക്കി മാത്രം ഉത്തരം നൽകുക. സന്ദർഭത്തിൽ വ്യക്തമായ ഉത്തരം ഇല്ലെങ്കിൽ, "എനിക്ക് ഇതിനെക്കുറിച്ചുള്ള വിവരങ്ങൾ ഡോക്യുമെൻ്റേഷനിൽ കണ്ടെത്താൻ കഴിഞ്ഞില്ല" എന്ന് എഴുതുക; ഊഹിക്കരുത്. നിങ്ങളുടെ ഉത്തരത്തിൻ്റെ അവസാനം നിങ്ങൾ ആശ്രയിക്കുന്ന ഭാഗത്തിൻ്റെ [ഉറവിടം: file_name] ടാഗ് ചേർക്കുക. സന്ദർഭം: {പീസ്} ചോദ്യം: {question}

മൂന്ന് മിനി കേസുകൾ

കേസ് 1 - എച്ച്ആർ അസിസ്റ്റൻ്റ് (ഹ്യൂമൻ റിസോഴ്സ്). ഒരു കമ്പനിക്ക് 340 പേജുള്ള എച്ച്ആർ ഹാൻഡ്‌ബുക്ക് ഉണ്ട്, ജീവനക്കാർ ഒരു ദിവസം ശരാശരി 90 ചോദ്യങ്ങൾ ചോദിക്കുന്നു. ഫൈൻ-ട്യൂണിംഗ് പരീക്ഷിച്ചു, എന്നാൽ മാനുവൽ പ്രതിമാസം അപ്ഡേറ്റ് ചെയ്തതിനാൽ, ഓരോ തവണയും വീണ്ടും പരിശീലനം ആവശ്യമായിരുന്നു; ചെലവ് പ്രതിമാസം ആയിരക്കണക്കിന് ഡോളറിലെത്തി. RAG-ലേക്ക് മാറിയതിന് ശേഷം, അപ്‌ഡേറ്റ് "രേഖയുടെ റീ-ഇൻഡക്സ്" ഘട്ടത്തിലേക്ക് (മിനിറ്റുകൾ) ചുരുക്കി, മാനുവൽ അളവെടുപ്പിൽ ശരിയായ ഉത്തര നിരക്ക് 71% ൽ നിന്ന് 93% ആയി വർദ്ധിച്ചു.

കേസ് 2 - ഉപഭോക്തൃ പിന്തുണ. പിന്തുണാ ടീമിന് 12,000 പരിഹരിച്ച ടിക്കറ്റുകളും 800 സഹായ ലേഖനങ്ങളും ഉണ്ട്. ഒരു പ്രതിനിധി നേരിട്ട് ഉത്തരം കണ്ടെത്തുന്നതിന് ശരാശരി 4 മിനിറ്റ് എടുക്കും. RAG അസിസ്റ്റൻ്റ് ഏറ്റവും പ്രസക്തമായ 5 റെക്കോർഡുകൾ കൊണ്ടുവന്ന് ഒരു ഡ്രാഫ്റ്റ് പ്രതികരണം ഉണ്ടാക്കിയപ്പോൾ, സമയം 40 സെക്കൻഡായി കുറച്ചു; എന്നാൽ "തെറ്റായ ലേഖനം കൊണ്ടുവന്ന് ഉറപ്പില്ലാത്തതായി കാണുന്നതിൻ്റെ" അപകടസാധ്യത ടീം മനസ്സിലാക്കുകയും ഉറവിടം ഉദ്ധരിക്കുന്നത് നിർബന്ധമാക്കുകയും ചെയ്തു.

കേസ് 3 - നിയമം. ഒരു കോൺട്രാക്ടിംഗ് ടീം ചോദിച്ചു "ഏത് കരാറുകളിലാണ് രഹസ്യാത്മകത ക്ലോസ് 5 വർഷം നീണ്ടുനിൽക്കുന്നത്?" അവൻ ചോദ്യം ചോദിക്കുന്നു. നീണ്ട സന്ദർഭ ട്രയലിൽ, 60 കരാറുകൾ ഒരൊറ്റ പ്രോംപ്റ്റിൽ പൂരിപ്പിച്ചു; മോഡൽ മധ്യ രണ്ട് കരാറുകൾ ഒഴിവാക്കി. RAG ഉപയോഗിച്ച് പ്രസക്തമായ ഇനങ്ങൾ മാത്രം അവതരിപ്പിച്ചപ്പോൾ, ടോക്കൺ ചെലവ് 80% കുറയുകയും നഷ്‌ടമായ സ്‌കിപ്പിംഗ് റീസെറ്റ് ചെയ്യുകയും ചെയ്തു.

എന്തുകൊണ്ട് RAG ആവശ്യമാണ്?

• നിലവിലുള്ളത്: പരിശീലന കട്ട്-ഓഫ് തീയതിക്ക് ശേഷം നിങ്ങൾ വിവരങ്ങൾ ആക്സസ് ചെയ്യുന്നു.
• പ്രത്യേക വിവരങ്ങൾ: നിങ്ങളുടെ ആന്തരിക രേഖകൾ ഏതെങ്കിലും മോഡലിൻ്റെ പരിശീലനത്തിൽ ഉൾപ്പെടുത്തിയിട്ടില്ല; നിങ്ങൾക്ക് മാത്രമേ നൽകാൻ കഴിയൂ.
• സ്ഥിരീകരണം: നിങ്ങൾക്ക് ഉത്തരത്തിൻ്റെ ഉറവിടം ഉദ്ധരിക്കാം (അവലംബം) - ഓഡിറ്റിംഗിനും വിശ്വാസത്തിനും അത്യന്താപേക്ഷിതമാണ്.
• ഹാലുസിനേഷൻ നിയന്ത്രണം: ഇത് ഒരു മാതൃക ഉണ്ടാക്കുന്നതിനുപകരം അതിൻ്റെ മുന്നിൽ സ്ഥാപിച്ചിരിക്കുന്ന വാചകത്തെ ആശ്രയിച്ചിരിക്കുന്നു.
• ചെലവ്: ഫൈൻ-ട്യൂണിങ്ങിനെക്കാൾ വളരെ വിലകുറഞ്ഞതും വേഗമേറിയതുമാണ്.

മുന്നറിയിപ്പ്: RAG മാന്ത്രികമല്ല. നിങ്ങൾ തെറ്റായ ഭാഗം കൊണ്ടുവരുകയാണെങ്കിൽ, മോഡൽ "ആത്മവിശ്വാസത്തോടെ" തെറ്റായ ഉത്തരത്തിലേക്ക് എത്തുന്നു. "വീണ്ടെടുക്കൽ ഗുണനിലവാരം = RAG നിലവാരം" എന്ന വാചകം ഓർമ്മിക്കുക.

സാധാരണ തെറ്റുകൾ

• മികച്ച ട്യൂണിംഗിനായി RAG തെറ്റിദ്ധരിക്കുന്നു: RAG ഭാരം മാറ്റില്ല; അത് സന്ദർഭം കൂട്ടിച്ചേർക്കുകയേ ഉള്ളൂ. ഇവ രണ്ടും ആശയക്കുഴപ്പത്തിലാക്കുന്നത് തെറ്റായ വാസ്തു തിരഞ്ഞെടുക്കുന്നതിലേക്ക് നയിക്കും.
• "എനിക്കറിയില്ല" അനുവദിക്കുന്നില്ല: പ്രോംപ്റ്റ് മോഡൽ ശൂന്യമായി പൂരിപ്പിക്കാൻ വിടുകയാണെങ്കിൽ, അത് പരിഹരിക്കപ്പെടും.
• ഉറവിടങ്ങൾ ഉദ്ധരിക്കുന്നില്ല: ഉറവിടമില്ലാത്ത ഉത്തരം പരിശോധിക്കാൻ കഴിയില്ല; ഉപയോക്താവിന് തെറ്റ് ശ്രദ്ധിക്കാൻ കഴിയില്ല.
• എല്ലാം ഒരു പ്രോംപ്റ്റിൽ ഒതുക്കുക: ദൈർഘ്യമേറിയ സന്ദർഭം വിലകുറഞ്ഞതായി തോന്നുന്നു, പക്ഷേ ചെലവേറിയതും മധ്യഭാഗത്തെ വിവരങ്ങൾ നഷ്‌ടപ്പെടുത്തുന്നതുമാണ്.
• വീണ്ടെടുക്കൽ അളക്കാതെ തലമുറയിൽ കുടുങ്ങിപ്പോകുക: ഉത്തരം മോശമാണെങ്കിൽ, ആദ്യം ചോദിക്കുക "ശരിയായ ഭാഗം എത്തിയോ?" ചോദിക്കണം.

ചുരുക്കത്തിൽ

• RAG എന്നത് ചോദ്യത്തിന് പ്രസക്തമായ രേഖകൾ സന്ദർഭമായി മാതൃകയിലേക്ക് കുത്തിവയ്ക്കുന്ന ഒരു സമീപനമാണ്; ഭാരം മാറ്റില്ല ("ഓപ്പൺ ബുക്ക് പരീക്ഷ").
• ഫൈൻ-ട്യൂണിംഗ് ശൈലി/ഫോർമാറ്റ് പഠിപ്പിക്കുന്നു, RAG നിലവിലുള്ളതും നിർദ്ദിഷ്ടവുമായ വിവരങ്ങൾ നൽകുന്നു; ദൈർഘ്യമേറിയ സന്ദർഭം ചെറിയ ഫിക്സഡ് സെറ്റുകൾക്ക് നന്നായി പ്രവർത്തിക്കുന്നു. മിക്ക സാഹചര്യങ്ങളിലും, RAG ആണ് ആദ്യം പരീക്ഷിക്കുന്നത്.
• പൈപ്പ്‌ലൈനിന് രണ്ട് ഘട്ടങ്ങളുണ്ട്: ഓഫ്‌ലൈൻ ഇൻഡക്‌സിംഗ് (ചങ്ക് + എംബെഡിംഗ് + സേവ്), ഓൺലൈൻ അന്വേഷണവും (വീണ്ടെടുക്കൽ + പ്രോംപ്റ്റ് + ജനറേറ്റ് ചെയ്യുക).
• RAG സമയബന്ധിതത്വം, നിർദ്ദിഷ്ട വിവരങ്ങൾ, സ്ഥിരീകരണം, ഹാലുസിനേഷൻ നിയന്ത്രണം, കുറഞ്ഞ ചെലവ് എന്നിവ നൽകുന്നു.
• സിസ്റ്റത്തിൻ്റെ ഗുണനിലവാരം നേരിട്ട് വീണ്ടെടുക്കലിൻ്റെ ഗുണനിലവാരത്തെ ആശ്രയിച്ചിരിക്കുന്നു: തെറ്റായ ഭാഗം തെറ്റായ ഉത്തരം എന്നാണ് അർത്ഥമാക്കുന്നത്.

ആപ്ലിക്കേഷൻ ടാസ്ക്

നിങ്ങളുടെ സ്വന്തം ടീമിൽ നിന്ന് ഒരു യഥാർത്ഥ വിവര സ്രോതസ്സ് തിരഞ്ഞെടുക്കുക (ഉദാ. നടപടിക്രമ പ്രമാണം അല്ലെങ്കിൽ പതിവ് ചോദ്യങ്ങൾ പേജ്). (1) ഈ ഉറവിടത്തെക്കുറിച്ച് 5 വസ്തുതാപരമായ ചോദ്യങ്ങൾ എഴുതുക. (2) ഡോക്യുമെൻ്റിൻ്റെ ഏത് ഭാഗത്താണ് ഓരോ ചോദ്യത്തിനും ശരിയായ ഉത്തരം അടങ്ങിയിരിക്കുന്നതെന്ന് ശ്രദ്ധിക്കുക - ഇത് നിങ്ങളുടെ "സുവർണ്ണ ഉത്തരം" പട്ടികയായി മാറുന്നു. (3) മുകളിലെ "ശക്തമായ പ്രോംപ്റ്റ്" ടെംപ്ലേറ്റ് ഉപയോഗിച്ച്, പ്രസക്തമായ ഭാഗം സന്ദർഭമായി ഒട്ടിച്ച് ഒരു മോഡൽ ചോദിക്കുക. (4) മോഡൽ നൽകിയ ഉത്തരവും സ്വർണ്ണവുമായ ഉത്തരവുമായി താരതമ്യം ചെയ്ത് ശരി/തെറ്റ് എന്ന് അടയാളപ്പെടുത്തുക. ഭാവിയിലെ യൂണിറ്റുകളിൽ നിങ്ങൾ ഓട്ടോമേറ്റ് ചെയ്യുമെന്ന വിലയിരുത്തലിൻ്റെ ആദ്യ മാനുവൽ പതിപ്പാണിത്.

ചെക്ക്ലിസ്റ്റ്

• [ ] RAG ഭാരം മാറ്റില്ല, അത് സന്ദർഭം ചേർക്കുന്നു എന്ന് എനിക്ക് ഒറ്റ വാചകത്തിൽ വിശദീകരിക്കാൻ കഴിയും.
• [ ] എനിക്ക് RAG, ഫൈൻ ട്യൂണിംഗ്, ദൈർഘ്യമേറിയ സന്ദർഭം എന്നിവ തമ്മിൽ വേർതിരിച്ചറിയാൻ കഴിയും, കൂടാതെ ഏതാണ് ഉചിതമെന്ന്.
• [ ] എനിക്ക് ഇൻഡെക്‌സിംഗ് (ശേഖരിക്കുക-ഷ്രെഡ്-എംബെഡ്-സേവ്), ക്വറി (എംബെഡ്-ഫെച്ച്-പ്രോംപ്റ്റ്-ജനറേറ്റ്) ഘട്ടങ്ങൾ ക്രമത്തിൽ കണക്കാക്കാം.
• [ ] "ഇത് സന്ദർഭത്തിലല്ലെങ്കിൽ, എനിക്കറിയില്ല എന്ന് പറയുക", "ഉറവിടം ഉദ്ധരിക്കുക" എന്നീ നിർദ്ദേശങ്ങൾ പ്രോംപ്റ്റിൽ ചേർത്തത് എന്തുകൊണ്ടാണെന്ന് എനിക്കറിയാം.
• [ ] "വീണ്ടെടുക്കൽ ഗുണമേന്മ = RAG നിലവാരം" എന്ന തത്വം എനിക്ക് എൻ്റെ സ്വന്തം കേസുമായി പൊരുത്തപ്പെടുത്താനാകും.