નોલેજ બેઝમાંથી જવાબો જનરેટ કરી રહ્યા છે (આરએજીનો પરિચય)

નફો:

• જ્ઞાન-આધારિત પેઢી (RAG) ના તર્કને સમજવું અને તે શા માટે આભાસ ઘટાડે છે
• માત્ર પ્રદાન કરેલા સ્રોત દસ્તાવેજોના આધારે મોડેલને ટાંકણ સાથે પ્રતિસાદ આપવાની ક્ષમતા
• સ્ત્રોતમાં ન હોય તેવા પ્રશ્નોને સુરક્ષિત રીતે સ્થાનાંતરિત કરીને, પ્રશ્નો બનાવ્યા વિના તેનું સંચાલન કરવાની ક્ષમતા

ભાષા મોડેલ ઘણું બધું "જાણે છે", પરંતુ તે તમારી કંપનીની આજની વળતર નીતિ, તમારી વર્તમાન કિંમત સૂચિ અથવા ગઈકાલે બદલાયેલ તમારા શિપિંગ કરારને જાણતું નથી. સૌથી ખરાબ, જ્યારે તે જાણતો નથી, ત્યારે તે ઘણીવાર તેને બનાવે છે અને અત્યંત આત્મવિશ્વાસપૂર્ણ સ્વરમાં લખે છે. ગ્રાહક સેવામાં આ એક ઘાતક ખામી છે: મોડેલ કહે છે કે "રીફંડ 30 દિવસમાં જારી કરવામાં આવે છે" જ્યારે તમારી પોલિસી 14 દિવસની હોઈ શકે છે. જે અભિગમ આ અંતરને બંધ કરે છે તેને RAG કહેવામાં આવે છે: પુનઃપ્રાપ્તિ-વૃદ્ધિકૃત જનરેશન, એટલે કે, "પુનઃપ્રાપ્તિ-વૃદ્ધિ ઉત્પાદન".

વિચાર સરળ છે: મોડેલ પ્રશ્નનો જવાબ મેમરીમાંથી નહીં, પરંતુ તે ક્ષણે તેની સામે મૂકવામાં આવેલા સાચા સ્રોત દસ્તાવેજોમાંથી આપે છે. પ્રથમ, પ્રશ્ન સાથે સંબંધિત દસ્તાવેજનો સાચો ભાગ "પુનઃપ્રાપ્તિ" છે, પછી મોડેલ ફક્ત તે ભાગના આધારે જવાબ "જનરેટ" કરે છે. આ એકમમાં, તમે RAG ના તર્કને સમજી શકશો અને મોડેલ પર કેવી રીતે લગામ લગાવવી તે શીખી શકશો જેથી તે ફક્ત તમે પ્રદાન કરો છો તે ચકાસાયેલ સ્રોતને વળગી રહે.

નોંધ: આ એકમ RAG ના કાર્યકારી તર્ક અને પ્રોમ્પ્ટ બાજુ શીખવે છે. એન્ટરપ્રાઇઝ-સ્કેલ સ્વચાલિત દસ્તાવેજ પુનઃપ્રાપ્તિ સિસ્ટમ્સ (વેક્ટર ડેટાબેઝ, વગેરે) ને તકનીકી ઇન્સ્ટોલેશનની જરૂર છે; અહીં શિસ્ત એ સિસ્ટમનો યોગ્ય રીતે પ્રતિસાદ આપવાનો આધાર છે.

શા માટે RAG આભાસ ઘટાડે છે?

આભાસ એ છે જ્યારે મોડેલ અવાસ્તવિક માહિતી ઉત્પન્ન કરે છે જાણે તે વાસ્તવિક હોય. મોડલને એવો પ્રતિભાવ આપવા માટે પ્રોગ્રામ કરવામાં આવે છે જે "શક્ય" લાગે છે જ્યારે તે ગેપ જુએ છે; તે સાચું છે કે નહીં તે ખબર નથી. RAG આ ગેપને ભરે છે: તમે મોડેલને પ્રશ્નની સાથે વાસ્તવિક સંબંધિત ટેક્સ્ટ આપો અને કહો કે "અહીંથી જ જવાબ આપો." આ રીતે મોડેલને ફિટ થવાની "જરૂર" નથી.

ત્યાં ત્રણ ઘટકો છે:

• નોલેજ બેઝ: FAQs, પોલિસી ડોક્યુમેન્ટ્સ, પ્રોડક્ટ મેન્યુઅલ, કિંમત સૂચિ જેવા વિશ્વસનીય પાઠો.
• પુનઃપ્રાપ્તિ: પ્રશ્નનો જવાબ ધરાવતો દસ્તાવેજ શોધવો અને તેને મોડેલને આપવો.
• મર્યાદિત આવૃત્તિ: મોડલ ક્વોટ સાથે જવાબ આપે છે, ફક્ત પૂરા પાડવામાં આવેલ ભાગના આધારે.

સ્ટેપ બાય સ્ટેપ: સ્ત્રોત પ્રત્યે વિશ્વાસુ પ્રતિભાવ

1. સ્ત્રોત તૈયાર કરો. સ્પષ્ટ અને અપ-ટુ-ડેટ ફોર્મેટમાં તે ટેક્સ્ટ શોધો કે જેના પર પ્રતિભાવ આધારિત હશે (નીતિ, FAQ).
2. પ્રોમ્પ્ટમાં સ્ત્રોતને એમ્બેડ કરો. ટેક્સ્ટને <source> જેવા ટેગમાં મૂકો.
3. વફાદારીનો નિયમ લખો. "માત્ર સ્ત્રોતમાંથી માહિતીનો ઉપયોગ કરો; સ્ત્રોતથી ભટકશો નહીં."
4. અવતરણ જરૂરી બનાવો. જવાબ કયા વિભાગ પર આધારિત છે તે દર્શાવવા દો.
5. બિન-સંસાધન વર્તન ઓળખો. જો જવાબ સ્ત્રોતમાં ન હોય, તો તેને "મારી પાસે આ માહિતી નથી" કહેવા દો અને તેને આગળ મોકલો.
6. ચકાસો. જેના પર તે આધારિત છે તે સ્ત્રોત વાક્ય સાથે તેની તુલના કરીને જવાબની પુષ્ટિ કરો.

નકલ કરી શકાય તેવા સંકેતો

અંતર્ગત સ્ત્રોત પર આધારિત પ્રતિભાવ પ્રોમ્પ્ટ:

ભૂમિકા: તમે ગ્રાહક સહાય સહાયક છો. નીચે આપેલા <સ્રોત>બ્લોકમાંની માહિતીના આધારે જ પ્રશ્નનો જવાબ આપો. તમારા સામાન્ય જ્ઞાનમાંથી સ્ત્રોત, અનુમાન અથવા જવાબમાં ન હોય તેવી કોઈપણ માહિતી ઉમેરશો નહીં. તમારા જવાબના અંતે તમે જે વિભાગ પર આધાર રાખતા હોવ તે વિભાગને "[સ્રોત: ...]" ફોર્મેટમાં ઉમેરો. જો જવાબ સ્ત્રોતમાં નથી, તો નીચે લખો: "મારી પાસે આ વિષય પર ચોક્કસ માહિતી નથી, હું તમને એવા અધિકારીને સ્થાનાંતરિત કરું છું જે સાચો જવાબ આપી શકે."<source>{{policy_or_faq_text }}</source>પ્રશ્ન: {{ customer_question }}

મલ્ટિ-સોર્સના કિસ્સામાં, તે કયા દસ્તાવેજ પર આધારિત છે તે બતાવવા માટે પ્રોમ્પ્ટ:

નીચે સંખ્યાબંધ સંસાધનો છે. પ્રશ્નનો જવાબ આપતી વખતે, તમે ઉપયોગ કરેલ સ્ત્રોતની સંખ્યા જણાવો, જેમ કે [સ્ત્રોત 2]. જો એક કરતાં વધુ સ્રોત તમારો વિરોધાભાસ કરે છે, તો સ્પષ્ટપણે કહો અને જણાવો કે તમારે પૂછવું જોઈએ કે કયું વધુ અપ-ટૂ-ડેટ છે.<sources>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>પ્રશ્ન: {{ customer_question }}

પ્રોમ્પ્ટ કે જે બિન-સ્રોત પ્રશ્નનું સલામત રીતે સંચાલન કરે છે:

જો પ્રશ્નનો જવાબ આંશિક રીતે સ્ત્રોતમાં જોવા મળે છે: સ્ત્રોત દ્વારા આવરી લેવામાં આવેલ ભાગનો જ જવાબ આપો અને બાકીના ભાગ માટે "આ વિગત સ્ત્રોતમાં નથી" કહો. અનુમાન લગાવીને ક્યારેય ખૂટતો ભાગ ન ભરો.

પ્રોમ્પ્ટ કે જે પ્રતિભાવને ક્લાયંટની ભાષામાં અનુવાદિત કરે છે, પરંતુ સ્ત્રોત માટે સાચું રહે છે:

સ્ત્રોતમાં સત્તાવાર/તકનીકી અભિવ્યક્તિનો સાદી ભાષામાં અનુવાદ કરો જે ગ્રાહક સમજી શકે, પરંતુ અર્થ અને સંખ્યાત્મક મૂલ્યો (દિવસ, રકમ, દર) બદલશો નહીં. ઉદાહરણ તરીકે, "14 કૅલેન્ડર દિવસો" થી "લગભગ બે અઠવાડિયા" સુધી રાઉન્ડિંગ કરો; સંપૂર્ણ મૂલ્ય રાખો.

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા પ્રોમ્પ્ટ

શક્તિશાળી પ્રોમ્પ્ટ

"અમારી રીટર્ન પોલિસી વિશે અમને કહો"

એમ્બેડ સ્ત્રોત + "ફક્ત અહીં જ જવાબ આપો" + વિનંતીઓ અવતરણ

મોડલની સ્મૃતિમાંથી જવાબ (કદાચ ખોટો)

તમારા વર્તમાન દસ્તાવેજમાંથી જવાબ આપો

જો તે સ્ત્રોતમાં નથી, તો તે તેને બનાવે છે

તે કહે છે કે "મારી પાસે આ માહિતી નથી" અને તેને પસાર કરે છે.

નંબરોને ગોળાકાર અને વિકૃત કરી શકે છે

દિવસ/રકમ/દર બરાબર જાળવે છે

તફાવત એ છે કે મજબૂત પ્રોમ્પ્ટ મોડેલને એન્કર (સ્રોત ટેક્સ્ટ) અને પ્રતિબંધ (સ્ત્રોતની બહાર જવું) આપે છે. મોડેલ હવે મેમરીમાંથી બોલે છે, પરંતુ તેની સામેની વાસ્તવિકતામાંથી.

ત્રણ મિની કેસ

કેસ 1 - જૂની પોલિસી ટ્રેપ. "રીટર્ન 30 દિવસમાં સ્વીકારવામાં આવે છે," એક સ્ટોરના બોટે ક્રેડિટ વિના ચાલતી વખતે કહ્યું; જોકે, કંપનીએ સમયગાળો ઘટાડીને 14 દિવસ કરી દીધો હતો. જ્યારે RAG ઇન્સ્ટોલેશનમાં સ્રોતમાં અપડેટ કરેલ નીતિ ટેક્સ્ટ ઉમેરવામાં આવે છે, ત્યારે બૉટ હવે "14 કૅલેન્ડર દિવસો [સ્રોત: રીટર્ન પોલિસી, લેખ 2]" પ્રતિસાદ આપે છે. ખોટા વચનોથી ઉદ્ભવતા રિફંડ વિવાદો ફરીથી સેટ કરવામાં આવ્યા છે.

કેસ 2 - વિરોધાભાસને પકડવો. એક ગ્રાહકે શિપિંગ ખર્ચ વિશે પૂછ્યું. સ્ત્રોત તરીકે સિસ્ટમમાં જૂની અને નવી બંને કિંમતોની યાદી દાખલ કરવામાં આવી હતી. મલ્ટિ-સોર્સ પ્રોમ્પ્ટ માટે આભાર, મોડેલે કહ્યું, "બે સ્ત્રોતો અલગ-અલગ કિંમતો આપે છે (49 TL અને 59 TL); મારે વર્તમાનની પુષ્ટિ કરવાની જરૂર છે" અને આ મુદ્દો માનવ સુધી પહોંચાડ્યો. ગ્રાહકને ખોટી રકમ કહેવાને બદલે, તેણે પ્રમાણિકતાથી અનિશ્ચિતતાની વાત કરી.

કેસ 3 - આંશિક પ્રતિભાવ શિસ્ત. "શું તમે ઉત્પાદન વિદેશમાં મોકલો છો અને કસ્ટમ ડ્યુટી કોણ ચૂકવે છે?" પ્રશ્નમાં, સ્ત્રોતે માત્ર એટલું જ કહ્યું હતું કે શિપમેન્ટ કરવામાં આવ્યું હતું, ટેક્સ કોણે ચૂકવ્યો તે વિશે કંઈ નથી. મોડેલે કહ્યું, "હા, વિદેશમાં શિપિંગ કરવામાં આવે છે [સ્રોત: કાર્ગો FAQ]. જો કે, આ દસ્તાવેજમાં એવું જણાવવામાં આવ્યું નથી કે કસ્ટમ્સ ડ્યુટી કોણ ચૂકવે છે; આ સ્પષ્ટ કરવા માટે હું તમને અધિકારી પાસે ટ્રાન્સફર કરી રહ્યો છું." અડધા સાચા, અડધા બનાવટી જવાબને બદલે, તે પ્રમાણિક અને આત્મવિશ્વાસપૂર્ણ આઉટપુટ ઉત્પન્ન કરે છે.

ટીપ: તમારા જ્ઞાન આધારના સત્ય સંસ્કરણનો સૌથી વર્તમાન અને એકમાત્ર સ્રોત રાખો. ત્રણ અલગ-અલગ દસ્તાવેજોમાં સમાન માહિતી (દા.ત. રીટર્ન પિરિયડ) અલગ અલગ રીતે લખવી એ RAGનો સૌથી મોટો દુશ્મન છે; મોડેલ કઈ તરફ જુએ છે તેના આધારે અલગ રીતે પ્રતિસાદ આપે છે. પહેલા તમારા દસ્તાવેજોની નકલ કરો, પછી તેમને સ્વચાલિત કરો.

ચકાસણી: સ્ત્રોત અસ્તિત્વમાં હોવાથી આરામ કરશો નહીં

RAG આભાસને મોટા પ્રમાણમાં ઘટાડે છે પરંતુ તેને ફરીથી સેટ કરતું નથી. મોડેલ કેટલીકવાર સ્ત્રોતનું ખોટું અર્થઘટન કરી શકે છે, બે વાક્યોને મિશ્રિત કરી શકે છે અથવા "નિષ્કર્ષ" દોરે છે જે સ્ત્રોતમાં નથી. તેથી જ અવતરણની આવશ્યકતા મહત્વપૂર્ણ છે: તે વિભાગ ખોલો કે જેના પર જવાબ આધારિત હોવાનો દાવો કરે છે અને તપાસો કે શું તે ખરેખર આવું કહે છે. આ નિયંત્રણ બિન-વાટાઘાટપાત્ર છે, ખાસ કરીને સંખ્યાઓ (દિવસ, રકમ, દર) અને શરતો (અપવાદ, સ્થિતિ) ધરાવતા પ્રતિભાવોમાં.

સાવધાન: જો સ્રોત પોતે જ ખોટો અથવા જૂનો છે, તો RAG વિશ્વાસપૂર્વક તે ભૂલનું પુનરાવર્તન કરે છે. "મોડલ સ્ત્રોતમાંથી બોલે છે" એમ કહેવાનો અર્થ એ નથી કે "મોડેલ સાચું બોલે છે"; તમે તમારા સ્ત્રોતની ચલણ અને ચોકસાઈ માટે જવાબદાર છો.

પ્રતિભાવ માટે નોલેજ બેઝ તૈયાર રાખવું

RAG ની ગુણવત્તા મોટાભાગે સ્ત્રોત ટેક્સ્ટ કેવી રીતે લખાય છે તેના પર આધાર રાખે છે. આ મોડેલ સારી રીતે સંરચિત, શીર્ષકવાળા, સિંગલ-વિષયના પાઠો કરતાં વધુ સચોટ પ્રતિસાદ આપે છે. વ્યવહારુ સલાહ: લાંબા, નેસ્ટેડ ફકરાઓને બદલે ટૂંકી, શીર્ષકવાળા વિભાગોમાં તમારી નીતિઓ લખો; દરેક વિભાગને એક જ પ્રશ્નનો જવાબ આપવા દો ("વળતરનો સમયગાળો કેટલા દિવસનો છે?", "કયા ઉત્પાદનો પરત કરી શકાતા નથી?"). પ્રશ્ન-જવાબ ફોર્મેટમાં વારંવાર પૂછાતા પ્રશ્નો (FAQs) રાખવાથી મોડેલ માટે યોગ્ય ભાગ શોધવાનું સરળ બને છે. રાજ્ય મૂલ્યો જેમ કે તારીખ, રકમ અને દર સ્પષ્ટપણે અને ટેક્સ્ટની અંદર એક જગ્યાએ; એક જ નંબરને જુદા જુદા વિભાગોમાં અલગ રીતે લખવાથી મોડલ ગૂંચવાઈ જાય છે.

બીજી મહત્વની આદત એ છે કે જ્ઞાનના આધારને જીવંત રાખવો. નીતિઓ, કિંમતો અને પ્રચારો બદલાય છે; જો સ્રોત અપડેટ કરવામાં આવ્યો નથી, તો મોડેલ સુરક્ષિત રીતે જૂના સત્યનું પુનરાવર્તન કરવાનું ચાલુ રાખે છે. દરેક નીતિમાં ફેરફાર સાથે, સ્ત્રોતને અપડેટ કરો અને મોડલને બદલાયેલા વિષય વિશેના થોડા પરીક્ષણ પ્રશ્નો ફરીથી પૂછો કે તે સાચો જવાબ આપે છે તેની પુષ્ટિ કરો. આ નાનું પરંતુ નિયમિત જાળવણી સમય જતાં RAG સિસ્ટમને "ચુપચાપ ખોટું થતું" અટકાવે છે.

સામાન્ય ભૂલો

• સ્ત્રોતને દફનાવ્યા વિના અને મોડેલની યાદશક્તિ પર આધાર રાખ્યા વિના "અમારી નીતિ સમજાવો" કહેતા.
• "ફક્ત સ્ત્રોતમાંથી જવાબ" સીમા અને બિન-સ્રોત વર્તનને વ્યાખ્યાયિત ન કરવું.
• ક્વોટ/સ્રોત સંદર્ભની વિનંતી ન કરવી અને જવાબને ચકાસવા યોગ્ય ન રાખવો.
• જ્ઞાન આધારમાં બહુવિધ દસ્તાવેજોમાં સમાન માહિતીની વિરોધાભાસી આવૃત્તિઓ રાખવી.
• મોડેલને આંકડાકીય મૂલ્યોનું ગોળ/અર્થઘટન કરવાની મંજૂરી આપે છે.
• સ્ત્રોતને અપડેટ કરવાનું ભૂલી જવું, જેના કારણે મોડેલ વિશ્વાસપૂર્વક જૂની માહિતીનું પુનરાવર્તન કરે છે.

સારાંશમાં

• RAG નો અર્થ છે કે મોડલ તેનો જવાબ વર્તમાન સ્ત્રોત દસ્તાવેજમાંથી બનાવે છે, મેમરીમાંથી નહીં.
• આભાસ ઘટાડવાની સૌથી વ્યવહારુ રીત: સ્ત્રોતને દફનાવી દો, "ફક્ત અહીં જવાબ આપો" કહો, અવતરણ માટે પૂછો.
• જો જવાબ સ્ત્રોતમાં ન હોય, તો કોઈએ મોડેલને ફિટ ન કરવું જોઈએ; તેણે "મારી પાસે નથી" કહેવું જોઈએ અને તેને સોંપવું જોઈએ.
• મોડેલને વિરોધાભાસી સ્ત્રોતોથી વાકેફ કરો; તમે સંખ્યાત્મક મૂલ્યો બરાબર સાચવ્યા છે.
• RAG ચોકસાઈ તમારા સ્ત્રોતની સમયસરતા પર આધાર રાખે છે; હંમેશા અવતરણની પુષ્ટિ કરો.

એપ્લિકેશન કાર્ય

તમારા પોતાના વ્યવસાયમાંથી વાસ્તવિક નીતિ લખાણ (વળતર, શિપિંગ અથવા સભ્યપદ) લો અને તેને ઉપરના મૂળભૂત RAG પ્રોમ્પ્ટમાં સ્ત્રોત તરીકે એમ્બેડ કરો. પછી ત્રણ પ્રશ્નો પૂછો: (1) એવો પ્રશ્ન જેનો જવાબ સ્ત્રોતમાં સ્પષ્ટ છે, (2) એવો પ્રશ્ન કે જેનો જવાબ સ્રોતમાં બિલકુલ નથી, (3) એવો પ્રશ્ન કે જેનો જવાબ સ્રોતમાં જ અધૂરો છે. ચકાસો કે મોડલ સાચો જવાબ આપે છે, કહે છે કે “મારી પાસે તે નથી” અને પ્રમાણિકપણે આંશિક જવાબ અને ગુમ થયેલ જવાબને ચિહ્નિત કરે છે. પ્રોમ્પ્ટમાં વફાદારી અને બિન-સંસાધન નિયમોને મજબૂત કરીને વિચલિત વર્તનને ઠીક કરો.

ચેકલિસ્ટ

• [ ] મેં વર્તમાન સ્ત્રોતને એમ્બેડ કર્યો છે જેના પર પ્રતિભાવ પ્રોમ્પ્ટમાં આધારિત હશે.
• [ ] મેં "ફક્ત સ્ત્રોતમાંથી જ જવાબ આપો, આગળ વધશો નહીં" નિયમ ઉમેર્યો છે.
• [ ] મેં સ્ત્રોત સંદર્ભ / અવતરણની આવશ્યકતા મૂકી છે.
• જો જવાબ સ્ત્રોતમાં ઉપલબ્ધ ન હોય તો મેં પ્રતિનિધિમંડળના વર્તનને વ્યાખ્યાયિત કર્યું છે.
• [ ] મને જરૂરી છે કે સંખ્યાત્મક મૂલ્યો બરાબર સાચવવામાં આવે.
• [ ] મેં સ્રોત વાક્યમાંથી જવાબની પુષ્ટિ કરી કે જેના પર તે આધારિત છે.