ज्ञानको आधारबाट उत्तरहरू उत्पन्न गर्दै (आरएजीको परिचय)

लाभ:

• ज्ञान-आधारित पुस्ता (RAG) को तर्क बुझ्दै र किन यसले भ्रम कम गर्छ
• उपलब्ध गराइएका स्रोत कागजातहरूमा आधारित, उद्धरणको साथ मोडेललाई जवाफ दिने क्षमता
• स्रोतमा नभएका प्रश्नहरूलाई सुरक्षित रूपमा स्थानान्तरण गरेर, प्रश्नहरू नबनाई व्यवस्थापन गर्ने क्षमता

एउटा भाषा मोडेलले धेरै "जान्दछ", तर यसले तपाईंको कम्पनीको आजको फिर्ता नीति, तपाईंको हालको मूल्य सूची, वा हिजो परिवर्तन भएको तपाईंको ढुवानी सम्झौतालाई थाहा छैन। नराम्रो कुरा, जब उसलाई थाहा छैन, उसले प्रायः यसलाई बनाउँछ र अत्यन्तै विश्वस्त स्वरमा लेख्छ। यो ग्राहक सेवामा एक घातक त्रुटि हो: मोडेलले भन्छ "फिर्तीहरू 30 दिन भित्र जारी गरिन्छ" जबकि तपाईंको नीति 14 दिन हुन सक्छ। यस अन्तरलाई बन्द गर्ने दृष्टिकोणलाई RAG: Retrieval-Augmented Generation, अर्थात् "Retrieval-Augmented Production" भनिन्छ।

विचार सरल छ: मोडेलले प्रश्नको जवाफ मेमोरीबाट होइन, तर त्यस क्षणमा यसको अगाडि राखिएको सही स्रोत कागजातहरूबाट। पहिले, प्रश्नसँग सान्दर्भिक कागजातको सही टुक्रा "पुनर्प्राप्ति" हो, त्यसपछि मोडेलले त्यो टुक्रामा आधारित जवाफ "उत्पन्न" गर्छ। यस एकाइमा, तपाईंले RAG को तर्क बुझ्नुहुनेछ र मोडेलमा कसरी लगाम लगाउने भनेर सिक्नुहुनेछ ताकि यो तपाईंले उपलब्ध गराउनुभएको प्रमाणित स्रोतमा मात्र टाँसिन्छ।

नोट: यो इकाईले RAG को काम गर्ने तर्क र प्रम्प्ट पक्ष सिकाउँछ। इन्टरप्राइज-स्केल स्वचालित कागजात पुन: प्राप्ति प्रणाली (भेक्टर डाटाबेस, आदि) लाई प्राविधिक स्थापना चाहिन्छ; यहाँ अनुशासन त्यो प्रणालीको लागि सही जवाफ दिने आधार हो।

किन RAG ले भ्रम कम गर्छ?

हेलुसिनेशन हो जब मोडेलले अवास्तविक जानकारी उत्पादन गर्दछ मानौं यो वास्तविक थियो। मोडेल एक प्रतिक्रिया उत्पादन गर्न प्रोग्राम गरिएको छ जुन "सम्भव" जस्तो देखिन्छ जब यसले अन्तर देख्छ; यो सत्य हो कि होइन थाहा छैन। RAG ले यो खाली ठाउँ भर्छ: तपाईंले मोडेललाई प्रश्नको साथमा वास्तविक सान्दर्भिक पाठ दिनुहोस् र "यहाँबाट मात्र जवाफ दिनुहोस्" भन्नुहोस्। यस तरिकाले मोडेल फिट गर्न "आवश्यक छैन"।

त्यहाँ तीन घटक छन्:

• ज्ञानको आधार: FAQs, नीति कागजातहरू, उत्पादन पुस्तिकाहरू, मूल्य सूचीहरू जस्ता भरपर्दो पाठहरू।
• पुन: प्राप्ति: प्रश्नको उत्तर भएको कागजातको टुक्रा फेला पारेर मोडेललाई दिने।
• सीमित संस्करण: मोडेलले उद्धरणको साथ प्रतिक्रिया दिन्छ, केवल आपूर्ति गरिएको अंशमा आधारित।

स्टेप बाइ स्टेप: स्रोतको लागि विश्वासयोग्य प्रतिक्रिया

1. स्रोत तयार गर्नुहोस्। पाठ पत्ता लगाउनुहोस् जसमा प्रतिक्रिया आधारित हुनेछ (नीति, FAQ) स्पष्ट र अप-टु-डेट ढाँचामा।
2. प्रम्प्टमा स्रोत इम्बेड गर्नुहोस्। पाठलाई <source> जस्तै ट्यागमा राख्नुहोस्।
3. वफादारी नियम लेख्नुहोस्। "स्रोतबाट प्राप्त जानकारी मात्र प्रयोग गर्नुहोस्; स्रोतबाट टाढा नजानुहोस्।"
4. उद्धरण आवश्यक बनाउनुहोस्। जवाफ कुन खण्डमा आधारित छ भनेर उसलाई संकेत दिनुहोस्।
5. गैर-स्रोत व्यवहार पहिचान गर्नुहोस्। यदि जवाफ स्रोतमा छैन भने, उसलाई "मसँग यो जानकारी छैन" भन्न दिनुहोस् र यसलाई पास गर्नुहोस्।
6. प्रमाणित गर्नुहोस्। उत्तरलाई स्रोत वाक्यसँग तुलना गरेर पुष्टि गर्नुहोस् जसमा यो आधारित छ।

प्रतिलिपि गर्न मिल्ने प्रम्प्टहरू

अन्तर्निहित स्रोतमा आधारित प्रतिक्रिया प्रम्प्ट:

भूमिका: तपाईं एक ग्राहक समर्थन सहायक हुनुहुन्छ। तलको <स्रोत> ब्लकमा रहेको जानकारीको आधारमा मात्र प्रश्नको जवाफ दिनुहोस्। तपाईंको सामान्य ज्ञानबाट स्रोत, अनुमान वा जवाफमा नभएको कुनै पनि जानकारी थप्नुहोस्। "[स्रोत: ...]" ढाँचामा तपाइँको जवाफको अन्त्यमा तपाइँ भर पर्नु भएको खण्ड थप्नुहोस्। यदि जवाफ स्रोतमा छैन भने, निम्न लेख्नुहोस्: "मसँग यस विषयमा निश्चित जानकारी छैन, म तपाईंलाई सही जवाफ दिन सक्ने अधिकारीलाई हस्तान्तरण गर्दैछु।"<source>{{policy_or_faq_text }}</source>प्रश्न: {{ customer_question }}

बहु-स्रोतको अवस्थामा, यो कुन कागजातमा आधारित छ भनेर देखाउनको लागि प्रम्प्ट:

त्यहाँ धेरै स्रोतहरू छन् तल संख्या। प्रश्नको जवाफ दिँदा, तपाईंले प्रयोग गर्नुभएको स्रोतको संख्या बताउनुहोस्, जस्तै [स्रोत २]। यदि एक भन्दा बढी स्रोतले तपाइँको विरोधाभास गर्दछ भने, स्पष्ट रूपमा भन्नुहोस् र तपाईले सोध्नु पर्छ कि कुन सबैभन्दा अप-टु-डेट छ।<स्रोतहरू>1) {{ स्रोत_1 }}2) {{ स्रोत_2 }}3) {{ स्रोत_3 }}</ स्रोत>प्रश्न: {{ customer_question }}

प्रोम्प्ट जसले गैर-स्रोत प्रश्नलाई सुरक्षित रूपमा व्यवस्थापन गर्छ:

यदि प्रश्नको उत्तर आंशिक रूपमा स्रोतमा फेला परेको छ भने: स्रोतले कभर गरेको अंश मात्र जवाफ दिनुहोस्, र बाँकी भागको लागि "यो विवरण स्रोतमा छैन" भन्नुहोस्। हराएको भाग अनुमान गरेर कहिल्यै भर्नु हुँदैन।

प्रम्प्ट जसले प्रतिक्रियालाई ग्राहकको भाषामा अनुवाद गर्छ, तर स्रोतमा सत्य रहन्छ:

स्रोतमा रहेको आधिकारिक/प्राविधिक अभिव्यक्तिलाई ग्राहकले बुझ्न सक्ने सरल भाषामा अनुवाद गर्नुहोस्, तर अर्थ र संख्यात्मक मानहरू (दिन, रकम, दर) परिवर्तन नगर्नुहोस्। उदाहरणका लागि, "14 क्यालेन्डर दिनहरू" लाई "लगभग दुई हप्ता" सम्म गोलाकार गर्दै; पूर्ण मूल्य राख्नुहोस्।

कमजोर प्रम्प्ट / बलियो प्रम्प्ट

कमजोर प्रम्प्ट

शक्तिशाली प्रम्प्ट

"हाम्रो फिर्ती नीति बारे हामीलाई बताउनुहोस्"

इम्बेड स्रोत + "यहाँ मात्र जवाफ दिनुहोस्" + अनुरोध उद्धरण

मोडेलको मेमोरीबाट जवाफ (गलत हुन सक्छ)

तपाईंको हालको कागजातबाट जवाफ दिनुहोस्

यदि यो स्रोतमा छैन भने, उसले यसलाई बनाउँछ

उसले "मसँग यो जानकारी छैन" भन्छ र यसलाई पठाउँछ।

अंकहरू राउन्ड र विकृत गर्न सक्छ

दिन/राशि/दर ठ्याक्कै कायम राख्छ

फरक यो हो कि बलियो प्रम्प्टले मोडेललाई एङ्कर (स्रोत पाठ) र प्रतिबन्ध (स्रोत बन्द गर्दै) दिन्छ। मोडेल अब मेमोरीबाट बोल्दैन, तर उनको अगाडि वास्तविकताबाट।

तीन मिनी केसहरू

केस 1 - पुरानो नीति जाल। "तीस दिन भित्र फिर्ता स्वीकृत," एक पसलको बोटले क्रेडिट बिना चलिरहेको बेला भन्यो; तर, कम्पनीले यो अवधि १४ दिनमा घटाएको छ । RAG स्थापनाको स्रोतमा अद्यावधिक गरिएको नीति पाठ थप्दा, बोटले अब "१४ पात्रो दिन [स्रोत: फिर्ता नीति, लेख २]" जवाफ दिन्छ। झूटा वाचाबाट उत्पन्न फिर्ता विवाद रिसेट गरिएको छ।

केस 2 - विरोधाभास समात्दै। एक ग्राहकले ढुवानी लागतको बारेमा सोधे। पुरानो र नयाँ दुवै मूल्य सूची स्रोतको रूपमा प्रणालीमा प्रविष्ट गरिएको थियो। बहु-स्रोत प्रम्प्टको लागि धन्यवाद, मोडेलले भन्यो, "दुई स्रोतहरूले फरक मूल्यहरू (49 TL र 59 TL) दिन्छन्; मैले हालको पुष्टि गर्न आवश्यक छ" र यो मुद्दा मानवलाई बुझायो। ग्राहकलाई गलत रकम भन्नुको सट्टा, उनले इमानदारीपूर्वक अनिश्चिततालाई सञ्चार गरे।

केस ३ - आंशिक प्रतिक्रिया अनुशासन। "के तपाईले उत्पादन विदेश पठाउनुहुन्छ र कसले भन्सार तिर्छ?" प्रश्नमा स्रोतले ढुवानी भएको मात्रै भन्यो, कर कसले तिर्यो भन्ने केही पनि छैन । मोडलले भनिन्, "हो, विदेशमा ढुवानी गरिन्छ [स्रोत: कार्गो FAQ]। यद्यपि यो कागजातमा भन्सार महसुल कसले तिर्छ भन्ने कुरा उल्लेख गरिएको छैन; यो स्पष्ट गर्न म तपाईंलाई अधिकारीकहाँ सरुवा गर्दैछु।" आधा-सत्य, आधा-बनाईएको जवाफको सट्टा, यसले इमानदार र विश्वस्त आउटपुट उत्पादन गर्‍यो।

सुझाव: तपाईंको ज्ञानको आधारको सत्य संस्करणको सबैभन्दा हालको र एकल स्रोत राख्नुहोस्। एउटै जानकारी हुनु (जस्तै फिर्ताको अवधि) तीन अलग-अलग कागजातहरूमा फरक-फरक रूपमा लेखिएको RAG को सबैभन्दा ठूलो शत्रु हो; मोडेलले कुनलाई हेर्छ भन्ने आधारमा फरक प्रतिक्रिया दिन्छ। पहिले तपाईंको कागजातहरू डुप्लिकेट गर्नुहोस्, त्यसपछि तिनीहरूलाई स्वचालित गर्नुहोस्।

प्रमाणिकरण: आराम नगर्नुहोस् किनभने स्रोत अवस्थित छ

RAG ले भ्रमलाई धेरै कम गर्छ तर यसलाई रिसेट गर्दैन। मोडेलले कहिलेकाहीं स्रोतको गलत व्याख्या गर्न सक्छ, दुई वाक्यहरू मिलाएर, वा स्रोतमा नभएको "निष्कर्ष" कोर्न सक्छ। यसैले उद्धरण आवश्यकता महत्वपूर्ण छ: खण्ड खोल्नुहोस् जसमा जवाफ आधारित भएको दाबी गर्नुहोस् र जाँच गर्नुहोस् कि यसले वास्तवमा त्यसो भन्छ। यो नियन्त्रण असंगत छ, विशेष गरी संख्याहरू (दिन, रकम, दर) र सर्तहरू (अपवाद, अवस्था) समावेश प्रतिक्रियाहरूमा।

सावधानी: यदि स्रोत आफै गलत वा पुरानो छ भने, RAG ले इमानदारीपूर्वक त्यो गल्ती दोहोर्याउँछ। "मोडलले स्रोतबाट बोल्छ" भन्नुको मतलब "मोडलले ठीकसँग बोल्छ" भन्ने होइन; तपाईं आफ्नो स्रोतको मुद्रा र शुद्धताको लागि जिम्मेवार हुनुहुन्छ।

प्रतिक्रियाको लागि ज्ञानको आधार तयार राख्दै

RAG को गुणस्तर स्रोत पाठ कसरी लेखिएको छ भन्नेमा धेरै हदसम्म निर्भर गर्दछ। मोडेलले राम्रोसँग संरचित, शीर्षक, एकल-विषय पाठहरू भन्दा धेरै सही प्रतिक्रिया दिन्छ। व्यावहारिक सल्लाह: आफ्नो नीतिहरू लामो, नेस्टेड अनुच्छेदहरूको सट्टा छोटो, शीर्षक खण्डहरूमा लेख्नुहोस्; प्रत्येक खण्डलाई एउटै प्रश्नको जवाफ दिनुहोस् ("फिर्ता अवधि कति दिन हो?", "कुन उत्पादनहरू फिर्ता गर्न सकिँदैन?")। प्रायः सोधिने प्रश्नहरू (FAQs) लाई प्रश्न-उत्तर ढाँचामा राख्नाले मोडेललाई सही भाग फेला पार्न सजिलो बनाउँछ। राज्य मानहरू जस्तै मिति, रकम, र दर स्पष्ट रूपमा र पाठ भित्र एक ठाउँमा; एउटै नम्बरलाई फरक-फरक खण्डहरूमा फरक-फरक रूपमा लेख्दा मोडेललाई भ्रमित हुन्छ।

अर्को महत्त्वपूर्ण बानी ज्ञानको आधारलाई जीवित राख्नु हो। नीतिहरू, मूल्यहरू र पदोन्नतिहरू भिन्न हुन्छन्; यदि स्रोत अद्यावधिक गरिएको छैन भने, मोडेल सुरक्षित रूपमा पुरानो सत्य दोहोर्याउन जारी छ। प्रत्येक नीति परिवर्तनको साथ, स्रोत अपडेट गर्नुहोस् र मोडेललाई परिवर्तन गरिएको विषयको बारेमा केही परीक्षण प्रश्नहरू पुन: सोध्नुहोस् कि यसले सही जवाफ दिन्छ भनेर पुष्टि गर्नुहोस्। यो सानो तर नियमित मर्मतसम्भारले RAG प्रणालीलाई समयसँगै "चुपचाप गल्ती" हुनबाट रोक्छ।

सामान्य गल्तीहरू

• स्रोतलाई दफन नगरी र मोडेलको स्मरणमा भर नपरिकन "हाम्रो नीतिको व्याख्या गर्नुहोस्" भनी।
• "स्रोतबाट मात्र जवाफ" सीमा र गैर-स्रोत व्यवहार परिभाषित गर्दैन।
• उद्धरण/स्रोत सन्दर्भ अनुरोध नगर्ने र उत्तरलाई पुष्टि गर्न नसकिने छोड्ने।
• ज्ञानको आधारमा धेरै कागजातहरूमा समान जानकारीको विरोधाभासी संस्करणहरू राख्दै।
• मोडेललाई संख्यात्मक मानहरू राउन्ड/व्याख्या गर्न अनुमति दिँदै।
• स्रोत अपडेट गर्न बिर्सने, मोडेलले पुरानो जानकारीलाई विश्वासपूर्वक दोहोर्याउनको लागि।

संक्षेपमा

• RAG को अर्थ हो कि मोडेलले मेमोरीबाट भन्दा हालको स्रोत कागजातबाट यसको जवाफ उत्पादन गर्दछ।
• भ्रम कम गर्ने सबैभन्दा व्यावहारिक तरिका: स्रोत गाड्नुहोस्, "यहाँ मात्र जवाफ दिनुहोस्" भन्नुहोस्, उद्धरणको लागि सोध्नुहोस्।
• यदि जवाफ स्रोतमा छैन भने, एक मोडेल फिट हुँदैन; उसले "मसँग छैन" भन्नु पर्छ र यसलाई हस्तान्तरण गर्नुपर्छ।
• मोडेललाई विवादित स्रोतहरू बारे सचेत बनाउनुहोस्; तपाईंले संख्यात्मक मानहरू ठीकसँग सुरक्षित गर्नुभयो।
• RAG शुद्धता तपाईंको स्रोतको समयबद्धतामा निर्भर गर्दछ; सधैं उद्धरण पुष्टि गर्नुहोस्।

आवेदन कार्य

तपाईंको आफ्नै व्यवसायबाट वास्तविक नीति पाठ (फिर्ता, ढुवानी, वा सदस्यता) लिनुहोस् र माथिको आधारभूत RAG प्रम्प्टमा स्रोतको रूपमा इम्बेड गर्नुहोस्। त्यसपछि तीनवटा प्रश्नहरू सोध्नुहोस्: (१) एउटा प्रश्न जसको उत्तर स्रोतमा स्पष्ट छ, (२) एउटा प्रश्न जसको उत्तर स्रोतमा बिल्कुलै छैन, (३) एउटा प्रश्न जसको उत्तर स्रोतमा मात्र अपूर्ण छ। मोडेलले सही जवाफ दिन्छ भनी प्रमाणित गर्नुहोस्, "मसँग यो छैन" भन्छ र इमानदारीपूर्वक आंशिक उत्तर र हराइरहेकोलाई क्रमशः चिन्ह लगाउँछ। प्रम्प्टमा वफादारी र गैर-स्रोत नियमहरूलाई बलियो बनाएर विचलित व्यवहारलाई सही गर्नुहोस्।

चेकलिस्ट

• [ ] मैले हालको स्रोत इम्बेड गरेको छु जसमा प्रतिक्रिया प्रम्प्टमा आधारित हुनेछ।
• [ ] मैले "स्रोतबाट मात्र जवाफ, बाहिर नजानुहोस्" नियम थपे।
• [ ] मैले स्रोत सन्दर्भ / उद्धरण आवश्यकता राखेको छु।
• यदि स्रोतमा जवाफ उपलब्ध छैन भने मैले प्रतिनिधिमण्डलको व्यवहार परिभाषित गरें।
• [ ] मैले संख्यात्मक मानहरू ठ्याक्कै सुरक्षित गर्न आवश्यक थियो।
• [ ] मैले स्रोत वाक्यबाट जवाफ पुष्टि गरें जसमा यो आधारित छ।