लाभ:
- भ्रमको कारण र ग्राउन्डिङको भूमिका व्याख्या गर्नुहोस्
- मोडेललाई 'मलाई थाहा छैन' भन्दछ यदि यो सन्दर्भमा छैन भने प्रयोग गर्ने प्रविधिहरू
- प्रतिक्रियाहरूमा प्रमाणित स्रोतहरू/उद्धरणहरू थपेर विश्वास र अडिटयोग्यता सुनिश्चित गर्दै
भाषा मोडेलको सबैभन्दा खतरनाक व्यवहार भनेको उसलाई थाहा नभएको कुरालाई आत्मविश्वास र प्रेरक स्वरमा बनाउनु हो। यसलाई हेलुसिनेशन भनिन्छ। एक कर्पोरेट सहायकमा भ्रम मात्र कष्टप्रद होइन, यो एकदम जोखिमपूर्ण छ: गलत दिन बिदा, गलत मूल्य, गलत कानुनी पदार्थले वास्तवमा कर्मचारी वा ग्राहकलाई हानि पुर्याउन सक्छ। यस एकाईमा, हामीले भ्रम किन हुन्छ, कसरी RAG मा कम गर्ने र जवाफलाई कसरी प्रमाणित गर्ने भन्ने कुरा समावेश गर्छौं।
भ्रमको कारण के हो?
मोडेललाई अर्को सम्भावित शब्द उत्पादन गर्न तालिम दिइएको छ; "सत्य भन्नुहोस्" होइन, तर "प्रवाह र व्यावहारिक पाठ उत्पादन गर्नुहोस्"। यदि जानकारी हराइरहेको छ भने, यसले सांख्यिकीय रूपमा प्रशंसनीय तर तथ्यात्मक रूपमा गलत कुराले खाली ठाउँ भर्न सक्छ। तीन विशिष्ट ट्रिगरहरू:
- सन्दर्भमा कुनै जवाफ छैन, तर मोडेल जे भए पनि केहि भन्न बाध्य महसुस गर्दछ।
- सन्दर्भ विवादास्पद वा अपर्याप्त छ; मोडेल भविष्यवाणी संग अंतर बन्द गर्दछ।
- प्रश्न सन्दर्भ भन्दा बाहिर जान्छ; मोडेल आफ्नै सामान्य (र सम्भवतः पुरानो) ज्ञानमा फर्कन्छ।
RAG ले भ्रम कम गर्दछ किनभने यसले मोडेललाई वास्तविक स्रोत दिन्छ - तर यसले यसलाई रिसेट गर्दैन। यदि तपाईंले गलत भाग ल्याउनुभयो वा मोडेल छोड्नुभयो भने "खाल भर्ने स्वतन्त्रता", RAG सँगको प्रणालीले पनि यसलाई फिट गर्न सक्छ।
भ्रम को प्रकार
लक्षण
मूल कारण
समाधान तह
पुन: प्राप्ति बाट उत्पन्न
सही जवाफ कागजातमा छ तर त्यो आइपुगेको छैन
गलत/हराएको भाग डेलिभर गरियो
चङ्किङ, हाइब्रिड, पुन: वर्गीकरण (एकाइ ३-४)
पुस्ताको स्रोत
सहि भाग आयो तर उत्तर गलत छ/थप्नु पर्छ
मोडेलले भविष्यवाणीको साथ खाली ठाउँ भर्यो
ग्राउन्डिङ, "मलाई थाहा छैन" अनुमति, कम रचनात्मकता
उद्धरण स्रोत
जवाफ सहि छ तर स्रोत गलत छ
मोडेल गलत भाग उल्लेख
उद्धरण प्रमाणिकरण (एकाइ 8 हेर्नुहोस्)
संकेत: भ्रमलाई दुई भागमा विभाजन गर्नुहोस्। पुन: प्राप्तिबाट स्रोत: गलत/हराएको भाग आइपुग्यो (समाधान: पुन: प्राप्ति सुधार)। जेनेरेसन स्रोत: सही भाग आइपुग्यो, तर मोडेलले यसलाई गलत रूपमा पढ्यो/थप्यो (समाधान: प्रम्प्ट र ग्राउन्डिङ)। तपाईले यसलाई ठीक गर्न सक्नुहुन्न जबसम्म तपाईलाई थाहा छैन यो कुन हो।
ग्राउन्डिङ: सन्दर्भमा जवाफलाई नेल गर्दै
ग्राउन्डिङ भनेको मोडेललाई बताउनका सबै प्रविधिहरूलाई दिइएको नाम हो "मैले तपाईंलाई दिएको पाठमा भर पर्नुहोस्, योभन्दा बाहिर नजानुहोस्।" उनको सबैभन्दा आधारभूत र सबैभन्दा प्रभावकारी प्रविधि: स्पष्ट रूपमा मोडेललाई 'मलाई थाहा छैन' भन्न अनुमति दिँदै। मोडेल, मानव जस्तै, "मलाई थाहा छैन" भन्न हिचकिचाउछ; तपाईंले उहाँलाई यो गर्नको लागि स्पष्ट अनुमति दिनु पर्छ।
तलको CONTEXT मा आधारित मात्र जवाफ दिनुहोस्। यदि जवाफ सन्दर्भमा स्पष्ट छैन भने, ठ्याक्कै यो लेख्नुहोस्: "मैले कागजातमा यस बारे पर्याप्त जानकारी फेला पार्न सकेन।" सन्दर्भमा नभएका कुनै पनि संख्या, मिति वा नामहरू समावेश नगर्नुहोस्। अनुमान नगर्नुहोस्।
अतिरिक्त ग्राउन्डिंग प्रविधिहरू:
- उद्धरण आवश्यकता: प्रत्येक दावी गर्नु अघि, सन्दर्भ शब्दशः उद्धृत गर्नुहोस् ("कागजातले भन्छ: '...'")। मोडेलको लागि बनावटी उद्धरणहरू उत्पादन गर्न गाह्रो छ।
- कम तापमान: तापमान (तापमान, रचनात्मकता / अनियमित सेटिङ) कम हुनुपर्छ। नोट: केही हालको मोडेलहरूमा यो प्यारामिटर हटाइएको छ; तिनीहरूमा, तपाइँ प्रम्प्टको साथ ग्राउन्डिङ प्रदान गर्नुहुन्छ। उच्च रचनात्मकता कर्पोरेट अखण्डता को शत्रु हो।
- दायरा सीमा: "सहमति नीति मुद्दाहरूमा मात्र प्रतिक्रिया दिनुहोस्; विनम्रतापूर्वक अप्ट आउट गर्न अस्वीकार गर्नुहोस्।"
उद्धरण
भ्रम विरुद्धको सबैभन्दा बलियो प्रणालीगत प्रतिरक्षा भनेको जवाफलाई प्रमाणित गर्नु हो। यदि प्रयोगकर्ताले जवाफ कुन कागजातमा आधारित छ भनेर देख्न सक्छ भने: (१) उसले गल्ती आफैं समात्न सक्छ, (२) लेखापरीक्षण सम्भव हुन्छ, (३) विश्वास बढ्छ, र (४) "मैले स्रोत उद्धृत गर्न आवश्यक छ" भन्ने जागरूकताका साथ मोडेलले अझ सावधानीपूर्वक उत्पादन गर्दछ।
दुई साझा दृष्टिकोण:
इनलाइन एट्रिब्युसन: प्रत्येक दावीको छेउमा स्रोत ट्याग। "वार्षिक बिदा १४ दिन हो [१]।" तल [१] को पूर्ण दस्तावेज छ।
संरचित आउटपुट: मोडेललाई जवाफ र स्रोत सूची अलग-अलग क्षेत्रहरूमा उत्पादन गर्न सोध्दै; इन्टरफेसमा क्लिक गर्न मिल्ने लिङ्कको रूपमा स्रोतहरू देखाउँदै।
# मोडेल (वैचारिक) मा आधारित एक संरचित उत्तर उत्पादन गर्दै निम्न संरचनामा आफ्नो जवाफ दिनुहोस्:- जवाफ: <सन्दर्भ-आधारित उत्तर>- स्रोत: [{"part_no": 1, "file": "...", "section": "..."}]- trust: <high|medium|low> # सन्दर्भले यसलाई कत्तिको स्पष्ट रूपमा समर्थन गर्दछ? यदि सन्दर्भले जवाफलाई समर्थन गर्दैन भने, जवाफ क्षेत्रमा "कुनै जानकारी फेला परेन" लेख्नुहोस् र स्रोतहरू खाली छोड्नुहोस्।
उद्धरण साँच्चै काम गर्नको लागि, एट्रिब्युशन सही छ भनेर प्रमाणित गर्न आवश्यक छ। मोडेलले कहिलेकाहीँ सही जवाफ दिन सक्छ तर गलत स्रोत दिन सक्छ। उन्नत प्रणालीहरूले स्वचालित रूपमा जाँच गर्दछ कि उत्पादन गरिएको प्रत्येक दावी वास्तवमा यसले औंल्याएको टुक्रामा समर्थित छ (अर्को एकाईमा "विश्वास" मापन)।
कमजोर / बलियो: भ्रम विरुद्ध शीघ्र
कमजोर (रिक्त भर्न निमन्त्रणा):
तपाईसँग भएको जानकारीको साथ तपाईले सकेसम्म राम्रोसँग प्रश्नको जवाफ दिनुहोस्: {सन्दर्भ} प्रश्न: {प्रश्न}# "जति राम्रो गर्न सक्नुहुन्छ" मोडेलको लागि "तपाईंलाई थाहा छैन भने अनुमान गर्नुहोस्"।
बलियो (ग्राउन्डिङ + अनुमति थाहा छैन + स्रोत + विश्वास):
केवल CONTEXT मा भर पर्नुहोस्। अन्यथा, "मैले कुनै जानकारी फेला पार्न सकेन" भन्नुहोस्; नम्बर/मिति/नाम बनाउनुहोस्। प्रत्येक दाबीमा [n] स्रोत नम्बर थप्नुहोस्। सन्दर्भद्वारा समर्थित विश्वासको स्तर निर्दिष्ट गर्नुहोस्। CONTEXT: [1]... [2]... प्रश्न: {प्रश्न}
तीन मिनी केसहरू
केस १ - बनाइएको वस्तु नम्बर। एक प्यारालीगलले "अनुच्छेद 17/B" कथन बनायो जुन सन्दर्भ बाहिर थियो र कर्मचारीलाई गलत जानकारी दियो। "सन्दर्भमा नभएको लेख नम्बर नदिनुहोस्, नत्र मलाई थाहा छैन भन" + उद्धृत गर्ने बाध्यता थपियो, 40 वटा उदाहरणहरूमा 11 बाट ० मा घट्यो।
केस २ - सही उत्तर, गलत स्रोत। एक समर्थन सहायकले सही फिर्ती अवधि बताए तर गलत लेख उद्धृत गर्नुभयो; जब ग्राहकले लिङ्कमा क्लिक गरे, एक अप्रासंगिक पृष्ठ खोलियो। जब उद्धरण प्रमाणिकरण (उद्धरण गरिएको टुक्रामा दाबी देखिन्छ कि छैन भनेर जाँच गर्दै) थपिएको थियो, गलत-उद्धरण दर 23% बाट 2% मा घट्यो।
केस 3 - "मलाई थाहा छैन" अनुमति दिइएको थिएन। एक मानव संसाधन सहायकले कागजातमा नभएको प्रश्नको प्रशंसनीय तर गलत जवाफ बनाएको थियो। जब स्पष्ट "मलाई थाहा छैन" सहमति र पूर्ण पाठ ("मैले कागजातमा यस बारे जानकारी फेला पार्न सकिन") प्रम्प्टमा थपिएको थियो, जब कुनै जवाफ नभएका प्रश्नहरूको लागि इमानदार अस्वीकार दर, बनावट भन्दा, ८% बाट बढेर ९५% भयो।
सामान्य गल्तीहरू
- "मलाई थाहा छैन" लाई अनुमति दिईरहेको छैन: मोडेलले निर्माणको साथ खाली ठाउँ भर्छ।
- रचनात्मकता उच्च राख्दै: अनियमितता कर्पोरेट अखण्डताको लागि हानिकारक छ।
- यसलाई प्रमाणित नगरी स्रोतलाई विश्वास गर्दै: मोडेलले सही जवाफमा गलत स्रोत संलग्न गर्न सक्छ।
- दुई प्रकारका भ्रमहरू बीच भेद नगर्ने: तपाईंले गलत ठाउँलाई पुन: प्राप्ति वा पुस्ताको कारणले गर्दा भएको हो भनी थाहा नगरी सच्याउनुहुन्छ।
- सौन्दर्य प्रसाधनको लागि गलत उद्धरण: स्रोतको उद्धरण पुष्टि र निवारक दुवै हो; यसलाई गम्भीरतापूर्वक लिनुहोस्।
सावधानी: "मोडल धेरै विश्वस्त देखिन्छ" "मोडल सही छ" जस्तै होइन। हेलुसिनेशनहरू सामान्यतया सबैभन्दा प्रवाहित र आत्मविश्वासपूर्ण वाक्यहरू हुन्। यसले संकेत गरेको स्रोतबाट विश्वास पढ्नुहोस्, वाक्यको टोनबाट होइन।
संक्षेपमा
- हेलुसिनेशन तब हुन्छ जब मोडेलले जानकारीको अन्तरलाई प्रशंसनीय तर गलत पाठले भर्छ; RAG घट्छ तर रिसेट गर्दैन।
- भ्रम पुन: प्राप्ति (गलत भाग) वा पुस्ता (गलत पढाइ) को कारण हुन सक्छ; कुन पहिले निर्धारण गर्नुहोस्।
- ग्राउन्डिङको सबैभन्दा शक्तिशाली प्रविधि मोडेललाई स्पष्ट "मलाई थाहा छैन" अनुमति दिनु हो; उद्धरण आवश्यकता र कम रचनात्मकता पनि।
- उद्धरणले जवाफ प्रमाणित गर्छ; यसले दुवैलाई आत्मविश्वास दिन्छ र मोडेललाई सावधानीपूर्वक उत्पादन गर्न धक्का दिन्छ।
- उद्धरणको शुद्धता पनि जाँच गरिनु पर्छ; सही उत्तरमा गलत स्रोत संलग्न हुन सक्छ।
आवेदन कार्य
(१) आफ्नो सहायकलाई सोध्न ४ प्रश्नहरू तयार गर्नुहोस्, जसको जवाफ कागजातहरूमा छैन (ट्र्याप प्रश्नहरू)। प्रत्येकलाई कमजोर र बलियो प्रम्प्टको साथ परीक्षण गर्नुहोस् र मोडेल फिट छ वा छैन भनेर चिन्ह लगाउनुहोस्। (2) 4 प्रश्नहरूको लागि जसको जवाफ कागजातमा छ, मोडेललाई वेल्ड नम्बर उत्पन्न गराउनुहोस् र म्यानुअल रूपमा प्रमाणित गर्नुहोस् कि यसले देखाएको वेल्ड वास्तवमा सही भाग हो। (३) मोडेलले कम्तिमा एउटा केसमा "सही जवाफ, गलत स्रोत" दिएको छ कि छैन भनी जाँच्नुहोस् र तपाइँ यसलाई स्वचालित रूपमा कसरी समात्न सक्नुहुन्छ भन्ने एक वाक्यमा लेख्नुहोस्।
चेकलिस्ट
- [ ] म भन्न सक्छु कि भ्रम किन भइरहेको छ र RAG ले कम गर्छ तर रिसेट गर्दैन।
- [ ] म पुन: प्राप्ति र पुस्ता-प्रेरित भ्रमहरू बीचको भिन्नता छुट्याउन सक्छु र सही ठाउँ सच्याउन सक्छु।
- [ ] म प्रम्प्टमा स्पष्ट "मलाई थाहा छैन" अनुमति र ग्राउन्डिङ नियमहरू थप्दै छु।
- [ ] म जवाफमा एक प्रमाणिक स्रोत (उद्धरण) थप्दै छु।
- [ ] मैले थप एट्रिब्युशनको शुद्धता जाँच गर्ने आवश्यकता बुझेको छु।