नॉलेज बेस आणि आरएजी: बॉट आणि एजंट योग्य उत्तर कसे शोधतात

नफा:

• RAG (विखंडन, प्रवेश, संसाधन-आधारित निर्मिती) कसे कार्य करते आणि ते भ्रम कसे कमी करते हे समजून घ्या
• वर्तमान, स्पष्ट, संघर्षमुक्त आणि एकच योग्य स्रोत असलेला ज्ञान आधार स्थापित करून उत्तरांची गुणवत्ता वाढवण्याची क्षमता.
• मॉडेलला सूचना देण्याची क्षमता 'जर ते स्त्रोतामध्ये नसेल, तर मला सांगा की तुम्हाला माहित नाही' आणि ज्या प्रश्नांची उत्तरे देऊ शकत नाहीत त्यांना ज्ञान बेस सुधारणेमध्ये बदला

एक बॉट किंवा एजंट सहाय्यक जे उत्तर देतो ते ते ज्या माहितीवर आधारित आहे तेवढेच चांगले असते. जेव्हा ग्राहकाने "मोहिम चालू आहे का?" असे विचारले, तेव्हा बरोबर उत्तर मॉडेलच्या स्मरणात नाही, तर संस्थेच्या सध्याच्या ज्ञानात आहे. म्हणूनच कॉल सेंटर आर्टिफिशियल इंटेलिजन्सचे केंद्र ज्ञान बेस (KB): एक अद्ययावत संसाधन आहे जिथे उत्पादने, धोरणे, FAQ, प्रक्रिया आणि नियम लिखित स्वरूपात ठेवले जातात. आणि या ज्ञानाच्या पायाला कृत्रिम बुद्धिमत्तेशी सुरक्षितपणे जोडणाऱ्या पद्धतीला RAG: Retrieval-Augmented Generation म्हणतात — उत्तर स्वतःच्या स्मृतीतून तयार करण्याऐवजी, मॉडेल प्रथम स्त्रोताकडून (पुनर्प्राप्ती) माहितीचे संबंधित तुकडे मिळवते आणि नंतर केवळ त्या तुकड्यांवर आधारित उत्तर तयार करते (जनरेशन).

RAG ही भ्रम रोखण्याची सर्वात शक्तिशाली पद्धत आहे. "कर्जाचा व्याज दर काय आहे?" या प्रश्नासाठी मॉडेल त्याच्या डोक्यात संख्या निर्माण करत नाही. हे नॉलेज बेसमधून वर्तमान स्वारस्य मजकूर पुनर्प्राप्त करते आणि त्यावर आधारित उत्तरे देते. या युनिटमध्ये आपण नॉलेज बेस कसा सेट करायचा, RAG कसा काम करतो आणि चांगला नॉलेज बेस उत्तरांचा दर्जा कसा ठरवतो ते पाहू.

RAG कसे कार्य करते: चार चरण

ग्रंथपालाप्रमाणे RAG चा विचार करा. ग्राहक प्रश्न विचारतो; प्रणाली प्रथम लायब्ररीच्या उजव्या शेल्फमधून संबंधित पृष्ठे शोधते, नंतर ती पृष्ठे वाचते आणि उत्तर लिहिते. तांत्रिक पायऱ्या खालीलप्रमाणे आहेत:

1. चंकिंग: नॉलेज बेसमधील लांब कागदपत्रे लहान, अर्थपूर्ण तुकड्यांमध्ये मोडली जातात (उदा. प्रत्येक FAQ हा एक भाग असतो). कारण मॉडेल संबंधित लहान भागांसह अधिक अचूकपणे प्रश्नाचे उत्तर देते.
2. एम्बेडिंग आणि इंडेक्सिंग: प्रत्येक तुकडा त्याचा अर्थ दर्शविणाऱ्या संख्यात्मक स्वरूपात अनुवादित केला जातो (एम्बेडिंग—मजकूराचा अर्थ दर्शविणाऱ्या संख्यांचा क्रम) आणि शोधण्यायोग्य डेटाबेसमध्ये ठेवला जातो. अशा प्रकारे, तो "शब्द जुळणी" नसून "अर्थ जुळणी" आहे; जरी ग्राहकाने "माझे पैसे कधी जमा केले जातील?" असे विचारले तरी, "परतावा कालावधी" भाग सापडू शकतो.
3. पुनर्प्राप्ती: ग्राहकाच्या प्रश्नाशी संबंधित सर्वात जवळचे भाग पुनर्प्राप्त केले जातात (उदा. सर्वात जवळचे 3-5 भाग).
4. जनरेशन: मॉडेल फक्त काढलेल्या भागांवर आधारित उत्तर लिहितो आणि शक्य असल्यास स्त्रोत सूचित करतो.

महत्त्वाचा मुद्दा चरण 4 मध्ये आहे: मॉडेलला "फक्त दिलेल्या तुकड्यांवर विसंबून राहा, किंवा तुम्हाला माहित नाही असे म्हणा." या सूचनेशिवाय, RAG मॉडेलला फिटिंगपासून रोखत नाही.

इशारा: RAG चा सुवर्ण नियम: "जर ते स्त्रोतामध्ये नसेल तर उत्तर नाही." एक चांगली आरएजी प्रणाली ज्ञान बेसमध्ये नसलेल्या प्रश्नावर "मला याबद्दल निश्चितपणे माहित नाही" असे म्हणेल; अंदाजाने कधीही अंतर भरत नाही. "मला माहित नाही" म्हणण्याची बॉटची क्षमता ही एक सुरक्षा वैशिष्ट्य आहे, कमजोरी नाही.

एक चांगला ज्ञान आधार: उत्तर गुणवत्तेचा खरा स्रोत

RAG कितीही चांगला असला, ज्ञानाचा आधार वाईट असेल तर उत्तर वाईटच. नॉलेज बेस क्वालिटी याद्वारे मोजली जाते:

वैशिष्ट्य

वाईट ज्ञान आधार

चांगले ज्ञान आधार

वर्तमानता

महिन्यांपासून अपडेट नाही

बदलल्यावर लगेच अपडेट केले

स्पष्टता

लांब, गोंधळलेला मजकूर

लहान, एकल-विषय लेख

रचना

गोंधळलेला PDF ढीग

विघटनशील पदार्थांचे लेबल

सुसंगतता

दोन परस्परविरोधी उत्तरे

सत्याचा एकच स्रोत

व्याप्ती

अनेक अंतर आहेत

वारंवार विचारले जाणारे प्रश्न कव्हर करतात

मालकी

कोणीही जबाबदार नाही

प्रत्येक विषयाचा मालक असतो

कॉल सेंटर संदर्भात सर्वात धोकादायक समस्या म्हणजे विरोधाभास: जर दोन भिन्न रिटर्न पीरियड्स नॉलेज बेसमध्ये लिहिलेले असतील, तर RAG यापैकी जे काही लागेल ते सांगेल आणि ग्राहकाला विसंगत उत्तर पाठवले जाईल. म्हणूनच "सत्याचा एकल स्रोत" तत्त्व गंभीर आहे: माहिती एकाच ठिकाणी अद्ययावत ठेवली जाते; त्या स्त्रोताचे संदर्भ वापरले जातात, प्रती नाहीत.

चरण-दर-चरण: RAG-समर्थित प्रतिसाद प्रणाली तयार करणे

1. नॉलेज बेस साफ करा: जुने, परस्परविरोधी, डुप्लिकेट लेख काढून टाका. प्रत्येक लेख लहान आणि एकल-विषय बनवा.
2. तो खंडित करा आणि त्यास टॅग करा: प्रत्येक लेखात एक विषय टॅग आणि शेवटची अद्यतन तारीख जोडा.
3. प्रवेश स्थापित करा: विचारल्यावर संबंधित भाग खेचणारी यंत्रणा कनेक्ट करा (एंटरप्राइझ RAG टूल्स हे प्रदान करतात).
4. एक कडक सूचना लिहा: मॉडेलला सांगा "फक्त प्रदान केलेल्या भागांवर अवलंबून रहा, स्त्रोत उद्धृत करा किंवा तुम्हाला माहित नाही असे म्हणा."
5. स्त्रोत उद्धृत करा: ज्या लेखावर उत्तर आधारित आहे ते दर्शवा; हे दोन्ही आत्मविश्वास देते आणि सत्यापन सुलभ करते.
6. अंतरासाठी पहा: बॉट "मला माहित नाही" असे म्हणत असलेले प्रश्न गोळा करा; हे ज्ञानभांडारातील कमतरता दाखवतात, तिथून फीड करतात.

चार कॉपी करण्यायोग्य टेम्पलेट्स

1) कठोर RAG उत्तर प्रॉम्प्ट:

खालील [स्रोत] भागांवर आधारित उत्तर द्या. नियम: (१) केवळ स्त्रोतातील माहिती वापरा, (२) ती स्त्रोतामध्ये नसल्यास, "माझ्याकडे याविषयी कोणतीही निश्चित माहिती नाही, मी तुम्हाला प्रतिनिधीशी जोडतो" असे म्हणा, (३) तो कोणत्या लेखावर आधारित आहे ते सांगा [स्रोत: आयटम क्रमांक], (४) स्त्रोताकडून अचूक रक्कम/कालावधी/अट उद्धृत करा, गोळा/मेक करू नका. [स्रोत]: <<पुल केलेले भाग>>प्रश्न: "<<ग्राहक प्रश्न>>"

२) नॉलेज बेस लेख लेखन:

खालील विखुरलेले धोरण मजकूर RAG साठी योग्य असलेल्या FAQ लेखात रूपांतरित करा. स्वरूप: प्रश्न (ग्राहकाच्या भाषेत) / लहान उत्तर (2-3 वाक्ये) / अटी (खंड) / शेवटच्या अद्यतनाची तारीख / विषय टॅग. कोणतेही अस्पष्ट मुद्दे "स्पष्टीकरणासाठी" म्हणून चिन्हांकित करा, विश्वास ठेवा. कच्चा मजकूर: <<text>>

3) विरोधाभास आणि अंतरांसाठी स्कॅनिंग:

खालील नॉलेज बेस लेखांचे परीक्षण करा. (1) एकमेकांशी संघर्ष करणाऱ्या लेखांच्या जोड्या चिन्हांकित करा (उदा. भिन्न परतावा कालावधी). (२) वारंवार विचारले जातील परंतु उत्तरे नसलेल्या विषयांचा अंदाज लावा. फक्त दिलेले लेख पहा; नवीन धोरण तयार करणे. लेख: <<list>>

4) "मला माहित नाही" लॉगमधून सुधारणा:

खाली असे प्रश्न आहेत ज्यांचे उत्तर बॉट देऊ शकला नाही (स्रोत सापडला नाही). त्यांना विषयांमध्ये गटबद्ध करा आणि लेखाचे शीर्षक सुचवा जे प्रत्येक गटाच्या ज्ञान बेसमध्ये जोडले जावे. उत्तर सामग्री तयार करू नका, फक्त कोणती आयटम गहाळ आहे ते मला सांगा. प्रश्न: <<list>>

कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट

कमकुवत प्रॉम्प्ट:

ग्राहकाच्या परताव्याच्या प्रश्नाचे उत्तर द्या.

स्रोत नाही; मॉडेल मेमरीमध्ये बसू शकते, रक्कम/कालावधी चुकीची असू शकते, ते सत्यापित केले जाऊ शकत नाही.

शक्तिशाली सूचना:

फक्त खालील रिटर्न पॉलिसी क्लॉजवर आधारित उत्तर द्या. जर ते स्त्रोतामध्ये उपलब्ध नसेल, तर "मला निश्चितपणे माहित नाही" म्हणा. कालावधी आणि स्थिती शब्दशः उद्धृत करा, [स्रोत: रिटर्न-03] च्या स्वरूपात संदर्भ द्या.[स्रोत: रिटर्न-03]: "न वापरलेले उत्पादन 14 दिवसांच्या आत परत केले जाऊ शकते. वैयक्तिक उत्पादने परत करण्याच्या व्याप्तीमध्ये नाहीत." प्रश्न: "मी 20 दिवसांपूर्वी विकत घेतलेले वैयक्तिक उत्पादन परत करू शकतो का?"

फरक: स्रोत अवलंबून, संदर्भ अनिवार्य, बनावट बंदी स्पष्ट; मॉडेल स्त्रोताकडून योग्य उत्तर ("14 दिवस गेले आणि वैयक्तिकृत, परत न करण्यायोग्य") व्युत्पन्न करते.

तीन लहान प्रकरणे

केस 1 - भ्रम समाप्त करणे. मोहिमेच्या प्रश्नांसाठी टेलिकॉम बॉटची उत्तर अचूकता नो-आरएजी सेटअपमध्ये 71% होती; मॉडेलने कधीकधी जुन्या मोहिमा बनवल्या. जेव्हा सध्याची मोहीम पृष्ठे RAG शी जोडली गेली होती आणि "स्रोतमध्ये नसल्यास ते सांगू नका" नियम जोडला गेला तेव्हा, अचूकता 96% पर्यंत वाढली आणि "चुकीचे मोहीम शब्द" बद्दल तक्रारी जवळजवळ संपल्या.

केस 2 - विरोधाभासाची किंमत. एका ई-कॉमर्स कंपनीच्या नॉलेज बेसमध्ये, दोन भिन्न शिपिंग खर्च दोन पृष्ठांवर (एक चालू, एक जुने विसरलेले पृष्ठ) लिहिलेले होते. बॉट यादृच्छिकपणे कोणालातरी खेचत होता आणि काही ग्राहकांना चुकीची किंमत सांगत होता. जेव्हा जुने पृष्ठ एकल योग्य स्त्रोताच्या तत्त्वासह संग्रहित केले गेले तेव्हा विसंगती नाहीशी झाली. धडा: RAG विरोधाभास सोडवत नाही, तो विरोधाभास जसा आहे तसा प्रसारित करतो.

केस 3 — “मला माहित नाही” लॉगचे मूल्य. एका बँकेत, बॉट एका महिन्यात ~4,000 प्रश्नांना "मला निश्चितपणे माहित नाही" म्हणत होता. जेव्हा हे प्रश्न गटबद्ध केले गेले तेव्हा असे दिसून आले की 40% "आंतरराष्ट्रीय कार्ड वापरा" बद्दल होते; त्याबद्दल एकही लेख नव्हता. जेव्हा संबंधित गोष्टी जोडल्या गेल्या तेव्हा हे प्रश्न सोडवले गेले आणि त्या विषयावरील लोकांची उलाढाल 55% कमी झाली. बॉटने सांगितले की ते माहित नाही ही वस्तुस्थिती सुधारणेचा रोड मॅप बनली.

सामान्य चुका

• स्त्रोताशी लिंक न करता उत्तर देणे. RAG शिवाय, मॉडेल ठोस माहिती फिट करते; कोणतेही ठोस उत्तर स्त्रोतावर अवलंबून असणे आवश्यक आहे.
• "मला माहित नाही" पर्याय बंद करणे. प्रत्येक प्रश्नाचे उत्तर देण्यासाठी मॉडेलला सक्ती केल्याने समर्पकता सुनिश्चित होते.
• परस्परविरोधी/जुनी माहिती साफ करत नाही. RAG पसरवतो विरोधाभास; एकच योग्य स्रोत आवश्यक आहे.
• तुकडे करणे दुर्लक्ष. मोठ्या PDF निर्यात केल्याने अचूक प्रवेशात व्यत्यय येतो; लहान, एकल-विषय लेख वापरा.
• स्त्रोत लपवत आहे. उत्तर कशावर आधारित आहे हे सूचित न केल्याने सत्यापन आणि विश्वास कमकुवत होतो.

खबरदारी: RAG अचूकता सुधारते परंतु 100% हमी देत ​​नाही. मॉडेल कधीकधी कॅप्चर केलेल्या भागाचा चुकीचा अर्थ लावू शकतो. म्हणून, स्त्रोत उद्धृत केला असला तरीही आर्थिक, कायदेशीर आणि सुरक्षा समस्यांना मानवी मान्यता आवश्यक आहे; RAG भ्रम कमी करते परंतु जबाबदारी काढून टाकत नाही.

सारांशात

नॉलेज बेस आणि RAG हा कॉल सेंटर AI च्या अचूकतेचा पाया आहे. मॉडेलला मेमरीमधून उत्तर फिट करण्यापासून रोखून आणि सध्याच्या स्रोतावर पूर्णपणे विसंबून राहून RAG मोठ्या प्रमाणात भ्रम होण्यास प्रतिबंध करते. पण RAG हा त्याच्या ज्ञानाधाराइतकाच चांगला आहे: अद्ययावत, स्पष्ट, संरचित, संघर्षमुक्त आणि सत्याचा एकच स्रोत असणारा ज्ञान बेस आवश्यक आहे. मॉडेलला सांगा "जर ते स्त्रोतामध्ये नसेल, तर मला सांगा तुम्हाला माहित नाही", स्त्रोताकडे निर्देश करा आणि त्याचे ज्ञान बेस सुधारण्यासाठी बॉट ज्या प्रश्नांची उत्तरे देऊ शकत नाही ते वापरा. उच्च-स्टेक प्रकरणांवर स्रोत असूनही मानवी संमती कायम ठेवा.

अर्ज कार्य

तुमच्या उद्योगातील 8 वास्तविक/वास्तववादी ग्राहक प्रश्न आणि 8 संबंधित लहान ज्ञान आधार लेख (प्रत्येक लेख: प्रश्न, लहान उत्तर, अटी, तारीख, टॅग) लिहा. नंतर मॉडेल “मला माहित नाही” असे म्हणू शकते की नाही याची चाचणी घ्या “1) टाइट RAG उत्तर प्रॉम्प्ट” पॅटर्न वापरून आणि एक प्रश्न विचारून, ज्यापैकी एक ज्ञान बेसमध्ये नाही. शेवटी, तुमचे लेख "3) विरोधाभास आणि अंतर स्कॅनिंगसह तपासा.

चेकलिस्ट

• बॉट/सहाय्यकाने दिलेले प्रत्येक ठोस उत्तर सध्याच्या ज्ञान आधारावर (RAG द्वारे) अवलंबून असते.
• [ ] मी मॉडेलला निर्देश दिले "जर ते स्त्रोतामध्ये नसेल तर मला सांगा की तुम्हाला माहित नाही" आणि त्याची चाचणी केली.
• माझ्या ज्ञानात अद्ययावत, स्पष्ट, एकल-विषय लेखांचा समावेश आहे.
• [ ] मी परस्परविरोधी आणि जुने लेख साफ केले; सर्व माहितीसाठी एकच योग्य स्रोत आहे.
• (स्रोत) कोणत्या लेखावर आधारित आहे ते उत्तरे दाखवतात.
• [ ] मी "मला माहित नाही" प्रश्न गोळा करतो आणि ज्ञानाचा आधार देतो.