లాభాలు:
- నాలెడ్జ్-బేస్డ్ జనరేషన్ (RAG) యొక్క లాజిక్ను అర్థం చేసుకోవడం మరియు అది భ్రాంతులను ఎందుకు తగ్గిస్తుంది
- అందించిన సోర్స్ డాక్యుమెంట్ల ఆధారంగా మాత్రమే మోడల్ను అనులేఖనంతో ప్రతిస్పందించే సామర్థ్యం
- మూలంలో లేని ప్రశ్నలను ప్రశ్నలను రూపొందించకుండా సురక్షితంగా బదిలీ చేయడం ద్వారా వాటిని నిర్వహించగల సామర్థ్యం
భాషా మోడల్కి చాలా "తెలుసు", కానీ దానికి ఈరోజు మీ కంపెనీ రిటర్న్ పాలసీ, మీ ప్రస్తుత ధరల జాబితా లేదా నిన్న మారిన మీ షిప్పింగ్ ఒప్పందం గురించి తెలియదు. అధ్వాన్నంగా, అతనికి తెలియనప్పుడు, అతను తరచుగా దానిని తయారు చేస్తాడు మరియు చాలా నమ్మకంగా వ్రాస్తాడు. కస్టమర్ సేవలో ఇది ఘోరమైన లోపం: మోడల్ "రీఫండ్లు 30 రోజుల్లోపు జారీ చేయబడతాయి" అని చెబుతుంది, అయితే మీ పాలసీ 14 రోజులు కావచ్చు. ఈ గ్యాప్ను మూసివేసే విధానాన్ని RAG: రిట్రీవల్-అగ్మెంటెడ్ జనరేషన్ అని పిలుస్తారు, అంటే "రిట్రీవల్-అగ్మెంటెడ్ ప్రొడక్షన్".
ఆలోచన చాలా సులభం: మోడల్ మెమరీ నుండి కాకుండా ప్రశ్నకు సమాధానం ఇస్తుంది, కానీ ఆ సమయంలో దాని ముందు ఉంచిన సరైన మూల పత్రాల నుండి. మొదట, ప్రశ్నకు సంబంధించిన పత్రం యొక్క సరైన భాగం "పునరుద్ధరణ", ఆపై మోడల్ ఆ ముక్క ఆధారంగా మాత్రమే సమాధానాన్ని "ఉత్పత్తి చేస్తుంది". ఈ యూనిట్లో, మీరు RAG యొక్క లాజిక్ను అర్థం చేసుకుంటారు మరియు మోడల్ను ఎలా నియంత్రించాలో నేర్చుకుంటారు, తద్వారా ఇది మీరు అందించే ధృవీకరించబడిన మూలానికి మాత్రమే కట్టుబడి ఉంటుంది.
గమనిక: ఈ యూనిట్ RAG యొక్క పని లాజిక్ మరియు ప్రాంప్ట్ వైపు బోధిస్తుంది. ఎంటర్ప్రైజ్-స్కేల్ ఆటోమేటిక్ డాక్యుమెంట్ రిట్రీవల్ సిస్టమ్లకు (వెక్టర్ డేటాబేస్, మొదలైనవి) సాంకేతిక సంస్థాపన అవసరం; ఆ వ్యవస్థ సరిగ్గా స్పందించడానికి ఇక్కడ క్రమశిక్షణ ఆధారం.
RAG భ్రాంతులను ఎందుకు తగ్గిస్తుంది?
మోడల్ అవాస్తవ సమాచారాన్ని వాస్తవమైనదిగా ఉత్పత్తి చేయడాన్ని భ్రాంతి అంటారు. గ్యాప్ చూసినప్పుడు "సాధ్యం" అనిపించే ప్రతిస్పందనను ఉత్పత్తి చేయడానికి మోడల్ ప్రోగ్రామ్ చేయబడింది; అది నిజమో కాదో తెలియదు. RAG ఈ ఖాళీని పూరిస్తుంది: మీరు మోడల్కి ప్రశ్నతో పాటు అసలు సంబంధిత వచనాన్ని అందించి, "ఇక్కడ నుండి మాత్రమే సమాధానం" అని చెప్పండి. ఈ విధంగా మోడల్ సరిపోయేలా "అవసరం" లేదు.
మూడు భాగాలు ఉన్నాయి:
- నాలెడ్జ్ బేస్: తరచుగా అడిగే ప్రశ్నలు, విధాన పత్రాలు, ఉత్పత్తి మాన్యువల్లు, ధరల జాబితాలు వంటి విశ్వసనీయ గ్రంథాలు.
- తిరిగి పొందడం: ప్రశ్నకు సమాధానాన్ని కలిగి ఉన్న పత్రం యొక్క భాగాన్ని కనుగొనడం మరియు దానిని మోడల్కు ఇవ్వడం.
- పరిమిత ఎడిషన్: మోడల్ అందించిన భాగం ఆధారంగా మాత్రమే కోట్తో ప్రతిస్పందిస్తుంది.
దశల వారీగా: మూలానికి నమ్మకమైన ప్రతిస్పందన
- మూలాన్ని సిద్ధం చేయండి. స్పష్టమైన మరియు తాజా ఆకృతిలో ప్రతిస్పందన ఆధారంగా (విధానం, తరచుగా అడిగే ప్రశ్నలు) వచనాన్ని కనుగొనండి.
- ప్రాంప్ట్లో మూలాన్ని పొందుపరచండి. <source> వంటి ట్యాగ్లో వచనాన్ని ఉంచండి.
- విధేయత నియమాన్ని వ్రాయండి. "మూలం నుండి సమాచారాన్ని మాత్రమే ఉపయోగించండి; మూలం నుండి తప్పుకోకండి."
- అనులేఖనం అవసరం. సమాధానం ఏ సెక్షన్ ఆధారంగా ఉందో అతను/ఆమె సూచించనివ్వండి.
- నాన్-రిసోర్స్ ప్రవర్తనను గుర్తించండి. సమాధానం మూలంలో లేకుంటే, "నా దగ్గర ఈ సమాచారం లేదు" అని చెప్పి, దానిని పంపనివ్వండి.
- ధృవీకరించండి. సమాధానాన్ని దాని ఆధారంగా ఉన్న మూల వాక్యంతో పోల్చడం ద్వారా నిర్ధారించండి.
కాపీ చేయదగిన ప్రాంప్ట్లు
అంతర్లీన మూలం ఆధారంగా ప్రతిస్పందన ప్రాంప్ట్:
పాత్ర: మీరు కస్టమర్ సపోర్ట్ అసిస్టెంట్. దిగువ <source>బ్లాక్లోని సమాచారం ఆధారంగా మాత్రమే ప్రశ్నకు సమాధానం ఇవ్వండి. మూలాధారంలో లేని ఏ సమాచారాన్ని జోడించవద్దు, మీ సాధారణ జ్ఞానం నుండి ఊహించండి లేదా సమాధానం ఇవ్వండి. "[మూలం: ...]" ఫార్మాట్లో మీ సమాధానం చివరిలో మీరు ఆధారపడే విభాగాన్ని జోడించండి. సమాధానం మూలంలో లేకుంటే, ఈ క్రింది వాటిని వ్రాయండి: "ఈ విషయంపై నా దగ్గర ఖచ్చితమైన సమాచారం లేదు, సరైన సమాధానం ఇవ్వగల అధికారికి నేను మిమ్మల్ని బదిలీ చేస్తున్నాను."<source>{{ policy_or_faq_text }}</source>ప్రశ్న: {{ customer_question }}
బహుళ-మూలం విషయంలో, ఇది ఏ పత్రంపై ఆధారపడి ఉందో చూపమని ప్రాంప్ట్ చేయండి:
దిగువన అనేక వనరులు ఉన్నాయి. ప్రశ్నకు సమాధానమిచ్చేటప్పుడు, మీరు ఉపయోగించిన సోర్స్ సంఖ్యను పేర్కొనండి, ఉదాహరణకు [మూలం 2]. ఒకటి కంటే ఎక్కువ మూలాలు మీకు విరుద్ధంగా ఉన్నట్లయితే, స్పష్టంగా చెప్పండి మరియు ఏది మరింత తాజాది అని మీరు అడగాలని చెప్పండి.<sources>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>ప్రశ్న: {{ customer_question }}
నాన్-సోర్స్ ప్రశ్నను సురక్షితంగా నిర్వహించే ప్రాంప్ట్:
ప్రశ్నకు సమాధానం పాక్షికంగా మూలంలో కనుగొనబడితే: మూలాధారం కవర్ చేసిన భాగానికి మాత్రమే సమాధానం ఇవ్వండి మరియు మిగిలిన భాగానికి "ఈ వివరాలు మూలంలో లేవు" అని చెప్పండి. తప్పిపోయిన భాగాన్ని ఊహించడం ద్వారా పూరించవద్దు.
ప్రతిస్పందనను క్లయింట్ భాషలోకి అనువదించే ప్రాంప్ట్, కానీ మూలానికి అనుగుణంగా ఉంటుంది:
మూలంలోని అధికారిక/సాంకేతిక వ్యక్తీకరణను కస్టమర్ అర్థం చేసుకోగలిగే సాదా భాషలోకి అనువదించండి, కానీ అర్థం మరియు సంఖ్యా విలువలను (రోజు, మొత్తం, రేటు) మార్చవద్దు. ఉదాహరణకు, "14 క్యాలెండర్ రోజులు" నుండి "సుమారు రెండు వారాలు" వరకు పూర్తి చేయడం; పూర్తి విలువ ఉంచండి.
బలహీనమైన ప్రాంప్ట్ / బలమైన ప్రాంప్ట్
బలహీనమైన ప్రాంప్ట్
శక్తివంతమైన ప్రాంప్ట్
"మా రిటర్న్ పాలసీ గురించి మాకు చెప్పండి"
పొందుపరచిన మూలం + "ఇక్కడ మాత్రమే ప్రత్యుత్తరం" + అభ్యర్థనల కోట్
మోడల్ మెమరీ నుండి సమాధానం (తప్పు కావచ్చు)
మీ ప్రస్తుత పత్రం నుండి సమాధానం
అది మూలంలో లేకుంటే, అతను దానిని తయారు చేస్తాడు
అతను "నా దగ్గర ఈ సమాచారం లేదు" అని చెప్పి దానిని పాస్ చేస్తాడు.
సంఖ్యలను రౌండ్ చేయవచ్చు మరియు వక్రీకరించవచ్చు
రోజు/మొత్తం/రేటు ఖచ్చితంగా నిర్వహిస్తుంది
తేడా ఏమిటంటే, బలమైన ప్రాంప్ట్ మోడల్కు యాంకర్ (సోర్స్ టెక్స్ట్) మరియు బ్యాన్ (సోర్స్ నుండి వెళ్లడం) ఇస్తుంది. మోడల్ ఇకపై మెమరీ నుండి మాట్లాడదు, కానీ అతని ముందు ఉన్న వాస్తవికత నుండి.
మూడు మినీ కేసులు
కేసు 1 - పాత పాలసీ ట్రాప్. "30 రోజుల్లోపు వాపసు అంగీకరించబడుతుంది," క్రెడిట్ లేకుండా నడుస్తున్నప్పుడు ఒక స్టోర్ యొక్క బోట్ చెప్పింది; అయితే కంపెనీ ఈ వ్యవధిని 14 రోజులకు తగ్గించింది. RAG ఇన్స్టాలేషన్లో అప్డేట్ చేయబడిన పాలసీ టెక్స్ట్ని సోర్స్కి జోడించినప్పుడు, బాట్ ఇప్పుడు "14 క్యాలెండర్ రోజులు [మూలం: రిటర్న్ పాలసీ, ఆర్టికల్ 2]"కి ప్రతిస్పందిస్తుంది. తప్పుడు వాగ్దానాల వల్ల తలెత్తిన వాపసు వివాదాలు రీసెట్ చేయబడ్డాయి.
కేసు 2 - వైరుధ్యాన్ని పట్టుకోవడం. ఒక కస్టమర్ షిప్పింగ్ ఖర్చుల గురించి అడిగాడు. పాత మరియు కొత్త ధరల జాబితాలు రెండూ సిస్టమ్లోకి మూలాధారాలుగా నమోదు చేయబడ్డాయి. మల్టీ-సోర్స్ ప్రాంప్ట్కు ధన్యవాదాలు, మోడల్ చెప్పింది, "రెండు మూలాధారాలు వేర్వేరు ధరలను అందిస్తాయి (49 TL మరియు 59 TL); నేను ప్రస్తుతాన్ని నిర్ధారించాలి" మరియు సమస్యను మానవులకు తెలియజేసింది. కస్టమర్కు తప్పు మొత్తాన్ని చెప్పడానికి బదులుగా, అతను అనిశ్చితిని నిజాయితీగా తెలియజేశాడు.
కేసు 3 - పాక్షిక ప్రతిస్పందన క్రమశిక్షణ. "మీరు ఉత్పత్తిని విదేశాలకు రవాణా చేస్తారా మరియు కస్టమ్స్ సుంకం ఎవరు చెల్లిస్తారు?" ప్రశ్నలో, మూలం షిప్మెంట్ చేయబడిందని మాత్రమే చెప్పింది, ఎవరు పన్ను చెల్లించారనే దాని గురించి ఏమీ లేదు. మోడల్ చెప్పింది, "అవును, షిప్పింగ్ విదేశాలకు జరుగుతుంది [మూలం: కార్గో తరచుగా అడిగే ప్రశ్నలు]. అయితే, కస్టమ్స్ సుంకాన్ని ఎవరు చెల్లిస్తారో ఈ పత్రంలో పేర్కొనబడలేదు; దీనిపై స్పష్టత ఇవ్వడానికి నేను మిమ్మల్ని అధికారికి బదిలీ చేస్తున్నాను." సగం నిజం, సగం కల్పిత సమాధానానికి బదులుగా, ఇది నిజాయితీ మరియు నమ్మకమైన అవుట్పుట్ను ఉత్పత్తి చేసింది.
చిట్కా: మీ నాలెడ్జ్ బేస్ యొక్క అత్యంత ప్రస్తుత మరియు ఏకైక సత్య సంస్కరణను ఉంచండి. మూడు వేర్వేరు డాక్యుమెంట్లలో ఒకే సమాచారాన్ని (ఉదా. తిరిగి వచ్చే కాలం) వేర్వేరుగా వ్రాయడం RAG యొక్క అతిపెద్ద శత్రువు; మోడల్ దేనిని చూస్తుందో దానిపై ఆధారపడి భిన్నంగా స్పందిస్తుంది. ముందుగా మీ పత్రాలను నకిలీ చేయండి, ఆపై వాటిని ఆటోమేట్ చేయండి.
ధృవీకరణ: మూలం ఉన్నందున విశ్రాంతి తీసుకోకండి
RAG భ్రాంతిని బాగా తగ్గిస్తుంది కానీ దానిని రీసెట్ చేయదు. మోడల్ కొన్నిసార్లు మూలాన్ని తప్పుగా అర్థం చేసుకోవచ్చు, రెండు వాక్యాలను కలపవచ్చు లేదా మూలంలో లేని “ముగింపు”ని గీయవచ్చు. అందుకే ఉల్లేఖన అవసరం చాలా ముఖ్యమైనది: సమాధానం ఆధారంగా క్లెయిమ్ చేసే విభాగాన్ని తెరిచి, అది వాస్తవంగా చెప్పబడిందో లేదో తనిఖీ చేయండి. ఈ నియంత్రణ ప్రత్యేకంగా సంఖ్యలు (రోజు, మొత్తం, రేటు) మరియు షరతులు (మినహాయింపు, షరతు) కలిగి ఉన్న ప్రతిస్పందనలలో చర్చించబడదు.
హెచ్చరిక: మూలాధారం తప్పుగా ఉంటే లేదా పాతది అయితే, RAG ఆ తప్పును నమ్మకంగా పునరావృతం చేస్తుంది. "మోడల్ మూలం నుండి మాట్లాడుతుంది" అని చెప్పడం అంటే "మోడల్ సరిగ్గా మాట్లాడుతుంది" అని కాదు; మీ మూలం యొక్క కరెన్సీ మరియు ఖచ్చితత్వానికి మీరు బాధ్యత వహిస్తారు.
ప్రతిస్పందన కోసం నాలెడ్జ్ బేస్ను సిద్ధంగా ఉంచడం
RAG యొక్క నాణ్యత ఎక్కువగా మూల వచనం ఎలా వ్రాయబడిందనే దానిపై ఆధారపడి ఉంటుంది. మోడల్ చక్కగా నిర్మాణాత్మకమైన, శీర్షికతో కూడిన, ఒకే-టాపిక్ టెక్స్ట్ల కంటే చాలా ఖచ్చితమైన ప్రతిస్పందనను అందిస్తుంది. ఆచరణాత్మక సలహా: మీ విధానాలను పొడవాటి, సమూహ పేరాగ్రాఫ్ల కంటే చిన్న, శీర్షిక గల విభాగాలలో వ్రాయండి; ప్రతి విభాగం ఒకే ప్రశ్నకు సమాధానమివ్వనివ్వండి ("తిరిగి వచ్చే వ్యవధి ఎన్ని రోజులు?", "ఏ ఉత్పత్తులను తిరిగి ఇవ్వలేరు?"). తరచుగా అడిగే ప్రశ్నలను (FAQలు) ప్రశ్న-జవాబు ఆకృతిలో ఉంచడం వలన మోడల్ సరైన భాగాన్ని కనుగొనడం సులభం చేస్తుంది. తేదీ, మొత్తం మరియు రేట్ వంటి రాష్ట్ర విలువలు టెక్స్ట్లో స్పష్టంగా మరియు ఒకే చోట; ఒకే సంఖ్యను వేర్వేరు విభాగాలలో వేర్వేరుగా వ్రాయడం మోడల్ను గందరగోళానికి గురి చేస్తుంది.
నాలెడ్జ్ బేస్ సజీవంగా ఉంచుకోవడం మరో ముఖ్యమైన అలవాటు. పాలసీలు, ధరలు మరియు ప్రమోషన్లు మారుతూ ఉంటాయి; మూలం నవీకరించబడకపోతే, మోడల్ పాత సత్యాన్ని సురక్షితంగా పునరావృతం చేయడం కొనసాగిస్తుంది. ప్రతి పాలసీ మార్పుతో, మూలాధారాన్ని అప్డేట్ చేయండి మరియు మార్చబడిన టాపిక్ సరైన సమాధానాన్ని ఇచ్చిందని నిర్ధారించడానికి మోడల్ని కొన్ని పరీక్ష ప్రశ్నలను మళ్లీ అడగండి. ఈ చిన్నదైన కానీ సాధారణ నిర్వహణ కాలక్రమేణా "నిశ్శబ్దంగా తప్పు జరగకుండా" RAG వ్యవస్థను నిరోధిస్తుంది.
సాధారణ తప్పులు
- మూలాన్ని పాతిపెట్టకుండా మరియు మోడల్ కంఠస్థంపై ఆధారపడకుండా "మా విధానాన్ని వివరించండి" అని చెప్పడం.
- "మూలం నుండి మాత్రమే ప్రత్యుత్తరం" సరిహద్దు మరియు నాన్-సోర్స్ ప్రవర్తనను నిర్వచించడం లేదు.
- కోట్/సోర్స్ రిఫరెన్స్ను అభ్యర్థించడం లేదు మరియు సమాధానాన్ని ధృవీకరించలేని విధంగా వదిలివేయడం లేదు.
- నాలెడ్జ్ బేస్లో బహుళ పత్రాలలో ఒకే సమాచారం యొక్క వైరుధ్య సంస్కరణలను ఉంచడం.
- సంఖ్యా విలువలను పూర్తి చేయడానికి/అర్థం చేసుకోవడానికి మోడల్ను అనుమతిస్తుంది.
- మూలాన్ని అప్డేట్ చేయడం మర్చిపోవడం వల్ల మోడల్ పాత సమాచారాన్ని విశ్వసనీయంగా పునరావృతం చేస్తుంది.
సారాంశంలో
- RAG అంటే మోడల్ దాని సమాధానాన్ని మెమరీ నుండి కాకుండా ప్రస్తుత మూల పత్రం నుండి ఉత్పత్తి చేస్తుంది.
- భ్రాంతిని తగ్గించడానికి అత్యంత ఆచరణాత్మక మార్గం: మూలాన్ని పాతిపెట్టండి, "ఇక్కడ మాత్రమే ప్రత్యుత్తరం ఇవ్వండి" అని చెప్పండి, అనులేఖనాన్ని అడగండి.
- సమాధానం మూలంలో లేకుంటే, ఒక మోడల్కు సరిపోకూడదు; "నా దగ్గర లేదు" అని చెప్పి అప్పగించాలి.
- విరుద్ధమైన మూలాల గురించి మోడల్కు అవగాహన కల్పించండి; మీరు సంఖ్యా విలువలను ఖచ్చితంగా భద్రపరిచారు.
- RAG ఖచ్చితత్వం మీ మూలం యొక్క సమయానుకూలతపై ఆధారపడి ఉంటుంది; ఎల్లప్పుడూ కోట్ని నిర్ధారించండి.
అప్లికేషన్ టాస్క్
మీ స్వంత వ్యాపారం నుండి వాస్తవ పాలసీ టెక్స్ట్ (రిటర్న్, షిప్పింగ్ లేదా మెంబర్షిప్) తీసుకోండి మరియు పైన ఉన్న ప్రాథమిక RAG ప్రాంప్ట్లో దాన్ని సోర్స్గా పొందుపరచండి. అప్పుడు మూడు ప్రశ్నలు అడగండి: (1) మూలంలో సమాధానం స్పష్టంగా ఉన్న ప్రశ్న, (2) మూలంలో సమాధానం లేని ప్రశ్న, (3) మూలంలో మాత్రమే అసంపూర్ణంగా ఉన్న ప్రశ్న. మోడల్ సరిగ్గా సమాధానం ఇస్తోందని, “నా దగ్గర అది లేదు” అని చెప్పి, నిజాయితీగా పాక్షిక సమాధానాన్ని మరియు తప్పిపోయిన వాటిని వరుసగా గుర్తుచేస్తుందని ధృవీకరించండి. ప్రాంప్ట్లో లాయల్టీ మరియు నాన్-రిసోర్స్ నియమాలను బలోపేతం చేయడం ద్వారా వికృత ప్రవర్తనను సరిదిద్దండి.
చెక్లిస్ట్
- [ ] నేను ప్రాంప్ట్లో ప్రతిస్పందన ఆధారంగా ప్రస్తుత మూలాన్ని పొందుపరిచాను.
- [ ] నేను "మూలం నుండి మాత్రమే ప్రత్యుత్తరం, దాటి వెళ్లవద్దు" నియమాన్ని జోడించాను.
- [ ] నేను మూలాధార సూచన / అనులేఖన అవసరాన్ని ఉంచాను.
- [ ] సోర్స్లో సమాధానం అందుబాటులో లేకుంటే డెలిగేషన్ ప్రవర్తనను నేను నిర్వచించాను.
- [] సంఖ్యాపరమైన విలువలు ఖచ్చితంగా భద్రపరచబడాలని నేను కోరుకున్నాను.
- [ ] నేను మూల వాక్యం ఆధారంగా సమాధానాన్ని నిర్ధారించాను.