நிறுவனத்தின் தரவுகளுடன் பேசும் உதவி கட்டிடக்கலை

ஆதாயங்கள்:

• ஒரு எண்ட்-டு-எண்ட் எண்டர்பிரைஸ் RAG உதவியாளரின் கூறுகள் மற்றும் தரவு ஓட்டத்தை வடிவமைத்தல்
• பல-மூலத் தரவை (விக்கி, டிக்கெட், PDF, தரவுத்தளம்) ஒற்றை உதவியாளராக இணைத்தல்
• அளவிடுதல், கேச்சிங் மற்றும் தாமதம் ஆகியவற்றிற்கான கட்டடக்கலை முடிவுகளை எடுங்கள்

முந்தைய அலகுகளில், உட்பொதித்தல், திசையன் தரவுத்தளம், துண்டித்தல், மீட்டெடுப்பு போன்ற பகுதிகளை ஒவ்வொன்றாகக் கற்றுக்கொண்டோம். இப்போது இவற்றை ஒருங்கிணைத்து, உங்கள் சொந்த நிறுவனத் தரவுடன் பேசும் ஒரு உதவியாளரின் எண்ட்-டு-எண்ட் கட்டமைப்பை உருவாக்குவோம். "எங்கள் விடுப்புக் கொள்கை என்ன?" என்று ஒரு ஊழியர் கேட்க வேண்டும் என்பதே குறிக்கோள். மக்கள் கேள்விகளைக் கேட்கக்கூடிய ஒரு அமைப்பு, பதில்கள் உண்மையான உள் ஆவணங்கள், மேற்கோள்கள் மற்றும் பல தரவு ஆதாரங்களை இணைக்கின்றன. இந்த அலகு முழு கட்டமைப்பு, தரவு ஓட்டம் மற்றும் உற்பத்தி நிலை முடிவுகளை செயல்படுத்துகிறது.

இறுதி முதல் இறுதி கூறுகள்

ஒரு கார்ப்பரேட் RAG உதவியாளர் இரண்டு தனித்தனி வரிகளைக் கொண்டுள்ளது. குறியீட்டு வரி (ஆஃப்லைன்) தரவைத் தயாரிக்கிறது; வினவல் வரி (ஆன்லைன்) கேள்விக்கு பதிலளிக்கிறது.

குறியீட்டு வரி கூறுகள்:

1. இணைப்பிகள்: மூலங்களிலிருந்து தரவை இழுக்கும் இணைப்பிகள் — விக்கி, டிக்கெட் அமைப்பு, கோப்பு அங்காடி, தரவுத்தளம், மின்னஞ்சல்.
2. இயல்பாக்கம்: உரையை சுத்தம் செய்ய வெவ்வேறு வடிவங்களை (PDF, HTML, DOCX) மாற்றுதல்; தலைப்பு / அடிக்குறிப்பு சுத்தம்.
3. சங்கிங் + மெட்டாடேட்டா: துண்டித்தல் மற்றும் குறியிடுதல் (மூலம், தேதி, அதிகாரம்).
4. உட்பொதித்தல் + ஏற்றுதல்: திசையன்கள் மற்றும் மெட்டாடேட்டாவை வெக்டர் தரவுத்தளத்தில் எழுதுதல்.

வினவல் பைப்லைன் கூறுகள்:

1. வினவல் முன் செயலாக்கம்: மீண்டும் எழுதுதல், பரவலாக்கம்.
2. மீட்டெடுப்பு: கலப்பின தேடல் + மெட்டாடேட்டா வடிகட்டி + மறு தரவரிசை.
3. உடனடி உருவாக்கம்: சூழல் + கேள்வி + வழிமுறைகளை டெம்ப்ளேட்டில் வைப்பது.
4. உருவாக்கம்: மாதிரி + ஆதாரங்களில் இருந்து அடிப்படை (சூழல்) பதில்.
5. பிந்தைய செயலாக்கம்: மேற்கோள் வடிவமைப்பு, பாதுகாப்பு சோதனை, பதிவு செய்தல்.

உதவிக்குறிப்பு: வினவல் வரியிலிருந்து அட்டவணையிடும் வரியை உடல் ரீதியாக பிரிக்கவும். அட்டவணைப்படுத்தல் மெதுவாகவும், குறிப்பிட்ட கால இடைவெளியாகவும் இருக்கும் (ஒரே இரவில் தொகுப்பாக இயங்கும்); விசாரணை வரி இலகுவாகவும் உடனடியாகவும் இருக்க வேண்டும். பயனர் காத்திருக்கும் போது இரண்டு வரிகளை கலப்பது அதிக செயலாக்கத்தை கட்டாயப்படுத்துகிறது.

தரவு ஓட்டத்தை காட்சிப்படுத்துதல்

[INDEXING - offline]ஆதாரங்கள் → இயல்பாக்கம் → Chunk+Metadata → Embed → Vector DB (wiki, ticket, PDF, DB)[QUERY - online]பயனர் கேள்வி → முன் செயலாக்கம் → மீட்டெடுப்பு (கலப்பு+வடிகட்டுதல்) (சூழல்+கேள்வி+அறிவுரை) → மாதிரி → பதில்+மூலம் → பயனர்

மல்டி-சோர்ஸ் டேட்டாவை இணைத்தல்

உண்மையான நிறுவனங்களில், பதில் ஒரே இடத்தில் நின்றுவிடாது. "வாடிக்கையாளருக்கு பணத்தைத் திரும்பப்பெறுவது எப்படி?" கேள்விக்கான பதிலை உதவிக் கட்டுரை (செயல்முறை), டிக்கெட் வரலாறு (உண்மையான எடுத்துக்காட்டுகள்) மற்றும் கொள்கை PDF (விதிமுறைகள்) ஆகிய இரண்டிலும் காணலாம். உதவியாளர் அனைவரையும் ஒரே குளத்தில் தேட வேண்டும்.

முக்கியமான புள்ளி: ஆதாரங்களை ஒற்றை வெக்டர் ஸ்டோரில் இணைக்கும்போது, ​​ஒவ்வொரு ஷார்டும் `source_tour` மெட்டாடேட்டாவைக் கொண்டு செல்ல வேண்டும். எனவே, "அதிகாரப்பூர்வ கொள்கைகளை மட்டும் கொண்டு வாருங்கள்" போன்ற அனைத்தையும் நீங்கள் தேடலாம் மற்றும் தேவைப்பட்டால் அவற்றை வடிகட்டலாம். மேலும், வெவ்வேறு ஆதாரங்களில் நம்பகத்தன்மையின் வெவ்வேறு நிலைகள் உள்ளன: அதிகாரப்பூர்வ கொள்கை > உதவிக் கட்டுரை > ஒரு பணியாளரின் டிக்கெட் குறிப்பு. இந்த முன்னுரிமையை மறு தரவரிசையிலோ அல்லது ப்ராம்ட்யிலோ நீங்கள் குறிப்பிடலாம்.

ஆதாரம்

உள்ளடக்க வகை

நம்பிக்கை

புதுப்பிப்பு அதிர்வெண்

கொள்கை PDF

உத்தியோகபூர்வ விதி

உயர்

மாதாந்திர

உதவிக் கட்டுரை

நடைமுறை

நடுத்தர உயர்

வாரந்தோறும்

டிக்கெட் வரலாறு

உண்மையான மாதிரி

நடுத்தர

தொடர்ச்சியான

விக்கி

கலப்பு/நடப்பு குறிப்பு

மாறி

தொடர்ச்சியான

அளவிடுதல், தற்காலிக சேமிப்பு மற்றும் தாமதம்

உற்பத்தியில் மூன்று சிக்கல்கள் உள்ளன. தாமதம்: பயனர் 2 வினாடிகளுக்கு மேல் காத்திருக்கும்போது அனுபவம் மோசமடைகிறது. தீர்வு: ஸ்ட்ரீமிங் வடிவத்தில் பதிலைக் காண்பி - மாதிரி எழுதும் போது அது திரையில் ஊற்றப்படுகிறது. தற்காலிக சேமிப்பு: அடிக்கடி கேட்கப்படும் கேள்விகள் மற்றும் மீண்டும் மீண்டும் வரும் சூழல்களுக்கு, தற்காலிக சேமிப்பு வேகத்தை அதிகரிக்கிறது மற்றும் செலவைக் குறைக்கிறது. அளவு: பயனர் அதிகரிக்கும் போது, ​​மீட்டெடுப்பு மற்றும் மாதிரி அழைப்புகளை கிடைமட்டமாக அளவிடுவது அவசியம்.

செலவுப் பக்கத்தில் கட்டைவிரல் விதி: மிகவும் விலையுயர்ந்த படி பொதுவாக பெரிய மாடலுக்குச் செல்லும் டோக்கன்களின் எண்ணிக்கை. எனவே, மறு தரவரிசை மூலம் சூழலை 4 நல்ல பகுதிகளாகக் குறைப்பது தரம் மற்றும் செலவு ஆகிய இரண்டையும் மேம்படுத்துகிறது. எளிமையான வகைப்பாடு அல்லது ரூட்டிங் செய்ய சிறிய/வேகமான மாதிரியைப் பயன்படுத்துவதும், இறுதிப் பதிலுக்கு அதிக சக்தி வாய்ந்த மாதிரியைப் பயன்படுத்துவதும் பொதுவான வடிவமைப்பாகும் (எ.கா. claude-opus-4-8).

எச்சரிக்கை: "ஒருமுறை செய், மறந்துவிடு" என அட்டவணையிடலை அமைக்க வேண்டாம். ஆவணங்கள் மாற்றப்பட்டன, நீக்கப்பட்டன, சேர்க்கப்படுகின்றன. மறு அட்டவணைப்படுத்தல் உத்தியை நிறுவவும்: மாற்றப்பட்ட ஆவணங்களைக் கண்டறிந்து அவற்றை மட்டும் மீண்டும் செயலாக்கவும். பழைய இன்டெக்ஸ் தற்போதையதாக தோன்றும் ஆனால் தவறான பதிலை உருவாக்குகிறது.

பலவீனமான கட்டிடக்கலை / வலுவான கட்டிடக்கலை

பலவீனமான (ஒற்றை எழுத்து, அனைத்தும் கலந்தவை):

பயனர் கேட்கும்போது: அந்த நேரத்தில் ஆவணங்களைப் படித்து, அவற்றைத் துண்டாக்கவும், உட்பொதிக்கவும், தேடவும், பதிலளிக்கவும். # சிக்கல்: ஒவ்வொரு கேள்விக்கும் அனைத்து அட்டவணைப்படுத்தல் மீண்டும் மீண்டும் செய்யப்படுகிறது; வினாடிகள் தாமதம், # மூலப் பிரிப்பு இல்லை, வடிகட்டி இல்லை, புதுப்பிப்பு இல்லை.

சக்திவாய்ந்த (பிளவு குழாய்கள் + மெட்டாடேட்டா + கேச் + ஸ்ட்ரீமிங்):

அட்டவணைப்படுத்தல்: தொகுதி இரவில் இயங்குகிறது, மாற்றப்பட்ட ஆவணங்களைப் புதுப்பிக்கிறது. வினவல்: இலகுரக வரி — முன் செயலாக்கம் → ஹைப்ரிட் மீட்டெடுப்பு+வடிகட்டி → மறுவரிசை → ப்ராம்ட் → மாதிரி (ஸ்ட்ரீமிங்) → மேற்கோள் → பதிவு. அடிக்கடி கேட்கப்படும் கேள்விகள் மற்றும் ஆதாரம் தற்காலிகமாக சேமிக்கப்படும்.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - குழப்பமான வரி, அதிக தாமதம். ஒரு ஸ்டார்ட்அப் ஒரு ஸ்கிரிப்டை எழுதியது, அது ஒவ்வொரு கேள்விக்கும் PDFகளை மீண்டும் செயலாக்குகிறது; ஒவ்வொரு பதிலும் சராசரியாக 11 வினாடிகள் எடுத்தது. அட்டவணைப்படுத்தல் வரி பிரிக்கப்பட்டு, தரவு முன்பு வெக்டர் ஸ்டோருக்கு மாற்றப்பட்டபோது, ​​வினவல் நேரம் 1.3 வினாடிகளாகக் குறைந்தது மற்றும் ஸ்ட்ரீமிங்கில், "முதல் வார்த்தை" 400 எம்எஸ்களில் தோன்றியது.

வழக்கு 2 - அதிகமான ஆதாரங்கள், தவறான முன்னுரிமை. ஒரு ஆதரவு உதவியாளர் பாலிசி PDF மற்றும் பழைய டிக்கெட் குறிப்புகளுக்கு சம எடை கொடுத்தார்; இந்த மாதிரி சில நேரங்களில் ஒரு பணியாளரின் தவறான மதிப்பீட்டை இரண்டு ஆண்டுகளுக்கு முன்பு அதிகாரப்பூர்வ விதியாக வழங்கியது. source_tour மெட்டாடேட்டா மற்றும் "முரண்பாடு ஏற்பட்டால் உத்தியோகபூர்வ கொள்கையைக் கருத்தில் கொள்ளுங்கள்" என்ற அறிவுறுத்தல் வரியில் சேர்க்கப்படும்போது, ​​தவறான முன்னுரிமைப் பிழைகள் 89% குறைக்கப்பட்டன.

வழக்கு 3 - ஸ்டேல் இன்டெக்ஸ். ஒரு HR உதவியாளர் 3 மாதங்களாக புதுப்பிக்கப்படாத குறியீட்டுடன் பணிபுரிந்தார்; விடுப்பு கொள்கை மாறிவிட்டது, ஆனால் உதவியாளர் பழைய நாட்களை சொல்லிக்கொண்டிருந்தார். மாற்றப்பட்ட கோப்புகளைக் கண்டறியும் தினசரி புதுப்பிப்பு நிறுவப்பட்டபோது, ​​தற்போதைய பதிலளிப்பு விகிதம் 70% இலிருந்து 99% ஆக அதிகரித்தது.

பொதுவான தவறுகள்

• அட்டவணைப்படுத்தல் மற்றும் வினவல் வரிகளை கலத்தல்: பயனர் காத்திருக்கும் போது அதிக செயலாக்கம் செய்யப்படுகிறது; தாமதம் வெடிக்கிறது.
• மூல வகையை மெட்டாடேட்டாவில் வைக்கவில்லை: முன்னுரிமை மற்றும் வடிகட்டுதல் இல்லை; நம்பத்தகாத ஆதாரம் அதிகாரப்பூர்வமாகத் தெரிகிறது.
• புதுப்பிப்பு உத்தியை நிறுவவில்லை: குறியீடு பழையதாகிறது; தற்போதையதாக தோன்றும் தவறான பதில்கள் உருவாக்கப்படுகின்றன.
• ஸ்ட்ரீமிங்கைத் தவிர்: பயனர் வெற்றுத் திரையைப் பார்க்கிறார்; உணரப்பட்ட தாமதம் அதிகமாகிறது.
• ஒவ்வொரு அடியிலும் மிகப்பெரிய மாதிரியைப் பயன்படுத்துதல்: தேவையில்லாமல் செலவு அதிகரிக்கிறது; ஸ்டீயரிங் சிறிய மாடலுக்கு விடவும்.

சுருக்கமாக

• கார்ப்பரேட் RAG உதவியாளர் இரண்டு தனித்தனி வரிகளைக் கொண்டுள்ளது: ஆஃப்லைன் அட்டவணைப்படுத்தல் மற்றும் ஆன்லைன் வினவல்; அவற்றை உடல் ரீதியாக பிரிக்கவும்.
• அட்டவணைப்படுத்துதல் = இணைப்பான் + இயல்பாக்குதல் + துண்/மெட்டாடேட்டா + உட்பொதித்தல்/பதிவேற்றம்; வினவல் = முன் செயல்முறை + மீட்டெடுப்பு + வரியில் + உருவாக்கு + பிந்தைய செயல்முறை.
• பல-மூல தரவுகள் ஒரு களஞ்சியமாக இணைக்கப்பட்டுள்ளது, ஆனால் source_type மெட்டாடேட்டா மற்றும் நம்பிக்கை முன்னுரிமை ஆகியவை பாதுகாக்கப்படுகின்றன.
• தாமதத்திற்கான ஸ்ட்ரீமிங் மற்றும் கேச், சூழல் த்ரோட்லிங் மற்றும் செலவுக்கான மாதிரி தேர்வு ஆகியவை முக்கியமானவை.
• மறு அட்டவணைப்படுத்தல் இல்லாமல், குறியீட்டு பழையதாகிவிடும்; ஆவணங்களை மாற்றுவதைத் தொடர்ந்து மீண்டும் செயலாக்கவும்.

விண்ணப்ப பணி

உங்கள் சொந்த குழுவிற்கான உதவியாளரின் கட்டடக்கலை வரைபடத்தை வரையவும். (1) குறைந்தது மூன்று உண்மையான தரவு மூலங்களைக் கண்டறிந்து, ஒவ்வொன்றிற்கும் ஒரு இணைப்பான் தேவை, புதுப்பிப்பு அதிர்வெண் மற்றும் நம்பிக்கை நிலை ஆகியவற்றை எழுதவும். (2) குறியீட்டு மற்றும் வினவல் வரிகளை தனித்தனியாக ஒரு பெட்டி-அம்பு வரைபடத்துடன் வரையவும். (3) "இந்த உதவியாளரின் தாமதத்தையும் செலவையும் நான் எங்கே குறைக்க வேண்டும்?" கேள்விக்கு குறைந்தது இரண்டு உறுதியான முடிவுகளை எழுதவும். (4) உங்கள் புதுப்பிப்பு உத்தியை ஒரு வாக்கியத்தில் விவரிக்கவும்: எந்த ஆதாரம் மீண்டும் அட்டவணைப்படுத்தப்படும் மற்றும் எவ்வளவு அடிக்கடி?

சரிபார்ப்பு பட்டியல்

• [ ] நான் அட்டவணைப்படுத்தல் மற்றும் வினவல் வரிகளை தனித்தனியாகவும் சரியான கூறுகளுடன் வரைய முடியும்.
• [ ] பல மூலத் தரவை source_type மற்றும் நம்பிக்கையின் முன்னுரிமையுடன் என்னால் இணைக்க முடியும்.
• [ ] தாமதத்திற்கான ஸ்ட்ரீமிங்/கேச் முடிவுகளை என்னால் எடுக்க முடியும் மற்றும் செலவுக்கான மாதிரி தேர்வு.
• [ ] மறு அட்டவணைப்படுத்தல் உத்தி ஏன் அவசியம் என்பதை நான் அறிவேன்.
• [ ] எனது கட்டிடக்கலையில் மிகவும் விலையுயர்ந்த படி பொதுவாக பெரிய மாதிரிக்கு செல்லும் டோக்கன் என்பதை நான் நினைவில் வைத்திருக்கிறேன்.