ክፍል 5 / 11

ከኩባንያ ውሂብ ጋር የሚነጋገር ረዳት አርክቴክቸር

ትርፍ፡

  • የድርጅት RAG ረዳት ክፍሎችን እና የውሂብ ፍሰትን መንደፍ
  • የብዝሃ-ምንጭ ውሂብ (ዊኪ፣ ትኬት፣ ፒዲኤፍ፣ ዳታቤዝ) ወደ አንድ ረዳት በማጣመር
  • ለስኬታማነት፣ መሸጎጫ እና መዘግየት የስነ-ህንፃ ውሳኔዎችን ያድርጉ

በቀደሙት ክፍሎች ክፍሎቹን አንድ በአንድ ተምረናል፡ መክተት፣ የቬክተር ዳታቤዝ፣ መቆራረጥ፣ ሰርስሮ ማውጣት። አሁን እነዚህን እናጣምር እና የራስዎን የኩባንያ ውሂብ የሚያወራ ረዳት ከጫፍ እስከ ጫፍ ያለው አርክቴክቸር እንገንባ። ግቡ አንድ ሰራተኛ “የእኛ ፈቃድ ፖሊሲ ምንድነው?” ብሎ እንዲጠይቅ ማድረግ ነው። ሰዎች ጥያቄዎችን የሚጠይቁበት ስርዓት, መልሶች በእውነተኛ የውስጥ ሰነዶች, ጥቅሶች እና በርካታ የውሂብ ምንጮችን በማጣመር ላይ የተመሰረቱ ናቸው. ይህ ክፍል አጠቃላይ የሕንፃውን፣ የውሂብ ፍሰት እና የምርት ደረጃ ውሳኔዎችን ያካሂዳል።

ከመጨረሻ እስከ መጨረሻ ክፍሎች

የኮርፖሬት RAG ረዳት ሁለት የተለያዩ መስመሮችን ያካትታል. የመረጃ ጠቋሚው መስመር (ከመስመር ውጭ) መረጃውን ያዘጋጃል; የጥያቄው መስመር (ኦንላይን) ለጥያቄው መልስ ይሰጣል።

የመረጃ ጠቋሚ መስመር ክፍሎች፡-

  1. ማገናኛዎች፡- መረጃን ከምንጮች የሚጎትቱ ማገናኛዎች - ዊኪ፣ የቲኬት ሥርዓት፣ የፋይል ማከማቻ፣ የውሂብ ጎታ፣ ኢሜል።
  2. መደበኛ ማድረግ: የተለያዩ ቅርጸቶችን (PDF, HTML, DOCX) ወደ ጽሑፍን ማጽዳት; ራስጌ/እግር ማፅዳት።
  3. Chunking + ሜታዳታ፡ መቆራረጥ እና መለያ መስጠት (ምንጭ፣ ቀን፣ ስልጣን)።
  4. መክተት + መጫን፡- ቬክተሮችን እና ሜታዳታን ወደ ቬክተር ዳታቤዝ መጻፍ።

የቧንቧ መስመር ክፍሎች መጠይቅ;

  1. የጥያቄ ቅድመ ሂደት፡ እንደገና መጻፍ፣ ያልተማከለ ማድረግ።
  2. ሰርስሮ ማውጣት፡ ድብልቅ ፍለጋ + ሜታዳታ ማጣሪያ + እንደገና ደረጃ መስጠት።
  3. በፍጥነት መፍጠር፡ አውድ + ጥያቄን + መመሪያዎችን ወደ አብነት ማስገባት።
  4. ትውልድ፡- የተመሰረተ (አውዳዊ) መልስ ከአምሳያው + ምንጮች።
  5. ድህረ-ሂደት: የጥቅስ ቅርጸት, የደህንነት ማረጋገጫ, መግባት.
ጠቃሚ ምክር፡ የጠቋሚ መስመሩን ከጥያቄው መስመር በአካል ይለዩት። መረጃ ጠቋሚ ዝግተኛ እና ወቅታዊ ነው (በሌሊት በቡድን ይሠራል); የጥያቄው መስመር ቀላል እና ፈጣን መሆን አለበት። ተጠቃሚው በሚጠብቅበት ጊዜ ሁለቱን መስመሮች መቀላቀል ከባድ ሂደትን ያስገድዳል።

የውሂብ ፍሰትን በእይታ መመልከት

[INDEXING - ከመስመር ውጭ] ግብዓቶች → Normalize → Chunk+Metadata → Embed → Vector DB (ዊኪ፣ ቲኬት፣ ፒዲኤፍ፣ ዲቢ)[QUERY - online] የተጠቃሚ ጥያቄ → ቅድመ-ማቀነባበር → ሰርስሮ ማውጣት ( hybrid+filter+rerank) → አፋጣኝ (የአውድ+ጥያቄ →+መመሪያ)→ መመሪያ

ባለብዙ-ምንጭ ውሂብ በማጣመር

በእውነተኛ ኩባንያዎች ውስጥ, መልሱ በአንድ ቦታ ላይ አይቆምም. "ለደንበኛው እንዴት ተመላሽ ማድረግ ይቻላል?" የጥያቄው መልስ በእገዛ ጽሑፍ (አሰራር) ፣ በቲኬት ታሪክ (በእውነተኛ ምሳሌዎች) እና በፖሊሲ ፒዲኤፍ (ህጎች) ውስጥ ሁለቱንም ማግኘት ይቻላል ። ረዳቱ ሁሉንም በአንድ ገንዳ ውስጥ መፈለግ አለበት.

ወሳኝ ነጥብ፡ ግብዓቶችን ወደ አንድ የቬክተር ማከማቻ ሲያዋህዱ እያንዳንዱ ሸርተቴ የ«ምንጭ_ጉብኝት» ዲበ ውሂብን መያዝ አለበት። ስለዚህ ሁሉንም መፈለግ እና አስፈላጊ ከሆነ እንደ "ኦፊሴላዊ ፖሊሲዎችን ብቻ አምጣ" የመሳሰሉ ማጣራት ይችላሉ. እንዲሁም፣ የተለያዩ ምንጮች የተለያዩ የአስተማማኝነት ደረጃዎች አሏቸው፡ ይፋዊ ፖሊሲ > የእገዛ ጽሑፍ > የሰራተኛ ትኬት ማስታወሻ። ይህንን ቅድሚያ በድጋሚ ደረጃ ወይም ጥያቄ ውስጥ መግለጽ ይችላሉ።

ምንጭ

የይዘት አይነት

እምነት

ድግግሞሽ አዘምን

ፖሊሲ ፒዲኤፍ

ኦፊሴላዊ ደንብ

ከፍተኛ

ወርሃዊ

የእገዛ ጽሑፍ

አሰራር

መካከለኛ-ከፍተኛ

በየሳምንቱ

የቲኬት ታሪክ

እውነተኛ ናሙና

መካከለኛ

ቀጣይ

ዊኪ

የተቀላቀለ/የአሁኑ ማስታወሻ

ተለዋዋጭ

ቀጣይ

ልኬት፣ መሸጎጫ እና መዘግየት

በምርት ውስጥ ሶስት ጉዳዮች ጎልተው ይታያሉ. መዘግየት፡ ተጠቃሚው ከ2 ሰከንድ በላይ ሲጠብቅ ልምዱ ይበላሻል። መፍትሄው: መልሱን በዥረት መልቀቅ - ሞዴሉ በሚጽፍበት ጊዜ በስክሪኑ ላይ ይፈስሳል። መሸጎጫ፡- በተደጋጋሚ ለሚጠየቁ ጥያቄዎች እና ተደጋጋሚ አውዶች፣ መሸጎጫ ሁለቱም ፍጥነትን ይጨምራሉ እና ወጪን ይቀንሳል። ልኬት፡ ተጠቃሚው እየጨመረ በሄደ ቁጥር መልሶ ማግኛን እና ጥሪዎችን በአግድም ሞዴል ማድረግ መቻል ያስፈልጋል።

በዋጋው ላይ የአውራ ጣት ህግ-በጣም ውድ ደረጃ ብዙውን ጊዜ ወደ ትልቅ ሞዴል የሚሄዱ የቶከኖች ብዛት ነው። ስለዚህ, እንደገና ደረጃ በመስጠት አውድ ወደ 4 ጥሩ ክፍሎች መቀነስ ሁለቱንም ጥራት እና ዋጋ ያሻሽላል. የተለመደው ንድፍ አነስ ያለ/ፈጣን ሞዴል ለቀላል ምደባ ወይም ማዘዋወር፣ እና ለመጨረሻው መልስ የበለጠ ኃይለኛ ሞዴል (ለምሳሌ claude-opus-4-8) መጠቀም ነው።

ይጠንቀቁ፡ ኢንዴክስን እንደ "አንድ ጊዜ አድርጉት፣ እርሳው" ብለው አያዘጋጁት። ሰነዶች ተለውጠዋል፣ ተሰርዘዋል፣ ይታከላሉ። የድጋሚ መረጃ ጠቋሚ ስልት ያቋቁሙ፡ የተቀየሩ ሰነዶችን ያግኙ እና እነሱን ብቻ እንደገና ያካሂዱ። የቆዩ ኢንዴክስ ወቅታዊ የሚመስል ግን የተሳሳተ መልስ ይሰጣል።

ደካማ አርክቴክቸር / ጠንካራ አርክቴክቸር

ደካማ (ነጠላ ስክሪፕት፣ ሁሉም ነገር ተቀላቅሏል)

ተጠቃሚው ሲጠይቅ: ሰነዶቹን በዚያ ቅጽበት ያንብቡ, ይቁረጡ, ይክቷቸው, ይፈልጉዋቸው, ይመልሱ. # ችግር: ለእያንዳንዱ ጥያቄ ሁሉም መረጃ ጠቋሚ ይደገማል; የሰከንዶች መዘግየት፣ # የምንጭ መለያየት የለም፣ ማጣሪያ የለም፣ ምንም እድሳት የለም።

ኃይለኛ (የተከፋፈሉ ቱቦዎች + ሜታዳታ + መሸጎጫ + ዥረት)

መረጃ ጠቋሚ፡ ባች በምሽት ይሰራል፣ የተለወጡ ሰነዶችን ያድሳል። መጠይቅ፡ ቀላል ክብደት ያለው መስመር — ቅድመ-ማቀነባበር → ዲቃላ መልሶ ማግኛ+ማጣሪያ → ደረጃ → መጠየቂያ → ሞዴል (ዥረት) → ጥቅስ → መዝገብ። ተደጋግሞ የሚጠየቁ ጥያቄዎች እና ምንጩ ተደብቀዋል።

ሶስት ሚኒ ጉዳዮች

ጉዳይ 1 - ግራ የተጋባ መስመር, ከባድ መዘግየት. አንድ ጀማሪ ፒዲኤፎችን በእያንዳንዱ ጥያቄ የሚደግም ስክሪፕት ጻፈ። እያንዳንዱ መልስ በአማካይ 11 ሰከንድ ወስዷል። የመረጃ ጠቋሚው መስመር ሲለያይ እና ውሂቡ ቀደም ሲል ወደ ቬክተር ማከማቻ ሲተላለፍ የጥያቄው ጊዜ ወደ 1.3 ሰከንድ ቀንሷል እና በዥረት መልቀቅ "የመጀመሪያው ቃል" በ 400 ms ውስጥ ታየ.

ጉዳይ 2 — በጣም ብዙ ሀብቶች፣ የተሳሳተ ቅድሚያ። የድጋፍ ረዳት ለፖሊሲው ፒዲኤፍ እና የድሮ ትኬት ማስታወሻዎች እኩል ክብደት ሰጠ። ሞዴሉ አንዳንድ ጊዜ የሰራተኛውን ትክክለኛ ያልሆነ ደረጃ ከሁለት አመት በፊት እንደ ህጋዊ ደንብ አቅርቧል። የምንጭ_ቱር ዲበዳታ እና "ግጭት ሲፈጠር ይፋዊ ፖሊሲን ከግምት ውስጥ ያስገቡ" መመሪያ ወደ ፍላጐቱ ሲታከሉ፣ የውሸት ቅድሚያ የሚሰጣቸው ስህተቶች በ89 በመቶ ቀንሰዋል።

ጉዳይ 3 - የቆየ መረጃ ጠቋሚ. የ HR ረዳት ለ 3 ወራት ካልዘመነ መረጃ ጠቋሚ ጋር እየሰራ ነበር; የእረፍት ፖሊሲው ተለውጧል, ነገር ግን ረዳቱ የድሮውን ጊዜ ይናገር ነበር. የተቀየሩ ፋይሎችን የሚያገኝ ዕለታዊ እድሳት ሲጫን፣ አሁን ያለው ምላሽ መጠን ከ70% ወደ 99% አድጓል።

የተለመዱ ስህተቶች

  • የመረጃ ጠቋሚ እና የጥያቄ መስመሮችን ማደባለቅ፡ ተጠቃሚው በሚጠብቅበት ጊዜ ከባድ ሂደት ይከናወናል; መዘግየት ይፈነዳል.
  • የመነሻውን አይነት በሜታዳታ ውስጥ አለማስቀመጥ፡ ቅድሚያ መስጠት እና ማጣራት የለም፤ የማይታመን ምንጭ ይፋ የሆነ ይመስላል።
  • የማደስ ስትራቴጂ አለመመስረት፡ ኢንዴክስ ጊዜው ያለፈበት ይሆናል፤ ወቅታዊ የሚመስሉ የተሳሳቱ መልሶች ተዘጋጅተዋል።
  • መልቀቅን ዝለል፡ ተጠቃሚ ባዶ ስክሪን ይመለከታል፤ የታሰበው መዘግየት ከፍተኛ ይሆናል.
  • በእያንዳንዱ ደረጃ ትልቁን ሞዴል መጠቀም: ዋጋ ሳያስፈልግ ይጨምራል; መሪውን ወደ ትንሹ ሞዴል ይተውት.

በማጠቃለያው

  • የኮርፖሬት RAG ረዳት ሁለት የተለያዩ መስመሮችን ያቀፈ ነው-ከመስመር ውጭ መረጃ ጠቋሚ እና የመስመር ላይ መጠይቅ; በአካል ለይዋቸው.
  • መረጃ ጠቋሚ = ማገናኛ + መደበኛ + ቸንክ / ሜታዳታ + መክተት / መስቀል; ጥያቄ = ቅድመ-ሂደት + ሰርስሮ ማውጣት + መጠየቂያ + ማመንጨት + ድህረ-ሂደት።
  • ባለብዙ-ምንጭ ውሂብ ወደ አንድ ማከማቻ ይጣመራል፣ነገር ግን የምንጭ_አይነት ዲበዳታ እና የእምነት ቅድሚያ ተጠብቀዋል።
  • በዥረት መልቀቅ እና መሸጎጫ ለላቲነት፣ አውድ ስሮትልንግ እና ሞዴል ምርጫ ለዋጋ ወሳኝ ናቸው።
  • ዳግም-ኢንዴክስ ሳይደረግ, ኢንዴክስ ያረጀ ይሆናል; ሰነዶችን በየጊዜው መለወጥ.

የመተግበሪያ ተግባር

ለቡድንዎ የረዳት ንድፍ ንድፍ ይሳሉ። (1) ቢያንስ ሶስት እውነተኛ የመረጃ ምንጮችን ይለዩ እና የግንኙነት ፍላጎትን ይፃፉ ፣ ድግግሞሽን ያዘምኑ እና ለእያንዳንዱ የእምነት ደረጃ። (2) ጠቋሚውን እና የጥያቄ መስመሮቹን በቦክስ ቀስት ዲያግራም ይሳሉ። (3) "በዚህ ረዳት ውስጥ መዘግየትን እና ወጪን የት ነው የምቀንስ?" ለጥያቄው ቢያንስ ሁለት ተጨባጭ ውሳኔዎችን ጻፍ. (4) የማደስ ስትራቴጂዎን በአንድ ዓረፍተ ነገር ይግለጹ፡ የትኛው ሃብት እንደገና ኢንዴክስ እንደሚደረግ እና በየስንት ጊዜው?

የማረጋገጫ ዝርዝር

  • [ ] ጠቋሚውን እና የጥያቄ መስመሮቹን በተናጥል እና ከትክክለኛ አካላት ጋር መሳል እችላለሁ።
  • [ ] የብዝሃ-ምንጭ መረጃን ከምንጭ_አይነት እና ከእምነት ቅድሚያ ጋር ማጣመር እችላለሁ።
  • [ ] ለትርፍ ጊዜ የመሸጎጫ/የመሸጎጫ ውሳኔዎች እና ለዋጋ ሞዴል ምርጫ ማድረግ እችላለሁ።
  • [ ] ለምን እንደገና ጠቋሚ ስልት አስፈላጊ እንደሆነ አውቃለሁ።
  • [ ] በእኔ አርክቴክቸር ውስጥ በጣም ውድ የሆነው እርምጃ ብዙውን ጊዜ ወደ ትልቁ ሞዴል የሚሄድ ምልክት መሆኑን አስታውሳለሁ።