নলেজ বেস এবং আরএজি: কীভাবে বট এবং এজেন্ট সঠিক উত্তর খুঁজে পান

লাভ:

• বুঝুন কিভাবে RAG (ফ্র্যাগমেন্টেশন, অ্যাক্সেস, রিসোর্স-নির্ভর প্রজন্ম) কাজ করে এবং কীভাবে এটি হ্যালুসিনেশন কমায়
• বর্তমান, স্পষ্ট, দ্বন্দ্ব-মুক্ত এবং একটি একক সঠিক উৎস আছে এমন একটি জ্ঞানের ভিত্তি স্থাপন করে উত্তরের গুণমান বৃদ্ধি করার ক্ষমতা।
• মডেলকে নির্দেশ দেওয়ার ক্ষমতা 'যদি এটি উত্সে না থাকে তবে আমাকে বলুন আপনি জানেন না' এবং যে প্রশ্নগুলির উত্তর দিতে পারে না তা জ্ঞানের ভিত্তি উন্নতিতে পরিণত করুন

একটি বট বা এজেন্ট সহকারী যে উত্তর দেয় তা শুধুমাত্র তথ্যের উপর ভিত্তি করে যতটা ভাল। গ্রাহক যখন জিজ্ঞাসা করেন "প্রচারণা চলছে কি?", সঠিক উত্তরটি মডেলের স্মৃতিতে নয়, প্রতিষ্ঠানের বর্তমান জ্ঞানের ভিত্তিতে। এই কারণেই কল সেন্টারের কৃত্রিম বুদ্ধিমত্তা হল জ্ঞানের ভিত্তি (KB): একটি আপ-টু-ডেট সংস্থান যেখানে পণ্য, নীতি, প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী, পদ্ধতি এবং নিয়মগুলি লিখিতভাবে রাখা হয়। এবং যে পদ্ধতিটি এই জ্ঞানের ভিত্তিটিকে কৃত্রিম বুদ্ধিমত্তার সাথে সুরক্ষিতভাবে সংযুক্ত করে তাকে বলা হয় RAG: Retrieval-Augmented Generation — তার নিজের মেমরি থেকে উত্তর তৈরি করার পরিবর্তে, মডেলটি প্রথমে উত্স থেকে প্রাসঙ্গিক তথ্যের টুকরোগুলি পুনরুদ্ধার করে (পুনরুদ্ধার) এবং তারপর শুধুমাত্র সেই অংশগুলির (জেনারেশন) উপর ভিত্তি করে উত্তর তৈরি করে।

হ্যালুসিনেশন প্রতিরোধের সবচেয়ে শক্তিশালী পদ্ধতি হল RAG। "লোনের সুদের হার কি?" প্রশ্নের জন্য মডেলটি তার মাথায় একটি সংখ্যা তৈরি করে না। এটি জ্ঞানের ভিত্তি থেকে বর্তমান আগ্রহের পাঠ্য পুনরুদ্ধার করে এবং এর উপর ভিত্তি করে উত্তর দেয়। এই ইউনিটে আমরা দেখব কীভাবে জ্ঞানের ভিত্তি স্থাপন করতে হয়, কীভাবে RAG কাজ করে এবং কীভাবে একটি ভাল জ্ঞানের ভিত্তি উত্তরের গুণমান নির্ধারণ করে।

কিভাবে RAG কাজ করে: চারটি ধাপ

লাইব্রেরিয়ানের মতো আরএজিকে ভাবুন। গ্রাহক প্রশ্ন জিজ্ঞাসা করে; সিস্টেমটি প্রথমে লাইব্রেরির ডান তাক থেকে প্রাসঙ্গিক পৃষ্ঠাগুলি খুঁজে বের করে, তারপর সেই পৃষ্ঠাগুলি পড়ে এবং উত্তর লিখে। প্রযুক্তিগত পদক্ষেপগুলি নিম্নরূপ:

1. চঙ্কিং: জ্ঞানের ভিত্তির দীর্ঘ নথিগুলিকে ছোট, অর্থপূর্ণ টুকরোগুলিতে বিভক্ত করা হয় (যেমন, প্রতিটি FAQ একটি খণ্ড)। কারণ মডেলটি সম্পর্কিত ছোট অংশগুলির সাথে আরও সঠিকভাবে একটি প্রশ্নের উত্তর দেয়।
2. এম্বেডিং এবং ইন্ডেক্সিং: প্রতিটি টুকরোকে একটি সংখ্যাসূচক আকারে অনুবাদ করা হয় যা তার অর্থের প্রতিনিধিত্ব করে (এমবেডিং - পাঠ্যের অর্থ প্রতিনিধিত্বকারী সংখ্যার একটি ক্রম) এবং একটি অনুসন্ধানযোগ্য ডাটাবেসে স্থাপন করা হয়। সুতরাং, এটি একটি "শব্দ মিল" নয় বরং একটি "অর্থ মিল"; এমনকি যদি গ্রাহক জিজ্ঞাসা করে "আমার টাকা কখন জমা হবে?", "ফেরত সময়" অংশটি পাওয়া যেতে পারে।
3. পুনরুদ্ধার: গ্রাহকের প্রশ্নের অর্থে সবচেয়ে কাছের অংশগুলি পুনরুদ্ধার করা হয় (যেমন নিকটতম 3-5টি অংশ)।
4. জেনারেশন: মডেলটি শুধুমাত্র আঁকা অংশের উপর ভিত্তি করে উত্তর লেখে এবং সম্ভব হলে উৎস নির্দেশ করে।

গুরুত্বপূর্ণ পয়েন্টটি ধাপ 4-এ রয়েছে: মডেলটিকে নির্দেশ দেওয়া হয়েছে "শুধু প্রদত্ত টুকরোগুলির উপর নির্ভর করুন, অথবা বলুন আপনি জানেন না।" এই নির্দেশ ছাড়া, RAG ফিটিং থেকে মডেল প্রতিরোধ করে না.

ইঙ্গিত: RAG এর সুবর্ণ নিয়ম: "যদি এটি উত্সে না থাকে তবে কোন উত্তর নেই।" একটি ভাল RAG সিস্টেম বলবে "আমি এই সম্পর্কে নিশ্চিতভাবে জানি না" এমন একটি প্রশ্ন যা জ্ঞানের ভিত্তিতে নেই; অনুমান দিয়ে শূন্যস্থান পূরণ করে না। "আমি জানি না" বলার একটি বটের ক্ষমতা একটি নিরাপত্তা বৈশিষ্ট্য, দুর্বলতা নয়।

একটি ভাল জ্ঞান ভিত্তি: উত্তর মানের প্রকৃত উৎস

RAG যতই ভালো হোক না কেন, জ্ঞানের ভিত্তি খারাপ হলে উত্তর খারাপ। জ্ঞানের ভিত্তি গুণমান পরিমাপ করা হয়:

বৈশিষ্ট্য

খারাপ জ্ঞান ভিত্তি

ভালো জ্ঞানের ভিত্তি

কারেন্টনেস

মাস ধরে আপডেট করা হয়নি

পরিবর্তিত হলে অবিলম্বে আপডেট

স্বচ্ছতা

দীর্ঘ, জটিল পাঠ্য

সংক্ষিপ্ত, একক বিষয় নিবন্ধ

গঠন

অগোছালো পিডিএফ গাদা

লেবেলযুক্ত অবক্ষয়যোগ্য পদার্থ

ধারাবাহিকতা

দুটি পরস্পরবিরোধী উত্তর

সত্যের একক উৎস

ব্যাপ্তি

অনেক ফাঁক আছে

প্রায়শই জিজ্ঞাসিত প্রশ্ন কভার করে

মালিকানা

কেউ দায়ী নয়

প্রতিটি বিষয় একটি মালিক আছে

কল সেন্টার প্রেক্ষাপটে সবচেয়ে বিপজ্জনক সমস্যা হল দ্বন্দ্ব: যদি দুটি ভিন্ন রিটার্ন পিরিয়ড নলেজ বেসে লেখা থাকে, তাহলে RAG বলবে যেটি যেটি লাগবে এবং একটি অসংলগ্ন উত্তর গ্রাহককে পাঠানো হবে। এই কারণেই "সত্যের একক উত্স" নীতিটি সমালোচনামূলক: তথ্য এক জায়গায় আপ টু ডেট রাখা হয়; সেই উৎসের রেফারেন্স ব্যবহার করা হয়, কপি নয়।

ধাপে ধাপে: একটি RAG-সমর্থিত প্রতিক্রিয়া সিস্টেম তৈরি করা

1. জ্ঞানের ভিত্তি পরিষ্কার করুন: পুরানো, বিরোধপূর্ণ, সদৃশ নিবন্ধগুলি সরান। প্রতিটি নিবন্ধ সংক্ষিপ্ত এবং একক বিষয় করুন।
2. এটি ভেঙে দিন এবং ট্যাগ করুন: প্রতিটি নিবন্ধে একটি বিষয় ট্যাগ এবং সর্বশেষ আপডেটের তারিখ যোগ করুন।
3. অ্যাক্সেস স্থাপন করুন: এমন একটি প্রক্রিয়া সংযুক্ত করুন যা জিজ্ঞাসা করা হলে প্রাসঙ্গিক অংশগুলিকে টানে (এন্টারপ্রাইজ RAG সরঞ্জামগুলি এটি সরবরাহ করে)।
4. একটি কঠোর প্রম্পট লিখুন: মডেলকে বলুন "শুধুমাত্র প্রদত্ত অংশগুলির উপর নির্ভর করুন, উত্সটি উদ্ধৃত করুন বা বলুন আপনি জানেন না।"
5. উত্সটি উদ্ধৃত করুন: নিবন্ধটি দেখান যার উপর ভিত্তি করে উত্তর দেওয়া হয়েছে; এটি উভয়ই আত্মবিশ্বাস দেয় এবং যাচাইকরণের সুবিধা দেয়।
6. ফাঁকের জন্য দেখুন: প্রশ্ন সংগ্রহ করুন যেখানে বট বলছে "আমি জানি না"; এগুলো জ্ঞানভান্ডারের ঘাটতি দেখায়, সেখান থেকে খাওয়ানো।

চারটি অনুলিপিযোগ্য টেমপ্লেট

1) কঠোর RAG উত্তর প্রম্পট:

নিম্নলিখিত [সোর্স] অংশগুলির উপর ভিত্তি করে উত্তর দিন। নিয়ম: (1) শুধুমাত্র উৎসের তথ্য ব্যবহার করুন, (2) যদি এটি উৎসে না থাকে, বলুন "আমার কাছে এই সম্পর্কে কোনো নির্দিষ্ট তথ্য নেই, আমাকে আপনাকে প্রতিনিধির সাথে সংযুক্ত করতে দিন", (3) এটি কোন নিবন্ধটি [সূত্র: আইটেম-নং] হিসাবে ভিত্তিক, তা বলুন, (4) উৎস থেকে সঠিক পরিমাণ/সময়কাল/শর্ত উদ্ধৃত করুন, রাউন্ড আপ/মেক করবেন না। [সূত্র]: <<টানা অংশ>>প্রশ্ন: "<<গ্রাহকের প্রশ্ন>>"

2) জ্ঞানভিত্তিক নিবন্ধ লেখা:

নিম্নলিখিত বিক্ষিপ্ত নীতি পাঠকে RAG-এর জন্য উপযুক্ত একটি FAQ নিবন্ধে রূপান্তর করুন। বিন্যাস: প্রশ্ন (গ্রাহকের ভাষায়) / সংক্ষিপ্ত উত্তর (2-3 বাক্য) / শর্ত (ধারা) / শেষ আপডেটের তারিখ / বিষয় ট্যাগ। যেকোনো অস্পষ্ট বিষয়কে "স্পষ্ট করার জন্য" হিসেবে চিহ্নিত করুন, বিশ্বাস করুন। কাঁচা পাঠ্য: <<text>>

3) দ্বন্দ্ব এবং ফাঁকের জন্য স্ক্যানিং:

নিম্নলিখিত জ্ঞানভিত্তিক নিবন্ধগুলি পরীক্ষা করুন। (1) নিবন্ধগুলির জোড়া চিহ্নিত করুন যেগুলি একে অপরের সাথে বিরোধ করে (যেমন বিভিন্ন রিটার্ন সময়কাল)। (2) এমন বিষয়গুলি অনুমান করুন যা প্রায়শই জিজ্ঞাসা করা হবে কিন্তু কোন উত্তর নেই। শুধুমাত্র প্রদত্ত নিবন্ধগুলি দেখুন; নতুন নীতি তৈরি করা। প্রবন্ধ: <<তালিকা>>

4) "আমি জানি না" লগ থেকে উন্নতি:

নীচে এমন প্রশ্ন রয়েছে যেগুলি বট উত্তর দিতে পারেনি (কোন উত্স খুঁজে পায়নি)৷ সেগুলিকে বিষয়গুলির মধ্যে গোষ্ঠীবদ্ধ করুন এবং নিবন্ধের শিরোনাম প্রস্তাব করুন যা প্রতিটি দলের জন্য জ্ঞানের ভিত্তিতে যোগ করা উচিত। উত্তরের বিষয়বস্তু তৈরি করবেন না, শুধু আমাকে বলুন কোন আইটেমটি অনুপস্থিত। প্রশ্ন: <<list>>

দুর্বল প্রম্পট / শক্তিশালী প্রম্পট

দুর্বল প্রম্পট:

গ্রাহকের রিটার্ন প্রশ্নের উত্তর দিন।

কোন উৎস নেই; মডেল মেমরি থেকে ফিট হতে পারে, পরিমাণ/সময় ভুল হতে পারে, এটা যাচাই করা যাবে না.

শক্তিশালী প্রম্পট:

শুধুমাত্র নিচের রিটার্ন পলিসি ক্লজের উপর ভিত্তি করে উত্তর দিন। যদি এটি উত্সে উপলব্ধ না হয় তবে বলুন "আমি নিশ্চিতভাবে জানি না"। সময়কাল এবং শর্তটি শব্দার্থে উদ্ধৃত করুন, [সূত্র: রিটার্ন-03] আকারে রেফারেন্স দিন। প্রশ্ন: "আমি কি 20 দিন আগে কেনা ব্যক্তিগতকৃত পণ্যটি ফেরত দিতে পারি?"

পার্থক্য: উৎস নির্ভর, রেফারেন্স বাধ্যতামূলক, বানোয়াট নিষেধাজ্ঞা পরিষ্কার; মডেলটি উৎস থেকে সঠিক উত্তর ("14 দিন অতীত এবং ব্যক্তিগতকৃত, ফেরতযোগ্য নয়") তৈরি করে৷

তিনটি মিনি কেস

কেস 1 - হ্যালুসিনেশনের অবসান। প্রচারাভিযানের প্রশ্নে টেলিকম বটের উত্তরের নির্ভুলতা ছিল নো-আরএজি সেটআপে 71%; মডেল কখনও কখনও পুরানো প্রচারাভিযান তৈরি. যখন বর্তমান প্রচারাভিযানের পৃষ্ঠাগুলি RAG-এর সাথে সংযুক্ত ছিল এবং "উৎসটিতে না থাকলে এটি বলবেন না" নিয়মটি যোগ করা হয়েছিল, নির্ভুলতা 96% এ বৃদ্ধি পেয়েছে এবং "ভুল প্রচারের শব্দ" সম্পর্কে অভিযোগ প্রায় শেষ হয়ে গেছে।

কেস 2 - দ্বন্দ্বের মূল্য। একটি ই-কমার্স কোম্পানির নলেজ বেসে, দুটি পৃষ্ঠায় দুটি ভিন্ন শিপিং খরচ লেখা ছিল (একটি বর্তমান, একটি পুরানো ভুলে যাওয়া পৃষ্ঠা)। বটটি এলোমেলোভাবে কাউকে টানছিল এবং কিছু গ্রাহককে ভুল দাম বলেছিল। যখন পুরানো পৃষ্ঠাটি একক সঠিক উত্সের নীতির সাথে সংরক্ষণাগারভুক্ত করা হয়েছিল, তখন অসঙ্গতি অদৃশ্য হয়ে গিয়েছিল। পাঠ: RAG দ্বন্দ্বের সমাধান করে না, এটি দ্বন্দ্বকে যেমন আছে তেমন প্রচার করে।

কেস 3 - "আমি জানি না" লগের মান। একটি ব্যাঙ্কে, বটটি প্রতি মাসে ~4,000 প্রশ্ন "আমি নিশ্চিতভাবে জানি না" বলছিল। যখন এই প্রশ্নগুলিকে গোষ্ঠীভুক্ত করা হয়েছিল, তখন দেখা গিয়েছিল যে 40% ছিল "আন্তর্জাতিক কার্ড ব্যবহার" সম্পর্কে; এটি সম্পর্কে কোন নিবন্ধ ছিল না. যখন প্রাসঙ্গিক আইটেমগুলি যোগ করা হয়, তখন এই প্রশ্নগুলি সমাধান করা হয় এবং সেই বিষয়ে লোকেদের টার্নওভার 55% কমে যায়। যে বটটি বলেছিল যে এটি জানা ছিল না তা উন্নতির জন্য রোড ম্যাপ হয়ে উঠেছে।

সাধারণ ভুল

• উৎস লিঙ্ক ছাড়া উত্তর. RAG ছাড়া, মডেল কংক্রিট তথ্য ফিট; যে কোন কংক্রিট উত্তর উৎসের উপর নির্ভর করতে হবে।
• "আমি জানি না" বিকল্পটি বন্ধ করুন। মডেলকে প্রতিটি প্রশ্নের উত্তর দিতে বাধ্য করা ফিটিং নিশ্চিত করে।
• বিরোধপূর্ণ/পুরনো তথ্য সাফ করা হচ্ছে না। RAG দ্বন্দ্ব ছড়ায়; একটি একক সঠিক উৎস অপরিহার্য।
• টুকরো টুকরো অবহেলা। বড় পিডিএফ রপ্তানি করা সঠিক অ্যাক্সেস ব্যাহত করে; সংক্ষিপ্ত, একক বিষয় নিবন্ধ ব্যবহার করুন.
• উৎস লুকানো. উত্তরটি কিসের উপর ভিত্তি করে তা নির্দেশ না করা যাচাই এবং বিশ্বাসকে দুর্বল করে।

সতর্কতা: RAG সঠিকতা উন্নত করে কিন্তু 100% গ্যারান্টি প্রদান করে না। মডেল কখনও কখনও ক্যাপচার করা অংশের ভুল ব্যাখ্যা করতে পারে। সুতরাং, আর্থিক, আইনগত এবং নিরাপত্তা সংক্রান্ত বিষয়গুলির জন্য মানুষের অনুমোদনের প্রয়োজন হয় এমনকি যদি উত্সটি উদ্ধৃত করা হয়; RAG হ্যালুসিনেশন কমায় কিন্তু দায়িত্ব অপসারণ করে না।

সংক্ষেপে

নলেজ বেস এবং আরএজি হল কল সেন্টার এআই-এর নির্ভুলতার ভিত্তি। RAG মূলত মডেলটিকে মেমরি থেকে উত্তর ফিট করা থেকে এবং শুধুমাত্র বর্তমান উৎসের উপর নির্ভর করে হ্যালুসিনেশন প্রতিরোধ করে। কিন্তু RAG শুধুমাত্র তার জ্ঞানের ভিত্তি হিসাবে ভাল: একটি জ্ঞানের ভিত্তি যা আপ-টু-ডেট, পরিষ্কার, কাঠামোগত, দ্বন্দ্ব-মুক্ত এবং সত্যের একটি একক উৎস থাকা অপরিহার্য। মডেলটিকে বলুন "যদি এটি উত্সে না থাকে তবে আমাকে বলুন আপনি জানেন না", উত্সটি নির্দেশ করুন এবং তার জ্ঞানের ভিত্তি উন্নত করতে বট যে প্রশ্নগুলির উত্তর দিতে পারে না তা ব্যবহার করুন৷ হাই-স্টেকের বিষয়ে উৎস থাকা সত্ত্বেও মানুষের সম্মতি বজায় রাখুন।

আবেদন টাস্ক

আপনার শিল্প থেকে 8টি বাস্তব/বাস্তববাদী গ্রাহক প্রশ্ন এবং 8টি সংশ্লিষ্ট সংক্ষিপ্ত জ্ঞানভিত্তিক নিবন্ধ লিখুন (প্রতিটি নিবন্ধ: প্রশ্ন, সংক্ষিপ্ত উত্তর, শর্ত, তারিখ, ট্যাগ)। তারপর পরীক্ষা করুন যে মডেলটি "আমি জানি না" বলতে পারে কিনা "1) টাইট RAG উত্তর প্রম্পট" প্যাটার্ন ব্যবহার করে এবং একটি প্রশ্ন জিজ্ঞাসা করে, যার মধ্যে একটি জ্ঞানের ভিত্তিতে নেই। অবশেষে, "3) দ্বন্দ্ব এবং ফাঁক স্ক্যানিং" দিয়ে আপনার নিবন্ধগুলি পরীক্ষা করুন।

চেকলিস্ট

• [ ] বট/সহকারী দ্বারা প্রদত্ত প্রতিটি সুনির্দিষ্ট উত্তর বর্তমান জ্ঞানের ভিত্তির উপর নির্ভর করে (RAG এর মাধ্যমে)।
• [ ] আমি মডেলটিকে নির্দেশ দিয়েছিলাম "যদি এটি উত্সে না থাকে তবে আমাকে বলুন আপনি জানেন না" এবং এটি পরীক্ষা করেছি।
• [ ] আমার জ্ঞানের ভিত্তি আপ-টু-ডেট, স্পষ্ট, একক-বিষয়ক নিবন্ধগুলি নিয়ে গঠিত।
• [ ] আমি পরস্পরবিরোধী এবং পুরানো নিবন্ধগুলি পরিষ্কার করেছি; সমস্ত তথ্যের জন্য শুধুমাত্র একটি সঠিক উৎস আছে।
• [ ] উত্তরগুলি দেখায় যে এটি কোন নিবন্ধের উপর ভিত্তি করে (উৎস)।
• [ ] আমি "আমি জানি না" প্রশ্ন সংগ্রহ করি এবং জ্ঞানের ভিত্তি প্রদান করি।