מאגר ידע ו-RAG: כיצד בוט וסוכן מוצאים את התשובה הנכונה

רווחים:

• הבן כיצד RAG (פיצול, גישה, יצירת תלוי משאבים) פועל וכיצד הוא מפחית הזיות
• יכולת להגביר את איכות התשובות על ידי הקמת בסיס ידע עדכני, ברור, נטול קונפליקטים ובעל מקור אחד נכון.
• יכולת להדריך את המודל 'אם הוא לא במקור, תגיד לי שאתה לא יודע' ולהפוך את השאלות שהוא לא יכול לענות עליהן לשיפור מאגר הידע

התשובה שהבוט או עוזר הסוכן נותנים טובה רק כמו המידע שעליו הוא מבוסס. כאשר הלקוח שואל "האם הקמפיין ממשיך?", התשובה הנכונה אינה בזיכרון המודל, אלא במאגר הידע הנוכחי של המוסד. זו הסיבה שהלב של הבינה המלאכותית של המוקד הטלפוני הוא בסיס ידע (KB): משאב עדכני שבו מוצרים, מדיניות, שאלות נפוצות, נהלים וכללים נשמרים בכתב. והשיטה שמחברת בצורה מאובטחת את בסיס הידע הזה לבינה מלאכותית נקראת RAG: Retrieval-Augmented Generation - במקום להמציא את התשובה מהזיכרון שלו, המודל מאחזר תחילה את פיסות המידע הרלוונטיות מהמקור (שליפה) ואז מייצר את התשובה על סמך אותם חלקים בלבד (דור).

RAG היא השיטה החזקה ביותר למניעת הזיות. המודל לא מייצר מספר בראש לשאלה "מהי ריבית ההלוואה?" הוא שולף את טקסט העניין הנוכחי ממאגר הידע ועונה על פיו. ביחידה זו נראה כיצד להקים את בסיס הידע, כיצד פועל RAG וכיצד בסיס ידע טוב קובע את איכות התשובות.

איך RAG עובד: ארבעה שלבים

תחשוב על RAG כמו ספרן. הלקוח שואל שאלות; המערכת מוצאת תחילה את הדפים הרלוונטיים מהמדף הימני של הספרייה, ולאחר מכן קוראת את אותם דפים וכותבת את התשובה. השלבים הטכניים הם כדלקמן:

1. חתיכה: מסמכים ארוכים במאגר הידע מחולקים לחתיכות קטנות ומשמעותיות (למשל, כל שאלות נפוצות הן חלק). מכיוון שהמודל עונה על שאלה בצורה מדויקת יותר עם חלקים קטנים קשורים.
2. הטבעה ואינדקס: כל יצירה מתורגמת לצורה מספרית המייצגת את משמעותה (הטבעה - רצף של מספרים המייצגים את משמעות הטקסט) וממוקמת במסד נתונים שניתן לחיפוש. לפיכך, אין מדובר ב"התאמה למילים" אלא ב"התאמה של משמעות"; גם אם הלקוח ישאל "מתי יופקד הכסף שלי?", ייתכן שיימצא החלק של "תקופת ההחזר".
3. שליפה: החלקים הקרובים ביותר במשמעות לשאלת הלקוח נשלפים (למשל 3-5 החלקים הקרובים ביותר).
4. דור: המודל כותב את התשובה על סמך החלקים המצוירים בלבד ומציין את המקור במידת האפשר.

הנקודה הקריטית היא בשלב 4: המודל מקבל הוראה "פשוט להסתמך על החלקים הנתונים, או לומר שאתה לא יודע". ללא הוראה זו, RAG אינו מונע מהדגם להתאים.

רמז: כלל הזהב של RAG: "אם זה לא במקור, אין תשובה". מערכת RAG טובה תגיד "אני לא יודע בוודאות על זה" לשאלה שאינה נמצאת במאגר הידע; אף פעם לא ממלא את הפער בניחושים. היכולת של בוט לומר "אני לא יודע" היא תכונת אבטחה, לא חולשה.

בסיס ידע טוב: המקור האמיתי לאיכות התשובה

לא משנה כמה טוב ה-RAG, אם בסיס הידע גרוע, התשובה היא גרועה. איכות בסיס הידע נמדדת על ידי:

תכונה

בסיס ידע גרוע

בסיס ידע טוב

עכשוויות

לא מעודכן במשך חודשים

עודכן מיד לאחר שינוי

בהירות

טקסט ארוך ומפותל

מאמרים קצרים, חד-נושאים

מבנה

ערימת PDF מבולגנת

חומרים מתכלים מסומנים

עקביות

שתי תשובות סותרות

מקור יחיד של אמת

היקף

יש הרבה פערים

מכסה שאלות נפוצות

בעלות

אף אחד לא אחראי

לכל נושא יש בעלים

הבעיה המסוכנת ביותר בהקשר למוקד הטלפוני היא סתירה: אם ייכתבו שתי תקופות החזרה שונות במאגר הידע, RAG תגיד את מה שצריך ותשובה לא עקבית תישלח ללקוח. לכן עיקרון "מקור האמת היחיד" הוא קריטי: המידע נשמר מעודכן במקום אחד; נעשה שימוש בהפניות למקור זה, לא בהעתקים.

צעד אחר צעד: בניית מערכת תגובה נתמכת RAG

1. נקה את בסיס הידע: הסר מאמרים מיושנים, סותרים, משוכפלים. הפוך כל מאמר קצר ונושא יחיד.
2. חלקו אותו ותייגו אותו: הוסף תג נושא ותאריך עדכון אחרון לכל מאמר.
3. קבע גישה: חבר מנגנון שמושך חלקים רלוונטיים כאשר מתבקש (כלי RAG ארגוניים מספקים זאת).
4. כתוב הנחיה קפדנית: אמור לדגם "הסתמך רק על החלקים שסופקו, ציין את המקור או תגיד שאתה לא יודע".
5. ציטוט את המקור: הצג את המאמר שעליו מבוססת התשובה; זה גם נותן ביטחון וגם מקל על אימות.
6. שימו לב לפערים: אסוף שאלות שבהן הבוט אומר "אני לא יודע"; אלה מראים את הליקויים בבסיס הידע, ניזונים משם.

ארבע תבניות הניתנות להעתקה

1) בקשת תשובה קפדנית של RAG:

תשובה בהתבסס על חלקי [המקור] הבאים. כללים: (1) השתמש רק במידע שבמקור, (2) אם הוא לא במקור, אמור "אין לי מידע ברור על זה, תן לי לחבר אותך לנציג", (3) ציינו על איזה מאמר הוא מבוסס כ-[מקור: פריט-no], (4) ציטוט את הכמות/משך/מצב בדיוק מהמקור, אין לעגל/להמציא. [מקור]: <<pulled parts>>שאלה: "<<שאלת לקוח>>"

2) כתיבת מאמר מאגר ידע:

המר את טקסט המדיניות המפוזר הבא למאמר שאלות נפוצות המתאים ל-RAG. פורמט: שאלה (בשפת הלקוח) / תשובה קצרה (2-3 משפטים) / תנאים (סעיף) / תאריך עדכון אחרון / תג נושא. סמן כל נקודה מעורפלת כ"יש להבהיר", מדומה. טקסט גולמי: <<text>>

3) סריקה לאיתור סתירות ופערים:

בחן את מאמרי מאגר הידע הבאים. (1) סמן את צמדי המאמרים שמתנגשים זה בזה (למשל תקופת החזרה שונה). (2) נחשו את הנושאים שישאלו לעתים קרובות אך אין להם תשובות. תסתכל רק על המאמרים הנתונים; הפקת מדיניות חדשה. מאמרים: <<רשימה>>

4) שיפור מיומן "אני לא יודע":

להלן שאלות שהבוט לא הצליח לענות עליהן (לא הצליח למצוא מקור). קבצו אותם לנושאים והצעו את כותרת המאמר שיש להוסיף למאגר הידע של כל קבוצה. אל תמציא את תוכן התשובה, רק אמור לי איזה פריט חסר.שאלות: <<רשימה>>

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

ענה על שאלת ההחזרה של הלקוח.

אין מקור; הדגם עשוי להתאים מהזיכרון, ייתכן שהכמות/משך שגויה, לא ניתן לאמת אותו.

הנחיה עוצמתית:

תשובה רק על סמך סעיף מדיניות ההחזרה שלהלן. אם זה לא זמין במקור, אמור "אני לא יודע בוודאות". ציטוט את התקופה והתנאי מילה במילה, תנו התייחסות בצורת [מקור: RETURN-03].[מקור: RETURN-03]: "ניתן להחזיר מוצר שלא נעשה בו שימוש תוך 14 יום. מוצרים מותאמים אישית אינם בגדר ההחזרה". שאלה: "האם אני יכול להחזיר את המוצר המותאם אישית שקניתי לפני 20 יום?"

הבדל: תלוי מקור, הפניה חובה, איסור ייצור ברור; המודל מייצר את התשובה הנכונה ("14 ימים עברו ובהתאמה אישית, ללא החזר") מהמקור.

שלושה מיני תיקים

מקרה 1 - סיום ההזיה. דיוק התשובות של בוט טלקום לשאלות מסע הפרסום היה 71% בהגדרה ללא RAG; הדוגמנית המציאה לפעמים קמפיינים ישנים. כשדפי הקמפיין הנוכחיים חוברו ל-RAG והווסף כלל "אל תגיד את זה אם זה לא במקור", הדיוק עלה ל-96% וכמעט הסתיימו תלונות על "מילים שגויות בקמפיין".

מקרה 2 - מחיר הסתירה. במאגר הידע של חברת מסחר אלקטרוני, על שני עמודים נכתבו שתי עלויות משלוח שונות (אחד עדכני, עמוד ישן שנשכח). הבוט משך מישהו באקראי ואמר לחלק מהלקוחות את המחיר הלא נכון. כאשר הדף הישן אוחסן בארכיון עם העיקרון של מקור אחד נכון, חוסר העקביות נעלם. לקח: ר"ג לא פותר את הסתירה, הוא מפיץ את הסתירה כפי שהיא.

מקרה 3 - הערך של היומן "אני לא יודע". בבנק אחד, הבוט אמר "אני לא יודע בוודאות" לכ-4,000 שאלות בחודש. כאשר השאלות הללו קובצו, נראה כי 40% עוסקים ב"שימוש בכרטיס בינלאומי"; לא הייתה כתבה על זה. כאשר נוספו הפריטים הרלוונטיים, השאלות הללו נפתרו והתחלופה לאנשים בנושא זה ירדה ב-55%. העובדה שהבוט אמר שהוא לא יודע הפכה למפת הדרכים לשיפור.

טעויות נפוצות

• עונה ללא קישור למקור. ללא RAG, הדגם מתאים למידע קונקרטי; כל תשובה קונקרטית חייבת להיות תלויה במקור.
• כיבוי האפשרות "אני לא יודע". אילוץ הדגם לענות על כל שאלה מבטיח התאמה.
• לא מנקה מידע סותר/ישן. RAG מפיץ סתירה; מקור אחד נכון חיוני.
• מזניחים לגרוס. ייצוא קובצי PDF גדולים כמו שהוא משבש גישה מדויקת; השתמש במאמרים קצרים ונושא יחיד.
• הסתרת המקור. אי ציון מהי התשובה על סמך מחליש את האימות והאמון.

זהירות: RAG משפר את הדיוק אך אינו מספק אחריות של 100%. המודל יכול לפעמים לפרש לא נכון את החלק שנלכד. לכן, נושאים פיננסיים, משפטיים וביטחוניים דורשים אישור אנושי גם אם המקור צוין; RAG מפחית הזיות אך אינו מסיר אחריות.

לסיכום

בסיס הידע וה-RAG הם הבסיס לדיוק של AI של מרכז טלפוני. RAG מונע במידה רבה הזיות בכך שהוא מונע מהדגם להתאים את התשובה מהזיכרון ולהסתמך רק על המקור הנוכחי. אבל RAG טובה רק כמו בסיס הידע שלה: בסיס ידע שהוא עדכני, ברור, מובנה, נטול קונפליקטים ובעל מקור יחיד של אמת הוא חיוני. אמור למודל "אם הוא לא במקור, תגיד לי שאתה לא יודע", הצבע על המקור והשתמש בשאלות שהבוט לא יכול לענות על מנת לשפר את בסיס הידע שלו. שמור על הסכמה אנושית למרות מקור בנושאים בעלי סיכון גבוה.

משימת יישום

כתוב 8 שאלות אמיתיות/ריאליסטיות של לקוחות מהתעשייה שלך ו-8 מאמרי ידע קצרים תואמים (כל מאמר: שאלה, תשובה קצרה, תנאים, תאריך, תג). לאחר מכן בדוק אם המודל יכול לומר "אני לא יודע" על ידי שימוש בדפוס "1) הנחית תשובה מהודקת RAG" וגם לשאול שאלה, שאחת מהן לא נמצאת במאגר הידע. לבסוף, בדוק את המאמרים שלך עם "3) סתירה וסריקת פערים".

רשימת בדיקה

• [ ] כל תשובה קונקרטית שנותנת הבוט/העוזר תלויה במאגר הידע הנוכחי (באמצעות RAG).
• [ ] הנחיתי את המודל "אם הוא לא במקור, תגיד לי שאתה לא יודע" ובדקתי אותו.
• [ ] מאגר הידע שלי מורכב ממאמרים עדכניים, ברורים, חד-נושאים.
• [ ] ניקיתי את המאמרים הסותרים והישנים; יש רק מקור אחד נכון לכל המידע.
• [ ] התשובות מראות על איזה מאמר הוא מבוסס (מקור).
• [ ] אני אוסף שאלות "אני לא יודע" ומזין את בסיס הידע.