הפקת תשובות מבסיס ידע (מבוא ל-RAG)

רווחים:

• הבנת ההיגיון של דור מבוסס ידע (RAG) ומדוע הוא מפחית הזיות
• היכולת להגיב מהמודל בציטוט, על סמך מסמכי המקור שסופקו בלבד
• יכולת ניהול שאלות שאינן במקור על ידי העברתן בצורה בטוחה, מבלי להמציא שאלות

מודל שפה "יודע" הרבה, אבל הוא לא מכיר את מדיניות ההחזרה של החברה שלך היום, את המחירון הנוכחי שלך או את הסכם המשלוח שלך שהשתנה אתמול. גרוע מכך, כשהוא לא יודע, הוא מרבה להמציא את זה וכותב בנימה בטוחה ביותר. זהו פגם קטלני בשירות הלקוחות: המודל אומר "החזרים ניתנים תוך 30 יום" בעוד שהפוליסה שלך עשויה להיות 14 יום. הגישה שסוגרת את הפער הזה נקראת RAG: Retrieval-Augmented Generation, כלומר "הפקה מוגדלת בשליפה".

הרעיון פשוט: המודל עונה על השאלה לא מהזיכרון, אלא ממסמכי המקור הנכונים שהוצבו מולו באותו רגע. ראשית, פיסת המסמך הנכונה הרלוונטית לשאלה היא "שליפה", לאחר מכן המודל "יוצר" את התשובה על סמך אותה חתיכה בלבד. ביחידה זו תבינו את ההיגיון של RAG ותלמדו כיצד לרסן את המודל כך שייצמד רק למקור המאומת שאתם מספקים.

הערה: יחידה זו מלמדת את ההיגיון בעבודה ואת הצד המהיר של RAG. מערכות אוטומטיות לאחזור מסמכים בקנה מידה ארגוני (בסיס נתונים וקטוריים וכו') דורשות התקנה טכנית; המשמעת כאן היא הבסיס למערכת להגיב נכון.

מדוע RAG מפחית הזיות?

הזיה היא כאשר המודל מייצר מידע לא אמיתי כאילו הוא אמיתי. המודל מתוכנת לייצר תגובה שנראית "אפשרית" כאשר הוא רואה פער; לא יודע אם זה נכון או לא. RAG ממלא את החסר הזה: אתה נותן לדגם את הטקסט הרלוונטי בפועל יחד עם השאלה ואומר "תענה רק מכאן". כך הדגם לא "צריך" להתאים.

ישנם שלושה מרכיבים:

• מאגר ידע: טקסטים אמינים כגון שאלות נפוצות, מסמכי מדיניות, מדריכים למוצרים, מחירונים.
• שליפה: מציאת פיסת המסמך המכילה את התשובה לשאלה ומתן אותה לדגם.
• מהדורה מוגבלת: הדגם מגיב עם הצעת מחיר, בהתבסס רק על החלק שסופק.

צעד אחר צעד: תגובה נאמנה למקור

1. הכינו את המקור. מצא את הטקסט עליו תתבסס התגובה (מדיניות, שאלות נפוצות) בפורמט ברור ועדכני.
2. הטמע את המקור בהנחיה. שים את הטקסט בתג כמו <source>.
3. כתוב את כלל הנאמנות. "השתמש רק במידע מהמקור; אל תסטה מהמקור."
4. עשה ציטוט חובה. תן לו/לה לציין על איזה סעיף מבוססת התשובה.
5. זיהוי התנהגות שאינה משאבים. אם התשובה אינה במקור, שיגיד "אין לי את המידע הזה" ויעביר אותו הלאה.
6. לְאַמֵת. אשר את התשובה על ידי השוואתה למשפט המקור שעליו היא מבוססת.

הנחיות הניתנות להעתקה

הנחית תגובה המבוססת על המקור הבסיסי:

תפקיד: אתה עוזר תמיכת לקוחות. ענה על השאלה רק על סמך המידע ב<source>בלוק למטה. אל תוסיף שום מידע שאינו במקור, ניחוש או תשובה מהידע הכללי שלך. הוסף את הקטע שאתה מסתמך עליו בסוף התשובה שלך בפורמט "[מקור: ...]". אם התשובה אינה במקור, כתוב את הדברים הבאים: "אין לי מידע סופי בנושא זה, אני מעביר אותך לגורם רשמי שיכול לתת את התשובה הנכונה."<source>{{ policy_or_faq_text }}</source>שאלה: {{ customer_question }}

במקרה של ריבוי מקורות, הנחיה להראות על איזה מסמך הוא מבוסס:

ישנם מספר משאבים הממוספרים למטה. בעת תשובה לשאלה, ציין את מספר המקור בו השתמשת, כגון [מקור 2]. אם יותר ממקור אחד סותר אותך, אמור זאת בבירור וציין כי עליך לשאול איזה מהם מעודכן יותר.<sources>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>שאלה: {{ customer_question }}

הנחיה שמנהלת בבטחה את השאלה שאינה מקור:

אם התשובה לשאלה מצויה באופן חלקי במקור: ענו רק על החלק שמכוסה במקור, ואמור "פרט זה אינו במקור" לגבי החלק הנותר. לעולם אל תמלא את החלק החסר על ידי ניחוש.

הנחיה שמתרגמת את התגובה לשפת הלקוח, אך נשארת נאמנה למקור:

תרגם את הביטוי הרשמי/טכני במקור לשפה פשוטה שהלקוח יכול להבין, אך אל תשנה את המשמעות והערכים המספריים (יום, כמות, תעריף). לדוגמה, עיגול "14 ימים קלנדריים" ל"כשבועיים"; לשמור על ערך מלא.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה

הנחיה עוצמתית

"ספר לנו על מדיניות ההחזרות שלנו"

הטמעת מקור + "השב כאן בלבד" + מבקש הצעת מחיר

תשובה מזיכרון הדגם (אולי שגויה)

תשובה מהמסמך הנוכחי שלך

אם זה לא במקור, הוא ממציא את זה

הוא אומר "אין לי את המידע הזה" ומעביר אותו הלאה.

יכול לעגל ולעוות מספרים

שומר בדיוק על יום/כמות/תעריף

ההבדל הוא שההנחיה החזקה נותנת לדגם עוגן (טקסט מקור) ואיסור (יציאה מהמקור). הדוגמן כבר לא מדבר מהזיכרון, אלא מהמציאות שלפניו.

שלושה מיני מארזים

מקרה 1 - מלכודת המדיניות הישנה. "החזרות מתקבלות תוך 30 יום", אמר הבוט של חנות אחת בזמן שרץ ללא אשראי; עם זאת, החברה צמצמה את התקופה ל-14 ימים. כאשר טקסט המדיניות המעודכן מתווסף למקור בהתקנת RAG, הבוט מגיב כעת "14 ימים קלנדריים [מקור: מדיניות החזרה, מאמר 2]". סכסוכי החזרים הנובעים מהבטחות שווא אופסו.

מקרה 2 - קליטת הסתירה. לקוח שאל לגבי עלויות המשלוח. הן המחירונים הישנים והן המחירונים החדשים הוכנסו למערכת כמקורות. הודות להנחיה מרובת המקורות, המודל אמר, "שני מקורות נותנים מחירים שונים (49 TL ו- 59 TL); אני צריך לאשר את הנוכחי" והעביר את הנושא לאדם. במקום לומר ללקוח סכום שגוי, הוא העביר את אי הוודאות בכנות.

מקרה 3 - משמעת תגובה חלקית. "האם אתה שולח את המוצר לחו"ל ומי משלם את המכס?" בשאלה הגורם רק אמר שהמשלוח בוצע, אין שום דבר על מי שילם את המס. הדגם אמר, "כן, המשלוח מתבצע לחו"ל [מקור: שאלות נפוצות על מטענים]. עם זאת, לא מצוין במסמך זה מי משלם את המכס; אני מעביר אותך לפקיד כדי להבהיר זאת. במקום תשובה חצי אמיתית, חצי מומצאת, היא הפיקה פלט כנה ובטוח.

טיפ: שמור את גרסת מקור האמת העדכנית והיחידה ביותר של בסיס הידע שלך. העובדה שאותו מידע (למשל תקופת החזרה) כתוב בצורה שונה בשלושה מסמכים נפרדים היא האויב הגדול ביותר של RAG; הדגם מגיב אחרת בהתאם לאיזה מהם הוא מסתכל. תחילה בטל כפילות של המסמכים שלך, ולאחר מכן הפוך אותם לאוטומטיים.

אימות: אל תירגע רק בגלל שהמקור קיים

RAG מפחית מאוד את ההזיה אך אינו מאפס אותה. המודל עשוי לפעמים לפרש לא נכון את המקור, לערבב שני משפטים או להסיק "מסקנה" שאינה במקור. לכן דרישת הציטוט היא קריטית: פתחו את הסעיף שעליו טוענת התשובה להתבסס ובדקו האם הוא אכן אומר כך. שליטה זו אינה ניתנת למשא ומתן, במיוחד בתגובות המכילות מספרים (יום, כמות, שיעור) ותנאים (חריג, תנאי).

זהירות: אם המקור עצמו שגוי או מיושן, RAG חוזרת בנאמנות על הטעות הזו. אמירת "המודל מדבר מהמקור" אין פירושו "המודל מדבר נכון"; אתה אחראי למטבע ולדיוק של המקור שלך.

שמירה על מאגר הידע מוכן לתגובה

איכות RAG תלויה במידה רבה באופן כתיבת טקסט המקור. המודל מחזיר תגובה הרבה יותר מדויקת מאשר טקסטים בעלי כותרת יחידה מובנים היטב. עצה מעשית: כתוב את המדיניות שלך בסעיפים קצרים עם כותרת במקום בפסקאות ארוכות ומקוננות; תנו לכל סעיף לענות על שאלה בודדת ("כמה ימים היא תקופת ההחזרה?", "אילו מוצרים לא ניתן להחזיר?"). שמירה על שאלות נפוצות (שאלות נפוצות) בפורמט של שאלות ותשובות מקלה על הדגם למצוא את החלק הנכון. ציינו ערכים כמו תאריך, סכום ושיעור בצורה ברורה ובמקום אחד בתוך הטקסט; כתיבת אותו מספר בצורה שונה בסעיפים שונים מבלבלת את המודל.

הרגל חשוב נוסף הוא לשמור על בסיס הידע בחיים. המדיניות, המחירים והמבצעים משתנים; אם המקור לא מעודכן, המודל ממשיך לחזור בבטחה על האמת הישנה. עם כל שינוי במדיניות, עדכן את המקור ושאל מחדש את המודל מספר שאלות בדיקה לגבי הנושא שהשתנה כדי לאשר שהוא נותן את התשובה הנכונה. תחזוקה קטנה אך קבועה זו מונעת ממערכת RAG "להשתבש בשקט" לאורך זמן.

טעויות נפוצות

• אמירת "הסבר את המדיניות שלנו" מבלי לקבור את המקור ולהסתמך על שינון הדגם.
• לא מגדירים את הגבול של "תשובה ממקור בלבד" והתנהגות שאינה מקור.
• לא מבקש הצעת מחיר/הפניה למקור ומשאיר את התשובה בלתי ניתנת לאימות.
• שמירת גרסאות סותרות של אותו מידע במספר מסמכים במאגר הידע.
• מתן אפשרות למודל לעגל/לפרש ערכים מספריים.
• שוכחים לעדכן את המקור, מה שגורם לדגם לחזור נאמנה על מידע ישן.

לסיכום

• משמעות RAG היא שהמודל מייצר את התשובה שלו ממסמך המקור הנוכחי, ולא מהזיכרון.
• הדרך המעשית ביותר להפחית הזיות: לקבור את המקור, לומר "השב רק כאן", לבקש ציטוט.
• אם התשובה אינה במקור, לא צריך להתאים דגם; הוא צריך להגיד "אין לי את זה" ולמסור אותו.
• הפוך את המודל למודע למקורות סותרים; שמרת את הערכים המספריים בדיוק.
• דיוק RAG תלוי בזמן של המקור שלך; אשר תמיד את הצעת המחיר.

משימת יישום

קח טקסט מדיניות בפועל (החזרה, משלוח או חברות) מהעסק שלך והטמיע אותו כמקור בהנחיית RAG הבסיסית למעלה. לאחר מכן שאל שלוש שאלות: (1) שאלה שתשובתה ברורה במקור, (2) שאלה שתשובתה כלל אינה במקור, (3) שאלה שתשובתה רק חסרה במקור. ודא שהמודל עונה נכון, אומר "אין לי את זה", ומסמן בכנות את התשובה החלקית ואת החסר, בהתאמה. תקן התנהגות סוטה על ידי חיזוק כללי הנאמנות וחוסר המשאבים בהנחיה.

רשימת בדיקה

• [ ] הטבעתי את המקור הנוכחי שעליו תתבסס התגובה בהנחיה.
• [ ] הוספתי את הכלל "רק תשובה מהמקור, אל תעבור מעבר".
• [ ] שמתי הפניה למקור/דרישת ציטוט.
• [ ] הגדרתי התנהגות האצלה אם התשובה אינה זמינה במקור.
• [ ] דרשתי שערכים מספריים ישמרו בדיוק.
• [ ] אישרתי את התשובה ממשפט המקור שעליו היא מבוססת.