שירותי משתמש, קונסיירז' וצ'אט בוטים

רווחים:

• יכולת לעצב את הבוט היועץ בצורה אחראית כך שהוא יתחבר רק למידע תאגידי מאומת ויספק עובדות על ידי ציטוט המקור.
• יכולת להפנות שאלות רפואיות, משפטיות ורגישות למומחים ולמקורות מהימנים, הימנעות מעצות והעברתן לבני אדם בעת הצורך
• הגנה על פרטיות נתוני הצ'אט ושקיפות למשתמש לגבי השימוש ב-AI

המקום בו הספרייה פוגשת אנשים הוא דלפק המידע. תלמיד מחפש מקורות לשיעורי הבית שלו, אזרח שואל איך לגשת למסמך רשמי, חוקר רוצה ללמוד איך להשתמש במאגר מידע. זה נקרא שירות התייחסות: זה התפקיד להבין את צרכי המידע של המשתמש ולמסור אותו למקור הנכון ולשיטה הנכונה. ביחידה זו תלמדו כיצד להשתמש בצ'אטבוטים מבוססי בינה מלאכותית (תוכנה המסייעת בהתכתבות עם המשתמש) ובייעוץ מבוסס בינה מלאכותית באופן אחראי.

הגדרה אחת: ראיון עיון הוא דיאלוג שבו הספרן שואל שאלות כדי להבהיר את הצורך האמיתי של המשתמש. מכיוון שלרוב המשתמש אינו יכול לבטא באופן מלא את מה שהוא מחפש; מישהו שאומר "משהו על היסטוריה" עשוי בעצם לחפש היבט ספציפי של אירוע ספציפי. העבודה האנושית, האמפטית והשיפוטית הזו נמצאת בלב ליבה של הספרנות, ובינה מלאכותית לא יכולה להשתלט עליה לחלוטין.

צעד אחר צעד: ייעוץ מבוסס בינה מלאכותית

1. הבהירו את הצורך. בין אם מדובר באדם או בבוט, ייעוץ טוב מבין קודם כל את הצורך. ה-AI יכול להציע שאלות הבהרה לשאול את המשתמש; אבל זה תפקידו של האדם לקרוא את ההקשר והרגש של המשתמש.

2. עיין במקור, אל תמציא את התשובה. תפקידו של בוט הספרייה הוא לכוון את המשתמש למשאבים אמיתיים; לא מדובר ביצירת תשובות מתוך ידע כללי. הבוט צריך לומר "תסתכל על מסד הנתונים הזה, האוסף הזה לנושא הזה"; חייב לתת טענות עובדתיות באמצעות ציטוט המקור.

3. הגדר את הגבול. הבוט לא צריך לספק ייעוץ רפואי, משפטי או פיננסי; במקום זאת, עליו להפנות אותך למקורות מהימנים ובמידת הצורך למומחה. נזק חמור ייגרם אם הבינה המלאכותית תיתן "תשובה" רפואית או משפטית שגויה למשתמש.

4. האצל לבני אדם. כאשר הבוט לא מצליח להבין זאת או שהנושא רגיש, עליו להפנות את המשתמש לספרן אמיתי. מערכת טובה יודעת את גבולות הבוט.

5. היו שקופים. המשתמש חייב לדעת שהוא מדבר עם בוט. אסור לספרייה להטעות את המשתמש באמצעות בוט נסתר המתחזה לאדם.

טיפ: הגדר בוט מייעץ כמערכת ציטוט משאבים בהתבסס על מידע האוסף שלך ושאלות נפוצות (שאלות נפוצות). השימוש בבוט כעוזר ש"מוצא לך את המשאב הנכון" במקום "יודע הכל" שומר על אמון ודיוק כאחד.

מגבלות וסיכונים של צ'אטבוט

צ'אטבוט של ספרייה נראה מושך: עובד 24/7, עוזר למספר משתמשים בו זמנית, עונה על שאלות פשוטות במהירות. אבל הסיכונים הם אמיתיים. הבוט עלול להזות ולספר למשתמש משאב לא קיים, זמן אתחול שגוי או הליך שגוי. הבוט עלול לטפל לא נכון בשאלה הרגישה של המשתמש (חשש בריאותי, משבר אישי). ואם הבוט רושם מה המשתמש מקליד, קיים סיכון פרטיות.

לכן, הבוט ממוקם לא כתחליף ליועץ האנושי, אלא כשכבה שמקלה עליו. שאלות פשוטות שחוזרות על עצמן מתקבלות על ידי הבוט; בני אדם מטפלים בשאלות מורכבות, רגישות ודורשות שיפוט.

זהירות: השאלות שמשתמש מקליד בצ'אטבוט עשויות להיות רגישות (בריאותית, משפטית, מצבים אישיים). התיעוד של התכתבות זו צריך להיות מוגן לפרטיות כמו רישומי ההלוואה. אספקת נתוני צ'אט לכלי AI כלליים להדרכה מפרה את אמון המשתמש.

שלושה מיני תיקים

מקרה 1 - הסירה הקלה את העומס. ספריית אוניברסיטה בנתה בוט המבוסס על מידע על אוסף ושאלות נפוצות שעונה על שאלות נפוצות כמו "שעות פתיחה, תקופת השאלה, גישה למסד הנתונים". הבוט טיפל בכ-40% מהשאלות שהגיעו לדלפק המידע; ספרנים יכלו להקדיש זמן רב יותר לשאלות מחקר מורכבות. הבוט תמיד קישור לעמוד הרשמי בתשובותיו.

מקרה 2 - זמן שגוי תוקן. בוט אמר "הספרייה סגורה בימי ראשון" מהזיכרון העולמי שלו; ואילו שווקי הספרייה היו פתוחים. משתמש יתבזבז בגלל זה. הצוות הגדיר מחדש את הבוט להתחבר רק למידע הנוכחי והמאומת של הארגון; השבית את התגובה מהזיכרון הגלובלי.

מקרה 3 - התרחשה העברה לאדם. משתמש שאל את הבוט על חשש בריאותי אישי. במקום לספק ייעוץ רפואי, הבוט הפנה את המשתמשים למקורות מידע בריאותיים אמינים והציע את האפשרות למסור לאדם, ואמר "אתה יכול לדבר עם ספרן אם אתה רוצה". נושא רגיש מטופל נכון.

נגישות והכלה

שירות טוב למשתמש משרת את כולם; זוהי הרחבה ישירה של ערך הגישה השווה של הספרייה. כלי AI נושאים כאן גם הזדמנויות וגם סיכונים. צד ההזדמנות: בינה מלאכותית יכולה לתרגם טקסט מורכב לשפה פשוטה, ליצור תגובות בשפות שונות, להפוך מסמך ארוך לקריאה עבור משתמש לקוי ראייה, או להקל על אינטראקציה עם עוזר קולי. זה מביא משתמשים שבעבר לא נכללו בשירות. צד סיכון: כלי בינה מלאכותית פועלים לרוב טוב יותר בשפות מסוימות ועם פרופילי משתמש מסוימים; בשפה דלת משאבים או ברמת אוריינות אחרת, איכות התגובה עלולה לרדת, ולחזק את אי השוויון. הספרן צריך לבחון באילו קבוצות משתמשים הבוט או כלי הבינה המלאכותי פועלים היטב ובאילו הוא פועל בצורה גרועה, ולעסוק בתמיכה אנושית היכן שהוא חלש. יש לבחון את הפלט של פישוט או תרגום, כמו כל תגובה עובדתית אחרת, כדי לוודא שהוא אינו מעוות את המשמעות; פישוט כוזב יכול להטעות, במיוחד בטקסטים רגישים כמו בריאות, חוק או נוהל ממשלתי.

זהירות: בעת פישוט או תרגום טקסט, ה-AI עשוי לשנות בטעות את המשמעות או להשמיט אזהרה חשובה. יש לבחון גם פלט המופק למטרות נגישות לצורך דיוק; בעוד שאומרים "זה צריך להגיע לכולם", יש להיזהר מהפצת מידע כוזב.

ארבע תבניות הניתנות להעתקה

1) שאלות ראיון ייעוץ:

הצע 3-4 שאלות מנומסות, פתוחות לשאול כדי להבהיר את שאלת המשתמש המעורפלת הבאה (היקף, רמה, מטרה, סוג). אל תניח את כוונת המשתמש. שאלה: [כאן]

2) תגובת בוט המכוונת למקור:

התפקיד שלך: ספריית מידע בוט. להלן שאלת המשתמש ורשימת המשאבים/המדריכים שלנו. בהתבסס על רשימה זו בלבד, כתוב תגובה קצרה ומנומסת שמפנה את המשתמש למשאב המתאים. בעת טענה עובדתית, ציינו את המקור; אם זה לא ברשימה, אמור "תן לי להפנות אותך לספרנית". שאלה: [כאן] / רשימה: [כאן]

3) תגובת מגבלה ומחזור:

האם שאלת המשתמש הבאה מכילה ייעוץ רפואי/משפטי/פיננסי או נושאים אישיים רגישים יותר? אם כן, נסח תגובה שמפנה את המשתמש בנימוס למקור המהימן ולמומחה/ספרן, מבלי לתת עצות. שאלה: [כאן]

4) בדיקת עובדות לתשובות נפוצות:

האם כל מידע עובדתי (זמן, משך, נוהל, מקור) בתגובת הבוט למטה מבוסס על הטקסט הרשמי של שאלות נפוצות/מידע שסיפקתי? סמן כל טענה כ"נוכחת/לא קיימת במקור". תשובה: [כאן] / שאלות נפוצות: [כאן]

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

ענה על השאלה של משתמש זה.

הבוט מייצר תשובות מהזיכרון הכללי שלו; עלול לתת זמן כוזב, מקור כוזב או נוהל לקוי; זה לא מכבד גבולות ותקופות.

הנחיה עוצמתית:

התפקיד שלך: ספריית מידע בוט. הסתמכו אך ורק על המידע המוסדי והמשאבים העדכניים שסיפקתי להלן; אל תמסור מידע מלבד זה. אם מתבקש ייעוץ רפואי/משפטי, פנה למומחה. שמרו על התשובה קצרה ומנומסת, ציינו את המקור לעובדה, ואם אין מידע, אמור "תן לי להפנות אותך לספרנית". שאלת משתמש: [כאן] / מידע ארגון: [כאן]

הנחיה עוצמתית; הוא מחבר את הבוט למידע ארגוני מאומת, מגדיר גבולות ומגדיר את נתיב ההעברה.

טבלת סוגי שאלות מייעצות

סוג שאלה

האם המגף מתאים?

גישה

זמן פתיחה, משך, נוהל

כן

תגובה ממידע מוסד עדכני

ניתוב מקור פשוט

כן

קישור לאיסוף/יצירת קשר

מחקר מורכב

באופן חלקי

להבהיר את הצורך, להעביר אותו לאנשים

רפואי/משפטי/רגיש

לא

יש להפנות למקור מומחה ואמין

טעויות נפוצות

• השארת הבוט להגיב מהזיכרון העולמי. סיכון של מידע מוטעה ומקורות מפוברקים.
• מתן תשובה עניינית ללא ציון מקורות. המשתמש אינו יכול לאמת.
• מתן ייעוץ רפואי/משפטי. גורם לנזק חמור; יש לתת הדרכה.
• לא מבסס את נתיב ההעברה לבני אדם. שאלות מורכבות ורגישות נותרות בלתי פתורות.
• משאירים את נתוני הצ'אט לא מוגנים. תהיה פגיעה בפרטיות.

לסיכום

בשירותי משתמש, AI וצ'אטבוטים משתלטים על שאלות פשוטות שחוזרות על עצמן, ומאפשרות לספרן להתמקד במשימות מורכבות, רגישות ודורשות שיפוט. אבל הבוט צריך להיות בנוי כשכבה שמקלה על הנטל, ולא במקום האדם: עליו להסתמך רק על מידע תאגידי מאומת, לספק עובדות כמקורות, להימנע מייעוץ רפואי/משפטי ולהפנות למומחה, להאציל שאלות רגישות לאדם ולהגן על פרטיות נתוני הצ'אט. שקיפות חיונית: המשתמש חייב לדעת שהוא מדבר עם בוט.

משימת יישום

הכן "רשימה של מידע עדכני + משאבים" קצר עבור המוסד שלך (שעות, כללי הלוואה, כמה מדריכים). צור תשובות לשלוש שאלות שונות של משתמשים עם התבנית "תגובה בוט למקור" ובדקו אם כל עובדה מבוססת על המקור עם "בדיקת עובדות תשובות נפוצות". לבסוף, צור את טקסט ההנחיה הנכון עבור שאלה רגישה עם התבנית "תגובה מגבלה ומחזור".

רשימת בדיקה

• [ ] חיברתי את הבוט רק למידע תאגידי מאומת.
• [ ] ציטטתי מקורות בתשובות עובדתיות.
• [ ] הגדרתי ניתוב והעברת מסרים לשאלות רפואיות/משפטיות/רגישות.
• [ ] הצהרתי בשקיפות שהמשתמש מדבר עם בוט.
• [ ] הגנתי על הפרטיות של נתוני הצ'אט.