הזיה וגבולות האמינות

רווחים:

• יכול להסביר מהי הזיה ומדוע היא מתרחשת
• יכול לקבוע מתי יש לאמת פלט AI
• יכול ליישם טכניקות מעשיות שמגבירות את האמינות

אולי הנושא הקריטי ביותר של אוריינות בינה מלאכותית הוא ביחידה זו: יצירת מודל, כלומר הזיה. הבנת המונח הזה היא אמצעי הזהירות הבסיסי ביותר עבור כל מי שמשתמש בבינה מלאכותית. מכיוון שמשתמש שאינו מזהה את ההזיה עלול לטעות במידע שקרי כנכון ולהעבירו להחלטה עסקית, לתקשורת לקוח או למסמך רשמי. ביחידה זו תלמדו מהי הזיה, מדוע היא בלתי נמנעת וכיצד ניתן להתגונן מפניה.

מהי הזיה?

הזיה היא כאשר מודל שפה מייצר מידע שאינו קיים בפועל בשפה שוטפת ובטוחה, ממש כאילו הוא נכון. המודל לא מתכוון לשקר; בהפקת רק את "ההמשך הסביר ביותר", הוא יוצר טקסט שנראה סביר אך למעשה הוא שקרי.

דוגמה: אם אומרים למודל "המליץ על מקור אקדמי בנושא הכל מופיע בפורמט הנכון ומשכנע; אבל המקור דמיוני לחלוטין. זו דוגמה קלאסית להזיה.

למה זה קורה? (זכור את היחידה השנייה)

מקור ההזיה נעוץ בעיקרון העבודה של המודל. המודל אינו "אנציקלופדיה של עובדות"; זוהי "מכונת הסתברות". תפקידו לייצר את ההמשך החלק ביותר האפשרי לשאלתך; לא מדובר בהבאת המידע המדויק ביותר. דגם:

• הוא לא יודע מה שהוא לא יודע; כשהוא מתמודד עם ריק, הוא נוטה למלא תשובה אפשרית במקום לומר "אני לא יודע".
• אין לה מנגנון לשלוט במציאות; הוא לא בודק אם הטקסט שהוא מייצר תואם את העולם.
• שטף ודיוק הם שני דברים שונים עבורו; זה שהוא שוטף לא אומר שזה נכון.

זהירות: הזיה אינה "תקלה"; זוהי תכונה אינהרנטית של הטכנולוגיה. דגמים חדשים מפחיתים זאת אך אינם יכולים לבטל זאת לחלוטין. לכן, במקום לחכות ל"מודל לא-הזיה", יש צורך ללמוד לחיות עם הזיה.

איפה הסיכון להזיות גבוה?

לא כל תוצאה מסוכנת באותה מידה. הסיכון עולה כאשר:

סיכון גבוה

סיכון נמוך

נתונים מדויקים, תאריכים, סטטיסטיקות

יצירת רעיונות כלליים, סיעור מוחות

בקשת מקורות, ציטוטים, הפניות

שנה את הטון של טקסט

נישה, נושאים מיוחדים

נושאים נפוצים, כלליים

אירועים ואנשים אקטואליים

סכם את הטקסט שלך

מידע פנימי ספציפי לחברה שלך

תיקון דקדוק

שלושה מיני מארזים

מקרה 1 - דמות מזויפת נכנסה למצגת. עובד ביקש מבינה מלאכותית את "קצב צמיחת המסחר האלקטרוני 2023 ומקור בטורקיה" עבור דו"ח התעשייה. המודל החזיר אחוז משכנע (48%) ושם מוסד. העובד הכניס אותו למצגת מבלי לאמת זאת; כאשר התברר בפגישה כי הדמות מפוברקת, נפגעו גם המצגת וגם המוניטין של החברה. אם אותו עובד היה מקבל את הנתון מהגורם הרשמי, לא הייתה בעיה.

מקרה 2 - דבר חקיקה לא קיים. עוזר ביקש מה-AI את "סעיף החוק הרלוונטי" לעתירה. הדגם ייצר מספר פריט וטקסט בעלי מראה ריאליסטי; אבל הפריט הזה לא היה שם. למרבה המזל, המחלקה המשפטית הבחינה בכך לפני המסירה. שיעור: ציטוטים משפטיים מאומתים תמיד מהמקור הראשי.

מקרה 3 - שיטה נכונה, תוצאה בטוחה. עובד אחר באותו צוות פשוט ביקש מה-AI לנסח את הדוח, להזין את כל המספרים בעצמו מנתונים רשמיים ולהורות לו "לא להוסיף נתונים שאינם בטקסט הזה". התוצאה הייתה מהירה ומדויקת כאחד. הבדל: בינה מלאכותית כתבה טיוטה, עובדות מוזנות על ידי אדם.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה: תן את 3 המקורות האקדמיים החשובים ביותר בנושא זה עם המחבר והשנה.

תוצאה: המודל יכול להתאים בבטחה למקורות שאינם קיימים.

הנחיה עוצמתית: כתוב תקציר המבוסס על הטקסט שהדבקתי למטה. השתמש רק במידע שבטקסט זה. אין להוסיף שמות, מספרים או מקורות שאינם בטקסט. אם אינך בטוח, כתוב "לא צוין בטקסט".<text>[הדבק כאן]</text>

תוצאה: מכיוון שהדגם מקבל ממך את המקור, חלל ההתאמה נעשה צר יותר.

טכניקות מעשיות שמגבירות את האמינות

סמן כל טענה ניתנת לאימות בתשובתך (מספר, תאריך, שם, מקור) והכנס אותן לרשימת "חייבים לבדוק" נפרדת.

ענה על השאלה הזו. אם אתה לא בטוח, אל תנחש; אמור "אני לא בטוח" והסביר שאתה לא יודע מה. נושא: [נושא]

ענה על אותה שאלה בשתי דרכים שונות וסמן את הסתירות בין שתי התשובות. אז תן לי לראות אילו נקודות מוטלות בספק. שאלה: [שאלה]

אני אאמת את הטקסט למטה. רשום את הטענות המסוכנות שעלי לבדוק לפי סדר החשיבות והצע היכן אוכל לאמת כל אחת מהן. טקסט: [הדבק כאן]

בנוסף, אמצו את ההרגלים הבאים:

1. אתה מספק את המקור. הדבק את המסמך הרלוונטי לתוך הטקסט ואמר "תשובה על סמך זה בלבד".
2. בדוק תמיד עובדות הניתנות לאימות. אמת מספרים, תאריכים, שמות, ציטוטים ומקורות ממקור בלתי תלוי ואמין.
3. בקשו ממנו לציין שהוא לא בטוח לגבי הדגם. זה מקטין את הסיכון אבל לא מבטל אותו לחלוטין.
4. עבור עבודות בסיכון גבוה, בקש ממומחה לבדוק את הפלט. תפוקות משפטיות, פיננסיות ובריאותיות חייבות לעבור דרך המסנן של מומחים אנושיים.
5. השתמש ב-AI כ"נקודת התחלה", לא כ"מילה אחרונה". הטיוטה היא ממנו; האימות וההחלטה הם שלך.

זהירות: "המודל אמר את זה פעמיים, אז זה נכון" ההיגיון שגוי. יכול לחזור על אותה טעות בביטחון. חזרה אינה עדות לדיוק.

טעויות נפוצות

טעויות נפוצות

• שימוש במקורות מבלי לאמת אותם. הוא יכול ליצור ספרי מודל, מאמרים, מאמרי חוק וקישורים; יש לאשר כל התייחסות.
• טועה בטון הבטוח לדיוק. הדבר המסוכן ביותר בהזיה הוא דווקא שהיא נראית בטוחה בעצמה.
• מספיק שהדגם יגיד "אתה מאמת". אימות עצמי של המודל אינו אימות עצמאי.
• שימוש בפלט בסיכון גבוה מבלי להראות אותו למומחה. שליטה אנושית חיונית בכסף, בחוק ובבריאות.

לסיכום

• הזיה היא כאשר המודל מייצר מידע לא קיים באופן שוטף ובטוח כאילו הוא נכון.
• הסיבה אינה תקלה, אלא אופיו של ניבוי ההסתברות של המודל; לא ניתן לבטל לחלוטין.
• הסיכון גבוה במיוחד כשמדובר בנתונים מדויקים, מקורות, מידע עדכני ונושאי נישה.
• כדי להגן על עצמך: תן את המקור, ודא את העובדות, אמור "אם אתה לא בטוח, תגיד לי", בדוק פלט בסיכון גבוה על ידי מומחה.
• השתמש ב-AI כנקודת התחלה; האימות והאחריות האולטימטיביים תמיד נשארים איתך.

משימת יישום

אמור לכלי הבינה המלאכותית שלך "להציע 3 מקורות אקדמיים" בנושא שדורש מומחיות ונסה לאשר את המקורות שהוא מציע באינטרנט; שימו לב כמה הם אמיתיים. לאחר מכן חזור על אותה משימה בשיטת "אתה נותן את המקור" וצפה בהבדל.

רשימת תיוג

• [ ] אני יכול להסביר מהי הזיה ומדוע היא מתרחשת.
• [ ] אני יכול להבחין בין משימות בסיכון להזיות גבוהות ונמוכות.
• [ ] אני יכול להפחית את הסיכון של ייצור על ידי מתן המקור לדגם.
• [ ] אני מאמת באופן עצמאי את המספרים, התאריכים, השמות והמקורות.
• [ ] אני לא מחשיב את הטון הבטוח כהוכחה לדיוק.