רווחים:
- יכולת לאמת תביעה באופן שיטתי באמצעות מקור, אמינות מקור ושלבי בדיקה צולבת עצמאית
- היכולת להבין שבינה מלאכותית עצמה יכולה לייצר מידע שקרי באמצעות הזיות, הטיית נתונים אימון וחנופה, ולהתייחס לתפוקה בחשדנות יתרה
- יכולת בדיקת הטיה על ידי סימון התוצאה עם תווית רמת ביטחון ברורה והערכת אותו אירוע מנקודות מבט שונות
דיפלומטיה עובדת עם מידע, וערך המידע תלוי בדיוק שלו. לתדרוך, עמדת משא ומתן או הצהרה פומבית המבוססת על מידע שגוי יש השלכות שקשה להפוך אותן. זו הסיבה שאחת הכישורים החיוניים ביותר של דיפלומט היא אימות מקור: הערכה שיטתית מהיכן מגיעה הטענה, עד כמה היא אמינה והאם היא אכן נכונה. ביחידה זו תלמדו כיצד לשלב בינה מלאכותית באימות; אבל תלמד איך להשתמש בו תוך כדי זכור שבינה מלאכותית עצמה יכולה להיות מקור למידע מוטעה והטיה.
תחילה נפריד בין שלושת המושגים. מידע שגוי: מידע שגוי התפשט ללא כוונה. דיסאינפורמציה: מידע מוטעה שמופק ומופץ באופן מודע, ממוקד. דעה קדומה: הסטה שיטתית של מידע או הערכה לצד מסוים. דיפלומט חייב להיות ערני לשלושתם, ובינה מלאכותית יכולה להיות גם עזרה וגם סיכון בשלושתם.
שלב אחר שלב: אימות תביעה
1. ציין את התביעה בצורה ברורה. מה בדיוק צריך לאמת? תמצית את זה לטענה אחת וברורה כמו "מדינה X פרשה מהסכם Y". לא ניתן לאמת טענות מטושטשות.
2. מצא את המוצא שלך. היכן, מתי ועל ידי מי הועלתה טענה זו לראשונה? רוב המידע השגוי מקורו במקור מפוקפק יחיד והוא מוגבר. חזור למקור.
3. העריכו את מהימנות המקור. האם המקור רשמי, עצמאי או מוטה? האם הוא סיפק מידע מדויק בעבר? האם יש לו אינטרס מובהק בזה? אפילו מקור אמין יכול לטעות; אבל מקור בעל אמינות נמוכה דורש אישור נוסף.
4. הצלבה. אשר את הטענה עם לפחות שני מקורות בלתי תלויים ומהימנים. 50 אתרים המוזנים על ידי אותה סוכנות ידיעות אינם מקורות עצמאיים.
5. בדוק עקביות והקשר פנימיים. האם הטענה עקבית פנימית? האם זה סותר עובדות ידועות? הוצא מהקשרו? משפט אמיתי יכול להטעות בהקשר הלא נכון.
6. סמן את התוצאה ברמת הביטחון. תן תווית ברורה כגון "מאומת", "אומת חלקית", "מקור יחיד", "לא ניתן היה לאמת", "שקר". אפילו "אני לא בטוח" זו מסקנה וצריך לומר אותה בכנות.
טיפ: ככל שתביעה מהדהדת או מעוררת תגובה רגשית, כך עליך להקפיד יותר באימותה. דיסאינפורמציה מכוונת לעצם הרגש של כעס, פחד או "החדשות שאנחנו רוצים". מידע שמנחה אותך לנקוט בפעולה מהירה הוא לעתים קרובות המידע שדורש הכי הרבה אימות.
AI עצמו הוא מקור לסיכון
האזהרה החשובה ביותר של יחידה זו: AI אינה סמכות אימות; זה בעצמו יכול ליצור מידע מוטעה והטיה. AI יכול להטעות בשלוש דרכים:
1. הזיה: מציג מקור, ציטוט או אירוע לא קיים כאמיתיים. "איזה מקור מאשר את הטענה הזו?" כאשר אתה שואל, הוא עשוי אפילו לתת לך שם מקור מומצא.
2. הטיית נתוני אימון: ה-AI משקף את הפרספקטיבה השלטת בטקסטים עליהם הוא מאומן. אם ההשקפה של חלק אחד של העולם בנושא מסוים שולטת בנתונים, בינה מלאכותית יכולה להתנדנד כך. זה לא מכוון, אלא שיקוף של הנתונים - אבל התוצאה היא עדיין פלט מוטה.
3. סיקופנטי: AI עשויה להשיב על השאלה בצורה שתמצא חן בעיניך. אם אתה רוצה לאמת טענה, היא נוטה לייצר תשובה שתומכת בה.
אז השתמש ב-AI ככלי לאימות (עריכת מקורות, סימון התנגשויות, עזרה במעקב אחר מוצא), אבל לעולם אל תקח את ה-AI האומר "זה נכון" כמילה האחרונה.
זהירות: כאשר יש לך את הבינה המלאכותית לאמת מקור, בדוק אם הבינה המלאכותית מראה לך מקור אמיתי או מייצרת בדיה סביר למראה. אל תחשבו שזה "מאומת" עד שתפתחו באופן עצמאי ותראו כל שם מקור, קישור וציטוט שהוא נותן. מקור שרקח בינה מלאכותית עשוי להיראות משכנע יותר ממקור אמיתי.
שלושה מיני תיקים
מקרה 1 - אימות המקור נשמר. צילום מסך של "הודעה רשמית" ירד על השולחן וזה נראה אמיתי. אימות הראה כי לא הייתה הצהרה כזו בערוצים הרשמיים של אותו מוסד; התמונה הייתה מזויפת. בדיקת מוצא מנעה הצהרה מזויפת להיכנס לתדריך.
מקרה 2 - מקור מפוברק בינה מלאכותית. מומחה ביקש מה-AI לאמת סטטיסטיקה. YZ ציטט מקור באומרו "לפי דו"ח 2023 של ארגון זה..." הוא התקשר למקור המומחה: לא היה דיווח כזה ולא נתון כזה; ה-AI הכין את שניהם. בדיקה עצמאית תפסה "אישור" מפוברק.
מקרה 3 - קיזוז הטיה. מומחה סיכם את הבינה המלאכותית אירוע שנוי במחלוקת ושם לב שהפלט היה קרוב באופן מובהק לנרטיב של צד אחד. כששאלתי שוב "תסכם את אותו אירוע מנקודת מבטו של הצד השני", עלתה תמונה שונה מאוד. השוואת שתי התוצאות מנעה הכנסת מסגרת חד-צדדית לדוח.
ארבע תבניות הניתנות להעתקה
1) פרוטוקול אימות תביעה:
תפקידך: אנליסט אימות. לטענה הבאה: (1) צמצם את הטענה למשפט Nettek, (2) מצא היכן/מתי היא מוזכרת לראשונה במקורות שנתתי, (3) כמה מקורות עצמאיים תומכים בה, (4) האם יש מקורות סותרים, (5) סמן את התוצאה באחת מהתגים הבאים: מאומת / מקור יחיד / סותר / לא מאומת. ייצור מקור; פשוט תשתמש במה שאני נותן לך. תביעה+מקורות: [כאן]
2) בדיקת הטיית AI:
ראשית, סכם את האירוע הבא בצורה אובייקטיבית ככל האפשר. לאחר מכן תסכם את אותו אירוע בנפרד (א) מנקודת מבטו של צד א', (ב) מנקודת מבטו של צד ב'. רשום את ההבדלים בין שלוש הגרסאות. לפיכך, ניתן לראות אילו נקודות הן פרשנות הצדדים ומהן העובדות המשותפות. מקרה/מקורות: [כאן]
3) הערכת מהימנות המקור:
הערך עבור המקור הבא: סוג (רשמי/עצמאי/משוחד/אנונימי), עניין פוטנציאלי בעניין, מידע שניתן על אמינות העבר, שלבים נוספים הנדרשים לאימות. כתוב גם מדוע המקור עשוי להיות שגוי. מקור: [כאן]
4) דגלים אדומים של דיסאינפורמציה:
סרוק את התוכן למטה לאיתור דיסאינפורמציה. חפשו את הדגלים האלה: סטטיסטיקה ללא מקור, שפה מעוררת רגשות, תמונות ללא הקשר, לחץ "מהר/שתף", מילת סמכות בלתי ניתנת לאימות, הפצה מתואמת בו-זמנית. סמן כל ממצא בהצדקה. אל תעשה שיפוט סופי. תוכן: [כאן]
הנחיה חלשה / הנחיה חזקה
הנחיה חלשה:
האם טענה זו נכונה? חפש באינטרנט ותודיע לי.
AI שאומר "נכון" אינו אימות; הוא עשוי לתת מקורות כוזבים או להפיק תשובה מוטה או מחמיאה.
הנחיה עוצמתית:
תפקידך: אנליסט אימות. להלן טענה והמקורות שאספתי. אל תגיד לי "נכון/לא נכון"; במקום זאת: הראה את מקור הטענה, מספר המקורות העצמאיים, סתירות כלשהן ורמת האמון. אל תחרוג מהמקורות שנתתי, אל תמציא מקורות. אם אינך בטוח, סמן זאת כ"דורש אימות אנושי". תביעה+מקורות: [כאן]
ההבדל ברור: דרישת מקור, אישור עצמאי ורמת אמון ולא שיקול דעת "נכון/שקר" מגבילה את הסיכונים של AI.
טבלת סטטוסי אימות
תווית
משמעות
שימוש בדוח
מאומת
לפחות 2 מקורות מהימנים בלתי תלויים
יכול לשמש כמארז
אושר חלקית
חלקם אישרו
מוגבל, עם הסבר
מקור יחיד
רק מקור אחד
כ"תביעה", נדרש אישור
סותרים
המקורות אינם תואמים
מוצג כאי ודאות
לא ניתן לאמת
לא נמצא אישור
לא משמש כעובדה
שגוי
ההיפך הוכח
כתיקון בדוח
טעויות נפוצות
- בהתחשב באמירת הבינה המלאכותית "נכון" כאימות. בינה מלאכותית יכולה להמציא, להטות או לעצבן.
- פתיחת המקור שניתן על ידי AI וקבלתו מבלי לראות אותו. מקורות מפוברקים נראים משכנעים.
- אימות מעט מידע שמתאים לצרכים שלך. מידע רגשי/מתאים הוא המידע שדורש הכי הרבה אישור.
- טעות בשפע העותקים כאישור. מאות אתרים הניזונים מאותו מקור הם מקור יחיד.
- לא בודק הטיה בכלל. סיכום אותו אירוע מנקודות מבט שונות מספק איזון.
לסיכום
אימות מקור הוא הבסיס לידע דיפלומטי, ובינה מלאכותית היא גם עזרה וגם סיכון בעבודה זו. בינה מלאכותית מארגנת מקורות, עוזרת במעקב מוצא וסימון סכסוכים; אבל זה בעצמו יכול ליצור מידע מוטעה עקב הזיות, הטיית נתונים אימון וחנופה. מעקב אחר מקור, בדיקת הצלבה עצמאית, הפרדת אמינות מקור-מידע, תיוג רמת אמון וספק נוסף בתפוקת הבינה המלאכותית הם עמוד השדרה של יחידה זו.
משימת יישום
בחר טענה עדכנית ושנויה במחלוקת ואסוף מקורות מז'אנרים שונים. הערך את התביעה למקור ואימות עצמאי באמצעות "פרוטוקול אימות התביעה". בעזרת "מבחן הטיית AI", סכם את אותו אירוע מנקודות מבט שונות ורשום את ההבדלים. אם ה-AI נותן משאב, פתח אותו באופן עצמאי ובדוק אם הוא באמת קיים.
רשימת בדיקה
- [ ] צמצמתי את הטענה למשפט אחד ברור וחיפשתי את מקורה.
- [ ] הצלבתי עם לפחות שני מקורות מהימנים בלתי תלויים.
- [ ] אימתתי באופן עצמאי כל מקור שסופק על ידי AI.
- [ ] בדקתי את ההטיה על ידי סיכום אותו אירוע מנקודות מבט שונות.
- [ ] סימנתי את התוצאה בתווית רמת ביטחון ברורה.