דיסאינפורמציה ותוכן סינתטי: עיתונות בעידן הדיפפייק

רווחים:

• יכולת לזהות סוגים, רמזים ודפוסי התפשטות של טקסט סינתטי, תמונות, אודיו ווידאו דיפפייק
• יכולת לנהל חשד לתוכן סינתטי עם מעקב אחר מקור, מטא נתונים, חיפוש הפוך ואימות הקשר ושימוש בבינה מלאכותית ככלי ארגוני בהגנה
• יכולת להבין שכלי זיהוי אינם ראיות סופיות, ששיפוט מגיע למקור, ושחדשות אישור צריכות להיכתב בשפה רגועה ושקופה.

בינה מלאכותית היא לא רק כלי של עיתונאי; זה גם מנוע האיום נגדו. כיום ניתן להפיק תוך דקות טקסט מזויף משכנע, צילומים אמיתיים לכאורה, פרצופים של אנשים שאינם קיימים וקולות המשמיעים משפטים שמישהו מעולם לא אמר. אלה נקראים ביחד תוכן סינתטי (מדיה שהופקה באופן מלאכותי); סוג הווידאו/שמע המחקה באופן ריאלי את פניו או קולו של אדם נקרא Deepfake. דיסאינפורמציה - הפצת מידע כוזב בכוונה - הפכה זולה יותר ומהירה יותר באמצעות הכלים הללו. חובתו של העיתונאי הוכפלה: הן למנוע פרסום תוכן זה והן ליידע את הציבור על האיום הזה. ביחידה זו אנו מכסים את השימוש בבינה מלאכותית כדי להבין את האיום ולהגן מפניו. עקרון בסיסי: שום כלי זיהוי אינו ראיה חותכת; חשד לתוכן סינתטי נפתר על ידי אימות קלאסי שיורד למקור ולהקשר.

סוגים וטיפים של תוכן סינתטי

טקסט. בינה מלאכותית יכולה לייצר טקסטים רהוטים אך ריקים, מלאי הכללה, מורכבים; "אתרי חדשות" מזויפים וצבאות הערות משגשגים על כך. רמז: מקורות בלתי ניתנים לאימות, הצהרות כלליות מדי, מסגור חד צדדי מתמשך.

חָזוּתִי. בתמונות מלאכותיות, ידיים/אצבעות, שיניים, אוזניים, תכשיטים, טקסט רקע והשתקפויות אינם עקביים; אבל הטכנולוגיה משתפרת במהירות, אז "אני יכול לדעת על ידי הסתכלות על זה במו עיניי" הוא אמון מסוכן.

קוֹל. ניתן להפיק משפטים שלא נאמרו על ידי קולו של פקיד. טיפ: טבעיות לנשום/להשהות, עקביות של צליל הסביבה, אבל הבדיקה האמינה ביותר היא לאמת את מקור התוכן.

וידאו (דיפפייק). חוסר התאמה של פנים וצוואר/אור, מצמוץ עיניים, סנכרון קול שפתיים עשויים להיות רמזים; עם זאת, זה לא בטוח.

שימו לב: "כלי זיהוי AI אומר ש-90% מזויפים" אינו סיבה לפרסום. הכלים האלה שגויים; הוא יכול לקרוא למזויף האמיתי ולמזוייף אמיתי. הפלט של הכלי הוא רמז; פסק הדין מסתכם במקור.

שלב אחר שלב: ניהול חשד למרכיבים סינתטיים

שלב 1 - מצא את המקור. מי פרסם את התוכן ראשון, היכן ומתי? ירידה למקור המקורי לבדה תבטל את רוב הזיופים.

שלב 2 - הסתכל על מטא נתונים וחיפוש הפוך. מטא נתונים וחיפוש תמונות הפוך בתמונה/סרטון עשויים לחשוף גרסה קודמת או מקור.

שלב 3 - בדוק עקביות פנימית. האם האור, הצל, ההשתקפות, צליל הסביבה, הרמזים בעולם האמיתי (שילוט, מזג אוויר, ארכיטקטורה) תואמים את הטענה?

שלב 4 - אמת את ההקשר. האם האירוע בתוכן נצפה על ידי מקורות בלתי תלויים אחרים? יש הרבה עקבות לאירוע אמיתי; תוכן "פצצה" של מקור יחיד מוטל בספק.

שלב 5 - השתמש בכלי זיהוי כרמזים. ספור את הפלט של כלי זיהוי AI כאות עזר, לא עדות.

שלב 6 - דווח בשקיפות. אם אתה מפרסם את זה (כבדיקת עובדות), הראה מה מזויף/חשוד, למה ואיך אימתת את זה.

שימוש בבינה מלאכותית בהגנה

AI הוא גם כלי ארגוני נגד תוכן סינתטי: הוא מפרט מה לחפש בתמונה, מפרט סימנים לכך שטקסט עשוי להיות AI, עוזר לנתח את הנרטיב של קמפיין דיסאינפורמציה, מנסח בדיקת עובדות מסבירה לציבור. אבל הקביעה עצמה - פסק הדין "זה מזויף" - נעשית על ידי שיקול דעת אנושי ואימות מקור.

שלושה מיני תיקים

מקרה 1 - הקלטת קול מזויפת. הופצה הקלטת שמע של "מתפטר" רשמי. הכתב חיפש תחילה את המקור: ההקלטה הגיעה מחשבון אנונימי בודד, לא היה לה זכר בשום מקום אחר. הצוות של הפקיד דחה את ההקלטה; גם צליל הסביבה לא היה עקבי. הכתב לא פרסם את ההקלטה, אלא דיווח על "הקלטת אודיו בלתי ניתנת לאימות". מאוחר יותר התברר שההקלטה הייתה סינתטית.

מקרה 2 - לחץ זמן ורפלקס העצירה. התמונה של "בניין שקרס" לאחר רעידת אדמה התפשטה במהירות. הכתב ערך חיפוש תמונות הפוך: התמונה הייתה מאירוע אחר לפני שנתיים. הבדיקה של 4 דקות מנעה כניסת תמונה שגויה לאתר החדשות; כמה אתרים מתחרים פרסמו את זה בלי לבדוק ופרסמו הכחשה.

מקרה 3 - ביטחון יתר בכלי הזיהוי. עורך הכניס תמונה של כתב אמיתי לכלי איתור; הרכב הוא "78% מלאכותי", אמר. העורך עמד למשוך אותו מפרסום; כשבודק עובדות בכיר הראה את המטא-נתונים של הצילום ואת הקובץ הגולמי של הכתב, התברר שהתמונה אמיתית. לקח: המדיום שוגה, המקור מדבר.

תבניות הניתנות להעתקה

1) רשימת תיוג סינתטיות חזותית:

אני חושד שתמונה עשויה להיות מופקת באופן מלאכותי. הכינו רשימת בדיקה של דברים שעליי לבדוק: ידיים/אצבעות, שיניים, תכשיטים, טקסט רקע, השתקפויות, עקביות של אור-צל, חיפוש הפוך, מטא נתונים. רשום כיצד לחפש כל פריט. אל תגיד "מזוייף/אמיתי" בוודאות; רק רשימת בדיקה. תיאור חזותי: [כאן]

2) ניתוח נרטיב הדיסאינפורמציה:

הטענה הבאה עשויה להיות מסע דיסאינפורמציה. הסיק: (1) לאיזה רגש הוא מכוון, (2) לאיזה חלוקה הוא מגביר, (3) רכיבים ניתנים לאימות/בלתי ניתנים לאימות, (4) מה עשוי להיות דפוס ההתפשטות האופייני. עשיית משפט צדק; לְנַתֵחַ. תביעה: [כאן]

3) טיוטת חדשות לאישור לציבור:

וידאתי עם מקורות ראשיים שהתוכן הבא הוא סינתטי/מטעה: [סיכום ממצאים]. כתוב טיוטה של ​​סיפור אישור שמיידע את הקורא, אינו מפיץ בהלה ומראה בשקיפות כיצד אימתתי. אל תכלול ממצאים שלא סיפקתי. ממצאים: [כאן]

4) סימני AI (רמז) של הטקסט:

רשום רמזים לכך שהטקסט הבא עשוי להיות מופק באופן מלאכותי: מקורות בלתי ניתנים לאימות, כלליות יתר, מסגור חד צדדי, דפוסים שחוזרים על עצמם. הדגישו שלא מדובר בראיה חותכת ורשמו אילו אימותים עובדתיים יש לבצע. טקסט: [כאן]

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה: "תגיד לי אם התמונה הזו מזויפת."

תוצאה: AI נותן "כן/לא" מדויק למראה אך לא אמין; העיתונאי עלול להסתמך על פסיקה זו ולטעות.

הנחיה חזקה: "ערוך רשימה של סימנים שהייתי בודק שתמונה זו עשויה להיות מלאכותית, ורשום איך הייתי מחפש כל אחד מהם. אל תעשה שום שיפוט סופי; ציין שהאימות האמיתי הוא לחזור למקור ולבצע חיפוש הפוך".

ההבדל: הנחיה עוצמתית מפחיתה את ה-AI למחולל רמזים, משאירה את השיפוט למקור ולעיתונאי, מה שהופך את מרווח השגיאה של הכלי לגלוי.

טבלת השוואה

סוג תוכן

רמזים חלשים

השליטה האמינה ביותר

תפקיד של AI

טקסט

מקור כללי, מומצא

לרדת למקור

רשימת שלטים

ויזואלי

אי התאמה ביד/שיניים/כתיבה

חיפוש הפוך + מטא נתונים

רשימת בדיקה

צליל

חוסר עקביות בנשימה/סביבה

אישור מקור והקשר

מה לחפש

סרטון (דיפפייק)

אי התאמה של אור/סנכרון

מקור מקורי, אושר צולב

עזרה בניתוח

טעויות נפוצות

• התייחסות לכלי האיתור כראיה. הפיכת אחוז הרכב לסיבת הפרסום; כלים טועים בשני הכיוונים.
• "אני יכול לדעת על פי מראה" ביטחון עצמי. חזותיים סינתטיים משתפרים במהירות; אינטואיציה חזותית לבדה אינה מספיקה.
• לא הולך למקור. רוב הזיופים קורסים כאשר המקור המקורי שפרסם אותם נמצא; דילוג על שלב זה הוא טעות.
• הפצת החשוד. שיתוף תוכן חשוד האומר "בואו נראה אם ​​זה נכון או לא" משרת דיסאינפורמציה.
• שפה של פאניקה. הטון המדאיג בחדשות האישור מפיץ פחד חדש תוך תיקון; כתוב ברוגע ושקוף.

מהירות הדיפוזיה ו"מלכודת ההכחשה"

הכוח האמיתי של דיסאינפורמציה הוא לא בתוכן עצמו, אלא במהירות שבה הוא מתפשט. תוכן פרובוקטיבי רגשית שמעורר כעס או פחד משותף הרבה יותר מהר מאשר חדשות מאומתות; בעוד שתוכן מזויף מגיע למיליונים בתוך שעות, הסריקה מגיעה לרוב להרבה פחות אנשים. האסימטריה הזו מטילה אחריות מיוחדת על העיתונאי: שיתוף תוכן מפוקפק, אפילו באמירת "תראה כמה מגוחך", נותן לו גישה. זה נקרא חמצון - חזרה על שקר כדי להפריך אותו למעשה מתדלק אותו.

הנגד לכך הוא טכניקת "כריך האמת" בבדיקת עובדות: אמור את האמת לפני שתחזור על הטענה השקרית, ואז הראה מדוע הטענה שקרית, ואז חזור על האמת שוב בסוף. בדרך זו, מה שנשאר במוחו של הקורא אינו הטעות, אלא האמת. AI יכול לעזור לנסח סיפור בדיקת עובדות לפי המבנה הזה; אבל זו החלטת העריכה איזו אמת להעלות ולהודיע ​​לשפה מבלי להפיץ פאניקה. תרגול נוסף: לשאול איזה פער ממלא דיסאינפורמציה? לעתים קרובות אנשים מאמצים תוכן מזויף בשל היעדר מידע אמין; מילוי הפער הזה בחדשות מהירות, מדויקות ונגישות היא הגנה יעילה יותר מאשר לרדוף אחרי שקרים אחד אחד.

לסיכום

תוכן סינתטי וזיופים עמוקים הוזילו והאיצו את דיסאינפורמציה; חובתו של העיתונאי היא לא לפרסם זאת וליידע את הציבור. כלי זיהוי ובינה מלאכותית מספקים רמזים וארגון - אך לא הוכחה מוחלטת. השיפוט נעשה על ידי מעבר למקור, מטא נתונים וחיפוש הפוך, עקביות פנימית והקשר עצמאי. חדשות האישור כתובות בשפה רגועה ושקופה המראה כיצד אומתו.

משימת יישום

מצא תוכן חזותי או אודיו שאתה חושב שהוא חשוד. עקוב אחר ההנחיה "רשימת תיוג סינתטיות חזותית" (או התאמה לשמע); באמת לבדוק כל פריט ולהפוך את החיפוש. דרג את התוצאה כ"ראיה אמיתית/מזויפת/לא מספקת" והשוו אותה להחלטה שהייתם מקבלים אם הייתם מסתמכים רק על כלי האיתור.

רשימת בדיקה

• [ ] אני מחשיב את הפלט של כלי הזיהוי כרמזים, לא ראיות.
• [ ] לכל תוכן מפוקפק, אני מחפש תחילה את המקור המקורי ואת הפרסום הראשון.
• [ ] אני מקפיד לבצע חיפוש הפוך ולבדוק מטא נתונים בתמונות.
• [ ] אני לא מפיץ תוכן מפוקפק לא מאומת.
• [ ] אני כותב חדשות אישור בשפה רגועה ושקופה שמראה כיצד אימתתי אותן.