سود:
- توانایی تشخیص انواع، سرنخ ها و الگوهای انتشار متن مصنوعی، تصاویر، صدا و ویدئوی دیپ جعلی
- امکان مدیریت سوء ظن محتوای مصنوعی با ردیابی منبع، ابرداده، جستجوی معکوس و تأیید زمینه و استفاده از هوش مصنوعی به عنوان ابزار سازمانی در دفاع
- توانایی درک اینکه ابزارهای تشخیص شواهد قطعی نیستند، قضاوت به منبع می رسد و اخبار تأیید باید به زبانی آرام و شفاف نوشته شود.
هوش مصنوعی فقط ابزار روزنامه نگار نیست. همچنین موتور تهدید علیه آن است. امروزه متن های جعلی متقاعد کننده، عکس های به ظاهر واقعی، چهره های افراد ناموجود و صداهایی که جملاتی را بیان می کنند را می توان در چند دقیقه تولید کرد. اینها در مجموع محتوای مصنوعی (رسانه های تولید شده مصنوعی) نامیده می شوند. به نوع ویدیو/صوتی که به طور واقعی از چهره یا صدای یک فرد تقلید می کند، دیپ فیک می گویند. اطلاعات نادرست – انتشار عمدی اطلاعات نادرست – از طریق این ابزارها هم ارزانتر و هم سریعتر شده است. وظیفه خبرنگار دوچندان شده است: هم جلوگیری از انتشار این محتوا و هم اطلاع رسانی به مردم از این تهدید. در این واحد، استفاده از هوش مصنوعی را برای درک تهدید و دفاع در برابر آن پوشش می دهیم. اصل اساسی: هیچ ابزار تشخیصی شواهد قطعی نیست. سوء ظن محتوای مصنوعی با تأیید کلاسیک که به منبع و زمینه مربوط می شود برطرف می شود.
انواع و نکات محتوای مصنوعی
متن هوش مصنوعی میتواند متنهای روان اما خالی، پر از تعمیم و ساختگی تولید کند. "سایت های خبری" جعلی و ارتش های نظرات در این زمینه رشد می کنند. نکته: منابع غیرقابل تأیید، اظهارات بیش از حد کلی، کادربندی مداوم یک طرفه.
بصری. در تصاویر مصنوعی، دست ها/انگشت ها، دندان ها، گوش ها، جواهرات، متن پس زمینه و بازتاب ها اغلب ناسازگار هستند. اما فناوری به سرعت در حال پیشرفت است، بنابراین "من می توانم با نگاه کردن به آن بفهمم" اعتماد خطرناکی است.
صدا. جملات ناگفته را می توان با صدای یک مسئول تولید کرد. نکته: طبیعی بودن تنفس/مکث، قوام صدای محیط، اما مطمئن ترین بررسی، تأیید منبع محتوا است.
ویدئو (دیپ جعلی). عدم تطابق صورت و گردن/نور، پلک زدن چشم، همگام سازی لب و صدا ممکن است سرنخ باشد. با این حال، قطعی نیست.
توجه: "ابزار تشخیص هوش مصنوعی می گوید 90٪ جعلی هستند" دلیلی برای انتشار نیست. این ابزارها اشتباه هستند. او می تواند جعلی واقعی و جعلی را واقعی بنامد. خروجی ابزار یک سرنخ است. قضاوت به منبع می رسد.
گام به گام: مدیریت سوء ظن به مواد مصنوعی
مرحله 1 - منبع را پیدا کنید. چه کسی محتوا را اول، کجا و چه زمانی منتشر کرد؟ رفتن به منبع اصلی به تنهایی اکثر تقلبی ها را از بین می برد.
مرحله 2 - به ابرداده نگاه کنید و جستجوی معکوس کنید. فراداده و جستجوی عکس معکوس روی تصویر/فیلم ممکن است نسخه قبلی یا اصلی را نشان دهد.
مرحله 3 - سازگاری داخلی را آزمایش کنید. آیا نور، سایه، انعکاس، صدای محیط، سرنخ های دنیای واقعی پس زمینه (علائم، آب و هوا، معماری) با ادعا مطابقت دارند؟
مرحله 4 - زمینه را بررسی کنید. آیا حادثه در محتوا توسط سایر منابع مستقل دیده شده است؟ آثار زیادی از یک رویداد واقعی وجود دارد. محتوای تک منبع "بمب" مشکوک است.
مرحله 5 - از ابزارهای تشخیص به عنوان سرنخ استفاده کنید. خروجی ابزارهای تشخیص هوش مصنوعی را به عنوان یک سیگنال کمکی بشمارید، نه مدرک.
مرحله 6 - گزارش شفاف اگر آن را منتشر می کنید (به عنوان راستی آزمایی)، نشان دهید که چه چیزی جعلی/مشکوک است، چرا و چگونه آن را تأیید کرده اید.
استفاده از هوش مصنوعی در دفاع
هوش مصنوعی همچنین یک ابزار سازمانی در برابر محتوای مصنوعی است: آنچه را که باید در یک تصویر جستجو کرد، فهرست میکند، نشانههایی را فهرست میکند که ممکن است یک متن توسط هوش مصنوعی تولید شده باشد، به تجزیه روایت یک کمپین اطلاعات نادرست کمک میکند، یک پیشنویس واقعیتسنجی توضیحی برای عموم تهیه میکند. اما خود تعیین - حکم "این جعلی است" - با قضاوت انسانی و تأیید منبع انجام می شود.
سه کیف کوچک
مورد 1 - ضبط صدای جعلی. یک فایل صوتی از «استعفای» یک مقام رسمی پخش شد. خبرنگار ابتدا منبع را جستجو کرد: ضبط از یک حساب کاربری ناشناس منتشر شده بود، هیچ ردی از آن در هیچ جای دیگری وجود نداشت. تیم این مقام ضبط را رد کرد. صدای محیط نیز ناسازگار بود. خبرنگار ضبط را منتشر نکرد، در عوض از یک "ضبط صوتی غیرقابل تایید" گزارش داد. ضبط بعداً مشخص شد که مصنوعی است.
مورد 2 - فشار زمان و رفلکس توقف. عکس «ساختمان فروریخته» پس از زلزله به سرعت پخش شد. خبرنگار یک جستجوی عکس معکوس انجام داد: عکس مربوط به رویداد دیگری 2 سال پیش بود. بررسی 4 دقیقه ای از ورود تصویر نادرست به سایت خبری جلوگیری کرد. چند سایت رقیب بدون بررسی آن را منتشر کردند و تکذیبیه ای منتشر کردند.
مورد 3 - اعتماد بیش از حد به ابزار تشخیص. یک ویرایشگر عکس یک خبرنگار واقعی را در ابزار تشخیص قرار داده است. وی گفت: این خودرو 78 درصد مصنوعی است. سردبیر قصد داشت آن را از انتشار خارج کند. زمانی که یک حقیقتسنجی ارشد فراداده عکسبرداری و فایل خام گزارشگر را نشان داد، مشخص شد که عکس واقعی است. درس: رسانه ها اشتباه می کنند، منبع صحبت می کند.
قالب های قابل کپی
1) چک لیست ترکیبی بصری:
من فکر می کنم ممکن است یک تصویر به طور مصنوعی تولید شده باشد. چک لیستی از چیزهایی که باید آزمایش کنم تهیه کنید: دست ها/انگشت ها، دندان ها، جواهرات، متن پس زمینه، بازتاب ها، ثبات سایه روشن، جستجوی معکوس، ابرداده. نحوه جستجوی هر مورد را بنویسید. مطمئناً «جعلی/واقعی» نگویید. فقط چک لیست توضیحات تصویری: [اینجا]
2) تجزیه و تحلیل روایت اطلاعات نادرست:
ادعای زیر ممکن است یک کمپین اطلاعات نادرست باشد. استنباط کنید: (1) چه احساسی را هدف قرار می دهد، (2) چه تقسیمی را تقویت می کند، (3) مؤلفه های قابل تأیید/غیر قابل تأیید، (4) الگوی معمول گسترش ممکن است چگونه باشد. قضاوت عادلانه؛ تجزیه و تحلیل کنید. ادعا: [اینجا]
3) خبر تایید پیش نویس برای عموم:
من با منابع اولیه تأیید کردهام که محتوای زیر مصنوعی/گمراهکننده است: [خلاصه یافتهها]. پیشنویس یک داستان تأیید را بنویسید که خواننده را مطلع کند، وحشت ایجاد نکند، و به طور شفاف نشان دهد که چگونه تأیید کردم. هیچ یافته ای را که ارائه نکرده ام درج نکنید. یافته ها: [اینجا]
4) علائم (اشاره) متن ایجاد شده توسط هوش مصنوعی:
سرنخ هایی را فهرست کنید که متن زیر ممکن است به طور مصنوعی تولید شده باشد: منابع غیرقابل تأیید، کلیت بیش از حد، کادربندی یک طرفه، الگوهای تکراری. تاکید کنید که این شواهد قطعی نیست و بنویسید که چه راستیآزماییهای واقعی باید انجام شود. متن: [اینجا]
اعلان ضعیف / اعلان قوی
اعلان ضعیف: "به من بگو اگر این تصویر جعلی است."
نتیجه: هوش مصنوعی یک «بله/نه» با ظاهر دقیق اما غیرقابل اعتماد می دهد. ممکن است روزنامه نگار به این حکم تکیه کند و اشتباه کند.
اعلان قوی: "فهرستی از علائمی که میخواهم بررسی کنم که ممکن است این تصویر مصنوعی باشد، تهیه کنید، و نحوه جستجوی هر یک را بنویسید. قضاوت نهایی نکنید؛ به این نکته اشاره کنید که تأیید واقعی بازگشت به منبع و انجام جستجوی معکوس است."
تفاوت: یک اعلان قدرتمند هوش مصنوعی را به یک تولید کننده سرنخ کاهش می دهد و قضاوت را به منبع و روزنامه نگار واگذار می کند و حاشیه خطای ابزار را قابل مشاهده می کند.
نمودار مقایسه
نوع محتوا
سرنخ های ضعیف
قابل اطمینان ترین کنترل
نقش هوش مصنوعی
متن
عمومی، منبع ساختگی
به منبع بروید
لیست علامت
بصری
اختلاف دست/دندان/نوشتن
جستجوی معکوس + فراداده
چک لیست
صدا
تناقض تنفس/محیط
تایید منبع و زمینه
چه چیزی را باید جستجو کرد
ویدیو (دیپ جعلی)
عدم تطابق نور/همگام سازی
منبع اصلی، تایید شده
کمک تجزیه و تحلیل
اشتباهات رایج
- در نظر گرفتن ابزار تشخیص به عنوان مدرک علت انتشار درصد وسیله نقلیه؛ ابزارها در هر دو جهت اشتباه می کنند.
- اعتماد به نفس "من می توانم از طریق دید تشخیص دهم". تصاویر مصنوعی به سرعت در حال بهبود هستند. شهود بصری به تنهایی کافی نیست.
- به منبع نمی رود. بیشتر جعلی ها زمانی که منبع اصلی که آنها را منتشر کرده است پیدا شود، از بین می روند. رد شدن از این مرحله یک اشتباه است.
- اشاعه مظنون. به اشتراک گذاشتن محتوای مشکوک که می گوید «ببینیم درست است یا نه» باعث اطلاعات نادرست می شود.
- زبان وحشت. لحن هشداردهنده در اخبار تایید، ترس جدیدی را در حین اصلاح ایجاد می کند. آرام و شفاف بنویسید.
سرعت انتشار و "تله انکار"
قدرت واقعی اطلاعات نادرست در خود محتوا نیست، بلکه در سرعت انتشار آن است. محتوای تحریک آمیز احساسی که خشم یا ترس را برمی انگیزد، بسیار سریعتر از اخبار تأیید شده به اشتراک گذاشته می شود. در حالی که محتوای جعلی ظرف چند ساعت به میلیون ها نفر می رسد، ویرایش اغلب افراد بسیار کمتری را به دست می آورد. این عدم تقارن مسئولیت ویژهای را بر دوش روزنامهنگار میگذارد: اشتراکگذاری محتوای مشکوک، حتی با گفتن «ببین چقدر مضحک»، به آن دسترسی میدهد. به این کار اکسیژن رسانی می گویند - تکرار یک دروغ برای رد آن در واقع به آن دامن می زند.
پادزهر این تکنیک «ساندویچ حقیقت» در بررسی حقایق است: قبل از تکرار ادعای نادرست، حقیقت را بگویید، سپس نشان دهید که چرا ادعا نادرست است، سپس حقیقت را دوباره در پایان تکرار کنید. به این ترتیب آنچه در ذهن خواننده باقی می ماند اشتباه نیست، بلکه حقیقت است. هوش مصنوعی می تواند به پیش نویس یک داستان حقیقت سنجی مطابق با این ساختار کمک کند. اما این تصمیم تحریریه است که کدام حقیقت را مطرح کند و بدون ایجاد وحشت به زبان بیاورد. تمرین دیگر: پرسیدن چه شکافی را با اطلاعات نادرست پر می کند؟ مردم اغلب به دلیل نداشتن اطلاعات قابل اعتماد از محتوای جعلی استقبال می کنند. پر کردن این شکاف با اخبار سریع، دقیق و در دسترس، دفاعی مؤثرتر از تعقیب دروغها است.
به طور خلاصه
محتوای مصنوعی و دیپفیکها اطلاعات نادرست را ارزانتر و تسریع کردهاند. وظیفه خبرنگار عدم انتشار این مطلب و اطلاع رسانی به مردم است. ابزارهای تشخیص و هوش مصنوعی سرنخها و سازماندهی را ارائه میدهند - اما اثبات قطعی ندارند. قضاوت با مراجعه به منبع، فراداده و جستجوی معکوس، سازگاری درونی و زمینه مستقل انجام می شود. اخبار تأیید به زبانی آرام و شفاف نوشته شده است که نشان می دهد چگونه تأیید شده است.
وظیفه کاربردی
محتوای دیداری یا صوتی را که فکر می کنید مشکوک است پیدا کنید. دستور "چک لیست ترکیبی بصری" (یا انطباق برای صدا) را دنبال کنید. واقعاً هر مورد را بررسی کنید و جستجو را معکوس کنید. نتیجه را به عنوان "شواهد واقعی / جعلی / ناکافی" ارزیابی کنید و آن را با تصمیمی که اگر صرفاً بر ابزار تشخیص تکیه میکردید مقایسه کنید.
چک لیست
- [ ] من خروجی ابزارهای تشخیص را سرنخ می دانم نه شواهد.
- [ ] برای هر محتوای مشکوک، ابتدا به دنبال منبع اصلی و اولین انتشار می گردم.
- [ ] من مطمئن می شوم که جستجوی معکوس و ابرداده ها را بررسی می کنم.
- [ ] من محتوای مشکوک تایید نشده را منتشر نمی کنم.
- [ ] من اخبار تأیید را به زبانی آرام و شفاف می نویسم که نشان می دهد چگونه آن را تأیید کردم.