Прибуток:
- Здатність розпізнавати типи, підказки та шаблони розповсюдження синтетичного тексту, зображень, аудіо та глибокого фейкового відео
- Можливість керувати підозрою щодо синтетичного вмісту за допомогою відстеження джерела, метаданих, зворотного пошуку та перевірки контексту та використовувати штучний інтелект як організаційний інструмент для захисту
- Здатність розуміти, що засоби виявлення не є остаточним доказом, що судження зводиться до джерела, і що підтверджуючі новини слід писати спокійною, прозорою мовою.
Штучний інтелект – це не просто інструмент журналіста; Це також двигун загрози проти нього. Сьогодні переконливий фальшивий текст, начебто справжні фотографії, обличчя неіснуючих людей і голоси, що вимовляють речення, яких хтось ніколи не вимовляв, можна створити за лічені хвилини. Вони разом називаються синтетичним вмістом (штучно створеним медіа); Тип відео/аудіо, який реалістично імітує обличчя чи голос людини, називається deepfake. Завдяки цим інструментам дезінформація — навмисне поширення неправдивої інформації — стала дешевшою та швидшою. Обов’язок журналіста збільшився вдвічі: і не допустити публікацію цього контенту, і повідомити суспільству про цю загрозу. У цьому розділі ми розглядаємо використання ШІ для розуміння загрози та захисту від неї. Основний принцип: жоден інструмент виявлення не є переконливим доказом; Підозра щодо синтетичного вмісту вирішується класичною перевіркою, яка опускається до джерела та контексту.
Види та поради синтетичного вмісту
текст. ШІ може створювати плавні, але порожні, наповнені узагальненнями вигадані тексти; на цьому процвітають фейкові «новинні сайти» та армії коментарів. Підказка: неперевірені джерела, надто загальні твердження, постійне однобоке обрамлення.
Візуальний. На штучних зображеннях руки/пальці, зуби, вуха, прикраси, фоновий текст і відображення часто не відповідають один одному; Але технології швидко вдосконалюються, тому «я можу сказати, подивившись на це своїми очима» — це небезпечна довіра.
Звук. Невисловлені речення можуть бути створені голосом офіційної особи. Порада: природність дихання/паузи, рівномірність навколишнього звуку, але найнадійніша перевірка – перевірити джерело вмісту.
Відео (діпфейк). Невідповідність обличчя та шиї/світла, моргання очей, синхронізація губ і голосу можуть бути підказками; Однак це не певно.
Увага: «Інструмент виявлення штучного інтелекту каже, що 90% — фейк» не є приводом для публікації. Ці інструменти неправильні; Він може назвати справжнє підробкою, а підробку справжнім. Результатом роботи інструмента є підказка; Судження зводиться до джерела.
Крок за кроком: боротьба з підозрою на синтетичні інгредієнти
Крок 1 — Знайдіть джерело. Хто, де і коли опублікував контент першим? Лише звернення до першоджерела розкриє більшість підробок.
Крок 2 — перегляньте метадані та зробіть пошук у зворотному напрямку. Метадані та зворотний пошук зображень/відео можуть виявити попередню версію або оригінал.
Крок 3 — Перевірте внутрішню узгодженість. Чи світло, тінь, відображення, навколишній звук, фонові підказки реального світу (вивіски, погода, архітектура) відповідають заяві?
Крок 4 — Перевірте контекст. Чи бачили інцидент у вмісті інші незалежні джерела? Є багато слідів реальної події; "бомба" вмісту з одного джерела сумнівна.
Крок 5. Використовуйте інструменти виявлення як підказки. Вважайте вихідні дані інструментів виявлення AI допоміжним сигналом, а не доказом.
Крок 6 — Звітуйте прозоро. Якщо ви опублікуєте це (як перевірку фактів), покажіть, що фейкове/підозріле, чому та як ви це перевірили.
Використання ШІ в захисті
ШІ також є організаційним інструментом проти синтетичного контенту: він перераховує, на що слід звернути увагу на зображенні, перелічує ознаки того, що текст може бути згенерований штучним інтелектом, допомагає проаналізувати наратив кампанії з дезінформації, складає проект пояснювальної перевірки фактів для громадськості. Але саме визначення — вердикт «це фейк» — здійснюється на основі людського судження та перевірки джерела.
три міні-чохла
Випадок 1 — Підроблений запис голосу. Розповсюджено аудіозапис «у відставку» чиновника. Репортер спочатку шукав джерело: запис був з одного анонімного облікового запису, ніде більше його не було. Команда чиновника відхилила запис; навколишній звук також був непостійним. Репортер не став публікувати запис, натомість повідомив про "неперевірений аудіозапис". Згодом запис виявився синтетичним.
Випадок 2 — тиск часу та рефлекс зупинки. Фотографія «зруйнованої будівлі» після землетрусу стрімко поширилася. Репортер зробив зворотний пошук зображень: фото було з іншої події 2-річної давності. 4-хвилинна перевірка запобігла потраплянню на сайт новин некоректного зображення; Кілька конкуруючих сайтів опублікували його без перевірки та опублікували спростування.
Випадок 3 — надмірна впевненість у інструменті виявлення. Редактор вставив фотографію справжнього репортера в інструмент виявлення; Транспортний засіб "на 78% штучний", - сказав він. Редактор збирався зняти його з друку; Коли старший фактчекер показав метадані зйомки фотографії та необроблений файл репортера, стало зрозуміло, що фотографія справжня. Урок: медіум помиляється, джерело говорить.
Шаблони, які можна копіювати
1) Контрольний список візуальної синтетичності:
Я підозрюю, що зображення може бути створене штучно. Складіть контрольний список того, що мені потрібно перевірити: руки/пальці, зуби, прикраси, фоновий текст, відблиски, узгодженість світла й тіні, зворотний пошук, метадані. Запишіть, як шукати кожен предмет. Не кажіть точно «підробка/справжня»; просто контрольний список. Візуальний опис: [тут]
2) Аналіз дезінформаційного наративу:
Наступне твердження може бути кампанією з дезінформації. Зробіть висновок: (1) на яку емоцію він спрямований, (2) який розрив він посилює, (3) верифіковані/неперевірені компоненти, (4) якою може бути типова модель поширення. Винесення судження про справедливість; аналізувати. Претензія: [тут]
3) Проект підтвердження новин для громадськості:
Я переконався в первинних джерелах, що наведений нижче вміст є синтетичним/вводить в оману: [резюме результатів]. Напишіть чернетку історії підтвердження, яка інформує читача, не поширює паніку та прозоро показує, як я перевірив. Не включайте висновки, які я не надав. Результати: [тут]
4) ШІ-генеровані позначки (підказки) тексту:
Перелічіть ПОТЯГКИ, що такий текст може бути створений штучно: неперевірені джерела, надмірна узагальненість, одностороннє оформлення, повторювані шаблони. Підкресліть, що це не переконливий доказ, і запишіть, які фактичні перевірки необхідно зробити. Текст: [тут]
Слабка підказка / Сильна підказка
Слабка підказка: «Скажіть, чи це зображення підробка».
Результат: ШІ дає точне, але ненадійне «так/ні»; Журналіст може покластися на це рішення і помилитися.
Наполеглива підказка: «Складіть список ознак, які я б перевірив, чи це зображення може бути штучним, і запишіть, як би я шукав кожне з них. Не робіть остаточних суджень; зауважте, що справжньою перевіркою є повернення до джерела та виконання зворотного пошуку».
Різниця: потужна підказка зводить ШІ до генератора підказок, залишаючи судження джерелу та журналісту, роблячи видимою межу похибки інструменту.
порівняльна таблиця
Тип вмісту
Слабкі підказки
Найнадійніший контроль
Роль ШІ
текст
Загальне, вигадане джерело
спуститися до джерела
Список знаків
візуальний
Невідповідність руки/зубів/письма
Зворотний пошук + метадані
контрольний список
звук
Невідповідність дихання/середовища
Підтвердження джерела та контексту
На що звернути увагу
Відео (deepfake)
Невідповідність світла/синхронізації
Перше джерело, перехресно підтверджене
Довідка з аналізу
Поширені помилки
- Розгляд інструменту виявлення як доказу. Визначення відсотка транспортного засобу причиною публікації; інструменти помиляються в обох напрямках.
- «Я можу сказати з вигляду» впевненість. Синтетичні візуальні ефекти швидко вдосконалюються; Тільки візуальної інтуїції недостатньо.
- Не йдучи до джерела. Більшість фейків руйнуються, коли знайдено першоджерело, яке їх опублікувало; Пропустити цей крок є помилкою.
- Поширення підозрюваного. Розповсюдження підозрілого вмісту зі словами «подивимось, правда це чи ні» служить дезінформацією.
- Мова паніки. Тривожний тон у новинах підтвердження поширює новий страх, одночасно виправляючи; Пишіть спокійно і прозоро.
Швидкість дифузії та «пастка заперечення»
Справжня сила дезінформації полягає не в самому вмісті, а в швидкості, з якою вона поширюється. Емоційно провокаційний контент, який викликає гнів чи страх, поширюється набагато швидше, ніж перевірені новини; У той час як фейковий вміст досягає мільйонів користувачів протягом кількох годин, редагування часто охоплює набагато менше людей. Ця асиметрія покладає особливу відповідальність на журналіста: поширення сумнівного контенту, навіть кажучи «дивіться, як смішно», дає йому доступ. Це називається оксигенацією — повторення брехні, щоб спростувати її, насправді підживлює її.
Протиотрутою для цього є техніка «бутерброда правди» у перевірці фактів: скажіть правду, перш ніж повторити хибне твердження, потім покажіть, чому твердження є хибним, а потім повторіть правду ще раз наприкінці. Таким чином, у свідомості читача залишається не помилка, а правда. AI може допомогти скласти історію перевірки фактів відповідно до цієї структури; Але це редакційне рішення, яку правду висунути та донести до мови, не поширюючи паніки. Інша практика: запитати, яку прогалину заповнює дезінформація? Люди часто сприймають фейковий контент через брак надійної інформації; Заповнення цієї прогалини швидкими, точними та доступними новинами є більш ефективним захистом, ніж переслідування брехні одну за одною.
Підсумовуючи
Синтетичний контент і дипфейки здешевили та прискорили дезінформацію; Обов’язок журналіста – не публікувати це та інформувати громадськість. Інструменти виявлення та штучний інтелект надають підказки та організацію, але не остаточні докази. Судження робиться на основі переходу до джерела, метаданих і зворотного пошуку, внутрішньої узгодженості та незалежного контексту. Новини про підтвердження написані спокійною, прозорою мовою, яка показує, як вони були перевірені.
Аплікаційне завдання
Знайдіть візуальний або звуковий вміст, який, на вашу думку, є підозрілим. Дотримуйтеся підказки «Візуальний контрольний список синтетичності» (або адаптації для аудіо); справді перевірте кожен елемент і зробіть зворотний пошук. Оцініть результат як «справжній/фальшивий/недостатній доказ» і порівняйте його з рішенням, яке ви б прийняли, якби покладалися виключно на інструмент виявлення.
контрольний список
- [ ] Я вважаю результати інструментів виявлення підказками, а не доказами.
- [ ] Для будь-якого сумнівного вмісту я спочатку шукаю першоджерело та першу публікацію.
- [ ] Я обов’язково здійснюю зворотний пошук і перевіряю метадані зображень.
- [ ] Я не поширюю неперевірений сумнівний контент.
- [ ] Я пишу підтверджувальні новини спокійною, прозорою мовою, яка показує, як я їх перевірив.