Прибыль:
- Способность распознавать типы, подсказки и закономерности распространения синтетического текста, изображений, аудио и видео.
- Возможность управлять подозрениями в синтетическом контенте с помощью отслеживания источника, метаданных, обратного поиска и проверки контекста, а также использовать искусственный интеллект в качестве организационного инструмента защиты.
- Способность понимать, что средства обнаружения не являются окончательными доказательствами, что суждение зависит от источника и что подтверждающие новости должны быть написаны спокойным и прозрачным языком.
Искусственный интеллект — это не просто инструмент журналиста; Это также двигатель угрозы против него. Сегодня убедительный фальшивый текст, кажущиеся реальными фотографии, лица несуществующих людей и голоса, произносящие предложения, которые кто-то никогда не произносил, можно создать за считанные минуты. В совокупности они называются синтетическим контентом (искусственно созданные медиа); Тип видео/аудио, который реалистично имитирует лицо или голос человека, называется дипфейком. Благодаря этим инструментам дезинформация – намеренное распространение ложной информации – стала дешевле и быстрее. Обязанность журналиста удвоилась: как предотвратить публикацию этого контента, так и проинформировать общественность об этой угрозе. В этом разделе мы рассмотрим использование ИИ для понимания угрозы и защиты от нее. Основной принцип: ни один инструмент обнаружения не является убедительным доказательством; Подозрение на синтетический контент разрешается путем классической проверки, которая сводится к источнику и контексту.
Типы и советы по синтетическому контенту
Текст. ИИ может создавать беглые, но пустые, наполненные обобщениями, выдуманные тексты; Фальшивые «новостные сайты» и армии комментариев процветают благодаря этому. Подсказка: непроверяемые источники, слишком общие утверждения, упорно однобокие формулировки.
Визуальный. На искусственных изображениях руки/пальцы, зубы, уши, украшения, фоновый текст и отражения часто несовместимы; Но технологии быстро совершенствуются, поэтому «Я могу сказать, посмотрев на это собственными глазами» — опасное доверие.
Звук. Невысказанные предложения могут быть произнесены голосом чиновника. Совет: естественность дыхания/паузы, постоянство окружающего звука, но самая надежная проверка — проверить источник контента.
Видео (дипфейк). Несоответствие лица и шеи/света, моргание глаз, синхронизация губ и голоса могут быть признаками; Однако это не точно.
Внимание: «Инструмент обнаружения ИИ говорит, что 90% — фейки» не является поводом для публикации. Эти инструменты неверны; Он может назвать настоящее фальшивкой, а фальшивое настоящим. Результатом работы инструмента является подсказка; Суждение сводится к источнику.
Шаг за шагом: устранение подозрений в отношении синтетических ингредиентов
Шаг 1 — Найдите источник. Кто первым опубликовал контент, где и когда? Обращение к первоисточнику позволит разоблачить большинство фейков.
Шаг 2. Просмотрите метаданные и выполните обратный поиск. Метаданные и обратный поиск изображений по изображению/видео могут выявить предыдущую версию или оригинал.
Шаг 3. Проверьте внутреннюю согласованность. Соответствуют ли свет, тень, отражение, окружающий звук, фоновые подсказки из реального мира (вывески, погода, архитектура) заявлению?
Шаг 4 — Проверьте контекст. Был ли инцидент в контенте замечен другими независимыми источниками? Есть много следов реального события; «Бомба» из одного источника сомнительна.
Шаг 5. Используйте инструменты обнаружения в качестве подсказок. Считайте выходные данные инструментов обнаружения ИИ вспомогательным сигналом, а не доказательством.
Шаг 6 — Прозрачность отчетности. Если вы публикуете это (в качестве проверки фактов), покажите, что является фейковым/подозрительным, почему и как вы это проверили.
Использование ИИ в обороне
ИИ также является организационным инструментом против синтетического контента: он перечисляет, что искать в изображении, перечисляет признаки того, что текст может быть сгенерирован ИИ, помогает проанализировать повествование о кампании дезинформации, составляет поясняющую проверку фактов для общественности. Но само определение – вердикт «это фейк» – выносится на основе человеческого суждения и проверки источников.
три мини-кейса
Случай 1 — Фальшивая запись голоса. Была распространена аудиозапись официальной «отставки». Репортер сначала поискал источник: запись сделана с одного анонимного аккаунта, больше ее нигде не осталось. Команда чиновника отклонила запись; окружающий звук также был непостоянным. Репортер не опубликовал запись, вместо этого сообщив о «неподдающейся проверке аудиозаписи». Запись позже оказалась синтетической.
Случай 2. Недостаток времени и рефлекс остановки. Фотография «рухнувшего здания» после землетрясения быстро распространилась. Репортер провел обратный поиск изображений: фотография была с другого мероприятия двухлетней давности. 4-минутная проверка предотвратила попадание неверного изображения на новостной сайт; Несколько конкурирующих сайтов опубликовали это без проверки и опубликовали опровержение.
Случай 3 — Чрезмерная уверенность в средстве обнаружения. Редактор вставил фотографию настоящего репортера в детектор; Транспортное средство «на 78% искусственное», сказал он. Редактор собирался отозвать его из публикации; Когда старший специалист по проверке фактов показал метаданные съемки фотографии и необработанный файл репортера, стало ясно, что фотография настоящая. Урок: медиум ошибается, говорит источник.
Копируемые шаблоны
1) Контрольный список визуальной синтетическости:
Я подозреваю, что изображение может быть создано искусственно. Составьте контрольный список того, что мне нужно проверить: руки/пальцы, зубы, украшения, фоновый текст, отражения, согласованность света и тени, обратный поиск, метаданные. Запишите, как искать каждый предмет. Не говорите наверняка «фальшивый/настоящий»; просто контрольный список. Визуальное описание: [здесь]
2) Анализ дезинформационного повествования:
Следующее утверждение может быть кампанией по дезинформации. Сделайте вывод: (1) на какие эмоции он нацелен, (2) какое разделение он усиливает, (3) проверяемые/непроверяемые компоненты, (4) какова может быть типичная модель распространения. Вынесение суждения о праведности; анализировать. Претензия: [здесь]
3) Проект подтверждения новости для общественности:
Я проверил с помощью первоисточников, что следующий контент является синтетическим/вводящим в заблуждение: [краткое изложение результатов]. Напишите черновик истории подтверждения, которая информирует читателя, не сеет панику и прозрачно показывает, как я прошел верификацию. Не включайте никаких выводов, которые я не предоставил. Выводы: [здесь]
4) Сгенерированные AI пометки (подсказки) текста:
Перечислите ПОДСКАЗКИ того, что следующий текст может быть создан искусственно: непроверяемые источники, чрезмерная общность, одностороннее оформление, повторяющиеся шаблоны. Подчеркните, что это не является убедительным доказательством, и запишите, какие фактические проверки необходимо провести. Текст: [здесь]
Слабая подсказка / Сильная подсказка
Слабая подсказка: «Скажите мне, подделка ли это изображение».
Результат: ИИ дает точное, но ненадежное «да/нет»; Журналист может положиться на это постановление и ошибиться.
Сильная подсказка: «Составьте список признаков того, что это изображение может быть искусственным, и запишите, как я буду искать каждый из них. Не делайте окончательных суждений; укажите, что настоящая проверка — это вернуться к источнику и выполнить обратный поиск».
Разница: мощная подсказка превращает ИИ в генератор подсказок, оставляя решение источнику и журналисту, делая видимой погрешность инструмента.
сравнительная таблица
Тип контента
Слабые подсказки
Самый надежный контроль
Роль ИИ
текст
Общий, выдуманный источник
спуститься к источнику
Список знаков
визуальный
Несоответствие руки/зубов/письма
Обратный поиск + метаданные
контрольный список
звук
Несоответствие дыхания/окружающей среды
Подтверждение источника и контекста
Что искать
Видео (дипфейк)
Несоответствие света/синхронизации
Первоначальный источник, перекрестно подтвержденный
Помощь в анализе
Распространенные ошибки
- Рассматривать инструмент обнаружения как доказательство. Сделать процент автомобиля причиной публикации; инструменты ошибаются в обоих направлениях.
- «Я могу сказать по лицу» уверенность. Синтетические визуальные эффекты быстро улучшаются; Одной лишь зрительной интуиции недостаточно.
- Не обращаясь к источнику. Большинство фейков разваливаются, когда обнаруживается первоисточник, их опубликовавший; Пропустить этот шаг — ошибка.
- Распространение подозреваемого. Распространение подозрительного контента со словами «давайте посмотрим, правда это или нет» служит дезинформации.
- Язык паники. Паникерский тон новостей о подтверждении сеет новый страх во время коррекции; Пишите спокойно и открыто.
Скорость диффузии и «ловушка отрицания»
Настоящая сила дезинформации заключается не в самом содержании, а в скорости ее распространения. Эмоционально-провокативный контент, вызывающий гнев или страх, распространяется гораздо быстрее, чем проверенные новости; В то время как фейковый контент достигает миллионов людей в течение нескольких часов, редактирование зачастую достигает гораздо меньшего числа людей. Эта асимметрия возлагает на журналиста особую ответственность: распространение сомнительного контента, даже со словами «посмотрите, как смешно», дает ему доступ. Это называется оксигенацией — повторение лжи, чтобы опровергнуть ее, на самом деле ее подпитывает.
Противоядием от этого является техника «сэндвича с правдой» при проверке фактов: скажите правду, прежде чем повторять ложное утверждение, затем покажите, почему утверждение ложное, а затем в конце повторите правду еще раз. Таким образом, в сознании читателя остается не ошибка, а истина. ИИ может помочь составить историю для проверки фактов в соответствии с этой структурой; Но какую правду выдвигать и информировать язык, не сея панику, остается за редакцией. Еще одна практика: спросить, какой пробел заполняет дезинформация? Люди часто используют фейковый контент из-за отсутствия достоверной информации; Заполнение этого пробела быстрыми, точными и доступными новостями является более эффективной защитой, чем погоня за ложью.
В заключение
Синтетический контент и дипфейки удешевили и ускорили дезинформацию; Долг журналиста – не публиковать это и информировать общественность. Инструменты обнаружения и искусственный интеллект дают подсказки и организацию, но не являются окончательными доказательствами. Суждение принимается на основе обращения к источнику, метаданным и обратному поиску, внутренней согласованности и независимому контексту. Новости о подтверждении написаны спокойным и прозрачным языком, который показывает, как они были проверены.
Задача приложения
Найдите визуальный или аудиоконтент, который вы считаете подозрительным. Следуйте подсказке «Контрольный список визуальной синтетическости» (или адаптации для звука); действительно проверьте каждый элемент и выполните обратный поиск. Оцените результат как «реальные/фальшивые/недостаточные доказательства» и сравните его с решением, которое вы бы приняли, если бы полагались исключительно на инструмент обнаружения.
контрольный список
- [ ] Я рассматриваю результаты работы инструментов обнаружения как подсказки, а не доказательства.
- [ ] В случае сомнительного содержания я сначала ищу первоисточник и первую публикацию.
- [ ] Я обязательно выполняю обратный поиск и проверяю метаданные изображений.
- [ ] Я не распространяю непроверенный сомнительный контент.
- [ ] Я пишу новости о подтверждении спокойным и прозрачным языком, который показывает, как я их проверил.