Прибыль:
- Способность понимать как ложные доказательства, так и угрозу «выгоды лжеца», исходящую от синтетических СМИ, а также многоуровневую проверку подлинности СМИ.
- Возможность оценивать уровни происхождения, метаданных, технических аномалий, происхождения (C2PA) и контекстной согласованности вместе, а не полагаться на одну оценку транспортного средства.
- Умение выражать результат на языке уровня уверенности, а не определенности, и применять знания технологии производства только для обнаружения и защиты.
В качестве «доказательств» в расследовании выступает видео: аудиозапись того, как руководитель дает неправильные указания, фотография, на которой видно, что человек где-то находится, видео с признанием. Но теперь на переднем плане каждого доказательства остается вопрос: реально ли это или оно было создано искусственным интеллектом? Дипфейк (фейковые медиа, созданные с помощью глубокого обучения и имитирующие лицо/голос/движения реального человека) и, в более широком смысле, синтетические медиа (синтетические медиа — изображения, аудио, видео, полностью или частично созданные искусственным интеллектом) — это новейшая и наиболее сложная область цифровой криминалистики. В этом модуле мы рассмотрим двойную роль ИИ как инструмента обнаружения и угрозы, а также почему проверка должна быть многоуровневой.
Почему это так критично?
Синтетические носители представляют собой двустороннюю угрозу. Во-первых, фейковые доказательства: кто-то может создать дипфейк, чтобы «доказать» событие, которого не было. Во-вторых, более коварный, это «дивиденд лжеца» (дивиденд лжеца – благодаря распространению фейковых СМИ даже реальные доказательства могут быть отвергнуты как «это дипфейк»). Таким образом, синтетические СМИ не только создают ложные доказательства; Это также подрывает достоверность фактических доказательств. Следовательно, судебный аналитик должен проверить подлинность каждого доказательства, представленного в СМИ, — то, что оно действительно получено из заявленного источника в неизмененном виде.
Внимание: «Инструмент обнаружения искусственного интеллекта заявил, что 98% дипфейков» недостаточно в суде. Модели обнаружения неверны, методы нового поколения уклоняются от них, а оценка вероятности не является окончательным доказательством. Обнаружение дипфейков всегда должно поддерживаться многоуровневой проверкой (технической + контекстной + исходной).
Уровни обнаружения
Обнаружение синтетических носителей не может полагаться на один волшебный инструмент; должно быть многослойным:
- Технический/криминалистический анализ: несоответствие сжатия, аномалии пикселей/частот, искажения границ лица, отсутствие биологических сигналов, таких как моргание глаз и пульс, неестественные частотные характеристики звука.
- Метаданные и анализ источника: метаданные EXIF/контейнера файла, следы производства, отпечаток устройства, пути прохождения файла (цепочка поставок). Удаленные/противоречивые метаданные являются предупреждением.
- Происхождение контента: проверено такими стандартами, как C2PA (открытый стандарт, который добавляет к носителям криптографически подписанную информацию о происхождении, указывающую, откуда она взялась и как она была отредактирована); Есть ли подпись, соответствует ли она?
- Контекстная проверка: являются ли свет, тени и отражения в видео физически согласованными? Синхронизация голоса и губ совпадают? Противоречит ли содержание известным фактам (погода, место, время)?
ИИ является ускорителем на многих из этих уровней: отмечает аномалии, обнаруживает несоответствия, создает контрольные списки. Но окончательное суждение о подлинности принимается посредством нескольких уровней перекрестной проверки и экспертной оценки.
ИИ: и угроза, и инструмент
Ключевое напряжение этого блока: одна и та же технология производит и обнаруживает дипфейки. Судебный аналитик должен понимать методы производства (как обнаружить подделку, не зная, как она была изготовлена?), но использует это только в целях обнаружения и защиты. Использование ИИ для создания фейковых СМИ с целью обмануть кого-то — это мошенничество и злоупотребление личными данными; Областью применения этого модуля является исключительно обнаружение и проверка.
Совет: при оценке материалов СМИ сначала проведите тест «самого простого объяснения»: действительно ли этот файл пришел оттуда, где он утверждает? Безопасна ли цепочка поставок? В большинстве случаев проблема не в дипфейке, а в деконтекстуализации (видео с реального, но старого/другого события, представленного в неправильном контексте). Проверьте происхождение и контекст перед сложным анализом дипфейков.
Вероятность, а не уверенность
Инструменты обнаружения дипфейков выдают оценку вероятности; Не «определенно фальшивый» или «определенно настоящий». Эта оценка имеет погрешность, доверительный интервал, и ее производительность снижается при использовании новых методов производства, которых модель не видела. В отчете судебно-медицинской экспертизы вместо того, чтобы сказать СМИ: «это фейк», следует сказать: «эти индикаторы указывают на манипуляции, эти уровни проверки показали это, уровень уверенности таков». Чрезмерно точные формулировки вызывают возражения в суде и потерю репутации.
три мини-кейса
Случай 1. Анализ происхождения решен до дипфейка. Видео, представленное совету директоров в качестве «доказательства», было рассмотрено. Прежде чем перейти к анализу дипфейков, были проверены метаданные: видео было создано за 8 месяцев до заявленной даты, а метаданные контейнера указывали на другое приложение. Видео не было фейком, но оно было представлено в неправильном контексте; Самый простой слой решил проблему.
Случай 2 — Многоуровневое обнаружение выявило фейк. В голосовой записи инструмент обнаружения ИИ сообщил, что 71% синтетический (не точно). Эксперт рассмотрел дополнительные слои: неестественно регулярные закономерности частотного анализа, отсутствие звуков дыхания и отсутствие сигнатуры C2PA. Сочетание трех независимых показателей дало гораздо более сильный результат, чем один балл.
Случай 3 — Возврат от излишней определенности. «Видео определенно является дипфейком», — говорится в проекте отчета со ссылкой на оценку одного автомобиля. Старший эксперт поправил: одного инструмента недостаточно, язык не может быть «совсем». Отчет был переведен на язык, который отражает множество уровней и уровней точности; таким образом, становится возможным защититься в суде.
Четыре копируемых шаблона
1) Контрольный список проверки носителя:
Ваша роль: эксперт по проверке синтетических носителей. Предоставьте мне многоуровневый контрольный список для проверки изображений/аудио/видео доказательств: (1) происхождение/цепочка поставок, (2) метаданные, (3) техническая аномалия, (4) происхождение/C2PA, (5) контекстуальная согласованность. Напишите конкретные шаги проверки для каждого слоя.
2) Анализ согласованности метаданных:
Я предоставлю вам метаданные (EXIF/контейнер) медиафайла. Несоответствия флагов: метаконфликт создания-изменения, трассировка устройства/программного обеспечения, отсутствующие/удаленные поля, геовременное несоответствие. Укажите, что это могут быть ПРИЗНАКИ манипуляции, но сами по себе они не являются доказательствами.
3) Проверка контекстной согласованности:
Оцените физическую согласованность этого изображения/видео: согласованы ли направление освещения и тени, точны ли отражения, соответствует ли синхронизация звука и губ, соответствует ли фон заявленному местоположению/времени? Свяжите каждое наблюдение с конкретным местом. Не выносите окончательного суждения; перечислите моменты, вызывающие сомнения.
4) Язык уровня точности:
Переведите следующие результаты проверки (баллы + результаты стратификации) в параграф отчета. Не говорите «определенно фальшивый/настоящий»; укажите источник каждого вывода и укажите общий уровень уверенности (низкая/средняя/высокая достоверность). Избегайте чрезмерных спорных утверждений.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Скажите, это видео — дипфейк?
Ожидается один слой, одно суждение; ИИ генерирует «да/нет» без контекста, это будет опровергнуто в суде.
Мощная подсказка:
Ваша роль: эксперт по проверке синтетических носителей. Я опишу вам метаданные видео, оценку детектора и несколько кадров. Задача: оценить слои происхождения, метаданных, технических аномалий и контекстной согласованности ОТДЕЛЬНО; Подключите то, что вы видите на каждом слое, к источнику. Выразите результат как совокупный уровень достоверности слоев, а не как «точный». Не полагайтесь на единственную оценку; укажите недостающие слои.
Многоуровневая оценка, ссылка на источник и ограничение «нет вызова» делают результат оправданным.
Таблица уровней аутентификации
слой
На что он смотрит?
сильная сторона
предел
Происхождение/CoC
Откуда взялся файл
Простой, точный
Мошенничество можно скрыть
метаданные
EXIF/контейнер
быстрый совет
Стираемый/поддельный
техническая аномалия
Пиксель/частота
след манипуляции
Новая техника обходит
Провенанс/C2PA
подписанное происхождение
криптографическое доверие
Не везде
контекстуальный
Гармония физики и реальности
трудно обмануть
Требуется комментарий
Распространенные ошибки
- Опираясь на одну оценку автомобиля. Обнаружение дипфейков должно быть многоуровневым; одиночный балл не является доказательством.
- Это означает «абсолютно фальшивый/настоящий». Используйте язык вероятности; Слишком большая точность вызывает возражения.
- Опуская происхождение и контекст. Большинство проблем — это не дипфейки, а неправильный контекст/старые медиа.
- Абсолютное доверие к метаданным. Метаданные могут быть как удалены, так и подделаны.
- Злоупотребление технологией производства. Информация предназначена только для обнаружения и защиты.
В заключение
Дипфейки и синтетические медиа — новейший рубеж в цифровой криминалистике; Это одновременно создает ложные доказательства и делает реальные доказательства подозрительными. ИИ — это одновременно угроза и инструмент обнаружения. Проверка должна основываться не на одном инструменте, а на перекрестной проверке уровней происхождения, метаданных, технических аномалий, происхождения и контекстуальной согласованности. Результат выражается не уверенностью, а уровнем уверенности. И эта информация предназначена только для обнаружения и защиты, а не для создания фейковых СМИ.
Задача приложения
Опишите сценарий медиа-доказательства (например, аудиозапись). Создайте многоуровневый план с помощью шаблона «Контрольный список проверки носителя». Затем примените шаблоны «Анализ согласованности метаданных» и «Язык уровня точности» с фиктивными метаданными и показателем обнаружения; Попробуйте выразить результат с многоуровневой уверенностью, а не «определенно фальшиво».
контрольный список
- [ ] Я основывал проверку на нескольких уровнях, а не на одном инструменте.
- [ ] Сначала я проверил происхождение и контекст.
- [ ] Я имел в виду, что метаданные можно удалить/подделать.
- [ ] Я выразил результат на языке уровня уверенности, а не уверенности.
- [ ] Я использовал производственную информацию только для обнаружения/защиты.