Печалби:
- Способност за разпознаване на типове, улики и модели на разпространение на синтетичен текст, изображения, аудио и дълбоко фалшиво видео
- Възможност за управление на подозрението за синтетично съдържание с проследяване на източника, метаданни, обратно търсене и проверка на контекста и използване на изкуствения интелект като организационен инструмент в защитата
- Способност да се разбере, че инструментите за откриване не са окончателно доказателство, че преценката се свежда до източника и че новините за потвърждение трябва да бъдат написани на спокоен, прозрачен език.
Изкуственият интелект не е само инструмент на журналиста; Това е и двигателят на заплахата срещу него. Днес убедителен фалшив текст, привидно истински снимки, лица на несъществуващи хора и гласове, произнасящи изречения, които някой никога не е произнасял, могат да бъдат произведени за минути. Те се наричат общо синтетично съдържание (изкуствено произведени медии); Типът видео/аудио, което реалистично имитира лицето или гласа на човек, се нарича deepfake. Дезинформацията – умишленото разпространение на невярна информация – стана едновременно по-евтина и по-бърза чрез тези инструменти. Задължението на журналиста се удвои: както да предотврати публикуването на това съдържание, така и да информира обществеността за тази заплаха. В този модул ние разглеждаме използването на AI както за разбиране на заплахата, така и за защита срещу нея. Основен принцип: нито един инструмент за откриване не е убедително доказателство; Подозрението за синтетично съдържание се разрешава чрез класическа проверка, която се свежда до източника и контекста.
Видове и съвети за синтетично съдържание
Текст. AI може да произвежда гладки, но празни, изпълнени с обобщения, измислени текстове; фалшиви „новинарски сайтове“ и армии от коментари процъфтяват от това. Подсказка: непроверими източници, твърде общи твърдения, постоянно едностранчиво рамкиране.
Визуално. В изкуствените изображения ръцете/пръстите, зъбите, ушите, бижутата, фоновият текст и отраженията често са непоследователни; Но технологията се подобрява бързо, така че „мога да разбера, като го гледам със собствените си очи“ е опасно доверие.
Звук. Неизказани изречения могат да бъдат произведени от гласа на длъжностно лице. Съвет: естествен дъх/пауза, последователност на околния звук, но най-надеждната проверка е да проверите източника на съдържанието.
Видео (deepfake). Несъответствието на лицето и шията/светлината, мигането на очите, синхронизирането на устните и гласа може да са улики; Не е сигурно обаче.
Внимание: „Инструментът за откриване на AI казва, че 90% са фалшиви“ не е причина за публикуване. Тези инструменти са грешни; Той може да нарече истинското фалшиво, а фалшивото истинско. Резултатът от инструмента е следа; Присъдата се свежда до източника.
Стъпка по стъпка: управление на подозренията за синтетични съставки
Стъпка 1 — Намерете източника. Кой пръв е публикувал съдържанието, къде и кога? Слизането само до оригиналния източник ще разбие повечето фалшификати.
Стъпка 2 — Вижте метаданните и обърнете търсенето. Метаданните и обратното търсене на изображения върху изображение/видео може да разкрият предишна версия или оригинал.
Стъпка 3 — Тествайте вътрешната последователност. Съвпадат ли светлината, сянката, отражението, околният звук, фоновите улики от реалния свят (сигнали, време, архитектура) на твърдението?
Стъпка 4 — Проверете контекста. Инцидентът в съдържанието видян ли е от други независими източници? Има много следи от реално събитие; "бомбеното" съдържание от един източник е под въпрос.
Стъпка 5 — Използвайте инструменти за откриване като улики. Пребройте изхода на инструментите за откриване на AI като спомагателен сигнал, а не като доказателство.
Стъпка 6 — Докладвайте прозрачно. Ако го публикувате (като проверка на фактите), покажете какво е фалшиво/подозрително, защо и как сте го проверили.
Използване на AI в защита
AI също така е организационен инструмент срещу синтетичното съдържание: той изброява какво да търсите в изображение, изброява знаци, че даден текст може да е генериран от AI, помага за анализиране на разказа на кампания за дезинформация, изготвя обяснителна проверка на фактите за обществеността. Но самото определяне – присъдата „това е фалшиво“ – се прави от човешка преценка и проверка на източника.
три мини калъфа
Случай 1 — Фалшив гласов запис. Разпространен е аудиозапис на служител, който си подава оставката. Репортерът първо потърси източника: записът идва от един анонимен акаунт, нямаше следа от него никъде другаде. Екипът на служителя отхвърли записа; околният звук също беше непоследователен. Репортерът не публикува записа, а вместо това докладва за „непроверим аудиозапис“. По-късно се оказа, че записът е синтетичен.
Случай 2 — Натиск във времето и стоп рефлекс. Снимката на "срутена сграда" след земетресение се разпространи бързо. Репортерът направи обратно търсене на изображението: снимката е от друго събитие отпреди 2 години. 4-минутната проверка предотврати влизането на неправилно изображение в новинарския сайт; Няколко конкурентни сайта го публикуваха без проверка и публикуваха отказ.
Случай 3 — Прекомерно доверие в инструмента за откриване. Редактор вмъкна снимка на истински репортер в инструмент за откриване; Превозното средство е "78% изкуствено", каза той. Редакторът беше на път да го оттегли от публикация; Когато старши проверяващ фактите показа метаданните за заснемане на снимката и необработения файл на репортера, стана ясно, че снимката е истинска. Поука: медиумът греши, източникът говори.
Копируеми шаблони
1) Контролен списък за визуална синтетичност:
Подозирам, че изображението може да е изкуствено създадено. Направете контролен списък с неща, които трябва да тествам: ръце/пръсти, зъби, бижута, фонов текст, отражения, съгласуваност светло-сянка, обратно търсене, метаданни. Запишете как да търсите всеки елемент. Не казвайте със сигурност „фалшив/истински“; просто контролен списък. Визуално описание: [тук]
2) Анализиране на дезинформационния разказ:
Следното твърдение може да е кампания за дезинформация. Направете заключение: (1) към каква емоция е насочен, (2) какво разделение усилва, (3) проверими/непроверими компоненти, (4) какъв може да бъде типичният модел на разпространение. Осъждане на правдата; анализирам. Искова молба: [тук]
3) Новини за потвърждение на проекта за обществеността:
Проверих с първични източници, че следното съдържание е синтетично/подвеждащо: [обобщение на констатациите]. Напишете чернова на история за потвърждение, която информира читателя, не разпространява паника и показва прозрачно как съм проверил. Не включвайте констатации, които не съм предоставил. Констатации: [тук]
4) Генерирани от AI знаци (подсказка) на текста:
Избройте УЛИКИ, че следният текст може да е изкуствено създаден: непроверими източници, прекомерна обобщеност, едностранно рамкиране, повтарящи се модели. Подчертайте, че това не е убедително доказателство и запишете какви фактически проверки трябва да се направят. Текст: [тук]
Слаба подкана / Силна подкана
Слаба подкана: „Кажете ми дали това изображение е фалшиво.“
Резултат: AI дава прецизно изглеждащо, но ненадеждно „да/не“; Журналистът може да разчита на това решение и да сгреши.
Силна подкана: „Направете списък със знаци, които бих проверил за това, че това изображение може да е изкуствено, и запишете как бих търсил всеки от тях. Не правете никакви окончателни преценки; посочете, че истинската проверка е връщане към източника и извършване на обратно търсене.“
Разликата: Мощната подкана редуцира AI до генератор на улики, оставяйки преценката на източника и журналиста, което прави границата на грешка на инструмента видима.
сравнителна диаграма
Тип съдържание
Слаби улики
Най-надеждното управление
Роля на AI
текст
Общ, измислен източник
слезе до източника
Списък със знаци
визуален
Несъответствие между ръка/зъби/писане
Обратно търсене + метаданни
контролен списък
звук
Несъответствие на дишане/среда
Потвърждение на източника и контекста
Какво да търсите
Видео (deepfake)
Несъответствие на светлина/синхронизация
Оригинален източник, кръстосано потвърден
Помощ за анализ
Често срещани грешки
- Третиране на инструмента за откриване като доказателство. Превръщане на процента на автомобила в причина за публикуване; инструментите грешат и в двете посоки.
- „Мога да разбера по поглед“ увереност. Синтетичните визуални ефекти се подобряват бързо; Само визуалната интуиция не е достатъчна.
- Не отивам към източника. Повечето фалшификати се сриват, когато бъде открит оригиналният източник, който ги е публикувал; Пропускането на тази стъпка е грешка.
- Разпространение на заподозрения. Споделянето на подозрително съдържание с думите „да видим дали е вярно или не“ служи за дезинформация.
- Език на паниката. Тревожният тон в новините за потвърждение разпространява нов страх, докато коригира; Пишете спокойно и прозрачно.
Скорост на дифузия и "капан за отказ"
Истинската сила на дезинформацията не е в самото съдържание, а в скоростта, с която се разпространява. Емоционално провокативното съдържание, което предизвиква гняв или страх, се споделя много по-бързо от проверените новини; Докато фалшивото съдържание достига до милиони за часове, редакцията често достига до много по-малко хора. Тази асиметрия натоварва журналиста със специална отговорност: споделянето на съмнително съдържание, дори като се каже „виж колко нелепо“, му дава достъп. Това се нарича насищане с кислород - повтарянето на лъжа, за да я опровергае, всъщност я подхранва.
Противоотровата за това е техниката "сандвич с истина" при проверка на фактите: кажете истината, преди да повторите невярното твърдение, след това покажете защо твърдението е невярно, след това повторете истината отново накрая. По този начин в съзнанието на читателя остава не грешката, а истината. AI може да помогне за изготвянето на история за проверка на фактите според тази структура; Но редакционно решение е коя истина да изложи и да информира езика, без да всява паника. Друга практика: въпросът каква празнина запълва дезинформацията? Хората често приемат фалшиво съдържание поради липса на надеждна информация; Запълването на тази празнина с бързи, точни и достъпни новини е по-ефективна защита от преследването на лъжи една по една.
В обобщение
Синтетичното съдържание и дълбоките фалшификати поевтиняват и ускоряват дезинформацията; Задължение на журналиста е да не публикува това и да информира обществото. Инструментите за откриване и AI предоставят улики и организация, но не и окончателно доказателство. Преценката се прави чрез преминаване към източника, метаданни и обратно търсене, вътрешна последователност и независим контекст. Новините за потвърждение са написани на спокоен, прозрачен език, който показва как са проверени.
Задача за приложение
Намерете визуално или аудио съдържание, което смятате за подозрително. Следвайте подканата „Визуален контролен списък за синтетичност“ (или адаптация за аудио); наистина проверете всеки елемент и обърнете търсенето. Оценете резултата като „истинско/фалшиво/недостатъчно доказателство“ и го сравнете с решението, което бихте взели, ако разчитате единствено на инструмента за откриване.
контролен списък
- [ ] Смятам резултатите от инструментите за откриване като улики, а не доказателства.
- [ ] За всяко съмнително съдържание първо търся оригиналния източник и първата публикация.
- [ ] Уверявам се, че обръщам търсенето и проверявам метаданните на изображенията.
- [ ] Не разпространявам непроверено съмнително съдържание.
- [ ] Пиша новини за потвърждение на спокоен, прозрачен език, който показва как съм ги проверил.