Добивки:
- Способност да препознава типови, индиции и обрасци на ширење на синтетички текст, слики, аудио и длабоко лажни видео
- Способност за управување со сомневање за синтетичка содржина со следење извор, метаподатоци, обратно пребарување и верификација на контекст и користење вештачка интелигенција како организациска алатка во одбраната
- Способност да се разбере дека алатките за откривање не се дефинитивен доказ, дека расудувањето се сведува на изворот и дека веста за потврда треба да биде напишана на мирен, транспарентен јазик.
Вештачката интелигенција не е само алатка на новинарот; Тоа е и моторот на заканата против него. Денес, за неколку минути може да се произведат убедлив лажен текст, навидум вистински фотографии, лица на непостоечки луѓе и гласови кои изговараат реченици кои некој никогаш не ги изговорил. Овие се колективно наречени синтетички содржини (вештачки произведени медиуми); Видот на видео/аудио што реално го имитира лицето или гласот на една личност се нарекува длабок фејк. Дезинформациите - намерно ширење лажни информации - станаа и поевтини и побрзи преку овие алатки. Должноста на новинарот е двојно зголемена: и да спречи објавување на оваа содржина и да ја информира јавноста за оваа закана. Во оваа единица, ја покриваме употребата на вештачка интелигенција за да ја разбереме заканата и да се заштитиме од неа. Основен принцип: Ниту една алатка за откривање не е убедлив доказ; Сомнежот за синтетичка содржина се решава со класична верификација која се сведува на изворот и контекстот.
Видови и совети на синтетичка содржина
Текст. ВИ може да произведе течни, но празни, измислени текстови исполнети со генерализација; На ова напредуваат лажните „страници за вести“ и армиите за коментари. Совет: непроверливи извори, премногу општи изјави, упорно еднострано врамување.
Визуелен. Во вештачките слики, рацете/прстите, забите, ушите, накитот, текстот во позадина и рефлексиите често се неконзистентни; Но, технологијата брзо се подобрува, па „можам да кажам гледајќи ја со свои очи“ е опасна доверба.
Звук. Неизговорените реченици може да се произведат од гласот на службеникот. Совет: природност на здив/пауза, конзистентност на амбиенталниот звук, но најсигурната проверка е да се потврди изворот на содржината.
Видео (deepfake). Несовпаѓање на лице и врат/светло, трепкање на очите, синхронизација на усна-глас може да бидат индиции; Сепак, тоа не е сигурно.
Внимание: „Алатката за детекција на вештачка интелигенција вели дека 90% се лажни“ не е причина за објавување. Овие алатки се погрешни; Тој може да го нарече вистинското лажно, а лажното вистинско. Излезот на алатката е поим; Пресудата се сведува на изворот.
Чекор по чекор: управување со сомневањата за синтетички состојки
Чекор 1 - Најдете го изворот. Кој прв ја објавил содржината, каде и кога? Самото спуштање до оригиналниот извор ќе ги уништи повеќето фалсификати.
Чекор 2 - Погледнете ги метаподатоците и обратно пребарување. Метаподатоците и обратното пребарување на слики на слика/видео може да откријат претходна верзија или оригинал.
Чекор 3 - Тестирајте ја внатрешната конзистентност. Дали светлината, сенката, рефлексијата, амбиенталниот звук, позадинските индиции од реалниот свет (ознака, време, архитектура) се совпаѓаат со тврдењето?
Чекор 4 - Потврдете го контекстот. Дали инцидентот во содржината е виден од други независни извори? Има многу траги од вистински настан; сомнителна е содржината на „бомба“ од еден извор.
Чекор 5 - Користете алатки за откривање како индиции. Сметајте го излезот на алатките за откривање на вештачка интелигенција како помошен сигнал, а не како доказ.
Чекор 6 - Известете транспарентно. Ако го објавите (како проверка на фактите), покажете што е лажно/сомнително, зошто и како сте го потврдиле.
Користење на вештачката интелигенција во одбрана
Вештачката интелигенција е исто така организациона алатка против синтетичка содржина: таа наведува што да барате на сликата, наведува знаци дека текстот може да биде генериран од вештачка интелигенција, помага да се анализира наративот на кампањата за дезинформација, да се подготви објаснувачка проверка на факти за јавноста. Но, самата определба - пресудата „тоа е лажна“ - се прави со човечко расудување и проверка на изворот.
три мини футроли
Случај 1 - Лажно снимање на глас. Објавена аудио снимка од службено лице „поднесува оставка“. Репортерот најпрво го бараше изворот: снимката потекнуваше од една анонимна сметка, немаше трага од неа никаде на друго место. Тимот на службеникот ја отфрли снимката; амбиенталниот звук исто така беше неконзистентен. Репортерот не ја објави снимката, туку известуваше за „непроверлива аудио снимка“. Снимката подоцна се покажа дека е синтетичка.
Случај 2 - Временски притисок и стоп рефлекс. Фотографијата од „урната зграда“ по земјотрес брзо се прошири. Репортерот направи обратно пребарување на слики: фотографијата е од друг настан пред 2 години. 4-минутната проверка спречи неточна слика да влезе на страницата за вести; Неколку ривалски сајтови го објавија без проверка и објавија демант.
Случај 3 - Преголема доверба во алатката за откривање. Уредник вметнал фотографија на вистинска репортер во алатка за откривање; Возилото е „78% вештачко“, рече тој. Уредникот требаше да го повлече од објавување; Кога висок проверувач на факти ги покажа метаподатоците за снимањето на фотографијата и необработеното досие на репортерот, стана јасно дека фотографијата е вистинска. Поука: медиумот греши, изворот зборува.
Шаблони за копирање
1) Список за проверка на визуелна синтетичност:
Се сомневам дека сликата може да биде вештачки произведена. Направете список со работи што треба да ги тестирам: раце/прсти, заби, накит, текст во заднина, рефлексии, конзистентност на светло-сенка, обратно пребарување, метаподатоци. Запишете како да ја барате секоја ставка. Не кажувајте сигурно „лажен/вистински“; само листа за проверка. Визуелен опис: [тука]
2) Анализирање на дезинформацискиот наратив:
Следното тврдење може да биде кампања за дезинформација. Заклучете: (1) која емоција ја таргетира, (2) каква поделба ја засилува, (3) проверливи/непроверливи компоненти, (4) каков може да биде типичниот модел на ширење. Донесување суд за праведност; анализирајте. Тврдат: [тука]
3) Нацрт-потврдна вест за јавноста:
Потврдив со примарни извори дека следнава содржина е синтетичка/лажна: [резиме на наодите]. Напишете нацрт на потврдна приказна која ќе го информира читателот, не шири паника и транспарентно покажува како јас потврдив. Не вклучувајте никакви наоди што не ги дадов. Наоди: [тука]
4) ознаки (навестување) на текстот генерирани од вештачка интелигенција:
Наведете индиции дека следниот текст може да биде вештачки произведен: непроверливи извори, прекумерна општост, еднострано кадрирање, повторувачки обрасци. Нагласете дека ова не е убедлив доказ и запишете какви фактички проверки треба да се направат. Текст: [тука]
Слаб промпт / Силен промпт
Слаба порака: „Кажи ми дали оваа слика е лажна“.
Резултат: ВИ дава прецизен изглед, но несигурен „да/не“; Новинарот може да се потпре на оваа пресуда и да греши.
Силно предупредување: „Направете список со знаци што би ги проверил дали оваа слика е вештачка и запишете како би ја барал секоја од нив. Не донесувајте конечни судови; посочете дека вистинската потврда е враќање на изворот и правење обратно пребарување“.
Разликата: Моќното известување ја намалува вештачката интелигенција на генератор на траги, оставајќи им го судот на изворот и новинарот, правејќи ја маргината на грешка на алатката видлива.
споредбена табела
Тип на содржина
Слаби индиции
Најсигурна контрола
Улогата на вештачката интелигенција
текст
Општ, измислен извор
слезе до изворот
Список со знаци
визуелен
Неусогласеност со рака/заби/пишување
Обратно пребарување + метаподатоци
листа за проверка
звук
Неконзистентност на здивот/околината
Потврда на изворот и контекстот
Што да барате
Видео (длабоко лажно)
Несовпаѓање светлина/синхронизација
Оригинален извор, вкрстено потврден
Помош за анализа
Вообичаени грешки
- Третирање на алатката за откривање како доказ. Ставање на процентот на возилото причина за објавување; алатките грешат во двете насоки.
- „Можам да забележам од видување“ самодоверба. Синтетичките визуелни елементи брзо се подобруваат; Само визуелната интуиција не е доволна.
- Не оди до изворот. Повеќето фалсификати пропаѓаат кога ќе се најде оригиналниот извор што ги објавил; Прескокнувањето на овој чекор е грешка.
- Ширење на осомничениот. Споделувањето сомнителна содржина во која се вели „да видиме дали е вистина или не“ служи за дезинформации.
- Јазик на паника. Алармантниот тон во веста за потврда шири нов страв додека се корегира; Пишувајте смирено и транспарентно.
Брзина на дифузија и „замка за негирање“
Вистинската моќ на дезинформацијата не е во самата содржина, туку во брзината со која таа се шири. Емоционално провокативната содржина која предизвикува гнев или страв се споделува многу побрзо од проверените вести; Додека лажните содржини достигнуваат милиони за неколку часа, редакцијата често допира многу помалку луѓе. Оваа асиметрија му става посебна одговорност на новинарот: споделувањето сомнителна содржина, дури и со кажување „види колку смешно“, му дава пристап. Ова се нарекува оксигенација - повторувањето на лагата за да се побие тоа всушност го поттикнува.
Противотров за ова е техниката „сендвич со вистина“ при проверка на фактите: кажете ја вистината пред да го повторите лажното тврдење, потоа покажете зошто тврдењето е лажно, а потоа повторете ја вистината повторно на крајот. На овој начин, она што останува во умот на читателот не е грешката, туку вистината. ВИ може да помогне да се подготви приказна за проверка на факти според оваа структура; Но, уредувачката одлука е која вистина да се изнесе и да се информира јазикот без да се шири паника. Друга практика: прашување која празнина ја пополнува дезинформацијата? Луѓето често прифаќаат лажна содржина поради недостаток на веродостојни информации; Пополнувањето на таа празнина со брзи, точни и достапни вести е поефикасна одбрана од бркањето лаги една по една.
Сумирано
Синтетичката содржина и длабоките фејкови ги поевтинија и забрзаа дезинформациите; Должност на новинарот е да не го објавува ова и да ја информира јавноста. Алатките за откривање и вештачката интелигенција обезбедуваат индиции и организација - но не и дефинитивен доказ. Пресудата се прави со одење до изворот, метаподатоците и обратното пребарување, внатрешната конзистентност и независен контекст. Веста за потврда е напишана на мирен, транспарентен јазик кој покажува како е проверена.
Задача за апликација
Најдете визуелна или аудио содржина што мислите дека е сомнителна. Следете го известувањето „Список за проверка на визуелна синтетичност“ (или адаптација за аудио); навистина проверете ја секоја ставка и обратете го пребарувањето. Оценете го резултатот како „вистински/лажни/недоволни докази“ и споредете го со одлуката што би ја донеле доколку се потпирате исклучиво на алатката за откривање.
листа за проверка
- [ ] Го сметам излезот од алатките за откривање како индиции, а не доказ.
- [ ] За каква било сомнителна содржина, прво го барам оригиналниот извор и првата публикација.
- [ ] Погрижувам да го обратам пребарувањето и метаподатоците да ги проверувам сликите.
- [ ] Не ширам непроверена сомнителна содржина.
- [ ] Пишувам вести за потврда на мирен, транспарентен јазик што покажува како сум го потврдил.