Добици:
- Способност препознавања типова, трагова и образаца ширења синтетичког текста, слика, звука и дубоко лажног видеа
- Способност управљања сумњом на синтетички садржај помоћу праћења извора, метаподатака, обрнутог претраживања и верификације контекста и коришћење вештачке интелигенције као организационог алата у одбрани
- Способност да се разуме да алати за откривање нису коначан доказ, да се просуђивање своди на извор и да вести о потврди треба да буду написане мирним, транспарентним језиком.
Вештачка интелигенција није само новинарско оруђе; То је такође мотор претње против њега. Данас се уверљиви лажни текст, наизглед праве фотографије, лица непостојећих људи и гласови који изговарају реченице које неко никада није изговорио могу произвести за неколико минута. Они се заједнички називају синтетичким садржајем (вештачки произведени медији); Тип видео/аудио који реално имитира лице или глас особе назива се деепфаке. Дезинформације — намерно ширење лажних информација — постале су и јефтиније и брже кроз ове алате. Дужност новинара је удвостручена: и да спречи објављивање овог садржаја и да обавести јавност о овој претњи. У овој јединици покривамо коришћење вештачке интелигенције како бисмо разумели претњу и одбранили се од ње. Основни принцип: Ниједан алат за детекцију није коначан доказ; Сумња у синтетички садржај решава се класичном верификацијом која се своди на извор и контекст.
Врсте и савети синтетичког садржаја
Текст. АИ може произвести течне, али празне, измишљене текстове испуњене генерализацијом; лажне „сајтове са вестима“ и армије коментара напредују на овоме. Наговештај: непроверљиви извори, превише опште изјаве, упорно једнострано уоквиривање.
Висуал. На вештачким сликама, руке/прсти, зуби, уши, накит, позадински текст и рефлексије су често недоследни; Али технологија се убрзано побољшава, тако да је „могу рећи гледајући је својим очима“ опасно поверење.
Звук. Неизговорене реченице могу произвести глас службеног лица. Савет: природност дисања/паузе, конзистентност амбијенталног звука, али најпоузданија провера је да се провери извор садржаја.
Видео (деепфаке). Неподударање лица и врата/светла, трептање ока, синхронизација усана и гласа могу бити трагови; Међутим, није извесно.
Пажња: „Алатка за детекцију АИ каже да је 90% лажно“ није разлог за објављивање. Ови алати су погрешни; Он може назвати право лажно, а лажно правим. Излаз алата је траг; Пресуда се своди на извор.
Корак по корак: управљање сумњом на синтетичке састојке
Корак 1 — Пронађите извор. Ко је први објавио садржај, где и када? Само одлазак до оригиналног извора уништиће већину лажњака.
Корак 2 — Погледајте метаподатке и обрнуте претрагу. Метаподаци и обрнуто претраживање слике на слици/видеу могу открити претходну верзију или оригинал.
Корак 3 — Тестирајте интерну доследност. Да ли се светлост, сенка, одраз, амбијентални звук, позадински трагови из стварног света (ознаке, време, архитектура) подударају са тврдњом?
Корак 4 — Проверите контекст. Да ли су инцидент у садржају видели други независни извори? Много је трагова стварног догађаја; садржај "бомба" из једног извора је упитан.
Корак 5 — Користите алате за откривање као трагове. Рачунајте излаз алата за детекцију АИ као помоћни сигнал, а не као доказ.
Корак 6 — Извјештај транспарентно. Ако га објавите (као проверу чињеница), покажите шта је лажно/сумњиво, зашто и како сте то проверили.
Коришћење вештачке интелигенције у одбрани
АИ је такође организациони алат против синтетичког садржаја: наводи шта треба тражити на слици, наводи знакове да је текст можда генерисан вештачком интелигенцијом, помаже у рашчлањивању наратива кампање дезинформација, саставља нацрте за проверу чињеница са објашњењима за јавност. Али сама одлука — пресуда „то је лажна“ — доноси се људским просуђивањем и верификацијом извора.
три мини кофера
Случај 1 — Лажни снимак гласа. Кружен је аудио-снимак службеног „подношења оставке“. Новинар је прво потражио извор: снимак је дошао са једног анонимног налога, нигде више о њему није било трага. Тим званичника је одбио снимак; амбијентални звук је такође био недоследан. Репортер није објавио снимак, већ је известио о "непроверљивом аудио снимку". Касније се показало да је снимак био синтетички.
Случај 2 — Временски притисак и стоп рефлекс. Фотографија "срушене зграде" након земљотреса брзо се проширила. Новинар је извршио обрнуту претрагу слике: фотографија је са другог догађаја пре 2 године. 4-минутна провера спречила је да нетачна слика уђе на сајт вести; Неколико ривалских сајтова објавило је то без провере и објавило деманти.
Случај 3 — Претерано поверење у алатку за откривање. Уредник је уметнуо фотографију правог репортера у алатку за детекцију; Возило је "78% вештачко", рекао је он. Уредник се спремао да га повуче из објављивања; Када је виши контролор чињеница показао метаподатке о снимању фотографије и сирови фајл репортера, постало је јасно да је фотографија стварна. Поука: медиј греши, извор говори.
Шаблони који се могу копирати
1) Контролна листа визуелне синтетичности:
Претпостављам да је слика можда вештачки произведена. Направите контролну листу ствари које треба да тестирам: руке/прсти, зуби, накит, позадински текст, рефлексије, доследност светлосних сенки, обрнуто претраживање, метаподаци. Запишите како да тражите сваку ставку. Немојте сигурно рећи "лажно/стварно"; само контролна листа. Визуелни опис: [овде]
2) Анализирајући нарацију о дезинформацијама:
Следећа тврдња може бити кампања дезинформисања. Закључите: (1) на коју емоцију циља, (2) коју подјелу појачава, (3) компоненте које се могу провјерити/непровјерити, (4) који би типичан образац ширења могао бити. Доношење пресуде праведности; анализирати. Тврдња: [овде]
3) Нацрт потврдне вести за јавност:
Проверио сам са примарним изворима да је следећи садржај синтетички/обмањујући: [сажетак налаза]. Напишите нацрт приче о потврди која информише читаоца, не шири панику и транспарентно показује како сам проверио. Немојте укључивати никакве налазе које нисам дао. Налази: [овде]
4) АИ генерисане ознаке (наговештај) текста:
Наведите НАГЛЕДНЕ да би следећи текст могао бити вештачки произведен: непроверљиви извори, претерана општост, једнострано уоквиривање, обрасци који се понављају. Нагласите да ово није коначан доказ и напишите које чињеничне провере треба извршити. Текст: [овде]
Слаби промпт / Јаки промпт
Слаб упит: „Реците ми да ли је ова слика лажна.“
Резултат: АИ даје прецизно, али непоуздано „да/не“; Новинар се може ослонити на ову пресуду и погрешити.
Снажан позив: „Направите листу знакова које бих проверио да би ова слика могла бити вештачка, и запишите како бих тражио сваки од њих. Немојте доносити никакве коначне пресуде; истакните да је права провера враћање на извор и обрнута претрага.“
Разлика: Снажан упит своди АИ на генератор трагова, остављајући расуђивање извору и новинару, чинећи маргину грешке алата видљивом.
упоредни графикон
Тип садржаја
Слаби трагови
Најпоузданија контрола
Улога АИ
текст
Општи, измишљени извор
сиђи до извора
Потписна листа
визуелни
Неподударност руку/зуба/писања
Обрнута претрага + метаподаци
контролна листа
звук
Недоследност даха/окружења
Извор и потврда контекста
Шта тражити
Видео (деепфаке)
Неусклађеност светла/синхронизације
Оригинални извор, унакрсно потврђен
Помоћ у анализи
Уобичајене грешке
- Третирање алата за откривање као доказа. Постављање процента возила као разлог за објављивање; алати греше у оба смера.
- Самопоуздање „могу рећи из виђења“. Синтетички визуелни елементи се брзо побољшавају; Само визуелна интуиција није довољна.
- Не иде на извор. Већина фалсификата пропада када се пронађе оригинални извор који их је објавио; Прескакање овог корака је грешка.
- Ширење осумњиченог. Дељење сумњивог садржаја који каже „хајде да видимо да ли је истина или не“ служи дезинформацијама.
- Језик панике. Алармистички тон у вестима потврде шири нови страх док се исправља; Пишите мирно и транспарентно.
Брзина дифузије и "замка порицања"
Права моћ дезинформација није у самом садржају, већ у брзини којом се шири. Емоционално провокативни садржај који изазива бес или страх се дели много брже од проверених вести; Док лажни садржај достиже милионе у року од неколико сати, редакција често допире до много мањег броја људи. Ова асиметрија ставља посебну одговорност на новинара: дељење сумњивог садржаја, чак и изговарањем „види како је смешно“, даје му приступ. Ово се зове оксигенација - понављање лажи да би се оповргло то заправо подстиче.
Протуотров за ово је техника „сендвича истине“ у провери чињеница: реците истину пре него што поновите лажну тврдњу, затим покажите зашто је тврдња лажна, а затим поновите истину поново на крају. На овај начин, оно што читаоцу остаје у уму није грешка, већ истина. АИ може помоћи у изради приче за проверу чињеница према овој структури; Али уредничка одлука је коју истину да изнесе и да обавести језик без ширења панике. Друга пракса: питање које празнине попуњавају дезинформације? Људи често прихватају лажни садржај због недостатка поузданих информација; Попунити ту празнину брзим, тачним и приступачним вестима је ефикаснија одбрана од јурњаве лажи једну по једну.
Укратко
Синтетички садржај и деепфакес појефтинили су и убрзали дезинформације; Дужност новинара је да ово не објављује и да обавести јавност. Алати за детекцију и вештачка интелигенција пружају трагове и организацију - али не и дефинитиван доказ. Процена се доноси одласком до извора, метаподатака и обрнутог претраживања, интерне доследности и независног контекста. Потврдна вест је написана мирним, транспарентним језиком који показује како је проверена.
Задатак апликације
Пронађите визуелни или аудио садржај за који мислите да је сумњив. Следите промпт „Контролна листа визуелне синтетичности“ (или адаптација за аудио); заиста проверите сваку ставку и обрните претрагу. Оцените резултат као „прави/лажни/недовољни докази” и упоредите га са одлуком коју бисте донели да се ослањате само на алатку за откривање.
контролна листа
- [ ] Резултате алата за откривање сматрам траговима, а не доказом.
- [ ] За сваки споран садржај прво тражим оригинални извор и прву публикацију.
- [ ] Обавезно преокренути претрагу и метаподатке проверавам слике.
- [ ] Не ширим непроверен сумњив садржај.
- [ ] Пишем потврдне вести мирним, транспарентним језиком који показује како сам је проверио.