Pelnas:
- Gebėjimas atpažinti sintetinio teksto, vaizdų, garso ir netikrų vaizdo įrašų tipus, įkalčius ir sklidimo modelius
- Gebėjimas valdyti sintetinio turinio įtarimus naudojant šaltinio sekimą, metaduomenis, atvirkštinę paiešką ir konteksto patvirtinimą bei naudoti dirbtinį intelektą kaip organizacinę gynybos priemonę
- Gebėjimas suprasti, kad aptikimo įrankiai nėra galutinis įrodymas, kad sprendimas priklauso nuo šaltinio ir kad patvirtinančios naujienos turi būti parašytos ramia, skaidria kalba.
Dirbtinis intelektas – ne tik žurnalisto įrankis; Tai taip pat yra grėsmės jai variklis. Šiandien įtikinamas netikras tekstas, iš pažiūros tikros nuotraukos, neegzistuojančių žmonių veidai ir balsai, tariantys sakinius, kurių niekas niekada neištarė, gali būti pagaminti per kelias minutes. Tai bendrai vadinama sintetiniu turiniu (dirbtinai pagaminta laikmena); Vaizdo/garso tipas, kuris tikroviškai imituoja žmogaus veidą ar balsą, vadinamas giliu klastojimu. Dezinformacija – tyčia skleidžiama klaidinga informacija – naudojant šias priemones tapo pigesnė ir greitesnė. Žurnalisto pareiga padvigubėjo: ir neleisti šio turinio publikuoti, ir informuoti visuomenę apie šią grėsmę. Šiame skyriuje aptariame AI naudojimą, kad suprastume grėsmę ir apsigintume nuo jos. Pagrindinis principas: jokia aptikimo priemonė nėra įtikinamas įrodymas; Įtarimai dėl sintetinio turinio išsprendžiami naudojant klasikinį patikrinimą, kuris priklauso nuo šaltinio ir konteksto.
Sintetinio turinio rūšys ir patarimai
Tekstas. AI gali sukurti sklandžius, bet tuščius, apibendrinimus, išgalvotus tekstus; Čia klesti netikros „naujienų svetainės“ ir komentarų armijos. Užuomina: nepatikimi šaltiniai, pernelyg bendri teiginiai, nuolatinis vienpusis įrėminimas.
Vizualinis. Dirbtiniuose vaizduose rankos/pirštai, dantys, ausys, papuošalai, fono tekstas ir atspindžiai dažnai būna nenuoseklūs; Tačiau technologijos sparčiai tobulėja, todėl „galiu pasakyti savo akimis pažiūrėjęs“ yra pavojingas pasitikėjimas.
Garsas. Neišsakyti sakiniai gali būti išsakyti pareigūno balsu. Patarimas: kvėpavimas/pauzės natūralumas, aplinkos garso nuoseklumas, tačiau patikimiausias patikrinimas – patikrinti turinio šaltinį.
Vaizdo įrašas (deepfake). Veido ir kaklo / šviesos neatitikimas, akių mirksėjimas, lūpų ir balso sinchronizavimas gali būti užuominos; Tačiau tai nėra tikra.
Dėmesio: „AI aptikimo įrankis sako, kad 90 % yra netikri“ nėra paskelbimo priežastis. Šios priemonės yra neteisingos; Jis gali vadinti tikrą netikrą ir netikrą tikru. Įrankio išvestis yra užuomina; Nuosprendis ateina į šaltinį.
Žingsnis po žingsnio: valdykite įtarimą dėl sintetinių ingredientų
1 veiksmas – suraskite šaltinį. Kas pirmasis paskelbė turinį, kur ir kada? Pasinaudojus pirminiu šaltiniu, dauguma padirbinių bus sunaikinti.
2 veiksmas. Peržiūrėkite metaduomenis ir atvirkštinę paiešką. Metaduomenys ir atvirkštinė vaizdų paieška vaizde / vaizdo įraše gali atskleisti ankstesnę versiją arba originalą.
3 veiksmas – patikrinkite vidinį nuoseklumą. Ar šviesa, šešėlis, atspindys, aplinkos garsas, foniniai realaus pasaulio įkalčiai (ženklai, oras, architektūra) atitinka teiginį?
4 veiksmas – patikrinkite kontekstą. Ar įvykį turinyje matė kiti nepriklausomi šaltiniai? Yra daug tikro įvykio pėdsakų; Vieno šaltinio „bombos“ turinys yra abejotinas.
5 veiksmas – naudokite aptikimo įrankius kaip įkalčius. AI aptikimo įrankių išvestį skaičiuokite kaip pagalbinį signalą, o ne kaip įrodymą.
6 veiksmas. Praneškite skaidriai. Jei jį paskelbiate (kaip tikrindami faktus), parodykite, kas netikra / įtartina, kodėl ir kaip tai patvirtinote.
AI naudojimas gynyboje
AI taip pat yra organizacinė priemonė prieš sintetinį turinį: ji išvardija, ko ieškoti vaizde, išvardija ženklus, kad tekstas gali būti sukurtas dirbtinio intelekto, padeda išanalizuoti dezinformacijos kampanijos pasakojimą, rengia aiškinamąjį faktų patikrinimą visuomenei. Tačiau pats apsisprendimas – „tai netikras“ – priimamas žmogaus sprendimu ir patikrinus šaltinį.
trys mini dėklai
1 atvejis – netikras balso įrašymas. Buvo išplatintas pareigūno „atsistatydinimo“ garso įrašas. Pranešėjas pirmiausia ieškojo šaltinio: įrašas buvo iš vienos anoniminės paskyros, niekur kitur jo nebuvo. Pareigūno komanda atmetė įrašą; aplinkos garsas taip pat buvo nenuoseklus. Žurnalistas nepaskelbė įrašo, o pranešė apie „nepatikrinamą garso įrašą“. Vėliau pasirodė, kad įrašas buvo sintetinis.
2 atvejis – laiko spaudimas ir sustojimo refleksas. Po žemės drebėjimo „sugriuvusio pastato“ nuotrauka greitai išplito. Žurnalistas atliko atvirkštinę vaizdų paiešką: nuotrauka buvo iš kito įvykio prieš 2 metus. 4 minučių patikrinimas neleido į naujienų svetainę patekti neteisingam vaizdui; Kelios konkuruojančios svetainės paskelbė tai nepatikrinusios ir paskelbė paneigimą.
3 atvejis – per didelis pasitikėjimas aptikimo įrankiu. Redaktorius į aptikimo įrankį įdėjo tikro reporterio nuotrauką; Transporto priemonė yra „78% dirbtinė“, – sakė jis. Redaktorius ruošėsi jį atšaukti iš leidybos; Kai vyresnysis faktų tikrintojas parodė nuotraukos fotografavimo metaduomenis ir reporterio neapdorotą failą, tapo aišku, kad nuotrauka tikra. Pamoka: klysta terpė, kalba šaltinis.
Kopijuojami šablonai
1) Vizualinio sintetiškumo kontrolinis sąrašas:
Įtariu, kad vaizdas gali būti sukurtas dirbtinai. Sudarykite kontrolinį sąrašą dalykų, kuriuos turiu išbandyti: rankos / pirštai, dantys, papuošalai, fono tekstas, atspindžiai, šviesos ir šešėlio nuoseklumas, atvirkštinė paieška, metaduomenys. Užrašykite, kaip ieškoti kiekvienos prekės. Tikrai nesakyk „netikras/tikras“; tiesiog kontrolinis sąrašas. Vizualus aprašymas: [čia]
2) Dezinformacijos naratyvo analizė:
Šis teiginys gali būti dezinformacijos kampanija. Nuspręskite: (1) į kokias emocijas jis nukreiptas, (2) į kokią padalijimą ji sustiprina, (3) patikrinamus/nepatikrinamus komponentus, (4) koks gali būti tipiškas sklaidos modelis. Teisumo sprendimas; analizuoti. Pretenzija: [čia]
3) Patvirtinimo naujienų projektas visuomenei:
Iš pirminių šaltinių patikrinau, kad šis turinys yra sintetinis / klaidinantis: [išvadų santrauka]. Parašykite patvirtinimo istorijos juodraštį, kuris informuotų skaitytoją, nekeltų panikos ir skaidriai parodytų, kaip aš patikrinau. Neįtraukite jokių išvadų, kurių nepateikiau. Išvados: [čia]
4) AI sugeneruoti teksto ženklai (užuomina):
Išvardykite UŽMIKUS, kad šis tekstas gali būti dirbtinai sukurtas: nepatikrinami šaltiniai, perdėtas bendrumas, vienpusis kadravimas, pasikartojantys modeliai. Pabrėžkite, kad tai nėra įtikinami įrodymai, ir užsirašykite, kokius faktinius patikrinimus reikia atlikti. Tekstas: [čia]
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas: „Pasakykite man, ar šis vaizdas yra netikras“.
Rezultatas: AI pateikia tiksliai atrodantį, bet nepatikimą „taip/ne“; Žurnalistas gali pasikliauti šiuo sprendimu ir klysti.
Stiprus raginimas: „Sudarykite sąrašą ženklų, kuriuos tikrinčiau, ar šis vaizdas gali būti dirbtinis, ir užsirašykite, kaip kiekvieno jų ieškočiau. Nedarykite jokių galutinių sprendimų; atkreipkite dėmesį, kad tikrasis patikrinimas yra grįžimas į šaltinį ir atvirkštinė paieška."
Skirtumas: galingas raginimas sumažina AI į užuominų generatorių, paliekant sprendimą šaltiniui ir žurnalistui, todėl įrankio paklaida matoma.
palyginimo diagrama
Turinio tipas
Silpni įkalčiai
Patikimiausias valdymas
AI vaidmuo
tekstą
Bendras, sugalvotas šaltinis
nusileisti prie šaltinio
Ženklų sąrašas
vizualiai
Rankų / dantų / rašymo neatitikimas
Atvirkštinė paieška + metaduomenys
kontrolinis sąrašas
garsas
Kvėpavimo/aplinkos nenuoseklumas
Šaltinio ir konteksto patvirtinimas
Ko ieškoti
Vaizdo įrašas (deepfake)
Šviesos / sinchronizavimo neatitikimas
Originalus šaltinis, kryžmiškai patvirtintas
Analizės pagalba
Dažnos klaidos
- Aptikimo įrankio traktavimas kaip įrodymas. Transporto priemonės procentinė dalis paskelbimo priežastimi; įrankiai klysta į abi puses.
- „Galiu pasakyti iš matymo“ pasitikėjimas. Sintetinis vaizdas sparčiai tobulėja; Vien vizualinės intuicijos neužtenka.
- Neikite į šaltinį. Dauguma padirbinių žlunga, kai randamas pirminis jas paskelbęs šaltinis; Praleisti šį žingsnį yra klaida.
- Įtariamojo platinimas. Dalijimasis įtartinu turiniu, sakydamas „pažiūrėkime, ar tai tiesa, ar ne“, yra dezinformacija.
- Panikos kalba. Nerimą keliantis tonas patvirtinimo naujienose skleidžia naują baimę taisant; Rašykite ramiai ir skaidriai.
Difuzijos greitis ir „neigimo spąstai“
Tikroji dezinformacijos galia slypi ne pačiame turinyje, o jos plitimo greityje. Emociškai provokuojantis turinys, keliantis pyktį ar baimę, dalijamasi daug greičiau nei patikrintos naujienos; Nors netikras turinys milijonus pasiekia per kelias valandas, taisymas dažnai pasiekia daug mažiau žmonių. Dėl šios asimetrijos žurnalistui tenka ypatinga atsakomybė: dalijimasis abejotinu turiniu, net sakydamas „pažiūrėk, kaip juokinga“, suteikia jam prieigą. Tai vadinama deguonimi – melo kartojimas, siekiant jį paneigti, iš tikrųjų jį skatina.
Priešnuodis tam yra „tiesos sumuštinio“ technika tikrinant faktus: pasakykite tiesą prieš kartodami klaidingą teiginį, tada parodykite, kodėl teiginys yra klaidingas, tada pakartokite tiesą dar kartą pabaigoje. Tokiu būdu skaitytojo mintyse lieka ne klaida, o tiesa. AI gali padėti parengti faktų tikrinimo istoriją pagal šią struktūrą; Tačiau tai yra redakcinis sprendimas, kurią tiesą iškelti ir informuoti kalbą nekeliant panikos. Kita praktika: klausti, kokia spraga yra dezinformacijos užpildymas? Žmonės dažnai priima netikrą turinį dėl patikimos informacijos trūkumo; Užpildyti šią spragą greitomis, tiksliomis ir prieinamomis naujienomis yra veiksmingesnė gynyba nei melo vaikymasis po vieną.
Apibendrinant
Sintetinis turinys ir klastotės atpigo ir paspartino dezinformaciją; Žurnalisto pareiga – to neskelbti ir informuoti visuomenę. Aptikimo įrankiai ir AI suteikia užuominų ir organizavimo, bet ne galutinius įrodymus. Sprendimas priimamas nuėjus prie šaltinio, metaduomenų ir atvirkštinės paieškos, vidinio nuoseklumo ir nepriklausomo konteksto. Patvirtinimo naujienos parašytos ramia, skaidria kalba, kuri parodo, kaip jos buvo patikrintos.
Taikymo užduotis
Raskite vaizdo ar garso turinį, kuris, jūsų nuomone, yra įtartinas. Vykdykite raginimą „Vaizdo sintetiškumo kontrolinis sąrašas“ (arba pritaikymas garsui); tikrai patikrinkite kiekvieną elementą ir atlikite atvirkštinę paiešką. Įvertinkite rezultatą kaip „tikras / netikras / nepakankamas įrodymas“ ir palyginkite jį su sprendimu, kurį priimtumėte, jei pasikliautumėte tik aptikimo įrankiu.
kontrolinis sąrašas
- [ ] Aptikimo įrankių rezultatus laikau įkalčiais, o ne įrodymu.
- [ ] Dėl bet kokio abejotino turinio pirmiausia ieškau originalaus šaltinio ir pirmosios publikacijos.
- [ ] Būtinai atliksiu atvirkštinę paiešką ir patikrinu metaduomenis.
- [ ] Neplatinu nepatikrinto abejotino turinio.
- [ ] Patvirtinimo naujienas rašau ramia, skaidria kalba, kuri parodo, kaip aš tai patikrinau.