Dobički:
- Sposobnost prepoznavanja vrst, namigov in vzorcev širjenja sintetičnega besedila, slik, zvoka in globoko lažnega videa
- Sposobnost obvladovanja suma sintetične vsebine s sledenjem vira, metapodatki, povratnim iskanjem in preverjanjem konteksta ter uporabo umetne inteligence kot organizacijskega orodja v obrambi
- Sposobnost razumevanja, da orodja za odkrivanje niso dokončni dokazi, da se presoja spusti do vira in da morajo biti potrditvene novice napisane v mirnem, preglednem jeziku.
Umetna inteligenca ni le novinarsko orodje; Je tudi motor grožnje proti njej. Danes lahko prepričljivo lažno besedilo, navidezno prave fotografije, obraze neobstoječih ljudi in glasove, ki izrekajo stavke, ki jih nekdo nikoli ni izrekel, ustvarimo v nekaj minutah. Te se skupaj imenujejo sintetične vsebine (umetno proizvedeni mediji); Vrsta videa/zvoka, ki realistično posnema obraz ali glas osebe, se imenuje deepfake. Dezinformacije – namerno širjenje lažnih informacij – so s temi orodji postale cenejše in hitrejše. Novinarska dolžnost se je podvojila: tako preprečiti objavo te vsebine kot tudi obvestiti javnost o tej grožnji. V tej enoti obravnavamo uporabo umetne inteligence za razumevanje grožnje in obrambo pred njo. Osnovno načelo: nobeno orodje za odkrivanje ni prepričljiv dokaz; Sum sintetične vsebine razreši klasična verifikacija, ki se spusti do vira in konteksta.
Vrste in nasveti sintetične vsebine
Besedilo. AI lahko proizvede tekoča, a prazna, posploševanja polna, izmišljena besedila; na tem uspevajo lažne »strane z novicami« in vojske komentarjev. Namig: nepreverljivi viri, presplošne navedbe, vztrajno enostransko uokvirjanje.
Vizualno. Na umetnih slikah so roke/prsti, zobje, ušesa, nakit, besedilo v ozadju in odsevi pogosto nedosledni; Toda tehnologija se hitro izboljšuje, zato je "to lahko povem, če pogledam na lastne oči" nevarno zaupanje.
Zvok. Neizgovorjene stavke lahko proizvede glas uradnika. Namig: naravnost vdihavanja/pavze, doslednost ambientalnega zvoka, a najbolj zanesljivo preverjanje je preverjanje vira vsebine.
Video (deepfake). Neusklajenost obraza in vratu/svetlobe, mežikanje z očmi, sinhronizacija ustnic in glasu so lahko namigi; Vendar ni gotovo.
Pozor: "Orodje za odkrivanje AI pravi, da je 90% lažnih" ni razlog za objavo. Ta orodja so napačna; Pravega lahko imenuje ponaredek, ponaredek pa pravi. Rezultat orodja je namig; Sodba se spusti do vira.
Korak za korakom: obvladovanje suma sintetičnih sestavin
1. korak — Poiščite vir. Kdo je prvi objavil vsebino, kje in kdaj? Samo spuščanje do izvirnega vira bo razkrilo večino ponaredkov.
2. korak — Oglejte si metapodatke in vzvratno iskanje. Metapodatki in obratno iskanje slik na sliki/videoposnetku lahko razkrijejo prejšnjo različico ali izvirnik.
3. korak — preizkusite notranjo skladnost. Ali se svetloba, senca, odsev, ambientalni zvok, namigi iz resničnega sveta v ozadju (oznake, vreme, arhitektura) ujemajo s trditvijo?
4. korak — Preverite kontekst. Ali so incident v vsebini videli drugi neodvisni viri? Veliko je sledi resničnega dogodka; "bomba" vsebine enega vira je vprašljiva.
5. korak — Uporabite orodja za odkrivanje kot namige. Izhod orodij za odkrivanje AI štejte kot pomožni signal, ne kot dokaz.
6. korak — Poročajte pregledno. Če ga objavite (kot preverjanje dejstev), pokažite, kaj je lažno/sumljivo, zakaj in kako ste to preverili.
Uporaba AI v obrambi
Umetna inteligenca je tudi organizacijsko orodje proti sintetični vsebini: navaja, kaj je treba iskati na sliki, navaja znake, da je besedilo morda ustvarila umetna inteligenca, pomaga pri razčlenjevanju pripovedi dezinformacijske kampanje, pripravi osnutek razlage preverjanja dejstev za javnost. Toda sama odločitev – razsodba, da je ponaredek – je narejena s človeško presojo in preverjanjem vira.
trije mini kovčki
1. primer – Lažni glasovni posnetek. Zakrožil je zvočni posnetek "odstopa" uradnika. Novinar je najprej poiskal vir: posnetek izvira iz enega samega anonimnega računa, nikjer drugje o njem ni bilo sledi. Uradna ekipa je posnetek zavrnila; tudi ambientalni zvok je bil nedosleden. Novinar posnetka ni objavil, temveč je poročal o "nepreverljivem zvočnem posnetku". Kasneje se je izkazalo, da je posnetek sintetičen.
Primer 2 – Časovni pritisk in stop refleks. Fotografija "porušene stavbe" po potresu se je hitro razširila. Novinar je naredil obratno iskanje slike: fotografija je bila z drugega dogodka pred dvema letoma. 4-minutno preverjanje je preprečilo vstop napačne slike na spletno stran z novicami; Nekaj konkurenčnih strani je to objavilo brez preverjanja in objavilo zanikanje.
Primer 3 – Pretirano zaupanje v orodje za odkrivanje. Urednik je v orodje za zaznavanje vstavil pravo novinarjevo fotografijo; Vozilo je "78% umetno," je dejal. Urednik jo je hotel umakniti iz objave; Ko je višji preverjevalec dejstev pokazal metapodatke o snemanju fotografije in novinarjevo neobdelano datoteko, je postalo jasno, da je fotografija resnična. Nauk: medij se moti, vir govori.
Kopirane predloge
1) Kontrolni seznam vizualne sintetičnosti:
Sumim, da je slika lahko umetno ustvarjena. Naredite kontrolni seznam stvari, ki jih moram preizkusiti: roke/prsti, zobje, nakit, besedilo v ozadju, odsevi, skladnost svetlobe in sence, vzvratno iskanje, metapodatki. Zapišite, kako iskati vsak predmet. Zagotovo ne recite "ponarejeno/resnično"; samo kontrolni seznam. Vizualni opis: [tukaj]
2) Analiza dezinformacijske pripovedi:
Naslednja trditev je lahko dezinformacijska kampanja. Sklepajte: (1) na katero čustvo cilja, (2) kakšno ločnico krepi, (3) preverljive/nepreverljive komponente, (4) kakšen bi lahko bil tipičen vzorec širjenja. Izdelava sodbe o pravičnosti; analizirati. Zahtevek: [tukaj]
3) Osnutek potrditvene novice za javnost:
S primarnimi viri sem preveril, da je naslednja vsebina sintetična/zavajajoča: [povzetek ugotovitev]. Napišite osnutek potrditvene zgodbe, ki obvešča bralca, ne širi panike in pregledno pokaže, kako sem preveril. Ne vključi nobenih ugotovitev, ki jih nisem posredoval. Ugotovitve: [tukaj]
4) Umetna inteligenca generira oznake (namig) besedila:
Navedite NAMIGE, da je lahko naslednje besedilo umetno ustvarjeno: nepreverljivi viri, pretirana splošnost, enostransko uokvirjanje, ponavljajoči se vzorci. Poudarite, da to ni prepričljiv dokaz, in zapišite, katera dejanska preverjanja je treba opraviti. Besedilo: [tukaj]
Šibek poziv/močan poziv
Šibek poziv: "Povej mi, če je ta slika lažna."
Rezultat: AI daje na videz natančen, a nezanesljiv "da/ne"; Novinar se lahko zanese na to sodbo in se zmoti.
Močan poziv: "Naredite seznam znakov, za katere bi preveril, da je ta slika morda umetna, in zapišite, kako bi pogledal vsakega od njih. Ne sklepajte končnih sodb; poudarite, da je pravo preverjanje vrnitev k viru in obratno iskanje."
Razlika: Zmogljiv poziv zmanjša AI na generator namigov, presojo pa prepusti viru in novinarju, zaradi česar je meja napake orodja vidna.
primerjalna tabela
Vrsta vsebine
Šibki namigi
Najbolj zanesljiv nadzor
Vloga AI
besedilo
Splošni, izmišljeni vir
spusti se do izvira
Seznam znakov
vizualni
Neskladje roka/zobe/pisava
Povratno iskanje + metapodatki
kontrolni seznam
zvok
Neskladnost dihanje/okolje
Potrditev vira in konteksta
Kaj iskati
Video (deepfake)
Neusklajenost svetlobe/sinhronizacije
Izvirni vir, navzkrižno potrjen
Pomoč pri analizi
Pogoste napake
- Orodje za odkrivanje obravnavajte kot dokaz. Določanje odstotka vozila kot razloga za objavo; orodja motijo v obe smeri.
- Samozavest "vem na videz". Sintetični vizualni elementi se hitro izboljšujejo; Samo vizualna intuicija ni dovolj.
- Ne grem k izviru. Večina ponaredkov propade, ko se najde izvirni vir, ki jih je objavil; Preskok tega koraka je napaka.
- Širjenje osumljenca. Deljenje sumljive vsebine z besedami "poglejmo, ali je res ali ne" služi dezinformacijam.
- Jezik panike. Alarmni ton v potrditvenih novicah širi nov strah, medtem ko popravlja; Pišite umirjeno in pregledno.
Difuzijska hitrost in "pasti zanikanja"
Prava moč dezinformacij ni v sami vsebini, ampak v hitrosti, s katero se širijo. Čustveno provokativne vsebine, ki vzbujajo jezo ali strah, se delijo veliko hitreje kot preverjene novice; Medtem ko lažna vsebina doseže milijone v nekaj urah, redigiranje pogosto doseže veliko manj ljudi. Ta asimetrija novinarju nalaga posebno odgovornost: delitev vprašljive vsebine, tudi z besedami "glej, kako smešno", mu omogoča dostop. Temu se reče oksigenacija – ponavljanje laži, da bi jo ovrgli, jo dejansko spodbuja.
Protistrup za to je tehnika "sendviča resnice" pri preverjanju dejstev: povejte resnico, preden ponovite napačno trditev, nato pokažite, zakaj je trditev napačna, nato pa na koncu znova ponovite resnico. Na ta način tisto, kar ostane v bralčevih mislih, ni napaka, ampak resnica. AI lahko pomaga pripraviti zgodbo o preverjanju dejstev v skladu s to strukturo; Toda uredniška odločitev je, katero resnico bo predstavila in obveščala jezik brez širjenja panike. Druga praksa: vprašanje, kakšno vrzel zapolnjujejo dezinformacije? Ljudje pogosto sprejmejo lažno vsebino zaradi pomanjkanja zanesljivih informacij; Zapolnjevanje te vrzeli s hitrimi, natančnimi in dostopnimi novicami je učinkovitejša obramba kot preganjanje laži eno za drugo.
Če povzamem
Sintetična vsebina in ponaredki so pocenili in pospešili dezinformacije; Novinarska dolžnost je, da tega ne objavi in obvesti javnost. Orodja za odkrivanje in umetna inteligenca zagotavljajo namige in organizacijo, vendar ne dokončnega dokaza. Presoja se izvede na podlagi vira, metapodatkov in povratnega iskanja, notranje doslednosti in neodvisnega konteksta. Potrditvena novica je napisana v mirnem, preglednem jeziku, ki prikazuje, kako je bila preverjena.
Aplikacijska naloga
Poiščite slikovno ali zvočno vsebino, ki se vam zdi sumljiva. Sledite pozivu »Kontrolni seznam vizualne sintetičnosti« (ali prilagoditev za zvok); resnično preverite vsak element in obrnite iskanje. Rezultat ocenite kot »resničen/lažen/nezadosten dokaz« in ga primerjajte z odločitvijo, ki bi jo sprejeli, če bi se zanašali samo na orodje za odkrivanje.
kontrolni seznam
- [ ] Rezultate orodij za odkrivanje obravnavam kot namige, ne dokaze.
- [ ] Za vsako sporno vsebino najprej poiščem izvirni vir in prvo objavo.
- [ ] Poskrbim za obratno iskanje in preverjanje metapodatkov slik.
- [ ] Ne širim nepreverjenih dvomljivih vsebin.
- [ ] Potrditvene novice pišem v mirnem, preglednem jeziku, ki prikazuje, kako sem jih preveril.