Nyereség:
- Képes felismerni a szintetikus szövegek, képek, hangok és mélyhamisított videók típusait, nyomait és terjedési mintáit
- Képes kezelni a szintetikus tartalom gyanúját forráskövetéssel, metaadatokkal, fordított kereséssel és kontextus-ellenőrzéssel, valamint a mesterséges intelligenciát szervezeti eszközként használni a védelemben
- Képes megérteni, hogy az észlelési eszközök nem végleges bizonyítékok, az ítélet a forrástól függ, és a megerősítő híreket nyugodt, átlátható nyelven kell megírni.
A mesterséges intelligencia nem csak az újságíró eszköze; Ez a vele szembeni fenyegetés motorja is. Ma már percek alatt elő lehet állítani meggyőző hamis szövegeket, valódinak tűnő fényképeket, nem létező emberek arcát és olyan mondatokat kimondó hangokat, amelyeket valaki soha nem mondott ki. Ezeket összefoglalóan szintetikus tartalomnak (mesterségesen előállított médiának) nevezik; Azt a videót/hangot, amely valósághűen utánozza egy személy arcát vagy hangját, mélyhamisításnak nevezzük. A dezinformáció – a szándékosan terjesztett hamis információk – olcsóbbá és gyorsabbá vált ezekkel az eszközökkel. Az újságíró kötelessége megduplázódott: egyrészt megakadályozni, hogy ez a tartalom megjelenjen, másrészt a nyilvánosság tájékoztatása a fenyegetésről. Ebben az egységben foglalkozunk az AI használatával a fenyegetés megértéséhez és az ellene való védekezéshez. Alapelv: Egyetlen észlelési eszköz sem döntő bizonyíték; A szintetikus tartalom gyanúját a klasszikus ellenőrzéssel oldják meg, amely a forrástól és a kontextustól függ.
A szintetikus tartalom típusai és tippjei
Szöveg. A mesterséges intelligencia gördülékeny, de üres, általánosításokkal teli, kitalált szövegeket tud előállítani; hamis "híroldalak" és kommentárseregek gyarapodnak ezen. Tipp: ellenőrizhetetlen források, túl általános állítások, tartósan egyoldalú keretezés.
Vizuális. A mesterséges képeken a kezek/ujjak, a fogak, a fülek, az ékszerek, a háttérszöveg és a tükröződések gyakran nem következetesek; A technológia azonban gyorsan fejlődik, így „a saját szememmel meg tudom állapítani” veszélyes bizalom.
Hang. A ki nem mondott mondatokat egy tisztviselő hangja is előállíthatja. Tipp: levegővétel/szünet természetesség, a környezeti hang konzisztenciája, de a legmegbízhatóbb ellenőrzés a tartalom forrásának ellenőrzése.
Videó (deepfake). Az arc és a nyak/fény egyezése, a szemek pislogása, az ajak-hang szinkronizálás nyomok lehetnek; Ez azonban nem biztos.
Figyelem: "Az AI-felderítő eszköz szerint 90%-a hamis" nem ok a közzétételre. Ezek az eszközök rosszak; Az igazit hamisnak, a hamisat pedig valódinak tudja nevezni. Az eszköz kimenete nyom; Az ítélet a forrásig száll le.
Lépésről lépésre: a szintetikus összetevők gyanújának kezelése
1. lépés – Keresse meg a forrást. Ki tette közzé először a tartalmat, hol és mikor? Ha egyedül az eredeti forráshoz megy, az a legtöbb hamisítványt elpusztítja.
2. lépés – Nézze meg a metaadatokat és a fordított keresést. A metaadatok és a képen/videón található fordított képkeresés felfedheti a korábbi verziót vagy az eredetit.
3. lépés – Tesztelje a belső konzisztenciát. A fény, az árnyék, a visszaverődés, a környezeti hangok, a valós világból származó háttérjelek (jelzések, időjárás, építészet) megfelelnek az állításnak?
4. lépés – Ellenőrizze a kontextust. Látták-e a tartalomban szereplő incidenst más független források? Egy valós eseménynek számos nyoma van; az egyetlen forrásból származó "bombázó" tartalom megkérdőjelezhető.
5. lépés – Használjon felderítő eszközöket nyomként. Az AI-észlelőeszközök kimenetét segédjelnek, nem bizonyítéknak számítja.
6. lépés – Átlátszó jelentés. Ha közzéteszed (tényellenőrzésként), mutasd meg, mi a hamis/gyanús, miért, és hogyan ellenőrizted.
AI használata védekezésben
A mesterséges intelligencia a szintetikus tartalom elleni szervezési eszköz is: felsorolja, hogy mit kell keresni egy képen, felsorolja a jeleket, amelyek arra utalnak, hogy egy szöveg mesterséges intelligencia generált, segít értelmezni egy dezinformációs kampány narratíváját, magyarázó tényellenőrzést készít a nyilvánosság számára. De magát az elhatározást – a „hamis” ítéletet – emberi ítélet és forrásellenőrzés hozza meg.
három mini tok
1. eset – Hamis hangfelvétel. Egy hivatalos „lemondásról” készült hangfelvételt terjesztettek. A riporter először a forrást kereste: a felvétel egyetlen névtelen fiókból származott, máshol nyoma sem volt. A tisztviselő csapata elutasította a felvételt; a környezeti hang is következetlen volt. A riporter a felvételt nem tette közzé, ehelyett egy "ellenőrizhetetlen hangfelvételről" számolt be. A felvételről később kiderült, hogy szintetikus.
2. eset – Időnyomás és a stop reflex. A földrengés után "összeomlott épület" fotója gyorsan terjedt. A riporter fordított képkeresést végzett: a fotó egy másik, 2 évvel ezelőtti eseményről készült. A 4 perces ellenőrzés megakadályozta, hogy hibás kép kerüljön a híroldalra; Néhány rivális oldal ellenőrzés nélkül tette közzé, és elutasította.
3. eset – Túlzott bizalom az észlelőeszközben. Egy szerkesztő valódi riporterfotót szúrt be egy észlelőeszközbe; A jármű "78%-ban mesterséges" - mondta. A szerkesztő éppen ki akarta vonni a kiadásból; Amikor egy vezető tényellenőr megmutatta a fénykép felvételi metaadatait és a riporter nyers fájlját, világossá vált, hogy a fénykép valódi. Tanulság: a médium téved, a forrás beszél.
Másolható sablonok
1) Vizuális szintetikus ellenőrzőlista:
Gyanítom, hogy egy képet mesterségesen állítottak elő. Készítsen ellenőrzőlistát azokról a dolgokról, amelyeket tesztelnem kell: kezek/ujjak, fogak, ékszerek, háttérszöveg, tükröződések, fény-árnyék konzisztencia, fordított keresés, metaadatok. Írja le, hogyan kell keresni az egyes elemeket. Ne mondd biztosan, hogy „hamis/valódi”; csak ellenőrző lista. Vizuális leírás: [itt]
2) A dezinformációs narratíva elemzése:
A következő állítás egy dezinformációs kampány lehet. Következtessen: (1) milyen érzelmet céloz meg, (2) milyen megosztottságot erősít fel, (3) ellenőrizhető/nem ellenőrizhető összetevőket, (4) mi lehet a terjedés tipikus mintája. Ítéletet hozni az igazságról; elemezni. Igénylés: [itt]
3) Megerősítő hírtervezet a nyilvánosság számára:
Elsődleges forrásokkal igazoltam, hogy a következő tartalom szintetikus/félrevezető: [a megállapítások összefoglalása]. Írjon egy megerősítő történet vázlatát, amely tájékoztatja az olvasót, nem kelt pánikot, és átláthatóan megmutatja, hogyan igazoltam. Ne írjon bele olyan megállapításokat, amelyeket nem én adtam meg. Eredmények: [itt]
4) A szöveg mesterséges intelligenciája által generált jelei (tipp):
Soroljon fel NYOMOKAT, amelyek arra utalnak, hogy a következő szöveg mesterségesen előállítható: ellenőrizhetetlen források, túlzott általánosság, egyoldalú keretezés, ismétlődő minták. Hangsúlyozza, hogy ez nem meggyőző bizonyíték, és írja le, milyen tényszerű ellenőrzéseket kell elvégezni. Szöveg: [itt]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás: "Mondd meg, ha ez a kép hamis."
Eredmény: A mesterséges intelligencia pontos megjelenésű, de megbízhatatlan „igen/nem”-t ad; Az újságíró támaszkodhat erre az ítéletre, és tévedhet.
Erős felszólítás: "Készítsen listát azokról a jelekről, amelyeket ellenőriznék, hogy ez a kép esetleg mesterséges, és írja le mindegyiket, hogyan keresném őket. Ne hozzon végső ítéletet; mutasson rá, hogy a valódi ellenőrzés a forráshoz való visszatérés és a fordított keresés végrehajtása."
A különbség: Egy erőteljes felszólítás nyomgenerátorrá redukálja az AI-t, a forrásra és az újságíróra bízva az ítéletet, láthatóvá téve az eszköz hibahatárát.
összehasonlító táblázat
Tartalom típusa
Gyenge nyomok
A legmegbízhatóbb vezérlés
Az AI szerepe
szöveget
Általános, kitalált forrás
menj le a forráshoz
Jellista
vizuális
Kéz/fog/írás eltérés
Fordított keresés + metaadatok
ellenőrző lista
hangot
Légzés/környezet inkonzisztenciája
Forrás és kontextus megerősítése
Mit kell keresni
Videó (deepfake)
Fény/szinkron eltérés
Eredeti forrás, keresztben megerősítve
Elemzési segítség
Gyakori hibák
- Az észlelőeszköz bizonyítékként való kezelése. A jármű százalékos arányának megtétele a közzététel oka; az eszközök mindkét irányban hibáznak.
- "látásból meg tudom állapítani" magabiztosság. A szintetikus látvány gyorsan javul; A vizuális intuíció önmagában nem elegendő.
- Nem megy a forráshoz. A legtöbb hamisítvány összeomlik, amikor megtalálják az eredeti forrást, amely közzétette; Ennek a lépésnek a kihagyása hiba.
- A gyanúsított terjesztése. A gyanús tartalom megosztása azzal, hogy „nézzük meg, igaz-e vagy sem”, félretájékoztatást szolgál.
- A pánik nyelve. A megerősítő hírek riasztó hangja új félelmet terjeszt a korrekció során; Írj nyugodtan és átláthatóan.
A diffúziós sebesség és a "tagadási csapda"
A dezinformáció igazi ereje nem magában a tartalomban rejlik, hanem annak terjedési sebességében. Az érzelmileg provokatív, haragot vagy félelmet kiváltó tartalmat sokkal gyorsabban osztják meg, mint az ellenőrzött híreket; Míg a hamis tartalom órákon belül milliókhoz jut el, a szerkesztés gyakran sokkal kevesebb emberhez jut el. Ez az aszimmetria különös felelősséget ró az újságíróra: a megkérdőjelezhető tartalmak megosztása, még akkor is, ha „nézd, milyen nevetséges”, hozzáférést ad hozzá. Ezt oxigenizációnak hívják – egy hazugság megismétlése annak cáfolatára valójában táplálja.
Ennek ellenszere az "igazságszendvics" technika a tényellenőrzésben: mondd el az igazat, mielőtt megismételné a hamis állítást, majd mutasd meg, miért hamis az állítás, majd a végén ismételd meg az igazságot. Ily módon az olvasó fejében nem a hiba, hanem az igazság marad meg. A mesterséges intelligencia segíthet egy tényellenőrző történet elkészítésében ennek a struktúrának megfelelően; De a szerkesztői döntés az, hogy melyik igazságot terjesztik elő, és pánik terjesztése nélkül tájékoztatják a nyelvet. Egy másik gyakorlat: megkérdezni, milyen hiányt pótol a dezinformáció? Az emberek gyakran a megbízható információk hiánya miatt fogadnak el hamis tartalmat; Ezt a hiányt gyors, pontos és hozzáférhető hírekkel pótolni hatékonyabb védekezés, mint a hazugságok egyenkénti üldözése.
Összefoglalva
A szintetikus tartalmak és a mélyhamisítások olcsóbbá és felgyorsították a dezinformációt; Az újságíró kötelessége, hogy ezt ne tegye közzé, és tájékoztassa a nyilvánosságot. Az észlelési eszközök és a mesterséges intelligencia támpontokat és rendszerezést nyújtanak – de nem végleges bizonyítékot. Az ítélet a forrás, a metaadatok és a fordított keresés, a belső konzisztencia és a független kontextus alapján történik. A megerősítő hírek nyugodt, átlátható nyelven íródnak, amely megmutatja, hogyan ellenőrizték.
Pályázati feladat
Keressen olyan vizuális vagy audiotartalmat, amelyet gyanúsnak tart. Kövesse a „Vizuális szintetikus ellenőrzőlista” (vagy adaptáció hanghoz) utasítást; tényleg ellenőrizze az egyes elemeket, és fordított keresést. Értékelje az eredményt „valódi/hamis/elégtelen bizonyítékként”, és hasonlítsa össze azzal a döntéssel, amelyet akkor hozna, ha kizárólag az észlelőeszközre hagyatkozna.
ellenőrző lista
- [ ] Az észlelőeszközök kimenetét nyomnak tekintem, nem bizonyítéknak.
- [ ] Bármilyen megkérdőjelezhető tartalom esetén először az eredeti forrást és az első publikációt keresem.
- [ ] Gondoskodok a fordított keresésről és a metaadatok ellenőrzéséről a képeken.
- [ ] Nem terjesztek ellenőrizetlen, megkérdőjelezhető tartalmat.
- [ ] Nyugodt, átlátható nyelven írok megerősítő híreket, amelyekből kiderül, hogyan igazoltam.