Ieguvumi:
- Spēja atpazīt sintētiskā teksta, attēlu, audio un dziļi viltota video veidus, norādes un izplatīšanas modeļus
- Spēja pārvaldīt sintētiskā satura aizdomas, izmantojot avota izsekošanu, metadatus, reverso meklēšanu un konteksta verifikāciju, kā arī izmantot mākslīgo intelektu kā organizācijas rīku aizsardzībā
- Spēja saprast, ka noteikšanas rīki nav galīgs pierādījums, ka spriedums ir atkarīgs no avota un ka apstiprinājuma ziņas ir jāraksta mierīgā, caurspīdīgā valodā.
Mākslīgais intelekts nav tikai žurnālista instruments; Tas ir arī pret to vērsto draudu dzinējspēks. Mūsdienās pārliecinošu viltotu tekstu, šķietami reālas fotogrāfijas, neesošu cilvēku sejas un balsis, kas izrunā teikumus, ko kāds nekad nav izteicis, var radīt dažu minūšu laikā. Tos kopā sauc par sintētisko saturu (mākslīgi ražoti mediji); Video/audio, kas reālistiski atdarina cilvēka seju vai balsi, sauc par dziļo viltojumu. Dezinformācija — tīša nepatiesas informācijas izplatīšana — ir kļuvusi gan lētāka, gan ātrāka, izmantojot šos rīkus. Žurnālistes pienākums ir dubultojies: gan nepieļaut šī satura publiskošanu, gan informēt sabiedrību par šiem draudiem. Šajā nodaļā mēs runājam par AI izmantošanu, lai izprastu draudus un aizsargātos pret tiem. Pamatprincips: neviens noteikšanas rīks nav pārliecinošs pierādījums; Aizdomas par sintētisko saturu tiek novērstas, izmantojot klasisko verifikāciju, kas attiecas uz avotu un kontekstu.
Sintētiskā satura veidi un padomi
Teksts. AI var radīt raitu, bet tukšu, vispārinājumu piepildītu, izdomātu tekstu; par to plaukst viltus "ziņu vietnes" un komentāru armijas. Padoms: nepārbaudāmi avoti, pārāk vispārīgi apgalvojumi, pastāvīgi vienpusīgs kadrējums.
Vizuāli. Mākslīgos attēlos rokas/pirksti, zobi, ausis, rotaslietas, fona teksts un atspulgi bieži ir pretrunīgi; Taču tehnoloģijas strauji attīstās, tāpēc "es varu pateikt, skatoties uz to savām acīm" ir bīstama uzticēšanās.
Skaņa. Neizteiktus teikumus var izteikt ar ierēdņa balsi. Padoms: elpas/pauzes dabiskums, apkārtējās skaņas konsekvence, taču visdrošākā pārbaude ir satura avota pārbaude.
Video (deepfake). Sejas un kakla/gaismas nesakritība, acu mirkšķināšana, lūpu un balss sinhronizācija var būt norādes; Tomēr tas nav droši.
Uzmanību: "AI noteikšanas rīks saka, ka 90% ir viltoti" nav iemesls publicēšanai. Šie instrumenti ir nepareizi; Viņš var saukt īsto neīsto un viltoto par īsto. Instrumenta izvade ir pavediens; Spriedums nāk līdz avotam.
Soli pa solim: pārvaldiet aizdomas par sintētiskām sastāvdaļām
1. darbība — atrodiet avotu. Kurš pirmais publicēja saturu, kur un kad? Pārejot uz sākotnējo avotu, tiks iznīcināta lielākā daļa viltojumu.
2. darbība. Skatiet metadatus un meklējiet apgrieztā veidā. Metadati un apgrieztā attēlu meklēšana attēlā/video var atklāt iepriekšējo versiju vai oriģinālu.
3. darbība — pārbaudiet iekšējo konsekvenci. Vai gaisma, ēna, atspulgs, apkārtējā skaņa, fona reālās pasaules norādes (izkārtnes, laikapstākļi, arhitektūra) atbilst apgalvojumam?
4. darbība — pārbaudiet kontekstu. Vai incidentu saturā ir redzējuši citi neatkarīgi avoti? Ir daudz reāla notikuma pēdu; viena avota "bumbas" saturs ir apšaubāms.
5. darbība. Izmantojiet noteikšanas rīkus kā norādes. Uzskatiet AI noteikšanas rīku izvadi kā palīgsignālu, nevis pierādījumu.
6. darbība. Pārskatāmi ziņojiet. Ja publicējat to (kā faktu pārbaudi), parādiet, kas ir viltots/aizdomīgs, kāpēc un kā jūs to pārbaudījāt.
AI izmantošana aizsardzībā
AI ir arī organizatorisks rīks pret sintētisku saturu: tas uzskaita, ko meklēt attēlā, uzskaita pazīmes, kas liecina, ka teksts var būt AI ģenerēts, palīdz analizēt dezinformācijas kampaņas stāstījumu, sastāda sabiedrībai skaidrojošu faktu pārbaudi. Bet pats lēmums — “tas ir viltots” — tiek pieņemts pēc cilvēka sprieduma un avota pārbaudes.
trīs mini futrāļi
1. gadījums — viltus balss ieraksts. Tika izplatīts audioieraksts ar amatpersonas "atkāpšanos". Reportieris vispirms meklēja avotu: ieraksts nācis no viena anonīma konta, nekur citur no tā nebija nekādu pēdu. Amatpersonas komanda ierakstu noraidīja; arī apkārtējā skaņa bija nekonsekventa. Reportieris ierakstu nepublicēja, tā vietā ziņoja par "nepārbaudāmu audioierakstu". Ieraksts vēlāk izrādījās sintētisks.
2. gadījums — laika spiediens un apstāšanās reflekss. Fotoattēls ar "sabrukušo ēku" pēc zemestrīces strauji izplatījās. Reportieris veica apgrieztu attēlu meklēšanu: fotogrāfija bija no cita notikuma pirms 2 gadiem. 4 minūšu pārbaude neļāva ziņu vietnē iekļūt nepareizam attēlam; Dažas konkurējošās vietnes to publicēja bez pārbaudes un publicēja noliegumu.
3. gadījums — pārāk liela uzticēšanās noteikšanas rīkam. Redaktors atklāšanas rīkā ievietoja īstu reportiera fotoattēlu; Transportlīdzeklis ir "78% mākslīgs," viņš teica. Redaktors grasījās to izņemt no publicēšanas; Kad vecākais faktu pārbaudītājs parādīja fotogrāfijas uzņemšanas metadatus un reportiera neapstrādāto failu, kļuva skaidrs, ka fotogrāfija ir īsta. Mācība: medijs kļūdās, avots runā.
Kopējamas veidnes
1) Vizuālās sintētiskās kontrolsaraksts:
Man ir aizdomas, ka attēls var būt mākslīgi radīts. Izveidojiet kontrolsarakstu ar lietām, kas man jāpārbauda: rokas/pirksti, zobi, rotaslietas, fona teksts, atspulgi, gaismas un ēnas konsekvence, apgrieztā meklēšana, metadati. Pierakstiet, kā meklēt katru priekšmetu. Noteikti nesakiet "fake/real"; tikai kontrolsaraksts. Vizuāls apraksts: [šeit]
2) Dezinformācijas stāstījuma analīze:
Šis apgalvojums var būt dezinformācijas kampaņa. Izseciniet: (1) uz kādām emocijām tas vērsts, (2) uz kādu dalījumu tas pastiprina, (3) pārbaudāmas/nepārbaudāmas sastāvdaļas, (4) kāds varētu būt tipiskais izplatības modelis. Taisnības sprieduma pieņemšana; analizēt. Pretenzija: [šeit]
3) Apstiprināšanas ziņu projekts sabiedrībai:
Izmantojot primāros avotus, esmu pārliecinājies, ka tālāk norādītais saturs ir sintētisks/maldinošs: [atklājumu kopsavilkums]. Uzrakstiet apstiprinājuma stāsta melnrakstu, kas informē lasītāju, nerada paniku un skaidri parāda, kā es pārbaudīju. Neiekļaujiet nekādus secinājumus, kurus es nesniedzu. Secinājumi: [šeit]
4) AI ģenerētas teksta atzīmes (mājiens):
Uzskaitiet NORĀDES, ka šāds teksts var būt mākslīgi izveidots: nepārbaudāmi avoti, pārmērīgs vispārīgums, vienpusējs ietvars, atkārtojas raksti. Uzsveriet, ka tas nav pārliecinošs pierādījums, un pierakstiet, kādas faktu pārbaudes ir jāveic. Teksts: [šeit]
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne: "Pastāstiet man, vai šis attēls ir viltots."
Rezultāts: AI sniedz precīza izskata, bet neuzticamu “jā/nē”; Žurnālists var paļauties uz šo spriedumu un kļūdīties.
Spēcīgs aicinājums: "Izveidojiet sarakstu ar pazīmēm, kuras es pārbaudītu, ka šis attēls varētu būt mākslīgs, un pierakstiet, kā es katru no tām meklētu. Nepieņemiet galīgos spriedumus; norādiet, ka patiesā pārbaude ir atgriešanās pie avota un apgrieztā meklēšana."
Atšķirība: jaudīga uzvedne samazina AI līdz pavedienu ģeneratoram, atstājot spriestspēju avotam un žurnālistam, padarot redzamu rīka kļūdas robežu.
salīdzināšanas diagramma
Satura veids
Vājas norādes
Visuzticamākā vadība
AI loma
tekstu
Vispārīgs, izdomāts avots
dodieties uz leju pie avota
Zīmju saraksts
vizuāli
Rokas/zobu/raksta neatbilstība
Apgrieztā meklēšana + metadati
kontrolsaraksts
skaņu
Elpas/vides nekonsekvence
Avota un konteksta apstiprinājums
Ko meklēt
Video (deepfake)
Gaismas/sinhronizācijas neatbilstība
Sākotnējais avots, savstarpēji apstiprināts
Analīzes palīdzība
Biežas kļūdas
- Izturēšanās pret noteikšanas rīku kā pierādījumu. Transportlīdzekļa procentuālās daļas noteikšana par publicēšanas iemeslu; instrumenti kļūdās abos virzienos.
- "Es varu pateikt pēc redzes" pārliecība. Sintētiskie vizuālie attēli strauji uzlabojas; Ar vizuālo intuīciju vien nepietiek.
- Neejot pie avota. Lielākā daļa viltojumu sabrūk, kad tiek atrasts sākotnējais avots, kas tos publicējis; Šī soļa izlaišana ir kļūda.
- Aizdomās turamā izplatīšana. Aizdomīga satura kopīgošana, sakot: “Paskatīsimies, vai tā ir patiesība vai nē”, kalpo dezinformācijai.
- Panikas valoda. Trauksmes tonis apstiprinājuma ziņās izplata jaunas bailes labošanas laikā; Rakstiet mierīgi un pārskatāmi.
Difūzijas ātrums un "nolieguma slazds"
Dezinformācijas patiesais spēks ir nevis pašā saturā, bet gan ātrumā, kādā tas izplatās. Emocionāli provokatīvs saturs, kas izraisa dusmas vai bailes, tiek kopīgots daudz ātrāk nekā pārbaudītas ziņas; Lai gan viltus saturs sasniedz miljonus dažu stundu laikā, rediģēšana bieži sasniedz daudz mazāk cilvēku. Šī asimetrija uzliek žurnālistam īpašu atbildību: apšaubāma satura kopīgošana, pat sakot "paskatieties, cik smieklīgi", dod tam piekļuvi. To sauc par oksigenāciju — melu atkārtošana, lai tos atspēkotu, patiesībā to veicina.
Pretlīdzeklis tam ir “patiesības sviestmaizes” tehnika faktu pārbaudē: pasaki patiesību, pirms atkārto nepatiesu apgalvojumu, tad parādi, kāpēc apgalvojums ir nepatiess, un beigās atkārto patiesību vēlreiz. Tādā veidā lasītāja prātā paliek nevis kļūda, bet gan patiesība. AI var palīdzēt sagatavot faktu pārbaudes stāstu atbilstoši šai struktūrai; Bet tas ir redakcijas lēmums, kuru patiesību izvirzīt un informēt valodu, neceļot paniku. Vēl viena prakse: jautāt, kādu robu aizpilda dezinformācija? Cilvēki bieži izmanto viltotu saturu, jo trūkst uzticamas informācijas; Šīs nepilnības aizpildīšana ar ātrām, precīzām un pieejamām ziņām ir efektīvāka aizsardzība nekā melu dzīšana pa vienam.
Rezumējot
Sintētiskais saturs un dziļi viltojumi ir samazinājuši un paātrinājuši dezinformāciju; Žurnālista pienākums ir to nepublicēt un informēt sabiedrību. Atklāšanas rīki un AI sniedz norādes un organizēšanu, bet ne galīgus pierādījumus. Spriedums tiek pieņemts, dodoties uz avotu, metadatiem un reverso meklēšanu, iekšējo konsekvenci un neatkarīgu kontekstu. Apstiprinājuma ziņas ir uzrakstītas mierīgā, caurspīdīgā valodā, kas parāda, kā tas tika pārbaudīts.
Lietojumprogrammas uzdevums
Atrodiet vizuālo vai audio saturu, kas, jūsuprāt, ir aizdomīgs. Izpildiet “Vizuālās sintētiskās kontrolsaraksta” (vai adaptācijas audio) uzvedni; tiešām pārbaudiet katru vienumu un apgrieziet meklēšanu. Novērtējiet rezultātu kā “īsti/vilti/nepietiekami pierādījumi” un salīdziniet to ar lēmumu, ko pieņemtu, ja paļautos tikai uz noteikšanas rīku.
kontrolsaraksts
- [ ] Es uzskatu noteikšanas rīku rezultātus par norādes, nevis pierādījumus.
- [ ] Jebkuram apšaubāmam saturam vispirms meklēju oriģinālo avotu un pirmo publikāciju.
- [ ] Es noteikti veicu apgriezto meklēšanu un pārbaudu metadatus.
- [ ] Es neizplatu nepārbaudītu apšaubāmu saturu.
- [ ] Es rakstu apstiprinājuma ziņas mierīgā, caurspīdīgā valodā, kas parāda, kā es to pārbaudīju.