Kasu:
- Võimalus ära tunda sünteetilise teksti, piltide, heli ja sünteetilise video tüüpe, vihjeid ja levimustreid
- Võimalus hallata sünteetilise sisu kahtlusi allika jälgimise, metaandmete, pöördotsingu ja konteksti kontrollimise abil ning kasutada tehisintellekti kaitse organisatsioonilise tööriistana
- Oskus mõista, et tuvastusvahendid ei ole lõplikud tõendid, et otsustus taandub allikale ja kinnitusuudised tuleks kirjutada rahulikus ja läbipaistvas keeles.
Tehisintellekt ei ole ainult ajakirjaniku tööriist; See on ka selle vastu suunatud ohu mootor. Tänapäeval saab veenvat võltsteksti, näiliselt tõelisi fotosid, olematute inimeste nägusid ja hääli, mis lausuvad lauseid, mida keegi pole kunagi lausunud. Neid nimetatakse ühiselt sünteetiliseks sisuks (kunstlikult toodetud meedia); Inimese nägu või häält realistlikult jäljendavat video/heli tüüpi nimetatakse deepfake’iks. Desinformatsioon – tahtlikult valeteabe levitamine – on nende vahendite abil muutunud nii odavamaks kui ka kiiremaks. Ajakirjaniku kohustus on kahekordistunud: nii selle sisu avaldamist takistada kui ka sellest ohust avalikkust teavitada. Selles üksuses käsitleme AI kasutamist nii ohu mõistmiseks kui ka selle eest kaitsmiseks. Põhiprintsiip: ükski tuvastamisvahend ei ole veenev tõendusmaterjal; Sünteetilise sisu kahtlused lahendatakse klassikalise kontrolliga, mis taandub allikale ja kontekstile.
Sünteetilise sisu tüübid ja näpunäited
Tekst. AI suudab toota ladusaid, kuid tühje, üldistusi täis väljamõeldud tekste; võlts "uudiste saidid" ja kommentaaride armeed arenevad sellel. Vihje: kontrollimatud allikad, liiga üldised väited, püsivalt ühekülgne raamistus.
Visuaalne. Kunstlike piltide puhul on käed/sõrmed, hambad, kõrvad, ehted, taustatekst ja peegeldused sageli ebaühtlased; Kuid tehnoloogia areneb kiiresti, nii et "ma võin seda oma silmaga vaadates öelda" on ohtlik usaldus.
Heli. Ütlemata lauseid võib tekitada ametniku hääl. Näpunäide: hingamise/pausi loomulikkus, ümbritseva heli järjepidevus, kuid kõige usaldusväärsem kontroll on sisu allika kontrollimine.
Video (deepfake). Näo ja kaela/valguse mittevastavus, silmade pilgutamine, huulte ja hääle sünkroniseerimine võivad olla vihjed; Samas pole see kindel.
Tähelepanu: "AI tuvastamise tööriist ütleb, et 90% on võltsitud" ei ole avaldamise põhjus. Need tööriistad on valed; Ta võib nimetada tõelist võltsingut ja võltsi tõeliseks. Tööriista väljund on vihje; Kohtuotsus taandub allikale.
Samm-sammult: sünteetiliste koostisosade kahtluse juhtimine
1. samm – leidke allikas. Kes, kus ja millal sisu esimesena avaldas? Ainuüksi algallikani jõudmine hävitab enamiku võltsinguid.
2. samm – vaadake metaandmeid ja pöördotsing. Pildi/video metaandmed ja vastupidine pildiotsing võivad paljastada varasema versiooni või originaali.
3. samm – kontrollige sisemist järjepidevust. Kas valgus, vari, peegeldus, ümbritsev heli, taustal olevad reaalse maailma vihjed (märgistused, ilm, arhitektuur) vastavad väitele?
4. samm – kontrollige konteksti. Kas sisu vahejuhtumit on näinud ka teised sõltumatud allikad? Tõelise sündmuse jälgi on palju; ühe allika "pommikivi" sisu on küsitav.
5. samm – kasutage vihjetena tuvastamistööriistu. Lugege tehisintellekti tuvastamise tööriistade väljundit abisignaalina, mitte tõendusmaterjalina.
6. samm – aruandlus läbipaistvalt. Kui avaldate selle (faktide kontrollina), näidake, mis on võlts/kahtlane, miks ja kuidas te seda kinnitasite.
AI kasutamine kaitses
Tehisintellekt on ka korralduslik tööriist sünteetilise sisu vastu: loetleb, mida pildilt otsida, loetleb märgid, et tekst võib olla tehisintellekti loodud, aitab analüüsida desinformatsioonikampaania narratiivi, koostab avalikkusele selgitava faktikontrolli. Kuid otsus ise – „see on võlts” – tehakse inimliku hinnangu ja allika kontrollimise teel.
kolm minikarpi
1. juhtum – võltshäälestus. Levi oli helisalvestis ametniku "ametkonnast lahkumisest". Reporter otsis esmalt allikat: salvestis oli pärit ühelt anonüümselt kontolt, mujal polnud sellest jälgegi. Ametniku meeskond lükkas salvestise tagasi; ka ümbritsev heli oli ebaühtlane. Reporter ei avaldanud salvestist, vaid teatas "kontrollimatust helisalvestisest". Salvestus osutus hiljem sünteetiliseks.
Juhtum 2 – ajasurve ja peatumisrefleks. Foto "kokkuvarisenud hoonest" pärast maavärinat levis kiiresti. Reporter tegi tagurpidi pildiotsingu: foto oli teiselt sündmuselt 2 aastat tagasi. 4-minutiline kontroll takistas uudiste saidile vale pildi sisenemist; Mõned konkureerivad saidid avaldasid selle kontrollimata ja avaldasid keeldumise.
Juhtum 3 – tuvastustööriista liigne usaldus. Toimetaja sisestas tuvastusvahendisse tõelise reporterifoto; Sõiduk on "78% tehislik," ütles ta. Toimetaja kavatses selle avaldamisest tagasi võtta; Kui vanem faktikontrollija näitas foto pildistamise metaandmeid ja reporteri töötlemata faili, sai selgeks, et foto oli päris. Õppetund: meedium eksib, allikas räägib.
Kopeeritavad mallid
1) Visuaalse sünteetika kontroll-loend:
Ma kahtlustan, et pilt võib olla kunstlikult loodud. Koostage kontrollnimekiri asjadest, mida pean testima: käed/sõrmed, hambad, ehted, taustatekst, peegeldused, valguse-varju järjepidevus, pöördotsing, metaandmed. Kirjutage üles, kuidas iga eset otsida. Ärge öelge kindlasti "võlts/päris"; lihtsalt kontrollnimekiri. Visuaalne kirjeldus: [siin]
2) desinformatsiooni narratiivi analüüsimine:
Järgmine väide võib olla desinformatsioonikampaania. Järeldage: (1) millist emotsiooni see sihib, (2) millist lõhet see võimendab, (3) kontrollitavad/kontrollimatud komponendid, (4) milline võiks olla tüüpiline leviku muster. õigluse üle otsustamine; analüüsida. Nõue: [siin]
3) Kinnitusuudiste mustand avalikkusele:
Olen esmaste allikatega kontrollinud, et järgmine sisu on sünteetiline/eksitav: [leidude kokkuvõte]. Kirjutage kinnitusloo mustand, mis teavitab lugejat, ei tekita paanikat ja näitab läbipaistvalt, kuidas ma kontrollisin. Ärge lisage leide, mida ma ei esitanud. Leiud: [siin]
4) AI loodud teksti märgid (vihje):
Loetlege vihjeid, et järgmine tekst võib olla kunstlikult toodetud: kontrollimatud allikad, liigne üldistus, ühekülgne raamimine, korduvad mustrid. Rõhutage, et see ei ole veenev tõend, ja kirjutage üles, milliseid faktilisi kontrollimisi on vaja teha. Tekst: [siin]
Nõrk viip / Tugev viip
Nõrk viip: "Öelge mulle, kas see pilt on võlts."
Tulemus: AI annab täpse välimusega, kuid ebausaldusväärse "jah/ei"; Ajakirjanik võib sellele otsusele tugineda ja eksida.
Tugev üleskutse: "Koostage nimekiri märkidest, mida ma kontrolliksin, et see pilt võib olla kunstlik, ja kirjutage üles, kuidas ma igaühte neist otsiksin. Ärge langetage lõplikke hinnanguid; juhige tähelepanu sellele, et tegelik kinnitus on allika juurde naasmine ja pöördotsingu tegemine."
Erinevus: võimas viip vähendab tehisintellekti vihjete generaatoriks, jättes otsuse allikale ja ajakirjanikule, muutes tööriista veapiiri nähtavaks.
võrdlustabel
Sisu tüüp
Nõrgad vihjed
Kõige usaldusväärsem juhtimine
AI roll
tekst
Üldine, väljamõeldud allikas
mine allika juurde
Märkide nimekiri
visuaalne
Käe/hammaste/kirjutuse lahknevus
Pöördotsing + metaandmed
kontrollnimekiri
heli
Hingamise/keskkonna ebaühtlus
Allika ja konteksti kinnitus
Mida otsida
Video (deepfake)
Valguse/sünkroonimise mittevastavus
Algallikas, ristkinnitatud
Analüüsi abi
Levinud vead
- Tuvastamisvahendi käsitlemine tõendina. Sõiduki protsendi määramine avaldamise põhjuseks; tööriistad eksivad mõlemas suunas.
- "Ma võin silma järgi öelda" enesekindlus. Sünteetilised visuaalid paranevad kiiresti; Visuaalsest intuitsioonist üksi ei piisa.
- Ei lähe allika juurde. Enamik võltsinguid kukub kokku, kui leitakse algallikas, mis need avaldas; Selle sammu vahelejätmine on viga.
- Kahtlustatava levitamine. Kahtlase sisu jagamine sõnadega "vaatame, kas see on tõsi või mitte" teenib desinformatsiooni.
- Paanika keel. Kinnitusuudiste alarmeeriv toon levitab parandamise ajal uut hirmu; Kirjutage rahulikult ja läbipaistvalt.
Difusioonikiirus ja "eitamise lõks"
Desinformatsiooni tegelik jõud ei seisne mitte sisus endas, vaid selle levimiskiiruses. Emotsionaalselt provokatiivset sisu, mis tekitab viha või hirmu, jagatakse palju kiiremini kui kontrollitud uudiseid; Kui võltssisu jõuab tundide jooksul miljoniteni, jõuab redigeerimine sageli palju vähemate inimesteni. See asümmeetria paneb ajakirjanikule erilise vastutuse: küsitava sisu jagamine, isegi öeldes: "vaata, kui naeruväärne", annab sellele juurdepääsu. Seda nimetatakse hapnikuga varustamiseks – vale kordamine selle ümberlükkamiseks toidab seda.
Selle vastumürk on faktide kontrollimises "tõevõileiva" tehnika: öelge tõtt enne valeväite kordamist, seejärel näidake, miks väide on vale, ja korrake lõpus uuesti tõde. Nii ei jää lugeja pähe mitte viga, vaid tõde. AI võib aidata koostada faktide kontrollimise loo vastavalt sellele struktuurile; Kuid see on toimetuse otsus, milline tõde välja tuua ja paanikat tekitamata keelt teavitada. Teine praktika: küsida, mis lünka täidab desinformatsioon? Inimesed võtavad sageli omaks võltsitud sisu usaldusväärse teabe puudumise tõttu; Selle tühimiku täitmine kiirete, täpsete ja juurdepääsetavate uudistega on tõhusam kaitse kui ükshaaval valede tagaajamine.
Kokkuvõttes
Sünteetiline sisu ja süvavõltsingud on desinformatsiooni odavamaks muutnud ja kiirendanud; Ajakirjaniku kohus on seda mitte avaldada ja avalikkust teavitada. Tuvastamistööriistad ja tehisintellekt pakuvad vihjeid ja korraldust, kuid mitte lõplikke tõendeid. Otsus tehakse lähtudes allikast, metaandmetest ja pöördotsingust, sisemisest järjepidevusest ja sõltumatust kontekstist. Kinnitusuudised on kirjutatud rahulikus, läbipaistvas keeles, mis näitab, kuidas seda kontrolliti.
Rakenduse ülesanne
Leidke visuaalne või helisisu, mis on teie arvates kahtlane. Järgige viipa „Visuaalse sünteetika kontroll-loend” (või kohandamine heli jaoks); kontrollige tõesti iga üksust ja pöörake otsing. Hinnake tulemust kui „tõeline/võlts/ebapiisavad tõendid” ja võrrelge seda otsusega, mille teeksite, kui tugineksite ainult tuvastamistööriistale.
kontrollnimekiri
- [ ] Pean tuvastusvahendite väljundit vihjeks, mitte tõendiks.
- [ ] Igasuguse küsitava sisu puhul otsin esmalt algallika ja esimese väljaande.
- [ ] Teen kindlasti pöördotsingu ja kontrollin pilte metaandmeid.
- [ ] Ma ei levita kontrollimata küsitavat sisu.
- [ ] Kirjutan kinnitusuudiseid rahulikus läbipaistvas keeles, mis näitab, kuidas ma seda kontrollisin.