Hagnaður:
- Geta til að þekkja tegundir, vísbendingar og útbreiðslumynstur gervitexta, mynda, hljóðs og djúpfalsa myndbanda
- Hæfni til að stjórna grunsemdum um gerviefni með upprunarakningu, lýsigögnum, öfugri leit og samhengisstaðfestingu og nota gervigreind sem skipulagstæki í vörn
- Geta til að skilja að uppgötvunartæki eru ekki endanleg sönnunargögn, að dómur kemur niður á upprunanum og að staðfestingarfréttir ættu að vera skrifaðar á rólegu, gagnsæju tungumáli.
Gervigreind er ekki bara verkfæri blaðamanna; Það er líka vél ógnarinnar gegn henni. Í dag er hægt að framleiða sannfærandi falsa texta, að því er virðist raunverulegar ljósmyndir, andlit fólks sem ekki er til og raddir sem segja setningar sem einhver sagði aldrei á nokkrum mínútum. Þetta eru sameiginlega kallað tilbúið efni (tilbúnar framleiddir miðlar); Sú tegund myndbands/hljóðs sem líkir eftir andliti eða rödd einstaklings á raunsættan hátt er kölluð deepfake. Óupplýsingar – vísvitandi dreifa röngum upplýsingum – hafa orðið bæði ódýrari og hraðari í gegnum þessi tæki. Skylda blaðamannsins hefur tvöfaldast: bæði að koma í veg fyrir að þetta efni sé birt og að upplýsa almenning um þessa hótun. Í þessari einingu förum við yfir notkun gervigreindar bæði til að skilja ógnina og verjast henni. Grunnregla: Ekkert uppgötvunartæki er óyggjandi sönnunargögn; Grunur um tilbúið efni er leystur með klassískri sannprófun sem fer niður á uppruna og samhengi.
Tegundir og ábendingar um gerviefni
Texti. AI getur framleitt reiprennandi en innihaldslausa, alhæfingarfyllta, tilbúna texta; falsa "fréttasíður" og athugasemdaher þrífast á þessu. Vísbending: ósannanlegar heimildir, of almennar fullyrðingar, viðvarandi einhliða rammagerð.
Sjónræn. Í gervimyndum eru hendur/fingur, tennur, eyru, skartgripir, bakgrunnstexti og spegilmyndir oft ósamræmi; En tæknin er að batna hratt, svo "ég get sagt það með því að horfa á það með eigin augum" er hættulegt traust.
Hljóð. Ósagðar setningar geta komið fram með rödd embættismanns. Ábending: náttúruleg anda/hlé, samkvæmni umhverfishljóða, en áreiðanlegasta eftirlitið er að sannreyna uppruna innihaldsins.
Myndband (deepfake). Ósamræmi í andliti og hálsi/ljósi, blikkandi auga, samstilling vararadda getur verið vísbending; Það er hins vegar ekki víst.
Athugið: „AI uppgötvunartæki segir að 90% séu fölsuð“ er ekki ástæða fyrir birtingu. Þessi verkfæri eru röng; Hann getur kallað alvöru falsa og falsa alvöru. Framleiðsla tólsins er vísbending; Dómurinn kemur niður á heimildinni.
Skref fyrir skref: stjórna grunsemdum um tilbúið innihaldsefni
Skref 1 — Finndu upprunann. Hver birti efnið fyrst, hvar og hvenær? Að fara niður í upprunalegu heimildina ein og sér mun brjósta flesta falsa.
Skref 2 — Skoðaðu lýsigögn og öfug leit. Lýsigögn og öfug myndaleit á mynd/myndbandi geta leitt í ljós fyrri útgáfu eða frumrit.
Skref 3 — Prófaðu innra samræmi. Passa ljósið, skugginn, endurspeglunin, umhverfishljóðið, vísbendingar um raunverulegan bakgrunn (skilti, veður, arkitektúr) fullyrðinguna?
Skref 4 — Staðfestu samhengið. Hefur atvikið í efninu verið séð af öðrum óháðum heimildum? Það eru mörg ummerki um raunverulegan atburð; „sprengjuefni“ frá einum uppruna er vafasamt.
Skref 5 — Notaðu uppgötvunartæki sem vísbendingar. Teldu úttak gervigreindartækja sem hjálparmerki, ekki sönnunargögn.
Skref 6 — Tilkynntu á gagnsæjan hátt. Ef þú birtir það (sem staðreyndaskoðun), sýndu hvað er falsað/grunsamlegt, hvers vegna og hvernig þú staðfestir það.
Notar gervigreind í vörn
Gervigreind er líka skipulagsverkfæri gegn gerviefni: það skráir hvað á að leita að á mynd, listar upp merki um að texti gæti verið gervigreindur, hjálpar til við að flokka frásögn óupplýsingaherferðar, semur skýringarrannsókn fyrir almenning. En ákvörðunin sjálf - „það er falsað“ dómurinn - er tekinn af mannlegri dómgreind og heimildarsannprófun.
þrjú smámál
Tilfelli 1 — Fölsuð raddupptaka. Dreift var hljóðupptöku af embættismanni sem „sagði af sér“. Fréttamaðurinn leitaði fyrst að upprunanum: Upptakan var komin af einum nafnlausum reikningi, það var engin merki um hana annars staðar. Teymi embættismannsins hafnaði upptökunni; umhverfishljóð var líka ósamræmi. Fréttamaðurinn birti ekki upptökuna heldur sagði hann frá „ósannanlega hljóðupptöku“. Upptakan reyndist síðar vera tilbúin.
Tilfelli 2 — Tímaþrýstingur og stöðvunarviðbragð. Myndin af „hruninni byggingu“ eftir jarðskjálfta dreifðist hratt. Blaðamaðurinn gerði öfuga myndleit: myndin var frá öðrum atburði fyrir 2 árum. 4 mínútna athugunin kom í veg fyrir að röng mynd kæmist inn á fréttasíðuna; Nokkrar samkeppnissíður birtu það án þess að athuga og birtu afneitun.
Tilfelli 3 — Ofstraust á uppgötvunartækinu. Ritstjóri setti alvöru blaðamannsmynd inn í uppgötvunartæki; Farartækið er „78% gervi,“ sagði hann. Ritstjórinn ætlaði að draga hana frá útgáfu; Þegar háttsettur staðreyndaskoðari sýndi lýsigögn myndatökunnar og hráskrá blaðamannsins kom í ljós að myndin var raunveruleg. Lærdómur: miðillinn villir, heimildin talar.
Afritanleg sniðmát
1) Gátlisti fyrir sjónræn gerviefni:
Mig grunar að mynd gæti verið framleidd tilbúnar. Búðu til gátlista yfir hluti sem ég þarf að prófa: hendur/fingur, tennur, skartgripi, bakgrunnstexta, speglanir, ljós-skugga samræmi, öfug leit, lýsigögn. Skrifaðu niður hvernig á að leita að hverjum hlut. Ekki segja "falsa/raunverulega" fyrir víst; bara gátlisti. Sjónlýsing: [hér]
2) Að greina óupplýsinga frásögnina:
Eftirfarandi fullyrðing gæti verið óupplýsingaherferð. Ályktaðu: (1) hvaða tilfinningu það beinist að, (2) hvaða skipting það magnar upp, (3) sannanlegir/ósannanlegir þættir, (4) hvert dæmigert útbreiðslumynstur gæti verið. Dómur um réttlæti; greina. Krafa: [hér]
3) Drög að staðfestingarfréttum fyrir almenning:
Ég hef staðfest með frumheimildum að eftirfarandi efni sé tilbúið/villandi: [yfirlit yfir niðurstöður]. Skrifaðu drög að fermingarsögu sem upplýsir lesandann, veldur ekki læti og sýnir á gagnsæjan hátt hvernig ég sannreyndi. Láttu engar niðurstöður fylgja með sem ég gaf ekki upp. Niðurstöður: [hér]
4) AI-mynduð merki (vísbending) textans:
Nefndu vísbendingar um að eftirfarandi texti gæti verið tilbúinn: ósannanlegar heimildir, ofgnótt, einhliða rammagerð, endurtekin mynstur. Leggðu áherslu á að þetta er ekki óyggjandi sönnunargögn og skrifaðu niður hvaða staðreyndar sannprófanir þarf að gera. Texti: [hér]
Veik kvaðning / Sterk kvaðning
Veik kvaðning: "Segðu mér hvort þessi mynd er fölsuð."
Niðurstaða: gervigreind gefur nákvæmt útlit en óáreiðanlegt „já/nei“; Blaðamaðurinn gæti reitt sig á þennan úrskurð og skjátlast.
Sterk tilvitnun: "Búðu til lista yfir merki sem ég myndi athuga hvort þessi mynd gæti verið tilgerðarleg og skrifaðu niður hvernig ég myndi líta út fyrir hvert og eitt. Ekki dæma endanlega; bentu á að raunveruleg sannprófun er að fara aftur til upprunans og gera öfuga leit."
Munurinn: Öflug tilvitnun dregur úr gervigreindinni í vísbendingaframleiðanda, skilur dómgreind eftir hjá heimildarmanni og blaðamanni, sem gerir skekkjumörk tólsins sýnileg.
samanburðartöflu
Tegund efnis
Veikar vísbendingar
Áreiðanlegasta eftirlitið
Hlutverk gervigreindar
texta
Almennur, tilbúinn heimildarmaður
fara niður að upprunanum
Skilti listi
sjónrænt
Hand/tennur/skriftarmisræmi
Öfug leit + lýsigögn
gátlisti
hljóð
Ósamræmi í anda/umhverfi
Staðfesting heimilda og samhengis
Hvað á að leita að
Myndband (deepfake)
Misræmi í ljós/samstillingu
Frumheimild, krossstaðfest
Hjálp við greiningu
Algeng mistök
- Að meðhöndla uppgötvunartækið sem sönnunargögn. Að gera hlutfall ökutækis að ástæðu birtingar; verkfæri skekkast í báðar áttir.
- "Ég get sagt það með sjón" sjálfstraust. Tilbúið myndefni batnar hratt; Sjónrænt innsæi eitt og sér er ekki nóg.
- Ekki að fara að upprunanum. Flestar falsanir hrynja þegar upprunalega heimildin sem birti þær finnst; Að sleppa þessu skrefi er mistök.
- Breiða út grunaða. Að deila grunsamlegu efni sem segir „við skulum sjá hvort það er satt eða ekki“ þjónar óupplýsingum.
- Tungumál læti. Viðvörunartónninn í fermingarfréttunum dreifir nýjum ótta við leiðréttingu; Skrifaðu rólega og gegnsætt.
Dreifingarhraði og „afneitunargildran“
Raunverulegur kraftur óupplýsinga er ekki í efninu sjálfu, heldur í hraðanum sem það dreifist á. Tilfinningalega ögrandi efni sem vekur reiði eða ótta er deilt mun hraðar en staðfestum fréttum; Þó að falsað efni nái til milljóna innan nokkurra klukkustunda, nær ritgerð oft til mun færri fólks. Þessi ósamhverfa setur sérstaka ábyrgð á blaðamanninn: að deila vafasömu efni, jafnvel með því að segja „sjáðu hversu fáránlegt“, gefur því aðgang. Þetta er kallað súrefnisgjöf - að endurtaka lygar til að afsanna hana ýtir undir hana.
Mótefnið við þessu er "sannleikssamloka" tæknin við staðreyndaskoðun: segðu sannleikann áður en þú endurtekur ranga fullyrðinguna, sýndu síðan hvers vegna fullyrðingin er röng, endurtaktu síðan sannleikann aftur í lokin. Þannig er það sem situr eftir í huga lesandans ekki mistökin, heldur sannleikurinn. AI getur hjálpað til við að semja staðreyndaskoðun í samræmi við þessa uppbyggingu; En það er ritstjórnarákvörðunin hvaða sannleika á að setja fram og upplýsa tungumálið án þess að dreifa skelfingu. Önnur venja: að spyrja hvaða skarð er óupplýsingafylling? Fólk aðhyllist oft falsað efni vegna skorts á áreiðanlegum upplýsingum; Að fylla það skarð með hröðum, nákvæmum og aðgengilegum fréttum er skilvirkari vörn en að elta lygar hverja af annarri.
Í stuttu máli
Tilbúið efni og djúpfalsanir hafa ódýrt og flýtt fyrir óupplýsingum; Skylda blaðamanns er að birta þetta ekki og upplýsa almenning. Greiningartæki og gervigreind veita vísbendingar og skipulag – en ekki endanlega sönnun. Dómur er gerður með því að fara í uppruna, lýsigögn og öfuga leit, innra samræmi og óháð samhengi. Staðfestingarfréttir eru skrifaðar á rólegu, gagnsæju tungumáli sem sýnir hvernig þær voru sannreyndar.
Umsóknarverkefni
Finndu myndefni eða hljóðefni sem þér finnst grunsamlegt. Fylgdu leiðbeiningunum „Sjónræn gervivirkni“ (eða aðlögun fyrir hljóð); athugaðu virkilega hvert atriði og snúðu leitinni við. Gefðu niðurstöðuna einkunn sem „raunverulegar/falsaðar/ófullnægjandi sönnunargögn“ og berðu hana saman við ákvörðunina sem þú myndir taka ef þú treystir eingöngu á uppgötvunartækið.
gátlisti
- [ ] Ég lít á úttak uppgötvunartækjanna sem vísbendingar, ekki sönnunargögn.
- [ ] Fyrir vafasamt efni leita ég fyrst að upprunalegu heimildinni og fyrstu útgáfunni.
- [ ] Ég passa að snúa leit og lýsigögn athuga myndirnar.
- [ ] Ég dreifi ekki óstaðfestu vafasömu efni.
- [ ] Ég skrifa fermingarfréttir á rólegu, gagnsæju tungumáli sem sýnir hvernig ég sannreyndi þær.