Dobički:
- Sposobnost razumevanja tako lažnih dokazov kot grožnje lažnivskega pridobivanja sintetičnih medijev in večplastnega preverjanja pristnosti medijev
- Sposobnost ocenjevanja porekla, metapodatkov, tehnične anomalije, izvora (C2PA) in slojev kontekstualne skladnosti skupaj in se ne zanašati na eno samo oceno vozila
- Sposobnost izraziti rezultat v jeziku stopnje zaupanja, ne gotovosti, in sprejeti uporabo znanja proizvodne tehnike samo za odkrivanje in obrambo.
Video je v preiskavi »dokaz«: zvočni posnetek menedžerja, ki daje napačna navodila, fotografija, na kateri je oseba nekje, video izpovedi. Toda zdaj ostaja v ospredju vsakega dokaza vprašanje: ali je to resnično ali ga je ustvarila umetna inteligenca? Deepfake (lažni mediji, ustvarjeni z globokim učenjem, ki posnemajo obraz/glas/gibanje resnične osebe) in, širše, sintetični mediji (sintetični mediji – slike, zvok, video, ki jih v celoti ali delno proizvede umetna inteligenca) so najnovejša in najzahtevnejša meja digitalne forenzike. V tej enoti bomo obravnavali to dvojno vlogo umetne inteligence kot orodja za grožnjo in odkrivanje ter zakaj mora biti preverjanje večplastno.
Zakaj je tako kritičen?
Sintetični mediji so dvostranska grožnja. Prvič, lažni dokazi: nekdo lahko ustvari globoko ponaredek, da »dokaže« dogodek, ki se ni zgodil. Druga, bolj zahrbtna, je "lažnivčeva dividenda" (lažnivčeva dividenda - zahvaljujoč širjenju lažnih medijev je mogoče celo prave dokaze zavrniti kot "gre za globoko ponaredek"). Sintetični mediji torej ne proizvajajo le lažnih dokazov; Prav tako spodkopava verodostojnost dejanskih dokazov. Zato mora forenzični analitik preveriti pristnost vsakega medijskega dokaza – ali resnično izvira iz trditvenega vira, nespremenjen.
Pozor: »Orodje za zaznavanje AI je reklo, da je 98 % deepfake« samo na sodišču ni dovolj. Modeli zaznavanja so napačni, tehnike nove generacije se jim izmikajo in ocena verjetnosti ni dokončen dokaz. Deepfake detekcija mora biti vedno podprta z večplastnim preverjanjem (tehnično + kontekstualno + vir).
Plasti zaznavanja
Zaznavanje sintetičnih medijev se ne more zanašati na eno čarobno orodje; mora biti v plasteh:
- Tehnična/forenzična analiza: nedoslednosti stiskanja, anomalije slikovnih pik/frekvenčnosti, popačenja robov obraza, odsotnost bioloških signalov, kot sta mežikanje oči in utrip, nenaravni frekvenčni vzorci za zvok.
- Analiza metapodatkov in vira: metapodatki EXIF/vsebnika datoteke, proizvodne sledi, prstni odtis naprave, poti, skozi katere je šla datoteka (veriga skrbništva). Izbrisani/nedosledni metapodatki so opozorilo.
- Izvor vsebine: preverjen s standardi, kot je C2PA (odprti standard, ki mediju doda kriptografsko podpisane informacije o izvoru, ki označujejo, od kod izvirajo in kako so bili urejeni); Ali obstaja podpis, ali je skladen?
- Kontekstualno preverjanje: Ali so svetloba, sence, odsevi v videu fizično skladni? Ali se sinhronizacija glasu in ustnic ujemata? Ali je vsebina v nasprotju z znanimi dejstvi (vreme, lokacija, čas)?
AI je pospeševalnik na mnogih od teh ravni: označuje anomalije, zazna nedoslednosti, ustvarja kontrolne sezname. Toda končna presoja pristnosti je narejena z več plastmi navzkrižnega preverjanja in strokovnega ocenjevanja.
AI: hkrati grožnja in orodje
Ključna napetost te enote: ista tehnologija proizvaja in zazna globoke ponaredke. Forenzični analitik mora razumeti proizvodne tehnike (kako odkriti ponaredek, ne da bi vedel, kako je bil narejen?), vendar to uporablja samo za odkrivanje in obrambo. Uporaba umetne inteligence za izdelavo lažnih medijev za preslepitev nekoga drugega je goljufija in zloraba identitete; Obseg tega modula je izključno odkrivanje in preverjanje.
Namig: Ko ocenjujete medijske dokaze, najprej izvedite test "najpreprostejše razlage": ali je ta datoteka res prišla od tam, kjer trdi, da je? Ali je skrbniška veriga varna? Največkrat problem ni deepfake, ampak dekontekstualizacija (videoposnetek iz resničnega, a starega/drugega dogodka, prikazan v napačnem kontekstu). Preverite izvor in kontekst pred zapleteno globoko analizo ponaredkov.
Verjetnost, ne gotovost
Orodja za odkrivanje Deepfake ustvarijo oceno verjetnosti; Ne "zagotovo lažno" ali "zagotovo resnično". Ta rezultat ima mejo napake, interval zaupanja in njegova učinkovitost se zmanjša pri novih proizvodnih metodah, ki jih model še ni videl. V forenzičnem poročilu bi namesto "je ponaredek" za medij moralo pisati "ti indikatorji kažejo na manipulacijo, te plasti preverjanja so to pokazale, stopnja gotovosti je ta". Preveč natančen jezik povzroča ugovore na sodišču in izgubo ugleda.
trije mini kovčki
Primer 1 – Analiza izvora rešena pred deepfakeom. Videoposnetek, predložen odboru kot "dokaz", je bil pregledan. Preden smo prešli na analizo deepfake, so bili metapodatki preverjeni: video je bil ustvarjen 8 mesecev pred zahtevanim datumom, metapodatki vsebnika pa so kazali na drugo aplikacijo. Videoposnetek ni bil lažen, vendar je bil predstavljen v napačnem kontekstu; Najenostavnejši sloj je rešil težavo.
2. primer – večplastno odkrivanje je ujelo ponaredek. V glasovnem posnetku je orodje za zaznavanje AI dejalo, da je 71 % sintetičnih (ni gotovo). Strokovnjak je preučil dodatne plasti: nenaravno redne vzorce v frekvenčni analizi, odsotnost zvokov dihanja in odsotnost podpisa C2PA. Kombinacija treh neodvisnih indikatorjev je dala veliko močnejši rezultat kot en sam rezultat.
Primer 3 – Vrnitev iz pretirane gotovosti. "Videoposnetek je vsekakor deepfake," je zapisano v osnutku poročila, ki navaja rezultat enega samega vozila. Višji strokovnjak je popravil: eno orodje ni dovolj, jezik ne more biti "absolutno". Poročilo je bilo prevedeno v jezik, ki izraža več plasti in ravni natančnosti; tako postanejo braniti na sodišču.
Štiri predloge za kopiranje
1) Kontrolni seznam za preverjanje medijev:
Vaša vloga: strokovnjak za preverjanje sintetičnih medijev. Pripravite mi večplasten kontrolni seznam za potrjevanje slikovnih/zvočnih/video dokazov: (1) izvor/veriga skrbništva, (2) metapodatki, (3) tehnična anomalija, (4) izvor/C2PA, (5) kontekstualna doslednost. Napišite konkretne korake preverjanja za vsako plast.
2) Analiza skladnosti metapodatkov:
Dal vam bom metapodatke (EXIF/vsebnik) medijske datoteke. Nedoslednosti zastavic: create-modifymetaconflict, sled naprave/programske opreme, manjkajoča/izbrisana polja, geo-časovno neskladje. Poudarite, da so to lahko ZNAKI manipulacije, vendar sami po sebi niso dokaz.
3) Preverjanje kontekstualne skladnosti:
Ocenite fizično doslednost te slike/videoposnetka: ali so smer osvetlitve in sence skladni, ali so odsevi natančni, ali se avdio-lip sync ujema, ali se ozadje ujema z navedeno lokacijo/časom? Povežite vsako opazovanje s konkretno lokacijo. Ne dajajte končne sodbe; navedite točke, ki vzbujajo dvome.
4) Jezik ravni natančnosti:
Prevedite naslednje ugotovitve validacije (rezultati + rezultati stratifikacije) v odstavek poročila. Ne recite "zagotovo lažno/resnično"; vsaki ugotovitvi navedite njen vir in izrazite splošno stopnjo gotovosti (nizko/srednje/visoko zaupanje). Izogibajte se pretiranim spornim trditvam.
Šibek poziv/močan poziv
Šibek poziv:
Povejte mi, ali je ta video deepfake?
Ena plast, ena sodba čaka; AI ustvari "da/ne" brez konteksta, to bo ovrženo na sodišču.
Močan poziv:
Vaša vloga: strokovnjak za preverjanje sintetičnih medijev. Opisal vam bom metapodatke videoposnetka, oceno orodja za zaznavanje in nekaj sličic. Naloga: LOČENO ocenite izvor, metapodatke, tehnično nepravilnost in kontekstualno skladnost; Povežite tisto, kar vidite v vsaki plasti, z virom. Rezultat izrazite kot skupno stopnjo zaupanja plasti, ne kot "natančen". Ne zanašajte se na en sam rezultat; označite manjkajoče plasti.
Večplastno vrednotenje, povezovanje z virom in omejitev »brez klica« naredijo rezultat upravičljiv.
Tabela slojev za preverjanje pristnosti
plast
Kaj gleda?
močna točka
omejitev
Izvor/CoC
Od kod je prišla datoteka
Enostavno, natančno
Goljufija je lahko skrita
metapodatki
EXIF/vsebnik
hiter nasvet
Izbrisljivo/ponarejeno
tehnična anomalija
Piksel/frekvenca
sled manipulacije
Nova tehnika obide
Izvor/C2PA
signirano poreklo
kriptografsko zaupanje
Ne povsod
kontekstualno
Harmonija fizike/resničnosti
težko goljufati
Zahteva komentar
Pogoste napake
- Zanašanje na oceno enega vozila. Deepfake odkrivanje mora biti večplastno; en rezultat ni dokaz.
- Pomeni "popolnoma lažno/resnično". Uporabite jezik verjetnosti; Preveč natančnosti povzroča ugovore.
- Izpuščanje izvora in konteksta. Večina težav ni globokih ponaredkov, temveč napačnega konteksta/starih medijev.
- Absolutno zaupanje v metapodatke. Metapodatke je mogoče izbrisati ali ponarediti.
- Zloraba proizvodne tehnike. Informacije so samo za odkrivanje in obrambo.
Če povzamem
Deepfake in sintetični mediji so najnovejša meja v digitalni forenziki; Tako proizvaja lažne dokaze kot pravi dokaze sumljive. AI je hkrati orodje za grožnje in odkrivanje. Preverjanje ne bi smelo temeljiti na enem samem orodju, temveč na navzkrižnem preverjanju plasti porekla, metapodatkov, tehnične anomalije, izvora in kontekstualne skladnosti. Rezultat ni izražen z gotovostjo, ampak s stopnjo gotovosti. In te informacije so samo za odkrivanje in obrambo - ne za ustvarjanje lažnih medijev.
Aplikacijska naloga
Opišite scenarij medijskih dokazov (npr. zvočni posnetek). Ustvarite večplastni načrt s predlogo »kontrolni seznam za preverjanje medijev«. Nato uporabite predlogi »Analiza doslednosti metapodatkov« in »Jezik ravni natančnosti« z navideznimi metapodatki in oceno zaznavanja; Poskusite izraziti rezultat z večplastno stopnjo zaupanja in ne z "vsekakor lažnim".
kontrolni seznam
- [ ] Preverjanje sem temeljil na več plasteh, ne na enem orodju.
- [ ] Najprej sem preveril izvor in kontekst.
- [ ] Imel sem v mislih, da je mogoče metapodatke izbrisati/ponarediti.
- [ ] Rezultat sem izrazil v jeziku stopnje zaupanja, ne gotovosti.
- [ ] Informacije o proizvodnji sem uporabil samo za odkrivanje/obrambo.