Voitot:
- Kyky ymmärtää sekä synteettisen median vääriä todisteita että "valehtelijan voiton" uhkaa ja median aitouden monitasoista todentamista
- Kyky arvioida alkuperää, metatietoja, teknisiä poikkeavuuksia, alkuperää (C2PA) ja kontekstuaalista johdonmukaisuutta yhdessä eikä luottaa yhteen ajoneuvopisteeseen
- Kyky ilmaista tulos luottamustason, ei varmuuden kielellä ja omaksua tuotantotekniikan tiedon käyttö vain havaitsemiseen ja puolustamiseen.
Video tulee "todisteena" tutkinnassa: äänitallenteet esimiehestä, joka antaa sopimattomia ohjeita, valokuva, jossa henkilö on jossain, video tunnustuksesta. Mutta nyt kysymys on edelleen jokaisen todisteen eturintamassa: Onko tämä totta vai onko se tekoälyn tuottama? Deepfake (fake media, joka on tuotettu syväoppimisen avulla, joka jäljittelee oikean henkilön kasvoja/ääntä/liikettä) ja laajemmin synteettinen media (synteettinen media – kokonaan tai osittain tekoälyn tuottama kuvat, ääni, video) ovat digitaalisen rikosteknisen tutkimuksen uusin ja haastavin raja. Tässä osiossa käsittelemme tekoälyn kaksoisroolia sekä uhka- että havaitsemistyökaluna ja miksi todentamisen on oltava monitasoista.
Miksi se on niin kriittinen?
Synteettinen media on kaksitahoinen uhka. Ensinnäkin, väärennetyt todisteet: joku voi tuottaa syvän väärennöksen "todistaakseen" tapahtuman, jota ei tapahtunut. Toiseksi, petollisempi, on "valehtelijan osinko" (valehtelijan osinko - väärennettyjen tiedotusvälineiden lisääntymisen ansiosta jopa todelliset todisteet voidaan hylätä "se on syvä väärennös"). Joten synteettiset tiedotusvälineet eivät ainoastaan tuota vääriä todisteita; Se myös heikentää todellisten todisteiden uskottavuutta. Siksi rikosteknisen analyytikon on tarkistettava jokaisen median todisteen aitous – että se todella tulee väitetystä lähteestä muuttumattomana.
Huomio: "AI-tunnistustyökalu sanoi, että 98% syväväärennös" ei yksin riitä tuomioistuimessa. Havaitsemismallit ovat vääriä, uuden sukupolven tekniikat kiertävät niitä, ja todennäköisyyspisteet eivät ole lopullinen todiste. Deepfake-tunnistuksen tulisi aina olla tuettu monikerroksisella vahvistuksella (tekninen + kontekstuaalinen + lähde).
Havaitsemiskerrokset
Synteettisen median tunnistus ei voi luottaa yhteen taikatyökaluun; pitäisi olla kerroksittain:
- Tekninen/rikostekninen analyysi: Pakkauksen epäjohdonmukaisuudet, pikseli-/taajuuspoikkeavuudet, kasvojen rajan vääristymät, biologisten signaalien, kuten silmien räpäykset ja pulssi, puuttuminen, epäluonnolliset äänen taajuusmallit.
- Metatiedot ja lähdeanalyysi: tiedoston EXIF/säilön metatiedot, tuotantojäljet, laitteen sormenjälki, reitit, joiden kautta tiedosto kulki (säilytysketju). Poistetut/epäjohdonmukaiset metatiedot ovat varoitus.
- Sisällön alkuperä: Varmistettu standardeilla, kuten C2PA (avoin standardi, joka lisää kryptografisesti allekirjoitetut alkuperätiedot mediaan ja osoittaa, mistä se on peräisin ja miten sitä on muokattu); Onko allekirjoitus, onko se johdonmukainen?
- Asiayhteysvarmennus: Ovatko valot, varjot ja heijastukset videossa fyysisesti yhdenmukaisia? Vastaavatko äänen ja huulten synkronointi? Onko sisältö ristiriidassa tunnettujen tosiasioiden kanssa (sää, sijainti, aika)?
AI on kiihdytin monilla näistä tasoista: merkitsee poikkeavuuksia, havaitsee epäjohdonmukaisuudet, luo tarkistuslistoja. Mutta lopullinen päätös aitoudesta tehdään ristiinvalidoinnin ja asiantuntija-arvioinnin kautta.
AI: sekä uhka että työkalu
Tämän laitteen avainjännite: sama tekniikka sekä tuottaa että havaitsee syväväärennöksiä. Oikeuslääketieteen analyytikon on ymmärrettävä tuotantotekniikat (miten väärennös havaitaan tietämättä, miten se on tehty?), mutta käyttää tätä vain havaitsemiseen ja puolustamiseen. Tekoälyn käyttäminen väärennetyn median tuottamiseen jonkun muun huijaamiseksi on petosta ja identiteetin väärinkäyttöä. Tämän moduulin soveltamisala on tiukasti havaitseminen ja todentaminen.
Vinkki: Kun arvioit median todisteita, suorita ensin "yksinkertaisin selitys" -testi: Tuliko tämä tiedosto todella sieltä, missä se väittää olevansa? Onko huoltoketju turvallinen? Suurimman osan ajasta ongelmana ei ole syväfake, vaan kontekstualisointi (video todellisesta mutta vanhasta/toisesta tapahtumasta, esitetty väärässä kontekstissa). Tarkista alkuperä ja konteksti ennen monimutkaista syväväärennösanalyysiä.
Todennäköisyys, ei varmuus
Deepfake-tunnistustyökalut tuottavat todennäköisyyspisteet; Ei "ehdottomasti väärennös" tai "ehdottomasti todellinen". Tällä pistemäärällä on virhemarginaali, luottamusväli ja sen suorituskyky heikkenee uusissa tuotantomenetelmissä, joita malli ei ole nähnyt. Oikeuslääketieteellisessä raportissa sen sijaan, että sanottaisiin "se on väärennös" medialle, pitäisi sanoa "nämä indikaattorit viittaavat manipulointiin, nämä varmennuskerrokset osoittivat tämän, varmuuden taso on tämä". Liian tarkka kielenkäyttö aiheuttaa vastalauseita tuomioistuimessa ja maineen menetyksen.
kolme minilaukkua
Tapaus 1 – Alkuperäanalyysi ratkaistu ennen syväväärennöstä. Lautakunnalle "todisteena" lähetetty video tarkistettiin. Ennen kuin siirryttiin deepfake-analyysiin, metatiedot tarkistettiin: video luotiin 8 kuukautta ennen vaatimuksen päivämäärää ja säilön metatiedot viittasivat toiseen sovellukseen. Video ei ollut väärennös, mutta se esitettiin väärässä kontekstissa; Yksinkertaisin kerros ratkaisi ongelman.
Tapaus 2 – Monikerroksinen tunnistus havaitsi väärennöksen. Äänitallenteessa AI-tunnistustyökalu sanoi, että 71% synteettinen (ei varma). Asiantuntija tarkasteli lisäkerroksia: luonnottoman säännöllisiä kuvioita taajuusanalyysissä, hengitysäänien puuttumista ja C2PA-allekirjoituksen puuttumista. Kolmen riippumattoman indikaattorin yhdistelmä tuotti paljon vahvemman tuloksen kuin yksittäinen pistemäärä.
Tapaus 3 – Paluu liiallisesta varmuudesta. "Video on ehdottomasti väärennös", raporttiluonnoksessa todettiin viitaten yksittäiseen ajoneuvoon. Vanhempi asiantuntija korjasi: yksi työkalu ei riitä, kieli ei voi olla "ehdottomasti". Raportti on käännetty kielelle, joka ilmaisee useita tasoja ja tarkkuustasoja; siten puolustettava tuomioistuimessa.
Neljä kopioitavaa mallia
1) Median vahvistuksen tarkistuslista:
Tehtäväsi: synteettisen median varmennusasiantuntija. Tuo minulle kerroksittainen tarkistuslista kuvan/audion/videon todisteiden validoimiseksi: (1) alkuperä/huollon ketju, (2) metatiedot, (3) tekninen poikkeama, (4) alkuperä/C2PA, (5) kontekstuaalinen johdonmukaisuus. Kirjoita kullekin kerrokselle konkreettiset tarkistusvaiheet.
2) Metatietojen johdonmukaisuuden analyysi:
Annan sinulle mediatiedoston metatiedot (EXIF/container). Merkitse epäjohdonmukaisuudet: luo-muokkaa metakonflikti, laitteen/ohjelmiston jäljitys, puuttuvat/poistetut kentät, maantieteellisen ajan välinen ristiriita. Huomioi, että nämä voivat olla merkkejä manipuloinnista, mutta eivät sinänsä todisteita.
3) Kontekstin johdonmukaisuuden tarkistus:
Arvioi tämän kuvan/videon fyysistä yhtenäisyyttä: ovatko valaistuksen suunta ja varjot johdonmukaisia, ovatko heijastukset tarkkoja, vastaako ääni-lipsync, vastaako tausta väitettyä sijaintia/aikaa? Yhdistä jokainen havainto tiettyyn paikkaan. Älä tee lopullista tuomiota; luettele seikat, jotka herättävät epäilyksiä.
4) Tarkkuustason kieli:
Käännä seuraavat validointihavainnot (pisteet + kerrostustulokset) raportin kappaleeksi. Älä sano "varmasti väärennös/todellinen"; anna jokaiselle löydökselle sen lähde ja ilmaise yleinen varmuuden taso (matala/keskimääräinen/korkea luottamus). Vältä liiallisia vastenmielisiä väitteitä.
Heikko kehote / Vahva kehote
Heikko kehote:
Kerro minulle, onko tämä video fake?
Yksi kerros, yksi tuomio odottaa; Tekoäly tuottaa "kyllä/ei" ilman kontekstia, tämä kumotaan oikeudessa.
Tehokas kehotus:
Tehtäväsi: synteettisen median varmennusasiantuntija. Kuvaan sinulle videon metatiedot, tunnistustyökalun pisteet ja muutaman kehyksen. Tehtävä: arvioi lähteen, metadatan, teknisen poikkeavuuden ja kontekstuaalisen johdonmukaisuuden kerrokset ERITYISESTI; Yhdistä kussakin kerroksessa näkemäsi lähteeseen. Ilmaise tulos kerrosten yhdistettynä luottamustasona, ei "tarkana". Älä luota yhteen pisteeseen; osoittavat puuttuvat tasot.
Kerrostettu arviointi, linkittäminen lähteeseen ja "ei kutsua" -rajoitus tekevät tuotosta puolustettavan.
Todennustasojen taulukko
kerros
Mitä hän katsoo?
vahva kohta
rajaa
Alkuperä/CoC
Mistä tiedosto on peräisin
Yksinkertaista, tarkkaa
Petos voidaan piilottaa
metatiedot
EXIF/säiliö
nopea vinkki
Pyyhitettävä/väärennetty
tekninen poikkeama
Pikseli/taajuus
manipuloinnin jälkiä
Uusi tekniikka ohittaa
Lähde/C2PA
allekirjoitettu alkuperä
kryptografinen luottamus
Ei kaikkialla
kontekstuaalinen
Fysiikan/todellisuuden harmonia
vaikea huijata
Vaatii kommentin
Yleisiä virheitä
- Luotetaan yhteen ajoneuvopisteeseen. Deepfake-tunnistuksen tulee olla monikerroksinen; yksittäinen pistemäärä ei ole todiste.
- Se tarkoittaa "täysin väärennös/oikea". Käytä todennäköisyyden kieltä; Liian suuri tarkkuus herättää vastalauseita.
- Jätetään pois alkuperä ja konteksti. Useimmat ongelmat eivät ole syvällisiä väärennöksiä, vaan väärää kontekstia/vanhaa mediaa.
- Ehdoton luottamus metatietoihin. Metadata voidaan sekä poistaa että väärentää.
- Tuotantotekniikan väärinkäyttö. Tiedot on tarkoitettu vain havaitsemiseen ja puolustamiseen.
Yhteenvetona
Deepfake ja synteettinen media ovat uusin raja digitaalisessa rikosteknisissä; Se tuottaa sekä vääriä todisteita että tekee todellisista todisteista epäilyttäviä. Tekoäly on sekä uhka- että havaitsemistyökalu. Todentamisen ei pitäisi perustua yhteen työkaluun, vaan lähteen, metatietojen, teknisten poikkeamien, alkuperän ja kontekstuaalisen johdonmukaisuuden ristiinvarmentamiseen. Tulosta ei ilmaista varmuudella vaan varmuuden tasolla. Ja nämä tiedot on tarkoitettu vain havaitsemiseen ja puolustukseen – ei väärennetyn median luomiseen.
Sovellustehtävä
Kuvaile median näyttöskenaariota (esim. äänitallenteita). Luo kerrostettu suunnitelma "mediavahvistuksen tarkistuslista" -mallilla. Käytä sitten "Metatietojen johdonmukaisuusanalyysi"- ja "Tarkkuustason kieli" -malleja valemetatiedoilla ja tunnistuspisteillä. Yritä ilmaista tulos monitasoisella itsevarmuudella sen sijaan, että se olisi "varmasti väärennös".
tarkistuslista
- [ ] Perustin vahvistuksen useisiin kerroksiin, en yhteen työkaluun.
- [ ] Tarkistin ensin alkuperän ja kontekstin.
- [ ] Pidin mielessä, että metatiedot voidaan poistaa/väärentää.
- [ ] Ilmaisin tuloksen luottamustason, en varmuuden kielellä.
- [ ] Käytin tuotantotietoja vain havaitsemiseen/puolustukseen.