Pelnas:
- Gebėjimas suprasti ir melagingus įrodymus, ir „melagių pelno“ grėsmę, kylančią dėl sintetinių laikmenų ir daugiasluoksnio žiniasklaidos autentiškumo patikrinimo
- Galimybė kartu įvertinti kilmę, metaduomenis, technines anomalijas, kilmę (C2PA) ir konteksto nuoseklumo sluoksnius ir nepasikliauti vienu transporto priemonės balu
- Gebėjimas išreikšti rezultatą pasitikėjimo, o ne tikrumo kalba ir pritaikyti gamybos technikos žinias tik aptikimui ir gynybai.
Vaizdo įrašas yra „įrodymas“ tyrime: garso įrašas, kuriame vadybininkas duoda netinkamus nurodymus, nuotrauka, kurioje matomas kažkur esantis žmogus, prisipažinimo vaizdo įrašas. Tačiau dabar kiekvieno įrodymo priešakyje išlieka klausimas: ar tai tikra, ar jį sukūrė dirbtinis intelektas? Deepfake (netikra laikmena, sukurta gilaus mokymosi būdu, imituojanti tikro žmogaus veidą / balsą / judesį) ir, plačiau, sintetinė medija (sintetinė laikmena – vaizdai, garsas, vaizdo įrašas, visiškai arba iš dalies sukurtas dirbtinio intelekto) yra naujausia ir sudėtingiausia skaitmeninės kriminalistikos sritis. Šiame skyriuje aptarsime šį dvigubą AI, kaip grėsmės ir aptikimo įrankio, vaidmenį ir paaiškinsime, kodėl patikrinimas turi būti daugiasluoksnis.
Kodėl tai taip kritiška?
Sintetinė laikmena yra dvipusė grėsmė. Pirma, netikri įrodymai: kažkas gali pateikti gilų padirbinį, kad „įrodytų“ įvykį, kuris neįvyko. Antra, klastingesnė, yra „melagių dividendai“ (melagių dividendai – dėl netikrų žiniasklaidos plitimo net tikri įrodymai gali būti atmesti kaip „tai gilus klastojimas“). Taigi sintetinės terpės ne tik sukuria melagingus įrodymus; Tai taip pat kenkia faktinių įrodymų patikimumui. Todėl teismo medicinos analitikas turi patikrinti kiekvieno žiniasklaidos įrodymo autentiškumą – ar jie tikrai kilę iš teigiamo šaltinio, nepakeisti.
Dėmesio: teisme neužtenka vien „AI aptikimo įrankio, kad 98 % padirbtų klaidų“. Aptikimo modeliai yra neteisingi, naujos kartos metodai jų vengia, o tikimybės balas nėra galutinis įrodymas. Deepfake aptikimas visada turėtų būti palaikomas naudojant kelių sluoksnių patvirtinimą (techninis + kontekstinis + šaltinis).
Aptikimo sluoksniai
Sintetinės laikmenos aptikimas negali pasikliauti vienu stebuklingu įrankiu; turėtų būti sluoksniuotas:
- Techninė / teismo ekspertizė: suspaudimo neatitikimai, pikselių / dažnių anomalijos, veido ribų iškraipymai, biologinių signalų, tokių kaip akių mirksėjimas ir pulsas, nebuvimas, nenatūralūs garso dažnio modeliai.
- Metaduomenų ir šaltinio analizė: failo EXIF / konteinerio metaduomenys, gamybos pėdsakai, įrenginio pirštų atspaudai, keliai, kuriais failas buvo perduotas (saugojimo grandinė). Ištrinti / nenuoseklūs metaduomenys yra įspėjimas.
- Turinio kilmė: patikrinta pagal tokius standartus kaip C2PA (atviras standartas, kuris prideda kriptografiškai pasirašytą kilmės informaciją į laikmeną, nurodant, iš kur ji atkeliavo ir kaip ji buvo redaguota); Ar yra parašas, ar jis nuoseklus?
- Kontekstinis patikrinimas: ar vaizdo įrašo šviesos, šešėliai ir atspindžiai yra fiziškai nuoseklūs? Ar balso ir lūpų sinchronizavimas sutampa? Ar turinys prieštarauja žinomiems faktams (oras, vieta, laikas)?
AI yra greitintuvas daugelyje šių sluoksnių: pažymi anomalijas, aptinka neatitikimus, generuoja kontrolinius sąrašus. Tačiau galutinis sprendimas dėl autentiškumo priimamas naudojant kelis kryžminio patvirtinimo ir ekspertinio vertinimo sluoksnius.
AI: ir grėsmė, ir įrankis
Pagrindinė šio įrenginio įtampa: ta pati technologija gamina ir aptinka gilius klastotes. Teismo medicinos analitikas turi suprasti gamybos metodus (kaip aptikti klastotę, nežinant, kaip ji buvo pagaminta?), tačiau tai naudoja tik aptikimo ir gynybos tikslais. AI naudojimas netikrai laikmenai kurti, siekiant apgauti ką nors kitą, yra sukčiavimas ir piktnaudžiavimas tapatybe; Šio modulio taikymo sritis yra griežtai aptikimas ir patikrinimas.
Patarimas: vertindami žiniasklaidos įrodymus, pirmiausia atlikite „paprasčiausio paaiškinimo“ testą: ar šis failas tikrai atkeliavo iš ten, kur, kaip teigiama, yra? Ar globos grandinė yra saugi? Dažniausiai problema yra ne deepfake, o dekontekstualizacija (vaizdo įrašas iš tikro, bet seno/kito įvykio, pateiktas netinkamame kontekste). Prieš sudėtingą giliosios klastotės analizę patikrinkite kilmę ir kontekstą.
Tikimybė, o ne tikrumas
Deepfake aptikimo įrankiai sukuria tikimybės balą; Ne „tikrai netikras“ ar „tikrai tikras“. Šis balas turi paklaidos ribą, pasikliautinąjį intervalą, o jo našumas mažėja taikant naujus gamybos metodus, kurių modelis nematė. Teismo ekspertizės ataskaitoje žiniasklaidai užuot pasakius „tai netikra“, reikėtų pasakyti, kad „šie rodikliai rodo manipuliavimą, šie patikrinimo sluoksniai tai parodė, tikrumo lygis yra toks“. Pernelyg tiksli kalba sukelia prieštaravimų teisme ir praranda reputaciją.
trys mini dėklai
1 atvejis – kilmės analizė išspręsta prieš gilųjį klastojimą. Buvo peržiūrėtas vaizdo įrašas, pateiktas kaip „įrodymas“ tarybai. Prieš pereinant prie gilios klastotės analizės, buvo patikrinti metaduomenys: vaizdo įrašas buvo sukurtas likus 8 mėnesiams iki paraiškos pateikimo datos, o sudėtinio rodinio metaduomenys nukreipė į kitą programą. Vaizdo įrašas nebuvo netikras, bet pateiktas netinkamame kontekste; Paprasčiausias sluoksnis išsprendė problemą.
2 atvejis. Daugiasluoksnis aptikimas užfiksavo klastotę. Balso įraše AI aptikimo įrankis nurodė, kad 71% sintetinių (nežinoma). Ekspertas pažvelgė į papildomus sluoksnius: nenatūraliai reguliarius dažnių analizės modelius, kvėpavimo garsų nebuvimą ir C2PA parašo nebuvimą. Trijų nepriklausomų rodiklių derinys davė daug stipresnį rezultatą nei vienas balas.
3 atvejis – grįžimas iš per didelio tikrumo. „Vaizdo įrašas neabejotinai yra klastotė“, – sakoma ataskaitos projekte, nurodant vieną automobilio rezultatą. Vyresnysis ekspertas pataisė: vienos priemonės neužtenka, kalba negali būti „absoliučiai“. Ataskaita buvo išversta į kalbą, kuri išreiškia kelis sluoksnius ir tikslumo lygius; taip tampa gintinas teisme.
Keturi kopijuojami šablonai
1) Žiniasklaidos patvirtinimo kontrolinis sąrašas:
Jūsų vaidmuo: sintetinės laikmenos tikrinimo ekspertas. Pateikite man daugiasluoksnį kontrolinį sąrašą vaizdo / garso / vaizdo įrodymų patvirtinimui: (1) kilmė / priežiūros grandinė, (2) metaduomenys, (3) techninė anomalija, (4) kilmė / C2PA, (5) konteksto nuoseklumas. Kiekvienam sluoksniui parašykite konkrečius patikrinimo žingsnius.
2) metaduomenų nuoseklumo analizė:
Pateiksiu medijos failo metaduomenis (EXIF/konteineris). Žymėti neatitikimus: sukurti-keisti metakonfliktą, įrenginio / programinės įrangos sekimas, trūkstami / ištrinti laukai, geografinis neatitikimas. Atkreipkite dėmesį, kad tai gali būti manipuliavimo ŽENKLAI, bet patys savaime nėra įrodymai.
3) Konteksto nuoseklumo patikrinimas:
Įvertinkite šio vaizdo / vaizdo įrašo fizinį nuoseklumą: ar apšvietimo kryptis ir šešėliai yra nuoseklūs, ar atspindžiai tikslūs, ar garso lipsynkas atitinka, ar fonas atitinka nurodytą vietą / laiką? Kiekvieną stebėjimą susiekite su konkrečia vieta. Nepriimkite galutinio sprendimo; išvardinkite klausimus, kurie kelia abejonių.
4) Tikslumo lygio kalba:
Išverskite šias patvirtinimo išvadas (balai + stratifikacijos rezultatai) į ataskaitos pastraipą. Nesakykite „neabejotinai netikras/tikras“; kiekvienam radiniui nurodykite jo šaltinį ir išreikškite bendrą tikrumo lygį (mažas/vidutinis/didelis patikimumas). Venkite pernelyg didelių nepriimtinų pretenzijų.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Pasakyk man, ar šis vaizdo įrašas yra netikras?
Laukia vienas sluoksnis, vienas teismo sprendimas; AI generuoja „taip/ne“ be konteksto, tai bus paneigta teisme.
Galingas raginimas:
Jūsų vaidmuo: sintetinės laikmenos tikrinimo ekspertas. Aprašysiu vaizdo įrašo metaduomenis, aptikimo įrankio balą ir kelis kadrus. Užduotis: ATSKIRAI įvertinti kilmės, metaduomenų, techninės anomalijos ir kontekstinio nuoseklumo sluoksnius; Prijunkite tai, ką matote kiekviename sluoksnyje, su šaltiniu. Išreikškite rezultatą kaip bendrą sluoksnių patikimumo lygį, o ne kaip „tikslų“. Nepasikliaukite vienu balu; nurodyti trūkstamus sluoksnius.
Sluoksniuotas įvertinimas, susiejimas su šaltiniu ir „be skambučio“ apribojimas daro išvestį patikimą.
Autentifikavimo sluoksnių lentelė
sluoksnis
Į ką jis žiūri?
stiprioji vieta
riba
Kilmė / CoC
Iš kur atsirado failas
Paprasta, tiksli
Sukčiavimas gali būti paslėptas
metaduomenys
EXIF / konteineris
greitas patarimas
Ištrinama/netikra
techninė anomalija
Pikselis/dažnis
manipuliacijos pėdsakai
Nauja technika apeina
Kilmė/C2PA
pasirašyta kilmė
kriptografinis pasitikėjimas
Ne visur
kontekstinis
Fizikos/realybės harmonija
sunku apgauti
Reikalingas komentaras
Dažnos klaidos
- Remdamiesi vienu transporto priemonės balu. Deepfake aptikimas turėtų būti daugiasluoksnis; vienas balas nėra įrodymas.
- Tai reiškia „visiškai netikras/tikras“. Naudokite tikimybių kalbą; Per didelis tikslumas kelia prieštaravimų.
- Praleidžiant kilmę ir kontekstą. Dauguma problemų yra ne klastotės, o netinkamas kontekstas / sena žiniasklaida.
- Absoliutus pasitikėjimas metaduomenimis. Metaduomenys gali būti ištrinti ir suklastoti.
- Piktnaudžiavimas gamybos technika. Informacija skirta tik aptikimui ir gynybai.
Apibendrinant
Deepfake ir sintetinė laikmena yra naujausia skaitmeninės teismo ekspertizės riba; Tai ir pateikia melagingus įrodymus, ir įtaria tikrus įrodymus. AI yra ir grėsmės, ir aptikimo įrankis. Tikrinimas turėtų būti pagrįstas ne vienu įrankiu, o kryžminiu kilmės, metaduomenų, techninės anomalijos, kilmės ir konteksto nuoseklumo patikrinimu. Rezultatas išreiškiamas ne tikrumu, o tikrumo lygiu. Ir ši informacija skirta tik aptikimui ir gynybai, o ne netikros laikmenos generavimui.
Taikymo užduotis
Aprašykite žiniasklaidos įrodymų scenarijų (pvz., garso įrašą). Sukurkite daugiasluoksnį planą naudodami „medijos patvirtinimo kontrolinio sąrašo“ šabloną. Tada pritaikykite šablonus „Metaduomenų nuoseklumo analizė“ ir „Tikslumo lygio kalba“ su netikrais metaduomenimis ir aptikimo balu; Pabandykite išreikšti rezultatą daugiasluoksniu pasitikėjimo lygiu, o ne „tikrai netikru“.
kontrolinis sąrašas
- [ ] Patikrinimą grindžiau keliais sluoksniais, o ne vienu įrankiu.
- [ ] Pirmiausia patikrinau kilmę ir kontekstą.
- [ ] Turėjau omenyje, kad metaduomenis galima ištrinti/suklastoti.
- [ ] Rezultatą išreiškiau pasitikėjimo, o ne tikrumo kalba.
- [ ] Gamybos informaciją naudojau tik aptikimui / gynybai.