Ieguvumi:
- Spēja izprast gan nepatiesus pierādījumus, gan "meļu ieguvuma" draudus, ko rada sintētisko datu nesējs, un multivides autentiskuma daudzslāņu pārbaudi
- Spēja novērtēt izcelsmi, metadatus, tehnisko anomāliju, izcelsmi (C2PA) un kontekstuālās konsekvences slāņus kopā un nepaļauties uz vienu transportlīdzekļa punktu skaitu
- Spēja izteikt rezultātu uzticamības līmeņa, nevis noteiktības valodā un pieņemt ražošanas tehnikas zināšanu izmantošanu tikai atklāšanai un aizsardzībai.
Videoieraksts ir kā "pierādījums" izmeklēšanā: audioieraksts, kurā vadītājs dod nepareizas instrukcijas, fotogrāfija, kurā redzams, ka cilvēks kaut kur atrodas, video ar atzīšanos. Bet tagad jautājums joprojām ir katra pierādījuma priekšplānā: vai tas ir īsts, vai arī to radīja mākslīgais intelekts? Deepfake (viltus mediji, ko rada dziļa mācīšanās, kas atdarina reālas personas seju/balsi/kustību) un, plašākā nozīmē, sintētiskie mediji (sintētiskie mediji — attēli, audio, video, ko pilnībā vai daļēji rada mākslīgais intelekts) ir jaunākā un izaicinošākā digitālās kriminālistikas robeža. Šajā nodaļā mēs apskatīsim šo divkāršo AI lomu gan kā draudu, gan atklāšanas rīku, un to, kāpēc verifikācijai ir jābūt daudzslāņu.
Kāpēc tas ir tik kritisks?
Sintētiskie mediji ir divējāds drauds. Pirmkārt, viltoti pierādījumi: kāds var izveidot dziļu viltojumu, lai “pierādītu” notikumu, kas nav noticis. Otrkārt, mānīgāka ir "meļa dividende" (meļa dividende - pateicoties viltotu mediju izplatībai, pat reālus pierādījumus var noraidīt kā "tas ir dziļš viltojums"). Tātad sintētiskie mediji ne tikai rada nepatiesus pierādījumus; Tas arī mazina faktisko pierādījumu ticamību. Tāpēc kriminālistikas analītiķim ir jāpārbauda katra plašsaziņas līdzekļu pierādījuma autentiskums — vai tie patiešām nāk no apgalvotā avota, nemainīti.
Uzmanību: "AI noteikšanas rīks teica, ka 98% dziļi viltots" vien tiesā nepietiek. Atklāšanas modeļi ir nepareizi, jaunās paaudzes metodes tos izvairās, un varbūtības rādītājs nav galīgs pierādījums. Dziļās viltojumu noteikšana vienmēr ir jāatbalsta ar vairāku slāņu verifikāciju (tehniskā + konteksta + avots).
Atklāšanas slāņi
Sintētisko datu nesēju noteikšana nevar paļauties uz vienu burvju rīku; jābūt slāņainiem:
- Tehniskā/tiesu ekspertīze: saspiešanas neatbilstības, pikseļu/frekvenču anomālijas, sejas robežu izkropļojumi, bioloģisko signālu, piemēram, acu mirkšķināšanas un pulsa, trūkums, nedabiski audio frekvenču modeļi.
- Metadatu un avota analīze: faila EXIF/konteinera metadati, ražošanas pēdas, ierīces pirkstu nospiedumi, ceļi, caur kuriem fails ir izgājis (piegādes ķēde). Dzēsti/nekonsekventi metadati ir brīdinājums.
- Satura izcelsme: pārbaudīts pēc tādiem standartiem kā C2PA (atvērts standarts, kas pievieno kriptogrāfiski parakstītu izcelsmes informāciju plašsaziņas līdzekļiem, norādot, no kurienes tā nākusi un kā tā tika rediģēta); Vai ir paraksts, vai tas ir konsekvents?
- Kontekstuālā pārbaude: vai videoklipā redzamās gaismas, ēnas un atspīdumi ir fiziski konsekventi? Vai balss un lūpu sinhronizācija atbilst? Vai saturs ir pretrunā ar zināmiem faktiem (laika apstākļi, vieta, laiks)?
AI ir paātrinātājs daudzos no šiem slāņiem: atzīmē anomālijas, atklāj neatbilstības, ģenerē kontrolsarakstus. Taču galīgais spriedums par autentiskumu tiek veikts, izmantojot vairākus savstarpējās apstiprināšanas un ekspertu novērtējuma līmeņus.
AI: gan draudi, gan rīks
Šīs ierīces galvenais spriegums: viena un tā pati tehnoloģija gan rada, gan nosaka dziļos viltojumus. Kriminālistam ir jāsaprot ražošanas metodes (kā atklāt viltojumu, nezinot, kā tas ir izgatavots?), bet izmanto to tikai atklāšanas un aizsardzības nolūkos. AI izmantošana viltotu multivides radīšanai, lai apmānītu kādu citu, ir krāpšana un identitātes ļaunprātīga izmantošana; Šī moduļa darbības joma ir tikai noteikšana un pārbaude.
Padoms. Novērtējot plašsaziņas līdzekļu pierādījumus, vispirms veiciet “vienkāršākā skaidrojuma” testu: vai šis fails tiešām ir nācis no vietas, kur tas tiek apgalvots? Vai uzraudzības ķēde ir droša? Lielākoties problēma ir nevis deepfake, bet gan dekontekstualizācija (video no reāla, bet sena/cita notikuma, kas pasniegts nepareizā kontekstā). Pirms sarežģītas dziļās viltojumu analīzes pārbaudiet izcelsmi un kontekstu.
Varbūtība, nevis pārliecība
Dziļās viltojumu noteikšanas rīki rada varbūtības rādītāju; Nevis "noteikti viltots" vai "noteikti īsts". Šim rādītājam ir kļūdas robeža, ticamības intervāls, un tā veiktspēja samazinās, izmantojot jaunas ražošanas metodes, kuras modelis nav redzējis. Tiesu ekspertīzes ziņojumā medijam tā vietā, lai teiktu "tas ir viltojums", būtu jāsaka "šie rādītāji norāda uz manipulācijām, šie pārbaudes slāņi to parādīja, noteiktības līmenis ir šāds". Pārāk precīza valoda rada iebildumus tiesā un reputācijas zaudēšanu.
trīs mini futrāļi
1. gadījums — pirms dziļās viltošanas atrisināta izcelsmes analīze. Tika izskatīts video, kas tika iesniegts kā "pierādījums" padomei. Pirms pāriet uz dziļo viltojumu analīzi, tika pārbaudīti metadati: videoklips tika izveidots 8 mēnešus pirms pretenzijas iesniegšanas datuma, un konteinera metadati norādīja uz citu lietojumprogrammu. Videoklips nebija viltots, taču tas tika parādīts nepareizā kontekstā; Vienkāršākais slānis atrisināja problēmu.
2. gadījums — daudzslāņu noteikšana notvēra viltojumu. Balss ierakstā AI noteikšanas rīks norādīja, ka 71% ir sintētisks (nav skaidrs). Eksperts aplūkoja papildu slāņus: nedabiski regulārus modeļus frekvenču analīzē, elpas skaņu neesamību un C2PA paraksta neesamību. Trīs neatkarīgu rādītāju kombinācija deva daudz spēcīgāku rezultātu nekā viens rezultāts.
3. gadījums — atgriešanās no pārmērīgas noteiktības. "Videoklips noteikti ir viltots," teikts ziņojuma projektā, atsaucoties uz vienu transportlīdzekļa rezultātu. Vecākā eksperte izlaboja: ar vienu instrumentu nepietiek, valoda nevar būt "absolūti". Ziņojums ir tulkots valodā, kas izsaka vairākus slāņus un precizitātes līmeņus; tādējādi kļūstot par aizstāvību tiesā.
Četras kopējamas veidnes
1) Multivides verifikācijas kontrolsaraksts:
Jūsu loma: sintētisko datu nesēju verifikācijas eksperts. Izveidojiet man daudzslāņu kontrolsarakstu attēla/audio/video pierādījumu apstiprināšanai: (1) izcelsme/piegādes ķēde, (2) metadati, (3) tehniska anomālija, (4) izcelsme/C2PA, (5) kontekstuālā konsekvence. Katram slānim uzrakstiet konkrētas pārbaudes darbības.
2) Metadatu konsekvences analīze:
Es jums sniegšu multivides faila metadatus (EXIF/konteiners). Atzīmēt nekonsekvences: izveidot-modificētmetakonflikts, ierīces/programmatūras izsekošana, trūkstoši/dzēsti lauki, ģeogrāfiskā laika neatbilstība. Norādiet, ka tās var būt manipulācijas PAZĪMES, bet pašas par sevi nav pierādījums.
3) Kontekstuālās konsekvences pārbaude:
Novērtējiet šī attēla/video fizisko konsekvenci: vai apgaismojuma virziens un ēnas ir konsekventi, vai atspīdumi ir precīzi, vai audio-lipsync atbilst, vai fons atbilst norādītajai vietai/laikam? Saistiet katru novērojumu ar konkrētu vietu. Nepieņemiet galīgo spriedumu; uzskaitiet punktus, kas rada šaubas.
4) Precizitātes līmeņa valoda:
Pārvērtiet tālāk norādītos validācijas konstatējumus (vērtējumus + stratifikācijas rezultātus) pārskata rindkopā. Nesaki "noteikti viltots/īsts"; norādiet katram atradumam tā avotu un izsakiet vispārēju noteiktības līmeni (zema/vidēja/augsta ticamība). Izvairieties no pārmērīgām nevēlamām pretenzijām.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Pastāsti man, vai šis video ir viltojums?
Viens slānis, viens spriedums gaida; AI ģenerē “jā/nē” bez konteksta, tas tiks atspēkots tiesā.
Spēcīga uzvedne:
Jūsu loma: sintētisko datu nesēju verifikācijas eksperts. Es jums aprakstīšu videoklipa metadatus, noteikšanas rīka rezultātu un dažus kadrus. Uzdevums: Atsevišķi izvērtēt izcelsmes, metadatu, tehnisko anomāliju un kontekstuālās konsekvences slāņus; Savienojiet to, ko redzat katrā slānī, ar avotu. Izsakiet rezultātu kā slāņu kombinēto ticamības līmeni, nevis kā "precīzu". Nepaļaujieties uz vienu rezultātu; norāda trūkstošos slāņus.
Slāņveida novērtējums, saite ar avotu un ierobežojums “bez izsaukuma” padara izvadi aizsargājamu.
Autentifikācijas slāņu tabula
slānis
Uz ko viņš skatās?
stiprā puse
ierobežojums
Izcelsme/CoC
No kurienes radās fails
Vienkāršs, precīzs
Krāpšanu var slēpt
metadati
EXIF/konteiners
ātrs padoms
Izdzēšams/viltots
tehniska anomālija
Pikseļi/frekvence
manipulācijas pēdas
Jaunas tehnikas apietas
Izcelsme/C2PA
parakstīta izcelsme
kriptogrāfijas uzticība
Ne visur
kontekstuāls
Fizikas/realitātes harmonija
grūti apkrāpt
Nepieciešams komentārs
Biežas kļūdas
- Paļaušanās uz vienu transportlīdzekļa rezultātu. Dziļās viltojumu noteikšanai jābūt daudzslāņu; viens rezultāts nav pierādījums.
- Tas nozīmē "absolūti viltots/īsts". Izmantojiet varbūtības valodu; Pārāk liela precizitāte rada iebildumus.
- Izlaižot izcelsmi un kontekstu. Lielākā daļa problēmu nav dziļas viltojumi, bet gan nepareizs konteksts / veci mediji.
- Absolūta uzticēšanās metadatiem. Metadatus var gan dzēst, gan viltot.
- Ražošanas tehnikas ļaunprātīga izmantošana. Informācija ir paredzēta tikai atklāšanai un aizsardzībai.
Rezumējot
Dziļi viltotie un sintētiskie mediji ir digitālās kriminālistikas jaunākā robeža; Tas gan rada nepatiesus pierādījumus, gan padara reālus pierādījumus par aizdomīgiem. AI ir gan draudu, gan atklāšanas rīks. Verifikācijai nevajadzētu būt balstītai uz vienu rīku, bet gan uz izcelsmes, metadatu, tehnisko anomāliju, izcelsmes un kontekstuālās konsekvences savstarpēju pārbaudi. Rezultāts tiek izteikts nevis ar noteiktību, bet gan ar noteiktības līmeni. Un šī informācija ir paredzēta tikai atklāšanai un aizsardzībai, nevis viltus multivides ģenerēšanai.
Lietojumprogrammas uzdevums
Aprakstiet mediju pierādījumu scenāriju (piemēram, audio ierakstu). Izveidojiet slāņveida plānu, izmantojot veidni “multivides verifikācijas kontrolsaraksts”. Pēc tam izmantojiet veidnes “Metadatu konsekvences analīze” un “Precizitātes līmeņa valoda” ar fiktīviem metadatiem un noteikšanas rezultātu; Mēģiniet izteikt rezultātu ar daudzslāņainu pārliecības līmeni, nevis "noteikti viltotu".
kontrolsaraksts
- [ ] Es verifikāciju balstīju uz vairākiem slāņiem, nevis vienu rīku.
- [ ] Vispirms es pārbaudīju izcelsmi un kontekstu.
- [ ] Es paturēju prātā, ka metadatus var dzēst/viltot.
- [ ] Es izteicu rezultātu ticamības līmeņa, nevis noteiktības valodā.
- [ ] Es izmantoju ražošanas informāciju tikai atklāšanai/aizsardzībai.