Kasu:
- Võime mõista nii sünteetilise meedia valetõendeid kui ka "valetajate kasu" ohtu ja meedia autentsuse mitmekihilist kontrolli
- Võimalus hinnata päritolu, metaandmeid, tehnilisi kõrvalekaldeid, päritolu (C2PA) ja kontekstipõhise järjepidevuse kihte koos ning mitte tugineda ühele sõiduki hindele
- Oskus väljendada tulemust usaldustaseme, mitte kindluse keeles ning võtta kasutusele tootmistehnikateadmised ainult tuvastamiseks ja kaitsmiseks.
Uurimisel tuleb "tõendina" video: helisalvestis juhist ebaõigeid juhiseid andmast, foto, millel on näha, et inimene on kuskil, video ülestunnistusest. Kuid nüüd jääb iga tõendi esiplaanile küsimus: kas see on tõeline või tekitas selle tehisintellekt? Deepfake (süvaõppe abil toodetud võltsmeedia, mis jäljendab reaalse inimese nägu/häält/liikumist) ja laiemalt sünteetiline meedia (sünteetiline meedia – täielikult või osaliselt tehisintellekti toodetud pildid, heli, video) on digitaalse kohtuekspertiisi uusim ja väljakutseid pakkuv piir. Selles üksuses käsitleme tehisintellekti kahekordset rolli nii ohu kui ka tuvastamise tööriistana ja seda, miks peab kontrollimine olema mitmekihiline.
Miks see nii kriitiline on?
Sünteetiline meedia on kaheosaline oht. Esiteks võltstõendid: keegi võib teha sügava võltsi, et "tõestada" sündmust, mida ei juhtunud. Teiseks, salakavalam, on "valetaja dividend" (valetaja dividend - tänu võltsmeedia levikule võib isegi tõelisi tõendeid ümber lükata kui "see on sügav võlts"). Seega ei tooda sünteetiline meedia mitte ainult valetõendeid; See õõnestab ka tegelike tõendite usaldusväärsust. Seetõttu peab kohtuekspertiisi analüütik kontrollima iga meediatõendi autentsust – kas see pärineb tõepoolest väidetavast allikast, muutmata kujul.
Tähelepanu: "AI-tuvastustööriist ütles, et 98% sügavvõlts on" kohtus üksi ei piisa. Tuvastamismudelid on valed, uue põlvkonna tehnikad väldivad neid ja tõenäosusskoor ei ole lõplik tõend. Sügavvõltsingute tuvastamist peaks alati toetama mitmekihiline kinnitamine (tehniline + kontekstuaalne + allikas).
Tuvastamiskihid
Sünteetilise kandja tuvastamine ei saa tugineda ühele võluvahendile; peaks olema kihiline:
- Tehniline/kohtuekspertiisi analüüs: tihenduse ebaühtlused, pikslite/sageduste anomaaliad, näopiiride moonutused, bioloogiliste signaalide, nagu silmade pilgutamine ja pulss, puudumine, heli ebaloomulikud sagedusmustrid.
- Metaandmete ja allika analüüs: faili EXIF/konteineri metaandmed, tootmisjäljed, seadme sõrmejälg, faili läbimise teed (haldusahel). Kustutatud/ebajärjekindlad metaandmed on hoiatus.
- Sisu päritolu: kontrollitud selliste standarditega nagu C2PA (avatud standard, mis lisab meediasse krüptograafiliselt allkirjastatud päritoluteavet, näidates, kust see pärineb ja kuidas seda redigeeriti); Kas allkiri on olemas, kas see on järjepidev?
- Kontekstipõhine kontrollimine: kas video tuled, varjud ja peegeldused on füüsiliselt järjepidevad? Kas hääle ja huulte sünkroonimine sobivad? Kas sisu on vastuolus teadaolevate faktidega (ilm, asukoht, aeg)?
AI on paljudes nendes kihtides kiirendaja: märgib kõrvalekaldeid, tuvastab ebakõlasid, genereerib kontrollnimekirju. Kuid lõplik hinnang autentsuse kohta tehakse mitme ristvalideerimise ja eksperthinnangu kihi kaudu.
AI: nii oht kui ka tööriist
Selle seadme põhipinge: sama tehnoloogia toodab ja tuvastab sügavvõltsinguid. Kohtuekspertiisi analüütik peab mõistma tootmistehnikaid (kuidas võltsingut avastada, teadmata, kuidas see tehti?), kuid kasutab seda ainult avastamise ja kaitse eesmärgil. AI kasutamine võltsmeediumi tootmiseks kellegi teise lollitamiseks on pettus ja identiteedi kuritarvitamine; Selle mooduli ulatus on rangelt tuvastamine ja kontrollimine.
Näpunäide. Meedia tõendite hindamisel tehke esmalt "lihtsaima selgituse" test: kas see fail pärines tõesti sealt, kus see väidetavalt asub? Kas järelevalveahel on ohutu? Enamasti pole probleemiks deepfake, vaid dekontekstualiseerimine (video reaalsest, aga vanast/teisest sündmusest, mis on esitatud vales kontekstis). Enne keerulist süvavõltsingu analüüsi kontrollige päritolu ja konteksti.
Tõenäosus, mitte kindlus
Sügavvõltsingute tuvastamise tööriistad annavad tõenäosusskoori; Mitte "kindlasti võlts" või "kindlasti tõeline". Sellel skooril on veapiir, usaldusvahemik ja selle jõudlus väheneb uute tootmismeetodite puhul, mida mudel pole näinud. Kohtuekspertiisi aruandes tuleks selle asemel, et meedia jaoks öelda "see on võlts", öelda, et "need näitajad viitavad manipuleerimisele, need kontrollikihid näitasid seda, kindluse tase on selline". Liiga täpne keelekasutus tekitab kohtus vastuväiteid ja maine kaotust.
kolm minikarpi
Juhtum 1 – päritoluanalüüs lahendati enne sügavvõltsimist. Vaadati üle juhatusele "tõendusmaterjalina" esitatud video. Enne sügavvõltsitud analüüsi juurde liikumist kontrolliti metaandmeid: video loodi 8 kuud enne nõude esitamise kuupäeva ja konteineri metaandmed viitasid teisele rakendusele. Video ei olnud võlts, kuid see esitati vales kontekstis; Lihtsaim kiht lahendas probleemi.
Juhtum 2 – mitmekihiline tuvastamine tabas võltsi. Häälsalvestuses ütles AI tuvastamise tööriist, et 71% sünteetiline (pole kindel). Ekspert vaatas täiendavaid kihte: ebaloomulikult korrapärased mustrid sagedusanalüüsis, hingetõmbe helide puudumine ja C2PA signatuuri puudumine. Kolme sõltumatu näitaja kombinatsioon andis palju tugevama tulemuse kui üksainus skoor.
Juhtum 3 – tagasipöördumine ülemäärasest kindlustundest. "Video on kindlasti sügav võlts," seisis raporti projektis, viidates ühele sõidukile. Vanemekspert parandas: ühest tööriistast ei piisa, keel ei saa olla "absoluutselt". Aruanne on tõlgitud keelde, mis väljendab mitut kihti ja täpsustaset; muutudes seega kohtus kaitstavaks.
Neli kopeeritavat malli
1) Meedia kinnitamise kontroll-loend:
Teie roll: sünteetilise meedia kontrollimise ekspert. Koostage mulle kihiline kontrollnimekiri pildi/heli/video tõendite kinnitamiseks: (1) päritolu/järelevalveahel, (2) metaandmed, (3) tehniline anomaalia, (4) päritolu/C2PA, (5) kontekstuaalne järjepidevus. Kirjutage iga kihi jaoks konkreetsed kontrollietapid.
2) Metaandmete järjepidevuse analüüs:
Ma annan teile meediumifaili metaandmed (EXIF/konteiner). Märgista ebakõlad: loo-muute metakonflikt, seadme/tarkvara jälg, puuduvad/kustutatud väljad, geo-ajaline lahknevus. Märkige, et need võivad olla manipuleerimise MÄRGID, kuid need ei ole iseenesest tõendid.
3) Konteksti järjepidevuse kontroll:
Hinnake selle pildi/video füüsilist järjepidevust: kas valgustuse suund ja varjud on ühtsed, kas peegeldused on täpsed, kas heli-lipsync ühtib, kas taust vastab väidetavale asukohale/ajale? Siduge iga vaatlus konkreetse asukohaga. Ärge langetage lõplikku otsust; loetlege punktid, mis tekitavad kahtlusi.
4) Täpsustaseme keel:
Tõlgi järgmised valideerimistulemused (skoorid + stratifitseerimise tulemused) aruande lõiku. Ärge öelge "kindlasti võlts/päris"; andke igale leiule selle allikas ja väljendage üldist kindluse taset (madal/keskmine/kõrge usaldus). Vältige liigseid taunitavaid väiteid.
Nõrk viip / Tugev viip
Nõrk viip:
Ütle mulle, kas see video on sügavvõlts?
Üks kiht, üks kohtuotsus ootab; AI genereerib "jah/ei" ilma kontekstita, see lükatakse kohtus ümber.
Võimas viip:
Teie roll: sünteetilise meedia kontrollimise ekspert. Kirjeldan teile video metaandmeid, tuvastustööriista skoori ja mõnda kaadrit. Ülesanne: hinnata ERALDI lähtekoha, metaandmete, tehnilise anomaalia ja konteksti konsistentsi kihte; Ühendage igas kihis nähtu allikaga. Väljendage tulemust kihtide kombineeritud usaldustasemena, mitte "täpsena". Ärge toetuge ühele punktile; näitavad puuduvad kihid.
Kihiline hindamine, linkimine allikaga ja "no call" piirang muudavad väljundi kaitstavaks.
Autentimiskihtide tabel
kiht
Mida ta vaatab?
tugev külg
piiri
Päritolu/CoC
Kust fail pärit on
Lihtne, täpne
Pettust saab varjata
metaandmed
EXIF/konteiner
kiire näpunäide
Kustutav/võlts
tehniline anomaalia
Piksel/sagedus
manipuleerimise jälg
Uus tehnika läheb mööda
Päritolu/C2PA
allkirjastatud päritolu
krüptograafiline usaldus
Mitte igal pool
kontekstuaalne
Füüsika/reaalsuse harmoonia
raske petta
Nõuab kommentaari
Levinud vead
- Ühele sõiduki hindele tuginemine. Sügava võltsingu tuvastamine peaks olema mitmekihiline; üksik skoor ei ole tõend.
- See tähendab "absoluutselt võlts/päris". Kasutage tõenäosuse keelt; Liiga suur täpsus tekitab vastuväiteid.
- Päritolu ja konteksti väljajätmine. Enamik probleeme ei ole sügavad võltsingud, vaid vale kontekst/vana meedia.
- Absoluutne usaldus metaandmete vastu. Metaandmeid saab nii kustutada kui ka võltsida.
- Tootmistehnika kuritarvitamine. Teave on mõeldud ainult tuvastamiseks ja kaitseks.
Kokkuvõttes
Deepfake ja sünteetiline meedia on digitaalse kohtuekspertiisi uusim piir; See esitab nii valetõendeid kui ka kahtlustab tõelisi tõendeid. AI on nii ohu- kui ka tuvastamistööriist. Kontrollimine ei tohiks põhineda ühel vahendil, vaid lähtekoha, metaandmete, tehniliste kõrvalekallete, päritolu ja konteksti järjepidevuse kihtide ristkontrollil. Tulemust ei väljendata mitte kindlusega, vaid kindluse tasemega. Ja see teave on mõeldud ainult tuvastamiseks ja kaitseks – mitte võltsmeediumi loomiseks.
Rakenduse ülesanne
Kirjeldage meediatõendite stsenaariumi (nt helisalvestis). Looge kihiline plaan malliga "meedia kinnitamise kontroll-loend". Seejärel rakendage näidiste metaandmete ja tuvastamisskooriga malle "Metaandmete järjepidevuse analüüs" ja "Täpsustaseme keel"; Proovige tulemust väljendada kihilise enesekindlusega, mitte "kindlasti võltsitud".
kontrollnimekiri
- [ ] Ma põhinesin kontrollimisel mitmel kihil, mitte ühel tööriistal.
- [ ] Kontrollisin kõigepealt päritolu ja konteksti.
- [ ] Pidasin meeles, et metaandmeid saab kustutada/võltsida.
- [ ] Väljendasin tulemust usaldustaseme, mitte kindluse keeles.
- [ ] Kasutasin tootmisteavet ainult tuvastamiseks/kaitseks.