Nyereség:
- Képes megérteni mind a hamis bizonyítékokat, mind a „hazug nyereség” veszélyét a szintetikus médiában, valamint a média hitelességének többrétegű ellenőrzését
- Képes a származási, a metaadatok, a műszaki anomália, a származási (C2PA) és a kontextuális konzisztencia rétegek együttes értékelésére, és nem egyetlen járműpontszámra hagyatkozni
- Képes az eredményt a bizalom szintje, nem pedig a bizonyosság nyelvén kifejezni, és a gyártástechnikai ismeretek felhasználását csak észlelésre és védekezésre átvenni.
A nyomozásban "bizonyítékként" érkezik egy videó: egy hangfelvétel egy menedzserről, aki helytelen utasításokat ad, egy fénykép, amelyen egy személy valahol tartózkodik, egy videó egy vallomásról. De most minden bizonyíték homlokterében a kérdés marad: ez valódi, vagy mesterséges intelligencia állította elő? A mélyhamisítás (a valódi személy arcát/hangját/mozgását utánzó mély tanulással előállított hamis média) és tágabb értelemben a szintetikus médiák (szintetikus médiák – teljesen vagy részben mesterséges intelligencia által előállított képek, hang, videó) a digitális kriminalisztika legújabb és legnagyobb kihívást jelentő határterülete. Ebben a részben az AI kettős szerepét fenyegető és észlelő eszközként tárgyaljuk, valamint azt, hogy miért kell az ellenőrzésnek többrétegűnek lennie.
Miért olyan kritikus?
A szintetikus média kétirányú fenyegetést jelent. Először is, hamis bizonyíték: valaki mélyhamisítványt állíthat elő, hogy „bizonyítson” egy olyan eseményt, amely nem történt meg. Másodszor, még alattomosabb, a "hazug osztalék" (a hazug osztalék - a hamis média elterjedésének köszönhetően még a valódi bizonyítékokat is el lehet utasítani, mint "ez egy mélyhamisítás"). Tehát a szintetikus média nemcsak hamis bizonyítékokat állít elő; A tényleges bizonyítékok hitelességét is aláássa. Ezért a törvényszéki elemzőnek ellenőriznie kell a média bizonyítékainak hitelességét – hogy azok valóban az állítólagos forrásból származnak-e, változatlan formában.
Figyelem: "Az AI-felderítő eszköz szerint a 98%-os mélyhamisítás" önmagában nem elég a bíróságon. Az észlelési modellek hibásak, az új generációs technikák elkerülik őket, és a valószínűségi pontszám nem végleges bizonyíték. A mélyhamisítás észlelését mindig többrétegű ellenőrzésnek kell támogatnia (műszaki + kontextus + forrás).
Az észlelési rétegek
A szintetikus adathordozó-észlelés nem támaszkodhat egyetlen varázseszközre; rétegezni kell:
- Műszaki/bírósági elemzés: Tömörítési inkonzisztenciák, pixel/frekvencia anomáliák, archatárok torzulásai, biológiai jelek, például szempislogás és pulzus hiánya, természetellenes hangfrekvencia-mintázatok.
- Metaadatok és forráselemzés: a fájl EXIF/tároló metaadatai, gyártási nyomok, eszköz ujjlenyomata, útvonalak, amelyeken a fájl áthaladt (őrzési lánc). A törölt/inkonzisztens metaadatok figyelmeztetés.
- Tartalom származási helye: Olyan szabványok által ellenőrzött, mint például a C2PA (nyílt szabvány, amely kriptográfiailag aláírt eredetinformációkat ad a médiához, jelezve, honnan származnak és hogyan szerkesztették); Van aláírás, következetes?
- Kontextus szerinti ellenőrzés: A videóban látható fények, árnyékok és tükröződések fizikailag egységesek? Megfelel a hang és az ajak szinkronizálása? A tartalom ellentmond az ismert tényeknek (időjárás, helyszín, idő)?
A mesterséges intelligencia sok ilyen rétegben a gyorsító: jelzi az anomáliákat, észleli az inkonzisztenciákat, ellenőrző listákat állít elő. A hitelesség végső ítélete azonban a keresztellenőrzés és a szakértői értékelés több rétegén keresztül történik.
AI: fenyegetés és eszköz egyaránt
Ennek az egységnek a legfontosabb feszültsége: ugyanaz a technológia készíti és észleli a mélyhamisításokat. Az igazságügyi elemzőnek ismernie kell a gyártási technikákat (hogyan lehet észlelni egy hamisítást anélkül, hogy tudná, hogyan készült?), de ezt csak felderítési és védekezési célokra használja. A mesterséges intelligencia használata hamis média előállítására valaki más megtévesztésére csalás és személyazonossággal való visszaélés; Ennek a modulnak a hatóköre szigorúan az észlelés és ellenőrzés.
Tipp: A média bizonyítékainak értékelésekor először végezze el a „legegyszerűbb magyarázat” tesztet: ez a fájl valóban onnan származik, ahol állítólag van? Biztonságos a felügyeleti lánc? Legtöbbször nem a deepfake, hanem a dekontextualizálás (egy valós, de régi/más eseményről készült videó, rossz kontextusban bemutatva) a probléma. Az összetett mélyhamisítási elemzés előtt ellenőrizze az eredetet és a kontextust.
Valószínűség, nem bizonyosság
A mélyhamisítás-észlelő eszközök valószínűségi pontszámot adnak; Nem "határozottan hamis" vagy "határozottan valódi". Ennek a pontszámnak van egy hibahatára, egy konfidenciaintervalluma, és teljesítménye csökken olyan új gyártási módszerekben, amelyeket a modell nem látott. A törvényszéki szakértői jelentésben ahelyett, hogy egy médiára azt mondanák, hogy "hamis", azt kell mondani, hogy "ezek a mutatók manipulációra utalnak, ezek a verifikációs rétegek ezt mutatták, a bizonyosság szintje ennyi". A túlságosan precíz nyelvezet kifogásokat kelt a bíróságon, és elveszíti a hírnevét.
három mini tok
1. eset – Az eredetelemzés a deepfake előtt megoldva. Egy testületnek „bizonyítékként” benyújtott videót felülvizsgáltak. Mielőtt rátértünk volna a deepfake elemzésre, ellenőriztük a metaadatokat: a videót 8 hónappal a követelés dátuma előtt hozták létre, és a tároló metaadatai egy másik alkalmazásra mutattak. A videó nem volt hamis, de rossz kontextusban került bemutatásra; A legegyszerűbb réteg megoldotta a problémát.
2. eset – A többrétegű észlelés elkapta a hamisítványt. Egy hangfelvételen az AI-észlelő eszköz azt mondta, hogy 71% szintetikus (nem biztos). A szakértő további rétegeket vizsgált: természetellenesen szabályos mintákat a frekvenciaelemzésben, a légzési hangok hiányát és a C2PA aláírás hiányát. Három független mutató kombinációja sokkal erősebb eredményt hozott, mint egyetlen pontszám.
3. eset – Visszatérés a túlzott bizonyosságból. „A videó egyértelműen hamisítvány” – áll a jelentéstervezetben, egyetlen járműre hivatkozva. A vezető szakértő kijavított: egy eszköz nem elég, a nyelv nem lehet "abszolút". A jelentést lefordították olyan nyelvre, amely több réteget és pontossági szintet fejez ki; így a bíróság előtt védhetővé válik.
Négy másolható sablon
1) Médiaellenőrzési ellenőrzőlista:
Az Ön szerepe: szintetikus média hitelesítési szakértő. Készítsen egy réteges ellenőrzőlistát a kép/audio/videó bizonyíték érvényesítéséhez: (1) származás/felügyeleti lánc, (2) metaadatok, (3) technikai anomália, (4) származás/C2PA, (5) kontextuális konzisztencia. Írjon konkrét ellenőrzési lépéseket minden réteghez.
2) A metaadatok konzisztenciájának elemzése:
Megadom egy médiafájl metaadatait (EXIF/container). Jelölő inkonzisztenciák: Create-modifymetaconflict, eszköz/szoftver nyomkövetés, hiányzó/törölt mezők, földrajzi időbeli eltérés. Mutass rá, hogy ezek lehetnek manipuláció JELEI, de önmagukban nem bizonyítékok.
3) Kontextus konzisztencia ellenőrzése:
Értékelje a fizikai konzisztenciát ebben a képben/videóban: konzisztens-e a világítás iránya és az árnyékok, pontosak-e a visszaverődések, egyezik-e az audio-lipsync, a háttér megfelel-e a kívánt helynek/időnek? Minden megfigyelést kapcsoljon egy konkrét helyre. Ne hozz végső ítéletet; sorolja fel azokat a pontokat, amelyek kétségeket ébresztenek.
4) Precíziós szintű nyelv:
Fordítsa le a következő érvényesítési megállapításokat (pontszámok + rétegződési eredmények) jelentésbekezdésbe. Ne mondd, hogy „határozottan hamis/valódi”; minden megállapításnak adja meg a forrását, és fejezze ki a bizonyosság általános szintjét (alacsony/közepes/magas megbízhatóság). Kerülje a túlzott kifogásolható állításokat.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Mondd, ez a videó mélyhamisítás?
Egy réteg, egy ítélet vár; Az AI kontextus nélkül generál egy „igen/nem”-et, ezt a bíróság cáfolja meg.
Erőteljes felszólítás:
Az Ön szerepe: szintetikus média hitelesítési szakértő. Leírom neked egy videó metaadatait, egy észlelőeszköz pontszámát és néhány képkockát. Feladat: értékelje KÜLÖN a származási, metaadatok, technikai anomália és kontextuális konzisztencia rétegeket; Csatlakoztassa az egyes rétegekben látottakat a forráshoz. Az eredményt a rétegek kombinált megbízhatósági szintjeként fejezze ki, ne "pontosan". Ne hagyatkozz egyetlen pontszámra; jelzi a hiányzó rétegeket.
A réteges kiértékelés, a forráshoz való hivatkozás és a „no call” megszorítás védhetővé teszi a kimenetet.
Hitelesítési rétegek táblázata
réteg
Mit néz?
erős pontja
határértéket
Eredet/CoC
Honnan jött a fájl
Egyszerű, precíz
A csalást el lehet rejteni
metaadatokat
EXIF/tároló
gyors tipp
Törölhető/hamisítható
technikai anomália
Pixel/frekvencia
manipuláció nyoma
Az új technika megkerüli
Származási hely/C2PA
aláírt származás
kriptográfiai bizalom
Nem mindenhol
kontextuális
Fizika/valóság harmónia
nehéz megcsalni
Megjegyzés szükséges
Gyakori hibák
- Egy jármű pontszámára támaszkodva. A mélyhamisítás észlelésének többrétegűnek kell lennie; egyetlen pontszám nem bizonyíték.
- Ez azt jelenti, hogy "abszolút hamis/valódi". Használja a valószínűség nyelvét; A túl nagy pontosság kifogásokat vet fel.
- Az eredet és a kontextus elhagyása. A legtöbb probléma nem mélyhamisítás, hanem rossz kontextus/régi média.
- Teljes bizalom a metaadatokban. A metaadatok törölhetők és hamisíthatók is.
- Gyártási technikával való visszaélés. Az információ csak észlelésre és védekezésre szolgál.
Összefoglalva
A mélyhamisítás és a szintetikus média jelenti a digitális kriminalisztika legújabb határát; Egyszerre hamis bizonyítékokat állít elő, és valódi bizonyítékokat is gyanúsít. Az AI egyszerre fenyegetés és észlelési eszköz. Az ellenőrzésnek nem egyetlen eszközön kell alapulnia, hanem a származás, a metaadatok, a technikai anomália, a származás és a kontextuális konzisztencia rétegeinek keresztellenőrzésére. Az eredmény nem bizonyossággal, hanem bizonyossággal fejeződik ki. És ez az információ csak észlelésre és védekezésre szolgál – nem hamis média generálására.
Pályázati feladat
Írjon le egy médiabizonyíték-forgatókönyvet (pl. hangfelvételt). Hozzon létre egy réteges tervet a „média-ellenőrzési ellenőrzőlista” sablonnal. Ezután alkalmazza a „Metaadatkonzisztencia-elemzés” és „Precíziós szintű nyelv” sablonokat ál metaadatokkal és észlelési pontszámmal; Próbáld meg az eredményt többrétegű magabiztossággal kifejezni, nem pedig „határozottan hamisan”.
ellenőrző lista
- [ ] Az ellenőrzést több rétegre alapoztam, nem egyetlen eszközre.
- [ ] Először az eredetet és a kontextust ellenőriztem.
- [ ] Szem előtt tartottam, hogy a metaadatok törölhetők/hamisíthatók.
- [ ] Az eredményt a megbízhatósági szint nyelvén fejeztem ki, nem a bizonyosság nyelvén.
- [ ] A gyártási információkat csak felderítésre/védelemre használtam.