Hagnaður:
- Hæfni til að skilja bæði röng sönnunargögn og ógnun „lygara“ af gervimiðlum og marglaga sannprófun á áreiðanleika fjölmiðla
- Hæfni til að meta uppruna, lýsigögn, tæknifrávik, uppruna (C2PA) og samhengissamræmislög saman og ekki treysta á eitt stig ökutækis
- Hæfni til að tjá niðurstöðuna á tungumáli sjálfstrausts, ekki vissu, og tileinka sér notkun framleiðslutækniþekkingar eingöngu til uppgötvunar og varnar.
Myndband kemur sem „sönnunargögn“ í rannsókn: hljóðupptaka af stjórnanda sem gefur óviðeigandi leiðbeiningar, mynd sem sýnir mann vera einhvers staðar, myndband af játningu. En nú er spurningin enn í forgrunni allra sönnunargagna: Er þetta raunverulegt eða var það framleitt af gervigreind? Deepfake (falsmiðill framleiddur með djúpu námi sem líkir eftir andliti/rödd/hreyfingu raunverulegs einstaklings) og í stórum dráttum tilbúnir miðlar (tilbúnir miðlar — myndir, hljóð, myndbönd framleidd að öllu leyti eða að hluta til með gervigreind) eru nýjasta og mest krefjandi landamæri stafrænnar réttarrannsókna. Í þessari einingu munum við fjalla um þetta tvöfalda hlutverk gervigreindar sem bæði ógnunar- og greiningartæki og hvers vegna sannprófun verður að vera marglaga.
Af hverju er það svona gagnrýnivert?
Tilbúnir fjölmiðlar eru tvíþætt ógn. Í fyrsta lagi fölsuð sönnunargögn: einhver getur framleitt djúpfalsa til að „sanna“ atburð sem gerðist ekki. Í öðru lagi, skaðlegra, er „arður lygarans“ (arður lygarans - þökk sé útbreiðslu falsmiðla er hægt að vísa frá raunverulegum sönnunargögnum sem „það er djúpt falsað“). Þannig að gervimiðlar framleiðir ekki aðeins rangar sannanir; Það grefur einnig undan trúverðugleika raunverulegra sönnunargagna. Þess vegna verður réttarsérfræðingurinn að sannreyna áreiðanleika hvers fjölmiðlasönnunargagna - að þau komi í raun og veru óbreytt frá heimildinni sem haldið er fram.
Athygli: „AI uppgötvunartæki sagði að 98% djúpfalsun“ eitt og sér nægir ekki fyrir dómstólum. Greiningarlíkön eru röng, ný kynslóðartækni forðast þau og líkindastig er ekki endanleg sönnun. Djúpfalsskynjun ætti alltaf að vera studd af marglaga sannprófun (tæknileg + samhengisbundin + uppspretta).
Lög af uppgötvun
Uppgötvun gervimiðla getur ekki reitt sig á eitt töfraverkfæri; ætti að vera lagskipt:
- Tæknileg/réttarfræðileg greining: Ósamræmi í þjöppun, pixla/tíðni frávik, röskun á andlitsmörkum, fjarvera líffræðilegra merkja eins og augnblikk og púls, óeðlilegt tíðnimynstur fyrir hljóð.
- Lýsigögn og upprunagreining: EXIF/gámalýsigögn skráarinnar, framleiðsluspor, fingrafar tækis, slóðir sem skráin fór í gegnum (vörslukeðja). Eydd/ósamkvæm lýsigögn eru viðvörun.
- Uppruni efnis: Staðfest með stöðlum eins og C2PA (opinn staðall sem bætir dulritunar undirrituðum upprunaupplýsingum við miðla, sem gefur til kynna hvaðan þeir komu og hvernig þeim var breytt); Er til undirskrift, er hún í samræmi?
- Samhengisstaðfesting: Eru ljósin, skuggarnir, endurskin í myndbandinu líkamlega í samræmi? Passar rödd og varasamstilling? Er efnið í mótsögn við þekktar staðreyndir (veður, staðsetning, tími)?
Gervigreind er hraðalinn í mörgum þessara laga: flaggar frávik, greinir ósamræmi, býr til gátlista. En endanlegur dómur um áreiðanleika er tekinn með mörgum lögum krossfullgildingar og mats sérfræðinga.
AI: bæði ógn og verkfæri
Lykilspennan í þessari einingu: sama tækni bæði framleiðir og greinir djúpfalsa. Réttarsérfræðingurinn verður að skilja framleiðslutækni (hvernig á að greina fölsun án þess að vita hvernig hún var gerð?) en notar þetta aðeins til uppgötvunar og varnar. Að nota gervigreind til að framleiða falsa fjölmiðla til að blekkja einhvern annan er svik og misnotkun á auðkenni; Umfang þessarar einingar er stranglega uppgötvun og sannprófun.
Ábending: Þegar þú metur sönnunargögn í fjölmiðlum skaltu fyrst gera „einföldustu skýringar“ prófið: Kom þessi skrá virkilega þaðan sem hún segist vera? Er forræðiskeðjan örugg? Oftast er vandamálið ekki djúpfölsunin, heldur decontextualization (myndband frá raunverulegum en gömlum/öðrum atburði, sett fram í röngu samhengi). Staðfestu uppruna og samhengi fyrir flókna djúpfalsgreiningu.
Líkur, ekki vissa
Deepfake uppgötvunartæki framleiða líkindastig; Ekki "örugglega falsað" eða "örugglega raunverulegt". Þetta skor hefur skekkjumörk, öryggisbil og árangur hennar minnkar í nýjum framleiðsluaðferðum sem líkanið hefur ekki séð. Í réttarskýrslunni, í stað þess að segja „það er falsað“ fyrir fjölmiðil, ætti að segja „þessir vísbendingar benda til meðferðar, þessi sannprófunarlög sýndu þetta, vissustigið er þetta“. Of nákvæmt orðalag skapar andmæli fyrir dómstólum og missir mannorð.
þrjú smámál
Tilfelli 1 - Upprunagreining leyst fyrir djúpfalsun. Farið var yfir myndband sem sent var sem „sönnunargögn“ til stjórnar. Áður en farið var yfir í djúpfalsunargreiningu voru lýsigögnin skoðuð: myndbandið var búið til 8 mánuðum fyrir dagsetninguna sem krafist var og lýsigögn gámans bentu á annað forrit. Myndbandið var ekki falsað en það var sett fram í röngu samhengi; Einfaldasta lagið leysti vandamálið.
Mál 2 - Marglaga uppgötvun náði falsanum. Í raddupptöku sagði gervigreindargreiningartólið 71% tilbúið (ekki víst). Sérfræðingur skoðaði fleiri lög: óeðlilega regluleg mynstur í tíðnigreiningu, fjarveru andarhljóða og fjarveru C2PA undirskriftarinnar. Samsetning þriggja óháðra vísbendinga skilaði mun sterkari niðurstöðu en stakri einkunn.
Mál 3 — Aftur frá of mikilli vissu. „Myndbandið er örugglega djúpt falsað,“ sagði í drögum að skýrslu þar sem vitnað var í eitt ökutæki. Háttsetti sérfræðingur leiðrétti: eitt verkfæri er ekki nóg, tungumál getur ekki verið "algerlega". Skýrslan hefur verið þýdd á tungumál sem tjáir mörg lög og nákvæmni; verða þannig verjandi fyrir dómstólum.
Fjögur afritanleg sniðmát
1) Staðfestingarlisti fjölmiðla:
Hlutverk þitt: sérfræðingur í sannprófun gervimiðla. Búðu til lagskiptan gátlista til að sannreyna mynd/hljóð/myndbandssönnun: (1) uppruna/forsjárkeðju, (2) lýsigögn, (3) tæknilegt frávik, (4) uppruna/C2PA, (5) samhengi. Skrifaðu steypuprófsskref fyrir hvert lag.
2) Samræmisgreining lýsigagna:
Ég mun gefa þér lýsigögn (EXIF/ílát) á miðlunarskrá. Merkja ósamræmi: búa til-breyta metaconflict, tæki/hugbúnaðarspor, vantar/eyddir reitir, landfræðilegt misræmi. Bentu á að þetta gætu verið merki um meðferð, en eru ekki sönnunargögn ein og sér.
3) Athugun á samhengi samhengis:
Metið líkamlegt samræmi í þessari mynd/myndbandi: eru birtustefnur og skuggar í samræmi, eru endurskinin nákvæm, passar hljóð-varasamstillingin, passar bakgrunnurinn staðsetningin/tímann sem krafist er? Tengdu hverja athugun við ákveðinn stað. Ekki fella endanlegan dóm; telja upp atriði sem vekja efasemdir.
4) Nákvæmni stigi tungumál:
Þýddu eftirfarandi staðfestingarniðurstöður (einkunn + lagskiptingarniðurstöður) í skýrslugrein. Ekki segja "örugglega falsað/raunverulegt"; gefðu hverjum og einum uppruna sinn og tjáðu almenna vissu (lítið/miðlungs/mikið sjálfstraust). Forðastu óhóflegar ámælisverðar fullyrðingar.
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Segðu mér, er þetta myndband djúpt falsað?
Eitt lag, einn dómur bíður; Gervigreind myndar „já/nei“ án samhengis, þetta verður vísað á bug fyrir dómstólum.
Öflug tilvitnun:
Hlutverk þitt: sérfræðingur í sannprófun gervimiðla. Ég mun lýsa fyrir þér lýsigögnum myndbands, stigum uppgötvunartækis og nokkrum römmum. Verkefni: meta uppruna, lýsigögn, tæknileg frávik og samhengissamræmislög SÉRLEGT; Tengdu það sem þú sérð í hverju lagi við upprunann. Tjáðu niðurstöðuna sem samanlagt öryggisstig laganna, ekki sem "nákvæmt". Ekki treysta á eitt stig; gefa til kynna vantar lög.
Lagskipt mat, tenging við upprunann og „ekkert símtal“ þvingunin gerir úttakið forsvaranlegt.
Tafla fyrir auðkenningarlög
lag
Hvað horfir hann á?
sterkur punktur
takmörk
Uppruni/CoC
Hvaðan kom skráin
Einfalt, nákvæmt
Svik geta verið falin
lýsigögn
EXIF/ílát
fljótleg ábending
Eyðanleg/falsa
tæknilegt frávik
Pixel/tíðni
snefil af meðferð
Ný tækni framhjá
Uppruni/C2PA
undirritaður uppruna
dulmálstraust
Ekki alls staðar
samhengisbundið
Eðlisfræði/raunveruleikasamræmi
erfitt að svindla
Krefst athugasemd
Algeng mistök
- Að treysta á eitt stig ökutækis. Deepfake uppgötvun ætti að vera marglaga; stakt stig er ekki sönnun.
- Það þýðir "algerlega falsað/raunverulegt". Notaðu tungumál líkinda; Of mikil nákvæmni vekur andmæli.
- Að sleppa uppruna og samhengi. Flest vandamál eru ekki djúpfalsanir heldur rangt samhengi/gamla fjölmiðlar.
- Algjört traust á lýsigögnum. Lýsigögnum er bæði hægt að eyða og fölsa.
- Misnotkun framleiðslutækni. Upplýsingarnar eru eingöngu til uppgötvunar og varnar.
Í stuttu máli
Deepfake og gervimiðlar eru nýjustu landamærin í stafrænni réttarfræði; Það framleiðir bæði rangar sönnunargögn og gerir raunveruleg sönnunargögn tortryggin. AI er bæði ógn og uppgötvunartæki. Sannprófun ætti ekki að byggja á einu tóli, heldur á krossstaðfestingu upprunalaga, lýsigagna, tæknilegra frávika, uppruna og samhengissamhengis. Niðurstaðan er ekki sett fram með vissu heldur með vissu. Og þessar upplýsingar eru eingöngu til uppgötvunar og varnar - ekki til að búa til falsa fjölmiðla.
Umsóknarverkefni
Lýstu atburðarás fjölmiðla (t.d. hljóðupptöku). Búðu til lagskipt áætlun með sniðmátinu „miðlunarstaðfestingargátlista“. Notaðu síðan „Samkvæmnigreining lýsigagna“ og „Tungumál á nákvæmnistigi“ með dummy lýsigögnum og greiningarskori; Reyndu að tjá niðurstöðuna með lagskiptu sjálfstrausti frekar en "örugglega fölsun."
gátlisti
- [ ] Ég byggði sannprófunina á mörgum lögum, ekki einu tóli.
- [ ] Ég athugaði uppruna og samhengi fyrst.
- [ ] Ég hafði í huga að hægt er að eyða/falsa lýsigögnum.
- [ ] Ég tjáði niðurstöðuna á tungumáli sjálfstrausts, ekki vissu.
- [ ] Ég notaði framleiðsluupplýsingar eingöngu til uppgötvunar/varna.