Faida:
- Uwezo wa kuelewa ushahidi wa uwongo na tishio la 'faida ya mwongo' ya media ya syntetisk na uthibitishaji wa tabaka nyingi wa uhalisi wa media.
- Uwezo wa kutathmini asili, metadata, hitilafu ya kiufundi, asili (C2PA) na tabaka za uthabiti wa muktadha pamoja na sio kutegemea alama moja ya gari.
- Uwezo wa kueleza matokeo katika lugha ya kiwango cha kujiamini, si uhakika, na kutumia maarifa ya mbinu ya uzalishaji kwa ajili ya kugundua na kujihami pekee.
Video inakuja kama "ushahidi" katika uchunguzi: rekodi ya sauti ya meneja akitoa maagizo yasiyofaa, picha inayoonyesha mtu akiwa mahali fulani, video ya kukiri. Lakini sasa swali linabakia kuwa mstari wa mbele wa kila ushahidi: Je, hii ni kweli, au ilitolewa na akili ya bandia? Deepfake (vyombo vya habari ghushi vinavyotolewa kwa kujifunza kwa kina vinavyoiga uso/sauti/mwendo wa mtu halisi) na, kwa upana zaidi, vyombo vya habari vya syntetisk (media syntetisk - picha, sauti, video zinazozalishwa kabisa au sehemu na akili ya bandia) ndio mipaka mpya zaidi na yenye changamoto zaidi ya uchunguzi wa kidijitali. Katika kitengo hiki, tutashughulikia jukumu hili mbili la AI kama zana ya tishio na utambuzi, na kwa nini uthibitishaji lazima uwe wa tabaka nyingi.
Kwa nini ni muhimu sana?
Vyombo vya habari vya syntetisk ni tishio la pande mbili. Kwanza, ushahidi wa uwongo: mtu anaweza kutoa bandia ili "kuthibitisha" tukio ambalo halikutokea. Pili, cha hila zaidi, ni "gawio la mwongo" (gawio la mwongo - kutokana na kuenea kwa vyombo vya habari vya uwongo, hata ushahidi wa kweli unaweza kutupiliwa mbali kama "ni bandia"). Kwa hivyo vyombo vya habari vya synthetic sio tu hutoa ushahidi wa uongo; Pia inadhoofisha uaminifu wa ushahidi halisi. Kwa hivyo, mchambuzi wa uchunguzi lazima athibitishe uhalisi wa kila ushahidi wa vyombo vya habari—kwamba unatoka kwa chanzo kinachodaiwa, bila kubadilishwa.
Tahadhari: "Zana ya kugundua AI ilisema 98% ya kina bandia" pekee haitoshi mahakamani. Miundo ya ugunduzi si sahihi, mbinu za kizazi kipya huzikwepa, na alama ya uwezekano si uthibitisho dhahiri. Ugunduzi wa kina kirefu unapaswa kuungwa mkono na uthibitishaji wa tabaka nyingi (kiufundi + muktadha + chanzo).
Tabaka za utambuzi
Ugunduzi wa media ya syntetisk hauwezi kutegemea zana moja ya kichawi; inapaswa kuwekwa safu:
- Uchanganuzi wa kiufundi/uchunguzi: Kutofautiana kwa mbano, hitilafu za pikseli/masafa, upotoshaji wa mipaka ya uso, kutokuwepo kwa mawimbi ya kibayolojia kama vile kufumba na kufumbua macho, mifumo isiyo ya asili ya masafa ya sauti.
- Uchanganuzi wa metadata na chanzo: EXIF/metadata ya kontena ya faili, ufuatiliaji wa uzalishaji, alama ya vidole vya kifaa, njia ambazo faili ilipitia (msururu wa ulinzi). Metadata iliyofutwa/isiyo sawa ni onyo.
- Asili ya maudhui: Imethibitishwa na viwango kama vile C2PA (kiwango huria kinachoongeza taarifa ya asili iliyotiwa saini kwa njia fiche kwenye vyombo vya habari, inayoonyesha ilikotoka na jinsi ilivyohaririwa); Je, kuna saini, ni thabiti?
- Uthibitishaji wa Muktadha: Je, taa, vivuli, uakisi katika video unalingana? Je, usawazishaji wa sauti na midomo unalingana? Je, maudhui yanapingana na ukweli unaojulikana (hali ya hewa, eneo, wakati)?
AI ndio kichapuzi katika safu nyingi hizi: huashiria hitilafu, hugundua kutokwenda, hutengeneza orodha. Lakini uamuzi wa mwisho wa uhalisi hufanywa kupitia tabaka nyingi za uthibitisho mtambuka na tathmini ya kitaalam.
AI: tishio na zana
Mvutano muhimu wa kitengo hiki: teknolojia sawa hutoa na kugundua bandia za kina. Mchanganuzi wa uchunguzi lazima aelewe mbinu za uzalishaji (jinsi ya kugundua ghushi bila kujua jinsi ilivyofanywa?) lakini hutumia hii kwa madhumuni ya kugundua na ulinzi pekee. Kutumia AI kutengeneza media ghushi ili kumpumbaza mtu mwingine ni ulaghai na matumizi mabaya ya utambulisho; Upeo wa moduli hii ni ugunduzi na uthibitishaji madhubuti.
Kidokezo: Unapotathmini ushahidi wa vyombo vya habari, kwanza fanya jaribio la "maelezo rahisi": Je, faili hii kweli ilitoka mahali inapodai kuwa? Je, mlolongo wa ulinzi ni salama? Mara nyingi, tatizo si uwongo wa kina, lakini uboreshaji wa muktadha (video kutoka kwa tukio halisi lakini la zamani/nyingine, lililowasilishwa katika muktadha usiofaa). Thibitisha asili na muktadha kabla ya uchanganuzi changamano wa uwongo.
Uwezekano, sio uhakika
Zana za utambuzi wa kina huzalisha alama ya uwezekano; Sio "dhahiri bandia" au "dhahiri halisi". Alama hii ina ukingo wa makosa, muda wa kujiamini, na utendakazi wake hupungua katika mbinu mpya za uzalishaji ambazo mtindo haujaona. Katika ripoti ya kiuchunguzi, badala ya kusema "ni fake" kwa vyombo vya habari, inapaswa kusemwa "viashiria hivi vinaashiria ujanja, tabaka hizi za uhakiki zilionyesha hii, kiwango cha uhakika ni hiki". Lugha sahihi kupita kiasi huzua pingamizi mahakamani na kupoteza sifa.
kesi tatu ndogo
Kesi ya 1 - Uchambuzi wa asili umetatuliwa kabla ya uwongo wa kina. Video iliyowasilishwa kama "ushahidi" kwa bodi ilikaguliwa. Kabla ya kuendelea na uchanganuzi wa kina, metadata iliangaliwa: video iliundwa miezi 8 kabla ya tarehe ya kudai, na metadata ya chombo ilielekeza kwenye programu nyingine. Video haikuwa ya uwongo, lakini iliwasilishwa katika muktadha usio sahihi; Safu rahisi zaidi ilitatua tatizo.
Kesi ya 2 - Ugunduzi wa tabaka nyingi ulikamata bandia. Katika kurekodi sauti chombo cha kugundua AI kilisema 71% ya syntetisk (sio hakika). Mtaalam aliangalia tabaka za ziada: mifumo isiyo ya kawaida ya kawaida katika uchambuzi wa mzunguko, kutokuwepo kwa sauti za pumzi, na kutokuwepo kwa saini ya C2PA. Mchanganyiko wa viashiria vitatu vya kujitegemea vilitoa matokeo yenye nguvu zaidi kuliko alama moja.
Kesi ya 3 - Rudi kutoka kwa uhakika mwingi. "Video hiyo hakika ni ya kina," ripoti ya rasimu ilisema, ikitoa alama ya gari moja. Mtaalam mkuu alirekebisha: chombo kimoja haitoshi, lugha haiwezi kuwa "kabisa". Ripoti imetafsiriwa katika lugha inayoeleza tabaka na viwango vingi vya usahihi; hivyo kuwa na utetezi mahakamani.
Violezo vinne vinavyoweza kunakiliwa
1) Orodha hakiki ya uthibitishaji wa media:
Jukumu lako: mtaalam wa uthibitishaji wa media sintetiki. Nitengenezee orodha iliyopangwa ya kuthibitisha ushahidi wa picha/sauti/video: (1) asili/msururu wa ulinzi, (2) metadata, (3) hitilafu ya kiufundi, (4) asili/C2PA, (5) uthabiti wa muktadha. Andika hatua za kuangalia kwa kila safu.
2) Uchambuzi wa uthabiti wa metadata:
Nitakupa metadata (EXIF/chombo) ya faili ya midia. Alamisha kutofautiana: mgongano wa create-modifymetaconflict, ufuatiliaji wa kifaa/programu, sehemu zinazokosekana/zilizofutwa, tofauti ya kijiografia ya muda. Onyesha kuwa hizi zinaweza kuwa ISHARA za udanganyifu, lakini sio ushahidi wao wenyewe.
3) Angalia uthabiti wa muktadha:
Tathmini uthabiti wa sura katika picha/video hii: je, mwelekeo wa mwangaza na vivuli vinalingana, je, uakisi ni sahihi, je, usawazishaji wa sauti-midomo unalingana, je, mandharinyuma inalingana na eneo/saa inayodaiwa? Unganisha kila uchunguzi na eneo halisi. Usitoe hukumu ya mwisho; orodhesha mambo yanayozua shaka.
4) Lugha ya kiwango cha usahihi:
Tafsiri matokeo ya uthibitishaji yafuatayo (alama + matokeo ya kuweka tabaka) katika aya ya ripoti. Usiseme "dhahiri fake/halisi"; toa kila kutafuta chanzo chake na ueleze kiwango cha jumla cha uhakika (uaminifu wa chini/wa kati/wa juu). Epuka madai mengi yanayopingana.
Mwongozo dhaifu / Mwongozo thabiti
Agizo dhaifu:
Niambie, je, video hii ni bandia?
Safu moja, hukumu moja inangoja; AI inazalisha "ndiyo/hapana" bila muktadha, hii itakataliwa mahakamani.
Agizo lenye nguvu:
Jukumu lako: mtaalam wa uthibitishaji wa media sintetiki. Nitakuelezea metadata ya video, alama ya zana ya kugundua na fremu chache. Kazi: tathmini uasili, metadata, hitilafu za kiufundi na safu za uthabiti wa muktadha TOFAUTI; Unganisha unachokiona katika kila safu kwenye chanzo. Onyesha matokeo kama kiwango cha pamoja cha kujiamini cha tabaka, sio kama "halisi". Usitegemee alama moja; onyesha tabaka zinazokosekana.
Tathmini ya tabaka, kuunganisha kwa chanzo, na kikwazo cha "hakuna simu" hufanya utoaji kulindwa.
Jedwali la tabaka za uthibitishaji
safu
Anaangalia nini?
hatua kali
kikomo
Asili/CoC
Faili lilitoka wapi
Rahisi, sahihi
Ulaghai unaweza kufichwa
metadata
EXIF/chombo
ncha ya haraka
Inaweza kufutika/bandia
upungufu wa kiufundi
Pixel/frequency
athari ya ghiliba
Mbinu mpya za kupita
Mwanzo/C2PA
asili iliyosainiwa
uaminifu wa kriptografia
Si kila mahali
kimazingira
Maelewano ya fizikia / ukweli
ngumu kudanganya
Inahitaji maoni
Makosa ya kawaida
- Kutegemea alama ya gari moja. Utambuzi wa kina unapaswa kuwa wa tabaka nyingi; alama moja sio ushahidi.
- Ina maana "bandia/halisi kabisa". Tumia lugha ya uwezekano; Usahihi mwingi huibua pingamizi.
- Inaacha asili na muktadha. Shida nyingi sio za kina lakini muktadha mbaya / media ya zamani.
- Kuamini kabisa metadata. Metadata inaweza kufutwa na kughushi.
- Matumizi mabaya ya mbinu ya uzalishaji. Taarifa ni kwa ajili ya kugundua na ulinzi tu.
Kwa muhtasari
Deepfake na vyombo vya habari synthetic ni frontier mpya zaidi katika uchunguzi digital; Yote mawili hutoa ushahidi wa uwongo na hufanya ushahidi wa kweli kutiliwa shaka. AI ni tishio na zana ya kugundua. Uthibitishaji haupaswi kutegemea zana moja, lakini uthibitisho mtambuka wa matabaka ya asili, metadata, hitilafu ya kiufundi, asili na uthabiti wa muktadha. Matokeo yanaonyeshwa si kwa uhakika bali kwa kiwango cha uhakika. Na maelezo haya ni ya ugunduzi na utetezi pekee - sio ya kutengeneza media ghushi.
Jukumu la maombi
Eleza hali ya ushahidi wa vyombo vya habari (k.m. rekodi ya sauti). Unda mpango wa tabaka na kiolezo cha "orodha hakiki ya uthibitishaji wa media". Kisha tumia violezo vya "Uchanganuzi wa uthabiti wa Metadata" na "Lugha ya kiwango cha Usahihi" na metadata ya dummy na alama ya kugundua; Jaribu kueleza matokeo kwa kiwango kikubwa cha kujiamini badala ya "uongo kabisa."
orodha ya ukaguzi
- [ ] Nilitegemea uthibitishaji kwenye tabaka nyingi, sio zana moja.
- [ ] Niliangalia asili na muktadha kwanza.
- [ ] Nilikumbuka kuwa metadata inaweza kufutwa/kughushiwa.
- [ ] Nilieleza matokeo kwa lugha ya kiwango cha kujiamini, sio uhakika.
- [ ] Nilitumia maelezo ya uzalishaji kwa ajili ya kutambua/kulinda pekee.