Awọn anfani:
- Agbara lati loye mejeeji ẹri eke ati irokeke 'ere eke' ti media sintetiki ati ijẹrisi olona-pupọ ti ododo media.
- Agbara lati ṣe iṣiro idiyele, metadata, anomaly imọ-ẹrọ, provenance (C2PA) ati awọn fẹlẹfẹlẹ aitasera ọrọ-ọrọ papọ ati ki o ko gbẹkẹle Dimegilio ọkọ ayọkẹlẹ kan ṣoṣo
- Agbara lati ṣafihan abajade ni ede ti ipele igbẹkẹle, kii ṣe idaniloju, ati lati gba lilo imọ-ẹrọ ilana iṣelọpọ nikan fun wiwa ati aabo.
Fidio kan wa bi “ẹri” ninu iwadii: gbigbasilẹ ohun ti oluṣakoso fifun awọn ilana ti ko tọ, fọto ti o fihan eniyan ti o wa ni ibikan, fidio ti ijẹwọ. Ṣugbọn nisisiyi ibeere naa wa ni iwaju ti gbogbo ẹri: Ṣe eyi jẹ gidi, tabi ṣe nipasẹ oye atọwọda? Deepfake (media iro ti a ṣejade nipasẹ ẹkọ ti o jinlẹ ti o ṣe afarawe oju/ohùn/iṣipopada eniyan gidi) ati, ni fifẹ, media sintetiki (media synthetic — awọn aworan, ohun, fidio ti a ṣejade ni kikun tabi apakan nipasẹ oye atọwọda) jẹ tuntun ati nija julọ aala ti awọn oniwadi oniwadi. Ninu ẹyọ yii, a yoo bo ipa meji ti AI bi mejeeji irokeke ati ohun elo wiwa, ati idi ti ijẹrisi gbọdọ jẹ olopona.
Kini idi ti o ṣe pataki bẹ?
Media sintetiki jẹ irokeke-meji. Ni akọkọ, ẹri iro: ẹnikan le ṣe agbejade ijilẹ lati “ṣafihan” iṣẹlẹ ti ko ṣẹlẹ. Ẹlẹẹkeji, diẹ inira, ni "pín opuro" (pípín opuro - ọpẹ si awọn afikun ti iro media, ani gidi eri le ti wa ni kọ bi "o jẹ a aigbagbo"). Nitorina media sintetiki kii ṣe awọn ẹri eke nikan; O tun undermines awọn igbekele ti gangan eri. Nitorinaa, atunnkanka oniwadi gbọdọ rii daju ododo ti ẹri media kọọkan — pe o wa nitootọ lati orisun ti a sọ, ko yipada.
Akiyesi: “Ọpa wiwa AI sọ pe 98% jinle” nikan ko to ni kootu. Awọn awoṣe wiwa jẹ aṣiṣe, awọn ilana iran tuntun yago fun wọn, ati Dimegilio iṣeeṣe kii ṣe ẹri pataki. Wiwa Deepfake yẹ ki o ni atilẹyin nigbagbogbo nipasẹ ijerisi pupọ-Layer (imọ-ẹrọ + ọrọ-ọrọ + orisun).
Fẹlẹfẹlẹ ti erin
Wiwa media sintetiki ko le gbarale ohun elo idan kan; yẹ ki o wa ni Layer:
- Itupalẹ imọ-ẹrọ / oniwadi: Awọn aiṣedeede funmorawon, awọn piksẹli/awọn asemase igbohunsafẹfẹ, awọn ipadasẹhin aala oju, isansa ti awọn ifihan agbara ti ibi gẹgẹbi awọn oju oju ati pulse, awọn ilana igbohunsafẹfẹ aibikita fun ohun.
- Metadata ati itupalẹ orisun: EXIF/metadata eiyan ti faili, awọn itọpa iṣelọpọ, itẹka ẹrọ, awọn ọna nipasẹ eyiti faili naa ti kọja (ẹwọn itimole). Parẹ/aisedeede metadata jẹ ikilọ kan.
- Imudaniloju akoonu: Jẹrisi nipasẹ awọn iṣedede bii C2PA (boṣewa ṣiṣi ti o ṣafikun alaye ijẹrisi ijẹrisi cryptographically si media, ti n tọka ibiti o ti wa ati bii o ṣe ṣatunkọ); Ṣe ibuwọlu kan wa, ṣe o ni ibamu bi?
- Ijerisi ọrọ-ọrọ: Njẹ awọn ina, awọn ojiji, awọn atunwo inu fidio ni ibamu ni ti ara bi? Ṣe ohun ati ète ìsiṣẹpọ baramu? Njẹ akoonu naa tako awọn otitọ ti a mọ (oju-ọjọ, ipo, akoko)?
AI jẹ ohun imuyara ni ọpọlọpọ awọn ipele wọnyi: awọn asia asia, ṣe awari awọn aiṣedeede, ṣe agbekalẹ awọn atokọ ayẹwo. Ṣugbọn idajọ ikẹhin ti ododo ni a ṣe nipasẹ awọn fẹlẹfẹlẹ pupọ ti ijẹrisi-agbelebu ati igbelewọn iwé.
AI: mejeeji irokeke ati ọpa
Ẹdọfu bọtini ti ẹyọ yii: imọ-ẹrọ kanna ṣe agbejade ati ṣe awari awọn irọ-jinlẹ. Oluyanju oniwadi gbọdọ loye awọn ilana iṣelọpọ (bii o ṣe le rii ayederu lai mọ bii o ṣe ṣe?) Ṣugbọn o nlo eyi nikan fun wiwa ati awọn idi aabo. Lilo AI lati ṣe agbejade media iro lati tan ẹlomiiran jẹ ẹtan ati ilokulo idanimọ; Awọn dopin ti yi module jẹ muna erin ati ijerisi.
Imọran: Nigbati o ba n ṣe iṣiro awọn ẹri media, akọkọ ṣe idanwo “alaye ti o rọrun”: Njẹ faili yii wa lati ibiti o ti sọ pe o wa? Ṣe pq ti itimole ailewu? Ni ọpọlọpọ igba, iṣoro naa kii ṣe irọ-jinlẹ, ṣugbọn decontextualization (fidio kan lati gidi ṣugbọn atijọ / iṣẹlẹ miiran, ti a gbekalẹ ni ipo ti ko tọ). Ṣajudi ipilẹṣẹ ati ọrọ-ọrọ ṣaaju ṣiṣe itupalẹ jinlẹ idiju.
Iṣeeṣe, kii ṣe idaniloju
Awọn irinṣẹ wiwa Deepfake ṣe agbejade Dimegilio iṣeeṣe; Kii ṣe “pato iro” tabi “pato gidi”. Dimegilio yii ni ala ti aṣiṣe, aarin igbẹkẹle, ati pe iṣẹ rẹ dinku ni awọn ọna iṣelọpọ tuntun ti awoṣe ko rii. Ninu ijabọ oniwadi, dipo sisọ “o jẹ iro” fun media kan, o yẹ ki o sọ pe “awọn itọkasi wọnyi tọka si ifọwọyi, awọn ipele ijẹrisi wọnyi fihan eyi, ipele ti idaniloju ni eyi”. Ede ti kongẹ pupọ ṣẹda awọn atako ni kootu ati ipadanu orukọ rere.
mẹta mini igba
Irú 1 - Oti onínọmbà yanju ṣaaju ki o to deepfake. Fidio ti a fi silẹ bi “ẹri” si igbimọ kan ni a ṣe atunyẹwo. Ṣaaju ki o to lọ si itupalẹ jinlẹ, a ti ṣayẹwo metadata: fidio ti ṣẹda awọn oṣu 8 ṣaaju ọjọ ti a sọ, ati metadata eiyan tọka si ohun elo miiran. Fidio naa kii ṣe iro, ṣugbọn o gbekalẹ ni ipo ti ko tọ; Layer ti o rọrun julọ yanju iṣoro naa.
Ọran 2 - Wiwa ọpọ-siwa mu iro. Ninu gbigbasilẹ ohun ohun elo wiwa AI sọ 71% sintetiki (kii ṣe idaniloju). Onimọran naa wo awọn ipele afikun: awọn ilana deede aibikita ni itupalẹ igbohunsafẹfẹ, isansa ti awọn ohun ẹmi, ati isansa ti ibuwọlu C2PA. Apapo ti awọn itọkasi ominira mẹta jẹ abajade ti o lagbara pupọ ju Dimegilio ẹyọkan lọ.
Ọran 3 - Pada lati inu idaniloju pupọ. “Fidio naa jẹ dajudaju irojinle kan,” ijabọ yiyan kan sọ, n tọka Dimegilio ọkọ ayọkẹlẹ kan. Ogbontarigi agba tun ṣe atunṣe: ọpa kan ko to, ede ko le jẹ "Egba". Iroyin naa ti tumọ si ede ti o ṣe afihan awọn ipele pupọ ati awọn ipele ti konge; bayi di olugbeja ni ejo.
Mẹrin daakọ awọn awoṣe
1) Atokọ ijẹrisi media:
Ipa rẹ: iwé ijerisi media sintetiki. Ṣe agbejade iwe ayẹwo ti o fẹlẹfẹlẹ kan fun ijẹrisi aworan kan / iwe ohun / ẹri fidio: (1) ẹri / ẹwọn itimole, (2) metadata, (3) anomaly imọ-ẹrọ, (4) provenance/C2PA, (5) aitasera ọrọ-ọrọ. Kọ nja ayẹwo igbesẹ fun kọọkan Layer.
2) Itupalẹ aitasera Metadata:
Emi yoo fun ọ ni metadata (EXIF/eiyan) ti faili media kan. Awọn aiṣedeede Flag: ṣẹda-modifymetaconflict, ẹrọ/software itọpa, awọn aaye ti o padanu/parẹ, aiṣedeede geo-akoko. Tọkasi pe iwọnyi le jẹ awọn ami ifọwọyi, ṣugbọn kii ṣe ẹri nipasẹ ara wọn.
3) Ṣiṣayẹwo aitasera ọrọ-ọrọ:
Ṣe iṣiro aitasera ti ara ni aworan/fidio yii: ṣe itọsọna ina ati awọn ojiji ni ibamu, ṣe awọn iṣaroye deede, ṣe ohun afetigbọ-lipsync baramu, ṣe abẹlẹ baamu ipo/akoko ti a sọ bi? So akiyesi kọọkan pọ si ipo nja kan. Maṣe ṣe idajọ ikẹhin; to awọn ojuami ti o mu iyemeji dide.
4) Èdè ipele deede:
Tumọ awọn awari afọwọsi wọnyi (awọn ikun + awọn abajade isọdi) sinu ìpínrọ ijabọ kan. Maṣe sọ "pato iro/otitọ"; fun ọkọọkan wiwa orisun rẹ ati ṣafihan ipele gbogbogbo ti idaniloju (kekere / alabọde / igbẹkẹle giga). Yẹra fun awọn iṣeduro atako pupọ.
Ailagbara kiakia / Alagbara kiakia
Ibere ailagbara:
Sọ fun mi, ṣe fidio ti o jinna ni bi?
Layer kan, idajọ kan nduro; AI ṣe ipilẹṣẹ “bẹẹni / rara” laisi ọrọ-ọrọ, eyi yoo jẹ tako ni kootu.
Ibere ti o lagbara:
Ipa rẹ: iwé ijerisi media sintetiki. Emi yoo ṣe apejuwe fun ọ ni metadata ti fidio kan, Dimegilio ti irinṣẹ wiwa ati awọn fireemu diẹ. Iṣẹ-ṣiṣe: ṣe iṣiro idiyele, metadata, anomaly imọ-ẹrọ ati awọn fẹlẹfẹlẹ aitasera ọrọ-ọrọ ni lọtọ; So ohun ti o ri ni kọọkan Layer si awọn orisun. Ṣe afihan abajade bi ipele igbẹkẹle apapọ ti awọn fẹlẹfẹlẹ, kii ṣe bi “gangan”. Maa ko gbekele lori kan nikan Dimegilio; tọkasi sonu fẹlẹfẹlẹ.
Igbelewọn Layered, sisopọ si orisun, ati idiwọ “ko si ipe” jẹ ki abajade jẹ ki o jẹ aabo.
Ijeri fẹlẹfẹlẹ tabili
Layer
Kini o wo?
lagbara ojuami
ifilelẹ lọ
Orisun/CoC
Nibo ni faili naa ti wa
Rọrun, kongẹ
Jegudujera le wa ni pamọ
metadata
EXIF / eiyan
awọn ọna sample
Erasable/ iro
imọ anomaly
Pixel/igbohunsafẹfẹ
wa kakiri ifọwọyi
Titun ilana fori
Provenance / C2PA
wole provenance
igbekele cryptographic
Ko nibi gbogbo
contextual
Fisiksi / isokan otito
gidigidi lati iyanjẹ
Nbeere ọrọìwòye
Awọn aṣiṣe ti o wọpọ
- Gbẹkẹle Dimegilio ọkọ ayọkẹlẹ kan. Wiwa Deepfake yẹ ki o jẹ ọpọ-siwa; Dimegilio ẹyọkan kii ṣe ẹri.
- O tumo si "Egba iro/gidi". Lo ede iṣeeṣe; Pupọ konge gbe awọn atako soke.
- Omitting Oti ati àrà. Pupọ awọn iṣoro kii ṣe awọn iro-jinlẹ ṣugbọn ọrọ-ọrọ ti ko tọ / media atijọ.
- Igbẹkẹle pipe ni metadata. Metadata le jẹ paarẹ ati eke.
- Abuse ti gbóògì ilana. Alaye naa wa fun wiwa ati aabo nikan.
Ni akojọpọ
Deepfake ati media sintetiki jẹ aala tuntun ni awọn oniwadi oni-nọmba; O mejeji gbe awọn eke eri ati ki o ṣe gidi eri fura. AI jẹ mejeeji irokeke ati ohun elo wiwa. Ijeri ko yẹ ki o da lori ohun elo ẹyọkan, ṣugbọn lori ijẹrisi-agbelebu ti awọn ipele ti iṣafihan, metadata, anomaly imọ-ẹrọ, iṣafihan ati aitasera ọrọ-ọrọ. Abajade ko ṣe afihan pẹlu idaniloju ṣugbọn pẹlu ipele ti idaniloju. Ati pe alaye yii wa fun wiwa ati aabo nikan - kii ṣe fun ṣiṣẹda media iro.
Ohun elo iṣẹ-ṣiṣe
Ṣe apejuwe oju iṣẹlẹ ẹri media kan (fun apẹẹrẹ gbigbasilẹ ohun). Ṣẹda ero siwa pẹlu awoṣe “akojọ ijerisi media”. Lẹhinna lo “itupalẹ aitasera Metadata” ati awọn awoṣe “Ede ipele konge” pẹlu metadata idinwon ati Dimegilio wiwa kan; Gbìyànjú láti sọ àbájáde rẹ̀ jáde pẹ̀lú ìpele ìgbọ́kànlé ju “irọ́ dájúdájú.”
akojọ ayẹwo
- [] Mo da lori ijerisi lori ọpọ fẹlẹfẹlẹ, ko kan nikan ọpa.
- [] Mo ṣayẹwo ipilẹṣẹ ati ọrọ-ọrọ ni akọkọ.
- [] Mo pa ni lokan pe metadata le paarẹ/daruda.
- [] Mo ṣe afihan abajade ni ede ti ipele igbẹkẹle, kii ṣe idaniloju.
- [] Mo lo alaye iṣelọpọ nikan fun wiwa/aabo.