Girdeji:
- Sintetiki metbugatyň ýalan subutnamalara we 'ýalançynyň gazanmagy' howpuna düşünmek we mediýanyň hakykylygyny köp gatlakly barlamak;
- Barlanyş, metadata, tehniki anomaliýa, subutnama (C2PA) we kontekstdäki yzygiderlilik gatlaklaryna baha bermek we bir ulagyň balyna bil baglamak ukyby
- Netijäni ynam derejesinde däl-de, ynam derejesinde beýan etmek we önümçilik tehnikasy bilimlerini diňe ýüze çykarmak we goramak üçin ulanmak.
Wideo derňewde "subutnama" hökmünde gelýär: dolandyryjynyň nädogry görkezmeler berýän audio ýazgysy, adamyň bir ýerde bolandygyny görkezýän surat, boýun alma wideosy. Nowöne indi sorag her bir subutnamanyň başynda durýar: Bu hakykatmy ýa-da emeli intellekt tarapyndan öndürildimi? Çuňňur ýasama (hakyky adamyň ýüzüni / sesini / hereketini öýkünýän çuňňur öwreniş arkaly öndürilen ýasama metbugat) we has giňişleýin sintetiki metbugat (sintetiki metbugat - emeli intellekt tarapyndan doly ýa-da bölekleýin öndürilen şekiller, ses, wideo) sanly kazyýet işiniň iň täze we kyn serhedidir. Bu bölümde, AI-iň bu goşa roluny howp we ýüze çykarmak guraly hökmünde we näme üçin barlamagyň köp gatlakly bolmalydygy barada durup geçeris.
Näme üçin beýle möhüm?
Sintetiki metbugat iki taraplaýyn howp. Birinjiden, galp subutnamalar: kimdir biri bolmadyk wakany “subut etmek” üçin çuňňur ýasama önüm öndürip biler. Ikinjiden, has mekir, "ýalançynyň diwidendidir" (ýalançynyň diwidendidir - galp habar beriş serişdeleriniň ýaýramagy sebäpli hatda hakyky subutnamalar hem "çuňňur pikir" hökmünde ret edilip bilner). Şonuň üçin sintetiki metbugat diňe bir ýalan subutnamalary çykarmaýar; Şeýle hem, hakyky subutnamalaryň ygtybarlylygyny pese gaçyrýar. Şonuň üçin kazyýet seljerijisi her bir metbugat subutnamasynyň dogrudygyny, hakykatda aýdylýan çeşmeden, üýtgemän gelýändigini tassyklamaly.
Üns beriň: "AI kesgitlemek guraly 98% çuňlugyň" kazyýetde ýeterlik däldigini aýtdy. Ectionüze çykarmak modelleri nädogry, täze nesil usullary olardan gaça durýar we ähtimallyk derejesi takyk subutnama däl. Çuňňur ýalňyşlygy kesgitlemek elmydama köp gatlakly tassyklama (tehniki + kontekst + çeşme) bilen goldanmalydyr.
Ectionüze çykarmak gatlaklary
Sintetiki mediany kesgitlemek bir jadyly gurala bil baglap bilmez; gatlakly bolmaly:
- Tehniki / kazyýet seljermesi: gysyş gapma-garşylyklary, piksel / ýygylyk anomaliýalary, ýüzüň araçäkleriniň ýoýulmagy, gözüň ýalpyltmagy we impuls ýaly biologiki signallaryň ýoklugy, ses üçin tebigy däl ýygylyk nagyşlary.
- Metadata we çeşme derňewi: Faýlyň EXIF / konteýner metadatalary, önümçilik yzlary, enjamyň barmak yzy, faýlyň geçen ýollary (gözegçilik zynjyry). Öçürilen / gabat gelmeýän metadata duýduryşdyr.
- Mazmuny subut etmek: C2PA ýaly ülňüler bilen tassyklanýar (nireden gelendigini we nähili redaktirlenendigini görkezýän metbugata kriptografiki taýdan gol çekilen subutnama maglumatlary goşýan açyk standart); Gol barmy, yzygiderlimi?
- Kontekst barlagy: Wideodaky yşyklar, kölegeler, şöhlelenmeler fiziki taýdan yzygiderlimi? Ses bilen dodaklaryň sinhronlaşmagy gabat gelýärmi? Mazmuny belli faktlara (howa, ýerleşiş, wagt) ters gelýärmi?
AI bu gatlaklaryň köpüsinde tizlendiriji: baýdak anomaliýalary, gapma-garşylyklary ýüze çykarýar, gözegçilik sanawlaryny döredýär. Trueöne hakykylygyň gutarnykly hökümi, dürli derejeli barlag we bilermenleriň baha bermegi arkaly amala aşyrylýar.
AI: howp we gural
Bu bölümiň esasy dartgynlygy: şol bir tehnologiýa çuňluklary öndürýär we kesgitleýär. Kazyýet seljerijisi önümçilik usullaryna düşünmeli (galplygy nädip ýasalandygyny bilmän nädip tapmaly?), Thisöne muny diňe ýüze çykarmak we goramak üçin ulanýar. Başga birini aldamak üçin AI-ni ýasamak, galplyk we şahsyýeti kemsitmek; Bu modulyň çäkleri berk kesgitlemek we barlamak.
Maslahat: Köpçülikleýin habar beriş serişdeleriniň subutnamalaryna baha berlende, ilki bilen "iň ýönekeý düşündiriş" synagyny geçiriň: Bu faýl hakykatdanam nirededigini öňe sürdimi? Gözegçilik zynjyry howpsuzmy? Köplenç mesele çuňňur ýalňyşlyk däl-de, desontekstualizasiýa (hakyky, ýöne köne / başga wakadan wideo, nädogry kontekstde görkezilýär). Çylşyrymly çuňňur derňewden ozal gelip çykyşyny we mazmunyny barlaň.
Abilityhtimallyk, takyklyk däl
Çuňňur ýasama gurallary ähtimallyk balyny döredýär; "Elbetde ýasama" ýa-da "hökman hakyky" däl. Bu balyň ýalňyşlyk derejesi, ynam aralygy bar we modeliň görmedik täze önümçilik usullarynda öndürijiligi peselýär. Kazyýet hasabatynda metbugat üçin "galp" diýmegiň ýerine, "bu görkezijiler manipulýasiýa görkezýär, bu barlag gatlaklary muny görkezdi, ynam derejesi şu" diýmeli. Gaty takyk dil kazyýetde garşylyklary we abraýyny ýitirýär.
üç sany kiçi halat
1-nji hadysa - Çeşmäniň derňewi çuňluga çykmazdan ozal çözüldi. Geňeşe "subutnama" hökmünde hödürlenen wideo gözden geçirildi. Çuňňur derňewlere geçmezden ozal metadata barlandy: wideo talap edilýän seneden 8 aý öň döredildi we konteýner metadata başga bir programma görkezdi. Wideo galp däldi, ýöne nädogry kontekstde görkezildi; Iň ýönekeý gatlak meseläni çözdi.
2-nji waka - Köp gatlakly ýüze çykaryş galplygy tutdy. AI kesgitleýiş guralynyň ses ýazgysynda 71% sintetik (belli däl) diýilýär. Hünärmen goşmaça gatlaklara seretdi: ýygylyk derňewinde adaty bolmadyk yzygiderli nagyşlar, dem sesleriniň ýoklugy we C2PA golunyň ýoklugy. Üç sany garaşsyz görkezijiniň utgaşmagy, bir baldan has güýçli netije berdi.
3-nji hadysa - Artykmaç ynamdan gaýdyp geliň. "Wideo, elbetde, çuňňur ýalňyşlyk" -diýdi. Uly hünärmen düzeddi: bir gural ýeterlik däl, dil "düýbünden" bolup bilmez. Hasabat birnäçe gatlaklary we takyklyk derejelerini aňladýan dile terjime edildi; şeýlelik bilen kazyýetde goragly bolýar.
Göçürip boljak dört şablon
1) Mediýa barlagynyň sanawy:
Siziň roluňyz: sintetiki mediany barlamak boýunça hünärmen. Suraty / ses / wideo subutnamalaryny tassyklamak üçin gatlakly gözegçilik sanawyny öndüriň: (1) subutnama / gözegçilik zynjyry, (2) metadata, (3) tehniki anomaliýa, (4) subutnama / C2PA, (5) kontekstdäki yzygiderlilik. Her gatlak üçin anyk barlag ädimlerini ýazyň.
2) Metadata yzygiderliliginiň derňewi:
Mediýa faýlynyň meta-maglumatyny (EXIF / konteýner) bererin. Baýdak gapma-garşylyklary: döretmek-modifymetaconflict, enjam / programma üpjünçiligi yzy, ýitirilen / öçürilen meýdanlar, geo-wagtlaýyn laýyk gelmezlik. Bularyň manipulýasiýa alamatlary bolup biljekdigini, ýöne özleri subut etmeýändigini görkeziň.
3) Kontekstdäki yzygiderliligi barlamak:
Bu şekilde / wideoda fiziki yzygiderlilige baha beriň: yşyklandyryş ugry we kölegeleri yzygiderli, şöhlelenmeler takykmy, audio-dodak gabat gelýärmi, fon talap edilýän ýeri / wagty bilen gabat gelýärmi? Her synlamany anyk bir ýere baglaň. Soňky höküm çykarmaň; şübhe döredýän nokatlary sanaň.
4) Takyk derejeli dil:
Aşakdaky tassyklama netijelerini (ballar + gatlak netijeleri) hasabat abzasyna terjime ediň. "Elbetde ýasama / hakyky" diýmäň; her birine çeşmesini tapyň we umumy ynam derejesini görkeziň (pes / orta / ýokary ynam). Artykmaç garşylykly talaplardan gaça duruň.
Gowşak haýyş / Güýçli haýyş
Gowşak haýyş:
Aýdyň, bu wideo çuňňurmy?
Bir gatlak, bir höküm garaşýar; AI kontekstsiz “hawa / ýok” döredýär, bu kazyýetde ret ediler.
Güýçli haýyş:
Siziň roluňyz: sintetiki mediany barlamak boýunça hünärmen. Size wideonyň meta-maglumatyny, kesgitleýiş guralynyň balyny we birnäçe çarçuwany düşündirerin. Wezipe: barlanyş, metadata, tehniki anomaliýa we kontekstdäki yzygiderlilik gatlaklaryna baha beriň SEPARATELY; Her gatlakda görýän zatlaryňyzy çeşmä birikdiriň. Netijäni "takyk" däl-de, gatlaklaryň bilelikdäki ynam derejesi hökmünde görkeziň. Bir balyňa bil baglama; ýiten gatlaklary görkezýär.
Çeşme bilen baglanyşdyrylan gatlakly baha bermek we "jaň ýok" çäklendirmesi çykyşy goragly edýär.
Hakyky tanamak gatlaklary tablisasy
gatlak
Ol nämä seredýär?
güýçli nokat
çäk
Gelip çykyşy / CoC
Faýl nireden geldi?
Pleönekeý, takyk
Galplyk gizlenip bilner
metadata
EXIF / gap
çalt maslahat
Öçürip bolýan / galp
tehniki anomaliýa
Piksel / ýygylyk
manipulýasiýa yzy
Täze tehnika aýlanýar
Provenance / C2PA
gol çekildi
kriptografiki ynam
Hemme ýerde däl
kontekstli
Fizika / hakykat sazlaşygy
aldamak kyn
Düşündiriş talap edýär
Adaty ýalňyşlyklar
- Bir ulagyň balyna bil baglamak. Çuňňur ýalňyşlygy kesgitlemek köp gatlakly bolmaly; ýekeje bal subutnama däl.
- Bu "düýbünden ýasama / hakyky" diýmekdir. Abilityhtimallyk dilini ulanyň; Gaty takyklyk garşylyklary döredýär.
- Gelip çykyşy we mazmuny. Meseleleriň köpüsi çuňňur däl, ýalňyş kontekst / köne metbugat.
- Metadata doly ynam. Metadata hem pozulyp, hem ýasalyp bilner.
- Önümçilik tehnikasyndan hyýanatçylykly peýdalanmak. Maglumat diňe ýüze çykarmak we goramak üçin.
Gysgaça
Çuňňur ýasama we sintetiki metbugat sanly kazyýet işinde iň täze serhet; Ikisem ýalan subutnamalar berýär we hakyky subutnamalary şübheli edýär. AI howp we ýüze çykarmak guralydyr. Barlamak ýekeje gural esasynda däl-de, eýsem subutnamalaryň, metadatalaryň, tehniki anomaliýanyň, subutnamanyň we kontekstdäki yzygiderliligiň gatlaklaryny barlamakdan ybarat bolmaly. Netije ynam bilen däl-de, ynam derejesi bilen beýan edilýär. Bu maglumatlar diňe ýüze çykarmak we goramak üçin - galp metbugat döretmek üçin däl.
Programma meselesi
Mediýa subutnamalarynyň ssenarisini aýdyp beriň (meselem, ses ýazgysy). "Mediýa barlamak barlag sanawy" şablony bilen gatlakly meýilnama dörediň. Soňra “Metadata yzygiderliliginiň derňewi” we “Takyk derejeli dil” şablonlaryny aç-açan metadata we kesgitleýiş ballary bilen ulanyň; Netijäni “hökman galp” däl-de, derejeli ynam derejesi bilen görkezmäge synanyşyň.
gözegçilik sanawy
- [] Barlagy ýekeje gural däl-de, birnäçe gatlakda esasladym.
- [] Ilki bilen gelip çykyşyny we mazmunyny barladym.
- [] Metadatalary pozup / galplaşdyryp boljakdygyny ýadymda sakladym.
- [] Netijäni ynam derejesinde däl-de, ynam derejesinde beýan etdim.
- [] Önümçilik maglumatlaryny diňe ýüze çykarmak / goramak üçin ulandym.