Табыстар:
- Синтетикалық тасымалдағыштың жалған дәлелдерін де, «өтірікшінің пайдасы» қаупін де түсіну және медианың түпнұсқалығын көп деңгейлі тексеру
- Шығу, метадеректер, техникалық аномалия, шығу (C2PA) және контекстік консистенция қабаттарын бірге бағалау және көлік құралының бір ұпайына сүйенбеу мүмкіндігі
- Нәтижені сенімділік тілінде емес, сенімділік деңгейінде білдіру және өндірістік техника білімін анықтау және қорғау үшін ғана қабылдау.
Тергеу барысында «дәлел» ретінде бейнеролик келеді: басшының орынсыз нұсқау бергені туралы аудио жазба, адамның бір жерде жүргенін көрсететін фото, кінәсін мойындаған видео. Бірақ қазір әрбір дәлелдің басында сұрақ қалады: бұл шындық па, әлде оны жасанды интеллект жасады ма? Deepfake (нақты адамның бетін/даусын/қозғалысын имитациялайтын терең оқыту нәтижесінде жасалған жалған медиа) және кеңірек айтқанда, синтетикалық медиа (синтетикалық медиа — толық немесе ішінара жасанды интеллект арқылы жасалған кескіндер, аудио, бейне) сандық криминалистиканың ең жаңа және ең күрделі шекарасы болып табылады. Бұл бөлімде біз қауіпті және анықтау құралы ретінде АИ-нің қос рөлін және тексеру неліктен көп деңгейлі болуы керектігін қарастырамыз.
Неліктен бұл сыни?
Синтетикалық тасымалдаушылар екі жақты қауіп болып табылады. Біріншіден, жалған дәлелдер: біреу болмаған оқиғаны «дәлелдеу» үшін терең фейк жасай алады. Екіншіден, анағұрлым жасырын, «өтірікшінің дивиденді» (өтірікшінің дивиденді – жалған ақпарат құралдарының көбеюінің арқасында, тіпті нақты дәлелдерді «бұл терең фейк» деп жоққа шығаруға болады). Сондықтан синтетикалық тасымалдаушылар жалған дәлелдер ғана емес; Бұл сонымен қатар нақты дәлелдердің сенімділігіне нұқсан келтіреді. Сондықтан сот сарапшысы әрбір медиа-дәлелдің шынайылығын тексеруі керек — оның шынымен мәлімделген дереккөзден алынғанын, өзгертілмегенін.
Назар аударыңыз: «AI анықтау құралы 98% deepfake деді» дегеннің өзі сотта жеткіліксіз. Анықтау үлгілері дұрыс емес, жаңа буын әдістері олардан бас тартады және ықтималдық көрсеткіші түпкілікті дәлел емес. Deepfake анықтау әрқашан көп деңгейлі тексеру арқылы (техникалық + контекстік + дереккөз) қолдау көрсетуі керек.
Анықтау қабаттары
Синтетикалық медианы анықтау бір сиқырлы құралға сене алмайды; қабат болуы керек:
- Техникалық/криминалистикалық талдау: қысу сәйкессіздігі, пиксель/жиілік аномалиялары, бет шекарасының бұрмалануы, көздің жыпылықтауы және импульс сияқты биологиялық сигналдардың болмауы, дыбыс үшін табиғи емес жиілік үлгілері.
- Метадеректер және бастапқы талдау: файлдың EXIF/контейнер метадеректері, өндіріс іздері, құрылғының саусақ ізі, файл өтетін жолдар (сақтау тізбегі). Жойылған/сәйкес келмейтін метадеректер ескерту болып табылады.
- Мазмұнның шығу тегі: C2PA (криптографиялық қол қойылған шығу тегі туралы ақпаратты медиаға қосатын, оның қайдан шыққанын және қалай өңделгенін көрсететін ашық стандарт) сияқты стандарттармен расталған; Қолтаңба бар ма, ол сәйкес пе?
- Мәтінмәндік тексеру: бейнедегі шамдар, көлеңкелер, шағылыстар физикалық түрде сәйкес пе? Дауыс пен ерін синхрондауы сәйкес келе ме? Мазмұны белгілі фактілерге (ауа райы, орын, уақыт) қайшы келе ме?
AI осы қабаттардың көпшілігінде үдеткіш болып табылады: аномалияларды белгілейді, сәйкессіздіктерді анықтайды, бақылау парақтарын жасайды. Бірақ түпнұсқалық туралы түпкілікті пайымдау кросс-валидация мен сарапшылық бағалаудың бірнеше қабаттары арқылы жасалады.
AI: қауіп те, құрал да
Бұл құрылғының негізгі кернеуі: бірдей технология терең фейктерді шығарады және анықтайды. Сот сарапшысы өндіріс техникасын түсінуі керек (жалғандықты оның қалай жасалғанын білмей-ақ қалай анықтауға болады?), бірақ оны анықтау және қорғаныс мақсатында ғана пайдаланады. Басқа біреуді алдау үшін жалған ақпарат құралдарын жасау үшін AI пайдалану - алаяқтық және жеке басын теріс пайдалану; Бұл модульдің ауқымы қатаң анықтау және тексеру болып табылады.
Кеңес: Бұқаралық ақпарат құралдарының дәлелдерін бағалау кезінде алдымен «ең қарапайым түсініктеме» сынағы орындаңыз: бұл файл шынымен де өзі мәлімдеген жерден келді ме? Қамқорлық тізбегі қауіпсіз бе? Көбінесе мәселе терең фейк емес, контекстсіздендіру (нақты, бірақ ескі/басқа оқиғадан алынған бейне, қате контексте ұсынылған). Күрделі deepfake талдауының алдында шығу тегі мен контекстті тексеріңіз.
Сенімділік емес, ықтималдық
Deepfake анықтау құралдары ықтималдық көрсеткішін шығарады; «Міндетті түрде жалған» немесе «міндетті түрде шынайы» емес. Бұл баллда қателік шегі, сенімділік интервалы бар және оның өнімділігі модель көрмеген жаңа өндіріс әдістерінде төмендейді. Сот сараптамасының қорытындысында БАҚ үшін «бұл жалған» деудің орнына «бұл көрсеткіштер айла-шарғы жасауды көрсетеді, бұл тексеру қабаттары мынаны көрсетті, сенімділік деңгейі мынау» деп айту керек. Тым дәл тіл сотта қарсылық тудырады және беделін түсіреді.
үш шағын іс
1-жағдай — Шығу тегі талдауы deepfake алдында шешілді. Басқармаға «дәлел» ретінде ұсынылған бейнеролик қаралды. Deepfake талдауына көшпес бұрын, метадеректер тексерілді: бейне мәлімделген күннен 8 ай бұрын жасалды және контейнер метадеректері басқа қолданбаға нұсқады. Бейне жалған емес еді, бірақ ол дұрыс емес контексте ұсынылған; Ең қарапайым қабат мәселені шешті.
2-жағдай — Көп қабатты анықтау жалғанды анықтады. Дауыстық жазбада AI анықтау құралы 71% синтетикалық (белгілі емес) деді. Сарапшы қосымша қабаттарды қарастырды: жиілікті талдаудағы табиғи емес тұрақты үлгілер, тыныс дыбыстарының болмауы және C2PA қолтаңбасының болмауы. Үш тәуелсіз көрсеткіштің қосындысы бір ұпайға қарағанда әлдеқайда күшті нәтиже берді.
3-жағдай - Шамадан тыс сенімділіктен қайтару. «Бейне сөзсіз терең фейк», - делінген хабарламада көліктің бір ұпайына сілтеме жасай отырып. Аға сарапшы түзетті: бір құрал жеткіліксіз, тіл «мүлдем» бола алмайды. Есеп бірнеше қабаттар мен дәлдік деңгейлерін білдіретін тілге аударылды; осылайша сотта қорғалатын болады.
Көшірілетін төрт үлгі
1) Бұқаралық ақпарат құралдарын тексеру тізімі:
Сіздің рөліңіз: синтетикалық медианы тексеру сарапшысы. Маған сурет/аудио/бейне дәлелдерін тексеру үшін деңгейлі бақылау тізімін жасаңыз: (1) шығу тегі/қамқорлық тізбегі, (2) метадеректер, (3) техникалық аномалия, (4) шығу тегі/C2PA, (5) контекстік сәйкестік. Әрбір қабат үшін нақты тексеру қадамдарын жазыңыз.
2) Метадеректер сәйкестігін талдау:
Мен сізге медиа файлдың метадеректерін (EXIF/контейнер) беремін. Жалауша сәйкессіздіктер: жасау-өзгерту метаконфликті, құрылғы/бағдарламалық қамтамасыз ету ізі, жетіспейтін/жойылған өрістер, гео-уақытша сәйкессіздік. Бұл манипуляцияның БЕЛГІЛЕРІ болуы мүмкін екенін, бірақ өздігінен дәлел емес екенін көрсетіңіз.
3) Мәтінмәндік сәйкестікті тексеру:
Осы суреттегі/бейнедегі физикалық үйлесімділікті бағалаңыз: жарықтандыру бағыты мен көлеңкелер сәйкес пе, шағылысулар дәл ме, аудио-ерін синхрондау сәйкес пе, фон мәлімделген орынға/уақытқа сәйкес келе ме? Әрбір бақылауды нақты орынмен байланыстырыңыз. Түпкілікті шешім қабылдамаңыз; күмән тудыратын тұстарды көрсетіңіз.
4) Дәлдік деңгейінің тілі:
Келесі тексеру нәтижелерін (баллдар + стратификация нәтижелері) есеп параграфына аударыңыз. «Міндетті түрде жалған/шынайы» деп айтпаңыз; әрбір табудың көзін беріңіз және сенімділіктің жалпы деңгейін көрсетіңіз (төмен/орта/жоғары сенімділік). Шамадан тыс қарсылық білдіретін шағымдардан аулақ болыңыз.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Айтыңызшы, бұл видео терең фэйк пе?
Бір қабат, бір үкім күтіп тұр; AI контекстсіз «иә/жоқ» жасайды, бұл сотта жоққа шығарылады.
Күшті шақыру:
Сіздің рөліңіз: синтетикалық медианы тексеру сарапшысы. Мен сізге бейненің метадеректерін, анықтау құралының ұпайларын және бірнеше кадрларды сипаттаймын. Тапсырма: шығу тегін, метадеректерді, техникалық аномалияны және контекстік сәйкестік деңгейлерін БӨЛЕК бағалаңыз; Әр қабатта көргеніңізді көзге қосыңыз. Нәтижені «дәл» емес, қабаттардың біріктірілген сенімділік деңгейі ретінде көрсетіңіз. Бір ұпайға сенбеңіз; жетіспейтін қабаттарды көрсетіңіз.
Қабатты бағалау, дереккөзге сілтеме және «қоңыраусыз» шектеуі шығысты қорғалған етеді.
Аутентификация қабаттарының кестесі
қабат
Ол не қарайды?
күшті нүкте
шектеу
Шығу тегі/CoC
Файл қайдан келді
Қарапайым, нақты
Алаяқтықты жасыруға болады
метадеректер
EXIF/контейнер
жылдам кеңес
Өшірілетін/жалған
техникалық аномалия
Пиксель/жиілік
манипуляция ізі
Жаңа техника айналып өтеді
Шығу тарихы/C2PA
шығу тегі қол қойылған
криптографиялық сенім
Барлық жерде емес
контекстік
Физика/шындық гармониясы
алдау қиын
Пікір талап етеді
Жалпы қателер
- Бір көлік ұпайына сүйену. Deepfake анықтау көп қабатты болуы керек; жалғыз балл дәлел бола алмайды.
- Бұл «мүлдем жалған/шынайы» дегенді білдіреді. Ықтималдық тілін қолдану; Тым көп дәлдік қарсылық тудырады.
- Түпнұсқа мен контекстті алып тастау. Мәселелердің көпшілігі терең фейк емес, қате контекст/ескі медиа.
- Метадеректерге абсолютті сенім. Метадеректер жойылуы және жалған болуы мүмкін.
- Өндіріс техникасын теріс пайдалану. Ақпарат тек анықтауға және қорғауға арналған.
Қысқаша айтқанда
Deepfake және синтетикалық медиа сандық криминалистикадағы ең жаңа шекара болып табылады; Бұл жалған дәлелдер шығарады және нақты дәлелдерді күдікті етеді. AI - бұл қауіп пен анықтау құралы. Тексеру бір құралға негізделмей, шығу тегі, метадеректер, техникалық аномалиялар, шығу тегі және контекстік сәйкестік деңгейлерінің өзара тексеруіне негізделуі керек. Нәтиже сенімділікпен емес, сенімділік деңгейімен көрінеді. Және бұл ақпарат тек анықтауға және қорғанысқа арналған — жалған ақпарат құралдарын жасау үшін емес.
Қолданбалы тапсырма
Бұқаралық ақпарат құралдарының дәлелдеу сценарийін сипаттаңыз (мысалы, аудио жазба). «Мультимедианы тексеруді тексеру тізімі» үлгісімен деңгейлі жоспар жасаңыз. Содан кейін жалған метадеректермен және анықтау ұпайларымен «Метадеректер сәйкестігін талдау» және «Дәлдік деңгейінің тілі» үлгілерін қолданыңыз; Нәтижені «міндетті түрде жалған» емес, сенімділік деңгейімен білдіруге тырысыңыз.
бақылау парағы
- [ ] Мен растауды бір құралға емес, бірнеше қабаттарға негіздедім.
- [ ] Мен алдымен түпнұсқа мен контекстті тексердім.
- [ ] Мен метадеректерді жоюға/жалған жасауға болатынын есте ұстадым.
- [ ] Нәтижені сенімділік емес, сенімділік тілімен білдірдім.
- [ ] Мен өндіріс туралы ақпаратты анықтау/қорғаныс үшін ғана пайдаландым.