டீப்ஃபேக் மற்றும் செயற்கை மீடியா கண்டறிதல்: போலி படம், ஆடியோ மற்றும் வீடியோ சரிபார்ப்பு

ஆதாயங்கள்:

• செயற்கை ஊடகத்தின் தவறான சான்றுகள் மற்றும் 'பொய்யர் ஆதாயம்' அச்சுறுத்தல் மற்றும் ஊடக நம்பகத்தன்மையின் பல அடுக்கு சரிபார்ப்பு ஆகிய இரண்டையும் புரிந்து கொள்ளும் திறன்
• ஆதாரம், மெட்டாடேட்டா, தொழில்நுட்ப ஒழுங்கின்மை, ஆதாரம் (C2PA) மற்றும் சூழல் நிலைத்தன்மை அடுக்குகளை ஒன்றாக மதிப்பிடும் திறன் மற்றும் ஒரு வாகன மதிப்பெண்ணை நம்பியிருக்காது
• நம்பகத்தன்மையின் மொழியில் முடிவை வெளிப்படுத்தும் திறன், உறுதியல்ல, மேலும் உற்பத்தி நுட்ப அறிவை கண்டறிதல் மற்றும் பாதுகாப்பிற்காக மட்டுமே பயன்படுத்துதல்.

விசாரணையில் ஒரு வீடியோ "ஆதாரமாக" வருகிறது: மேலாளர் முறையற்ற அறிவுறுத்தல்களை வழங்கும் ஆடியோ பதிவு, ஒரு நபர் எங்காவது இருப்பதைக் காட்டும் புகைப்படம், வாக்குமூலத்தின் வீடியோ. ஆனால் இப்போது கேள்வி ஒவ்வொரு ஆதாரத்திலும் முன்னணியில் உள்ளது: இது உண்மையானதா அல்லது செயற்கை நுண்ணறிவால் தயாரிக்கப்பட்டதா? டீப்ஃபேக் (உண்மையான நபரின் முகம்/குரல்/இயக்கத்தைப் பின்பற்றும் ஆழமான கற்றல் மூலம் உருவாக்கப்பட்ட போலி ஊடகம்) மற்றும், மேலும் பரந்த அளவில், செயற்கை ஊடகம் (செயற்கை ஊடகம் - படங்கள், ஆடியோ, வீடியோ முழுமையாகவோ அல்லது பகுதியாகவோ செயற்கை நுண்ணறிவால் தயாரிக்கப்பட்டது) டிஜிட்டல் தடயவியலின் புதிய மற்றும் மிகவும் சவாலான எல்லையாகும். இந்த யூனிட்டில், AI இன் இரட்டைப் பாத்திரத்தை அச்சுறுத்தல் மற்றும் கண்டறிதல் கருவியாகக் கருதுவோம், மேலும் சரிபார்ப்பு ஏன் பல அடுக்குகளாக இருக்க வேண்டும்.

இது ஏன் மிகவும் விமர்சனமானது?

செயற்கை ஊடகம் என்பது இருமுனை அச்சுறுத்தலாகும். முதலில், போலி ஆதாரம்: நடக்காத ஒரு நிகழ்வை "நிரூபிக்க" யாராவது ஒரு ஆழமான போலியை உருவாக்கலாம். இரண்டாவதாக, மிகவும் நயவஞ்சகமானது, "பொய்யரின் ஈவுத்தொகை" (பொய்யரின் ஈவுத்தொகை - போலி ஊடகங்களின் பெருக்கத்திற்கு நன்றி, உண்மையான ஆதாரங்கள் கூட "இது ஒரு ஆழமான போலி" என்று நிராகரிக்கப்படலாம்). எனவே செயற்கை ஊடகங்கள் தவறான ஆதாரங்களை உருவாக்குவது மட்டுமல்ல; இது உண்மையான ஆதாரங்களின் நம்பகத்தன்மையையும் குறைமதிப்பிற்கு உட்படுத்துகிறது. எனவே, தடயவியல் ஆய்வாளர் ஒவ்வொரு ஊடகச் சான்றுகளின் நம்பகத்தன்மையை சரிபார்க்க வேண்டும்—அது உண்மையாகவே உரிமைகோரப்பட்ட மூலத்திலிருந்து வருகிறது, மாறாமல்.

கவனம்: நீதிமன்றத்தில் "AI கண்டறிதல் கருவி 98% டீப்ஃபேக் என்று கூறியது" மட்டும் போதாது. கண்டறிதல் மாதிரிகள் தவறானவை, புதிய தலைமுறை நுட்பங்கள் அவற்றைத் தவிர்க்கின்றன, மேலும் நிகழ்தகவு மதிப்பெண் உறுதியான ஆதாரம் அல்ல. டீப்ஃபேக் கண்டறிதல் எப்போதும் பல அடுக்கு சரிபார்ப்பால் ஆதரிக்கப்பட வேண்டும் (தொழில்நுட்பம் + சூழல் + ஆதாரம்).

கண்டறியும் அடுக்குகள்

செயற்கை மீடியா கண்டறிதல் ஒரு மாயக் கருவியை நம்பியிருக்க முடியாது; அடுக்குகளாக இருக்க வேண்டும்:

1. தொழில்நுட்ப/தடவியல் பகுப்பாய்வு: சுருக்க முரண்பாடுகள், பிக்சல்/அதிர்வெண் முரண்பாடுகள், முக எல்லை சிதைவுகள், கண் சிமிட்டல்கள் மற்றும் துடிப்பு போன்ற உயிரியல் சமிக்ஞைகள் இல்லாதது, ஆடியோவிற்கான இயற்கைக்கு மாறான அதிர்வெண் வடிவங்கள்.
2. மெட்டாடேட்டா மற்றும் மூல பகுப்பாய்வு: கோப்பின் EXIF/கன்டெய்னர் மெட்டாடேட்டா, உற்பத்தி தடயங்கள், சாதன கைரேகை, கோப்பு கடந்து செல்லும் பாதைகள் (கடையின் சங்கிலி). நீக்கப்பட்ட/சீரற்ற மெட்டாடேட்டா ஒரு எச்சரிக்கை.
3. உள்ளடக்க ஆதாரம்: C2PA போன்ற தரநிலைகளால் சரிபார்க்கப்பட்டது (குறியீட்டு கையொப்பமிடப்பட்ட ஆதாரத் தகவலை ஊடகத்தில் சேர்க்கும் ஒரு திறந்த தரநிலை, அது எங்கிருந்து வந்தது மற்றும் எப்படி திருத்தப்பட்டது என்பதைக் குறிக்கிறது); கையொப்பம் உள்ளதா, அது சீரானதா?
4. சூழ்நிலை சரிபார்ப்பு: வீடியோவில் உள்ள விளக்குகள், நிழல்கள், பிரதிபலிப்புகள் ஆகியவை உடல் ரீதியாக ஒத்துப்போகின்றனவா? குரல் மற்றும் உதடு ஒத்திசைவு பொருந்துமா? அறியப்பட்ட உண்மைகளுக்கு (வானிலை, இருப்பிடம், நேரம்) உள்ளடக்கம் முரண்படுகிறதா?

இந்த அடுக்குகளில் பலவற்றில் AI முடுக்கியாக உள்ளது: முரண்பாடுகளைக் கொடியிடுகிறது, முரண்பாடுகளைக் கண்டறிகிறது, சரிபார்ப்புப் பட்டியல்களை உருவாக்குகிறது. ஆனால் நம்பகத்தன்மையின் இறுதி தீர்ப்பு குறுக்கு சரிபார்ப்பு மற்றும் நிபுணர் மதிப்பீட்டின் பல அடுக்குகள் மூலம் செய்யப்படுகிறது.

AI: அச்சுறுத்தல் மற்றும் கருவி இரண்டும்

இந்த அலகு முக்கிய பதற்றம்: அதே தொழில்நுட்பம் டீப்ஃபேக்குகளை உருவாக்குகிறது மற்றும் கண்டறிகிறது. தடயவியல் பகுப்பாய்வாளர் உற்பத்தி நுட்பங்களைப் புரிந்து கொள்ள வேண்டும் (அது எப்படி தயாரிக்கப்பட்டது என்று தெரியாமல் ஒரு போலியை எவ்வாறு கண்டறிவது?) ஆனால் இதை கண்டறிதல் மற்றும் பாதுகாப்பு நோக்கங்களுக்காக மட்டுமே பயன்படுத்துகிறார். வேறு ஒருவரை ஏமாற்ற போலி ஊடகங்களை உருவாக்க AI ஐப் பயன்படுத்துவது மோசடி மற்றும் அடையாள துஷ்பிரயோகம்; இந்த தொகுதியின் நோக்கம் கண்டிப்பாக கண்டறிதல் மற்றும் சரிபார்த்தல் ஆகும்.

உதவிக்குறிப்பு: ஊடக ஆதாரங்களை மதிப்பிடும் போது, ​​முதலில் "எளிமையான விளக்கம்" சோதனை செய்யுங்கள்: இந்தக் கோப்பு உண்மையில் அது இருக்கும் இடத்திலிருந்து வந்ததா? காவலின் சங்கிலி பாதுகாப்பானதா? பெரும்பாலான நேரங்களில், பிரச்சனையானது ஆழமான தோற்றம் அல்ல, மாறாக decontextualization (உண்மையான ஆனால் பழைய/பிற நிகழ்வின் வீடியோ, தவறான சூழலில் வழங்கப்படுகிறது). சிக்கலான ஆழமான பகுப்பாய்விற்கு முன் தோற்றம் மற்றும் சூழலைச் சரிபார்க்கவும்.

நிகழ்தகவு, உறுதி அல்ல

டீப்ஃபேக் கண்டறிதல் கருவிகள் நிகழ்தகவு மதிப்பெண்ணை உருவாக்குகின்றன; "நிச்சயமாக போலி" அல்லது "நிச்சயமாக உண்மையான" அல்ல. இந்த மதிப்பெண் பிழையின் விளிம்பு, நம்பிக்கை இடைவெளி மற்றும் மாடல் பார்க்காத புதிய உற்பத்தி முறைகளில் அதன் செயல்திறன் குறைகிறது. தடயவியல் அறிக்கையில், ஒரு ஊடகத்திற்கு "இது போலியானது" என்று கூறுவதற்கு பதிலாக, "இந்த குறிகாட்டிகள் கையாளுதலை சுட்டிக்காட்டுகின்றன, இந்த சரிபார்ப்பு அடுக்குகள் இதைக் காட்டின, இது தான் உறுதியான நிலை" என்று கூற வேண்டும். மிகத் துல்லியமான மொழி நீதிமன்றத்தில் ஆட்சேபனைகளை உருவாக்குகிறது மற்றும் நற்பெயரை இழக்கிறது.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - டீப்ஃபேக்கிற்கு முன் மூல பகுப்பாய்வு தீர்க்கப்பட்டது. ஒரு குழுவில் "ஆதாரமாக" சமர்ப்பிக்கப்பட்ட வீடியோ மதிப்பாய்வு செய்யப்பட்டது. டீப்ஃபேக் பகுப்பாய்விற்குச் செல்வதற்கு முன், மெட்டாடேட்டா சரிபார்க்கப்பட்டது: வீடியோ உரிமை கோரப்பட்ட தேதிக்கு 8 மாதங்களுக்கு முன்பு உருவாக்கப்பட்டது, மேலும் கொள்கலன் மெட்டாடேட்டா மற்றொரு பயன்பாட்டை சுட்டிக்காட்டியது. வீடியோ போலியானது அல்ல, ஆனால் அது தவறான சூழலில் காட்டப்பட்டது; எளிமையான அடுக்கு சிக்கலைத் தீர்த்தது.

வழக்கு 2 - பல அடுக்கு கண்டறிதல் போலியைப் பிடித்தது. ஒரு குரல் பதிவில் AI கண்டறிதல் கருவி 71% செயற்கை என்று கூறியது (நிச்சயமாக இல்லை). நிபுணர் கூடுதல் அடுக்குகளைப் பார்த்தார்: அதிர்வெண் பகுப்பாய்வில் இயற்கைக்கு மாறான வழக்கமான வடிவங்கள், மூச்சு ஒலிகள் இல்லாதது மற்றும் C2PA கையொப்பம் இல்லாதது. மூன்று சுயாதீன குறிகாட்டிகளின் கலவையானது ஒரு மதிப்பெண்ணை விட மிகவும் வலுவான விளைவை அளித்தது.

வழக்கு 3 - அதிகப்படியான உறுதியிலிருந்து திரும்புதல். "வீடியோ நிச்சயமாக ஒரு டீப்ஃபேக்" என்று ஒரு வரைவு அறிக்கை கூறியது, ஒரு வாகன மதிப்பெண்ணை மேற்கோள் காட்டி. மூத்த நிபுணர் சரிசெய்தார்: ஒரு கருவி போதாது, மொழி "முற்றிலும்" இருக்க முடியாது. அறிக்கை பல அடுக்குகள் மற்றும் துல்லிய நிலைகளை வெளிப்படுத்தும் மொழியில் மொழிபெயர்க்கப்பட்டுள்ளது; இதனால் நீதிமன்றத்தில் தற்காப்புக்கு ஆளாகிறார்கள்.

நகலெடுக்கக்கூடிய நான்கு வார்ப்புருக்கள்

1) மீடியா சரிபார்ப்பு சரிபார்ப்பு பட்டியல்:

உங்கள் பங்கு: செயற்கை ஊடக சரிபார்ப்பு நிபுணர். ஒரு படம்/ஆடியோ/வீடியோ ஆதாரத்தை சரிபார்ப்பதற்காக ஒரு அடுக்கு சரிபார்ப்பு பட்டியலை எனக்கு வழங்கவும்: (1) ஆதாரம்/கட்டுப்பாட்டுச் சங்கிலி, (2) மெட்டாடேட்டா, (3) தொழில்நுட்ப முரண்பாடு, (4) ஆதாரம்/C2PA, (5) சூழல் நிலைத்தன்மை. ஒவ்வொரு அடுக்குக்கும் கான்கிரீட் சோதனை படிகளை எழுதுங்கள்.

2) மெட்டாடேட்டா நிலைத்தன்மை பகுப்பாய்வு:

மீடியா கோப்பின் மெட்டாடேட்டாவை (EXIF/கன்டெய்னர்) தருகிறேன். கொடி முரண்பாடுகள்: உருவாக்கம்-மாற்றியமைத்தல், சாதனம்/மென்பொருள் ட்ரேஸ், விடுபட்ட/நீக்கப்பட்ட புலங்கள், புவி-தற்காலிக முரண்பாடு. இவை கையாளுதலின் அறிகுறிகளாக இருக்கலாம், ஆனால் அவை ஆதாரமாக இல்லை என்பதை சுட்டிக்காட்டவும்.

3) சூழல் நிலைத்தன்மை சரிபார்ப்பு:

இந்தப் படம்/வீடியோவில் உள்ள உடல் நிலைத்தன்மையை மதிப்பிடுக: ஒளியின் திசை மற்றும் நிழல்கள் சீரானதா, பிரதிபலிப்பு துல்லியமாக உள்ளதா, ஆடியோ-லிப்சின்க் பொருந்துமா, பின்னணி உரிமை கோரப்பட்ட இடம்/நேரத்துடன் பொருந்துமா? ஒவ்வொரு கண்காணிப்பையும் ஒரு உறுதியான இடத்துடன் இணைக்கவும். இறுதித் தீர்ப்பை வழங்காதே; சந்தேகங்களை எழுப்பும் புள்ளிகளை பட்டியலிடுங்கள்.

4) துல்லிய நிலை மொழி:

பின்வரும் சரிபார்ப்பு கண்டுபிடிப்புகளை (மதிப்பெண்கள் + அடுக்கு முடிவுகள்) அறிக்கைப் பத்தியாக மொழிபெயர்க்கவும். "நிச்சயமாக போலி/உண்மை" என்று சொல்லாதீர்கள்; ஒவ்வொன்றும் அதன் மூலத்தைக் கண்டுபிடித்து, உறுதியின் பொதுவான நிலையை வெளிப்படுத்தவும் (குறைந்த/நடுத்தர/அதிக நம்பிக்கை). அதிகப்படியான ஆட்சேபனைக்குரிய கோரிக்கைகளைத் தவிர்க்கவும்.

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமான உடனடி:

சொல்லுங்கள், இந்த வீடியோ ஆழமான போலியா?

ஒரு அடுக்கு, ஒரு தீர்ப்பு காத்திருக்கிறது; AI ஆனது சூழல் இல்லாமல் "ஆம்/இல்லை" என்பதை உருவாக்குகிறது, இது நீதிமன்றத்தில் மறுக்கப்படும்.

சக்திவாய்ந்த தூண்டுதல்:

உங்கள் பங்கு: செயற்கை ஊடக சரிபார்ப்பு நிபுணர். ஒரு வீடியோவின் மெட்டாடேட்டா, கண்டறிதல் கருவியின் மதிப்பெண் மற்றும் சில பிரேம்களை நான் உங்களுக்கு விவரிக்கிறேன். பணி: ஆதாரம், மெட்டாடேட்டா, தொழில்நுட்ப ஒழுங்கின்மை மற்றும் சூழல் நிலைத்தன்மை அடுக்குகளை தனித்தனியாக மதிப்பீடு செய்தல்; ஒவ்வொரு அடுக்கிலும் நீங்கள் பார்ப்பதை மூலத்துடன் இணைக்கவும். "சரியானதாக" இல்லாமல், அடுக்குகளின் ஒருங்கிணைந்த நம்பிக்கை நிலையாக முடிவை வெளிப்படுத்தவும். ஒரு மதிப்பெண்ணை நம்பி இருக்காதே; விடுபட்ட அடுக்குகளைக் குறிக்கும்.

அடுக்கு மதிப்பீடு, மூலத்துடன் இணைத்தல் மற்றும் "அழைப்பு இல்லை" கட்டுப்பாடு ஆகியவை வெளியீட்டை பாதுகாக்கும்.

அங்கீகார அடுக்குகள் அட்டவணை

அடுக்கு

அவர் எதைப் பார்க்கிறார்?

வலுவான புள்ளி

வரம்பு

தோற்றம்/CoC

கோப்பு எங்கிருந்து வந்தது

எளிய, துல்லியமான

மோசடி மறைக்கப்படலாம்

மெட்டாடேட்டா

EXIF/கன்டெய்னர்

விரைவான முனை

அழிக்கக்கூடிய/போலி

தொழில்நுட்ப முரண்பாடு

பிக்சல்/அதிர்வெண்

கையாளுதலின் தடயம்

புதிய நுட்பம் கடந்து செல்கிறது

ஆதாரம்/C2PA

கையெழுத்திட்ட ஆதாரம்

கிரிப்டோகிராஃபிக் நம்பிக்கை

எல்லா இடங்களிலும் இல்லை

சூழல் சார்ந்த

இயற்பியல்/உண்மையில் இணக்கம்

ஏமாற்றுவது கடினம்

கருத்து தேவை

பொதுவான தவறுகள்

• ஒரு வாகன மதிப்பெண்ணை நம்பி. டீப்ஃபேக் கண்டறிதல் பல அடுக்குகளாக இருக்க வேண்டும்; ஒற்றை மதிப்பெண் ஆதாரம் அல்ல.
• இதன் பொருள் "முற்றிலும் போலி/உண்மை". நிகழ்தகவு மொழியைப் பயன்படுத்தவும்; அதிக துல்லியம் எதிர்ப்புகளை எழுப்புகிறது.
• தோற்றம் மற்றும் சூழலைத் தவிர்க்கிறது. பெரும்பாலான பிரச்சனைகள் டீப்ஃபேக் அல்ல, ஆனால் தவறான சூழல்/பழைய ஊடகங்கள்.
• மெட்டாடேட்டாவில் முழுமையான நம்பிக்கை. மெட்டாடேட்டாவை நீக்கலாம் மற்றும் போலியாக உருவாக்கலாம்.
• உற்பத்தி நுட்பத்தின் துஷ்பிரயோகம். தகவல் கண்டறிதல் மற்றும் பாதுகாப்பிற்காக மட்டுமே.

சுருக்கமாக

டீப்ஃபேக் மற்றும் செயற்கை ஊடகங்கள் டிஜிட்டல் தடயவியல் துறையில் புதிய எல்லைகளாகும்; இது இரண்டும் தவறான ஆதாரங்களை உருவாக்குகிறது மற்றும் உண்மையான ஆதாரங்களை சந்தேகிக்க வைக்கிறது. AI ஒரு அச்சுறுத்தல் மற்றும் கண்டறிதல் கருவியாகும். சரிபார்ப்பு ஒரு கருவியை அடிப்படையாகக் கொண்டிருக்கக்கூடாது, ஆனால் ஆதாரம், மெட்டாடேட்டா, தொழில்நுட்ப முரண்பாடு, ஆதாரம் மற்றும் சூழல் நிலைத்தன்மையின் அடுக்குகளின் குறுக்கு சரிபார்ப்பு. முடிவு உறுதியுடன் அல்ல, ஆனால் உறுதியின் மட்டத்தில் வெளிப்படுத்தப்படுகிறது. இந்த தகவல் கண்டறிதல் மற்றும் பாதுகாப்பிற்காக மட்டுமே - போலி ஊடகத்தை உருவாக்குவதற்காக அல்ல.

விண்ணப்ப பணி

மீடியா ஆதாரக் காட்சியை விவரிக்கவும் (எ.கா. ஆடியோ பதிவு). "ஊடக சரிபார்ப்பு பட்டியல்" டெம்ப்ளேட்டுடன் அடுக்கு திட்டத்தை உருவாக்கவும். பின்னர் போலி மெட்டாடேட்டா மற்றும் கண்டறிதல் மதிப்பெண்ணுடன் "மெட்டாடேட்டா நிலைத்தன்மை பகுப்பாய்வு" மற்றும் "துல்லிய நிலை மொழி" டெம்ப்ளேட்களைப் பயன்படுத்தவும்; "நிச்சயமாக போலியானது" என்பதை விட ஒரு அடுக்கு நம்பிக்கையுடன் முடிவை வெளிப்படுத்த முயற்சிக்கவும்.

சரிபார்ப்பு பட்டியல்

• [ ] நான் பல அடுக்குகளில் சரிபார்ப்பை அடிப்படையாகக் கொண்டேன், ஒரு கருவி அல்ல.
• [ ] முதலில் தோற்றம் மற்றும் சூழலை சரிபார்த்தேன்.
• [ ] மெட்டாடேட்டாவை நீக்கலாம்/போலி உருவாக்கலாம் என்பதை நான் மனதில் வைத்திருந்தேன்.
• [ ] நான் முடிவை நம்பிக்கை நிலை மொழியில் வெளிப்படுத்தினேன், உறுதியாக இல்லை.
• [ ] கண்டறிதல்/பாதுகாப்புக்காக மட்டுமே உற்பத்தித் தகவலைப் பயன்படுத்தினேன்.