ஆதாயங்கள்:
- செயற்கை உரை, படங்கள், ஆடியோ மற்றும் டீப்ஃபேக் வீடியோவின் வகைகள், தடயங்கள் மற்றும் பரப்புதல் முறைகளை அடையாளம் காணும் திறன்
- மூல கண்காணிப்பு, மெட்டாடேட்டா, தலைகீழ் தேடல் மற்றும் சூழல் சரிபார்ப்பு மூலம் செயற்கையான உள்ளடக்க சந்தேகத்தை நிர்வகிக்கும் திறன் மற்றும் பாதுகாப்பில் ஒரு நிறுவன கருவியாக செயற்கை நுண்ணறிவைப் பயன்படுத்துதல்
- கண்டறிதல் கருவிகள் உறுதியான சான்றுகள் அல்ல என்பதையும், தீர்ப்பு மூலத்திற்கு வரும் என்பதையும், உறுதிப்படுத்தல் செய்திகள் அமைதியான, வெளிப்படையான மொழியில் எழுதப்பட வேண்டும் என்பதையும் புரிந்து கொள்ளும் திறன்.
செயற்கை நுண்ணறிவு என்பது ஒரு பத்திரிகையாளரின் கருவி மட்டுமல்ல; அதற்கு எதிரான அச்சுறுத்தலின் இயந்திரமும் கூட. இன்று, நம்பத்தகுந்த போலி உரை, வெளித்தோற்றத்தில் உண்மையான புகைப்படங்கள், இல்லாத நபர்களின் முகங்கள் மற்றும் யாரோ சொல்லாத வாக்கியங்களை உச்சரிக்கும் குரல்கள் சில நிமிடங்களில் உருவாக்கப்படுகின்றன. இவை கூட்டாக செயற்கை உள்ளடக்கம் (செயற்கையாக தயாரிக்கப்பட்ட ஊடகம்) என்று அழைக்கப்படுகின்றன; ஒரு நபரின் முகம் அல்லது குரலை யதார்த்தமாகப் பின்பற்றும் வீடியோ/ஆடியோ வகை டீப்ஃபேக் எனப்படும். தவறான தகவல்-வேண்டுமென்றே தவறான தகவல்களை பரப்புவது-இந்த கருவிகள் மூலம் மலிவானதாகவும் வேகமாகவும் மாறிவிட்டது. பத்திரிகையாளரின் கடமை இரட்டிப்பாக்கப்பட்டுள்ளது: இந்த உள்ளடக்கம் வெளியிடப்படுவதைத் தடுப்பது மற்றும் இந்த அச்சுறுத்தலைப் பற்றி பொதுமக்களுக்குத் தெரிவிப்பது. இந்த யூனிட்டில், அச்சுறுத்தலைப் புரிந்துகொள்வதற்கும் அதற்கு எதிராகப் பாதுகாப்பதற்கும் AI ஐப் பயன்படுத்துகிறோம். அடிப்படைக் கொள்கை: எந்த கண்டறிதல் கருவியும் உறுதியான சான்று அல்ல; செயற்கை உள்ளடக்கத்தின் சந்தேகம், மூல மற்றும் சூழலுக்குச் செல்லும் கிளாசிக்கல் சரிபார்ப்பால் தீர்க்கப்படுகிறது.
செயற்கை உள்ளடக்கத்தின் வகைகள் மற்றும் குறிப்புகள்
உரை. AI சரளமான ஆனால் வெற்று, பொதுமைப்படுத்தல் நிரப்பப்பட்ட, தயாரிக்கப்பட்ட உரைகளை உருவாக்க முடியும்; போலி "செய்தி தளங்கள்" மற்றும் கருத்து படைகள் இதில் செழித்து வளர்கின்றன. குறிப்பு: சரிபார்க்க முடியாத ஆதாரங்கள், மிகையான பொதுவான அறிக்கைகள், தொடர்ந்து ஒருதலைப்பட்சமான வடிவமைத்தல்.
காட்சி. செயற்கைப் படங்களில், கைகள்/விரல்கள், பற்கள், காதுகள், நகைகள், பின்னணி உரை மற்றும் பிரதிபலிப்புகள் பெரும்பாலும் சீரற்றதாக இருக்கும்; ஆனால் தொழில்நுட்பம் வேகமாக முன்னேறி வருகிறது, எனவே "என் சொந்தக் கண்ணால் பார்த்துச் சொல்ல முடியும்" என்பது ஆபத்தான நம்பிக்கை.
ஒலி. சொல்லப்படாத வாக்கியங்களை ஒரு அதிகாரியின் குரலால் உருவாக்க முடியும். உதவிக்குறிப்பு: மூச்சு/இடைநிறுத்தம் இயல்பான தன்மை, சுற்றுப்புற ஒலி நிலைத்தன்மை, ஆனால் உள்ளடக்கத்தின் மூலத்தைச் சரிபார்ப்பதே மிகவும் நம்பகமான சோதனை.
வீடியோ (டீப்ஃபேக்). முகம் மற்றும் கழுத்து/ஒளி பொருத்தமின்மை, கண் சிமிட்டுதல், உதடு-குரல் ஒத்திசைவு ஆகியவை துப்புகளாக இருக்கலாம்; எனினும், அது உறுதியாக இல்லை.
கவனம்: "AI கண்டறிதல் கருவி 90% போலியானது என்று கூறுகிறது" என்பது வெளியிடுவதற்கான காரணம் அல்ல. இந்த கருவிகள் தவறானவை; அவர் உண்மையான போலி மற்றும் போலி உண்மையான என்று அழைக்க முடியும். கருவியின் வெளியீடு ஒரு துப்பு; தீர்ப்பு ஆதாரத்திற்கு வருகிறது.
படிப்படியாக: செயற்கை பொருட்களின் சந்தேகத்தை நிர்வகித்தல்
படி 1 - மூலத்தைக் கண்டறியவும். உள்ளடக்கத்தை முதலில் வெளியிட்டது யார், எங்கே, எப்போது? அசல் மூலத்திற்குச் செல்வது பெரும்பாலான போலிகளை உடைக்கும்.
படி 2 - மெட்டாடேட்டா மற்றும் தலைகீழ் தேடலைப் பார்க்கவும். படம்/வீடியோவில் மெட்டாடேட்டா மற்றும் தலைகீழ் படத் தேடல் முந்தைய பதிப்பு அல்லது அசலை வெளிப்படுத்தலாம்.
படி 3 - உள் நிலைத்தன்மையை சோதிக்கவும். ஒளி, நிழல், பிரதிபலிப்பு, சுற்றுப்புற ஒலி, பின்னணி நிஜ உலக துப்பு (அடையாளம், வானிலை, கட்டிடக்கலை) ஆகியவை உரிமைகோரலுடன் பொருந்துமா?
படி 4 - சூழலைச் சரிபார்க்கவும். உள்ளடக்கத்தில் உள்ள சம்பவம் மற்ற சுயாதீன ஆதாரங்களால் பார்க்கப்பட்டதா? ஒரு உண்மையான நிகழ்வின் பல தடயங்கள் உள்ளன; ஒற்றை மூல "வெடிகுண்டு" உள்ளடக்கம் கேள்விக்குரியது.
படி 5 - கண்டறிதல் கருவிகளை துப்புகளாகப் பயன்படுத்தவும். AI கண்டறிதல் கருவிகளின் வெளியீட்டை ஆதாரமாக அல்ல, துணை சமிக்ஞையாக எண்ணுங்கள்.
படி 6 - வெளிப்படைத்தன்மையுடன் அறிக்கை செய்யவும். நீங்கள் அதை (உண்மைச் சரிபார்ப்பு என) வெளியிட்டால், எது போலி/சந்தேகத்திற்குரியது, ஏன், எப்படிச் சரிபார்த்தீர்கள் என்பதைக் காட்டவும்.
பாதுகாப்பில் AI ஐப் பயன்படுத்துதல்
செயற்கையான உள்ளடக்கத்திற்கு எதிரான ஒரு நிறுவன கருவியாகவும் AI உள்ளது: இது ஒரு படத்தில் எதைப் பார்க்க வேண்டும் என்பதை பட்டியலிடுகிறது, AI-உருவாக்கப்பட்ட உரையை பட்டியலிடுகிறது, தவறான தகவல் பிரச்சாரத்தின் கதையை அலச உதவுகிறது, பொதுமக்களுக்கு விளக்கமளிக்கும் உண்மைச் சரிபார்ப்பை உருவாக்குகிறது. ஆனால் தீர்மானம் - "இது போலி" தீர்ப்பு - மனித தீர்ப்பு மற்றும் ஆதார சரிபார்ப்பு மூலம் செய்யப்படுகிறது.
மூன்று சிறிய வழக்குகள்
வழக்கு 1 - போலி குரல் பதிவு. ஒரு அதிகாரப்பூர்வ "ராஜினாமா" பற்றிய ஆடியோ பதிவு பரப்பப்பட்டது. நிருபர் முதலில் ஆதாரத்தைத் தேடினார்: பதிவு ஒரு அநாமதேய கணக்கிலிருந்து வந்தது, வேறு எங்கும் அதன் தடயங்கள் இல்லை. அதிகாரியின் குழு பதிவை நிராகரித்தது; சுற்றுப்புற ஒலியும் சீரற்றதாக இருந்தது. நிருபர் பதிவை வெளியிடவில்லை, அதற்கு பதிலாக "சரிபார்க்க முடியாத ஆடியோ பதிவு" குறித்து அறிக்கை செய்தார். பதிவு பின்னர் செயற்கையாக மாறியது.
வழக்கு 2 - நேர அழுத்தம் மற்றும் ஸ்டாப் ரிஃப்ளெக்ஸ். நிலநடுக்கத்திற்குப் பிறகு இடிந்து விழுந்த கட்டிடத்தின் புகைப்படம் வேகமாகப் பரவியது. நிருபர் ஒரு தலைகீழ் படத் தேடலைச் செய்தார்: புகைப்படம் 2 ஆண்டுகளுக்கு முன்பு மற்றொரு நிகழ்விலிருந்து எடுக்கப்பட்டது. 4-நிமிடச் சரிபார்ப்பு செய்தித் தளத்தில் தவறான படம் நுழைவதைத் தடுத்தது; ஒரு சில போட்டித் தளங்கள் சரிபார்க்காமல் அதை வெளியிட்டு மறுப்பு வெளியிட்டன.
வழக்கு 3 - கண்டறிதல் கருவியில் அதீத நம்பிக்கை. ஒரு ஆசிரியர் ஒரு உண்மையான நிருபரின் புகைப்படத்தை கண்டறிதல் கருவியில் செருகினார்; வாகனம் "78% செயற்கையானது" என்று அவர் கூறினார். பதிப்பாளர் அதை வெளியீட்டிலிருந்து விலக்கிக் கொள்ளவிருந்தார்; மூத்த உண்மைச் சரிபார்ப்பவர் புகைப்படத்தின் படப்பிடிப்பு மெட்டாடேட்டாவையும், நிருபரின் மூலக் கோப்பையும் காட்டியபோது, அந்தப் புகைப்படம் உண்மையானது என்பது தெரிந்தது. பாடம்: நடுத்தர பிழைகள், ஆதாரம் பேசுகிறது.
நகலெடுக்கக்கூடிய வார்ப்புருக்கள்
1) காட்சி செயற்கைத்தன்மை சரிபார்ப்பு பட்டியல்:
ஒரு படம் செயற்கையாக உருவாக்கப்பட்டிருக்கலாம் என்று சந்தேகிக்கிறேன். நான் சோதிக்க வேண்டிய விஷயங்களின் பட்டியலை உருவாக்கவும்: கைகள்/விரல்கள், பற்கள், நகைகள், பின்னணி உரை, பிரதிபலிப்புகள், ஒளி-நிழல் நிலைத்தன்மை, தலைகீழ் தேடல், மெட்டாடேட்டா. ஒவ்வொரு பொருளையும் எப்படி பார்க்க வேண்டும் என்பதை எழுதுங்கள். "போலி/உண்மை" என்று உறுதியாகச் சொல்லாதீர்கள்; வெறும் சரிபார்ப்பு பட்டியல். காட்சி விளக்கம்: [இங்கே]
2) தவறான தகவலை பகுப்பாய்வு செய்தல்:
பின்வரும் கூற்று தவறான தகவல் பிரச்சாரமாக இருக்கலாம். அனுமானம்: (1) அது எந்த உணர்ச்சியைக் குறிவைக்கிறது, (2) எந்தப் பிரிவை அது பெருக்குகிறது, (3) சரிபார்க்கக்கூடிய/சரிபார்க்க முடியாத கூறுகள், (4) பரவலின் பொதுவான வடிவம் என்னவாக இருக்கலாம். நீதியின் தீர்ப்பை வழங்குதல்; பகுப்பாய்வு. உரிமைகோரல்: [இங்கே]
3) பொதுமக்களுக்கான வரைவு உறுதிப்படுத்தல் செய்தி:
பின்வரும் உள்ளடக்கம் செயற்கையான/தவறானவை என்பதை முதன்மை ஆதாரங்களுடன் சரிபார்த்துள்ளேன்: [கண்டுபிடிப்புகளின் சுருக்கம்]. வாசகருக்குத் தெரிவிக்கும், பீதியை பரப்பாத, நான் எப்படிச் சரிபார்த்தேன் என்பதை வெளிப்படையாகக் காட்டும் உறுதிப்படுத்தல் கதையின் வரைவை எழுதவும். நான் வழங்காத எந்த கண்டுபிடிப்புகளையும் சேர்க்க வேண்டாம். கண்டுபிடிப்புகள்: [இங்கே]
4) உரையின் AI-உருவாக்கிய மதிப்பெண்கள் (குறிப்பு):
பின்வரும் உரை செயற்கையாக உருவாக்கப்படலாம் என்பதற்கான துப்புகளைப் பட்டியலிடுங்கள்: சரிபார்க்க முடியாத ஆதாரங்கள், அதிகப்படியான பொதுத்தன்மை, ஒரு பக்க ஃப்ரேமிங், திரும்பத் திரும்ப வரும் வடிவங்கள். இது உறுதியான ஆதாரம் அல்ல என்பதை வலியுறுத்தி, என்ன உண்மைச் சரிபார்ப்புகள் செய்யப்பட வேண்டும் என்பதை எழுதவும். உரை: [இங்கே]
பலவீனமான வரியில் / வலுவான வரியில்
பலவீனமான ப்ராம்ட்: "இந்தப் படம் போலியானதா என்று சொல்லுங்கள்."
முடிவு: AI துல்லியமாக தோற்றமளிக்கும் ஆனால் நம்பமுடியாத "ஆம்/இல்லை" என்பதை வழங்குகிறது; பத்திரிகையாளர் இந்த தீர்ப்பை நம்பி தவறாக நினைக்கலாம்.
வலுவான அறிவுறுத்தல்: "இந்தப் படம் செயற்கையாக இருக்குமா என்று நான் சரிபார்க்கும் அறிகுறிகளின் பட்டியலை உருவாக்கவும், ஒவ்வொன்றையும் நான் எப்படித் தேடுவேன் என்பதை எழுதவும். இறுதித் தீர்ப்புகள் எதையும் செய்ய வேண்டாம்; உண்மையான சரிபார்ப்பு மூலத்திற்குச் சென்று தலைகீழ் தேடலைச் செய்கிறது என்பதைச் சுட்டிக்காட்டவும்."
வித்தியாசம்: ஒரு சக்திவாய்ந்த ப்ராம்ட் AI ஐ ஒரு க்ளூ ஜெனரேட்டராகக் குறைக்கிறது, இது மூலத்திற்கும் பத்திரிகையாளருக்கும் தீர்ப்பை விட்டு, கருவியின் பிழையின் விளிம்பைக் காணச் செய்கிறது.
ஒப்பீட்டு விளக்கப்படம்
உள்ளடக்க வகை
பலவீனமான தடயங்கள்
மிகவும் நம்பகமான கட்டுப்பாடு
AI இன் பங்கு
உரை
பொதுவான, உருவாக்கப்பட்ட ஆதாரம்
மூலத்திற்கு கீழே செல்லுங்கள்
கையெழுத்து பட்டியல்
காட்சி
கை/பற்கள்/எழுத்து வேறுபாடு
தலைகீழ் தேடல் + மெட்டாடேட்டா
சரிபார்ப்பு பட்டியல்
ஒலி
சுவாசம்/சுற்றுச்சூழல் சீரற்ற தன்மை
ஆதாரம் மற்றும் சூழல் உறுதிப்படுத்தல்
எதைத் தேடுவது
வீடியோ (டீப்ஃபேக்)
ஒளி/ஒத்திசைவு பொருந்தவில்லை
அசல் ஆதாரம், குறுக்கு-உறுதிப்படுத்தப்பட்டது
பகுப்பாய்வு உதவி
பொதுவான தவறுகள்
- கண்டறிதல் கருவியை ஆதாரமாகக் கருதுதல். வாகனத்தின் சதவீதத்தை வெளியிடுவதற்கான காரணத்தை உருவாக்குதல்; கருவிகள் இரு திசைகளிலும் பிழை.
- "பார்த்தால் என்னால் சொல்ல முடியும்" என்ற நம்பிக்கை. செயற்கை காட்சிகள் வேகமாக மேம்படுகின்றன; காட்சி உள்ளுணர்வு மட்டும் போதாது.
- மூலத்திற்குச் செல்லவில்லை. பெரும்பாலான போலிகள் அவற்றை வெளியிட்ட அசல் ஆதாரம் கண்டுபிடிக்கப்படும்போது சரிந்துவிடும்; இந்தப் படியைத் தவிர்ப்பது தவறு.
- சந்தேகத்தை பரப்புவது. "அது உண்மையா இல்லையா என்று பார்ப்போம்" என்று சந்தேகத்திற்குரிய உள்ளடக்கத்தைப் பகிர்வது தவறான தகவலைச் செய்கிறது.
- பீதியின் மொழி. உறுதிப்படுத்தும் செய்தியில் உள்ள எச்சரிக்கை தொனி திருத்தும் போது புதிய பயத்தை பரப்புகிறது; நிதானமாகவும் வெளிப்படையாகவும் எழுதுங்கள்.
பரவல் வேகம் மற்றும் "மறுப்பு பொறி"
தவறான தகவல்களின் உண்மையான சக்தி உள்ளடக்கத்தில் இல்லை, ஆனால் அது பரவும் வேகத்தில் உள்ளது. கோபம் அல்லது பயத்தைத் தூண்டும் உணர்ச்சியைத் தூண்டும் உள்ளடக்கம் சரிபார்க்கப்பட்ட செய்திகளை விட மிக வேகமாகப் பகிரப்படுகிறது; போலியான உள்ளடக்கம் சில மணிநேரங்களுக்குள் மில்லியன் கணக்கானவர்களை சென்றடையும் அதே வேளையில், மறுசீரமைப்பு பெரும்பாலும் குறைவான நபர்களையே சென்றடைகிறது. இந்த சமச்சீரற்ற தன்மை பத்திரிகையாளர் மீது ஒரு சிறப்புப் பொறுப்பை அளிக்கிறது: கேள்விக்குரிய உள்ளடக்கத்தைப் பகிர்வது, "எவ்வளவு அபத்தமானது" என்று கூறினாலும், அதற்கு அணுகலை அளிக்கிறது. இது ஆக்ஸிஜனேற்றம் என்று அழைக்கப்படுகிறது - பொய்யை மறுபரிசீலனை செய்வது உண்மையில் எரிபொருளாகிறது.
உண்மைச் சரிபார்ப்பில் "உண்மை சாண்ட்விச்" நுட்பம் இதற்கு மாற்று மருந்தாகும்: பொய்யான கூற்றைத் திரும்பத் திரும்பச் சொல்வதற்கு முன் உண்மையைச் சொல்லுங்கள், பின்னர் அந்த உரிமைகோரல் ஏன் பொய்யானது என்பதைக் காட்டுங்கள், பின்னர் இறுதியில் உண்மையை மீண்டும் செய்யவும். இப்படிப் பார்த்தால், வாசகனின் மனதில் இருப்பது தவறல்ல, உண்மைதான். இந்தக் கட்டமைப்பின்படி உண்மைச் சரிபார்ப்புக் கதையை உருவாக்க AI உதவும்; ஆனால், எந்த உண்மையை முன்வைக்க வேண்டும் என்பதும், பீதியை கிளப்பாமல் மொழியில் தெரிவிப்பதும் தலையங்க முடிவாகும். மற்றொரு நடைமுறை: தவறான தகவலை நிரப்புவது என்ன இடைவெளி என்று கேட்கிறீர்களா? நம்பகமான தகவல் இல்லாததால் மக்கள் பெரும்பாலும் போலியான உள்ளடக்கத்தை ஏற்றுக்கொள்கிறார்கள்; பொய்களை ஒவ்வொன்றாக துரத்துவதை விட, வேகமான, துல்லியமான மற்றும் அணுகக்கூடிய செய்திகளால் அந்த இடைவெளியை நிரப்புவது மிகவும் பயனுள்ள தற்காப்பு.
சுருக்கமாக
செயற்கையான உள்ளடக்கம் மற்றும் டீப்ஃபேக்குகள் தவறான தகவல்களை மலிவாகவும் துரிதப்படுத்தவும் செய்துள்ளன; இதை வெளியிடாமல் இருப்பதும், மக்களுக்கு தெரியப்படுத்துவதும் பத்திரிகையாளரின் கடமை. கண்டறிதல் கருவிகள் மற்றும் AI ஆகியவை துப்பு மற்றும் அமைப்பை வழங்குகின்றன - ஆனால் உறுதியான ஆதாரம் இல்லை. ஆதாரம், மெட்டாடேட்டா மற்றும் தலைகீழ் தேடல், உள் நிலைத்தன்மை மற்றும் சுயாதீன சூழல் ஆகியவற்றிற்குச் செல்வதன் மூலம் தீர்ப்பு செய்யப்படுகிறது. உறுதிப்படுத்தல் செய்தி எவ்வாறு சரிபார்க்கப்பட்டது என்பதைக் காட்டும் அமைதியான, வெளிப்படையான மொழியில் எழுதப்பட்டுள்ளது.
விண்ணப்ப பணி
சந்தேகத்திற்குரியதாக நீங்கள் நினைக்கும் காட்சி அல்லது ஆடியோ உள்ளடக்கத்தைக் கண்டறியவும். "விஷுவல் சிந்தெட்டிசிட்டி சரிபார்ப்புப் பட்டியல்" (அல்லது ஆடியோவிற்கான தழுவல்) வரியில் பின்பற்றவும்; உண்மையில் ஒவ்வொரு உருப்படியையும் சரிபார்த்து, தலைகீழ் தேடலைச் சரிபார்க்கவும். முடிவை "உண்மையான/போலி/போதிய ஆதாரம்" என மதிப்பிடவும், கண்டறிதல் கருவியை மட்டுமே நீங்கள் நம்பியிருந்தால் நீங்கள் எடுக்கும் முடிவோடு ஒப்பிடவும்.
சரிபார்ப்பு பட்டியல்
- [ ] கண்டறிதல் கருவிகளின் வெளியீட்டை நான் துப்புகளாகக் கருதுகிறேன், ஆதாரம் அல்ல.
- [ ] ஏதேனும் கேள்விக்குரிய உள்ளடக்கத்திற்கு, நான் முதலில் அசல் மூலத்தையும் முதல் வெளியீட்டையும் தேடுகிறேன்.
- [ ] நான் தலைகீழ் தேடலை உறுதிசெய்து, மெட்டாடேட்டா படங்களைச் சரிபார்க்கிறேன்.
- [ ] சரிபார்க்கப்படாத கேள்விக்குரிய உள்ளடக்கத்தை நான் பரப்பவில்லை.
- [ ] உறுதிப்படுத்தல் செய்திகளை நான் எப்படிச் சரிபார்த்தேன் என்பதைக் காட்டும் அமைதியான, வெளிப்படையான மொழியில் எழுதுகிறேன்.