ஆதார சரிபார்ப்பு, தவறான தகவல் மற்றும் சார்பு

ஆதாயங்கள்:

• ஆதாரம், மூல நம்பகத்தன்மை மற்றும் சுயாதீனமான குறுக்கு-சரிபார்ப்பு படிகள் மூலம் ஒரு உரிமைகோரலை முறையாகச் சரிபார்க்கும் திறன்
• செயற்கை நுண்ணறிவு தன்னை மாயத்தோற்றம், பயிற்சி தரவு சார்பு மற்றும் முகஸ்துதி மூலம் தவறான தகவல்களை உருவாக்க முடியும் என்பதை புரிந்து கொள்ளும் திறன் மற்றும் அதன் வெளியீட்டை கூடுதல் சந்தேகத்துடன் நடத்துதல்
• ஒரு தெளிவான நம்பிக்கை நிலை லேபிளுடன் முடிவைக் குறிப்பதன் மூலமும் அதே நிகழ்வை வெவ்வேறு கண்ணோட்டங்களில் மதிப்பீடு செய்வதன் மூலமும் சார்புநிலையைச் சோதிக்கும் திறன்

இராஜதந்திரம் தகவலுடன் செயல்படுகிறது, மேலும் தகவலின் மதிப்பு அதன் துல்லியத்தைப் பொறுத்தது. தவறான தகவலை அடிப்படையாகக் கொண்ட ஒரு சுருக்கம், பேச்சுவார்த்தை நிலை அல்லது பொது அறிக்கை ஆகியவை பின்வாங்குவது கடினமான விளைவுகளை ஏற்படுத்தும். அதனால்தான் ஒரு தூதரகத்தின் மிக முக்கியமான திறன்களில் ஒன்று ஆதார சரிபார்ப்பு: ஒரு உரிமைகோரல் எங்கிருந்து வருகிறது, எவ்வளவு நம்பகமானது மற்றும் அது உண்மையில் உண்மையா என்பதை முறையாக மதிப்பீடு செய்தல். இந்த பிரிவில், சரிபார்ப்பில் செயற்கை நுண்ணறிவை எவ்வாறு இணைப்பது என்பதை நீங்கள் கற்றுக் கொள்வீர்கள்; ஆனால் AI ஆனது தவறான தகவல் மற்றும் சார்புக்கு ஒரு ஆதாரமாக இருக்கலாம் என்பதை மனதில் வைத்துக்கொண்டு அதை எவ்வாறு பயன்படுத்துவது என்பதை நீங்கள் கற்றுக் கொள்வீர்கள்.

முதலில் மூன்று கருத்துக்களைப் பிரிப்போம். தவறான தகவல்: தவறான தகவல் தற்செயலாக பரவுகிறது. தவறான தகவல்: உணர்வுபூர்வமாக, இலக்கு வைத்து உருவாக்கப்பட்ட மற்றும் பரப்பப்படும் தவறான தகவல். தப்பெண்ணம்: ஒரு குறிப்பிட்ட பக்கத்தை நோக்கி தகவல் அல்லது மதிப்பீடு முறையான மாற்றம். ஒரு தூதரக அதிகாரி இந்த மூன்றிலும் எச்சரிக்கையாக இருக்க வேண்டும், மேலும் AI இந்த மூன்றிலும் உதவியாகவும் ஆபமாகவும் இருக்கும்.

படிப்படியாக: உரிமைகோரலைச் சரிபார்த்தல்

1. கோரிக்கையை தெளிவாகக் குறிப்பிடவும். சரியாக என்ன சரிபார்க்க வேண்டும்? "ஒய் உடன்படிக்கையில் இருந்து நாடு X விலகியது" போன்ற ஒற்றை தெளிவான கூற்றுக்கு அதை கொதிக்க வைக்கவும். தெளிவற்ற உரிமைகோரல்களை சரிபார்க்க முடியாது.

2. உங்கள் மூலத்தைக் கண்டறியவும். இந்தக் கோரிக்கை முதலில் எங்கு, எப்போது, ​​யாரால் செய்யப்பட்டது? பெரும்பாலான தவறான தகவல்கள் ஒரு சந்தேகத்திற்குரிய மூலத்திலிருந்து உருவாகின்றன மற்றும் பெருக்கப்படுகின்றன. மூலத்திற்குத் திரும்பு.

3. மூலத்தின் நம்பகத்தன்மையை மதிப்பிடுங்கள். மூலமானது உத்தியோகபூர்வமா, சுயாதீனமானதா அல்லது பக்கச்சார்பானதா? அவர் கடந்த காலத்தில் துல்லியமான தகவல்களை அளித்தாரா? அவருக்கு இதில் கந்து வட்டி இருக்கிறதா? நம்பகமான ஆதாரம் கூட தவறாக இருக்கலாம்; ஆனால் குறைந்த நம்பகத்தன்மை ஆதாரத்திற்கு கூடுதல் உறுதிப்படுத்தல் தேவைப்படுகிறது.

4. குறுக்கு சோதனை. குறைந்தபட்சம் இரண்டு சுயாதீனமான, நம்பகமான ஆதாரங்களைக் கொண்டு உரிமைகோரலை உறுதிப்படுத்தவும். ஒரே செய்தி நிறுவனத்தால் வழங்கப்படும் 50 தளங்கள் சுயாதீன ஆதாரங்கள் அல்ல.

5. உள் நிலைத்தன்மை மற்றும் சூழலை சோதிக்கவும். உரிமைகோரல் உள்நிலையில் சீரானதா? தெரிந்த உண்மைகளுடன் முரண்படுகிறதா? சூழலில் இருந்து எடுக்கப்பட்டதா? ஒரு உண்மையான வாக்கியம் தவறான சூழலில் தவறாக வழிநடத்தும்.

6. நம்பிக்கையின் அளவைக் கொண்டு முடிவைக் குறிக்கவும். "சரிபார்க்கப்பட்டது", "பகுதி சரிபார்க்கப்பட்டது", "ஒரே ஆதாரம்", "சரிபார்க்க முடியவில்லை", "தவறு" போன்ற தெளிவான லேபிளைக் கொடுங்கள். "எனக்கு உறுதியாகத் தெரியவில்லை" என்பது கூட ஒரு முடிவு மற்றும் நேர்மையாகக் கூறப்பட வேண்டும்.

உதவிக்குறிப்பு: ஒரு உரிமைகோரல் எவ்வளவு அதிகமாக எதிரொலிக்கிறது அல்லது உணர்ச்சிபூர்வமான பதிலைத் தூண்டுகிறது, அதைச் சரிபார்ப்பதில் நீங்கள் மிகவும் கவனமாக இருக்க வேண்டும். தவறான தகவல் கோபம், பயம் அல்லது "நாம் விரும்பும் செய்தி" போன்ற உணர்ச்சிகளை குறிவைக்கிறது. விரைவாக நடவடிக்கை எடுக்கும்படி உங்களைத் தூண்டும் தகவல் பெரும்பாலும் சரிபார்க்கப்பட வேண்டிய தகவலாகும்.

AI தானே ஆபத்துக்கான ஆதாரம்

இந்த யூனிட்டின் மிக முக்கியமான எச்சரிக்கை: AI ஒரு சரிபார்ப்பு அதிகாரம் அல்ல; அதுவே தவறான தகவல்களையும் பாரபட்சத்தையும் உருவாக்கலாம். AI மூன்று வழிகளில் தவறாக வழிநடத்தலாம்:

1. மாயத்தோற்றம்: இல்லாத ஆதாரம், மேற்கோள் அல்லது நிகழ்வை உண்மையானதாகக் காட்டுகிறது. "இந்தக் கூற்றை எந்த ஆதாரம் உறுதிப்படுத்துகிறது?" நீங்கள் கேட்கும் போது, ​​அவர் உங்களுக்கு ஒரு தயாரிக்கப்பட்ட மூலப் பெயரைக் கூட கொடுக்கலாம்.

2. பயிற்சி தரவு சார்பு: AI அது பயிற்றுவிக்கப்பட்ட நூல்களில் மேலாதிக்கக் கண்ணோட்டத்தை பிரதிபலிக்கிறது. ஒரு குறிப்பிட்ட பிரச்சினையில் உலகின் ஒரு பகுதியின் பார்வை தரவுகளில் ஆதிக்கம் செலுத்தினால், AI அந்த வழியில் திசைதிருப்ப முடியும். இது வேண்டுமென்றே அல்ல, ஆனால் தரவின் பிரதிபலிப்பு - ஆனால் இதன் விளைவாக இன்னும் ஒரு சார்பு வெளியீடு உள்ளது.

3. சைக்கோஃபேன்சி: AI கேள்விக்கு உங்களை மகிழ்விக்கும் விதத்தில் பதிலளிக்கும். நீங்கள் ஒரு உரிமைகோரலைச் சரிபார்க்க விரும்பினால், அதை ஆதரிக்கும் பதிலை அது உருவாக்கும்.

எனவே சரிபார்ப்புக்கான கருவியாக AI ஐப் பயன்படுத்தவும் (ஆதாரங்களைத் திருத்துதல், முரண்பாடுகளைக் கொடியிடுதல், ஆதாரங்களைக் கண்டறிய உதவுதல்), ஆனால் "இது உண்மை" என்று கூறும் AI ஐ ஒருபோதும் இறுதி வார்த்தையாக எடுத்துக்கொள்ள வேண்டாம்.

எச்சரிக்கை: உங்களிடம் AI ஒரு மூலத்தைச் சரிபார்க்கும் போது, ​​AI உங்களுக்கு உண்மையான ஆதாரத்தைக் காட்டுகிறதா அல்லது நம்பத்தகுந்த தோற்றமுடைய புனைகதையை உருவாக்குகிறதா என்பதைச் சரிபார்க்கவும். அவர் கொடுக்கும் ஒவ்வொரு மூலப் பெயர், இணைப்பு மற்றும் மேற்கோள் ஆகியவற்றை நீங்கள் சுதந்திரமாகத் திறந்து பார்க்கும் வரை அதை "சரிபார்க்கப்பட்டதாக" கருத வேண்டாம். AI-இணைக்கப்பட்ட மூலமானது உண்மையான மூலத்தை விட உறுதியானதாகத் தோன்றலாம்.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - தோற்றம் சரிபார்ப்பு சேமிக்கப்பட்டது. "அதிகாரப்பூர்வ அறிவிப்பு" ஸ்கிரீன்ஷாட் மேசையில் கைவிடப்பட்டது, அது உண்மையாகத் தோன்றியது. அந்த நிறுவனத்தின் அதிகாரப்பூர்வ சேனல்களில் அத்தகைய அறிக்கை எதுவும் இல்லை என்று சரிபார்ப்பு காட்டியது; படம் போலியானது. தோற்றம் சரிபார்ப்பு ஒரு போலி அறிக்கையை மாநாட்டில் நுழைவதைத் தடுத்தது.

வழக்கு 2 — AI புனையப்பட்ட ஆதாரம். ஒரு நிபுணர் AI ஒரு புள்ளிவிவரத்தை சரிபார்க்க வேண்டும். YZ ஒரு ஆதாரத்தை மேற்கோள் காட்டி "இந்த அமைப்பின் 2023 அறிக்கையின்படி..." அவர் நிபுணர் மூலத்தை அழைத்தார்: அத்தகைய அறிக்கையோ அல்லது அத்தகைய எண்ணிக்கையோ இல்லை; AI இரண்டையும் உருவாக்கியது. சுயாதீன சரிபார்ப்பு புனையப்பட்ட "உறுதிப்படுத்தல்" கிடைத்தது.

வழக்கு 3 - சார்பு ஆஃப்செட். ஒரு நிபுணர் AI ஐ ஒரு சர்ச்சைக்குரிய நிகழ்வைச் சுருக்கமாகக் கூறினார் மற்றும் வெளியீடு ஒரு பக்கத்தின் கதைக்கு நெருக்கமாக இருப்பதைக் கவனித்தார். "அதே நிகழ்வை மற்ற தரப்பினரின் பார்வையில் சுருக்கமாகக் கூறுங்கள்" என்று நான் மீண்டும் கேட்டபோது, ​​மிகவும் வித்தியாசமான படம் வெளிப்பட்டது. இரண்டு விளைவுகளையும் ஒப்பிடுவது அறிக்கையில் ஒரு பக்க கட்டமைப்பை அறிமுகப்படுத்துவதைத் தடுக்கிறது.

நகலெடுக்கக்கூடிய நான்கு வார்ப்புருக்கள்

1) உரிமைகோரல் சரிபார்ப்பு நெறிமுறை:

உங்கள் பங்கு: சரிபார்ப்பு ஆய்வாளர். பின்வரும் கோரிக்கைக்கு: (1) உரிமைகோரலை நெட்டெக் வாக்கியமாகக் குறைக்கவும், (2) நான் கொடுத்த ஆதாரங்களில் முதலில் எங்கு/எப்போது குறிப்பிடப்பட்டுள்ளது என்பதைக் கண்டறியவும், (3) எத்தனை சுதந்திர ஆதாரங்கள் அதை ஆதரிக்கின்றன, (4) ஏதேனும் முரண்பட்ட ஆதாரங்கள் உள்ளன, (5) பின்வரும் குறிச்சொற்களில் ஒன்றைக் கொண்டு முடிவைக் குறிக்கவும்: சரிபார்க்கப்பட்ட / ஒற்றை ஆதாரம் / முரண். மூல உருவாக்கம்; நான் கொடுப்பதை மட்டும் பயன்படுத்து. உரிமைகோரல்+ஆதாரங்கள்: [இங்கே]

2) AI சார்பு சோதனை:

முதலில், பின்வரும் சம்பவத்தை முடிந்தவரை புறநிலையாக சுருக்கவும். பின்னர் அதே நிகழ்வை தனித்தனியாக சுருக்கவும் (அ) கட்சி A இன் பார்வையில் இருந்து, (b) கட்சியின் பார்வையில் இருந்து. மூன்று பதிப்புகளுக்கு இடையிலான வேறுபாடுகளை பட்டியலிடுங்கள். எனவே, எந்த புள்ளிகள் கட்சிகளின் விளக்கம் மற்றும் பொதுவான உண்மைகள் எவை என்பதைக் காணலாம். வழக்கு/ஆதாரங்கள்: [இங்கே]

3) மூல நம்பகத்தன்மை மதிப்பீடு:

பின்வரும் ஆதாரத்தை மதிப்பீடு செய்யவும்: வகை (அதிகாரப்பூர்வ/சுயாதீனமான/சார்பு/அநாமதேய), இந்த விஷயத்தில் சாத்தியமான ஆர்வம், கடந்தகால நம்பகத்தன்மையில் வழங்கப்பட்ட தகவல்கள், சரிபார்ப்புக்குத் தேவையான கூடுதல் படிகள். ஆதாரம் ஏன் தவறாக இருக்கலாம் என்பதையும் எழுதுங்கள். ஆதாரம்: [இங்கே]

4) தவறான தகவல் சிவப்பு கொடிகள்:

தவறான தகவலுக்காக கீழே உள்ள உள்ளடக்கத்தை ஸ்கேன் செய்யவும். இந்தக் கொடிகளைத் தேடுங்கள்: ஆதாரமற்ற புள்ளிவிவரங்கள், உணர்ச்சியைத் தூண்டும் மொழி, சூழல் இல்லாத படங்கள், “அவசர/பகிர்” அழுத்தம், சரிபார்க்க முடியாத அதிகார வார்த்தை, ஒரே நேரத்தில் ஒருங்கிணைந்த பரப்புதல். ஒவ்வொரு கண்டுபிடிப்பையும் நியாயத்துடன் குறிக்கவும். இறுதி தீர்ப்புகளை வழங்க வேண்டாம். உள்ளடக்கம்: [இங்கே]

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமான உடனடி:

இந்தக் கூற்று உண்மையா? ஆன்லைனில் தேடி எனக்கு தெரியப்படுத்துங்கள்.

"உண்மை" என்று AI சொல்வது சரிபார்ப்பு அல்ல; அவர் தவறான ஆதாரங்களைக் கொடுக்கலாம் அல்லது பக்கச்சார்பான அல்லது புகழ்ச்சியான பதிலை வழங்கலாம்.

சக்திவாய்ந்த தூண்டுதல்:

உங்கள் பங்கு: சரிபார்ப்பு ஆய்வாளர். கீழே ஒரு கோரிக்கை மற்றும் நான் சேகரித்த ஆதாரங்கள் உள்ளன. "சரி/தவறு" என்று என்னிடம் சொல்லாதே; மாறாக: உரிமைகோரலின் தோற்றம், சுயாதீன ஆதாரங்களின் எண்ணிக்கை, ஏதேனும் முரண்பாடுகள் மற்றும் நம்பிக்கையின் நிலை ஆகியவற்றைக் காட்டவும். நான் கொடுத்த ஆதாரங்களுக்கு அப்பால் செல்லாதீர்கள், ஆதாரங்களை உருவாக்காதீர்கள். உங்களுக்கு உறுதியாக தெரியவில்லை என்றால், "மனித சரிபார்ப்பு தேவை" எனக் குறிக்கவும். உரிமைகோரல்+ஆதாரங்கள்: [இங்கே]

வித்தியாசம் தெளிவாக உள்ளது: "உண்மை/தவறு" தீர்ப்பை விட ஆதாரம், சுயாதீன உறுதிப்படுத்தல் மற்றும் நம்பிக்கையின் நிலை தேவைப்படுவது AI இன் அபாயங்களைக் கட்டுப்படுத்துகிறது.

சரிபார்ப்பு நிலை அட்டவணை

லேபிள்

பொருள்

அறிக்கையில் பயன்பாடு

சரிபார்க்கப்பட்டது

குறைந்தபட்சம் 2 சுயாதீன நம்பகமான ஆதாரங்கள்

வழக்காகப் பயன்படுத்தலாம்

பகுதி உறுதிப்படுத்தப்பட்டது

சிலர் உறுதிப்படுத்தினர்

வரையறுக்கப்பட்ட, விளக்கத்துடன்

ஒற்றை ஆதாரம்

ஒரே ஒரு ஆதாரம்

"உரிமைகோரல்" என, உறுதிப்படுத்தல் தேவை

முரண்பாடான

ஆதாரங்கள் பொருந்தவில்லை

நிச்சயமற்றதாகக் காட்டப்படுகிறது

சரிபார்க்க முடியவில்லை

உறுதிப்படுத்தல் இல்லை

உண்மையாகப் பயன்படுத்தப்படவில்லை

தவறு

இதற்கு நேர்மாறானது நிரூபிக்கப்பட்டுள்ளது

அறிக்கையில் திருத்தமாக

பொதுவான தவறுகள்

• சரிபார்ப்பாக "சரியானது" என்று AI கூறுகிறது. AI புனையலாம், பாரபட்சம் காட்டலாம் அல்லது அலட்சியப்படுத்தலாம்.
• AI கொடுத்த மூலத்தைத் திறந்து பார்க்காமல் ஏற்றுக்கொள்வது. புனையப்பட்ட ஆதாரங்கள் உறுதியானவை.
• உங்கள் தேவைகளுக்கு ஏற்ற சிறிய தகவலை சரிபார்க்கிறது. உணர்ச்சி/பொருத்தமான தகவல் என்பது மிகவும் உறுதிப்படுத்தல் தேவைப்படும் தகவலாகும்.
• நகல்கள் ஏராளமாக இருப்பதை உறுதிப்படுத்தல் என தவறாகப் புரிந்துகொள்வது. ஒரே மூலத்திலிருந்து நூற்றுக்கணக்கான தளங்கள் ஒரே ஆதாரமாக உள்ளன.
• சார்புநிலையை சோதிக்கவே இல்லை. வெவ்வேறு கண்ணோட்டங்களில் இருந்து ஒரே நிகழ்வை சுருக்கமாகக் கூறுவது சமநிலையை வழங்குகிறது.

சுருக்கமாக

மூல சரிபார்ப்பு என்பது இராஜதந்திர அறிவின் அடித்தளமாகும், மேலும் AI இந்த வேலையில் ஒரு உதவி மற்றும் ஆபத்து ஆகும். AI ஆதாரங்களை ஒழுங்கமைக்கிறது, ஆதார கண்காணிப்பு மற்றும் மோதல் கொடியிடலுக்கு உதவுகிறது; ஆனால் அது மாயத்தோற்றம், பயிற்சி தரவு சார்பு மற்றும் முகஸ்துதி காரணமாக தவறான தகவலை உருவாக்கலாம். ஆதாரத் தடமறிதல், சுயாதீனமான குறுக்குச் சரிபார்ப்பு, மூல-தகவல் நம்பகத்தன்மையைப் பிரித்தல், நம்பிக்கை நிலை குறியிடுதல் மற்றும் AI வெளியீட்டில் கூடுதல் சந்தேகம் ஆகியவை இந்த அலகுக்கு முதுகெலும்பாகும்.

விண்ணப்ப பணி

தற்போதைய, சர்ச்சைக்குரிய உரிமைகோரலைத் தேர்ந்தெடுத்து வெவ்வேறு வகைகளிலிருந்து ஆதாரங்களைச் சேகரிக்கவும். "உரிமைகோரல் சரிபார்ப்பு நெறிமுறை" மூலம் ஆதாரம் மற்றும் சுயாதீன சரிபார்ப்புக்கான உரிமைகோரலை மதிப்பிடவும். "AI சார்பு சோதனை" மூலம், ஒரே நிகழ்வை வெவ்வேறு கண்ணோட்டங்களில் சுருக்கி, வேறுபாடுகளை பட்டியலிடவும். AI ஒரு ஆதாரத்தை வழங்கினால், அதை சுதந்திரமாக திறந்து, அது உண்மையில் உள்ளதா என சரிபார்க்கவும்.

சரிபார்ப்பு பட்டியல்

• [ ] நான் உரிமைகோரலை ஒரு தெளிவான வாக்கியமாக குறைத்து அதன் மூலத்தை தேடினேன்.
• [ ] குறைந்தது இரண்டு சுயாதீன நம்பகமான ஆதாரங்களைக் கொண்டு நான் குறுக்கு சோதனை செய்துள்ளேன்.
• AI வழங்கிய ஒவ்வொரு ஆதாரத்தையும் நான் சுயாதீனமாக சரிபார்த்துள்ளேன்.
• [ ] ஒரே நிகழ்வை வெவ்வேறு கண்ணோட்டங்களில் சுருக்கி நான் சார்புநிலையை சோதித்தேன்.
• [ ] தெளிவான நம்பிக்கை நிலை லேபிளுடன் முடிவைக் குறித்தேன்.