மாயத்தோற்றம் மற்றும் நம்பகத்தன்மையின் வரம்புகள்

ஆதாயங்கள்:

• மாயத்தோற்றம் என்றால் என்ன, அது ஏன் ஏற்படுகிறது என்பதை விளக்க முடியும்
• AI வெளியீடு எப்போது சரிபார்க்கப்பட வேண்டும் என்பதை தீர்மானிக்க முடியும்
• நம்பகத்தன்மையை அதிகரிக்கும் நடைமுறை நுட்பங்களைப் பயன்படுத்தலாம்

AI கல்வியறிவின் மிக முக்கியமான தலைப்பு இந்த பிரிவில் இருக்கலாம்: மாதிரி உருவாக்கம், அதாவது மாயத்தோற்றம். இந்த வார்த்தையைப் புரிந்துகொள்வது AI ஐப் பயன்படுத்தும் எவருக்கும் மிக அடிப்படையான பாதுகாப்பு முன்னெச்சரிக்கையாகும். ஏனெனில் மாயத்தோற்றத்தை அறியாத பயனர் தவறான தகவலை உண்மை என தவறாக நினைத்து வணிக முடிவு, வாடிக்கையாளர் தொடர்பு அல்லது அதிகாரப்பூர்வ ஆவணத்திற்கு மாற்றலாம். இந்த பிரிவில், மாயத்தோற்றம் என்றால் என்ன, அது ஏன் தவிர்க்க முடியாதது மற்றும் அதிலிருந்து எவ்வாறு பாதுகாப்பது என்பதை நீங்கள் கற்றுக் கொள்வீர்கள்.

மாயத்தோற்றம் என்றால் என்ன?

ஒரு மொழி மாதிரியானது உண்மையில் இல்லாத ஒரு சரளமான மற்றும் நம்பிக்கையான மொழியில், அது உண்மையாக இருப்பதைப் போலவே தகவலை உருவாக்குவது மாயத்தோற்றம் ஆகும். மாதிரி பொய் சொல்லும் எண்ணம் இல்லை; "மிகவும் சாத்தியமான தொடர்ச்சியை" மட்டுமே உருவாக்கும்போது, ​​அது சாத்தியமானதாகத் தோன்றும் ஆனால் உண்மையில் தவறான உரையை உருவாக்குகிறது.

உதாரணம்: நீங்கள் ஒரு மாதிரியைச் சொன்னால், "தலைப்பில் ஒரு கல்வி மூலத்தைப் பரிந்துரைக்கவும், எல்லாமே சரியான வடிவத்தில் மற்றும் நம்பத்தகுந்த வகையில் தோன்றும்; ஆனால் மூலமானது முற்றிலும் கற்பனையானது. இது மாயத்தோற்றத்திற்கு ஒரு சிறந்த எடுத்துக்காட்டு.

அது ஏன் நடக்கிறது? (அலகு இரண்டை நினைவில் கொள்க)

மாயத்தோற்றத்தின் ஆதாரம் மாதிரியின் செயல்பாட்டுக் கொள்கையில் உள்ளது. மாதிரியானது "உண்மைகளின் கலைக்களஞ்சியம்" அல்ல; இது ஒரு "நிகழ்தகவு இயந்திரம்". உங்கள் கேள்வியின் மென்மையான சாத்தியமான தொடர்ச்சியை உருவாக்குவதே இதன் வேலை; இது மிகத் துல்லியமான தகவல்களைக் கொண்டு வருவது அல்ல. மாதிரி:

• தனக்குத் தெரியாதது அவருக்குத் தெரியாது; வெற்றிடத்தை எதிர்கொள்ளும் போது, ​​"எனக்குத் தெரியாது" என்று கூறுவதற்குப் பதிலாக சாத்தியமான பதிலை நிரப்ப முனைகிறார்.
• அது யதார்த்தத்தை கட்டுப்படுத்த எந்த பொறிமுறையையும் கொண்டிருக்கவில்லை; அது உருவாக்கும் உரை உலகத்துடன் பொருந்துகிறதா என்பதை இது சரிபார்க்காது.
• சரளமும் துல்லியமும் அவருக்கு இரண்டு வெவ்வேறு விஷயங்கள்; அது சரளமாக இருப்பதால் அது சரியானது என்று அர்த்தமல்ல.

எச்சரிக்கை: மாயத்தோற்றம் ஒரு "செயலிழப்பு" அல்ல; இது தொழில்நுட்பத்தின் உள்ளார்ந்த அம்சமாகும். புதிய மாடல்கள் இதை குறைக்கின்றன, ஆனால் முற்றிலும் அகற்ற முடியாது. எனவே, "மாயத்தோற்றம் இல்லாத மாதிரி"க்காக காத்திருக்காமல், மாயத்தோற்றத்துடன் வாழக் கற்றுக்கொள்வது அவசியம்.

மாயத்தோற்றங்களின் ஆபத்து எங்கே அதிகம்?

ஒவ்வொரு முடிவும் சமமாக ஆபத்தானது அல்ல. ஆபத்து அதிகரிக்கும் போது:

அதிக ஆபத்து

குறைந்த ஆபத்து

சரியான புள்ளிவிவரங்கள், தேதிகள், புள்ளிவிவரங்கள்

பொதுவான யோசனைகளை உருவாக்குதல், மூளைச்சலவை செய்தல்

ஆதாரங்கள், மேற்கோள்கள், குறிப்புகள் ஆகியவற்றைக் கோருகிறது

உரையின் தொனியை மாற்றவும்

முக்கிய, சிறப்பு தலைப்புகள்

பொதுவான, பொதுவான தலைப்புகள்

தற்போதைய நிகழ்வுகள் மற்றும் மக்கள்

உங்கள் உரையை சுருக்கவும்

உங்கள் நிறுவனத்திற்கு குறிப்பிட்ட உள் தகவல்

இலக்கண திருத்தம்

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - விளக்கக்காட்சியில் ஒரு போலி உருவம் நுழைந்தது. தொழில்துறை அறிக்கைக்காக "2023 இ-காமர்ஸ் வளர்ச்சி விகிதம் மற்றும் Türkiye இன் ஆதாரம்" AIயிடம் ஒரு ஊழியர் கேட்டார். மாடல் உறுதியான சதவீதத்தையும் (48%) நிறுவனப் பெயரையும் அளித்தது. பணியாளர் அதை சரிபார்க்காமல் விளக்கக்காட்சியில் வைத்தார்; கூட்டத்தில் புனையப்பட்ட உருவம் என்பது தெரியவந்ததால், பிரசன்டேஷனுக்கும், நிறுவனத்தின் நற்பெயருக்கும் பாதிப்பு ஏற்பட்டது. அதே ஊழியர் அதிகாரப்பூர்வ ஆதாரத்திலிருந்து புள்ளிவிவரத்தைப் பெற்றிருந்தால், எந்த பிரச்சனையும் இருக்காது.

வழக்கு 2 - இல்லாத சட்டம். உதவியாளர் ஒருவர் மனுவிற்காக AIயிடம் "சம்பந்தப்பட்ட சட்டப் பிரிவு" கேட்டார். மாடல் ஒரு யதார்த்தமான தோற்றமுடைய உருப்படி எண் மற்றும் உரையை உருவாக்கியது; ஆனால் அந்த பொருள் அங்கு இல்லை. அதிர்ஷ்டவசமாக, சட்டத் துறை அதை பிரசவத்திற்கு முன்பே கவனித்தது. பாடம்: சட்ட மேற்கோள்கள் எப்போதும் முதன்மை மூலத்திலிருந்து சரிபார்க்கப்படும்.

வழக்கு 3 - சரியான முறை, பாதுகாப்பான முடிவு. அதே குழுவில் உள்ள மற்றொரு ஊழியர் AI வரைவு அறிக்கையை வைத்திருந்தார், அதிகாரப்பூர்வ தரவுகளிலிருந்து அனைத்து எண்களையும் தானே உள்ளிட்டு, "இந்த உரையில் இல்லாத புள்ளிவிவரங்களைச் சேர்க்க வேண்டாம்" என்று அறிவுறுத்தினார். முடிவு வேகமாகவும் துல்லியமாகவும் இருந்தது. வித்தியாசம்: AI எழுதிய வரைவு, மனிதனுக்கு உணவளித்த உண்மைகள்.

பலவீனமான ப்ராம்ட் / ஸ்ட்ராங் ப்ராம்ட்

பலவீனமான ப்ராம்ட்: இந்த விஷயத்தில் 3 மிக முக்கியமான கல்வி ஆதாரங்களை ஆசிரியர் மற்றும் ஆண்டுடன் வழங்கவும்.

முடிவு: இல்லாத ஆதாரங்களை மாடல் பாதுகாப்பாகப் பொருத்த முடியும்.

சக்திவாய்ந்த அறிவுறுத்தல்: நான் கீழே ஒட்டியுள்ள உரையின் அடிப்படையில் ஒரு சுருக்கத்தை எழுதுங்கள். இந்த உரையில் உள்ள தகவல்களை மட்டும் பயன்படுத்தவும். உரையில் இல்லாத பெயர்கள், எண்கள் அல்லது ஆதாரங்களைச் சேர்க்க வேண்டாம். உங்களுக்கு உறுதியாக தெரியவில்லை என்றால், "உரையில் குறிப்பிடப்படவில்லை" என்று எழுதவும்.<text>[இங்கே ஒட்டவும்]</text>

முடிவு: மாடல் உங்களிடமிருந்து மூலத்தைப் பெறுவதால், பொருத்தும் இடம் குறுகியதாகிறது.

நம்பகத்தன்மையை அதிகரிக்கும் நடைமுறை நுட்பங்கள்

உங்கள் பதிலில் (எண், தேதி, பெயர், ஆதாரம்) ஒவ்வொரு சரிபார்க்கக்கூடிய உரிமைகோரலைக் குறிக்கவும் மற்றும் அவற்றை ஒரு தனி "சரிபார்க்க வேண்டும்" பட்டியலில் வைக்கவும்.

இந்தக் கேள்விக்குப் பதில் சொல்லுங்கள். நீங்கள் உறுதியாக தெரியவில்லை என்றால், யூகிக்க வேண்டாம்; "எனக்கு உறுதியாக தெரியவில்லை" என்று கூறி, உங்களுக்கு என்ன தெரியாது என்று விளக்கவும். தலைப்பு: [subject]

ஒரே கேள்விக்கு இரு வேறு வழிகளில் பதிலளிக்கவும் மற்றும் இரண்டு பதில்களுக்கு இடையே உள்ள முரண்பாடுகளைக் குறிக்கவும். எனவே எந்தெந்த புள்ளிகள் கேள்விக்குரியவை என்பதைப் பார்க்கிறேன். கேள்வி: [கேள்வி]

கீழே உள்ள உரையை நான் சரிபார்க்கிறேன். முக்கியமான வரிசைப்படி நான் சரிபார்க்க வேண்டிய அபாயகரமான உரிமைகோரல்களைப் பட்டியலிட்டு, ஒவ்வொன்றையும் எங்கு சரிபார்க்கலாம் என்பதைப் பரிந்துரைக்கவும். உரை: [இங்கே ஒட்டவும்]

கூடுதலாக, இந்த பழக்கங்களை பின்பற்றவும்:

1. நீங்கள் ஆதாரத்தை வழங்குகிறீர்கள். தொடர்புடைய ஆவணத்தை உரையில் ஒட்டவும் மற்றும் "இதன் அடிப்படையில் மட்டும் பதில்" என்று கூறவும்.
2. சரிபார்க்கக்கூடிய உண்மைகளை எப்போதும் சரிபார்க்கவும். சுயாதீனமான, நம்பகமான மூலத்திலிருந்து எண்கள், தேதிகள், பெயர்கள், மேற்கோள்கள் மற்றும் ஆதாரங்களைச் சரிபார்க்கவும்.
3. அவர் மாதிரியைப் பற்றி உறுதியாக தெரியவில்லை என்பதைக் குறிக்க அவரிடம் கேளுங்கள். இது ஆபத்தை குறைக்கிறது, ஆனால் அதை முழுமையாக அகற்றாது.
4. அதிக ஆபத்துள்ள வேலைகளுக்கு, ஒரு நிபுணர் வெளியீட்டை ஆய்வு செய்ய வேண்டும். சட்ட, நிதி மற்றும் உடல்நலம் தொடர்பான வெளியீடுகள் மனித நிபுணர்களின் வடிகட்டி வழியாக அனுப்பப்பட வேண்டும்.
5. AI ஐ "தொடக்க புள்ளியாக" பயன்படுத்தவும், "இறுதி வார்த்தையாக" அல்ல. வரைவு அவரிடமிருந்து; சரிபார்ப்பும் முடிவும் உங்களுடையது.

எச்சரிக்கை: "மாடல் இரண்டு முறை சொன்னது, அது உண்மைதான்" லாஜிக் தவறு. அதே தவறை நம்பிக்கையுடன் மீண்டும் செய்யலாம். திரும்பத் திரும்பச் சொல்வது துல்லியத்திற்கான ஆதாரம் அல்ல.

பொதுவான தவறுகள்

பொதுவான தவறுகள்

• ஆதாரங்களைச் சரிபார்க்காமல் அவற்றைப் பயன்படுத்துதல். இது மாதிரி புத்தகங்கள், கட்டுரைகள், சட்டத்தின் கட்டுரைகள் மற்றும் இணைப்புகளை உருவாக்க முடியும்; ஒவ்வொரு குறிப்பும் உறுதிப்படுத்தப்பட வேண்டும்.
• துல்லியத்திற்கான நம்பிக்கையான தொனியைத் தவறாகப் புரிந்துகொள்வது. மாயத்தோற்றத்தைப் பற்றிய மிக ஆபத்தான விஷயம் துல்லியமாக அது நம்பிக்கையுடன் இருப்பதாகத் தெரிகிறது.
• "நீங்கள் சரிபார்க்கவும்" என்று மாதிரி இருந்தால் போதும். மாதிரியின் சுய சரிபார்ப்பு என்பது சுயாதீன சரிபார்ப்பு அல்ல.
• ஒரு நிபுணரிடம் காட்டாமல் அதிக ஆபத்துள்ள வெளியீட்டைப் பயன்படுத்துதல். பணம், சட்டம் மற்றும் ஆரோக்கியம் ஆகியவற்றில் மனிதக் கட்டுப்பாடு அவசியம்.

சுருக்கமாக

• மாடல் என்பது இல்லாத தகவல்களை சரளமாகவும் நம்பிக்கையுடனும் உண்மை போல் உருவாக்குவது மாயத்தோற்றம் ஆகும்.
• காரணம் ஒரு செயலிழப்பு அல்ல, ஆனால் மாதிரியின் நிகழ்தகவு-கணிக்கும் தன்மை; முற்றிலும் அகற்ற முடியாது.
• துல்லியமான புள்ளிவிவரங்கள், ஆதாரங்கள், புதுப்பித்த தகவல் மற்றும் முக்கிய சிக்கல்கள் என வரும்போது ஆபத்து குறிப்பாக அதிகம்.
• உங்களைப் பாதுகாத்துக் கொள்ள: மூலத்தைக் கொடுங்கள், உண்மைகளைச் சரிபார்த்து, "உங்களுக்குத் தெரியாவிட்டால், என்னிடம் சொல்லுங்கள்" என்று கூறவும், அதிக ஆபத்துள்ள வெளியீட்டை நிபுணரால் சரிபார்க்கவும்.
• AI ஐ ஒரு தொடக்க புள்ளியாக பயன்படுத்தவும்; இறுதி சரிபார்ப்பும் பொறுப்பும் எப்போதும் உங்களுடன் இருக்கும்.

விண்ணப்பப் பணி

நிபுணத்துவம் தேவைப்படும் ஒரு பாடத்தில் "3 கல்வி ஆதாரங்களைப் பரிந்துரைக்க" உங்கள் AI கருவியிடம் சொல்லுங்கள் மற்றும் இணையத்தில் அது பரிந்துரைக்கும் ஆதாரங்களை உறுதிப்படுத்த முயற்சிக்கவும்; எத்தனை உண்மையானவை என்பதைக் கவனியுங்கள். பின்னர் அதே பணியை "நீங்கள் மூலத்தைக் கொடுங்கள்" முறையை மீண்டும் செய்யவும் மற்றும் வேறுபாட்டைக் கவனிக்கவும்.

சரிபார்ப்பு பட்டியல்

• [ ] மாயத்தோற்றம் என்றால் என்ன, அது ஏன் ஏற்படுகிறது என்பதை என்னால் விளக்க முடியும்.
• [ ] நான் உயர் மற்றும் குறைந்த மாயத்தோற்றம் ஆபத்து பணிகளை வேறுபடுத்தி பார்க்க முடியும்.
• [ ] நான் மாதிரிக்கு மூலத்தைக் கொடுப்பதன் மூலம் புனைகதை ஆபத்தை குறைக்க முடியும்.
• எண்கள், தேதிகள், பெயர்கள் மற்றும் ஆதாரங்களை நான் சுயாதீனமாக சரிபார்க்கிறேன்.
• [ ] நம்பிக்கையான தொனியை நான் துல்லியத்தின் சான்றாகக் கருதவில்லை.