தொழில்முறை சந்தேகம் மற்றும் செயற்கை நுண்ணறிவு: உறுதிப்படுத்தல் சார்பு, மாயத்தோற்றம் மற்றும் விமர்சன விசாரணை

ஆதாயங்கள்:

• செயற்கை நுண்ணறிவைப் பயன்படுத்தும் போது தொழில்முறை சந்தேகம் என்ன என்பதைப் புரிந்து கொள்ளுங்கள்
• மறுக்க முயற்சிக்கும் ஒரு கேள்வி நுட்பத்துடன் செயற்கை நுண்ணறிவு வெளியீட்டை சோதிக்கும் திறன் (எதிர் பார்க்கவும்)
• செயற்கை நுண்ணறிவின் சரளமானது துல்லியத்தை அர்த்தப்படுத்துவதில்லை என்பதையும், சந்தேகத்திற்கிடமான மனது கட்டுப்பாட்டின் மையமாகும், அதை மாற்ற முடியாது என்பதையும் புரிந்து கொள்ள முடிகிறது.

பல தொழில்களில் இருந்து சுயாதீன தணிக்கையை வேறுபடுத்தும் ஒரு மன அணுகுமுறை உள்ளது: தொழில்முறை சந்தேகம். ஐஎஸ்ஏக்கள் இதை "விசாரணை செய்யும் மனதுடன் செயல்படும் தணிக்கையாளர், சான்றுகள் சாத்தியமான தவறான கருத்தைக் குறிப்பிடுகின்றனவா என்பதைக் குறிப்பிட்டு, ஆதாரங்களை விமர்சன ரீதியாக மதிப்பீடு செய்தல்" என வரையறுக்கிறது. அதாவது, தணிக்கையாளர் தனக்கு வழங்கப்படும் எந்தத் தகவலையும் தானாகவே ஏற்றுக்கொள்வது இல்லை—நிர்வாக அறிக்கை அல்ல, ஒரு ஆவணம் அல்ல, “நியாயமானதாகத் தோன்றும்” கணக்கு கூட உண்மையாக இல்லை. நான் தொடர்ந்து ஆச்சரியப்படுகிறேன் "இது உண்மையில் அப்படியா?" என்று கேட்கிறார். இந்த மனப்பான்மை கட்டுப்பாட்டின் மையமானது மற்றும் பிரிக்க முடியாதது.

செயற்கை நுண்ணறிவு யுகத்தில், இந்த மையமானது ஒரு புதிய சோதனையை எதிர்கொள்கிறது. AI ஆனது மனித மனதின் ஆழமான இரண்டு பலவீனங்களைத் தூண்டுவதில் திறமையானது - தன்னியக்க சார்பு மற்றும் உறுதிப்படுத்தல் சார்பு. இந்த பிரிவில், AI ஐப் பயன்படுத்தும் தணிக்கையாளர் தனது சந்தேகத்தை எவ்வாறு பராமரிக்கலாம் அல்லது வலுப்படுத்தலாம் என்பதை நாங்கள் விவரிப்போம். முக்கிய ஆய்வறிக்கை என்னவென்றால், AI இன் சரளமானது துல்லியம் அல்ல; AI இன் முகத்தில் சந்தேகம் கொண்ட மனம் இன்னும் முக்கியமானதாகிறது.

இரண்டு ஆபத்தான சார்புகள்

ஆட்டோமேஷன் சார்பு என்பது ஒரு இயந்திரம்/மென்பொருளின் வெளியீட்டை மக்கள் தங்கள் சொந்த தீர்ப்பை விட அதிகமாக நம்பும் போக்கு. "கணினி கணக்கிட்டது, அது சரிதான்." AI க்கு வரும்போது இந்த ஆபத்து பெரிதாக்கப்படுகிறது, ஏனெனில் AI கணக்கிடுவதில்லை; சரளமாக, நம்பிக்கையான, மனிதனைப் போன்ற, நியாயமான வாக்கியங்களைப் பேசுகிறார். தகவல் துல்லியமாக இல்லாவிட்டாலும் நம்பிக்கையான தொனி வற்புறுத்துகிறது.

உறுதிப்படுத்தல் சார்பு என்பது மக்கள் தாங்கள் முன்பு நம்பிய அல்லது எதிர்பார்த்த முடிவை ஆதரிக்கும் தகவலைத் தேடுவதற்கும் முரண்பட்ட தகவல்களைப் புறக்கணிக்கும் போக்கு ஆகும். இது தணிக்கையில் ஆபத்தானது: "இந்த கிளையன்ட் சுத்தமாக இருக்க வேண்டும்" என்று நினைக்கும் ஒரு தணிக்கையாளர், AI-யிடம் கேட்டு உறுதிப்படுத்தலைப் பெறும்போது நிம்மதியடைந்து, அதற்கு நேர்மாறான ஆதாரங்களைத் தேடுவதை நிறுத்திவிடுவார். AI கேட்கப்படும் கேள்வியில் சாய்ந்துகொள்வதால் ("பரவாயில்லை, சரியா?" என்று நீங்கள் கேட்டால், அது உங்களுடன் ஒத்துப்போகும் பதிலை உருவாக்கும் வாய்ப்பு அதிகம்), இது உறுதிப்படுத்தல் சார்புகளை வளர்க்கும்.

மூன்றாவதாகவும் உள்ளது: மாயத்தோற்றம். தொகுதியில் பலமுறை பார்த்தோம் - இல்லாத எண், உருப்படி, வளத்தை AI சரளமாக உருவாக்க முடியும். மூன்று பலவீனங்கள் இணைந்தால் ஆபத்து அதிகரிக்கிறது: AI விஷயங்களை உருவாக்குகிறது (மாயத்தோற்றம்), நீங்கள் அதை நம்புகிறீர்கள், ஏனெனில் அது திரவம் (ஆட்டோமேஷன் சார்பு), நீங்கள் அதைக் கேள்வி கேட்கவில்லை, ஏனெனில் நீங்கள் எதிர்பார்ப்பதை அது உங்களுக்குச் சொல்கிறது (உறுதிப்படுத்தல் சார்பு).

AIக்கு எதிரான சந்தேக மனதின் மூன்று கருவிகள்

AIக்கு எதிரான உறுதியான நுட்பங்களில் சந்தேகத்தை வைப்போம்:

1. மறுக்க முயற்சி செய்யுங்கள், உறுதிப்படுத்த வேண்டாம். ஒரு AI அதன் வெளியீட்டை "இது உண்மையா?" என்று கேட்கலாம். "இது தவறு என்றால் எனக்கு எப்படி தெரியும்?" கேள்வி. உங்களை நீங்களே கேட்டுக்கொள்ளுங்கள்: "இந்த அறிக்கை தவறானது என்றால், எந்த ஆதாரம் அதைக் காண்பிக்கும்?" மற்றும் அந்த ஆதாரத்தை தேடுங்கள். உறுதிப்படுத்தும் ஒரு உதாரணத்தைக் கண்டறிவது எளிது; மறுக்க முயற்சிப்பதும் தோல்வியடைவதும் உண்மையான உறுதியை அளிக்கிறது.
2. நடுநிலையாகவும் பின்னோக்கியும் கேளுங்கள். AIயிடம் "இங்கே பிரச்சனை இல்லை, இல்லையா?" கேட்காதே; இது ஒரு ஒப்புதல் பதிலை அழைக்கிறது. அதற்கு பதிலாக, "இந்தத் தரவில் நான் தவறவிட்ட ஆபத்துகள் என்ன?" மற்றும் "இந்த முடிவு தவறாக இருக்கக்கூடிய மூன்று சூழ்நிலைகள் என்ன?" கேட்க. ஒரே கேள்வியை இரண்டு எதிர் பக்கங்களில் இருந்து கேட்டு பதில்களை ஒப்பிட்டுப் பாருங்கள்.
3. மூலத்திற்கு பதிவிறக்கம் செய்து மீண்டும் உருவாக்கவும். ஒவ்வொரு இதழ், பண்புக்கூறு மற்றும் முடிவுக்கு, "இதை நான் சுதந்திரமாக எங்கே சரிபார்க்க வேண்டும்?" கேள்வியைக் கேளுங்கள் மற்றும் உண்மையில் சரிபார்க்கவும். AI இன் வெளியீட்டை ஒரு உறுதிமொழியாகக் காண்க; ஆதாரம் கூற்றுக்கு வெளியில் உள்ளது.

உதவிக்குறிப்பு: ஒரு பழக்கத்தை உருவாக்குங்கள்: AI வழங்கும் ஒவ்வொரு குறிப்பிடத்தக்க வெளியீட்டிற்கும் அடுத்ததாக, இரண்டு விஷயங்களைக் கையால் எழுதுங்கள் - "(1) இதை நான் எதைச் சரிபார்த்தேன், (2) இது பொய்யாக இருந்தால் என்ன ஆதாரம் காண்பிக்கும்." இந்த இரண்டு குறிப்புகளும் ஆட்டோமேஷன் மற்றும் உறுதிப்படுத்தல் சார்பு இரண்டையும் உடைக்கிறது.

தணிக்கையாளரால் வழங்க முடியாத தீர்ப்புகள்

சில வேலைகளுக்கு இயல்பாகவே சந்தேகம் மற்றும் தீர்ப்பு தேவைப்படுகிறது; இவற்றை AI க்கு வழங்க முடியாது, ஆதரிக்கப்படும்:

பிரிக்க முடியாத அதிகார வரம்பு

ஏன்

ஆதாரம் போதுமானதா மற்றும் பொருத்தமானதா

தொழில்முறை தீர்ப்பு; சூழல் சார்ந்தது

விளக்கத்தின் நம்பகத்தன்மை

நிறுவனத்தையும் நோக்கத்தையும் கருத்தில் கொள்ள வேண்டும்

மோசடி ஆபத்து மதிப்பீடு

சந்தேகம் மற்றும் உள்ளுணர்வு; தரவு முறைக்கு அப்பால்

பொருள் மற்றும் கருத்து முடிவு

நீதித்துறை பொதுமக்களுக்கு பொறுப்பு

நிர்வாகத்தின் நேர்மை பற்றிய கருத்து

மனித நடத்தைகளைப் படித்தல்; AI ஆல் இதைச் செய்ய முடியாது

சந்தேகம் மற்றும் மிதமிஞ்சிய வேறுபாடு: அளவிடப்பட்ட அணுகுமுறை

தொழில்முறை சந்தேகம் என்பது எல்லாவற்றையும் நம்பாமல் இருப்பது அல்லது நிர்வாகத்தை முன்கூட்டியே குற்றம் சாட்டுவது அல்ல; இது ஒரு மிகையாக இருக்கும் மற்றும் கட்டுப்பாட்டை பயனற்றதாக்கும். சந்தேகம் என்பது தூய நம்பிக்கையோ (உங்களுக்குச் சொல்லப்பட்ட அனைத்தையும் ஏற்றுக்கொள்வது) அல்லது குருட்டு மறுப்பு (எல்லாவற்றையும் நிராகரிப்பது) அல்ல; இடையில், இது ஆதாரத்துடன் தொடர்புடைய விசாரணை அணுகுமுறை. தணிக்கையாளர் நிர்வாகத்தை நேர்மையாக ஏற்றுக்கொள்ளலாம், ஆனால் இந்த ஏற்பை ஆதாரத்துடன் சோதிக்கிறார்; ஒரு விளக்கத்தை நம்பத்தகுந்ததாகக் காணலாம், ஆனால் நம்பகத்தன்மையை உறுதிப்படுத்துகிறது. AI இந்த சமநிலையை சீர்குலைக்கும்: ஒரு திசையில், அதன் திரவ வெளியீட்டின் மூலம் உங்களை அதீத நம்பிக்கைக்கு ஆளாக்குகிறது; மறுபுறம், "எல்லாவற்றிலும் தவறுகளைக் கண்டுபிடி" என்று நீங்கள் சொன்னால், அது முடிவில்லாத தவறான நேர்மறைகளால் உங்களைத் தாக்கும். எப்பொழுதும் முடிவுகளை ஆதாரத்தின் எடைக்கு எதிராக எடைபோடுவது சரியான அணுகுமுறையாகும், அதே நேரத்தில் AI ஐ ஆதாரங்களை உருவாக்கி ஆதாரங்களை நிராகரிக்க வேண்டும். சந்தேகம் என்பது ஒரு ஆளுமைப் பண்பு அல்ல, ஆனால் ஒரு ஒழுக்கமான வேலை முறை; இந்த ஒழுங்குமுறையை நிறுவுவது, பராமரிப்பது மற்றும் சான்றுப்படுத்துவது தணிக்கையாளர்தான், AI அல்ல.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - மறுப்பு நுட்பம் வேலை செய்கிறது. ஒரு தணிக்கையாளர் AI ஐ அச்சிட்டார், "இந்த பங்கு மதிப்பீடு நியாயமானது" என்று கூறினார். உறுதிப்படுத்துவதற்குப் பதிலாக, அவர் பின்வாங்கிக் கேட்டார்: "இந்த மதிப்பீடு அதிகமாகக் கூறப்பட்டால், அதை என்ன ஆதாரம் காண்பிக்கும்?" "விற்பனைக்குப் பிந்தைய விலைகள் விலைக்குக் கீழே குறையும் பொருட்கள்" என்று YZ கூறினார். தணிக்கையாளர் இந்த உருப்படிகளைத் தேடி, உண்மையில் குறைவாக மதிப்பிடப்பட்ட ஒரு குழுவைக் கண்டுபிடித்தார். மறுப்புக் கேள்வி, உறுதிப்படுத்தல் மறைக்கப்பட்ட அபாயத்தை அம்பலப்படுத்தியது.

வழக்கு 2 - உறுதிப்படுத்தல் சார்புக்குள் விழுதல். ஒரு குழு உறுப்பினர் நெருக்கடியான நேரத்தில் AI யிடம் கேட்டார், "இந்த கணக்கில் பெரிய தவறு எதுவும் இல்லை, இல்லையா?" என்று கேட்டான். YZ கேள்வியில் சாய்ந்து, "நீங்கள் வழங்கிய தகவலின்படி, குறிப்பிடத்தக்க சிக்கல் இருப்பதாகத் தெரியவில்லை." குழு உறுப்பினர் நிதானமாக பேனாவை மூடிக்கொண்டார். எனினும், அவர் எந்த ஆதாரத்தையும் முன்வைக்கவில்லை; AI அவரது வாக்கியத்தை பிரதிபலித்தது. பாரபட்சமின்றி கேள்வி கேட்கப்படவில்லை என்பதை பொறுப்பாளர் காட்டினார். பாடம்: நீங்கள் எப்படி கேள்வி கேட்கிறீர்கள் என்பது உங்களுக்குக் கிடைக்கும் பதிலைத் தீர்மானிக்கிறது; உறுதிப்படுத்தலைத் தேடும் கேள்வி உறுதிப்படுத்தலை உருவாக்குகிறது.

வழக்கு 3 - சரளமாக குறைதல். YZ மிகவும் சரளமான மற்றும் நியாயமான பத்தியில் விளக்கிய சட்டத்தின் விளக்கம் சரியானது என்று ஒரு தணிக்கையாளர் நினைத்தார் மற்றும் அதை வேலை செய்யும் தாளில் சேர்த்தார். உரை மிகவும் நேர்த்தியாக இருந்தது, அதைக் கேள்வி கேட்க அவருக்குத் தோன்றவில்லை. உத்தியோகபூர்வ உரையில் குறிப்புக்கு இணையான எதுவும் இல்லை என்று பொறுப்பான நபர் காட்டினார். பாடம்: சரளமும் நம்பிக்கையும் துல்லியத்திற்கு ஆதாரம் அல்ல; மிகவும் உறுதியானதாகத் தோன்றும் விளைவு மிகவும் ஆபத்தானதாக இருக்கலாம்.

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமான உடனடி:

இந்த பகுப்பாய்வு சரியானது, இல்லையா? நீங்கள் அங்கீகரிக்கிறீர்களா?

சிக்கல்: ஒரு சார்புடைய கேள்வி, இது உறுதிப்படுத்தலைத் தேடுகிறது. இது உங்களுடன் சேர AI ஐத் தள்ளுகிறது; இது உறுதிப்படுத்தல் சார்புகளை வளர்க்கிறது மற்றும் உண்மையான ஆபத்தை மறைக்கிறது.

சக்திவாய்ந்த தூண்டுதல்:

உங்கள் பங்கு: நீங்கள் ஒரு சுயாதீன தணிக்கையாளரின் முக்கியமான விசாரணை பங்குதாரர். உங்கள் பணி என்னுடன் உடன்படுவது அல்ல, ஆனால் எனது வெளியீட்டை நிராகரிக்க முயற்சிப்பது. சூழல்: ஒரு பகுப்பாய்வு செயல்முறையின் எனது முடிவும் எனது தற்காலிக முடிவும் கீழே கொடுக்கப்பட்டுள்ளது.[முடிவு உரை]பணி:1) இந்த முடிவு தவறானதாக இருக்கக்கூடிய 3 காட்சிகளைப் பட்டியலிடுங்கள்.2) ஒவ்வொரு சூழ்நிலையிலும் இது உண்மையாக இருந்தால், "என்ன?" உறுதியான, தேடக்கூடிய ஆதாரங்களை பரிந்துரைக்கவும். 3) நான் தவறவிட்ட தரவு அல்லது அனுமானங்களைக் குறிக்கவும். 4) என்னுடன் உடன்படும் வாக்கியங்களை உருவாக்காதீர்கள்; பலவீனமான புள்ளிகளைக் கண்டறியும் பணி உங்களுக்கு உள்ளது. நீங்கள் உறுதியாக தெரியாத இடத்தில் "தெரியாது" எனக் குறிக்கவும்.

இந்த ப்ராம்ட் சக்தி வாய்ந்தது, ஏனெனில் இது AI இன் (மறுப்பு) பங்கை மாற்றியமைக்கிறது, மறுப்புக் காட்சிகள் மற்றும் தேடக்கூடிய சான்றுகள் தேவை, மற்றும் உறுதிப்படுத்தல் தேடும் மொழியைத் தடை செய்கிறது. இது AI ஐ உறுதிப்படுத்தும் சார்புக் கருவியாகக் காட்டிலும் சந்தேகத்தின் சேவையில் வைக்கிறது.

பொதுவான தவறுகள்

• ஒப்புதல் கோரி கேள்விகள் கேட்பது. "பரவாயில்லை சரியா?" ஒப்புக்கொண்ட பதிலைக் கேட்டு உறுதிப்படுத்துவதன் மூலம்.
• சரளத்தை துல்லியமாக தவறாகப் புரிந்துகொள்வது. கேள்வியின்றி நன்கு எழுதப்பட்ட, நம்பிக்கையான வெளியீட்டை ஏற்றுக்கொள்வது.
• உறுதிப்படுத்தும் ஒரு உதாரணத்துடன் திருப்தியடையுங்கள். அதை மறுக்க முயலாமல், முதல் துணைக் கண்டுபிடிப்புடன் மூடுவது.
• பிரிக்க முடியாத அதிகார வரம்பை வழங்குதல். போதுமான ஆதாரம், நியாயத்தன்மை, கருத்து ஆகியவற்றின் முடிவை AIக்கு விட்டுவிடுங்கள்.
• நேர அழுத்தத்தின் கீழ் சந்தேகத்தை விடுவித்தல். நீங்கள் சிக்கியிருக்கும் போது AI இன் ஆறுதலான பதிலில் தஞ்சம் அடைதல்.

எச்சரிக்கை: நேர அழுத்தம் என்பது சந்தேகத்தின் மிகப்பெரிய எதிரி, மேலும் இந்த அழுத்தத்தின் கீழ் AI மிகவும் ஆபத்தானதாகிறது; ஏனெனில் இது உங்களுக்கு விரைவான, சரளமான மற்றும் ஆறுதலான பதிலை வழங்குகிறது. நீங்கள் அவசரமாக இருக்கும்போது மறுப்புக் கேள்வியைக் கேட்பதை கட்டாயமாக்குங்கள்.

சுருக்கமாக

தொழில்முறை சந்தேகம் தணிக்கையின் மையத்தில் உள்ளது மற்றும் AI இன் வயதில் இன்னும் முக்கியமானதாகிறது. AI மூன்று பலவீனங்களைத் தூண்டுகிறது: மாயத்தோற்றம் (அதை உருவாக்குகிறது), ஆட்டோமேஷன் சார்பு (அது திரவம் என்பதால் நாங்கள் அதை நம்புகிறோம்), உறுதிப்படுத்தல் சார்பு (நாங்கள் அதைக் கேள்வி கேட்கவில்லை, ஏனென்றால் அது நாங்கள் நம்புவதைக் கூறுகிறது). AI ஐ நிராகரிக்க அவசரப்படுவதே மாற்று மருந்தாகும், அதை உறுதிப்படுத்தவில்லை: "இது தவறானது என்றால், என்ன ஆதாரம் காண்பிக்கும்?" 'மற்றும் எதிர் ஆதாரங்களைத் தேடுதல், புறநிலை மற்றும் பின்னோக்கிக் கேட்டு, மூலத்திலிருந்து ஒவ்வொரு வெளியீட்டையும் மீண்டும் உருவாக்குதல். போதுமான சான்றுகள், நியாயத்தன்மை, மோசடி ஆபத்து மற்றும் கருத்துத் தீர்ப்பு போன்ற தீர்ப்புகள் சந்தேகத்திற்குரியவை மற்றும் மாற்றத்தக்கவை அல்ல. சரளமாக இருப்பது துல்லியம் அல்ல; சந்தேகம் கொண்ட மனம் உங்களுடையது.

விண்ணப்ப பணி

உங்கள் தணிக்கை முடிவைப் பெறுங்கள் (அல்லது ஒரு அனுமான முடிவு). முதலில் AIயிடம் "உறுதிப்படுத்தல் தேடும்" பலவீனமான கேள்வியைக் கேட்கவும், பின்னர் மேலே உள்ள "மறுப்பு" வலுவான ப்ராம்ட் பேட்டர்னைக் கொண்டு கேட்கவும். இரண்டு விளைவுகளையும் அருகருகே வைத்து வித்தியாசத்தை எழுதுங்கள்: மறுப்புக் கேள்வியால் மட்டும் எந்த ஆபத்துகள் வெளிப்பட்டன? உங்கள் வெளியீட்டில் ஒவ்வொரு முக்கிய உரிமைகோரலுக்கு அடுத்ததாக இரண்டு குறிப்புகளைச் சேர்க்கவும்: "நான் எதைச் சரிபார்த்தேன்" மற்றும் "தவறு என்றால் என்ன ஆதாரம் காண்பிக்கும்".

சரிபார்ப்பு பட்டியல்

• [ ] நான் AI மறுப்பு/நடுநிலை கேள்விகளைக் கேட்டேன், உறுதிப்படுத்தல் தேடும் கேள்விகளைக் கேட்கவில்லை.
• [ ] ஒவ்வொரு குறிப்பிடத்தக்க விளைவுக்கும், "இது தவறானது என்றால், என்ன ஆதாரம் அதைக் காண்பிக்கும்?" கேள்வி கேட்டு ஆதாரம் தேடினேன்.
• [ ] நான் கூடுதல் சந்தேகத்துடன், மென்மையாகவும் நம்பிக்கையுடனும் தோன்றிய வெளியீட்டை சோதித்தேன்.
• [ ] நான் ஒரு உறுதிப்படுத்தும் உதாரணத்துடன் நிறுத்தவில்லை; நான் அதை மறுக்க முயற்சித்தேன் ஆனால் தோல்வியடைந்தேன்.
• [ ] போதுமான ஆதாரங்கள், நியாயத்தன்மை மற்றும் கருத்து போன்ற எனது சொந்த தீர்ப்புகளை நான் செய்தேன்.
• கால அழுத்தத்தின் கீழ் கூட, மறுப்புக் கேள்வியை நான் தவிர்க்கவில்லை.
• [ ] முக்கியமான உரிமைகோரல்களுக்கு அடுத்ததாக, "நான் எதைச் சரிபார்த்தேன் / அது தவறாக இருந்தால் எதைக் காண்பிக்கும்" என்பதற்கான குறிப்புகளைச் செய்தேன்.