நெருக்கடி, ஆபத்து மற்றும் தற்கொலை: செயற்கை நுண்ணறிவின் உறுதியான எல்லை

ஆதாயங்கள்:

• செயற்கை நுண்ணறிவு ஏன் நெருக்கடி, தற்கொலை மற்றும் சுய/மற்றவர்களுக்கு தீங்கு விளைவிக்கும் அபாயத்தில் முடிவெடுக்க முடியாது மற்றும் மனித தலையீடு ஏன் கட்டாயமானது என்பதைப் புரிந்துகொள்வது.
• நிபுணரின் தீர்ப்புக்குக் கீழே நினைவூட்டல்/சரிபார்ப்புப் பட்டியல் மட்டத்தில் மட்டுமே இடர் மதிப்பீட்டில் AIஐ நிலைநிறுத்தும் திறன்
• அவசரகால நெறிமுறை, ரூட்டிங் கோடுகள் மற்றும் பாதுகாப்புத் திட்டத்தில் செயற்கை நுண்ணறிவின் வரையறுக்கப்பட்ட மற்றும் கட்டுப்படுத்தப்பட்ட பங்கை வரையறுக்கும் திறன்

இந்த அலகு முழு தொகுதியின் மிக முக்கியமான எல்லையை வரைகிறது. மனநல வணிகத்தில் சில தருணங்கள் உள்ளன, அங்கு அது வேகம், எளிமை அல்லது செயல்திறன் பற்றியது அல்ல; ஒரு மனிதனின் வாழ்க்கையும் ஒரு நிபுணரின் பொறுப்பும் மட்டுமே பேசுகின்றன. தற்கொலை அபாயம், தனக்கு அல்லது பிறருக்குத் தீங்கு, கடுமையான மனநோய், வன்முறை அச்சுறுத்தல், குழந்தை/துஷ்பிரயோகத்தைப் புகாரளித்தல் போன்ற சூழ்நிலைகள் நெருக்கடிகளாகும். இந்த தருணங்களில், செயற்கை நுண்ணறிவு (AI) முடிவுகளை எடுக்க முடியாது, ஆபத்தை அளவிட முடியாது, தலையிட முடியாது மற்றும் பொறுப்பேற்க முடியாது. இது "AI இன்னும் போதுமானதாக இல்லை" என்ற விஷயமல்ல; நெருக்கடிக்கு இயல்பாகவே நிகழ்நேர மனித இணைப்பு, மருத்துவத் தீர்ப்பு மற்றும் பொறுப்புக்கூறல் தேவை. இந்த யூனிட்டில், AI ஏன் ஒரு நெருக்கடியில் நிற்கும், மனிதர்கள் ஏன் அவசியம், மற்றும் AI எந்த அளவுக்கு மட்டுப்படுத்தப்பட்ட பங்கை வகிக்க முடியும் என்பதை நீங்கள் அறிந்து கொள்வீர்கள்.

ஏன் AI ஆல் நெருக்கடியில் முடிவெடுக்க முடியாது

நெருக்கடி மதிப்பீட்டிற்கு நான்கு விஷயங்கள் தேவை, இவை இரண்டும் AI இல் போதுமானதாக இல்லை:

1. உண்மையான நேர உறவு. ஆபத்தின் உண்மையான அறிகுறிகள் பெரும்பாலும் பேசப்படும் வார்த்தைகளில் இல்லை; குரலின் தொனி, இடைநிறுத்தம், தோற்றம், உடல் மொழி, "சொல்லப்படாத" தொனியில் மறைந்திருக்கிறது. AI ஒரு உரையைப் பார்க்கிறது; மக்களைப் பார்ப்பதில்லை.
2. முழுமையான மருத்துவ பகுத்தறிவு. ஆபத்து; இது வரலாறு, பாதுகாப்பு காரணிகள், மனக்கிளர்ச்சி, அணுகல் (முறைக்கான அணுகல்), ஆதரவு அமைப்பு போன்ற டஜன் கணக்கான காரணிகளின் நேரடி எடையாகும். AI ஒரு மெக்கானிக்கல் "ரிஸ்க் ஸ்கோர்" கொடுக்கலாம், ஆனால் அந்த மதிப்பெண் ஒரு மனிதனை காப்பாற்றாது.
3. பொறுப்பு மற்றும் பொறுப்பு. நெருக்கடியான முடிவின் பின்னால் கையொப்பமிடும் ஒரு நபர் இருக்க வேண்டும், தேவைப்பட்டால் அவர் பொறுப்புக்கூற வேண்டும் மற்றும் வாடிக்கையாளரின் வாழ்க்கையை எடுத்துக்கொள்கிறார். AI பொறுப்பை ஏற்க முடியாது.
4. பதில் திறன். நெருக்கடியில் தேவைப்படுவது (பாதுகாப்புத் திட்டத்தை உருவாக்குதல், குடும்பத்தை ஈடுபடுத்துதல், அவசர அறைக்கு வழிநடத்துதல், மருத்துவமனையைக் குறிப்பிடுதல்) உறுதியான, மனிதனால் உருவாக்கப்பட்ட செயல்கள்.

எச்சரிக்கை: ஒரு கிளையண்ட் ஆபத்துக்கான அறிகுறிகளைக் காட்டினால், AI யிடம் "அபாயமா?" "என்று கேட்பது, முடிவை ஒத்திவைத்து, பொறுப்பைத் தவிர்ப்பதாகும். நெருக்கடியில், நிபுணர் நேரடியாக நடவடிக்கை எடுக்கிறார். AIக்கு இந்த நேரத்தில் எந்த முடிவெடுக்கும் பங்கு இல்லை. தேவைப்படும்போது ஹாட்லைன்களும் மனித ஆதரவு சங்கிலிகளும் செயல்படுத்தப்படுகின்றன.

நெருக்கடியான சாட்போட்களில் AI இன் ஆபத்து

சமீபத்திய ஆண்டுகளில், "நான் உங்களை ஆதரிக்கிறேன்" என்று கூறும் AI சாட்போட்கள் பரவலாகிவிட்டன. நெருக்கடியில் அவர்களின் ஆபத்து தீவிரமானது: ஒரு போட் தற்கொலை செய்தியை தவறாகப் புரிந்து கொள்ளலாம், தலைப்பைத் தவிர்க்கலாம், கிளுகிளுப்பான பதிலைக் கொடுக்கலாம் அல்லது (ஆவணப்படுத்தப்பட்ட நிகழ்வுகளாக) தீங்கு விளைவிக்கும் வகையில் பதிலளிக்கலாம். ஒரு நபர் மற்ற நபர் உண்மையான ஆபத்தில் இருப்பதை உணர்ந்து நடவடிக்கை எடுக்கிறார்; ஒரு போட் இதை நம்பகத்தன்மையுடன் செய்ய முடியாது. எனவே நெருக்கடியில் இருக்கும் வாடிக்கையாளரை ஒருபோதும் சாட்போட்டுக்கு அனுப்ப வேண்டாம்.

AI இன் ஏற்றுக்கொள்ளக்கூடிய வரையறுக்கப்பட்ட பங்கு

AI ஒரு நெருக்கடியில் முடிவுகளை எடுக்க முடியாது; ஆனால் அமர்வுக்கு வெளியே, தொழில்முறை தனது சொந்த வேலையை ஆதரிப்பதில் மிகக் குறைந்த பங்கைக் கொண்டிருக்கலாம்:

• நினைவூட்டல்/சரிபார்ப்பு பட்டியல். இடர் மதிப்பீட்டில் நிபுணர் கேட்க மறக்கக்கூடாத பகுதிகளை சரிபார்ப்புப் பட்டியலாகத் தயாரித்தல் (நிபுணர் அதைப் பயன்படுத்துகிறார், வாடிக்கையாளர் அல்ல).
• நெறிமுறை வரைவு. நிறுவனத்தின் நெருக்கடி நெறிமுறை, பரிந்துரை வரிகள் பட்டியல், பாதுகாப்புத் திட்ட டெம்ப்ளேட் (பின்னர் நிபுணர்/நிறுவனம் அதை அங்கீகரிக்கிறது) ஆகியவற்றின் வரைவைத் தயாரித்தல்.
• பயிற்சி/ஒத்திகை. நிபுணரின் நெருக்கடி நேர்காணல் திறன்களை மேம்படுத்த கற்பனையான காட்சி ஒத்திகை (உண்மையான வாடிக்கையாளர் இல்லை).

இந்த பாத்திரங்கள் பொதுவானவை: AI ஆனது ஒரு உண்மையான வாடிக்கையாளருடன் நேரடி நெருக்கடியில் முடிவெடுக்கும் நிலையில் இல்லை.

சூழ்நிலை

AI இன் பங்கு

யார் தீர்மானிப்பது

நேரடி நெருக்கடி (ஆபத்தில் உள்ள வாடிக்கையாளர்)

முடிவெடுக்கும் பாத்திரம் இல்லை

நிபுணர், நேரடியாகவும் உடனடியாகவும்

அமர்வுக்கு வெளியே: சரிபார்ப்புப் பட்டியலைத் தயாரித்தல்

வரைவு நினைவூட்டல்

நிபுணர் அங்கீகரிக்கிறார்/பயன்படுத்துகிறார்

நெருக்கடி நெறிமுறை/வார்ப்புரு எழுதுதல்

உரை வரைவு

நிபுணர்/நிறுவனம் அங்கீகரிக்கிறது

நெருக்கடியில் வாடிக்கையாளருக்கு வழிகாட்டுதல்

தடைசெய்யப்பட்டது (போட் அரட்டை அடிக்க கூடாது)

மனித ஆதரவு சங்கிலி

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - எல்லை பாதுகாப்பு. ஒரு வாடிக்கையாளர் ஒரு அமர்வில், "இனி என்னால் அதை எடுக்க முடியாது, நான் அதை முடிக்க விரும்புகிறேன்." நிபுணர் நினைக்கிறார், "நான் இதை AI க்கு எழுதுகிறேன், அதன் தீவிரத்தன்மையைப் பற்றி கேட்கிறேன்," ஆனால் நிறுத்துகிறார். மாறாக அவர் நேரடியாகவும், அமைதியாகவும், நேரடியாகவும் இடர் மதிப்பீட்டில் நகர்கிறார்: சிந்தனையின் அதிர்வெண், திட்டம், முறை, அடைய, பாதுகாப்பு காரணிகளைப் பற்றி பேசுகிறார்; ஒரு பாதுகாப்பு திட்டத்தை உருவாக்குகிறது; தேவையான ஆதரவை செயல்படுத்துகிறது. முடிவும் பொறுப்பும் ஆரம்பம் முதல் இறுதி வரை மனிதனுடையது; இந்த நேரத்தில் AI நுழைவது சரியாக இருக்காது.

வழக்கு 2 - படகின் பற்றாக்குறை. மணிநேரத்திற்குப் பிறகு ஆதரவுக்காக AI சாட்போட்டைப் பயன்படுத்த ஒரு நிறுவனம் பரிசீலித்து வருகிறது. பைலட் சோதனையில், தற்கொலையை பரிந்துரைக்கும் செய்திக்கு பாட் பொதுவான "கவனிக்கவும்" பதிலளிக்கிறது; இது ஆபத்தை அங்கீகரிக்கவோ அல்லது வழிநடத்தவோ இல்லை. பாட் நெருக்கடி பாதுகாப்பானது அல்ல என்று நிறுவனம் முடிவு செய்கிறது; அதற்கு பதிலாக, இது ஒரு தெளிவான அமைப்பை நிறுவுகிறது, இது மக்களை உண்மையான நெருக்கடிக் கோட்டிற்கு வழிநடத்துகிறது மற்றும் மணிநேரத்திற்கு வெளியே உள்ள சூழ்நிலைகளுக்கு ஆன்-கால் ஸ்பெஷலிஸ்ட்.

வழக்கு 3 - சரியான வரையறுக்கப்பட்ட பயன்பாடு. தனது சொந்த இடர் மதிப்பீட்டு நடைமுறையை வலுப்படுத்த, ஒரு நிபுணர் AIயிடம் "ஒரு விரிவான தற்கொலை அபாய மதிப்பீட்டு நேர்காணலில் நான் கேட்க வேண்டிய பகுதிகளின் சரிபார்ப்புப் பட்டியலை" கேட்கிறார். AI ஒரு நல்ல நினைவூட்டல் பட்டியலை உருவாக்குகிறது; நிபுணர் அதை ஒரு பாதுகாப்பு வலையாக தனது பையில் வைத்திருக்கிறார். இங்கே, AI வாடிக்கையாளரைத் தொடவே இல்லை; இது நிபுணரின் தயாரிப்பை மட்டுமே ஆதரிக்கிறது. இது ஏற்றுக்கொள்ளக்கூடிய வரம்பு.

நகலெடுக்கக்கூடிய தூண்டுதல்கள் மற்றும் வார்ப்புருக்கள்

குறிப்பு: இந்த டெம்ப்ளேட்கள் எதுவும் உண்மையான கிளையண்டுடன் நேரடி நெருக்கடியில் பயன்படுத்தப்படக்கூடாது. அமர்வுக்கு வெளியே அனைத்தும், நிபுணரின் சொந்த தயாரிப்புக்காக.

ஒரு பொதுவான சரிபார்ப்புப் பட்டியலைத் தயாரிக்கவும், எனவே ஒரு நிபுணர் இடர் மதிப்பீட்டில் (எண்ணத்தின் அதிர்வெண்/தீவிரம், திட்டம், முறைக்கான அணுகல், பாதுகாப்பு காரணிகள், வரலாறு, ஆதரவு அமைப்பு) கேட்க மறக்கமாட்டார். இந்தப் பட்டியல் நிபுணரின் சொந்த நினைவூட்டல் மட்டுமே; இடர் முடிவு கொடுக்கப்படவில்லை, வாடிக்கையாளருக்கு வழங்கப்படவில்லை.

எங்கள் நிறுவனத்திற்கான நெருக்கடி குறிப்பு நெறிமுறை வார்ப்புருவை உருவாக்கவும்: ஆன்/ஆஃப் மணிநேர படிகள், யாரை அழைக்க வேண்டும், அவசரகால வரிகளுக்கு பரிந்துரை, ஆவணங்கள். எங்கள் நிபுணர்களும் நிர்வாகமும் இதை மதிப்பாய்வு செய்து உள்ளூர் யதார்த்தம் மற்றும் சட்டத்தின்படி ஒப்புதல் அளிப்பார்கள்.

பாதுகாப்புத் திட்ட டெம்ப்ளேட்டின் வெற்று வரைவைத் தயாரிக்கவும்: எச்சரிக்கை அறிகுறிகள், சமாளிக்கும் உத்திகள், மக்களுக்கு ஆதரவு, தொழில்முறை தொடர்பு, சுற்றுச்சூழலைப் பாதுகாப்பானதாக்குதல். நிபுணர் வாடிக்கையாளருடன் நேருக்கு நேர் உள்ளடக்கத்தை நிரப்புவார்; நீங்கள் வெற்று டெம்ப்ளேட்டை மட்டும் கொடுக்கிறீர்கள்.

எனது நெருக்கடி நேர்காணல் திறன்களை மேம்படுத்த கற்பனையான ஒத்திகை காட்சியை (உண்மையான வாடிக்கையாளர் இல்லை) அமைக்கவும். எனது நிபுணத்துவப் பாத்திரத்தில் நான் பதிலளிக்கிறேன், பின்னர் எனது அணுகுமுறை குறித்து ஆக்கபூர்வமான கருத்தைத் தெரிவிக்கவும். இது ஒரு பயிற்சி ஒத்திகை, உண்மையான வழக்கு அல்ல.

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமான உடனடி: "இந்த வாடிக்கையாளர் கூறினார்: [சொற்றொடர்கள்]. தற்கொலைக்கான அதிக ஆபத்து உள்ளதா, நான் என்ன செய்ய வேண்டும்?"

இந்த ப்ராம்ட் நெருக்கடி முடிவை AIக்கு வழங்குகிறது; AI ஆபத்தை அளவிட முடியாது, பொறுப்பேற்க முடியாது, மேலும் இந்த தருணத்திற்கு நிகழ்நேர மனித தலையீடு தேவைப்படுகிறது. இந்த பயன்பாடு ஆபத்தானது.

வலுவான அறிவுறுத்தல்: "நான் அமர்வில் இல்லை, உண்மையான வாடிக்கையாளர் இல்லை. எனது இடர் மதிப்பீட்டுத் திறனை மேம்படுத்த, தற்கொலை அபாய நேர்காணலில் நான் மறைக்கக்கூடாத பகுதிகளை நினைவூட்டுவதற்காக ஒரு பட்டியலை உருவாக்கவும். உண்மையான சூழ்நிலையில் முடிவும் தலையீடும் எனது பொறுப்பாகும்."

இந்த ப்ராம்ட் ஆனது AI ஐ ஒரு அமர்வுக்கு வெளியே தயாரிக்கும் கருவியாக மட்டுமே பயன்படுத்துகிறது; நெருக்கடி முடிவை நபரிடம் விட்டுவிடுகிறது.

பொதுவான தவறுகள்

• நெருக்கடி முடிவுக்காக AIயிடம் கேட்கிறது. "அபாயம் உண்டா?" ஆலோசனை AI; முடிவையும் பொறுப்பையும் தவறவிடுவதாகும்.
• நெருக்கடியில் இருக்கும் வாடிக்கையாளரை போட்க்கு அனுப்புதல். சாட்போட் நம்பகத்தன்மையுடன் ஆபத்தை நிர்வகிக்க முடியாது என்பதை மறந்துவிடுகிறது.
• ரிஸ்க் ஸ்கோரை உண்மையாக தவறாகப் புரிந்துகொள்வது. மருத்துவ மதிப்பீட்டிற்காக AI இலிருந்து இயந்திர "அபாய நிலை" வெளியீட்டை மாற்றுதல்.
• நேரடி பயன்பாட்டிற்கு ஸ்டேஜிங் கருவியை நகர்த்துதல். AI உடன் கலந்தாலோசித்து நேரடி நெருக்கடியில் அமர்வுக்கு வெளியே சரிபார்ப்புப் பட்டியலைப் பயன்படுத்துதல்.
• மனித ஆதரவு சங்கிலியை நிறுவவில்லை. நிறுவனத்தில் மணிநேரங்களுக்குப் பிறகு உண்மையான நிபுணர்/நெருக்கடி வரி அமைப்புக்கு பதிலாக AI ஐ நம்பியிருப்பது.

சுருக்கமாக

நெருக்கடி, தற்கொலை மற்றும் தீங்கு ஆபத்து என்பது தொகுதியின் தெளிவான வரம்பு: இந்த தருணங்களில் AI முடிவுகளை எடுக்க முடியாது, ஆபத்தை அளவிட முடியாது, தலையிட மற்றும் பொறுப்பேற்க முடியாது. ஏனெனில் ஒரு நெருக்கடிக்கு நிகழ்நேர ஈடுபாடு, முழுமையான மருத்துவத் தீர்ப்பு, பொறுப்புக்கூறல் மற்றும் மனித தலையீடு தேவைப்படுகிறது. சரிபார்ப்பு பட்டியல், நெறிமுறை/டெம்ப்ளேட் வரைவு மற்றும் பயிற்சி ஒத்திகை, அமர்வுக்கு வெளியே, நிபுணரின் சொந்த தயாரிப்பை ஆதரிப்பது மட்டுமே AI க்கு ஏற்றுக்கொள்ளக்கூடிய பங்கு. நெருக்கடியில் இருக்கும் வாடிக்கையாளரை ஒருபோதும் சாட்போட்டுக்கு அனுப்பாதீர்கள்; மனித ஆதரவு சங்கிலி மற்றும் ஹாட்லைன்கள் செயல்படுத்தப்படுகின்றன.

விண்ணப்ப பணி

உங்களின் சொந்த நடைமுறை அல்லது நிறுவனத்திற்கான நெருக்கடியான ரூட்டிங் ஓட்டத்தை வரையவும்: ஒரு கிளையன்ட் ஆபத்தை நிரூபிக்கும் போது படிப்படியாக என்ன நடக்கும், யார் அழைக்கப்படுகிறார்கள், அவர்கள் என்ன வரிகளை குறிப்பிடுகிறார்கள்? இந்த ஓட்டத்தின் எந்தப் படியிலும் AI முடிவெடுக்கவில்லை என்பதைச் சரிபார்க்கவும். AI இலிருந்து அமர்வுக்கு வெளியே உள்ள இடர் மதிப்பீடு சரிபார்ப்புப் பட்டியலை வெளியே இழுத்து, அது ஏன் உங்கள் நினைவூட்டல் மற்றும் வாடிக்கையாளருக்கு வழங்க முடியாது என்பதை ஒரே வாக்கியத்தில் எழுதவும்.

சரிபார்ப்பு பட்டியல்

• நேரடி நெருக்கடியில் AI க்கு நான் எந்த முடிவும் பங்களிக்கவில்லை.
• [ ] நெருக்கடி மதிப்பீடு மற்றும் பதிலை நானே நேரடியாக மேற்கொண்டேன்.
• [ ] நெருக்கடியில் இருக்கும் வாடிக்கையாளரை நான் சாட்போட்டுக்கு அனுப்பவில்லை.
• [ ] நான் அமர்வுக்கு வெளியே தயாரிப்பதற்கு மட்டுமே AI ஐப் பயன்படுத்தினேன் (சரிபார்ப்பு பட்டியல்/நெறிமுறை/ஒத்திகை).
• [ ] கார்ப்பரேட் மனித ஆதரவு சங்கிலி மற்றும் ஹாட்லைன்களை நான் வரையறுத்தேன்.
• [ ] நெருக்கடிக்கான முடிவும் பொறுப்பும் அந்த நபரிடமே உள்ளது என்பதை உள்வாங்கிக் கொண்டேன்.