மனிதக் கட்டுப்பாடு, வெளிப்படைத்தன்மை, சார்பு மற்றும் நெறிமுறைகள்

ஆதாயங்கள்:

• மனித கட்டுப்பாட்டின் மூன்று மாதிரிகளை வேறுபடுத்துதல் (லூப்பில், லூப்பில், கட்டளையில்)
• AI வெளியீட்டில் சார்பு மற்றும் பாகுபாடுகளின் அபாயங்களைக் கண்டறிதல் மற்றும் குறைத்தல்
• வெளிப்படைத்தன்மை மற்றும் விளக்கமளிக்கும் கொள்கைகளை உறுதியான பயன்பாடுகளாக மொழிபெயர்த்தல்

ஒரு AI அமைப்பு தொழில்நுட்ப ரீதியாக சரியாக வேலை செய்யலாம், ஆனால் இன்னும் தவறாக இருக்கலாம்: அது ஒரு குழுவை முறையாக அகற்றலாம், அதன் முடிவிற்கான காரணத்தை விளக்கத் தவறலாம் அல்லது கேள்வி கேட்காமல் மக்கள் அதை ஏற்றுக்கொள்ள வழிவகுக்கும். இந்த அலகில், ஆளுமையின் "மென்மையான" ஆனால் மிகவும் தீர்க்கமான பக்கமான மனிதக் கட்டுப்பாடு, சார்பு மேலாண்மை, வெளிப்படைத்தன்மை மற்றும் நெறிமுறைகள் ஆகியவற்றை உறுதியான நடைமுறைகளாக மொழிபெயர்க்கிறோம். இலக்கு "AI ஐ நம்பாதே" போன்ற தெளிவற்ற கோஷங்கள் அல்ல; அவை ஒரு வெளியீட்டை எவ்வாறு தணிக்கை செய்வது, சார்புநிலையைக் குறைப்பது மற்றும் வெளிப்படைத்தன்மையை எவ்வாறு நிறுவுவது என்பதைக் காட்டும் வேலை செய்யும் வழிமுறைகள்.

மனித கட்டுப்பாட்டின் மூன்று மாதிரிகள்

மனித மேற்பார்வை என்பது AI ஆல் எடுக்கப்பட்ட முடிவுகளின் மீது மனிதர் கட்டுப்பாட்டை வைத்திருப்பதாகும். மூன்று அடிப்படை மாதிரிகள் உள்ளன மற்றும் ஆபத்துக்கு ஏற்ப சரியான மாதிரியை தேர்வு செய்வது அவசியம்.

மாதிரி

பொருள்

அது எங்கே பொருந்தும்

சுழலில் மனிதன்

ஒரு நபர் ஒவ்வொரு முடிவையும் அங்கீகரிக்கிறார்

அதிக ஆபத்து, தாக்கத்தை ஏற்படுத்தும் முடிவுகள்

வளையத்தில் மனிதன்

AI வேலை செய்கிறது, மனிதர்கள் கண்காணிக்கிறார்கள் மற்றும் தேவைப்பட்டால் தலையிடுகிறார்கள்

நடுத்தர ஆபத்து, அதிக அளவு பரிவர்த்தனைகள்

நாயகன்

மனிதன் அமைப்பை வடிவமைக்கிறான், அதன் வரம்புகளை அமைக்கிறான், அதை மூட முடியும்

ஒட்டுமொத்த நிர்வாக நிலை

நபரை (வேலைவாய்ப்பு, கடன், சுகாதாரம்) கணிசமாக பாதிக்கும் முடிவுகளுக்கு, ஹ்யூமன்-இன்-தி-லூப் மாடல் விரும்பப்படுகிறது: AI ஆலோசனை அளிக்கிறது, ஆனால் திறமையான மனிதர் இறுதி முடிவை எடுக்கிறார். "AI அப்படிச் சொன்னது" என்பது ஒரு தவிர்க்கவும் இல்லை; பொறுப்பு எப்போதும் நபரிடம் உள்ளது.

கவனம்: மனிதக் கட்டுப்பாடு "காகிதத்தில்" இருந்தால் மட்டும் போதாது. AI இன் பரிந்துரையை (ரப்பர்-ஸ்டாம்பிங்) மனிதன் தானாகவே ஏற்றுக்கொண்டால், உண்மையான கட்டுப்பாடு இல்லை. தணிக்கை அர்த்தமுள்ளதாக இருக்க, ஒருவர் பகுத்தறிவைப் பார்க்கவும், அதைக் கேள்வி கேட்கவும், "இல்லை" என்று உண்மையிலேயே சொல்லவும் முடியும்.

பாரபட்சம் மற்றும் பாகுபாடு ஏற்படும் ஆபத்து

சார்பு என்பது சில குழுக்களுக்கு AI முறையாக தீமைகள் அல்லது நன்மைகளை ஏற்படுத்துவதாகும். அதன் ஆதாரம் பெரும்பாலும் பயிற்சித் தரவு: வரலாற்றுத் தரவுகளில் பாகுபாடு இருந்தால், AI அதைக் கற்றுக்கொண்டு பராமரிக்கிறது - அதை அளவிடுகிறது.

பாரபட்சத்தைக் குறைப்பதற்கான நடைமுறைப் படிகள்:

1. உணர்திறன் மாறுபாடுகளை மதிப்பாய்வு செய்யவும்: பாலினம், வயது, இனம் போன்ற புலங்களின் தாக்கத்தை முடிவில் சரிபார்க்கவும்.
2. குழுக்களின் சோதனை முடிவுகள்: கணினி வெவ்வேறு குழுக்களில் வெவ்வேறு நிராகரிப்பு/ஏற்றுக்கொள்ளும் விகிதங்களை உருவாக்குகிறதா?
3. ப்ராக்ஸி மாறிகள் குறித்து ஜாக்கிரதை: "அக்கம்" அல்லது "பள்ளி" போன்ற துறைகள் இன/வர்க்க வேறுபாட்டை மறைமுகமாக வெளிப்படுத்தலாம்.
4. வழக்கமான கண்காணிப்பை நிறுவுதல்: சார்பு ஒருமுறை அல்ல, தொடர்ந்து சோதிக்கப்படுகிறது; தரவு மாறும்போது அது மீண்டும் வரலாம்.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - ரப்பர் ஸ்டாம்ப். ஒரு வங்கியில், கடன் அதிகாரிகள் அதை மதிப்பாய்வு செய்யாமல் AI மதிப்பெண்ணை அங்கீகரிக்கின்றனர்; "கணினி ஏற்கனவே கணக்கிட்டுள்ளது" என்று அவர்கள் கூறுகிறார்கள். 500 சமர்ப்பிப்புகளில் 498 இல், AI போன்ற அதே முடிவை மனிதன் எடுத்ததாக ஒரு தணிக்கை காட்டுகிறது - எனவே உண்மையான மதிப்பாய்வு எதுவும் இல்லை. தீர்வு: மக்கள் பகுத்தறிவைக் காண வேண்டும், ஒரு குறிப்பிட்ட அளவிற்கு முடிவை இரண்டாவதாக யூகிக்க வேண்டும், மேலும் "ஏன் ஒப்புக்கொள்கிறேன்/ஏற்கவில்லை" என்ற குறிப்பு தேவை.

வழக்கு 2 - மறைமுக சார்பு. ஆட்சேர்ப்பு செய்யும் AI, பாலினத்தைப் பயன்படுத்தாவிட்டாலும், பெண் விண்ணப்பதாரர்களின் மதிப்பெண்களைக் குறைக்கிறது. எங்கிருந்து? கடந்த கால தரவுகள் கொடுக்கப்பட்ட நிலையில் பெரும்பாலும் ஆண்களை உள்ளடக்கியதால், "தடையற்ற தொழில்" போன்ற ப்ராக்ஸி மாறிகள் மூலம் மாடல் மறைமுக பாகுபாட்டைக் கற்றுக்கொண்டது. குழு அடிப்படையிலான சோதனை இதை வெளிப்படுத்துகிறது; குழு மாற்று மாறிகளை பிரித்தெடுத்து முடிவை கண்காணிக்கிறது.

வழக்கு 3 - வெளிப்படைத்தன்மையுடன் நம்பிக்கை. அதன் AI-இயங்கும் சேத மதிப்பீட்டில், ஒரு காப்பீட்டு நிறுவனம் ஒவ்வொரு வாடிக்கையாளருக்கும் "முடிவு AI-இயக்கப்பட்டது, அவர்கள் மேல்முறையீடு செய்யலாம் மற்றும் மனித மதிப்பாய்வைக் கோரலாம்" என்று தெரிவிக்கிறது. ஆட்சேபனை விகிதம் எதிர்பார்த்ததை விட குறைவாக உள்ளது, ஏனெனில் வாடிக்கையாளர்கள் செயல்முறையை புரிந்துகொண்டு நம்புகிறார்கள். ஆபத்தை குறைக்கும் போது வெளிப்படைத்தன்மை நம்பிக்கையை அதிகரிக்கிறது.

வெளிப்படைத்தன்மை மற்றும் விளக்கம்

வெளிப்படைத்தன்மை என்பது AI செயல்பாட்டில் உள்ளது மற்றும் அது எவ்வாறு செயல்படுகிறது என்பதை சம்பந்தப்பட்ட நபர்களுக்கு தெளிவுபடுத்துவதாகும். விளக்கம் என்பது ஒரு முடிவிற்கான காரணத்தை புரிந்துகொள்ளக்கூடிய வகையில் விளக்குவது. கான்கிரீட் பயன்பாடுகள்:

• "நீங்கள் ஒரு AI உடன் பேசுகிறீர்கள்" அந்த நபருடன் AI தொடர்புகொள்வது குறித்த அறிவிப்பு.
• "இந்த முடிவு பின்வரும் காரணிகளை அடிப்படையாகக் கொண்டது" தானியங்கி முடிவுகளில் விளக்கம்.
• மேல்முறையீடு செய்வதற்கும் மனித மதிப்பாய்வைக் கோருவதற்கும் பாதையை தெளிவாக முன்வைக்கவும்.
• உள் அணிகளுக்கு: மாதிரி என்ன செய்கிறது என்பதற்கான ஆவணங்கள் மற்றும் பதிவு.

குறிப்பு: AI முடிவைக் கேளுங்கள் "இந்த முடிவைப் பாதித்த முதல் மூன்று காரணிகள் என்ன?" என்ற கேள்வியுடன் சோதிக்கவும். கணினியால் இதைப் புரிந்துகொள்ள முடியவில்லை மற்றும் முடிவு நபரை கணிசமாக பாதிக்கிறது என்றால், அந்த அமைப்பு இன்னும் பொறுப்பான பயன்பாட்டிற்கு தயாராக இல்லை.

ஆட்டோமேஷன் சார்பு: ஒருவரின் சொந்த பொறி

வெளிப்படைத்தன்மை மற்றும் மனித மேற்பார்வை நிறுவப்பட்டாலும், மனித பக்கம் ஒரு நயவஞ்சகமான ஆபத்து உள்ளது: தன்னியக்க சார்பு. மக்கள் தங்கள் சொந்த தீர்ப்பை விட இயந்திரத்தின் வெளியீட்டை நம்பும் போக்கு இதுவாகும். ஆன்-ஸ்கிரீன் AI முன்மொழிவு "புறநிலை மற்றும் கணக்கிடப்பட்டதாக" தோன்றுவதால், ஒருவர் அதை கேள்வி கேட்காமல் ஏற்றுக்கொள்ள ஆசைப்படுகிறார் - இது ரப்பர் ஸ்டாம்பின் உளவியல் தோற்றம்.

இதைக் குறைக்க உறுதியான வழிகள் உள்ளன. முதலில் எதிர் கருத்தை ஊக்குவிக்கவும்: "AI உடன் நான் ஏன் உடன்படவில்லை?" என்ற முடிவை அங்கீகரிக்கும் நபரிடம் கேளுங்கள். கேள்வியைப் பற்றி சிந்திக்க அவரிடம் கேளுங்கள். பின்னர் நம்பிக்கை மதிப்பெண்ணைக் காட்டு: AI எவ்வளவு நம்பிக்கையுடன் உள்ளது என்பதைக் குறிக்கவும்; குறைந்த நம்பிக்கை வெளியீடுகளைத் தனித்தனியாகக் குறிக்கவும். பின்னர் மோதல் எச்சரிக்கையை அமைக்கவும்: AI பரிந்துரையானது நிறுவனத்தின் விதியை அல்லது மனிதனுக்குக் கிடைக்கும் தரவை மீறினால், கணினி இதை முன்னிலைப்படுத்தும். இறுதியாக, முக்கியமான முடிவுகளுக்கு இரண்டு மனிதக் கொள்கைகளைப் பயன்படுத்துங்கள்; ஒரு ஒப்புதல் அளிப்பவர் ஆட்டோமேஷன் சார்புக்கு மிகவும் எளிதில் பாதிக்கப்படுகிறார்.

எச்சரிக்கை: "மனித அங்கீகாரம் உள்ளது" என்று கூறுவது தன்னியக்க சார்பிலிருந்து விடுபடுவதைக் குறிக்காது. AI ஐ கேள்வி கேட்க மனிதனுக்கு அதிகாரம், நேரம் மற்றும் சரியான தகவல் ஆகிய இரண்டும் இருக்க வேண்டும். 3 வினாடிகளில் 200 முடிவுகளை எடுக்க அனுமதியளிப்பவரை கட்டாயப்படுத்தும் ஒரு அமைப்பு உண்மையில் உண்மையான மனித கட்டுப்பாட்டை வழங்காது.

நகலெடுக்கக்கூடிய வார்ப்புருக்கள்

டெம்ப்ளேட் 1 — மனிதக் கட்டுப்பாட்டு மாதிரித் தேர்வு: "பின்வரும் AI பயன்பாட்டிற்கு எந்த மனிதக் கட்டுப்பாட்டு மாதிரி பொருத்தமானது [பயன்பாட்டை விவரிக்கவும்]: லூப்பில், லூப்பில் அல்லது கட்டளையில்? தனிநபருக்கு ஏற்படும் ஆபத்து மற்றும் தாக்கத்தை கருத்தில் கொண்டு நியாயத்துடன் பரிந்துரைக்கவும். ரப்பர் ஸ்டாம்ப் அபாயத்தைத் தவிர்க்க நான் என்ன கட்டுப்பாட்டைச் சேர்க்க வேண்டும் என்பதைக் குறிப்பிடவும்."

வார்ப்புரு 2 — சார்பு சோதனைத் திட்டம்: "பின்வரும் முடிவு ஆதரவு AIக்கான [பயன்பாடு விவரிக்க] சார்பு சோதனைத் திட்டத்தை வரையவும்: எந்தக் குழுக்களை நான் ஒப்பிட வேண்டும், எந்த அளவுகோலை நான் அளவிட வேண்டும் (நிராகரிப்பு/ஏற்றுக்கொள்ளும் விகிதம், முதலியன), நான் என்ன மாற்று மாறிகளைத் தேட வேண்டும், எத்தனை முறை சோதனையை மீண்டும் செய்ய வேண்டும்? படிப்படியாக எழுதவும்."

டெம்ப்ளேட் 3 — முடிவெடுக்கும் விளக்க உரை: "தனிப்பயனாக்கப்பட்ட தானியங்கு முடிவுக்கான எளிய விளக்க உரையை எழுதவும்: முடிவு AI-ஆல் இயக்கப்பட்டதா, முடிவைப் பாதிக்கும் முக்கிய காரணிகள், மேல்முறையீடு மற்றும் மனித மதிப்பாய்வைக் கோருவதற்கான வழி. குற்றஞ்சாட்டப்படாத, மரியாதைக்குரிய தொனி, 120 வார்த்தைகள் அல்லது அதற்கும் குறைவாக."

டெம்ப்ளேட் 4 — நெறிமுறை மதிப்பாய்வு சரிபார்ப்புப் பட்டியல்: "AI பயன்பாட்டை வெளியிடும் முன் நெறிமுறைகள் மதிப்பாய்வு சரிபார்ப்புப் பட்டியலைத் தயாரிக்கவும்: நியாயம்/பாகுபாடு, வெளிப்படைத்தன்மை, மனிதக் கட்டுப்பாடு, தனியுரிமை, பாதுகாப்பு, பொறுப்புக்கூறல். ஒவ்வொரு தலைப்பின் கீழும் 1-2 தெளிவான கேள்விகளுக்கு பதிலளிக்க வேண்டும்."

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனம்: "இந்த ஆட்சேர்ப்பு AI நியாயமானதா?"-> மாதிரியானது 'அது நியாயமாக இருக்க வேண்டும்' போன்ற பொதுவான பதிலை அளிக்கிறது; சோதனை முறை மற்றும் சார்பு அளவீட்டை வழங்காது. STRONG: "இந்த ஆட்சேர்ப்பு ஆதரவு AIக்கு ஒரு சார்பு சோதனைத் திட்டத்தை அமைக்கவும்: பாலினம் மற்றும் வயதினரிடையே ஏற்றுக்கொள்ளும் விகிதங்களை ஒப்பிடுவதற்கான ஒரு முறை, கருத்தில் கொள்ள வேண்டிய ப்ராக்ஸி மாறிகள், ஏற்றுக்கொள்ளக்கூடிய வேறுபாடு வரம்பு மற்றும் கண்காணிப்பு அதிர்வெண். மனிதனே இறுதி முடிவை எடுப்பதை உறுதிசெய்ய கட்டுப்பாட்டைச் சேர்க்கவும்." -> மாதிரியானது அளவிடக்கூடிய, மீண்டும் மீண்டும் செய்யக்கூடிய நியாயமான பொறிமுறையை உருவாக்குகிறது.

பொதுவான தவறுகள்

• மனித கட்டுப்பாட்டை "காகிதத்தில்" விட்டுவிட்டு தானாகவே AI பரிந்துரையை (ரப்பர் ஸ்டாம்ப்) அங்கீகரித்தல்.
• நபரை கணிசமாக பாதிக்கும் முடிவுகளை லூப்பில் இல்லாமல் மேற்பார்வை செய்யாமல் விட்டுவிடுதல்.
• "நான் உணர்திறன் மாறியை நீக்கிவிட்டேன்" என்பதற்காகத் தீர்க்கப்பட்ட சார்புகளைக் கருத்தில் கொண்டு; ப்ராக்ஸி மாறிகளைத் தவிர்க்கிறது.
• சார்புநிலையை ஒருமுறை சோதித்து அதை தொடர்ந்து கண்காணிக்கவில்லை.
• "இது ஒரு தொழில்நுட்ப விவரம், பயனருக்கு புரியாது" என்பதால் வெளிப்படைத்தன்மையைத் தவிர்க்கிறது.
• முக்கியமான முடிவுகளில் முடிவெடுப்பதற்கான காரணத்தை விளக்க முடியாத ஒரு அமைப்பைப் பயன்படுத்துதல்.
• நெறிமுறை மதிப்பீட்டை வெளியிடும் வரை விட்டுவிட்டு, "நாம் பிறகு பார்க்கலாம்".

சுருக்கமாக

• மனித கட்டுப்பாடு மூன்று மாதிரிகளில் செயல்படுத்தப்படுகிறது; மக்களை பாதிக்கும் முடிவுகளில், மக்கள் சுழற்சியில் முன்னுரிமை அளிக்கப்படுகிறார்கள்.
• கட்டுப்பாடு அர்த்தமுள்ளதாக இருக்க வேண்டும்; ரப்பர் ஸ்டாம்ப் (தானியங்கு ஒப்புதல்) உண்மையான தணிக்கை அல்ல.
• பயஸ் பெரும்பாலும் பயிற்சி தரவு இருந்து வருகிறது; உணர்திறன் மற்றும் மாற்று மாறிகள் சோதிக்கப்பட்டு தொடர்ந்து கண்காணிக்கப்பட வேண்டும்.
• வெளிப்படைத்தன்மை மற்றும் விளக்கத்திற்கு, AI செயல்பாட்டில் உள்ளது மற்றும் முடிவிற்கான காரணத்தை பயனருக்கு தெளிவாக வழங்க வேண்டும்.
• வெளியீட்டிற்கு முன் நெறிமுறை மதிப்பாய்வு நிகழ்கிறது; பொறுப்பு எப்போதும் மனிதனிடம் உள்ளது, "AI அப்படிச் சொன்னது" என்பது மன்னிக்க முடியாது.

விண்ணப்ப பணி

உங்கள் நிறுவனத்தில் உள்ளவர்களை பாதிக்கும் AI முடிவு செயல்முறையைத் தேர்வு செய்யவும் (எடுத்துக்காட்டாக, பயன்பாட்டு மதிப்பீடு). இந்த செயல்முறைக்கு பொருத்தமான மனிதக் கட்டுப்பாட்டு மாதிரியை நியாயப்படுத்துதல் மற்றும் ரப்பர் ஸ்டாம்பிங்கைத் தடுக்க ஒரு உறுதியான கட்டுப்பாட்டை வடிவமைத்தல் (எ.கா. நியாயப்படுத்தல், மாதிரி மதிப்பாய்வு தேவை). பின்னர் ஒரு சார்பு சோதனைத் திட்டத்தை எழுதுங்கள்: நீங்கள் எந்தக் குழுக்களை ஒப்பிடுவீர்கள், எந்த அளவீடு, எவ்வளவு அடிக்கடி மற்றும் எந்த ப்ராக்ஸி மாறிகள் ஆகியவற்றில் கவனம் செலுத்துவீர்கள் என்பதைக் குறிப்பிடவும். இறுதியாக, இந்தச் செயல்பாட்டின் போது நபருக்குக் காண்பிக்கப்படும் மற்றும் மேல்முறையீடு/மனித மறுஆய்வுப் பாதையை உள்ளடக்கிய ஒரு முடிவு விளக்க உரையை வரையவும்.

சரிபார்ப்பு பட்டியல்

• [ ] செயல்முறைக்கு பொருத்தமான மனித கட்டுப்பாட்டு மாதிரியை நான் தேர்ந்தெடுத்தேன்.
• [ ] நான் ரப்பர் ஸ்டாம்பை தடுக்கும் கான்கிரீட் கட்டுப்பாட்டை வடிவமைத்தேன்.
• [ ] நான் ஒரு சார்பு சோதனை திட்டத்தை தயார் செய்தேன் (குழுக்கள், அளவீடு, அதிர்வெண்).
• [ ] நான் மாற்று மாறிகளின் அபாயத்தை மதிப்பீடு செய்தேன்.
• [ ] நான் அந்த நபருக்கு ஒரு முடிவு விளக்க உரையை எழுதினேன்.
• [ ] மேல்முறையீடு மற்றும் மனித மதிப்பாய்வுக்கான பாதையை நான் தெளிவாக முன்வைத்துள்ளேன்.
• [ ] நான் வெளியிடுவதற்கு முன் நெறிமுறை மதிப்பாய்வை நடத்தினேன்.