தப்பெண்ணம் மற்றும் நீதி — AI எழுத்தறிவு

ஆதாயங்கள்:

AI சார்பின் முதன்மை ஆதாரம் தரவு என்பதை புரிந்துகொள்கிறது
பணியிடத்தில் பாரபட்சம் உருவாக்கக்கூடிய அபாயங்களை அங்கீகரிக்கிறது
பாரபட்சத்தை குறைக்க எடுக்கக்கூடிய நடவடிக்கைகளை செயல்படுத்துகிறது

AI ஒரு நடுநிலை, புறநிலை இயந்திரமாகத் தோன்றுகிறது; ஆனால் உண்மை மிகவும் சிக்கலானது. AI அமைப்புகள் தாங்கள் பயிற்றுவிக்கப்பட்ட தரவுகளில் மனித சார்புகளைக் கற்றுக்கொள்கின்றன, சில சமயங்களில் அவற்றை பெரிதாக்குகின்றன மற்றும் இனப்பெருக்கம் செய்கின்றன. தப்பெண்ணம் என்பது குறிப்பிட்ட நபர்கள் அல்லது குழுக்களுக்கு முறையாக ஆதரவளிக்கும் அல்லது விலக்குவதற்கான ஒரு அமைப்பின் போக்கு ஆகும். இந்த பிரிவில், தப்பெண்ணம் எங்கிருந்து வருகிறது, பணியிடத்தில் அது என்ன உறுதியான அபாயங்களை ஏற்படுத்துகிறது மற்றும் அதற்கு எதிராக என்ன செய்ய முடியும் என்பதை நாங்கள் கருத்தில் கொள்வோம். இது வெறும் "நெறிமுறைகள்" அல்ல; இது ஒரு நடைமுறை வணிக விஷயமாகும், இது தவறாக நிர்வகிக்கப்படும் போது சட்ட, வணிக மற்றும் நற்பெயர் அபாயத்தைக் கொண்டுள்ளது.

பாரபட்சம் எங்கிருந்து வருகிறது?

ஒரு மொழி மாதிரியின் தகவல் மனிதர்கள் தயாரிக்கும் பெரிய நூல்களிலிருந்து வருகிறது. இந்த நூல்கள் மனித சமுதாயத்தின் அனைத்து அறிவையும், அதே போல் அதன் அனைத்து ஸ்டீரியோடைப்கள், ஏற்றத்தாழ்வுகள் மற்றும் வரலாற்று ஏற்றத்தாழ்வுகள் ஆகியவற்றைக் கொண்டுள்ளன. மாதிரியானது "நல்ல" மற்றும் "கெட்ட" வடிவங்களை வேறுபடுத்துவதில்லை; தரவுகளில் உள்ளதை அது கற்றுக்கொள்கிறது.

எடுத்துக்காட்டு: கடந்த கால நூல்களில் சில தொழில்கள் முக்கியமாக பாலினத்துடன் தொடர்புடையதாக இருந்தால் (எ.கா. "செவிலி" பெண்ணுடன், "பொறியாளர்" ஆணுடன்), மாடல் இந்த தொடர்பைக் கற்றுக்கொள்கிறது. "ஒரு பொறியாளர் அலுவலகத்திற்குள் நுழைந்தார், அவர்..." என்ற வாக்கியத்தை முடிக்கும்போது அவள் ஆண் பிரதிபெயரை தேர்வு செய்ய முனையலாம். இது தரவுகளில் உள்ள ஏற்றத்தாழ்வை மட்டுமே பிரதிபலிக்கிறது.

எனவே சார்பு பெரும்பாலும் தரவுகளின் கண்ணாடியாக இருப்பதால், நனவான நிரலாக்க பிழை அல்ல. "யாரோ மோசமான குறியீட்டை எழுதினர்" என்று பிரச்சனையை விளக்குவது தவறானது; பிரச்சனை என்னவென்றால், உலகில் உள்ள ஏற்றத்தாழ்வு தரவுகளாகவும் அங்கிருந்து மாதிரியாகவும் கொண்டு செல்லப்படுகிறது.

பணியிடத்தில் உறுதியான அபாயங்கள்

பகுதி

சார்பு ஆபத்து

சாத்தியமான தீங்கு

ஆட்சேர்ப்பு

வரலாற்று தரவுகளின் போக்கை அறிந்து சில குழுக்களை அகற்றவும்

சட்ட வழக்கு, திறன் இழப்பு

வாடிக்கையாளர் தொடர்பு

ஒரே மாதிரியான அல்லது விலக்கப்பட்ட மொழி

நற்பெயர் இழப்பு, வாடிக்கையாளர் விமானம்

கடன் / ஆபத்து

கடந்தகால ஏற்றத்தாழ்வுகளை நிலைநிறுத்துதல்

பாகுபாடு, தடைகள்

செயல்திறன் மதிப்பீடு

தரவுகளில் சார்புநிலையை தீர்மானமாக எடுத்துச் செல்வது

நியாயமற்ற பதவி உயர்வு/போனஸ்

உள்ளடக்கம்/சந்தைப்படுத்தல்

குறிப்பிட்ட குழுவை கண்ணுக்கு தெரியாததாக ஆக்குங்கள்

பிராண்ட் சேதம்

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - விளம்பரம் மொழியைக் குறைக்கிறது. ஒரு நிறுவனம் AI உடன் வேலை வாய்ப்புகளை அச்சிடத் தொடங்கியது. சிறிது நேரத்திற்குப் பிறகு, விளம்பரங்கள் "இளம் மற்றும் ஆற்றல்மிக்க", "ஆக்கிரமிப்பு இலக்கு" போன்ற வெளிப்பாடுகளுடன் ஒரு குறிப்பிட்ட சுயவிவரத்தை ஈர்க்கின்றன, இதனால் பயன்பாடுகளின் பன்முகத்தன்மை குறைக்கப்பட்டது. குழு ஒவ்வொரு இடுகையையும் "உள்ளடக்கிய மொழி"க்காகச் சரிபார்க்கும் படியைச் சேர்த்தது; விண்ணப்பதாரர்களின் பன்முகத்தன்மை சில மாதங்களில் கணிசமாக அதிகரித்துள்ளது.

வழக்கு 2 - சுருக்கத்தில் மறைக்கப்பட்ட சார்பு. ஒரு மேலாளர் AI 30 ஊழியர்களின் கருத்துக்களை சுருக்கமாகக் கூறினார். மறுபரிசீலனை ஒரு குறிப்பிட்ட குழுவில் எதிர்மறையான கருத்துக்களைக் குவிப்பதாகத் தோன்றியது; அதேசமயம் மூல தரவுகளில் நிலைமை சமநிலையில் இருந்தது. மாதிரி பல வலுவான அறிக்கைகளை மிகைப்படுத்தியது. மேலாளர் திரும்பிச் சென்று மூலத் தரவைச் சரிபார்த்தபோது, அவர் தவறான கருத்தை உருவாக்குவதைத் தவிர்த்தார்.

வழக்கு 3 - உள்ளடக்கிய ஆணை வேலை செய்தது. ஒரு மார்க்கெட்டிங் குழு பிரச்சார நகலில் உள்ள அறிவுறுத்தலை "உள்ளடக்கிய, குறிப்பிட்ட அல்லாத பாலினம்/வயது/குழு மொழியைப் பயன்படுத்தவும் மற்றும் உங்கள் அனுமானங்களை இறுதியில் பட்டியலிடவும்" தரப்படுத்தியது. தயாரிக்கப்பட்ட நூல்களில் சூத்திர வெளிப்பாடுகள் குறிப்பிடத்தக்க அளவில் குறைந்துள்ளன; குழு ஒவ்வொரு வெளியீட்டையும் மீண்டும் மீண்டும் கைமுறையாக சரிசெய்ய வேண்டியதில்லை.

ஏன் சார்புநிலையை அங்கீகரிப்பது கடினம்?

தப்பெண்ணத்தின் மிகவும் நயவஞ்சகமான விஷயம் என்னவென்றால், அது பெரும்பாலும் கண்ணுக்கு தெரியாதது. வெளியீடு மென்மையான, தொழில்முறை மற்றும் நியாயமான தெரிகிறது; ஒருவர் கவனமாகப் பார்க்கும்போது அல்லது வெவ்வேறு குழுக்களில் அதன் தாக்கத்தை அளவிடும்போது மட்டுமே அதில் உள்ள போக்கு தெளிவாகத் தெரிகிறது. ஒரே ஒரு உதாரணத்தைப் பார்த்து "இங்கே எந்த ஒரு சார்பும் இல்லை" என்று சொல்வது தவறானது; சார்பு பெரும்பாலும் தனிப்பட்ட எடுத்துக்காட்டுகளில் அல்ல, மாறாக அமைப்பின் பொதுவான போக்கில் வெளிப்படுகிறது.

எச்சரிக்கை: "நான் நடுநிலையாக இருக்கிறேன், எனவே நான் பயன்படுத்தும் கருவியும் நடுநிலையானது" என்ற அனுமானம் ஆபத்தானது. கருவியின் நடுநிலையானது பயிற்சித் தரவு மற்றும் அது எவ்வாறு ஆய்வு செய்யப்படுகிறது என்பதைப் பொறுத்தது, உங்கள் நோக்கத்தில் அல்ல.

பலவீனமான ப்ராம்ட் / ஸ்ட்ராங் ப்ராம்ட்

பலவீனமான ப்ராம்ட்: இந்தப் பதவிக்கான சிறந்த வேட்பாளரை விவரிக்கவும்.

முடிவு: மாதிரியானது ஸ்டீரியோடைப்களில் தங்கியிருக்கலாம் மற்றும் ஒரு குறிப்பிட்ட சுயவிவரத்தை "சிறந்தது" என்று வழங்கலாம்.

வலுவான உடனடி: வேலைக்கு உண்மையிலேயே பொருத்தமான இந்த பதவிக்கான அளவிடக்கூடிய திறன்களை மட்டும் பட்டியலிடவும். பாலினம், வயது, திருமண நிலை, சொந்த ஊர் போன்ற வேலைக்கு தொடர்பில்லாத எந்த பண்புகளையும் பயன்படுத்த வேண்டாம். இறுதியாக, "நான் தவிர்க்கும் அனுமானங்கள்" என்ற தலைப்பின் கீழ் நீங்கள் விட்டுச் சென்றதை எழுதுங்கள்.

முடிவு: வேலை தொடர்பான அளவுகோல்களுக்கு மதிப்பீடு வரையறுக்கப்பட்டுள்ளது, பொருத்தமற்ற அம்சங்கள் விலக்கப்பட்டுள்ளன.

சார்பைக் குறைப்பதற்கான வார்ப்புருக்கள்

உள்ளடக்கிய மொழிக்கு கீழே உள்ள உரையைச் சரிபார்க்கவும். பாலினம், வயது, இனம், இயலாமை அல்லது ஒரு குறிப்பிட்ட குழுவைக் குறிக்கும் கொடி அறிக்கைகள் மற்றும் ஒவ்வொன்றிற்கும் ஒரு நடுநிலை மாற்றீட்டைப் பரிந்துரைக்கின்றன. உரை: [இங்கே ஒட்டவும்]

இந்த புறநிலை அளவுகோல்களின் அடிப்படையில் மட்டுமே இந்த மதிப்பீட்டைச் செய்யுங்கள்: [அளவுகோல்]. இந்த அளவுகோல்களை (பெயர், பாலினம், வயது) தவிர வேறு எந்த தகவலையும் கணக்கில் எடுத்துக்கொள்ள வேண்டாம்.

நீங்கள் உருவாக்கிய உரையில் நீங்கள் செய்த அனுமானங்களை முடிவில் ஒரு தனித் தலைப்பின் கீழ் பட்டியலிடுங்கள். அதனால் மறைந்திருக்கும் சார்புகளை என்னால் பார்க்க முடிகிறது.

இந்த உள்ளடக்கத்தை வாசகர்களின் மூன்று வெவ்வேறு குழுக்களின் பார்வையில் மதிப்பீடு செய்து, அவர்களில் யாரையும் புண்படுத்தும்/குறுக்கக்கூடிய அறிக்கைகளைக் குறிக்கவும். உள்ளடக்கம்: [இங்கே ஒட்டவும்]

பொதுவான தவறுகள்

"நடுநிலை" AI வெளியீடு என்று வைத்துக்கொள்வோம். வெளியீடு நடுநிலையாகத் தோன்றினாலும், அது தரவில் உள்ள சார்பைக் கொண்டு செல்லலாம்; செயலில் மேற்பார்வை தேவை.
ஒரு உதாரணத்தைப் பார்த்துவிட்டு, "ஒரு சார்பு இல்லை". அமைப்பின் பொதுவான போக்கில் பாரபட்சம் மறைக்கப்பட்டுள்ளது.
உயர் தாக்க முடிவெடுப்பதை மேற்பார்வை செய்யப்படாத AIக்கு விட்டுவிடுதல். ஆட்சேர்ப்பு, பதவி உயர்வு மற்றும் கடன் போன்ற முடிவுகளில் மனித அதிகாரம் அவசியம்.
உள்ளடக்கத்தை கோருவதை மறந்துவிடுதல். நீங்கள் அதை வெளிப்படையாகக் கோரவில்லை என்றால், மாதிரியானது இயல்புநிலை வடிவங்களுக்குத் திரும்பும்.
இதன் பொருள் "இயந்திரம் சொன்னது." முடிவைப் பயன்படுத்துபவர் விளைவுகளுக்கும் பொறுப்பு.

நீதி என்பது அனைவரின் பொறுப்பு

தப்பெண்ணத்தை எதிர்த்துப் போராடுவது தொழில்நுட்பக் குழுவின் வேலை மட்டுமல்ல. AI வெளியீட்டைப் பயன்படுத்தும் ஒவ்வொரு பணியாளருக்கும் அந்த வெளியீடு நியாயமானதா என்று கேள்வி கேட்கும் பொறுப்பு உள்ளது. "இயந்திரம் என்னிடம் சொன்னது" என்பது ஒரு சாக்கு அல்ல; முடிவெடுக்கும் நபர் விளைவுகளுக்கும் பொறுப்பு.

சுருக்கமாக

AI சார்புக்கான முதன்மை ஆதாரம் தீமை அல்ல, ஆனால் பயிற்சி தரவுகளில் இருக்கும் ஏற்றத்தாழ்வுகள் மற்றும் ஸ்டீரியோடைப்கள்.
பாரபட்சம்; இது ஆட்சேர்ப்பு, வாடிக்கையாளர் தொடர்பு, நிதி மற்றும் மதிப்பீடு போன்ற பகுதிகளில் உண்மையான சட்ட மற்றும் நற்பெயர் ஆபத்தை உருவாக்குகிறது.
சார்பு பெரும்பாலும் கண்ணுக்கு தெரியாதது மற்றும் அமைப்பின் ஒட்டுமொத்த செயல்பாட்டில் உட்பொதிக்கப்படுகிறது; ஒரே ஒரு உதாரணத்தைப் பார்ப்பது தவறானது.
குறைக்க: விழிப்புடன் இருங்கள், வேலை தொடர்பான அளவுகோல்களுக்கு முடிவெடுப்பதை வரம்பிடவும், உள்ளடக்கத்தை வெளிப்படையாகக் கேட்கவும், அதிக தாக்கத்தை ஏற்படுத்தும் முடிவுகளில் மனிதக் கட்டுப்பாட்டை வைக்கவும்.
"இயந்திரம் என்னிடம் சொன்னது" என்பது ஒரு சாக்கு அல்ல; நியாயமானது வெளியீட்டைப் பயன்படுத்தும் ஒவ்வொருவரின் பொறுப்பாகும்.

விண்ணப்பப் பணி

"ஒரு சிறந்த [எந்தவொரு தொழிலையும்] தொழிலாளியை விவரிக்கவும்" மற்றும் வெளியீட்டில் என்ன (ஒருவேளை தேவையற்ற) அனுமானங்கள் செய்யப்பட்டன என்பதைக் குறிக்கவும். பின்னர் மேலே உள்ள "வேலை தொடர்பான அளவுகோல்" டெம்ப்ளேட்டை மீண்டும் செய்யவும் மற்றும் நேர்மைக்கான இரண்டு வெளியீடுகளையும் ஒப்பிடவும்.

சரிபார்ப்பு பட்டியல்

[ ] பாரபட்சத்தின் முதன்மை ஆதாரம் பயிற்சி தரவு என்பதை நான் புரிந்துகொள்கிறேன்.
[ ] பணியிடத்தில் பாரபட்சம் ஏற்படுத்தக்கூடிய உறுதியான அபாயங்களை என்னால் பெயரிட முடியும்.
[ ] சார்பு என்பது பெரும்பாலும் கண்ணுக்கு தெரியாதது மற்றும் ஒரு உதாரணத்தைப் பார்ப்பது தவறாக வழிநடத்தும் என்பதை நான் அறிவேன்.
[ ] உள்ளடங்கிய தன்மை மற்றும் வேலை தொடர்பான அளவுகோல்களை நான் தெளிவாக கேட்க முடியும்.
[ ] அதிக தாக்கத்தை ஏற்படுத்தும் முடிவுகளில் எனக்கு மனித மேற்பார்வை தேவை.