பாரபட்சம், பாகுபாடு மற்றும் நெறிமுறைகள்: நியாயமான மற்றும் கலாச்சார ரீதியாக பதிலளிக்கக்கூடிய பயன்பாடு

ஆதாயங்கள்:

• பயிற்சித் தரவு, ஃப்ரேமிங், இரட்டைத் தரநிலைகள் மற்றும் முகஸ்துதி மூலம் AI சார்புநிலையை உருவாக்கும் போது அறிதல்
• நடுநிலை கேள்விகள், சான்றுகள்-ஒரே மாதிரியான பாகுபாடு மற்றும் தலைகீழ் கோண சோதனை மூலம் சார்புக்கு எதிரான கட்டுப்பாட்டை நிறுவும் திறன்
• திட்டவட்டமான விதியைக் காட்டிலும் கலாச்சார அறிவை கவனத்திற்குரிய ஒரு புள்ளியாகப் பயன்படுத்துவதன் மூலம் களங்கப்படுத்தும் மொழியை விளக்கமான மற்றும் மரியாதைக்குரிய மொழியில் மொழிபெயர்க்கும் திறன்

சமூகப் பணியின் மேன்மையானது நீதி மற்றும் மனித கண்ணியம்; ஒவ்வொரு தனிநபரும் சமமான மதிப்புடையவர்கள், பாகுபாடு எதிர்க்கப்படுவது மற்றும் பாதிக்கப்படக்கூடிய குழுக்கள் பாதுகாக்கப்படுவது ஆகியவை தொழிலின் மையத்தில் உள்ளது. செயற்கை நுண்ணறிவு இந்த மதிப்புகளுக்கு அமைதியாக தீங்கு விளைவிக்கும் அபாயத்தைக் கொண்டுள்ளது: சார்பு. AI வரலாற்று தரவுகளிலிருந்து கற்றுக்கொள்கிறது; அந்தத் தரவு சமூகத்தில் ஏற்றத்தாழ்வுகள், ஒரே மாதிரிகள் மற்றும் பாகுபாடுகளை உள்ளடக்கியிருந்தால், AI அவற்றைக் கற்றுக்கொண்டு, சரளமான, "புறநிலை" தோற்றமளிக்கும் மொழியில் அவற்றை மீண்டும் உருவாக்குகிறது. ஒரு சமூக சேவையாளரின் கைகளில், இது ஒரு குழுவின் முறையான எதிர்மறையான மதிப்பீடு, ஒரு குடும்பத்தின் ஒரே மாதிரியாக அல்லது ஒரு கலாச்சாரத்தின் தவறான புரிதலாக மொழிபெயர்க்கலாம். இந்த யூனிட்டில், AI சார்புகளை அடையாளம் காணவும், அதற்கு எதிராகக் கட்டுப்படுத்தவும், நேர்மை மற்றும் கலாச்சார உணர்திறனுடன் AI ஐப் பயன்படுத்தவும் கற்றுக்கொள்வீர்கள்.

ஆரம்பத்தில் இருந்து ஒரு உண்மை: AI நடுநிலை இல்லை, அது நடுநிலையாக தோன்றுகிறது. மிகவும் ஆபத்தான சார்பு நம்பிக்கை மற்றும் தொழில்முறை மொழியில் முன்வைக்கப்படுகிறது; ஏனெனில் அது கேள்வியின்றி ஏற்றுக்கொள்ளப்படுகிறது. ஒரு சமூக சேவகர் என்ற முறையில் உங்கள் வேலை இந்த கண்ணுக்குத் தெரியாத சார்புநிலையைக் காணச் செய்வதும், வெளியீடு உங்கள் தொழில்முறை மதிப்புகளுடன் முரண்படுகிறதா என்பதைக் கண்காணிப்பதும் ஆகும்.

AI சார்பு எங்கிருந்து வருகிறது, அது எப்படி இருக்கும்?

• பயிற்சி தரவு சார்பு. சமூகத்தில் உள்ள ஏற்றத்தாழ்வுகளைப் பிரதிபலிக்கும் நூல்களிலிருந்து AI கற்றுக்கொள்கிறது. சில இனக்குழுக்கள், ஏழைகள், ஊனமுற்றோர், குறிப்பிட்ட சுற்றுப்புறங்கள் அல்லது பாலினங்கள் பற்றிய ஸ்டீரியோடைப்கள் வெளியீட்டில் கசியக்கூடும்.
• மொழி மற்றும் கட்டமைப்பின் சார்பு. AI ஆனது ஒரு குழுவை செயலற்ற, "சிக்கல்" அல்லது "உதவி தேவைப்படும் பொருளாக" வடிவமைக்க முடியும்; பாடங்களாக மற்றொரு குழு. அதே நடத்தை ஒரு குழுவால் "கலாச்சார" என்றும் மற்றொரு குழுவால் "சிக்கல்" என்றும் விளக்கப்படலாம்.
• பிரதிநிதித்துவம் இல்லாமை. AI துல்லியமாகவோ அல்லது மேலோட்டமாகவோ தரவுகளில் குறைவாகப் பிரதிநிதித்துவம் செய்யப்படும் குழுக்களைப் புரிந்து கொள்ளலாம் (சிறிய மக்கள் தொகை, அரிதான நிகழ்வுகள்).
• முகஸ்துதி (சிகோபான்சி). AI உங்கள் மறைமுகமான பார்வையை உறுதிப்படுத்த முனைகிறது; ஒரு பாரபட்சமான கேள்வி ஒரு பாரபட்சமான உறுதிப்படுத்தலைக் கொண்டுவருகிறது.

இந்தச் சார்பு சமூகப் பணிகளில் குறிப்பாக ஆபத்தானது, ஏனெனில் வெளியீடு நேரடியாக உண்மையான மக்களின் வாழ்க்கையைத் தொடுகிறது—ஒரு மதிப்பீடு, அறிக்கை, பரிந்துரை.

எச்சரிக்கை: "AI அதை அப்படியே மதிப்பிட்டது" என்பது ஒரு எச்சரிக்கை அறிகுறி, ஒரு நியாயப்படுத்தல் அல்ல. ஒரு குழுவையோ அல்லது தனிநபரையோ எதிர்மறையாக சித்தரிக்கும் வெளியீட்டை நீங்கள் பார்க்கும்போது, ​​முதல் கேள்வி "இது ஆதாரங்களின் அடிப்படையில் உள்ளதா அல்லது ஒரே மாதிரியான அடிப்படையிலானதா?" இருக்க வேண்டும்.

படிப்படியாக: சார்புக்கு எதிரான தணிக்கை

1. நடுநிலையாகக் கேளுங்கள். குறிக்காத அல்லது வழிநடத்தாத கேள்விகளைக் கேளுங்கள்; "இந்த குடும்பம் ஏன் புறக்கணிக்கப்படுகிறது என்பதை விளக்குங்கள்," ஆனால் "இந்த அவதானிப்புகள் என்ன அர்த்தம், மாற்று விளக்கங்கள் என்ன?" கேட்க.
2. சான்று மற்றும் ஸ்டீரியோடைப் வேறுபடுத்துங்கள். ஒவ்வொரு எதிர்மறை அறிக்கைக்கும், கேட்கவும்: இது என் முன் உள்ள உறுதியான ஆதாரத்தின் அடிப்படையில் உள்ளதா அல்லது ஒரு குழுவைப் பற்றிய பொதுவான அனுமானத்தின் அடிப்படையிலானதா?
3. எதிர் கோணத்தில் இருந்து சோதிக்கவும். வேறொரு குழுவிற்கும் இதே சூழ்நிலையைக் கவனியுங்கள்: "வாடிக்கையாளர் வேறு சமூகப் பொருளாதார/இனப் பின்னணியில் இருந்து இருந்தால், AI அதை அதே மொழியில் எழுதுமா?"
4. கலாச்சார உணர்வைத் தேடுங்கள். ஒரு நடத்தையின் கலாச்சார சூழலைப் பற்றி கேளுங்கள்; ஆனால் கலாச்சார அறிவை ஒரு சாத்தியமாகவும் எச்சரிக்கையாகவும் எடுத்துக் கொள்ளுங்கள், ஒரு முழுமையான விதி அல்ல (ஒரே மாதிரியைத் தவிர்க்கவும்).
5. பதிக்கும் நாக்கை சுத்தம் செய்யுங்கள். சூழ்நிலையை விவரிக்கும் மொழியில் மொழிபெயர்க்கவும், நபர் அல்ல, மேலும் பலம் பார்க்கவும்.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - தலைகீழ் கோணம் சார்பை வெளிப்படுத்தியது. ஒரு நிபுணர் AI இரண்டு ஒத்த நிகழ்வுகளை சுருக்கமாகக் கூறினார்; குடும்பங்களின் சமூகப் பொருளாதார நிலை மட்டுமே வித்தியாசம். YZ குறைந்த வருமானம் கொண்ட குடும்பத்திற்கு "புறக்கணிப்புக்கான அதிக ஆபத்து" என்ற தொனியிலும், அதிக வருமானம் கொண்ட குடும்பத்திற்கு "பெற்றோர் கட்டாயமாக நடந்து கொள்ள வேண்டும்" என்ற தொனியிலும் எழுதினார். நிபுணர் இந்த இரட்டைத் தரத்தை அங்கீகரித்து, இரண்டு மதிப்பீடுகளையும் சான்று அடிப்படையிலான, சமமான மொழியில் வடிகட்டினார்.

வழக்கு 2 - கலாச்சார தவறான விளக்கம் சரி செய்யப்பட்டது. YZ நீட்டிக்கப்பட்ட குடும்பத்துடன் வாழும் ஒரு குழந்தையின் நிலைமையை "எல்லை சிக்கல்கள் மற்றும் ஒரு கலப்பு வீட்டுச் சூழல்" என்று வடிவமைத்தது. குடும்பத்தின் கலாச்சார சூழலில், நீட்டிக்கப்பட்ட குடும்பம் ஆதரவு மற்றும் பாதுகாப்பின் சக்திவாய்ந்த ஆதாரமாக இருப்பதை நிபுணர் அறிந்திருந்தார். AI ஒரு கலாச்சார சக்தியை ஒரு பிரச்சனையாக மாற்றியது. இந்த ஆதரவை ஆதாரமாக அங்கீகரிக்க மதிப்பாய்வு சரி செய்யப்பட்டது.

வழக்கு 3 - முன்னோடி கேள்வி சார்பு. "இந்த தந்தை ஏன் நம்பத்தகாதவர் என்று எழுதுங்கள்" என்று ஒரு பயிற்சியாளர் AIயிடம் கேட்டார். எந்த ஆதாரமும் இல்லாமல் தந்தையை எதிர்மறையாக (முகஸ்துதி) சித்தரிக்கும் உரையை AI தயாரித்தது. மேற்பார்வையாளர் கேள்வியை மாற்றியமைத்தார்: "தந்தையைப் பற்றிய அவதானிப்புகள் என்ன, அவருடைய பலம் மற்றும் பலவீனங்கள் என்னவாக இருக்கலாம்?" வெளியீடு சமநிலை மற்றும் சான்று அடிப்படையிலானதாக மாறியுள்ளது. பாடம்: பாரபட்சமான கேள்வி பக்கச்சார்பான பதிலை உருவாக்குகிறது.

நகலெடுக்கக்கூடிய நான்கு வார்ப்புருக்கள்

1) நடுநிலையான, சமநிலையான மதிப்பீட்டைக் கோருங்கள்:

பின்வரும் அவதானிப்புகளை சுருக்கமாக, நீங்கள் சாத்தியமான பலம் மற்றும் சாத்தியமான கவலைகள் இரண்டையும் சமநிலையான முறையில் மற்றும் ஆதாரங்களின் அடிப்படையில் மட்டுமே முன்வைக்கிறீர்கள். ஸ்டீரியோடைப்களின் அடிப்படையில் எந்த அனுமானத்தையும் செய்ய வேண்டாம். ஒரு கருத்து கவனிப்பை நம்பவில்லை என்றால், "போதிய ஆதாரம் இல்லை" என்று எழுதுங்கள். அவதானிப்புகள்: [ஒட்டு அவதானிப்புகள்]

2) சார்பு சோதனை (எதிர் கோண சோதனை):

கீழே உள்ள மதிப்பாய்வு உரையைப் பாருங்கள். வாடிக்கையாளரின் சமூகப் பொருளாதார நிலை, இனம், மதம், பாலினம், இயலாமை அல்லது சுற்றுப்புறம் ஆகியவற்றின் காரணமாக ஆதாரமற்ற ஒரே மாதிரியை வெளிப்படுத்தும் அறிக்கைகள் உள்ளதா? ஒவ்வொன்றிற்கும், "கிளையன்ட் வேறு குழுவைச் சேர்ந்தவர் என்றால் இது ஒரே மொழியில் எழுதப்படுமா?" சிக்கல் வாக்கியங்களைக் கொடியிடவும். உரை: [உரையை ஒட்டவும்]

3) கலாச்சார சூழல் (ஸ்டீரியோடைப் அல்லாதது):

வெவ்வேறு கலாச்சார சூழல்களில் பின்வரும் நடத்தை/சூழ்நிலை எதைக் குறிக்கலாம் என்பதற்கான சாத்தியக்கூறுகளை வழங்கவும். இவற்றைக் கருத்தில் கொள்ள வேண்டிய புள்ளிகளாகக் கொடுங்கள், முழுமையான விதிகளாக அல்ல; ஒவ்வொரு சமூகத்திலும் தனிப்பட்ட வேறுபாடுகள் இருப்பதை வலியுறுத்துங்கள். ஒரு குழுவைப் பற்றி பொதுமைப்படுத்த வேண்டாம். சூழ்நிலை: [சூழ்நிலையை எழுதவும்]

4) அச்சிடுதல் நாக்கை சுத்தம் செய்தல்:

கீழே உள்ள உரையில், நபரை நியாயந்தீர்க்கும் அல்லது களங்கப்படுத்தும் உரிச்சொற்களைக் கண்டறியவும் (எ.கா., "புறக்கணிப்பு," "ஒத்துழைக்காத," "சிக்கல்"). ஒவ்வொன்றிற்கும், அதே உண்மையை மாற்றியமைக்க, விளக்கமான, மரியாதைக்குரிய மற்றும் பலத்தை அங்கீகரிக்கும் மாற்றாக மாற்றவும். புதிய தகவலைச் சேர்த்தல். உரை: [உரையை ஒட்டவும்]

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமான உடனடி:

குழந்தைகளை வளர்ப்பதில் இந்தக் குடும்பம் ஏன் போதுமானதாக இல்லை என்பதை விளக்குங்கள்.

இந்தக் கேள்வி ஆரம்பத்திலிருந்தே ("போதாது") முடிவைப் பெறுகிறது. AI, முகஸ்துதிக்கான அதன் போக்கைக் கொண்டு, இந்த அனுமானத்தை உறுதிப்படுத்தும் சான்றுகள் இல்லாத மற்றும் பக்கச்சார்பான உரையை உருவாக்கும். கேள்வி பாரபட்சமாக இருந்தால், பதிலும் பக்கச்சார்பானதாக இருக்கும்.

சக்திவாய்ந்த தூண்டுதல்:

பின்வரும் அவதானிப்புகளின் அடிப்படையில், இந்தக் குடும்பத்தின் குழந்தை வளர்ப்பு பலம் மற்றும் அக்கறைக்குரிய பகுதிகள் இரண்டையும் சமச்சீர் மற்றும் ஆதாரம் மட்டுமேயான முறையில் பட்டியலிடவும். ஆரம்பத்திலிருந்தே முடிவைக் கருத வேண்டாம்; ஆதாரம் போதுமானதாக இல்லை என்றால், தெரிவிக்கவும். ஒரே மாதிரியான கருத்துகளைத் தவிர்க்கவும். அவதானிப்புகள்: [ஒட்டு அவதானிப்புகள்]

வித்தியாசம்: ஒரு சமநிலையான கேள்வி, முடிவைக் கருதாது மற்றும் ஆதாரங்களைக் கேட்கிறது, முதலில் சார்புநிலையைத் தடுக்கிறது.

சார்பு மற்றும் எதிர் நடவடிக்கைகளின் வகைகள்

சார்பு வகை

அது எப்படி இருக்கும்

எதிர் நடவடிக்கை

பயிற்சி தரவு

குழு ஸ்டீரியோடைப்

சான்று-முறை வேறுபாடு

கட்டமைத்தல்

செயலற்ற/எதிர்மறை மொழி

சமச்சீர், பொருள் சார்ந்த மொழி

இரட்டை தரநிலை

அதே நடத்தை, வித்தியாசமான தொனி

தலைகீழ் கோண சோதனை

கலாச்சார குருட்டுத்தன்மை

கலாச்சார சக்தியை ஒரு பிரச்சனையாக மாற்றுவது

கலாச்சார சூழல் கேள்வி

முகஸ்துதி

உட்பொருளை உறுதிப்படுத்தவும்

நடுநிலையான கேள்விகளைக் கேட்காதீர்கள்

பிரதிநிதித்துவம் இல்லாமை

மேலோட்டமான/தவறான புரிதல்

உள்ளூர்/நிபுணர் உறுதிப்படுத்தல்

பொதுவான தவறுகள்

• பாரபட்சமான கேள்விகளைக் கேட்பது. ஒரு முடிவைக் கருதும் ஒரு கேள்வி ஒரு பக்கச்சார்பான பதிலை உருவாக்குகிறது; நடுநிலை பிரச்சனை.
• நம்பிக்கையான மொழியை நம்புதல். தொழில்முறை தொனி சார்புகளை சரி செய்யாது; ஆதாரத்தை பாருங்கள்.
• கலாச்சார அறிவை ஒரு உறுதியான விதியாகக் கருதுதல். அதை சாத்தியம் மற்றும் கவனத்தின் ஒரு புள்ளியாக எடுத்துக் கொள்ளுங்கள்; ஒரே மாதிரியானவற்றைத் தவிர்க்கவும்.
• இரட்டை நிலைகளை கவனிக்கவில்லை. வெவ்வேறு குழுக்களில் ஒரே நடத்தை எவ்வாறு எழுதப்பட்டுள்ளது என்பதை சோதிக்கவும்.
• முத்திரையை ஆதாரமாக தவறாகப் புரிந்துகொள்வது. இது ஒரு "அலட்சிய" தீர்ப்பு; நிகழ்வை விவரிக்கவும், நபரை மதிப்பிடாதீர்கள்.

சுருக்கமாக

AI நடுநிலை இல்லை, அது நடுநிலையாக தோன்றுகிறது; இது சரளமான மொழியில் கல்வித் தரவுகளில் ஏற்றத்தாழ்வுகள் மற்றும் ஸ்டீரியோடைப்களை மீண்டும் உருவாக்குகிறது. சமூகப் பணியில், இது உண்மையான நபர்களின் நியாயமற்ற மதிப்பீடுகளுக்கு வழிவகுக்கும். சார்பு (பயிற்சி தரவு, கட்டமைப்பது, இரட்டைத் தரநிலைகள், கலாச்சார குருட்டுத்தன்மை, முகஸ்துதி), அதற்கு எதிராக சரிபார்க்கவும் (நடுநிலை கேள்வி, சான்று-முறை பிரிப்பு, கோண சோதனை, கலாச்சார உணர்திறன், களங்கம் நீக்குதல்) மற்றும் ஒவ்வொரு வெளியீட்டையும் வடிகட்டவும். இறுதி நெறிமுறை வடிகட்டி எப்போதும் நீங்கள் தான்.

விண்ணப்ப பணி

AI ஆனது ஒரே மாதிரியான கற்பனையான அவதானிப்புகளை இரண்டு வெவ்வேறு குழு சுயவிவரங்களுடன் (எ.கா. வெவ்வேறு சமூகப் பொருளாதார நிலை) தொகுத்து, தொனிகள்/மொழி வேறுபடுகிறதா என்பதை "தலைகீழ் கோண சோதனை" உடன் ஒப்பிடவும். பின்னர் நடுநிலையான கேள்வியை உணர்வுபூர்வமாக ஒரு சார்புடைய கேள்வியுடன் முயற்சிக்கவும் ("ஏன் போதுமானதாக இல்லை என்பதை விளக்குங்கள்") மற்றும் விளைவுகளில் உள்ள வேறுபாட்டை ஆராயவும். இறுதியாக, "வாட்டர்மார்க்கர் மொழி சுத்தம்" டெம்ப்ளேட்டை ஒரு உரையில் பயன்படுத்தவும்.

சரிபார்ப்பு பட்டியல்

• [ ] நான் என் கேள்விகளை நடுநிலையாக, முடிவை அனுமானிக்காமல் அமைத்தேன்.
• [ ] நான் ஒவ்வொரு எதிர்மறை அறிக்கையையும் ஆதாரம்-ஸ்டீரியோடைப் வேறுபாட்டைப் பயன்படுத்தி சரிபார்த்தேன்.
• [ ] நான் தலைகீழ் கோண சோதனை மூலம் இரட்டை தரநிலையை சரிபார்த்தேன்.
• [ ] நான் கலாச்சார அறிவை ஒரு எச்சரிக்கையாகப் பயன்படுத்தினேன், ஒரு முழுமையான விதி அல்ல.
• [ ] களங்கப்படுத்தும் மொழியை விளக்கமான, மரியாதைக்குரிய மொழியாக மாற்றினேன்.