தப்பெண்ணம், நியாயம் மற்றும் பாகுபாடு: மாடலின் குருட்டுப் புள்ளிகள்

ஆதாயங்கள்:

• செயற்கை நுண்ணறிவு மாதிரிகளில் சார்பு எவ்வாறு தரவு மற்றும் வடிவமைப்பிலிருந்து எழுகிறது மற்றும் அது ஏன் வங்கியில் சட்ட மற்றும் நெறிமுறை அபாயங்களை உருவாக்குகிறது என்பதைப் புரிந்துகொள்வது
• பாதுகாக்கப்பட்ட அம்சங்கள், ப்ராக்ஸி மாறிகள் மற்றும் மறைமுக பாகுபாடு மற்றும் நியாயத்தின் அடிப்படையில் கேள்வி மாதிரி முடிவுகளை அங்கீகரிக்கும் திறன்
• நீதி அளவீடுகள், விலக்கப்பட்ட குழுக்கள் மற்றும் ஆட்சேபனைக்கான உரிமை ஆகியவை மாதிரி ஆளுகையில் எவ்வாறு பிணைக்கப்பட்டுள்ளன என்பதைப் புரிந்துகொள்ளும் திறன் மற்றும் பாகுபாடு சிவப்புக் கோட்டைப் பராமரிப்பது

AI மாதிரி நடுநிலையானது அல்ல; இது கற்றறிந்த தரவுகளின் கண்ணாடியாகும். தரவு கடந்தகால ஏற்றத்தாழ்வுகளைக் கொண்டிருந்தால், மாதிரி அவற்றைக் கற்றுக்கொண்டு எதிர்காலத்திற்கு எடுத்துச் செல்கிறது. வங்கித் துறையில், இது ஒரு சுருக்கமான நெறிமுறை விவாதம் அல்ல: ஒரு கடன் மாதிரியானது ஒரு குறிப்பிட்ட குழுவிற்கு முறையாகப் பாதகமானதாக இருந்தால், இது சட்டவிரோதமானது (பாகுபாடு தடை) மற்றும் நெறிமுறை மீறல் ஆகும், இது வங்கிக்கு நற்பெயர் மற்றும் பொருளாதாரத் தடைகளை ஏற்படுத்தும். இந்த அலகின் நோக்கம், மாதிரியானது எவ்வாறு சார்புடையது, நேரடி மற்றும் மறைமுகமான பாகுபாடுகள், ப்ராக்ஸி மாறி பொறி மற்றும் மாதிரி ஆளுகையில் நேர்மையை நெசவு செய்வதற்கான வழிகளைக் காண்பிப்பதாகும். ஒரு சிவப்பு கோடு ஆரம்பத்தில் இருந்தே சொல்ல வேண்டும்: பாகுபாடு, அது எவ்வளவு "புள்ளிவிவரமாக" தோன்றினாலும், ஏற்றுக்கொள்ள முடியாதது.

பாரபட்சம் எங்கிருந்து வருகிறது?

• தரவு சார்பு: கடந்தகால முடிவுகள் நியாயமற்றதாக இருந்தால் (எ.கா. ஒரு குறிப்பிட்ட குழுவிற்கு கடந்த காலத்தில் குறைவான கடன் வழங்கப்பட்டது), இது "சாதாரணமானது" என்று கருதி, தொடர்கிறது. இது வரலாற்று சார்பு என்று அழைக்கப்படுகிறது.
• மாதிரி சார்பு: சில குழுக்கள் தரவில் குறைவாகப் பிரதிநிதித்துவப்படுத்தப்பட்டிருந்தால், மாதிரி அவர்களைப் பற்றி மோசமாகவும் துல்லியமாகவும் கற்றுக்கொள்கிறது.
• லேபிள் சார்பு: "நல்ல வாடிக்கையாளர்" என்பதன் வரையறையே சார்புடையதாக இருந்தால், மாதிரியானது சார்புக்கு உகந்ததாக இருக்கும்.
• வடிவமைப்பு சார்பு: எந்த மாறிகளைப் பயன்படுத்துவது என்பது பற்றிய மனித விருப்பங்களும் சார்புகளைக் கொண்டிருக்கலாம்.

உதவிக்குறிப்பு: "மாதிரியானது தரவை அடிப்படையாகக் கொண்டது, எனவே இது புறநிலையானது" என்பது தவறான கருத்து. தரவு என்பது கடந்த காலத்தின் ஸ்னாப்ஷாட்; கடந்த காலம் நியாயமற்றதாக இருந்தால், "புறநிலை" மாதிரியானது கணிதத்தில் அநீதியை நியாயப்படுத்துகிறது. புறநிலை என்பது பாரபட்சமற்ற தன்மைக்கு உத்தரவாதம் அல்ல.

நேரடி மற்றும் மறைமுக பாகுபாடு

• நேரடி பாகுபாடு: பாதுகாக்கப்பட்ட பண்புகளை (பாலினம், இனம், மதம், வயது) மாதிரியின் நேரடிப் பயன்பாடு. இது வெளிப்படையாக தடைசெய்யப்பட்டுள்ளது.
• மறைமுக பாகுபாடு (வாடி மாறி / ப்ராக்ஸி): பாதுகாக்கப்பட்ட அம்சத்தை மாடல் நேரடியாகப் பயன்படுத்தாவிட்டாலும், அதனுடன் வலுவாக தொடர்புடைய மற்றொரு மாறியைப் பயன்படுத்தி அதே முடிவை உருவாக்குகிறது (ஜிப் குறியீடு, பெயர், ஷாப்பிங் வகை, வேலை செய்யும் மாவட்டம்). ஜிப் குறியீடு பெரும்பாலும் இனம் அல்லது வருமான நிலைக்கான ப்ராக்ஸி ஆகும். மாதிரியானது "அக்கம்" என்று கூறுகிறது, ஆனால் விளைவு "தோற்றம்" பாகுபாடு.

மாறி

வெளிப்படையாக

ப்ராக்ஸியாக இருக்கலாம்

அஞ்சல் குறியீடு / மாவட்டம்

புவியியல்

இனம், வருமான நிலை

பெயர்

ஐடி

தோற்றம், பாலினம்

ஷாப்பிங் வகை

நடத்தை

வாழ்க்கை முறை, நம்பிக்கை

பள்ளியில் பட்டம் பெற்றார்

கல்வி

சமூக பொருளாதார தோற்றம்

அதனால்தான், "அக்கம்பக்கமானது ஆபத்தானது" போன்ற ஒரு அறிக்கையை நியாயப்படுத்துவதைப் பார்க்கும்போது அலாரம் ஒலிக்க வேண்டும்: இது ஒரு நியாயமான அளவுகோலாகத் தோன்றலாம், ஆனால் மறைமுக பாகுபாடுகளைக் கொண்டுள்ளது.

எச்சரிக்கை: தரவுகளிலிருந்து பாதுகாக்கப்பட்ட அம்சத்தை அகற்றுவது பாகுபாட்டை முடிவுக்குக் கொண்டுவராது. மாற்று மாறிகள் அதை திரும்பப் பெறலாம். "உணர்வுப் பத்தியை நீக்கிவிட்டேன்" என்பதன் மூலம் நீதி கிடைக்காது; குழுக்களிடையே மாதிரி முடிவுகளின் முடிவுகளைச் சோதிப்பதன் மூலம் இது அடையப்படுகிறது.

ஆட்சியில் நீதியை நெய்தல்

1. நேர்மை அளவீடுகள். மாதிரியின் ஒப்புதல்/நிராகரிப்பு விகிதங்கள் மற்றும் குழுக்களுக்கு இடையேயான பிழை விகிதங்களை ஒப்பிடுக. ஒரு குழு முறையாக அதிக நிராகரிப்புகளை அனுபவிக்கிறதா?
2. ப்ராக்ஸி கட்டுப்பாடு. பாதுகாக்கப்பட்ட பண்புகளுக்குப் பயன்படுத்தப்படும் மாறிகளின் உறவை ஆராயுங்கள்.
3. விளக்கக்கூடிய தன்மை. ஒவ்வொரு முடிவுக்கும் நியாயம் வழங்கப்பட வேண்டும்; ஒரு "கருப்பு பெட்டி" மறுப்பு ஏற்றுக்கொள்ள முடியாதது.
4. எதிர்க்கும் உரிமை. வாடிக்கையாளருக்கு முடிவெடுப்பதற்கான காரணத்தை அறியவும் மனித மதிப்பாய்வைக் கோரவும் உரிமை வழங்கப்பட வேண்டும்.
5. விலக்கப்பட்ட குழுக்கள். தரவுகளில் குறைவான பிரதிநிதித்துவம் உள்ள குழுக்கள் தவறாக நடத்தப்படவில்லை என்பதையும் சரிபார்க்க வேண்டும்.

நகலெடுக்கக்கூடிய நான்கு வார்ப்புருக்கள்

1) நியாயப்படுத்துவதில் பாரபட்சம் காட்டப்படுதல்:

பின்வரும் கடன் முடிவு பகுத்தறிவைச் சரிபார்க்கவும்: பாதுகாக்கப்பட்ட பண்பு (வயது, பாலினம், தோற்றம், மதம்) அல்லது ப்ராக்ஸி மாறி (அஞ்சல் குறியீடு, அக்கம், பெயர், ஷாப்பிங் வகை) குறித்து நேரடி/மறைமுகக் குறிப்பு உள்ளதா? ஆபத்தான அறிக்கைகளைக் கொடியிடவும் மற்றும் அவை ஏன் பாகுபாடு ஆபத்தை ஏற்படுத்துகின்றன என்பதை விளக்கவும். காரணம்: [உரை]

2) மாறி பட்டியல் ப்ராக்ஸி கட்டுப்பாடு:

கடன் மாதிரியில் பயன்படுத்தப்படும் மாறிகளின் இந்த பட்டியலை ஆராயவும். பாதுகாக்கப்பட்ட பண்பிற்கான ப்ராக்ஸி மற்றும் மறைமுக பாகுபாட்டின் அபாயத்தை ஏற்படுத்தக்கூடியவை எது? ஒவ்வொரு ஆபத்தான மாறுபாட்டிற்கும் உங்கள் நியாயத்தை எழுதுங்கள். பட்டியல்: [மாறிகள்]

3) நியாயத்தின் அடிப்படையில் முடிவின் சுருக்கம் (நடுநிலை, விளக்கக்கூடியது):

உங்கள் பங்கு: விளக்கக்கூடிய முடிவெடுக்கும் பகுத்தறிவை உருவாக்கும் உதவியாளர். முறையான, பாரபட்சமற்ற அளவுகோல்களை மட்டுமே நம்புங்கள் (கடன்-வருமான விகிதம், பணம் செலுத்துதல் வரலாறு, இணை). பாதுகாக்கப்பட்ட சொத்து மற்றும் பினாமி மாறி ஆகியவற்றைக் குறிப்பிட வேண்டாம். வாடிக்கையாளர் புரிந்துகொள்ளக்கூடிய எளிய மொழியில் நியாயத்தை எழுதுங்கள். நான் ஒப்புதல் தருகிறேன்.

4) ஆட்சேபனை பதில் வரைவு:

ஒரு வாடிக்கையாளர் கடன் மறுப்பை மேல்முறையீடு செய்தார் மற்றும் நியாயப்படுத்த விரும்புகிறார். முறையான அளவுகோல்களின் அடிப்படையில் மரியாதைக்குரிய மற்றும் விளக்கமான பதிலை உருவாக்கவும்; மனித மதிப்பாய்வு மற்றும் திருத்தத்திற்கான வாடிக்கையாளரின் உரிமையை அவருக்கு நினைவூட்டுங்கள். எந்தவொரு பாரபட்சமான தாக்கங்களையும் பயன்படுத்த வேண்டாம். சரிபார்க்கப்பட்ட நிராகரிப்பு காரணம்: [காரணம்]

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமான உடனடி:

இந்தப் பகுதியில் உள்ள பயன்பாடுகள் மிகவும் ஆபத்தானவை, மாவட்டத் தகவலை மாதிரியில் அதிக அளவில் பயன்படுத்துவோம், இதனால் துல்லியத்தை அதிகரிக்க முடியும்.

இந்த அணுகுமுறை மாவட்ட அடிப்படையிலான மறைமுக பாகுபாட்டை வலுப்படுத்துகிறது; இது "ஹிட்" என்ற பெயரில் ஒரு சட்டவிரோத விளைவை சட்டப்பூர்வமாக்குகிறது.

சக்திவாய்ந்த தூண்டுதல்:

உங்கள் பங்கு: நீதி தணிக்கை உதவியாளர். மாற்று மாறிகளின் ஆபத்தை ஏற்படுத்தும் மாறிகளைக் கொடியிடவும். ஒப்புதல்/நிராகரிப்பு விகிதத்தின் அடிப்படையில் குழுக்களுக்கு இடையேயான முடிவுகளை ஒப்பிட்டுப் பார்க்க நான் எந்த அளவீடுகளைப் பின்பற்ற வேண்டும் என்பதைப் பரிந்துரைக்கவும். பாரபட்சமான அளவுகோலை ஒருபோதும் வலுப்படுத்தாதீர்கள்; முறையான மற்றும் விளக்கக்கூடிய அளவுகோல்களுக்கு திருப்பி விடவும்.

வலுவான விருப்பம் ப்ராக்ஸி அபாயத்தைத் தேடுகிறது, நியாயமான அளவீடுகளை அறிமுகப்படுத்துகிறது மற்றும் பாகுபாட்டை நிராகரிக்கிறது.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - வரலாற்று சார்பு. ஒரு மாதிரியானது ஒரு குறிப்பிட்ட தொழில்சார் குழுவிற்கு முறையாக குறைந்த மதிப்பெண்ணை வழங்குகிறது, ஏனெனில் அதற்கு கடந்த காலத்தில் குறைவான கடன் வழங்கப்பட்டது. இந்த குழுவிற்கான நிராகரிப்பு விகிதம் இதேபோன்ற வருமான மட்டங்களில் உள்ள மற்றவர்களை விட 30% அதிகமாக இருப்பதாக நியாயமான தணிக்கை காட்டுகிறது. முறையான வருமானம் மற்றும் கட்டண அளவுகோல்களுடன் மாதிரி மறுசீரமைக்கப்பட்டுள்ளது.

வழக்கு 2 - மாற்று மாறி. ஜிப் குறியீடு ஒரு மாதிரியில் ஒரு சக்திவாய்ந்த மாறி. தணிக்கை, ஜிப் குறியீடு சில இனச் செறிவூட்டப்பட்ட சுற்றுப்புறங்களுடன் மேலெழுகிறது, மறைமுக தோற்றப் பாகுபாட்டை உருவாக்குகிறது. மாறி அகற்றப்பட்டு, முறையான நிதி வரையறைகளால் மாற்றப்படுகிறது; செயல்திறன் ஏற்றுக்கொள்ளக்கூடிய மட்டத்தில் உள்ளது, பாகுபாடு அகற்றப்படுகிறது.

வழக்கு 3 - எதிர்க்கும் உரிமை. நிராகரிக்கப்பட்ட வாடிக்கையாளர் நியாயத்தைக் கேட்கிறார். வங்கி விளக்கக்கூடிய நியாயத்தை வழங்குகிறது (அதிக கடன்-வருமான விகிதம்) மற்றும் மனித மதிப்பாய்வுக்கான கோரிக்கையை ஏற்றுக்கொள்கிறது. மதிப்பாய்வு ஒரு ஆவணத்தின் தவறான வாசிப்பை வெளிப்படுத்துகிறது; முடிவு சரி செய்யப்பட்டது. விளக்கமளிக்கும் தன்மை மற்றும் ஆட்சேபனை உரிமை ஆகியவை ஒரு தவறை நீதியுடன் ஈடுசெய்கிறது.

நேர்மை அளவீடுகள்: எதை எப்படி அளவிடுகிறோம்

"மாடல் நியாயமானதா?" என்ற கேள்விக்கு ஒரே பதில் இல்லை; நீதிக்கு பல வரையறைகள் உள்ளன, அவை சில சமயங்களில் ஒன்றுக்கொன்று முரண்படுகின்றன. வங்கியில் நடைமுறையில் பின்பற்றப்படும் சில அணுகுமுறைகள் இங்கே:

• ஒப்புதல்/நிராகரிப்பு விகித ஒப்பீடு: ஒரே மாதிரியான நிதி விவரங்களுடன் (எ.கா. பாலினக் குழுக்கள்) வெவ்வேறு குழுக்களிடையே ஒப்புதல் விகிதம் முறையாக வேறுபட்டதா? ஒரு பெரிய மற்றும் விவரிக்கப்படாத வேறுபாடு சார்புக்கான அறிகுறியாகும்.
• பிழை விகித சமத்துவம்: மாதிரியின் தவறான நிராகரிப்பு (சட்டபூர்வமான விண்ணப்பத்தை நிராகரித்தல்) விகிதம் குழுக்கள் முழுவதும் சமநிலையில் உள்ளதா? ஒரு குழு மற்றொன்றை விட நியாயமற்ற முறையில் அடிக்கடி நிராகரிக்கப்பட்டால், ஒரு சிக்கல் உள்ளது.
• அளவுத்திருத்தம்: மாடல் "அதிக ஆபத்து" என்று அழைக்கும் வாடிக்கையாளர்கள் ஒவ்வொரு குழுவிலும் ஒரே மாதிரியான விகிதங்களில் உண்மையில் இயல்புநிலையில் இருக்கிறார்களா? மதிப்பெண்ணின் பொருள் குழுவிலிருந்து குழுவிற்கு மாறக்கூடாது.

இந்த அளவீடுகளை சில நேரங்களில் ஒரே நேரத்தில் வழங்க முடியாது; நீதியின் எந்த வரையறைக்கு முன்னுரிமை அளிக்க வேண்டும் என்பது தொழில்நுட்பம் அல்ல, ஆனால் நெறிமுறை மற்றும் சட்டரீதியான முடிவு மற்றும் மனித ஆளுகை தேவைப்படுகிறது.

உதவிக்குறிப்பு: நீங்கள் மாதிரியை உருவாக்கும் போது மட்டும் அல்ல, சீரான இடைவெளியில் நியாயமான அளவீட்டை அளவிடவும். தரவுச் சறுக்கல் காரணமாக ஒரு மாதிரி நியாயமான முறையில் நேரலையில் செல்லலாம் மற்றும் காலப்போக்கில் ஒரு சார்புடையதாக மாறலாம். நீதி என்பது "ஸ்தாபனத்தின்" விஷயம் அல்ல, மாறாக "கண்காணிப்பு".

பொதுவான தவறுகள்

• "புறநிலை தரவு" தவறானது. மாதிரி நடுநிலை என்று கருதி; தரவு வரலாற்று சார்புகளைக் கொண்டுள்ளது.
• முக்கியமான நெடுவரிசையை மட்டும் நீக்கவும். பாதுகாக்கப்பட்ட சொத்தை அகற்றுதல் மற்றும் ப்ராக்ஸி மாறிகளை கவனிக்காமல் இருப்பது.
• நியாயமான அளவீடுகளைக் கண்காணிக்கவில்லை. குழுக்களிடையே நிராகரிப்பு/பிழை விகிதத்தை ஒப்பிடவில்லை.
• கருப்புப் பெட்டி முடிவைப் பாதுகாத்தல். நியாயப்படுத்த முடியாத ஒரு முடிவை சட்டபூர்வமானதாக கருதுகிறது.
• எதிர்க்கும் உரிமையை நீக்குதல். மனித மதிப்பாய்வை முடக்குகிறது, ஏனெனில் "இது செயல்முறையை மெதுவாக்குகிறது."

கவனம்: பாகுபாடு பெரும்பாலும் தீமையால் அல்ல, கவனக்குறைவால் எழுகிறது. ஒரு மாறி சேர்க்கப்பட்டது, ஏனெனில் அது "துல்லியத்தை அதிகரிக்கிறது" என்பது தெரியாமல் ஒரு குழுவை விலக்கலாம். எனவே நீதி என்பது நல்ல நம்பிக்கையின் அடிப்படையில் அல்ல, வழக்கமான சோதனையின் அடிப்படையில்.

சுருக்கமாக

AI மாதிரிகள் தாங்கள் கற்றுக் கொள்ளும் தரவின் சார்புகளைக் கொண்டுள்ளன, மேலும் வங்கியில் பாகுபாடு என்பது சட்ட, நெறிமுறை மற்றும் நற்பெயருக்கு ஆபத்து. நேரடி பாகுபாடு என்பது பாதுகாக்கப்பட்ட அம்சத்தைப் பயன்படுத்துவதாகும்; மறைமுக பாகுபாடு, மறுபுறம், ப்ராக்ஸி மாறிகள் (ஜிப் குறியீடு, பெயர்) மூலம் அதே முடிவை உருவாக்குகிறது. நீதி என்பது உணர்ச்சிகரமான பத்தியை அழிப்பதல்ல; நியாயமான அளவீடுகள், ப்ராக்ஸி கட்டுப்பாடு, விளக்கத்திறன் மற்றும் ஆட்சேபனைக்கான உரிமை ஆகியவற்றால் உறுதி செய்யப்படுகிறது. ஒரு வாக்கியத்தில்: முறை கடந்த காலத்தை மீண்டும் செய்கிறது; நீதியை நிலைநாட்டுவதும் பாகுபாட்டை நிராகரிப்பதும் மனிதனின் பொறுப்பு.

விண்ணப்ப பணி

கிரெடிட் மாடலுக்கான 8-10 மாறிகளின் பட்டியலை எழுதவும் (சில வேண்டுமென்றே ப்ராக்ஸி ஆபத்து: ஜிப் குறியீடு, பெயர், ஷாப்பிங் வகை). 2. டெம்ப்ளேட்டுடன் ப்ராக்ஸி சரிபார்ப்பைச் செய்து, அபாயகரமானவற்றை அவற்றின் காரணங்களுடன் குறிக்கவும். பின்னர் ஒரு பாரபட்சமான நியாயப்படுத்தல் உரையை எழுதி டெம்ப்ளேட் 1 உடன் ஸ்கேன் செய்யவும். இறுதியாக, குழுக்களிடையே மாதிரியின் நிராகரிப்பு விகிதத்தை ஒப்பிடுவதற்கு எந்த நியாயமான அளவீடுகளை நீங்கள் கண்காணிக்க வேண்டும் என்பதை ஒரு பத்தியில் திட்டமிடுங்கள்.

சரிபார்ப்பு பட்டியல்

• [ ] மாதிரி/பகுத்தறிவு பாதுகாக்கப்பட்ட பண்புகளைப் பயன்படுத்தவில்லை என்பதை நான் சோதித்தேன்.
• ப்ராக்ஸி மாறிகளின் அபாயத்தையும் நான் திரையிட்டேன்.
• [ ] குழுக்களுக்கு இடையேயான ஒப்புதல்/நிராகரிப்பு மற்றும் பிழை விகிதத்தை ஒப்பிட திட்டமிட்டுள்ளேன்.
• [ ] ஒவ்வொரு முடிவும் ஒரு விளக்கமான பகுத்தறிவைக் கொண்டிருப்பதை உறுதி செய்தேன்.
• [ ] நான் வாடிக்கையாளருக்கு ஆட்சேபனை மற்றும் மனித மதிப்பாய்வு உரிமையை வழங்கினேன்.
• [ ] "ஹிட்" அடிப்படையில் நான் பாகுபாடு சிவப்பு கோட்டை கூட கடக்கவில்லை.