നേട്ടങ്ങൾ:
- ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് മോഡലുകളിൽ പക്ഷപാതം എങ്ങനെയാണ് ഡാറ്റയിൽ നിന്നും ഡിസൈനിൽ നിന്നും ഉണ്ടാകുന്നതെന്നും അത് ബാങ്കിംഗിൽ നിയമപരവും ധാർമ്മികവുമായ അപകടസാധ്യതകൾ സൃഷ്ടിക്കുന്നത് എന്തുകൊണ്ടാണെന്നും മനസ്സിലാക്കുന്നു.
- സംരക്ഷിത സവിശേഷതകൾ, പ്രോക്സി വേരിയബിളുകൾ, പരോക്ഷ വിവേചനം എന്നിവ തിരിച്ചറിയാനുള്ള കഴിവ്, നീതിയുടെ അടിസ്ഥാനത്തിൽ മോഡൽ തീരുമാനങ്ങൾ എന്നിവ ചോദ്യം ചെയ്യുക
- നീതിന്യായ അളവുകൾ, ഒഴിവാക്കപ്പെട്ട ഗ്രൂപ്പുകൾ, ഒബ്ജക്റ്റ് ചെയ്യാനുള്ള അവകാശം എന്നിവ മോഡൽ ഗവേണൻസിലേക്ക് എങ്ങനെ ഇഴചേർന്നിരിക്കുന്നുവെന്ന് മനസിലാക്കാനും വിവേചനത്തിൻ്റെ ചുവപ്പ് രേഖ നിലനിർത്താനുമുള്ള കഴിവ്
ഒരു AI മോഡൽ നിഷ്പക്ഷമല്ല; ഇത് പഠിച്ച ഡാറ്റയുടെ കണ്ണാടിയാണ്. ഡാറ്റ മുൻകാല അസമത്വങ്ങൾ വഹിക്കുന്നുണ്ടെങ്കിൽ, മോഡൽ അവ പഠിക്കുകയും ഭാവിയിലേക്ക് കൊണ്ടുപോകുകയും ചെയ്യുന്നു. ബാങ്കിംഗിൽ, ഇതൊരു അമൂർത്തമായ ധാർമ്മിക സംവാദമല്ല: ഒരു ക്രെഡിറ്റ് മോഡൽ വ്യവസ്ഥാപിതമായി ഒരു പ്രത്യേക ഗ്രൂപ്പിനെ ദോഷകരമായി ബാധിക്കുകയാണെങ്കിൽ, ഇത് നിയമവിരുദ്ധവും (വിവേചന നിരോധനം) നൈതിക ലംഘനവുമാണ്, ഇത് ബാങ്കിന് പ്രശസ്തിയും ഉപരോധവും അപകടസാധ്യതകൾ കൊണ്ടുവരുന്നു. മോഡൽ പക്ഷപാതപരവും പ്രത്യക്ഷവും പരോക്ഷവുമായ വിവേചന രൂപങ്ങൾ, പ്രോക്സി വേരിയബിൾ ട്രാപ്പ്, മാതൃകാ ഭരണത്തിലേക്ക് നീതിയെ നെയ്തെടുക്കുന്നതിനുള്ള വഴികൾ എന്നിവ കാണിക്കുകയാണ് ഈ യൂണിറ്റിൻ്റെ ലക്ഷ്യം. തുടക്കം മുതൽ ഒരു ചുവന്ന വര പറയണം: വിവേചനം, അത് എത്ര "സ്റ്റാറ്റിസ്റ്റിക്കൽ" ആയി തോന്നിയാലും അത് അസ്വീകാര്യമാണ്.
മുൻവിധി എവിടെ നിന്ന് വരുന്നു?
- ഡാറ്റാ ബയസ്: മുൻകാല തീരുമാനങ്ങൾ അന്യായമായിരുന്നെങ്കിൽ (ഉദാ. ഒരു പ്രത്യേക ഗ്രൂപ്പിന് മുമ്പ് കുറച്ച് ക്രെഡിറ്റ് നൽകിയിരുന്നു), ഇത് "സാധാരണ" ആണെന്ന് മോഡൽ അനുമാനിക്കുകയും തുടരുകയും ചെയ്യുന്നു. ഇതിനെ ചരിത്രപരമായ പക്ഷപാതം എന്ന് വിളിക്കുന്നു.
- സാമ്പിൾ പക്ഷപാതം: ചില ഗ്രൂപ്പുകളെ ഡാറ്റയിൽ കുറച്ചുകൂടി പ്രതിനിധീകരിക്കുന്നുണ്ടെങ്കിൽ, മോഡൽ അവരെക്കുറിച്ച് മോശമായും കൃത്യതയില്ലാതെയും പഠിക്കുന്നു.
- ലേബൽ ബയസ്: "നല്ല ഉപഭോക്താവ്" എന്നതിൻ്റെ നിർവചനം തന്നെ പക്ഷപാതപരമാണെങ്കിൽ, മോഡൽ പക്ഷപാതത്തിനായി ഒപ്റ്റിമൈസ് ചെയ്യുന്നു.
- ഡിസൈൻ പക്ഷപാതം: ഏത് വേരിയബിളുകൾ ഉപയോഗിക്കണം എന്നതിനെക്കുറിച്ചുള്ള മനുഷ്യ തിരഞ്ഞെടുപ്പുകൾക്കും പക്ഷപാതമുണ്ടാകാം.
നുറുങ്ങ്: "മോഡൽ ഡാറ്റയെ അടിസ്ഥാനമാക്കിയുള്ളതാണ്, അതിനാൽ ഇത് വസ്തുനിഷ്ഠമാണ്" എന്നത് ഒരു തെറ്റിദ്ധാരണയാണ്. ഡാറ്റ ഭൂതകാലത്തിൻ്റെ ഒരു സ്നാപ്പ്ഷോട്ട് ആണ്; ഭൂതകാലം അന്യായമായിരുന്നെങ്കിൽ, "ഒബ്ജക്റ്റീവ്" മോഡൽ ഗണിതശാസ്ത്രത്തിലെ അനീതിയെ ന്യായീകരിക്കുന്നു. വസ്തുനിഷ്ഠത നിഷ്പക്ഷതയുടെ ഒരു ഉറപ്പ് അല്ല.
പ്രത്യക്ഷവും പരോക്ഷവുമായ വിവേചനം
- നേരിട്ടുള്ള വിവേചനം: ഒരു സംരക്ഷിത സ്വഭാവത്തിൻ്റെ (ലിംഗം, വംശം, മതം, പ്രായം) മോഡലിൻ്റെ നേരിട്ടുള്ള ഉപയോഗം. ഇത് വ്യക്തമായി നിരോധിച്ചിരിക്കുന്നു.
- പരോക്ഷമായ വിവേചനം (സറോഗേറ്റ് വേരിയബിൾ / പ്രോക്സി): മോഡൽ നേരിട്ട് സംരക്ഷിത ഫീച്ചർ ഉപയോഗിക്കുന്നില്ലെങ്കിലും, അതുമായി ശക്തമായി ബന്ധപ്പെട്ടിരിക്കുന്ന മറ്റൊരു വേരിയബിൾ (സിപ്പ് കോഡ്, പേര്, ഷോപ്പിംഗ് വിഭാഗം, പ്രവർത്തിക്കുന്ന ജില്ല) ഉപയോഗിച്ച് അതേ ഫലം നൽകുന്നു. സിപ്പ് കോഡ് പലപ്പോഴും വംശീയതയ്ക്കോ വരുമാന നിലവാരത്തിനോ ഉള്ള ഒരു പ്രോക്സിയാണ്. മോഡൽ "അയൽപക്കം" എന്ന് പറയുന്നു, പക്ഷേ ഫലം "ഉത്ഭവം" വിവേചനമാണ്.
വേരിയബിൾ
പ്രത്യക്ഷത്തിൽ
ഒരു പ്രോക്സി ആകാം
പിൻ കോഡ് / ജില്ല
ഭൂമിശാസ്ത്രം
വംശീയത, വരുമാന നിലവാരം
പേര്
ഐഡി
ഉത്ഭവം, ലിംഗഭേദം
ഷോപ്പിംഗ് വിഭാഗം
പെരുമാറ്റം
ജീവിതരീതി, വിശ്വാസം
സ്കൂൾ ബിരുദം
വിദ്യാഭ്യാസം
സാമൂഹിക സാമ്പത്തിക ഉത്ഭവം
അതുകൊണ്ടാണ് ഒരു ന്യായീകരണത്തിൽ "അയൽപക്കം അപകടകരമാണ്" പോലെയുള്ള ഒരു പ്രസ്താവന കാണുമ്പോൾ അലാറം മുഴങ്ങേണ്ടത്: അത് നിയമാനുസൃതമായ ഒരു മാനദണ്ഡമായി തോന്നിയേക്കാം, പക്ഷേ പരോക്ഷമായ വിവേചനം വഹിക്കുന്നു.
മുന്നറിയിപ്പ്: ഡാറ്റയിൽ നിന്ന് പരിരക്ഷിത ഫീച്ചർ നീക്കം ചെയ്യുന്നത് വിവേചനം അവസാനിപ്പിക്കില്ല. സറോഗേറ്റ് വേരിയബിളുകൾക്ക് അത് തിരികെ നൽകാം. "ഞാൻ സെൻസിറ്റീവ് കോളം ഇല്ലാതാക്കി" എന്നതുകൊണ്ട് നീതി കൈവരിക്കില്ല; ഗ്രൂപ്പുകൾക്കിടയിലുള്ള മാതൃകാ തീരുമാനങ്ങളുടെ ഫലങ്ങൾ പരിശോധിച്ചാണ് ഇത് നേടുന്നത്.
ഭരണത്തിൽ നീതി നെയ്യുന്നു
- ന്യായമായ അളവുകൾ. ഗ്രൂപ്പുകൾ തമ്മിലുള്ള മോഡലിൻ്റെ അംഗീകാരം/നിരസിക്കൽ നിരക്കുകളും പിശക് നിരക്കുകളും താരതമ്യം ചെയ്യുക. ഒരു ഗ്രൂപ്പിന് വ്യവസ്ഥാപിതമായി ഉയർന്ന തിരസ്കരണങ്ങൾ അനുഭവപ്പെടുന്നുണ്ടോ?
- പ്രോക്സി നിയന്ത്രണം. സംരക്ഷിത ഗുണങ്ങളുമായി ഉപയോഗിക്കുന്ന വേരിയബിളുകളുടെ ബന്ധം പരിശോധിക്കുക.
- വിശദീകരണം. ഓരോ തീരുമാനത്തിനും ന്യായീകരണം ഹാജരാക്കണം; ഒരു "ബ്ലാക്ക് ബോക്സ്" നിഷേധം അംഗീകരിക്കാനാവില്ല.
- എതിർക്കാനുള്ള അവകാശം. തീരുമാനത്തിൻ്റെ യുക്തി പഠിക്കാനും മനുഷ്യ അവലോകനം അഭ്യർത്ഥിക്കാനും ഉപഭോക്താവിന് അവകാശം നൽകണം.
- ഒഴിവാക്കിയ ഗ്രൂപ്പുകൾ. ഡാറ്റയിൽ കുറവ് പ്രതിനിധീകരിക്കുന്ന ഗ്രൂപ്പുകളോട് മോശമായി പെരുമാറുന്നില്ലെന്നും പരിശോധിക്കണം.
പകർത്താവുന്ന നാല് ടെംപ്ലേറ്റുകൾ
1) ന്യായീകരണത്തിലെ വിവേചനത്തിനായുള്ള സ്ക്രീനിംഗ്:
ഇനിപ്പറയുന്ന ക്രെഡിറ്റ് തീരുമാനത്തിൻ്റെ യുക്തി പരിശോധിക്കുക: ഒരു സംരക്ഷിത സ്വഭാവത്തിന് (പ്രായം, ലിംഗഭേദം, ഉത്ഭവം, മതം) അല്ലെങ്കിൽ ഒരു പ്രോക്സി വേരിയബിളിൽ (പോസ്റ്റ്കോഡ്, അയൽപക്കം, പേര്, ഷോപ്പിംഗ് തരം) നേരിട്ടുള്ള/അല്ലാതെയുള്ള പരാമർശമുണ്ടോ? അപകടകരമായ പ്രസ്താവനകൾ ഫ്ലാഗ് ചെയ്യുകയും അവ വിവേചനത്തിൻ്റെ അപകടസാധ്യത സൃഷ്ടിക്കുന്നത് എന്തുകൊണ്ടാണെന്ന് വിശദീകരിക്കുകയും ചെയ്യുക. കാരണം: [ടെക്സ്റ്റ്]
2) വേരിയബിൾ ലിസ്റ്റ് പ്രോക്സി നിയന്ത്രണം:
ഒരു ക്രെഡിറ്റ് മോഡലിൽ ഉപയോഗിക്കുന്ന വേരിയബിളുകളുടെ ഈ ലിസ്റ്റ് പരിശോധിക്കുക. ഒരു സംരക്ഷിത സ്വഭാവത്തിന് പ്രോക്സി ആയിരിക്കാവുന്നതും പരോക്ഷമായ വിവേചനത്തിൻ്റെ അപകടസാധ്യത ഉളവാക്കുന്നതും ഏതാണ്? അപകടകരമായ ഓരോ വേരിയൻ്റിനും നിങ്ങളുടെ ന്യായീകരണം എഴുതുക. പട്ടിക: [വേരിയബിളുകൾ]
3) ന്യായമായ തീരുമാനത്തിൻ്റെ സംഗ്രഹം (നിഷ്പക്ഷമായ, വിശദീകരിക്കാവുന്നത്):
നിങ്ങളുടെ റോൾ: വിശദീകരിക്കാവുന്ന തീരുമാനത്തിൻ്റെ യുക്തി തയ്യാറാക്കുന്ന സഹായി. നിയമാനുസൃതവും വിവേചനരഹിതവുമായ മാനദണ്ഡങ്ങളിൽ മാത്രം ആശ്രയിക്കുക (കടം-വരുമാന അനുപാതം, പേയ്മെൻ്റ് ചരിത്രം, ഈട്). സംരക്ഷിത പ്രോപ്പർട്ടിയെയും സറോഗേറ്റ് വേരിയബിളിനെയും പരാമർശിക്കരുത്. ഉപഭോക്താവിന് മനസ്സിലാകുന്ന ലളിതമായ ഭാഷയിൽ യുക്തി എഴുതുക. ഞാൻ അംഗീകാരം നൽകും.
4) ഒബ്ജക്ഷൻ പ്രതികരണ കരട്:
ഒരു ഉപഭോക്താവ് ക്രെഡിറ്റ് നിഷേധത്തിനെതിരെ അപ്പീൽ ചെയ്യുകയും ന്യായീകരണം ആവശ്യപ്പെടുകയും ചെയ്തു. നിയമാനുസൃതമായ മാനദണ്ഡങ്ങളെ അടിസ്ഥാനമാക്കി മാന്യവും വിവരണാത്മകവുമായ പ്രതികരണം തയ്യാറാക്കുക; മാനുഷിക അവലോകനത്തിനും തിരുത്തലിനുമുള്ള അവൻ്റെ അല്ലെങ്കിൽ അവളുടെ അവകാശത്തെക്കുറിച്ച് ഉപഭോക്താവിനെ ഓർമ്മിപ്പിക്കുക. വിവേചനപരമായ സൂചനകളൊന്നും ഉപയോഗിക്കരുത്. പരിശോധിച്ച നിരസിക്കാനുള്ള കാരണം: [കാരണം]
ദുർബലമായ പ്രോംപ്റ്റ് / ശക്തമായ പ്രോംപ്റ്റ്
ദുർബലമായ പ്രോംപ്റ്റ്:
ഈ മേഖലയിലെ ആപ്ലിക്കേഷനുകൾ വളരെ അപകടസാധ്യതയുള്ളതാണ്, ജില്ലയുടെ വിവരങ്ങൾ നമുക്ക് മാതൃകയിൽ കൂടുതൽ തീവ്രമായി ഉപയോഗിക്കട്ടെ, അതുവഴി കൃത്യത വർദ്ധിപ്പിക്കാൻ കഴിയും.
ഈ സമീപനം ജില്ലയെ അടിസ്ഥാനമാക്കിയുള്ള പരോക്ഷ വിവേചനത്തെ ശക്തിപ്പെടുത്തുന്നു; ഇത് "ഹിറ്റ്" എന്ന പേരിൽ നിയമവിരുദ്ധമായ ഒരു ഫലത്തെ നിയമവിധേയമാക്കുന്നു.
ശക്തമായ നിർദ്ദേശം:
നിങ്ങളുടെ റോൾ: ജസ്റ്റിസ് ഓഡിറ്റ് അസിസ്റ്റൻ്റ്. സറോഗേറ്റ് വേരിയബിളുകളുടെ അപകടസാധ്യത സൃഷ്ടിക്കുന്ന വേരിയബിളുകൾ ഫ്ലാഗ് ചെയ്യുക. അംഗീകാരം/നിരസിക്കൽ നിരക്കിൻ്റെ അടിസ്ഥാനത്തിൽ ഗ്രൂപ്പുകൾ തമ്മിലുള്ള തീരുമാനങ്ങൾ താരതമ്യം ചെയ്യാൻ ഞാൻ ഏതൊക്കെ മെട്രിക്കുകൾ പിന്തുടരണമെന്ന് നിർദ്ദേശിക്കുക. വിവേചനപരമായ ഒരു മാനദണ്ഡം ഒരിക്കലും ശക്തിപ്പെടുത്തരുത്; നിയമാനുസൃതവും വിശദീകരിക്കാവുന്നതുമായ മാനദണ്ഡങ്ങളിലേക്ക് വഴിതിരിച്ചുവിടുക.
ശക്തമായ ഇച്ഛാശക്തി പ്രോക്സി അപകടസാധ്യതയ്ക്കായി നോക്കുന്നു, ഫെയർനസ് മെട്രിക്സ് അവതരിപ്പിക്കുന്നു, വിവേചനം നിരസിക്കുന്നു.
മൂന്ന് മിനി കേസുകൾ
കേസ് 1 - ചരിത്രപരമായ പക്ഷപാതം. ഒരു മോഡൽ ഒരു പ്രത്യേക തൊഴിൽ ഗ്രൂപ്പിന് വ്യവസ്ഥാപിതമായി കുറഞ്ഞ സ്കോർ നൽകുന്നു, കാരണം മുൻകാലങ്ങളിൽ ഇതിന് കുറച്ച് ക്രെഡിറ്റ് നൽകിയിട്ടുണ്ട്. ഈ ഗ്രൂപ്പിൻ്റെ നിരസിക്കൽ നിരക്ക് സമാന വരുമാന നിലവാരത്തിലുള്ള മറ്റുള്ളവരേക്കാൾ 30% കൂടുതലാണെന്ന് ഒരു ഫെയർനസ് ഓഡിറ്റ് കാണിക്കുന്നു. നിയമാനുസൃതമായ വരുമാനവും പേയ്മെൻ്റ് മാനദണ്ഡവും ഉപയോഗിച്ച് മോഡൽ പുനഃസന്തുലിതമാക്കിയിരിക്കുന്നു.
കേസ് 2 - സറോഗേറ്റ് വേരിയബിൾ. ഒരു മോഡലിലെ ശക്തമായ വേരിയബിളാണ് പിൻ കോഡ്. ചില വംശീയ കേന്ദ്രീകൃത അയൽപക്കങ്ങളുമായി പിൻ കോഡ് ഓവർലാപ്പ് ചെയ്യുന്നതായി ഓഡിറ്റ് കാണിക്കുന്നു, ഇത് പരോക്ഷ ഉത്ഭവ വിവേചനം സൃഷ്ടിക്കുന്നു. വേരിയബിൾ നീക്കം ചെയ്യുകയും പകരം നിയമാനുസൃത സാമ്പത്തിക മാനദണ്ഡങ്ങൾ നൽകുകയും ചെയ്യുന്നു; പ്രകടനം സ്വീകാര്യമായ തലത്തിൽ തുടരുന്നു, വിവേചനം ഇല്ലാതാക്കുന്നു.
കേസ് 3 - ഒബ്ജക്റ്റ് ചെയ്യാനുള്ള അവകാശം. നിരസിക്കപ്പെട്ട ഒരു ക്ലയൻ്റ് ന്യായീകരണം ചോദിക്കുന്നു. ബാങ്ക് വിശദീകരിക്കാവുന്ന ന്യായീകരണം (ഉയർന്ന കടം-വരുമാന അനുപാതം) നൽകുകയും മനുഷ്യ അവലോകനത്തിനുള്ള അഭ്യർത്ഥന സ്വീകരിക്കുകയും ചെയ്യുന്നു. ഒരു ഡോക്യുമെൻ്റിൻ്റെ തെറ്റായ വായന റിവ്യൂ വെളിപ്പെടുത്തുന്നു; തീരുമാനം തിരുത്തി. വിശദീകരിക്കാനുള്ള കഴിവും എതിർക്കാനുള്ള അവകാശവും ഒരു തെറ്റിന് നീതികൊണ്ട് നഷ്ടപരിഹാരം നൽകുന്നു.
ന്യായമായ അളവുകോലുകൾ: ഞങ്ങൾ എന്ത്, എങ്ങനെ അളക്കുന്നു
"മാതൃക ന്യായമാണോ?" എന്ന ചോദ്യത്തിന് ഒറ്റ ഉത്തരമില്ല; നീതിയുടെ ഒന്നിലധികം നിർവചനങ്ങൾ ഉണ്ട്, അവ ചിലപ്പോൾ പരസ്പരം കലഹിക്കുന്നു. ബാങ്കിംഗിൽ പ്രായോഗികമായി പിന്തുടരുന്ന ചില സമീപനങ്ങൾ ഇതാ:
- അംഗീകാരം/നിരസിക്കൽ നിരക്ക് താരതമ്യം: സമാന സാമ്പത്തിക പ്രൊഫൈലുകളുള്ള (ഉദാ. ജെൻഡർ ഗ്രൂപ്പുകൾ) വ്യത്യസ്ത ഗ്രൂപ്പുകൾക്കിടയിൽ അംഗീകാര നിരക്ക് വ്യവസ്ഥാപിതമായി വ്യത്യസ്തമാണോ? വലുതും വിശദീകരിക്കാനാകാത്തതുമായ വ്യത്യാസം പക്ഷപാതത്തിൻ്റെ അടയാളമാണ്.
- പിശക് നിരക്ക് തുല്യത: മോഡലിൻ്റെ തെറ്റായ നിരസിക്കൽ (നിയമപരമായ ഒരു അപേക്ഷ നിരസിക്കുന്നു) നിരക്ക് ഗ്രൂപ്പുകളിലുടനീളം സന്തുലിതമാണോ? ഒരു ഗ്രൂപ്പിനെ മറ്റൊന്നിനേക്കാൾ പലപ്പോഴും അന്യായമായി നിരസിച്ചാൽ, ഒരു പ്രശ്നമുണ്ട്.
- കാലിബ്രേഷൻ: മോഡൽ "ഉയർന്ന അപകടസാധ്യത" എന്ന് വിളിക്കുന്ന ഉപഭോക്താക്കൾ ഓരോ ഗ്രൂപ്പിലും സമാനമായ നിരക്കിൽ യഥാർത്ഥത്തിൽ ഡിഫോൾട്ടാണോ? സ്കോറിൻ്റെ അർത്ഥം ഗ്രൂപ്പിൽ നിന്ന് ഗ്രൂപ്പിലേക്ക് മാറരുത്.
ഈ അളവുകൾ ചിലപ്പോൾ ഒരേ സമയം നൽകാൻ കഴിയില്ല; നീതിയുടെ ഏത് നിർവചനമാണ് മുൻഗണന നൽകേണ്ടത്, അത് സാങ്കേതികമല്ല, മറിച്ച് ധാർമ്മികവും നിയമപരവുമായ തീരുമാനമാണ് കൂടാതെ മാനുഷിക ഭരണം ആവശ്യമാണ്.
നുറുങ്ങ്: നിങ്ങൾ മോഡൽ നിർമ്മിക്കുമ്പോൾ മാത്രമല്ല, കൃത്യമായ ഇടവേളകളിൽ ഫെയർനസ് മെട്രിക് അളക്കുക. ഡാറ്റ ഡ്രിഫ്റ്റ് കാരണം ഒരു മോഡൽ ന്യായമായ രീതിയിൽ ജീവിക്കുകയും കാലക്രമേണ പക്ഷപാതപരമായി മാറുകയും ചെയ്യാം. നീതി എന്നത് "സ്ഥാപനത്തിൻ്റെ" കാര്യമല്ല, മറിച്ച് "നിരീക്ഷണത്തിൻ്റെ" കാര്യമാണ്.
സാധാരണ തെറ്റുകൾ
- "ഒബ്ജക്റ്റീവ് ഡാറ്റ" തെറ്റ്. മോഡൽ നിഷ്പക്ഷമാണെന്ന് കരുതുക; ഡാറ്റ ചരിത്രപരമായ പക്ഷപാതം വഹിക്കുന്നു.
- സെൻസിറ്റീവ് കോളം ഇല്ലാതാക്കുക. സംരക്ഷിത പ്രോപ്പർട്ടി നീക്കം ചെയ്യുകയും പ്രോക്സി വേരിയബിളുകൾ കാണാതിരിക്കുകയും ചെയ്യുന്നു.
- ന്യായമായ അളവുകൾ ട്രാക്ക് ചെയ്യുന്നില്ല. ഗ്രൂപ്പുകൾ തമ്മിലുള്ള നിരസിക്കൽ/പിശക് നിരക്ക് താരതമ്യം ചെയ്യരുത്.
- ബ്ലാക്ക് ബോക്സ് തീരുമാനത്തെ പ്രതിരോധിക്കുന്നു. ന്യായീകരിക്കാൻ കഴിയാത്ത ഒരു തീരുമാനത്തെ നിയമാനുസൃതമായി കണക്കാക്കുന്നു.
- എതിർക്കാനുള്ള അവകാശം നീക്കം ചെയ്യുന്നു. മനുഷ്യ അവലോകനം പ്രവർത്തനരഹിതമാക്കുന്നു, കാരണം "ഇത് പ്രക്രിയയെ മന്ദഗതിയിലാക്കുന്നു."
ശ്രദ്ധിക്കുക: വിവേചനം പലപ്പോഴും ഉണ്ടാകുന്നത് വിദ്വേഷത്തിൽ നിന്നല്ല, അശ്രദ്ധയിൽ നിന്നാണ്. ഒരു വേരിയബിൾ ചേർത്തത് കാരണം അത് "കൃത്യത വർദ്ധിപ്പിക്കുന്നു" അറിയാതെ ഒരു ഗ്രൂപ്പിനെ ഒഴിവാക്കിയേക്കാം. അതുകൊണ്ട് നീതി നല്ല വിശ്വാസത്തിലല്ല, പതിവ് പരിശോധനയിൽ അധിഷ്ഠിതമാണ്.
ചുരുക്കത്തിൽ
AI മോഡലുകൾ അവർ പഠിക്കുന്ന ഡാറ്റയുടെ പക്ഷപാതങ്ങൾ വഹിക്കുന്നു, കൂടാതെ ബാങ്കിംഗിലെ വിവേചനം നിയമപരവും ധാർമ്മികവും പ്രശസ്തിയുള്ളതുമായ അപകടമാണ്. നേരിട്ടുള്ള വിവേചനം ഒരു സംരക്ഷിത സവിശേഷത ഉപയോഗിക്കുന്നു; മറുവശത്ത്, പരോക്ഷമായ വിവേചനം, പ്രോക്സി വേരിയബിളുകൾ (സിപ്പ് കോഡ്, പേര്) ഉപയോഗിച്ച് അതേ ഫലം നൽകുന്നു. സെൻസിറ്റീവ് കോളം മായ്ക്കലല്ല നീതി; ഫെയർനസ് മെട്രിക്സ്, പ്രോക്സി നിയന്ത്രണം, വിശദീകരണം, ഒബ്ജക്റ്റ് ചെയ്യാനുള്ള അവകാശം എന്നിവയാൽ ഉറപ്പാക്കപ്പെടുന്നു. ഒരു വാചകത്തിൽ: പാറ്റേൺ ഭൂതകാലത്തെ ആവർത്തിക്കുന്നു; നീതിയെ ഉയർത്തിപ്പിടിക്കുകയും വിവേചനം നിരാകരിക്കുകയും ചെയ്യേണ്ടത് മനുഷ്യൻ്റെ ഉത്തരവാദിത്തമാണ്.
ആപ്ലിക്കേഷൻ ടാസ്ക്
ഒരു ക്രെഡിറ്റ് മോഡലിനായി 8-10 വേരിയബിളുകളുടെ ഒരു ലിസ്റ്റ് എഴുതുക (ചിലത് മനഃപൂർവ്വം പ്രോക്സി റിസ്ക് ഉള്ളത്: പിൻ കോഡ്, പേര്, ഷോപ്പിംഗ് വിഭാഗം). 2. ടെംപ്ലേറ്റ് ഉപയോഗിച്ച് ഒരു പ്രോക്സി പരിശോധന നടത്തുകയും അപകടസാധ്യതയുള്ളവയെ അവയുടെ കാരണങ്ങളാൽ അടയാളപ്പെടുത്തുകയും ചെയ്യുക. തുടർന്ന് ഒരു വിവേചനപരമായ ന്യായീകരണ ടെക്സ്റ്റ് എഴുതി ടെംപ്ലേറ്റ് 1 ഉപയോഗിച്ച് സ്കാൻ ചെയ്യുക. അവസാനമായി, ഗ്രൂപ്പുകൾക്കിടയിൽ മോഡലിൻ്റെ നിരസിക്കൽ നിരക്ക് താരതമ്യം ചെയ്യാൻ ഏത് ഫെയർനെസ് മെട്രിക്സ് നിങ്ങൾ ട്രാക്ക് ചെയ്യണമെന്ന് ഒരു ഖണ്ഡികയിൽ പ്ലാൻ ചെയ്യുക.
ചെക്ക്ലിസ്റ്റ്
- [ ] മോഡൽ/യുക്തിസംരക്ഷിത പ്രോപ്പർട്ടികൾ ഉപയോഗിക്കുന്നില്ലെന്ന് ഞാൻ പരിശോധിച്ചു.
- [ ] പ്രോക്സി വേരിയബിളുകളുടെ അപകടസാധ്യതയും ഞാൻ പരിശോധിച്ചു.
- [ ] ഗ്രൂപ്പുകൾ തമ്മിലുള്ള അംഗീകാരം/നിരസിക്കൽ, പിശക് നിരക്ക് എന്നിവ താരതമ്യം ചെയ്യാൻ ഞാൻ പദ്ധതിയിട്ടു.
- [ ] ഓരോ തീരുമാനത്തിനും വിശദീകരിക്കാവുന്ന യുക്തിയുണ്ടെന്ന് ഞാൻ ഉറപ്പുവരുത്തി.
- [ ] ഞാൻ ഉപഭോക്താവിന് ഒബ്ജക്റ്റ് ചെയ്യാനും മാനുഷിക അവലോകനം നടത്താനുമുള്ള അവകാശം നൽകി.
- [ ] "ഹിറ്റ്" എന്നതിൻ്റെ പേരിൽ ഞാൻ വിവേചന ചുവപ്പ് വര പോലും കടന്നില്ല.