മുൻവിധിയും നീതിയും

നേട്ടങ്ങൾ:

• AI ബയസിൻ്റെ പ്രാഥമിക ഉറവിടം ഡാറ്റയാണെന്ന് മനസ്സിലാക്കുന്നു
• ജോലിസ്ഥലത്ത് പക്ഷപാതം സൃഷ്ടിക്കുന്ന അപകടസാധ്യതകൾ തിരിച്ചറിയുന്നു
• മുൻവിധി കുറയ്ക്കാൻ സ്വീകരിക്കാവുന്ന നടപടികൾ നടപ്പിലാക്കുന്നു

AI ഒരു നിഷ്പക്ഷവും വസ്തുനിഷ്ഠവുമായ യന്ത്രമായി കാണപ്പെടുന്നു; എന്നാൽ സത്യം കൂടുതൽ സങ്കീർണ്ണമാണ്. AI സിസ്റ്റങ്ങൾ അവർ പരിശീലിപ്പിച്ച ഡാറ്റയിൽ മനുഷ്യ പക്ഷപാതങ്ങൾ പഠിക്കുകയും ചിലപ്പോൾ അവയെ വലുതാക്കി പുനർനിർമ്മിക്കുകയും ചെയ്യുന്നു. ചില ആളുകളെയോ ഗ്രൂപ്പുകളെയോ വ്യവസ്ഥാപിതമായി അനുകൂലിക്കുന്നതിനോ ഒഴിവാക്കുന്നതിനോ ഉള്ള ഒരു വ്യവസ്ഥയുടെ പ്രവണതയാണ് മുൻവിധി. ഈ യൂണിറ്റിൽ, മുൻവിധി എവിടെ നിന്നാണ് വരുന്നത്, ജോലിസ്ഥലത്ത് അത് എന്ത് അപകടസാധ്യതകൾ ഉണ്ടാക്കുന്നു, അതിനെതിരെ എന്തുചെയ്യാൻ കഴിയും എന്നിവ ഞങ്ങൾ പരിഗണിക്കും. ഇത് "ധാർമ്മികത"യുടെ മാത്രം കാര്യമല്ല; തെറ്റായി കൈകാര്യം ചെയ്യുമ്പോൾ നിയമപരവും വാണിജ്യപരവും പ്രശസ്തിപരവുമായ അപകടസാധ്യതയുള്ള ഒരു പ്രായോഗിക ബിസിനസ്സ് കാര്യമാണിത്.

മുൻവിധി എവിടെ നിന്ന് വരുന്നു?

ഒരു ഭാഷാ മാതൃകയുടെ വിവരങ്ങൾ മനുഷ്യർ നിർമ്മിക്കുന്ന വലിയ ഗ്രന്ഥങ്ങളിൽ നിന്നാണ്. ഈ ഗ്രന്ഥങ്ങളിൽ മനുഷ്യ സമൂഹത്തെക്കുറിച്ചുള്ള എല്ലാ അറിവുകളും അതോടൊപ്പം അതിൻ്റെ എല്ലാ സ്റ്റീരിയോടൈപ്പുകളും അസന്തുലിതാവസ്ഥകളും ചരിത്രപരമായ അസമത്വങ്ങളും അടങ്ങിയിരിക്കുന്നു. മോഡൽ "നല്ല", "മോശം" പാറ്റേണുകൾ തമ്മിൽ വേർതിരിക്കുന്നില്ല; ഡാറ്റയിൽ ഉള്ളതെന്തും അത് പഠിക്കുന്നു.

ഉദാഹരണം: മുൻകാല ഗ്രന്ഥങ്ങളിൽ ചില തൊഴിലുകൾ പ്രധാനമായും ലിംഗഭേദവുമായി ബന്ധപ്പെട്ടിരുന്നെങ്കിൽ (ഉദാ. "നഴ്സ്" സ്ത്രീയും, "എഞ്ചിനീയർ" പുരുഷനും), മോഡൽ ഈ ബന്ധം പഠിക്കുന്നു. "ഒരു എഞ്ചിനീയർ ഓഫീസിലേക്ക് നടന്നു, അവൻ..." എന്ന വാക്യം പൂർത്തീകരിക്കുമ്പോൾ അവൾ ഒരു പുരുഷ സർവ്വനാമം തിരഞ്ഞെടുക്കാൻ പ്രവണത കാണിക്കും, മോഡൽ ദുരുദ്ദേശ്യപരമല്ല; ഇത് ഡാറ്റയിലെ അസന്തുലിതാവസ്ഥയെ പ്രതിഫലിപ്പിക്കുന്നു.

അതിനാൽ പക്ഷപാതിത്വം കൂടുതലും കാരണം അത് ഡാറ്റയുടെ മിറർ ആയതുകൊണ്ടാണ്, ബോധപൂർവമായ പ്രോഗ്രാമിംഗ് പിശകല്ല. "ആരോ മോശം കോഡ് എഴുതി" എന്ന് പ്രശ്നം വിശദീകരിക്കുന്നത് തെറ്റിദ്ധരിപ്പിക്കുന്നതാണ്; ലോകത്തിലെ അസന്തുലിതാവസ്ഥ ഡാറ്റയിലേക്കും അവിടെ നിന്ന് മോഡലിലേക്കും കൊണ്ടുപോകുന്നു എന്നതാണ് പ്രശ്നം.

ജോലിസ്ഥലത്തെ മൂർത്തമായ അപകടസാധ്യതകൾ

പ്രദേശം

പക്ഷപാതത്തിൻ്റെ അപകടസാധ്യത

സാധ്യമായ ദോഷം

റിക്രൂട്ട്മെൻ്റ്

ചരിത്രപരമായ ഡാറ്റയിലെ പ്രവണത മനസിലാക്കുക, ചില ഗ്രൂപ്പുകളെ ഇല്ലാതാക്കുക

നിയമപരമായ കേസ്, കഴിവ് നഷ്ടം

ഉപഭോക്തൃ ആശയവിനിമയം

സ്റ്റീരിയോടൈപ്പിക് അല്ലെങ്കിൽ ഒഴിവാക്കൽ ഭാഷ

പ്രശസ്തി നഷ്ടപ്പെടൽ, ഉപഭോക്തൃ ഫ്ലൈറ്റ്

ക്രെഡിറ്റ്/റിസ്ക്

മുൻകാല അസമത്വങ്ങൾ നിലനിർത്തുന്നു

വിവേചനം, ഉപരോധം

പ്രകടന വിലയിരുത്തൽ

ഡാറ്റയിലെ പക്ഷപാതം തീരുമാനത്തിലേക്ക് കൊണ്ടുപോകുന്നു

അന്യായ പ്രമോഷൻ/ബോണസ്

ഉള്ളടക്കം/വിപണനം

നിർദ്ദിഷ്ട ഗ്രൂപ്പിനെ അദൃശ്യമാക്കുക

ബ്രാൻഡ് കേടുപാടുകൾ

മൂന്ന് മിനി കേസുകൾ

കേസ് 1 - പരസ്യം ഭാഷയെ ചുരുക്കുകയായിരുന്നു. ഒരു കമ്പനി AI ഉപയോഗിച്ച് ജോലി പോസ്റ്റിംഗുകൾ അച്ചടിക്കാൻ തുടങ്ങി. കുറച്ച് സമയത്തിന് ശേഷം, "യുവവും ചലനാത്മകവും", "അഗ്രസീവ് ടാർഗെറ്റ്" തുടങ്ങിയ പദപ്രയോഗങ്ങളുള്ള ഒരു നിശ്ചിത പ്രൊഫൈലിലേക്ക് പരസ്യങ്ങൾ ആകർഷിക്കുകയും അങ്ങനെ ആപ്ലിക്കേഷനുകളുടെ വൈവിധ്യം കുറയ്ക്കുകയും ചെയ്തു. "ഉൾക്കൊള്ളുന്ന ഭാഷ"ക്കായി ഓരോ പോസ്റ്റിംഗും പരിശോധിക്കുന്ന ഒരു ഘട്ടം ടീം ചേർത്തു; ഏതാനും മാസങ്ങൾക്കുള്ളിൽ അപേക്ഷകരുടെ വൈവിധ്യം ഗണ്യമായി വർദ്ധിച്ചു.

കേസ് 2 - സംഗ്രഹത്തിൽ മറഞ്ഞിരിക്കുന്ന പക്ഷപാതം. ഒരു മാനേജർക്ക് AI 30 ജീവനക്കാരുടെ ഫീഡ്‌ബാക്ക് സംഗ്രഹിച്ചു. റീക്യാപ്പ് ഒരു പ്രത്യേക ടീമിൽ നെഗറ്റീവ് അഭിപ്രായങ്ങൾ കേന്ദ്രീകരിക്കുന്നതായി തോന്നി; അതേസമയം, അസംസ്‌കൃത ഡാറ്റയിൽ സ്ഥിതി സന്തുലിതമായിരുന്നു. മോഡൽ നിരവധി ശക്തമായ പ്രസ്താവനകൾ പെരുപ്പിച്ചു കാണിക്കുന്നു. മാനേജർ തിരികെ പോയി റോ ഡാറ്റ പരിശോധിച്ചപ്പോൾ തെറ്റിദ്ധാരണ ഉണ്ടാക്കുന്നത് ഒഴിവാക്കി.

കേസ് 3 - ഇൻക്ലൂസിവിറ്റി മാൻഡേറ്റ് പ്രവർത്തിച്ചു. ഒരു മാർക്കറ്റിംഗ് ടീം കാമ്പെയ്ൻ കോപ്പിയിലെ നിർദ്ദേശം "ഉൾക്കൊള്ളുന്ന, നിർദ്ദിഷ്ടമല്ലാത്ത ലിംഗഭേദം/പ്രായം/ഗ്രൂപ്പ് ഭാഷ ഉപയോഗിക്കാനും അവസാനം നിങ്ങളുടെ അനുമാനങ്ങൾ പട്ടികപ്പെടുത്താനും" മാനദണ്ഡമാക്കി. നിർമ്മിച്ച ഗ്രന്ഥങ്ങളിലെ സൂത്രവാക്യ പദപ്രയോഗങ്ങൾ ഗണ്യമായി കുറഞ്ഞു; ടീമിന് ഓരോ ഔട്ട്‌പുട്ടും വീണ്ടും വീണ്ടും ശരിയാക്കേണ്ടി വന്നില്ല.

എന്തുകൊണ്ട് പക്ഷപാതം തിരിച്ചറിയാൻ പ്രയാസമാണ്?

മുൻവിധിയുടെ ഏറ്റവും വഞ്ചനാപരമായ കാര്യം അത് പലപ്പോഴും അദൃശ്യമാണ് എന്നതാണ്. ഔട്ട്പുട്ട് സുഗമവും പ്രൊഫഷണലും ന്യായയുക്തവുമാണ്; സൂക്ഷ്മമായി നോക്കുമ്പോഴോ വിവിധ ഗ്രൂപ്പുകളിൽ അതിൻ്റെ സ്വാധീനം അളക്കുമ്പോഴോ മാത്രമേ അതിനുള്ളിലെ പ്രവണത വ്യക്തമാകൂ. ഒരൊറ്റ ഉദാഹരണം നോക്കി "ഇവിടെ പക്ഷപാതമില്ല" എന്ന് പറയുന്നത് തെറ്റിദ്ധരിപ്പിക്കുന്നതാണ്; പക്ഷപാതം പലപ്പോഴും വ്യക്തിഗത ഉദാഹരണങ്ങളിലല്ല, മറിച്ച് വ്യവസ്ഥയുടെ പൊതുവായ പ്രവണതയിലാണ് പ്രകടമാകുന്നത്.

മുന്നറിയിപ്പ്: "ഞാൻ നിഷ്പക്ഷനാണ്, അതിനാൽ ഞാൻ ഉപയോഗിക്കുന്ന ഉപകരണവും നിഷ്പക്ഷമാണ്" എന്ന അനുമാനം അപകടകരമാണ്. ടൂളിൻ്റെ നിഷ്പക്ഷത പരിശീലന ഡാറ്റയെയും അത് എങ്ങനെ പരിശോധിക്കുന്നു എന്നതിനെയും ആശ്രയിച്ചിരിക്കുന്നു, നിങ്ങളുടെ ഉദ്ദേശ്യത്തെ അടിസ്ഥാനമാക്കിയല്ല.

ദുർബലമായ പ്രോംപ്റ്റ് / ശക്തമായ പ്രോംപ്റ്റ്

ദുർബലമായ പ്രോംപ്റ്റ്: ഈ സ്ഥാനത്തിന് അനുയോജ്യമായ സ്ഥാനാർത്ഥിയെ വിവരിക്കുക.

ഫലം: മോഡൽ സ്റ്റീരിയോടൈപ്പുകളെ ആശ്രയിക്കുകയും ഒരു പ്രത്യേക പ്രൊഫൈൽ "അനുയോജ്യമായത്" ആയി അവതരിപ്പിക്കുകയും ചെയ്യാം.

ശക്തമായ പ്രോംപ്റ്റ്: ജോലിക്ക് ശരിക്കും പ്രസക്തമായ ഈ സ്ഥാനത്തിന് അളക്കാവുന്ന കഴിവുകൾ മാത്രം ലിസ്റ്റ് ചെയ്യുക. ലിംഗഭേദം, പ്രായം, വൈവാഹിക നില, ജന്മദേശം എന്നിങ്ങനെ ജോലിയുമായി ബന്ധമില്ലാത്ത സവിശേഷതകളൊന്നും ഉപയോഗിക്കരുത്. അവസാനമായി, "ഞാൻ ഒഴിവാക്കുന്ന അനുമാനങ്ങൾ" എന്ന തലക്കെട്ടിന് കീഴിൽ നിങ്ങൾ വിട്ടുപോയത് എഴുതുക.

ഫലം: മൂല്യനിർണ്ണയം ജോലിയുമായി ബന്ധപ്പെട്ട മാനദണ്ഡങ്ങളിൽ പരിമിതപ്പെടുത്തിയിരിക്കുന്നു, അപ്രസക്തമായ സവിശേഷതകൾ ഒഴിവാക്കിയിരിക്കുന്നു.

പക്ഷപാതം കുറയ്ക്കുന്നതിനുള്ള ടെംപ്ലേറ്റുകൾ

ഉൾക്കൊള്ളുന്ന ഭാഷയ്ക്കായി ചുവടെയുള്ള വാചകം പരിശോധിക്കുക. ലിംഗഭേദം, പ്രായം, വംശീയത, വൈകല്യം അല്ലെങ്കിൽ ഒരു പ്രത്യേക ഗ്രൂപ്പ് എന്നിവയെ സൂചിപ്പിക്കുന്ന പ്രസ്താവനകൾ ഫ്ലാഗ് ചെയ്യുകയും ഓരോന്നിനും ഒരു നിഷ്പക്ഷ ബദൽ നിർദ്ദേശിക്കുകയും ചെയ്യുന്നു. വാചകം: [ഇവിടെ ഒട്ടിക്കുക]

ഈ വസ്തുനിഷ്ഠമായ മാനദണ്ഡങ്ങളെ അടിസ്ഥാനമാക്കി മാത്രം ഈ വിലയിരുത്തൽ നടത്തുക: [മാനദണ്ഡം]. ഈ മാനദണ്ഡങ്ങൾ (പേര്, ലിംഗഭേദം, പ്രായം) ഒഴികെയുള്ള ഒരു വിവരവും കണക്കിലെടുക്കരുത്.

നിങ്ങൾ തയ്യാറാക്കിയ വാചകത്തിൽ നിങ്ങൾ ഉണ്ടാക്കിയ അനുമാനങ്ങൾ അവസാനം ഒരു പ്രത്യേക തലക്കെട്ടിന് കീഴിൽ ലിസ്റ്റ് ചെയ്യുക. അതിനാൽ എനിക്ക് മറഞ്ഞിരിക്കുന്ന പക്ഷപാതങ്ങൾ കാണാൻ കഴിയും.

വായനക്കാരുടെ മൂന്ന് വ്യത്യസ്ത ഗ്രൂപ്പുകളുടെ കണ്ണിലൂടെ ഈ ഉള്ളടക്കം വിലയിരുത്തുകയും അവരിൽ ആരെയെങ്കിലും വ്രണപ്പെടുത്തുന്ന/അപദ്രവിപ്പിക്കുന്ന ഏതെങ്കിലും പ്രസ്താവനകൾ അടയാളപ്പെടുത്തുകയും ചെയ്യുക. ഉള്ളടക്കം: [ഇവിടെ ഒട്ടിക്കുക]

സാധാരണ തെറ്റുകൾ

സാധാരണ തെറ്റുകൾ

• "ന്യൂട്രൽ" AI ഔട്ട്പുട്ട് അനുമാനിക്കുന്നു. ഔട്ട്‌പുട്ട് ന്യൂട്രൽ ആണെന്ന് തോന്നുമെങ്കിലും, അത് ഡാറ്റയിൽ പക്ഷപാതം വഹിച്ചേക്കാം; സജീവമായ മേൽനോട്ടം ആവശ്യമാണ്.
• ഒരു ഉദാഹരണം നോക്കി "പക്ഷപാതമില്ല" എന്ന് പറഞ്ഞു. വ്യവസ്ഥയുടെ പൊതു പ്രവണതയിൽ മുൻവിധി മറഞ്ഞിരിക്കുന്നു.
• മേൽനോട്ടമില്ലാത്ത AI-ക്ക് ഉയർന്ന-ഇംപാക്ട് തീരുമാനമെടുക്കൽ വിടുന്നു. റിക്രൂട്ട്മെൻ്റ്, പ്രമോഷൻ, ക്രെഡിറ്റ് തുടങ്ങിയ തീരുമാനങ്ങളിൽ മനുഷ്യ അധികാരം അത്യന്താപേക്ഷിതമാണ്.
• ഉൾപ്പെടുത്തൽ ആവശ്യപ്പെടാൻ മറക്കുന്നു. പ്രോംപ്റ്റിൽ നിങ്ങൾ ഇത് വ്യക്തമായി അഭ്യർത്ഥിച്ചില്ലെങ്കിൽ, മോഡൽ ഡിഫോൾട്ട് പാറ്റേണുകളിലേക്ക് മടങ്ങും.
• അതിൻ്റെ അർത്ഥം "യന്ത്രം പറഞ്ഞു" എന്നാണ്. തീരുമാനം ഉപയോഗിക്കുന്ന വ്യക്തിയും അനന്തരഫലങ്ങൾക്ക് ഉത്തരവാദിയാണ്.

നീതി എല്ലാവരുടെയും ഉത്തരവാദിത്തമാണ്

മുൻവിധികളോട് പോരാടുക എന്നത് സാങ്കേതിക സംഘത്തിൻ്റെ മാത്രം ജോലിയല്ല. AI ഔട്ട്പുട്ട് ഉപയോഗിക്കുന്ന ഓരോ ജീവനക്കാരനും ആ ഔട്ട്പുട്ട് ന്യായമാണോ എന്ന് ചോദ്യം ചെയ്യാനുള്ള ഉത്തരവാദിത്തമുണ്ട്. "മെഷീൻ എന്നോട് പറഞ്ഞു" എന്നത് ഒരു ഒഴികഴിവല്ല; തീരുമാനമെടുക്കുന്ന വ്യക്തിയും അനന്തരഫലങ്ങൾക്ക് ഉത്തരവാദിയാണ്.

ചുരുക്കത്തിൽ

• AI പക്ഷപാതിത്വത്തിൻ്റെ പ്രാഥമിക ഉറവിടം ദ്രോഹമല്ല, പരിശീലന ഡാറ്റയിലെ നിലവിലുള്ള അസന്തുലിതാവസ്ഥയും സ്റ്റീരിയോടൈപ്പുകളുമാണ്.
• മുൻവിധി; റിക്രൂട്ട്‌മെൻ്റ്, കസ്റ്റമർ കമ്മ്യൂണിക്കേഷൻസ്, ഫിനാൻസ്, മൂല്യനിർണ്ണയം തുടങ്ങിയ മേഖലകളിൽ ഇത് യഥാർത്ഥ നിയമപരവും പ്രശസ്തവുമായ അപകടസാധ്യത സൃഷ്ടിക്കുന്നു.
• പക്ഷപാതം പലപ്പോഴും അദൃശ്യവും സിസ്റ്റത്തിൻ്റെ മൊത്തത്തിലുള്ള വിന്യാസത്തിൽ ഉൾച്ചേർന്നതുമാണ്; ഒരൊറ്റ ഉദാഹരണം നോക്കുന്നത് തെറ്റിദ്ധരിപ്പിക്കുന്നതാണ്.
• കുറയ്ക്കാൻ: അറിഞ്ഞിരിക്കുക, ജോലിയുമായി ബന്ധപ്പെട്ട മാനദണ്ഡങ്ങളിലേക്ക് തീരുമാനങ്ങൾ പരിമിതപ്പെടുത്തുക, ഉൾപ്പെടുത്താൻ വ്യക്തമായി ആവശ്യപ്പെടുക, ഉയർന്ന സ്വാധീനമുള്ള തീരുമാനങ്ങളിൽ മനുഷ്യ നിയന്ത്രണം ഏർപ്പെടുത്തുക.
• "മെഷീൻ എന്നോട് പറഞ്ഞു" എന്നത് ഒരു ഒഴികഴിവല്ല; ഔട്ട്പുട്ട് ഉപയോഗിക്കുന്ന എല്ലാവരുടെയും ഉത്തരവാദിത്തമാണ് ന്യായം.

ആപ്ലിക്കേഷൻ ടാസ്ക്

"ഒരു അനുയോജ്യമായ [ഏതെങ്കിലും തൊഴിൽ] തൊഴിലാളിയെ വിവരിക്കുക" എന്ന് AI-യോട് പറയുകയും ഔട്ട്‌പുട്ടിൽ എന്ത് (ഒരുപക്ഷേ അനാവശ്യമായ) അനുമാനങ്ങൾ ഉണ്ടാക്കിയെന്ന് അടയാളപ്പെടുത്തുകയും ചെയ്യുക. തുടർന്ന് മുകളിലുള്ള "ജോലി സംബന്ധിയായ മാനദണ്ഡം" ടെംപ്ലേറ്റ് ഉപയോഗിച്ച് ആവർത്തിക്കുക, ന്യായമായ രണ്ട് ഔട്ട്പുട്ടുകൾ താരതമ്യം ചെയ്യുക.

ചെക്ക്‌ലിസ്റ്റ്

• [ ] പക്ഷപാതത്തിൻ്റെ പ്രാഥമിക ഉറവിടം പരിശീലന ഡാറ്റയാണെന്ന് ഞാൻ മനസ്സിലാക്കുന്നു.
• [ ] ജോലിസ്ഥലത്തെ പക്ഷപാതം സൃഷ്ടിക്കുന്ന വ്യക്തമായ അപകടസാധ്യതകളെ എനിക്ക് പേരിടാം.
• [ ] പക്ഷപാതം പലപ്പോഴും അദൃശ്യമാണെന്നും ഒരൊറ്റ ഉദാഹരണം കാണുന്നത് തെറ്റിദ്ധരിപ്പിക്കുന്നതാണെന്നും എനിക്കറിയാം.
• [ ] ഇൻക്ലൂസേഷനും ജോലിയുമായി ബന്ധപ്പെട്ട മാനദണ്ഡങ്ങളും പ്രോംപ്റ്റിൽ എനിക്ക് വ്യക്തമായി ചോദിക്കാൻ കഴിയും.
• [ ] ഉയർന്ന സ്വാധീനമുള്ള തീരുമാനങ്ങളിൽ എനിക്ക് മനുഷ്യൻ്റെ മേൽനോട്ടം ആവശ്യമാണ്.