മുൻവിധി, വിവേചനം, ധാർമ്മികത: ന്യായവും സാംസ്കാരികമായി പ്രതികരിക്കുന്നതുമായ ഉപയോഗം

നേട്ടങ്ങൾ:

• പരിശീലന ഡാറ്റ, ഫ്രെയിമിംഗ്, ഇരട്ട നിലവാരം, മുഖസ്തുതി എന്നിവയിലൂടെ AI പക്ഷപാതം സൃഷ്ടിക്കുമ്പോൾ തിരിച്ചറിയുന്നു
• നിഷ്പക്ഷ ചോദ്യങ്ങൾ, തെളിവ് സ്റ്റീരിയോടൈപ്പ് വിവേചനം, റിവേഴ്സ് ആംഗിൾ ടെസ്റ്റ് എന്നിവ ഉപയോഗിച്ച് പക്ഷപാതത്തിനെതിരെ ഒരു നിയന്ത്രണം സ്ഥാപിക്കാനുള്ള കഴിവ്
• നിർണ്ണായകമായ ഒരു നിയമത്തിനുപകരം ശ്രദ്ധാകേന്ദ്രമായി സാംസ്കാരിക അറിവ് ഉപയോഗിച്ച് കളങ്കപ്പെടുത്തുന്ന ഭാഷയെ വിവരണാത്മകവും ആദരവുമുള്ള ഭാഷയിലേക്ക് വിവർത്തനം ചെയ്യാനുള്ള കഴിവ്

നീതിയും മാനുഷിക അന്തസ്സുമാണ് സാമൂഹിക പ്രവർത്തനത്തിൻ്റെ ഉന്നമനം; ഓരോ വ്യക്തിയും തുല്യ മൂല്യമുള്ളവരാണെന്നും, വിവേചനത്തെ എതിർക്കുന്നുവെന്നും, ദുർബല വിഭാഗങ്ങളെ സംരക്ഷിക്കുന്നുവെന്നും ഉള്ള പ്രതിബദ്ധതയാണ് തൊഴിലിൻ്റെ കാതൽ. ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് ഒരു അപകടസാധ്യത വഹിക്കുന്നു, അത് ഈ മൂല്യങ്ങളെ നിശബ്ദമായി ദോഷകരമായി ബാധിക്കും: പക്ഷപാതം. ചരിത്രപരമായ ഡാറ്റയിൽ നിന്ന് AI പഠിക്കുന്നു; ആ ഡാറ്റയിൽ സമൂഹത്തിലെ അസമത്വങ്ങൾ, സ്റ്റീരിയോടൈപ്പുകൾ, വിവേചനങ്ങൾ എന്നിവ ഉൾപ്പെടുന്നുവെങ്കിൽ, AI അവ പഠിക്കുകയും അവ വസ്തുനിഷ്ഠമായി തോന്നുന്ന ഭാഷയിൽ പുനർനിർമ്മിക്കുകയും ചെയ്യുന്നു. ഒരു സാമൂഹിക പ്രവർത്തകൻ്റെ കൈകളിൽ, ഇത് ഒരു ഗ്രൂപ്പിൻ്റെ വ്യവസ്ഥാപിതമായി കൂടുതൽ നിഷേധാത്മകമായ വിലയിരുത്തൽ, ഒരു കുടുംബത്തിൻ്റെ സ്റ്റീരിയോടൈപ്പ് അല്ലെങ്കിൽ ഒരു സംസ്കാരത്തെക്കുറിച്ചുള്ള തെറ്റിദ്ധാരണ എന്നിവയിലേക്ക് വിവർത്തനം ചെയ്യാവുന്നതാണ്. ഈ യൂണിറ്റിൽ, നിങ്ങൾ AI പക്ഷപാതം തിരിച്ചറിയാനും അതിനെതിരെ നിയന്ത്രിക്കാനും ന്യായമായും സാംസ്കാരിക സംവേദനക്ഷമതയോടെയും AI ഉപയോഗിക്കാനും പഠിക്കും.

തുടക്കം മുതലുള്ള ഒരു വസ്തുത: AI നിഷ്പക്ഷമല്ല, അത് നിഷ്പക്ഷമായി കാണപ്പെടുന്നു. ഏറ്റവും അപകടകരമായ പക്ഷപാതം ആത്മവിശ്വാസത്തോടെയും പ്രൊഫഷണൽ ഭാഷയിലും അവതരിപ്പിക്കപ്പെട്ടതാണ്; കാരണം അത് ചോദ്യം ചെയ്യപ്പെടാതെ സ്വീകരിക്കപ്പെടുന്നു. ഒരു സാമൂഹിക പ്രവർത്തകൻ എന്ന നിലയിൽ നിങ്ങളുടെ ജോലി ഈ അദൃശ്യ പക്ഷപാതം ദൃശ്യമാക്കുകയും ഔട്ട്‌പുട്ട് നിങ്ങളുടെ പ്രൊഫഷണൽ മൂല്യങ്ങളുമായി പൊരുത്തപ്പെടുന്നുണ്ടോ എന്ന് നിരീക്ഷിക്കുകയും ചെയ്യുക എന്നതാണ്.

AI ബയസ് എവിടെ നിന്ന് വരുന്നു, അത് എങ്ങനെയിരിക്കും?

• പരിശീലന ഡാറ്റ ബയസ്. സമൂഹത്തിലെ അസമത്വങ്ങളെ പ്രതിഫലിപ്പിക്കുന്ന പാഠങ്ങളിൽ നിന്നാണ് AI പഠിക്കുന്നത്. ചില വംശീയ വിഭാഗങ്ങൾ, ദരിദ്രർ, വികലാംഗർ, ചില അയൽപക്കങ്ങൾ അല്ലെങ്കിൽ ലിംഗഭേദം എന്നിവയെക്കുറിച്ചുള്ള സ്റ്റീരിയോടൈപ്പുകൾ ഔട്ട്പുട്ടിലേക്ക് ചോർന്നേക്കാം.
• ഭാഷയും ഫ്രെയിമിംഗ് പക്ഷപാതവും. AI-ക്ക് ഒരു ഗ്രൂപ്പിനെ നിഷ്ക്രിയമോ "പ്രശ്നമുള്ളതോ" അല്ലെങ്കിൽ "സഹായം ആവശ്യമുള്ള ഒരു വസ്തുവോ" ആയി രൂപപ്പെടുത്താൻ കഴിയും; വിഷയങ്ങളായി മറ്റൊരു കൂട്ടർ. ഒരേ സ്വഭാവം ഒരു ഗ്രൂപ്പിന് "സാംസ്കാരിക"മായും മറ്റൊരു ഗ്രൂപ്പിന് "പ്രശ്നമുള്ളത്" എന്നും വ്യാഖ്യാനിക്കാം.
• പ്രാതിനിധ്യത്തിൻ്റെ അഭാവം. ഡാറ്റയിൽ (ചെറിയ ജനസംഖ്യ, അപൂർവ കേസുകൾ) പ്രതിനിധീകരിക്കാത്ത ഗ്രൂപ്പുകളെ AI കൃത്യമല്ലാത്തതോ ഉപരിപ്ലവമായോ മനസ്സിലാക്കിയേക്കാം.
• മുഖസ്തുതി (പുകഴ്ത്തൽ). AI നിങ്ങളുടെ പരോക്ഷമായ കാഴ്ച സ്ഥിരീകരിക്കുന്നു; പക്ഷപാതപരമായ ഒരു ചോദ്യം പക്ഷപാതപരമായ സ്ഥിരീകരണം നൽകുന്നു.

ഈ പക്ഷപാതങ്ങൾ സാമൂഹിക പ്രവർത്തനത്തിൽ പ്രത്യേകിച്ച് അപകടകരമാണ്, കാരണം ഔട്ട്പുട്ട് യഥാർത്ഥ ആളുകളുടെ ജീവിതത്തെ നേരിട്ട് സ്പർശിക്കുന്നു-ഒരു വിലയിരുത്തൽ, ഒരു റിപ്പോർട്ട്, ഒരു റഫറൽ.

മുന്നറിയിപ്പ്: "AI അത് അങ്ങനെയാണ് വിലയിരുത്തിയത്" എന്നത് ഒരു മുന്നറിയിപ്പ് അടയാളമാണ്, ഒരു ന്യായീകരണമല്ല. ഒരു ഗ്രൂപ്പിനെയോ വ്യക്തിയെയോ നിഷേധാത്മകമായി ചിത്രീകരിക്കുന്ന ഔട്ട്‌പുട്ട് കാണുമ്പോൾ, ആദ്യത്തെ ചോദ്യം "അത് തെളിവുകളെ അടിസ്ഥാനമാക്കിയുള്ളതാണോ അതോ സ്റ്റീരിയോടൈപ്പുകളെ അടിസ്ഥാനമാക്കിയുള്ളതാണോ?" ആയിരിക്കണം.

ഘട്ടം ഘട്ടമായി: പക്ഷപാതത്തിനെതിരായ ഓഡിറ്റിംഗ്

1. നിഷ്പക്ഷമായി ചോദിക്കുക. സൂചിപ്പിക്കുന്നതോ നയിക്കാത്തതോ ആയ ചോദ്യങ്ങൾ ചോദിക്കുക; "എന്തുകൊണ്ടാണ് ഈ കുടുംബം അവഗണിക്കപ്പെടുന്നത് എന്ന് വിശദീകരിക്കുക" എന്നല്ല, മറിച്ച് "ഈ നിരീക്ഷണങ്ങൾ എന്താണ് അർത്ഥമാക്കുന്നത്, ഇതര വിശദീകരണങ്ങൾ എന്തൊക്കെയാണ്?" ചോദിക്കുക.
2. തെളിവും സ്റ്റീരിയോടൈപ്പും തമ്മിൽ വേർതിരിക്കുക. ഓരോ നിഷേധാത്മക പ്രസ്താവനയ്ക്കും, ചോദിക്കുക: ഇത് എൻ്റെ മുന്നിലുള്ള വ്യക്തമായ തെളിവുകളെ അടിസ്ഥാനമാക്കിയുള്ളതാണോ അതോ ഒരു ഗ്രൂപ്പിനെക്കുറിച്ചുള്ള പൊതുവായ അനുമാനത്തെ അടിസ്ഥാനമാക്കിയുള്ളതാണോ?
3. വിപരീത കോണിൽ നിന്ന് പരിശോധിക്കുക. മറ്റൊരു ഗ്രൂപ്പിൻ്റെ അതേ സാഹചര്യം പരിഗണിക്കുക: "ക്ലയൻ്റ് മറ്റൊരു സാമൂഹിക-സാമ്പത്തിക/വംശീയ പശ്ചാത്തലത്തിൽ നിന്നുള്ളയാളാണെങ്കിൽ, AI അത് അതേ ഭാഷയിൽ എഴുതുമോ?"
4. സാംസ്കാരിക സംവേദനക്ഷമത തേടുക. ഒരു പെരുമാറ്റത്തിൻ്റെ സാംസ്കാരിക പശ്ചാത്തലത്തെക്കുറിച്ച് ചോദിക്കുക; എന്നാൽ സാംസ്കാരിക അറിവ് ഒരു സാധ്യതയും ജാഗ്രതാ പോയിൻ്റുമായി എടുക്കുക, ഒരു കേവല നിയമമല്ല (സ്റ്റീരിയോടൈപ്പ് ഒഴിവാക്കുക).
5. മുദ്ര പതിപ്പിക്കുന്ന നാവ് വൃത്തിയാക്കുക. വ്യക്തിയെയല്ല, സാഹചര്യം വിവരിക്കുന്ന ഒരു ഭാഷയിലേക്ക് ഇത് വിവർത്തനം ചെയ്യുക, കൂടാതെ ശക്തികൾ കാണുക.

മൂന്ന് മിനി കേസുകൾ

കേസ് 1 - റിവേഴ്സ് ആംഗിൾ ബയസ് വെളിപ്പെടുത്തി. ഒരു വിദഗ്ധൻ AI സമാനമായ രണ്ട് കേസുകൾ സംഗ്രഹിച്ചു; ഒരേയൊരു വ്യത്യാസം കുടുംബങ്ങളുടെ സാമൂഹിക സാമ്പത്തിക നില മാത്രമാണ്. താഴ്ന്ന വരുമാനമുള്ള കുടുംബത്തിന് "അവഗണനയുടെ ഉയർന്ന അപകടസാധ്യത" എന്ന സ്വരത്തിലും ഉയർന്ന വരുമാനമുള്ള കുടുംബത്തിന് "മാതാപിതാക്കൾ പെരുമാറാൻ നിർബന്ധിതരാകുന്നു" എന്ന സ്വരത്തിലും YZ എഴുതി. വിദഗ്ദ്ധൻ ഈ ഇരട്ട നിലവാരം തിരിച്ചറിഞ്ഞു, രണ്ട് വിലയിരുത്തലുകളും തെളിവുകൾ അടിസ്ഥാനമാക്കിയുള്ള തുല്യമായ ഭാഷയിലേക്ക് വാറ്റിയെടുത്തു.

കേസ് 2 - സാംസ്കാരിക ദുർവ്യാഖ്യാനം തിരുത്തി. വിപുലമായ കുടുംബത്തോടൊപ്പം താമസിക്കുന്ന ഒരു കുട്ടിയുടെ അവസ്ഥയെ "അതിർത്തി പ്രശ്‌നങ്ങളും സമ്മിശ്ര ഭവന അന്തരീക്ഷവും" ആയി YZ രൂപപ്പെടുത്തി. കുടുംബത്തിൻ്റെ സാംസ്കാരിക പശ്ചാത്തലത്തിൽ, കൂട്ടുകുടുംബം പിന്തുണയുടെയും സംരക്ഷണത്തിൻ്റെയും ശക്തമായ ഉറവിടമാണെന്ന് വിദഗ്ദ്ധന് അറിയാമായിരുന്നു. AI ഒരു സാംസ്കാരിക ശക്തിയെ ഒരു പ്രശ്നമാക്കി മാറ്റി. ഈ പിന്തുണ ഒരു വിഭവമായി അംഗീകരിക്കുന്നതിന് അവലോകനം ശരിയാക്കി.

കേസ് 3 - മുൻനിര ചോദ്യം പക്ഷപാതം സൃഷ്ടിച്ചു. “എന്തുകൊണ്ടാണ് ഈ പിതാവ് അവിശ്വസനീയനാണെന്ന് എഴുതുക,” ഒരു ഇൻ്റേൺ AI യോട് ചോദിച്ചു. യാതൊരു തെളിവുമില്ലാതെ പിതാവിനെ നിഷേധാത്മകമായി (മുഖസ്തുതി) ചിത്രീകരിക്കുന്ന ഒരു വാചകം AI നിർമ്മിച്ചു. സൂപ്പർവൈസർ ചോദ്യം പരിഷ്കരിച്ചു: "അച്ഛനെക്കുറിച്ചുള്ള നിരീക്ഷണങ്ങൾ എന്തൊക്കെയാണ്, അവൻ്റെ ശക്തിയും ബലഹീനതയും എന്തായിരിക്കാം?" ഔട്ട്പുട്ട് സന്തുലിതവും തെളിവുകൾ അടിസ്ഥാനമാക്കിയുള്ളതുമായി മാറിയിരിക്കുന്നു. പാഠം: പക്ഷപാതപരമായ ചോദ്യം പക്ഷപാതപരമായ ഉത്തരം നൽകുന്നു.

പകർത്താവുന്ന നാല് ടെംപ്ലേറ്റുകൾ

1) നിഷ്പക്ഷവും സമതുലിതമായതുമായ മൂല്യനിർണ്ണയം അഭ്യർത്ഥിക്കുക:

ഇനിപ്പറയുന്ന നിരീക്ഷണങ്ങൾ സംഗ്രഹിക്കുമ്പോൾ, സാധ്യമായ ശക്തികളും സാധ്യമായ ആശങ്കകളും നിങ്ങൾ സമതുലിതമായ രീതിയിലും തെളിവുകളുടെ അടിസ്ഥാനത്തിൽ മാത്രം അവതരിപ്പിക്കുന്നു. സ്റ്റീരിയോടൈപ്പുകളെ അടിസ്ഥാനമാക്കി യാതൊരു അനുമാനങ്ങളും ഉണ്ടാക്കരുത്. ഒരു അഭിപ്രായം നിരീക്ഷണത്തെ ആശ്രയിക്കുന്നില്ലെങ്കിൽ, "അപര്യാപ്തമായ തെളിവുകൾ" എഴുതുക. നിരീക്ഷണങ്ങൾ: [നിരീക്ഷണങ്ങൾ ഒട്ടിക്കുക]

2) ബയസ് ചെക്ക് (ഓപ്പോസിറ്റ് ആംഗിൾ ടെസ്റ്റ്):

ചുവടെയുള്ള അവലോകന വാചകം പരിശോധിക്കുക. ഉപഭോക്താവിൻ്റെ സാമൂഹിക സാമ്പത്തിക നില, വംശം, മതം, ലിംഗഭേദം, വൈകല്യം അല്ലെങ്കിൽ അയൽപക്കം എന്നിവ കാരണം അടിസ്ഥാനരഹിതമായ സ്റ്റീരിയോടൈപ്പ് നൽകുന്ന പ്രസ്താവനകളുണ്ടോ? ഓരോന്നിനും, ചോദിക്കുക: "ക്ലയൻ്റ് മറ്റൊരു ഗ്രൂപ്പിൽ നിന്നാണെങ്കിൽ ഇത് ഒരേ ഭാഷയിൽ എഴുതുമോ?" പ്രശ്‌ന വാക്യങ്ങൾ ഫ്ലാഗ് ചെയ്യുക. വാചകം: [വാചകം ഒട്ടിക്കുക]

3) സാംസ്കാരിക സന്ദർഭം (സ്റ്റീരിയോടൈപ്പ് അല്ലാത്തത്):

വ്യത്യസ്‌ത സാംസ്‌കാരിക സന്ദർഭങ്ങളിൽ ഇനിപ്പറയുന്ന പെരുമാറ്റം/സാഹചര്യം എന്താണ് അർത്ഥമാക്കുന്നത് എന്നതിനുള്ള സാധ്യതകൾ നൽകുക. കേവല നിയമങ്ങളല്ല, പരിഗണിക്കേണ്ട പോയിൻ്റുകളായി ഇവ നൽകുക; ഓരോ സമുദായത്തിലും വ്യക്തിപരമായ വ്യത്യാസങ്ങളുണ്ടെന്ന് ഊന്നിപ്പറയുക. ഒരൊറ്റ ഗ്രൂപ്പിനെക്കുറിച്ച് സാമാന്യവത്കരിക്കരുത്. സാഹചര്യം: [സാഹചര്യം എഴുതുക]

4) നാവ് വൃത്തിയാക്കൽ അച്ചടിക്കുക:

താഴെയുള്ള വാചകത്തിൽ, വ്യക്തിയെ വിലയിരുത്തുന്നതോ അപകീർത്തിപ്പെടുത്തുന്നതോ ആയ നാമവിശേഷണങ്ങൾ കണ്ടെത്തുക (ഉദാ. "അശ്രദ്ധ," "സഹകരണം," "പ്രശ്നമുള്ളത്"). ഓരോന്നിനും, അതേ വസ്‌തുതയെ വിവരണാത്മകവും ആദരണീയവും ശക്തികളെ തിരിച്ചറിയുന്നതുമായ ഒരു ബദൽ ഉപയോഗിച്ച് മാറ്റിസ്ഥാപിക്കുക. പുതിയ വിവരങ്ങൾ ചേർക്കുന്നു. വാചകം: [വാചകം ഒട്ടിക്കുക]

ദുർബലമായ പ്രോംപ്റ്റ് / ശക്തമായ പ്രോംപ്റ്റ്

ദുർബലമായ പ്രോംപ്റ്റ്:

കുട്ടികളെ വളർത്തുന്നതിൽ ഈ കുടുംബം അപര്യാപ്തമായിരിക്കുന്നത് എന്തുകൊണ്ടെന്ന് വിശദീകരിക്കുക.

ഈ ചോദ്യം തുടക്കം മുതൽ ഫലം അനുമാനിക്കുന്നു ("അപര്യാപ്തം"). മുഖസ്തുതിക്കുള്ള പ്രവണതയോടെ AI, ഈ അനുമാനത്തെ സ്ഥിരീകരിക്കുന്ന തെളിവുകളില്ലാത്തതും പക്ഷപാതപരവുമായ ഒരു വാചകം നിർമ്മിക്കും. ചോദ്യം പക്ഷപാതപരമാണെങ്കിൽ ഉത്തരവും പക്ഷപാതപരമായിരിക്കും.

ശക്തമായ നിർദ്ദേശം:

ഇനിപ്പറയുന്ന നിരീക്ഷണങ്ങളെ അടിസ്ഥാനമാക്കി, ഈ കുടുംബത്തിൻ്റെ കുട്ടികളെ വളർത്തുന്ന ശക്തികളും ആശങ്കാജനകമായ മേഖലകളും സന്തുലിതവും തെളിവുകൾ മാത്രമുള്ളതുമായ രീതിയിൽ പട്ടികപ്പെടുത്തുക. തുടക്കം മുതൽ ഫലം ഊഹിക്കരുത്; തെളിവുകൾ അപര്യാപ്തമാണെങ്കിൽ, പറയുക. സ്റ്റീരിയോടൈപ്പുകൾ ഒഴിവാക്കുക. നിരീക്ഷണങ്ങൾ: [നിരീക്ഷണങ്ങൾ ഒട്ടിക്കുക]

വ്യത്യാസം: ഫലം ഊഹിക്കാത്തതും തെളിവുകൾ ആവശ്യപ്പെടുന്നതുമായ ഒരു സമതുലിതമായ ചോദ്യം ആദ്യം പക്ഷപാതത്തെ തടയുന്നു.

പക്ഷപാതത്തിൻ്റെ തരങ്ങളും പ്രതിരോധ നടപടികളും

പക്ഷപാതത്തിൻ്റെ തരം

അത് എങ്ങനെയിരിക്കും

പ്രതിവിധി

പരിശീലന ഡാറ്റ

ഗ്രൂപ്പ് സ്റ്റീരിയോടൈപ്പ്

തെളിവ്-പാറ്റേൺ വ്യത്യാസം

ഫ്രെയിമിംഗ്

നിഷ്ക്രിയ/നിഷേധാത്മക ഭാഷ

സമതുലിതമായ, വിഷയ കേന്ദ്രീകൃത ഭാഷ

ഇരട്ടത്താപ്പ്

ഒരേ സ്വഭാവം, വ്യത്യസ്തമായ സ്വരം

റിവേഴ്സ് ആംഗിൾ ടെസ്റ്റ്

സാംസ്കാരിക അന്ധത

സാംസ്കാരിക ശക്തിയെ ഒരു പ്രശ്നമാക്കി മാറ്റുന്നു

സാംസ്കാരിക പശ്ചാത്തല ചോദ്യം

മുഖസ്തുതി

സൂചന സ്ഥിരീകരിക്കുക

നിഷ്പക്ഷമായ ചോദ്യങ്ങൾ ചോദിക്കരുത്

പ്രാതിനിധ്യത്തിൻ്റെ അഭാവം

ഉപരിപ്ലവമായ / തെറ്റിദ്ധാരണ

പ്രാദേശിക/വിദഗ്ധ സ്ഥിരീകരണം

സാധാരണ തെറ്റുകൾ

• മുൻവിധിയോടെയുള്ള ചോദ്യങ്ങൾ ചോദിക്കുന്നു. ഒരു നിഗമനത്തെ അനുമാനിക്കുന്ന ഒരു ചോദ്യം പക്ഷപാതപരമായ ഉത്തരം നൽകുന്നു; നിഷ്പക്ഷ പ്രശ്നം.
• ആത്മവിശ്വാസമുള്ള ഭാഷയെ ആശ്രയിക്കുന്നു. പ്രൊഫഷണൽ ടോൺ പക്ഷപാതം ശരിയാക്കുന്നില്ല; തെളിവുകൾ നോക്കൂ.
• സാംസ്കാരിക അറിവ് ഒരു നിശ്ചിത നിയമമായി കണക്കാക്കുന്നു. സാധ്യതയുടെയും ശ്രദ്ധയുടെയും ഒരു പോയിൻ്റായി അത് എടുക്കുക; സ്റ്റീരിയോടൈപ്പുകൾ ഒഴിവാക്കുക.
• ഇരട്ടത്താപ്പ് ശ്രദ്ധിക്കുന്നില്ല. വ്യത്യസ്ത ഗ്രൂപ്പുകളിൽ ഒരേ സ്വഭാവം എങ്ങനെ എഴുതിയിരിക്കുന്നുവെന്ന് പരിശോധിക്കുക.
• സ്റ്റാമ്പ് തെളിവായി തെറ്റിദ്ധരിക്കുന്നു. അതൊരു "അശ്രദ്ധ" വിധിയാണ്; പ്രതിഭാസം വിവരിക്കുക, വ്യക്തിയെ വിലയിരുത്തരുത്.

ചുരുക്കത്തിൽ

AI നിഷ്പക്ഷമല്ല, അത് നിഷ്പക്ഷമായി കാണപ്പെടുന്നു; ഇത് വിദ്യാഭ്യാസ ഡാറ്റയിലെ അസമത്വങ്ങളും സ്റ്റീരിയോടൈപ്പുകളും ഒഴുക്കുള്ള ഭാഷയിൽ പുനർനിർമ്മിക്കുന്നു. സോഷ്യൽ വർക്കിൽ, ഇത് യഥാർത്ഥ ആളുകളുടെ അന്യായമായ വിലയിരുത്തലുകളിലേക്ക് നയിച്ചേക്കാം. പക്ഷപാതം (പരിശീലന ഡാറ്റ, ഫ്രെയിമിംഗ്, ഇരട്ട നിലവാരം, സാംസ്കാരിക അന്ധത, മുഖസ്തുതി) തിരിച്ചറിയുക, അതിനെതിരെ പരിശോധിക്കുക (നിഷ്പക്ഷമായ ചോദ്യം, തെളിവ്-പാറ്റേൺ വേർതിരിവ്, ആംഗിൾ ടെസ്റ്റിംഗ്, സാംസ്കാരിക സംവേദനക്ഷമത, കളങ്കം ക്ലിയറിംഗ്), കൂടാതെ ഓരോ ഔട്ട്പുട്ടും പ്രൊഫഷൻ്റെ ന്യായവും ബഹുമാനവും ഉപയോഗിച്ച് ഫിൽട്ടർ ചെയ്യുക. അന്തിമ നൈതിക ഫിൽട്ടർ എപ്പോഴും നിങ്ങളാണ്.

ആപ്ലിക്കേഷൻ ടാസ്ക്

രണ്ട് വ്യത്യസ്ത ഗ്രൂപ്പ് പ്രൊഫൈലുകൾ (ഉദാ. വ്യത്യസ്ത സാമൂഹിക സാമ്പത്തിക നില) ഉപയോഗിച്ച് ഒരേ കൂട്ടം സാങ്കൽപ്പിക നിരീക്ഷണങ്ങൾ സംഗ്രഹിച്ച് ടോണുകൾ/ഭാഷ വ്യത്യസ്തമാണോ എന്ന് "റിവേഴ്സ് ആംഗിൾ ടെസ്റ്റ്" ഉപയോഗിച്ച് താരതമ്യം ചെയ്യുക. തുടർന്ന് ബോധപൂർവമായ പക്ഷപാതപരമായ ചോദ്യം ("എന്തുകൊണ്ടാണ് അപര്യാപ്തമെന്ന് വിശദീകരിക്കുക") ഉപയോഗിച്ച് ഒരു നിഷ്പക്ഷ ചോദ്യം പരീക്ഷിച്ച് ഫലങ്ങളിലെ വ്യത്യാസം പരിശോധിക്കുക. അവസാനമായി, ഒരു വാചകത്തിൽ "വാട്ടർമാർക്കർ ഭാഷ ക്ലീനിംഗ്" ടെംപ്ലേറ്റ് പ്രയോഗിക്കുക.

ചെക്ക്ലിസ്റ്റ്

• [ ] ഫലം ഊഹിക്കാതെ ഞാൻ എൻ്റെ ചോദ്യങ്ങൾ നിഷ്പക്ഷമായി രൂപപ്പെടുത്തി.
• [ ] ഞാൻ തെളിവ്-സ്റ്റീരിയോടൈപ്പ് വ്യത്യാസം ഉപയോഗിച്ച് ഓരോ നെഗറ്റീവ് പ്രസ്താവനയും പരിശോധിച്ചു.
• [ ] റിവേഴ്സ് ആംഗിൾ ടെസ്റ്റ് ഉപയോഗിച്ച് ഞാൻ ഇരട്ട നിലവാരം പരിശോധിച്ചു.
• [ ] ഞാൻ സാംസ്കാരിക അറിവ് ഒരു ജാഗ്രതാ പോയിൻ്റായി ഉപയോഗിച്ചു, ഒരു കേവല നിയമമല്ല.
• [ ] കളങ്കപ്പെടുത്തുന്ന ഭാഷയെ ഞാൻ വിവരണാത്മകവും മാന്യവുമായ ഭാഷ ഉപയോഗിച്ച് മാറ്റി.