تعصب، تبعیض و اخلاق: استفاده منصفانه و فرهنگی پاسخگو

سود:

• تشخیص اینکه چه زمانی هوش مصنوعی از طریق داده های آموزشی، چارچوب بندی، استانداردهای دوگانه و چاپلوسی، سوگیری ایجاد می کند.
• توانایی ایجاد کنترل در برابر سوگیری با سوالات خنثی، تمایز کلیشه ای شواهد و آزمون زاویه معکوس
• توانایی ترجمه زبان انگ زننده به زبان توصیفی و محترمانه با استفاده از دانش فرهنگی به عنوان نقطه توجه به جای یک قانون قطعی

دلیل وجود مددکاری اجتماعی عدالت و کرامت انسانی است. در هسته این حرفه تعهدی وجود دارد که همه افراد دارای ارزش برابر هستند، با تبعیض مخالفت می شود و گروه های آسیب پذیر محافظت می شوند. هوش مصنوعی خطری را به همراه دارد که می تواند به طور بی صدا دقیقاً به این ارزش ها آسیب برساند: سوگیری. هوش مصنوعی از داده های تاریخی یاد می گیرد. اگر این داده ها شامل نابرابری ها، کلیشه ها و تبعیض در جامعه باشد، هوش مصنوعی آنها را می آموزد و آنها را به زبانی روان و با ظاهر "عینی" بازتولید می کند. در دست یک مددکار اجتماعی، این می‌تواند به ارزیابی منفی‌تر سیستماتیک از یک گروه، کلیشه‌ای از یک خانواده یا درک نادرست از یک فرهنگ تبدیل شود. در این بخش، شما یاد خواهید گرفت که تعصب هوش مصنوعی را تشخیص دهید، آن را کنترل کنید و از هوش مصنوعی با انصاف و حساسیت فرهنگی استفاده کنید.

یک واقعیت از ابتدا: هوش مصنوعی خنثی نیست، خنثی به نظر می رسد. خطرناک ترین سوگیری آن است که به زبانی مطمئن و حرفه ای ارائه شود. زیرا بدون تردید پذیرفته شده است. وظیفه شما به عنوان یک مددکار اجتماعی این است که این تعصب نامرئی را قابل مشاهده کنید و نظارت کنید که آیا خروجی با ارزش های حرفه ای شما در تضاد است یا خیر.

تعصب هوش مصنوعی از کجا می آید و چگونه به نظر می رسد؟

• تعصب داده های آموزشی هوش مصنوعی از متونی می آموزد که منعکس کننده نابرابری ها در جامعه هستند. ممکن است کلیشه‌های مربوط به گروه‌های قومی خاص، فقرا، معلولان، محله‌های خاص یا جنسیت‌ها به بیرون درز کند.
• تعصب زبان و کادربندی هوش مصنوعی می‌تواند گروهی را به‌عنوان منفعل، «مشکل‌آمیز» یا «شی که به کمک نیاز دارد» قرار دهد. گروه دیگری به عنوان سوژه همین رفتار ممکن است توسط یک گروه به عنوان «فرهنگی» و توسط گروه دیگر «مشکل‌آمیز» تعبیر شود.
• عدم نمایندگی هوش مصنوعی ممکن است به صورت نادرست یا سطحی گروه‌هایی را که در داده‌ها نشان داده نمی‌شوند درک کند (جمعیت‌های کوچک، موارد نادر).
• چاپلوسی (تصاویر). هوش مصنوعی تمایل دارد دیدگاه ضمنی شما را تأیید کند. یک سوال مغرضانه یک تایید مغرضانه به همراه دارد.

این سوگیری ها به ویژه در کار اجتماعی خطرناک هستند زیرا خروجی مستقیماً زندگی واقعی افراد را تحت تأثیر قرار می دهد - ارزیابی، گزارش، ارجاع.

احتیاط: "هوش مصنوعی آن را به این ترتیب ارزیابی کرد" یک علامت هشدار است، نه یک توجیه. هنگامی که خروجی هایی را مشاهده می کنید که یک گروه یا فرد را منفی نشان می دهد، اولین سوال این است که "آیا بر اساس شواهد است یا بر اساس کلیشه ها؟" باید باشد.

گام به گام: حسابرسی در برابر تعصب

1. بی طرف بپرس سوالاتی بپرسید که دلالت بر آن نداشته باشد یا منجر شود. نه "توضیح دهید که چرا این خانواده غفلت می کنند"، بلکه "این مشاهدات چه معنایی دارند، توضیحات جایگزین چیست؟" بپرسید
2. بین شواهد و کلیشه تمایز قائل شوید. برای هر گزاره منفی، بپرسید: آیا بر اساس شواهد عینی پیش روی من است یا بر اساس یک فرض کلی در مورد یک گروه است؟
3. از زاویه مخالف تست کنید. همین وضعیت را برای گروه دیگری در نظر بگیرید: "اگر مشتری از یک پیشینه اجتماعی-اقتصادی/قومی متفاوت بود، آیا هوش مصنوعی آن را به همان زبان می نوشت؟"
4. به دنبال حساسیت فرهنگی باشید. در مورد زمینه فرهنگی یک رفتار بپرسید. اما دانش فرهنگی را به عنوان یک امکان و نکته احتیاط در نظر بگیرید، نه یک قاعده مطلق (پرهیز از کلیشه).
5. زبان چاپ را تمیز کنید. آن را به زبانی ترجمه کنید که موقعیت را توصیف کند، نه شخص را، و همچنین نقاط قوت را ببیند.

سه کیف کوچک

مورد 1 - زاویه معکوس سوگیری را نشان داد. یک متخصص از هوش مصنوعی خواسته بود دو مورد مشابه را خلاصه کند. تنها تفاوت وضعیت اجتماعی و اقتصادی خانواده ها بود. YZ با لحن "خطر زیاد بی توجهی" برای خانواده کم درآمد و با لحن "والد مجبور به رفتار" برای خانواده پردرآمد نوشت. کارشناس این استاندارد دوگانه را تشخیص داد و هر دو ارزیابی را به زبانی مبتنی بر شواهد و یکسان تقطیر کرد.

مورد 2 - تفسیر نادرست فرهنگی اصلاح شد. YZ وضعیت کودکی را که با خانواده بزرگ زندگی می کند به عنوان «مسائل مرزی و محیط خانه مختلط» تعریف کرد. کارشناس می‌دانست که در بافت فرهنگی خانواده، خانواده گسترده منبع قدرتمندی از حمایت و محافظت است. هوش مصنوعی یک نیروی فرهنگی را به مشکل تبدیل کرده بود. این بررسی برای شناسایی این پشتیبانی به عنوان یک منبع اصلاح شده است.

مورد 3 - سوال اصلی سوگیری ایجاد کرد. یک کارآموز از هوش مصنوعی پرسید: «بنویس که چرا این پدر غیرقابل اعتماد است. هوش مصنوعی متنی را تولید کرد که بدون هیچ مدرکی پدر را به صورت منفی (چاپلوسی) به تصویر می کشد. سرپرست این سوال را اصلاح کرد: مشاهدات در مورد پدر چیست، چه نقاط قوت و ضعفی می تواند داشته باشد؟ خروجی متوازن و مبتنی بر شواهد شده است. درس: سوال جانبدارانه پاسخ مغرضانه تولید می کند.

چهار قالب قابل کپی

1) درخواست یک ارزیابی بی طرف و متعادل:

در جمع بندی مشاهدات زیر، هم نقاط قوت و هم نگرانی های احتمالی را به صورت متوازن و فقط بر اساس شواهد ارائه می کنید. بر اساس کلیشه ها استنباط نکنید. اگر نظری مبتنی بر مشاهده نیست، بنویسید «شواهد ناکافی». مشاهدات: [چسباندن مشاهدات]

2) بررسی سوگیری (تست زاویه مخالف):

متن نقد زیر را بررسی کنید. آیا اظهاراتی وجود دارد که به دلیل وضعیت اجتماعی-اقتصادی، قومیت، مذهب، جنسیت، ناتوانی یا محله مشتری، کلیشه ای غیرقابل اثبات را منتقل می کند؟ برای هر کدام، بپرسید: "اگر مشتری از گروه دیگری باشد، آیا این به یک زبان نوشته می شود؟" جملات مشکل را پرچم گذاری کنید. متن: [پیست متن]

3) بافت فرهنگی (غیر کلیشه ای):

امکاناتی را برای معنای رفتار/وضعیت زیر در زمینه های فرهنگی مختلف ارائه دهید. اینها را به عنوان نکاتی که باید در نظر گرفته شوند، به عنوان قوانین مطلق بیان کنید. تاکید کنید که در هر جامعه تفاوت های فردی وجود دارد. در مورد یک گروه تعمیم ندهید. وضعیت: [وضعیت بنویس]

4) تمیز کردن زبان چاپ:

در متن زیر، صفت هایی را بیابید که به شخص قضاوت می کنند یا به او انگ می زنند (به عنوان مثال، "غفلت کننده"، "عدم همکاری"، "مشکل ساز"). برای هر یک، همان واقعیت را با یک جایگزین جایگزین کنید که توصیفی، محترمانه و نقاط قوت باشد. افزودن اطلاعات جدید. متن: [پیست متن]

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

توضیح دهید که چرا این خانواده در تربیت فرزندان ناکافی است.

این سوال نتیجه را از ابتدا فرض می کند ("ناکافی"). هوش مصنوعی با تمایل خود به چاپلوسی، متنی بدون شواهد و مغرضانه تولید می کند که این فرض را تأیید می کند. اگر سوال جانبدارانه باشد، پاسخ نیز مغرضانه خواهد بود.

اعلان قدرتمند:

بر اساس مشاهدات زیر، هم نقاط قوت این خانواده در تربیت فرزند و هم زمینه های نگرانی را به صورت متوازن و تنها با شواهد فهرست کنید. نتیجه را از ابتدا فرض نکنید. اگر شواهد کافی نیست، آن را بیان کنید. از کلیشه ها اجتناب کنید. مشاهدات: [مشاهدات چسباندن]

تفاوت: یک سوال متعادل که نتیجه را فرض نمی کند و شواهد می خواهد، در وهله اول از سوگیری جلوگیری می کند.

انواع سوگیری و اقدامات متقابل

نوع سوگیری

چه شکلی است

اقدام متقابل

داده های آموزشی

کلیشه گروهی

تمایز شواهد-الگو

قاب بندی

زبان منفعل/منفی

زبان متوازن و موضوع محور

استاندارد دوگانه

رفتار یکسان، لحن متفاوت

تست زاویه معکوس

کوری فرهنگی

تبدیل قدرت فرهنگی به مشکل

سوال زمینه فرهنگی

چاپلوسی

دلالت را تایید کنید

سوالات خنثی نپرسید

عدم وجود نمایندگی

سطحی/سوء تفاهم

تاییدیه محلی/کارشناس

اشتباهات رایج

• پرسیدن سوالات متعصبانه سؤالی که نتیجه گیری را فرض می کند، پاسخی مغرضانه ایجاد می کند. مشکل خنثی
• تکیه بر زبان مطمئن لحن حرفه ای تعصب را درست نمی کند. به شواهد نگاه کنید
• در نظر گرفتن دانش فرهنگی به عنوان یک قانون قطعی. آن را به عنوان یک نقطه امکان و توجه در نظر بگیرید. از کلیشه ها دوری کنید.
• عدم توجه به استانداردهای دوگانه تست کنید که چگونه یک رفتار مشابه در گروه های مختلف نوشته شده است.
• اشتباه گرفتن مهر به عنوان مدرک این یک قضاوت "سهل انگارانه" است. پدیده را توصیف کنید، شخص را قضاوت نکنید.

به طور خلاصه

هوش مصنوعی خنثی نیست، خنثی به نظر می رسد. این نابرابری ها و کلیشه ها را در داده های آموزشی به زبانی روان بازتولید می کند. در مددکاری اجتماعی، این می تواند منجر به ارزیابی ناعادلانه افراد واقعی شود. سوگیری (داده‌های آموزشی، چارچوب‌بندی، استانداردهای دوگانه، کوری فرهنگی، چاپلوسی) را تشخیص دهید (سوال خنثی، جداسازی الگوی شواهد، تست زاویه، حساسیت فرهنگی، پاک کردن انگ)، و هر خروجی را از طریق ارزش‌های انصاف و شرافت حرفه فیلتر کنید. آخرین فیلتر اخلاقی همیشه شما هستید.

وظیفه کاربردی

از هوش مصنوعی بخواهید مجموعه مشاهدات داستانی مشابهی را با دو نمایه گروهی متفاوت (مثلاً وضعیت اجتماعی-اقتصادی متفاوت) خلاصه کند و با «آزمون زاویه معکوس» مقایسه کند که آیا صداها/زبان متفاوت است. سپس یک سوال خنثی را با یک سوال آگاهانه جانبدارانه امتحان کنید ("توضیح دهید که چرا ناکافی است") و تفاوت در نتایج را بررسی کنید. در نهایت، الگوی “watermarker language cleaning” را روی یک متن اعمال کنید.

چک لیست

• [ ] من سوالاتم را بی طرفانه و بدون فرض نتیجه طرح کردم.
• [ ] من هر عبارت منفی را با استفاده از تمایز شواهد-کلیشه بررسی کردم.
• [ ] من استاندارد دوگانه را با تست زاویه معکوس بررسی کردم.
• [ ] من از دانش فرهنگی به عنوان یک نکته احتیاط استفاده کردم، نه یک قانون مطلق.
• [ ] زبان انگ انگ زدن را با زبان توصیفی و محترمانه جایگزین کردم.