سود:
- با مثال هایی تشخیص دهید که چگونه سوگیری فرهنگی، جنسیتی و تشخیصی در مدل های هوش مصنوعی باعث آسیب در زمینه روانشناسی می شود.
- توانایی اجرای یک بررسی سوگیری که خروجی را برای گروه ها، زبان ها و فرهنگ های مختلف آزمایش می کند
- توانایی ایجاد تکنیک های سریع و راستی آزمایی که هنجارهای غرب محور و زبان انگ زنی را تصحیح می کند
هوش مصنوعی (AI) خنثی نیست. یک مدل هوش مصنوعی از انبوهی از متن در اینترنت یاد میگیرد و «جهاننمای» مدل به این دلیل است که صدای چه کسی بیشتر و چه کسی کمتر است. به این انحراف، سوگیری می گویند. تعصب در روانشناسی یک نقص فنی معمولی نیست. می تواند مستقیماً بر ارزیابی، تشخیص و درمان فرد تأثیر بگذارد. یک علامت ممکن است در یک فرهنگ "طبیعی" و در فرهنگ دیگر "آسیب شناختی" خوانده شود. یک رفتار ممکن است در یک جنسیت به عنوان «قاطعیت» و در جنس دیگر «پرخاشگری» باشد. هوش مصنوعی می تواند این سوگیری های تاریخی را بیاموزد و تکرار کند. در این بخش شما یاد خواهید گرفت که سوگیری در هوش مصنوعی را در زمینه روانشناسی تشخیص دهید و خروجی ها را برای گروه ها، زبان ها و فرهنگ های مختلف ممیزی کنید.
تعصب از کجا می آید و چه ضرری دارد؟
سه منبع اصلی سوگیری هوش مصنوعی وجود دارد:
- عدم تعادل داده های آموزشی مدل ها عمدتاً با متون یک زبان، فرهنگ و دوره خاص آموزش داده می شوند. بخش عمده ای از ادبیات روانشناسی از جوامع غربی، تحصیل کرده و صنعتی می آید. از این رو فرض "انسان عادی" هوش مصنوعی این نمونه محدود را منعکس می کند.
- گنجاندن سوگیری تاریخی متونی که در گذشته گروههای خاصی را آسیبشناسی و انگ میزدند نیز در دادهها گنجانده شدهاند. مدل این الگوها را یاد می گیرد.
- عدم نمایندگی این مدل یا اطلاعات کلیشه ای یا ناکافی در مورد گروه های کم نمایندگی (قومیت های مختلف، زبان، گرایش جنسی، ناتوانی) دارد.
آسیب قابل لمس است: هوش مصنوعی ممکن است یک علامت را در یک گروه شدیدتر و خفیفتر از گروه دیگر ارزیابی کند. ممکن است به اشتباه یک بیان فرهنگی (آیین عزاداری، تجربه مذهبی) را به عنوان یک علامت در نظر بگیرد. می تواند زبانی انگ انگیزاننده و کلیشه ای تولید کند.
احتیاط: حتی اگر یک خروجی از هوش مصنوعی به نظر "علم عینی" باشد، ممکن است دارای سوگیری هایی باشد که آموخته است. بهویژه وقتی صحبت از فرهنگها، جنسیتها، گرایشهای جنسی و گروههای اجتماعی-اقتصادی مختلف به میان میآید، ما هر یک از نتایج را اینگونه در نظر میگیریم: «آیا این برای همه گروهها منصفانه است؟» با سوال فیلتر کنید
انواع سوگیری خاص روانشناسی
نوع سوگیری
مشاهده در روانشناسی
خطر
تعصب فرهنگی
جهانی بودن هنجارهای غربی را
بیان فرهنگی را با آسیب شناسی اشتباه نگیرید
تعصب جنسیتی
تفسیر رفتار یکسان بسته به جنسیت متفاوت است
نابرابری تشخیصی
سوگیری تشخیصی
به تصویر کشیدن گروه های خاص به عنوان "مستعد" تشخیص های خاص
تشخیص بیش از حد/تحت تشخیص
تعصب زبانی
در زبان غالب "مسلط" تر، در زبان دیگر سطحی تر
ارزیابی نابرابر
مهر زدن
زبانی که فرد را با تشخیص خود شناسایی می کند
قاب بندی تحقیرآمیز
گام به گام: کنترل سوگیری
- می توانید خروجی را به "چه کسی نوشته شده است؟" تغییر دهید. سوال موضوع پیش فرض کیست؟ او عموماً فردی تحصیل کرده، غربی و «متوسط» است.
- با گروه های مختلف تست کنید همان دستور را در زمینه های مختلف فرهنگی، جنسیتی و سنی تکرار کنید. آیا نظرات تغییر می کند؟
- اسکن زبان انگ. عبارت صحیحی که فرد را با تشخیص خود مشخص می کند ("شخصی که اسکیزوفرنی را تجربه می کند" به جای "اسکیزوفرنی").
- زمینه فرهنگی را اضافه کنید. زمینه فرهنگی/زبانی مشتری را به هوش مصنوعی بگویید و «عباراتی را که ممکن است در این زمینه عادی باشد به عنوان آسیب شناسی در نظر نگیرید».
- چشم متخصص و جامعه اگر در مورد یک موضوع فرهنگی مطمئن نیستید، با یک همکار که آن فرهنگ را می شناسد مشورت کنید.
- بگذار مردم تصمیم بگیرند. حتی بررسی سوگیری نیز به هوش مصنوعی سپرده نمی شود. قضاوت نهایی عدالت با شماست.
نکته: یک روش عملی برای آزمایش سوگیری بودن یک خروجی: یک ویژگی واحد (جنسیت، فرهنگ، سن) را در اعلان تغییر دهید و دوباره همان سؤال را بپرسید. اگر تعبیر با این تغییر «ناعادلانه» تغییر کند، سوگیری وجود دارد.
سه کیف کوچک
مورد 1 - آسیب شناسی بیان فرهنگی. یک حرفهای به هوش مصنوعی میگوید که مشتری با فرهنگ متفاوت در طول فرآیند غم و اندوه با فرد متوفی صحبت میکند. هوش مصنوعی این را به عنوان "ممکن است یک علامت روان پریشی" تعریف کند. با این حال، این یک بیان رایج و عادی غم در فرهنگ آن مشتری است. کارشناس خروجی هوش مصنوعی را رد می کند زیرا زمینه فرهنگی را می داند. کسی که زمینه را نمیدانست میتواند یک قضاوت نادرست جدی داشته باشد.
مورد 2 - تست سوگیری جنسیتی. یک محقق دو بار خلاصه پرونده مشابه را به هوش مصنوعی ارائه می دهد. فقط جنسیت فرد را تغییر می دهد. در نسخه "مونث"، هوش مصنوعی بر "بی ثباتی عاطفی" تاکید می کند، در حالی که در نسخه "مرد"، همان رفتار را به عنوان "پاسخ به استرس" در نظر می گیرد. این به وضوح سوگیری جنسیتی مدل را نشان می دهد. محقق این تفاوت را مستند می کند و با این آگاهی از خروجی ها استفاده می کند.
مورد 3 - تصحیح زبان انگ زدن. در یک پیش نویس گزارش آمده است که هوش مصنوعی یک "مرز بیمار" است. متخصص این را به عنوان یک زبان انگ میبیند که فرد را با تشخیص خود شناسایی میکند و آن را به زبانی ترجمه میکند که بر فرد متمرکز است، مانند "فردی با الگوی شخصیتی مرزی مشخص". یک تغییر کوچک در زبان تفاوت بزرگی ایجاد می کند تا از حیثیت مشتری محافظت کند.
درخواست ها و الگوهای قابل کپی
متن زیر را از نظر سوگیری بررسی کنید: عباراتی را که نشان دهنده تعصبات فرهنگی، جنسیتی، جنسی، سنی یا اجتماعی-اقتصادی است. همچنین مفروضاتی را نشان دهید که هنجارهای غربی را جهانی می دانند. برای هر کدام یک جایگزین منصفانهتر پیشنهاد کنید. متن: [متن]
به من کمک کنید وضعیت زیر را ارزیابی کنم، اما زمینه فرهنگی مشتری [فرهنگ/زبان] است. در این زمینه، ارائه عباراتی که ممکن است NORMAL به عنوان آسیب شناسی باشد. اگر در مورد یک نکته فرهنگی مطمئن نیستید، بگویید "این ممکن است از نظر فرهنگی متفاوت باشد، با یک متخصص مشورت کنید." وضعیت: [وضعیت ناشناس]
عبارات انگ زننده در این متن را که فرد را با تشخیص خود مشخص می کند (مثلاً "اسکیزوفرنیک"، "مرز") به زبانی ترجمه کنید که فرد را در مرکز قرار دهد و حرمت او را حفظ کند. محتوا را تغییر ندهید، فقط زبان را انسانی کنید. متن: [متن]
خلاصه مورد زیر را دو بار ارزیابی خواهم کرد: یک بار موضوع [ویژگی A]، دیگری [ویژگی B]. آیا تفاوت ناعادلانه ای بین این دو ارزیابی وجود دارد و اگر چنین است، آیا دلیل آن سوگیری است؟ مقایسه کنید. چکیده: [چکیده ناشناس]
اعلان ضعیف / اعلان قوی
اعلان ضعیف: "آیا رفتار این مشتری طبیعی است یا غیر طبیعی؟"
این درخواست نمی پرسد که "عادی" برای چه کسی است. هوش مصنوعی یک «عادی» غرب محور و بی فرهنگ را فرض می کند و می تواند بیان فرهنگی را آسیب شناسی کند.
اعلان قوی: "این مشتری در [زمینه فرهنگی/زبانی] است. توضیح دهید که آیا این رفتار ممکن است یک بیان عادی در آن بافت فرهنگی باشد یا نشانه ای که نیاز به توجه دارد، هر دو را جداگانه بحث کنید. قضاوت قطعی نکنید؛ به من یادآوری کنید که با یک متخصص که زمینه فرهنگی را می شناسد مشورت کنم."
این تذکر زمینه را در مرکز قرار می دهد، از اشتباه خوانی فرهنگی جلوگیری می کند و تصمیم گیری را به کارشناس واگذار می کند.
اشتباهات رایج
- اشتباه گرفتن خروجی هوش مصنوعی با "هدف". فراموش کردن این که مدل دارای سوگیری است و خروجی را به عنوان واقعیت علمی پذیرفت.
- هنجار غربی را جهانی تلقی می کنند. تعریف «عادی» بر اساس فرهنگ واحد و آسیب شناسی عبارات مختلف.
- عدم توجه به زبان انگ زنی اشتباه گرفتن زبانی که فرد را با تشخیص خود می شناسد به عنوان "زبان فنی".
- تست نکردن برای تعصب امتحان نکردن همان دستور با گروههای مختلف و بررسی سازگاری.
- تصمیم گیری به تنهایی در فرهنگی که نمی شناسید. قضاوت بدون مشورت با همکار که آن فرهنگ را می شناسد.
به طور خلاصه
هوش مصنوعی مغرضانه است زیرا از متون دنیای مغرضانه درس می گیرد. در روانشناسی، این سوگیری به آسیب های ملموس در قالب فرهنگی، جنسیتی، تشخیصی، زبانی و انگ تبدیل می شود. هر خروجی را با این سوال مقایسه کنید "آیا این برای همه گروه ها منصفانه است؟" آن را صاف کنید؛ همان دستور را با گروه های مختلف آزمایش کنید. زمینه فرهنگی را به درخواست خود اضافه کنید. تغییر زبان انگ زدن به زبان شخص محور. به دنبال نگاه متخصص/جامعه به فرهنگی باشید که با آن ناآشنا هستید. قضاوت عدالت، از جمله کنترل سوگیری، از انسان سرچشمه می گیرد.
وظیفه کاربردی
یک خلاصه پرونده (ناشناس) تهیه کنید. آن را دو بار به هوش مصنوعی بدهید؛ فقط یک ویژگی (جنسیت، فرهنگ یا سن) را تغییر دهید. دو پرینت را کنار هم قرار دهید و تفاوت های ناعادلانه را بررسی کنید. همچنین از هوش مصنوعی بخواهید عبارات انگ زنی در یک پاراگراف گزارش را به زبان شخص محور ترجمه کند و تفاوت را یادداشت کنید.
چک لیست
- [ ] خروجی را به "آیا این برای همه گروه ها منصفانه است؟" تغییر دهید. من سوال را پرسیدم.
- [ ] من همان دستور را با گروه ها/فرهنگ های مختلف آزمایش کردم.
- [ ] من زمینه فرهنگی را به درخواست اضافه کردم. من بیان فرهنگی را آسیب شناسی نکردم.
- [ ] من زبان انگ زدن را به زبان شخص محور تغییر دادم.
- [ ] من از یک کارشناس/همکار در مورد یک موضوع فرهنگی که با آن ناآشنا بودم مشورت گرفتم.
- [ ] من تصمیم نهایی انصاف را به قضاوت خودم واگذار کردم، نه هوش مصنوعی.