سود:
- توانایی تجزیه و تحلیل یک مورد اخلاقی از منظرهای چندگانه، از چارچوبهای اخلاق نتیجهگرا، دینشناختی و فضیلت
- توانایی شفاف سازی حقایق و ذینفعان و نام بردن تعارضات اصولی
- توانایی قضاوت ها و تصمیم گیری های اخلاقی به شیوه ای موجه با کنترل سوگیری، بدون واگذاری آن به هوش مصنوعی
قلب اخلاق کاربردی این سوال است که "چه باید کرد؟" در یک وضعیت واقعی این است که یک پاسخ مستدل برای سوال ارائه شود. یک کمیته اخلاق بیمارستان درباره یک تصمیم درمانی بحث می کند، یک شرکت ارزیابی می کند که آیا استفاده از داده ها اخلاقی است یا خیر، یک محقق آسیب یک آزمایش را برای شرکت کنندگان می سنجد. ابزارهای مورد استفاده در این آثار عبارتند از چارچوبهای اخلاقی (رویکردهایی که مجموعهای منسجم از اصول و استدلال را برای ارزیابی یک موقعیت ارائه میکنند) - به عنوان مثال، نتیجهگرایی (رویکردی که درستی یک عمل را بر اساس پیامدهای آن، فواید و مضرات آن ارزیابی میکند)، دئونتولوژی (رویکردی که صحت، پیامدها و قواعد مستقل یک عمل، قوانین و حقوق مستقل آن را ارزیابی میکند)، اخلاق فضیلتی (رویکردی که این سوال را به جای اینکه "چه عملی انجام دهد؟" را اینگونه مطرح می کند: "یک فرد با فضیلت چه کاری انجام می دهد؟"). هوش مصنوعی می تواند ابزاری سریع برای تجزیه و تحلیل یک مورد از چارچوب های مختلف، دیدن ابعاد نادیده گرفته شده و چند برابر کردن گزینه ها باشد. اما قضاوت اخلاقی نهایی – اینکه کدام اصل حاکم است، چه تصمیمی باید اتخاذ شود و منطق آن – متعلق به انسان، به ویژه کمیته مسئول و متخصص است.
در این بخش، خواهیم دید که چگونه یک مورد اخلاقی را به روشی مبتنی بر هوش مصنوعی اما با قضاوت انسانی تجزیه و تحلیل کنیم.
تجزیه و تحلیل چند فریم: قدرت واقعی هوش مصنوعی
رایج ترین اشتباه در یک پرونده اخلاقی، پایبندی به یک دیدگاه واحد است. یک تحلیل خوب وضعیت یکسانی را از چارچوب های متعدد می بیند و تنش ها را آشکار می کند. اینجاست که هوش مصنوعی قدرتمند است: میتواند یک مورد را از دیدگاههای نتیجهگرا، ریشهشناسانه و مبتنی بر فضیلت به طور همزمان تحلیل کند و بهسرعت فهرست کند که هر چارچوب به چه نتیجهای منجر میشود. این بحث را ترسیم می کند.
مراحل:
1. حقایق را روشن کنید. چه کسی، چه چیزی، چه زمانی درگیر است. تمایز بین حقایق نامشخص و فرضی تحلیل اخلاقی نمی تواند مبتنی بر حقایق نادرست باشد.
2. ذینفعان و منافع را شناسایی کنید. چه کسی تحت تأثیر تصمیم قرار می گیرد، حقوق و منافع هر کدام چیست؟
3. تجزیه و تحلیل از چارچوب های مختلف. هر چارچوب این وضعیت را چگونه می بیند و چه اقدامی را توصیه می کند؟
4. تنش ها و تضادهای اصولی را نشان دهید. اگر چارچوب ها به نتایج متفاوتی برسند، تعارض دقیقاً کجاست؟ (مثلاً بین استقلال فرد و منفعت جامعه.)
5. به یک تصمیم منطقی بیایید. با پذیرفتن شدیدترین اعتراض طرف مقابل، توجیه کنید که کدام اصل بیشتر از چرایی آن است.
نکته: از هوش مصنوعی نخواهید که «پاسخ درست را به من بگویید»؛ بگویید: "این مورد را از سه چارچوب تحلیل کنید و نتیجه گیری و قوی ترین اعتراض را نشان دهید." وظیفه هوش مصنوعی ایجاد نقشه است. شما تصمیم و توجیه را تولید می کنید. در اخلاق، «جوابی که ماشین می دهد» توجیه نیست.
چرا هوش مصنوعی نمی تواند تصمیمات اخلاقی بگیرد؟
بیایید این را به وضوح بیان کنیم. قضاوت اخلاقی؛ این نیاز به دانش زمینه، اولویت بندی بین ارزش ها، مسئولیت پذیری و اراده برای امضای آن تصمیم دارد. هوش مصنوعی هیچ یک از اینها را ندارد: هیچ ارزشی، هیچ پاسخگویی، دانش محدودی از زمینه، و می تواند تعصبات فرهنگی/ایدئولوژیکی را در داده های آموزشی تکرار کند. علاوه بر این، هوش مصنوعی اغلب نظر "متوسط" یا رایج ترین نظر را در مورد یک موضوع بحث برانگیز ارائه می دهد. در حالی که در اخلاق پاسخ صحیح ممکن است بیشتر در اقلیت باشد یا اصلا وجود نداشته باشد. هوش مصنوعی گزینه ها را باز می کند. شما وزن کنید و تصمیم بگیرید.
احتیاط: در تصمیمات اخلاقی پرمخاطره (پزشکی، قانونی، نهادی) خروجی هوش مصنوعی هرگز نباید جایگزین قضاوت هیئت مدیره یا متخصص ذیصلاح شود. از هوش مصنوعی به عنوان یک "پیش نویس مشاوره" استفاده کنید. تصمیم و مسئولیت نهایی با شخص مسئول است. همچنین، اگر دادههای پرونده واقعی حاوی اطلاعات شخصی/محرمانه هستند، آنها را در ابزارهای عمومی وارد نکنید.
سه کیف کوچک
مورد 1 - نقشه چند فریمی. یک کمیته اخلاق در مورد تخصیص یک منبع محدود (به عنوان مثال، تعداد محدودی از گزینه های درمانی) بحث می کرد. آنها از هوش مصنوعی خواستند که این مورد را از دیدگاههای نتیجهگرا، ریشهشناسانه و مبتنی بر فضیلت تحلیل کند. سه توجیه مختلف و نقاط تضاد آنها در 20 دقیقه ترسیم شد. با استفاده از این نقشه به عنوان نقطه شروع، هیئت بحث خود را انجام داد و تصمیم مستدل خود را گرفت.
مورد 2 - ذینفع نادیده گرفته شده. یک شرکت در حال ارزیابی تصمیم استفاده از داده بود. در تجزیه و تحلیل خود، YZ گروه سومی (افرادی که دادههایشان استفاده شد اما در فرآیند دخیل نبودند) را مشخص کرد که بهطور غیرمستقیم تحت تأثیر قرار گرفتند، جدا از طرفهای مستقیم تصمیمگیری. تیم این ذینفع را نادیده گرفته بود. ورودی هوش مصنوعی تصمیم را کامل تر کرد - اما تیم اولویت بندی را انجام داد.
مورد 3 - پیشنهاد مغرضانه اصلاح شد. یک محقق از هوش مصنوعی خواسته بود که یک مورد حساس فرهنگی را تجزیه و تحلیل کند. هوش مصنوعی یک دیدگاه فرهنگی واحد را به عنوان «حقیقت جهانی» ارائه کرد و سیستمهای ارزشی جایگزین را نادیده گرفت. محقق به این یک طرفه بودن پی برد و تحلیل را متنوع کرد. دیدگاه غالب داده های آموزشی هوش مصنوعی با نظارت انسان متعادل می شود.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
در این شرایط از نظر اخلاقی چه باید بکنم؟
این امر قضاوت و مسئولیت اخلاقی را به هوش مصنوعی محول می کند. شما یک "جواب" می گیرید، منطق و چارچوب را نمی بینید، سوگیری پنهان می ماند.
اعلان قدرتمند:
نقش شما: تحلیلگر اخلاق کاربردی (نه تصمیم گیرنده). مورد زیر را تحلیل کنید. به من تصمیم ندهید. 1) حقایق مبهمی را فهرست کنید که نیاز به روشن شدن دارند. 2) ذینفعان و منافع/حقوق هر یک را حذف کنید. نتیجه گیری و قوی ترین اعتراض را از هر کدام بیان کنید. 4) تضاد اساسی اصول بین چارچوب ها را نشان دهید. من تصمیم و توجیه را ارائه خواهم کرد. در صورت وجود داده های شخصی/محرمانه هشدار دهید. مورد: [نوشتن مورد]
این دستور نقشه چند فریمی را حذف می کند، تصمیم گیری را به شما واگذار می کند و سوگیری را قابل مشاهده می کند.
چهار قالب قابل کپی
1) توضیح واقعیت و ذینفعان:
در مورد زیر، (الف) برخی حقایق شناخته شده، (ب) حقایق نامشخص/مفروض، (ج) همه سهامداران و منافع و حقوق هر یک را فهرست کنید. نظرات و تصمیمات را اضافه کنید. مورد: [مورد]
2) تحلیل سه فریمی:
این مورد را به طور جداگانه از دیدگاه نتیجه گرایی، دین شناسی و اخلاق فضیلت تحلیل کنید. برای هر فریم: چگونه آن را می بیند، عملی که توصیه می کند و شدیدترین اعتراض به آن پیشنهاد. اعلام یک چارچوب "درست". مورد: [مورد]
3) تشخیص تعارض خط مشی:
اصول کلیدی را که چارچوب ها بر اساس آنها در تجزیه و تحلیل زیر تعارض دارند نام ببرید (به عنوان مثال، خودمختاری در مقابل خیر عمومی، عدالت در مقابل شفقت). دقیقاً محل درگیری را نشان دهید. تصمیم گیری. تجزیه و تحلیل: [پیست متن]
4) ممیزی تعصب و حساسیت فرهنگی:
بررسی کنید که آیا این تحلیل اخلاقی یک دیدگاه فرهنگی/ایدئولوژیک واحد را به عنوان حقیقت جهانی ارائه نمی کند یا خیر. آیا نظامهای ارزشی جایگزین یا دیدگاههایی وجود دارند که نادیده گرفته میشوند؟ جاهایی را که نیاز به کثرت گرایی بیشتری وجود دارد برجسته کنید. تجزیه و تحلیل: [پیست متن]
نمودار مقایسه فریم
قاب
سوال اساسی
تمرکز کنید
ضعف معمولی
نتیجه گرایی
بهترین نتیجه چیست؟
تعادل سود و ضرر
می تواند حقوق اقلیت ها را از بین ببرد
deontology
تکلیف/قانون چه می گوید؟
حق، وظیفه، اصل
سختگیرانه، می تواند نتیجه را نادیده بگیرد
اخلاق فضیلت
انسان با فضیلت چه می کند؟
شخصیت، نیت
راهنمای اقدام مبهم
اشتباهات رایج
- تصمیم گیری هوش مصنوعی "چه کار باید بکنم؟" این سؤال قضاوت اخلاقی را تفویض می کند. هوش مصنوعی یک نقشه ایجاد می کند، شما تصمیم می گیرید.
- گیر کردن در یک قاب. نگاه کردن به قضیه فقط از یک منظر؛ تجزیه و تحلیل چند فریمی تنش را نشان می دهد.
- روشن نشدن حقایق تحلیل اخلاقی مبتنی بر حقایق نادرست یا فرضی از بین می رود.
- عدم تشخیص تعصب هوش مصنوعی ممکن است دیدگاه فرهنگی غالب را به عنوان «جهانی» معرفی کند. کثرت گرایی توسط انسان ها ارائه می شود.
- وارد کردن پرونده محرمانه/شخصی به ابزار عمومی. خطر نقض حریم خصوصی در پرونده های واقعی. ناشناس کنید یا از سیستم ایمن استفاده کنید.
به طور خلاصه
قدرت واقعی هوش مصنوعی در تحلیل موردی اخلاق کاربردی، ترسیم سریع یک موقعیت از چندین فریم، استخراج ذینفعان و قابل مشاهده کردن تضادهای اصولی است. اما قضاوت اخلاقی ـ که اصل آن، تصمیم و توجیه است ـ متعلق به انسان، به ویژه کمیته مسئول و کارشناس است. زیرا هوش مصنوعی ارزشی ندارد، مسئولیتی ندارد، دانش زمینه ای ندارد و دارای سوگیری است. حقایق را روشن کنید، چارچوب های متعدد را تجزیه و تحلیل کنید، تعارض را نام ببرید، تعصب را بررسی کنید و خودتان با توجیه تصمیم بگیرید. در تصمیم گیری های پرمخاطره، هوش مصنوعی در کنار قضاوت متخصص قرار می گیرد، نه جایگزین آن.
وظیفه کاربردی
- یک مورد اخلاقی واقعی یا تخیلی را انتخاب کنید (اگر شامل دادههای شخصی است، ناشناس قرار دهید).
- حقایق و ذینفعان را با الگوی "واقعیت و شفاف سازی سهامداران" استخراج کنید.
- با الگوی "تحلیل سه فریمی" مورد را از سه منظر تحلیل کنید.
- تنش زیربنایی را با الگوی «تشخیص تعارض اصولی» نام ببرید.
- تصمیم مستدل خود را بنویسید - پذیرفتن شدیدترین اعتراض طرف مقابل.
چک لیست
- [ ] من حقایق و عدم قطعیت ها را روشن کردم.
- [ ] من همه ذینفعان و منافع آنها را شناسایی کردم.
- [ ] من این مورد را حداقل از سه چارچوب اخلاقی تحلیل کردم.
- [ ] من به وضوح از تعارض اصل نام برده ام.
- [ ] من تعصب و یک طرفه بودن را بررسی کردم.
- [ ] تصمیم و توجیه را به خودم/هیئت مدیره واگذار کردم، نه به هوش مصنوعی.
- [ ] از اطلاعات محرمانه/شخصی محافظت کردم.