بحث اخلاقیات هوش مصنوعی: آژانس، مسئولیت، تعصب و شفافیت

سود:

• توانایی تعریف واضح مفاهیم عاملیت، شکاف مسئولیت، سوگیری الگوریتمی، شفافیت و استقلال و ایجاد تنش.
• مسئولیت نه بر "هوش مصنوعی" بلکه بر روی زنجیره انسانی که آن را طراحی، استقرار و استفاده می کند
• امکان انجام یک بحث چند جانبه با بررسی تعصب خوش بینانه هوش مصنوعی و دانش قدیمی از فناوری خود

فلسفه و اخلاق کاربردی رشته هایی هستند که نه تنها از هوش مصنوعی استفاده می کنند بلکه هوش مصنوعی را نیز مطالعه می کنند. هوش مصنوعی خود یکی از پر جنب و جوش ترین موضوعات در فلسفه اخلاق امروزی است: وقتی یک سیستم هوش مصنوعی تصمیم می گیرد چه کسی مسئول است؟ اگر یک الگوریتم بایاس باشد، این بی عدالتی چگونه نامیده می شود؟ آیا می توان هوش مصنوعی را یک «عامل» (موضوعی که قادر به کنش اخلاقی است) در نظر گرفت؟ به عنوان یک متخصص اخلاق، شما فردی هستید که هم این بحث ها را انجام می دهید و هم تدریس می کنید. در این بخش، مفاهیم اساسی بحث اخلاق هوش مصنوعی (شاخه ای از اخلاق کاربردی که به بررسی مسائل اخلاقی – مسئولیت، سوگیری، شفافیت، خودمختاری، عدالت – ناشی از توسعه و استفاده از سیستم های هوش مصنوعی می پردازد) را توضیح خواهیم داد و خواهیم دید که چگونه می توانید این بحث را با ابزارهای هوش مصنوعی بهتر تحلیل و آموزش دهید.

در اینجا یک حلقه جالب وجود دارد: شما می توانید از هوش مصنوعی به عنوان یک ابزار حتی در هنگام بحث در مورد اخلاق هوش مصنوعی استفاده کنید - اما این دقیقاً همان جایی است که باید نسبت به تعصبات و محدودیت های خود هوش مصنوعی هوشیار باشید.

مفاهیم اساسی و تنش ها

عامل و موضوع اخلاقی. نیت، درک، آزادی و آگاهی از پیامدها اغلب برای یک موجود لازم است تا مسئولیت اخلاقی را به عهده بگیرد. اینکه آیا هوش مصنوعی اینها را دارد یا نه، قابل بحث است. اکثر دیدگاه ها معتقدند که هوش مصنوعی یک ابزار است و مسئولیت آن بر عهده انسان هایی است که آن را طراحی، استقرار و استفاده می کنند. این با اصلی که ماژول در سرتاسر آن بر آن تاکید دارد همسو است: مسئولیت نهایی بر عهده انسان است.

شکاف مسئولیت هنگامی که یک سیستم هوش مصنوعی باعث آسیب می شود، ممکن است شرایطی ایجاد شود که در آن مسئولیت پراکنده شود ("در خلأ باقی بماند"): طراح، ارائه دهنده داده ها، موسسه استفاده کننده از آن، اپراتور نهایی؟ این "شکاف مسئولیت" یکی از مشکلات اصلی اخلاق هوش مصنوعی معاصر است.

تعصب الگوریتمی یک هوش مصنوعی می‌تواند نابرابری‌های تاریخی را در داده‌های آموزشی بیاموزد و تکرار کند. این سوگیری الگوریتمی (زمانی که یک سیستم به طور سیستماتیک نتایجی را تولید می کند که به گروه های خاصی آسیب می رساند) هسته اصلی بحث های انصاف و تبعیض است.

شفافیت و توضیح پذیری عدم درک چرایی تصمیمات هوش مصنوعی (مشکل "جعبه سیاه") از نظر مسئولیت و حق تجدید نظر یک مشکل اخلاقی است. تبیین پذیری (قابل درک کردن منطق خروجی یک سیستم از نظر انسانی) به طور فزاینده ای به یک الزام اخلاقی و قانونی تبدیل شده است.

نکته: در بحث درباره اخلاق هوش مصنوعی، مفاهیم را به وضوح از هم جدا کنید: به جای گفتن «هوش مصنوعی تصمیم گرفت»، بگویید «هوش مصنوعی یک خروجی تولید کرد، انسان آن را اجرا کرد». این دقت زبانی مسئولیت را در جای درست قرار می دهد و بحث را از تیرگی نجات می دهد.

استفاده از هوش مصنوعی به عنوان ابزار در این بحث

هوش مصنوعی به خودی خود مطالب گویایی عالی در دوره های اخلاق هوش مصنوعی است. می‌توانید از دانش‌آموزان بخواهید که سوگیری را در خروجی هوش مصنوعی بیابند، عدم توجیه یک تصمیم را نشان دهند و نظرات مختلف را با هم مقایسه کنند. اما دو نکته: (1) هوش مصنوعی ممکن است تمایل تجاری یا خوش بینانه ای در مورد فناوری خود داشته باشد. حتما به دنبال نظرات انتقادی نیز باشید. (2) این زمینه به سرعت تغییر می کند. اطلاعات هوش مصنوعی ممکن است قدیمی باشد، برای اطلاع از قوانین و حقایق به منبع فعلی بروید.

احتیاط: وقتی از هوش مصنوعی می‌پرسید «آیا هوش مصنوعی اخلاقی است؟» وقتی سوالی مثل این می‌پرسید، پاسخی که می‌گیرید میانگین داده‌های آموزشی است، نه نتیجه یک بحث فلسفی. این پاسخ را به عنوان نقطه شروع در نظر بگیرید. خودتان مفاهیم را تعریف کنید، تنش ها را خودتان ایجاد کنید و خودتان با مثال های واقعی فعلی از آنها حمایت کنید.

سه کیف کوچک

مورد 1 - بحث شکاف مسئولیت. یک سمینار سناریویی را مورد بحث قرار داد که در آن یک سیستم استخدامی مبتنی بر هوش مصنوعی گروهی را در معرض آسیب قرار می‌داد. از هوش مصنوعی بپرسید "چه کسی مسئول است؟" آنها این سوال را از چارچوب های مختلف تجزیه و تحلیل کردند. خروجی زنجیره طراح-داده-موسسه-اپراتور را ترسیم کرد. این گروه از این نقشه برای توسعه موقعیت مستدل خود استفاده کرد: آنها از مسئولیت پذیری هر پیوند حمایت کردند تا مسئولیت در "خلأ" نیفتد.

مورد 2 - تعصب با یک مثال زنده نشان داده شده است. یک مربی از هوش مصنوعی خواسته بود که شرح شغل مشابهی را با نام های مختلف بنویسد و کلیشه های موجود در نسخه چاپی را به دانش آموزان نشان دهد. دانش آموزان سوگیری الگوریتمی را نه به عنوان یک مفهوم انتزاعی، بلکه به طور ملموس در خروجی مقابل خود دیدند. درس مفهوم را با یک مثال واقعی جا انداخت. مدرس همچنین تأکید کرد که این یک نتیجه واحد است و برای تعمیم به شواهد سیستماتیک نیاز است.

مورد 3 - روند خوش بینانه تثبیت شده است. دانش آموزی از هوش مصنوعی خواسته بود در مورد "تاثیر هوش مصنوعی بر جامعه" بنویسد. خروجی عمدتاً مثبت بود و خطرات را دست کم گرفته بود. دانشجو به سراغ منابع علمی انتقادی رفت، نظرات مخالف را اضافه کرد و تحلیلی متوازن ساخت. تعصب هوش مصنوعی نسبت به حوزه خودش با کنترل انسان متعادل می شود.

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

آیا هوش مصنوعی اخلاقی است یا خیر؟ پاسخ دهید.

این اعلان یک بحث پیچیده فلسفی را به یک پاسخ دوتایی تقلیل می دهد. هوش مصنوعی میانگین را برمی گرداند، مفاهیم تعریف نشده باقی می مانند و سوگیری نامرئی می شود.

اعلان قدرتمند:

نقش شما: یک تحلیلگر بی طرف در زمینه اخلاق هوش مصنوعی. در مورد [سناریو] من را قضاوت نکنید. درعوض: 1) مفاهیم مرتبط (مجرم، شکاف مسئولیت، تعصب الگوریتمی، شفافیت) - مختصر و بی طرف را تعریف کنید. 2) توزیع احتمالی مسئولیت (طراح، داده، موسسه، اپراتور) را ترسیم کنید. فیلمنامه: [نوشتن فیلمنامه]

این اعلان مفاهیم را روشن می کند، بحثی چند جانبه ایجاد می کند و تصمیم گیری را به عهده شما می گذارد.

چهار قالب قابل کپی

1) توضیح مفهوم:

به طور خلاصه و عینی مفاهیم زیر را در اخلاق هوش مصنوعی تعریف کنید: عامل/موضوع اخلاقی، شکاف مسئولیت، سوگیری الگوریتمی، شفافیت، توضیح پذیری. یک مثال روزمره را در زیر هر تعریف بگنجانید. مناطق بحث برانگیز را به عنوان "نظرات متفاوت است" علامت گذاری کنید.

2) نقشه برداری مسئولیت:

در سناریوی زیر، زنجیره مسئولیت آسیب های ناشی از یک سیستم هوش مصنوعی را ترسیم کنید: طراح، ارائه دهنده داده، موسسه توزیع کننده، اپراتور کاربر، تنظیم کننده. شرط بندی و دفاع احتمالی هر حلقه را یادداشت کنید. قضاوت نهایی را انجام دهید. فیلمنامه: [اسکریپت]

3) ارائه موقعیت مخالف:

حداقل دو موضع اخلاقی متضاد در مورد [مسئله اخلاق هوش مصنوعی] ارائه دهید که هر کدام در قوی ترین و صادقانه ترین شکل خود هستند. هیچ کدام را "برنده" اعلام نکنید. ارزشی که هر موقعیت بر آن استوار است را نام ببرید. سوال: [سوال]

4) خوش بینی/کنترل تعصب:

بررسی کنید که آیا متن زیر در مورد هوش مصنوعی خطرات را دست کم می گیرد یا تمایلی خوشبینانه نسبت به این فناوری دارد. هر دیدگاه مهمی را که گم شده است و خطراتی که باید اضافه شود علامت گذاری کنید. متن: [پیست متن]

جدول مفهوم / ولتاژ

مفهوم

سوال اساسی

تنش اخلاقی

مرتکب / موضوع اخلاقی

آیا هوش مصنوعی مسئولیت دارد؟

ابزار یا موضوع؟

شکاف مسئولیت

در صورت ایجاد خسارت چه کسی مسئول است؟

پاسخگویی پراکنده

سوگیری الگوریتمی

ضرر برای چه کسی؟

عدالت در مقابل کارایی

شفافیت

چرا این تصمیم؟

توضیح پذیری و غیره پیچیدگی

خودمختاری

کنترل انسان چقدر است؟

اتوماسیون در مقابل ممیزی

اشتباهات رایج

• زبان "AI تصمیم گرفت". مسئولیت را محو می کند. هوش مصنوعی خروجی تولید می کند، انسان ها آن را اجرا می کنند و مسئولیت آن بر عهده انسان است.
• تقلیل بحث به یک پاسخ باینری. "اخلاقی است یا نه؟" سوال عمق مفهومی را از بین می برد. ولتاژها را تنظیم کنید
• عدم توجه به تمایل خوشبینانه هوش مصنوعی. هوش مصنوعی می تواند در مورد فناوری خود ناپایدار باشد. منبع مهم را اضافه کنید
• تعمیم یک نتیجه واحد. تعصب در یک نمونه قابل توجه است، اما یک ادعای سیستماتیک نیاز به شواهد سیستماتیک دارد.
• با تکیه بر اطلاعات قدیمی این رشته و ترتیبات آن به سرعت تغییر می کند. حقایق را با منبع فعلی تأیید کنید.

به طور خلاصه

اخلاق هوش مصنوعی یکی از پر جنب و جوش ترین حوزه های معاصر فلسفه است و شما به عنوان یک اخلاق شناس این بحث را انجام می دهید و تدریس می کنید. مفاهیم کلیدی - نمایندگی، شکاف پاسخگویی، تعصب الگوریتمی، شفافیت، استقلال - را به وضوح تعریف کنید و تنش‌ها را ایجاد کنید. در این بحث می توانید از هوش مصنوعی هم به عنوان ابزار و هم به عنوان مثال استفاده کنید، اما مراقب دو مشکل باشید: هوش مصنوعی به فناوری خود خوش بین است و دانش آن ممکن است قدیمی باشد. زبانی مانند "تصمیم هوش مصنوعی" مسئولیت را محو می کند. زبان مفهومی دقیق مسئولیت را در جای درست قرار می دهد. شما همیشه تصمیم می گیرید

وظیفه کاربردی

1. یک سناریوی اخلاقی AI (به عنوان مثال یک سیستم تصمیم گیری الگوریتمی) را انتخاب کنید.
2. مفاهیم کلیدی را با الگوی "تشریح مفهوم" تعریف و بررسی کنید.
3. با الگوی "نگاشت مسئولیت" زنجیره مسئولیت در صورت آسیب را استخراج کنید.
4. حداقل دو موضع اخلاقی را با الگوی «ارائه موضع مخالف» مقایسه کنید.
5. سوگیری را در یک متن هوش مصنوعی با الگوی «بررسی خوش‌بینی» آزمایش کنید و یک منبع مهم اضافه کنید.

چک لیست

• [ ] مفاهیم را واضح و عینی تعریف کردم.
• [ ] من مسئولیت را بر عهده زنجیره انسانی گذاشتم، نه بر عهده «AI».
• [ ] من بحث را چند وجهی ساختار دادم، آن را به یک پاسخ باینری تقلیل ندادم.
• [ ] من تمایل خوشبینانه هوش مصنوعی را نسبت به حوزه خود بررسی کردم.
• [ ] من حقایق و مقررات را با منبع فعلی تایید کرده ام.
• [ ] قضاوت و توجیه نهایی را خودم ارائه کردم.