سود:
- توانایی مرتبط کردن اصول هوش مصنوعی (عادلانه، شفافیت، پاسخگویی، حریم خصوصی، نظارت انسانی، امنیت، پایداری) به تصمیمات ملموس
- توانایی آزمایش طرف های متاثر و سوگیری با جداسازی اخلاق از انطباق قانونی و تمایز بین «ما می توانیم» و «ما باید»
- امکان کاهش سناریوهای سوء استفاده از قبل با تعبیه شفافیت، نظارت انسانی و جذابیت در طراحی
یک استارتآپ هوش مصنوعی میتواند از نظر فنی کامل، از نظر مالی سودآور و از نظر قانونی قابل دوام باشد. اما باز هم ممکن است اشتباه باشد اخلاق تفاوت بین «ما می توانیم» و «ما باید» است. برای یک مدیر ارشد، اخلاق یک امر آراستگی یا روابط عمومی نیست. این بنیادی است که اعتبار بلندمدت، شهرت و مشروعیت اجتماعی موسسه را حفظ می کند. در این واحد اصول هوش مصنوعی مسئولیت پذیر (رویکردی برای توسعه و استفاده از هوش مصنوعی به روشی منصفانه، شفاف، پاسخگو و با احترام به کرامت انسانی) و نحوه انعکاس آنها در تصمیم گیری های روزانه را خواهید آموخت.
اصول اساسی هوش مصنوعی مسئول
چارچوب های مختلف بر اساس اصول مشابهی با هم ملاقات می کنند. خلاصه عملی برای یک مدیر:
اصل
منظورت چیه؟
سوال ادمین
عدالت
عدم تبعیض
آیا این ناعادلانه بر یک گروه تأثیر می گذارد؟
شفافیت
قابل درک باشد
آیا می توانیم دلیل تصمیم را توضیح دهیم؟
پاسخگویی
تشخیص اینکه چه کسی مسئول است
در صورت بروز خطا چه کسی مسئول است؟
حریم خصوصی
احترام به داده های شخصی
آیا ما حق استفاده از داده ها را داریم؟
نظارت انسانی
تحت کنترل ماندن
آیا یک نفر می تواند مخالفت کند و آن را متوقف کند؟
امنیت
آسیبی نرسان
آیا می توان از این مورد سوء استفاده کرد؟
پایداری
اثرات زیست محیطی/اجتماعی
هزینه را به چه کسی تحمیل کنیم؟
این اصول انتزاعی نیستند; هر یک از آنها را می توان به یک تصمیم مشخص مرتبط کرد. به عنوان مثال، "شفافیت" به این معنی است که به مشتری اطلاع دهید که با هوش مصنوعی صحبت می کند. "نظارت انسانی" به این معنی است که یک انسان رد وام را بررسی کرده و آن را برای تجدید نظر باز بگذارد.
نکته: با هر تصمیم با تاثیرگذاری بالای هوش مصنوعی، یک سوال بپرسید: "آیا می توانم به وضوح برای شخصی که بیشترین تأثیر منفی را دارد توضیح دهم و پشت این تصمیم باشم؟" اگر پاسخ توهین آمیز باشد، مشکل اخلاقی وجود دارد.
اخلاق با قانون فرق دارد
یک تمایز مهم: انطباق قانونی (واحد 9) حداقل حداقل است. اخلاق خط بالاتری است. ممکن است چیزی قانونی اما غیراخلاقی باشد. به عنوان مثال، ممکن است اپلیکیشنی از استفاده از هوش مصنوعی برای دستکاری رفتار کاربر منع نشود، اما غیراخلاقی است. نهادهای مسئول "حرام است؟" نه "آیا درست است؟" او می پرسد.
گام به گام: گنجاندن اخلاق در تصمیم گیری
1. احزاب آسیب دیده را شناسایی کنید. چه کسانی تحت تأثیر این ابتکار هستند؟ (مشتری، کارمند، جامعه، گروه های محروم)
2. با خط مشی ها اسکن کنید. ابتکار عمل را با توجه به هر یک از اصول فوق زیر سوال ببرید.
3. برای تعصب و آسیب آزمایش کنید. آیا این مدل به طور ناعادلانه بر گروه های خاصی تأثیر می گذارد؟ سناریوهای سوء استفاده چیست؟
4. شفافیت و نظارت را اضافه کنید. استفاده از هوش مصنوعی را گزارش دهید و هیچ راهی برای اعتراض انسان باقی نماند.
5. اسناد و بررسی. صرفه جویی در ارزیابی اخلاقی؛ به صورت دوره ای دوباره بررسی کنید.
سه کیف کوچک
مورد 1 - قانونی اما اشتباه. یک اپلیکیشن از هوش مصنوعی برای تولید اعلانهای اعتیادآور استفاده میکرد تا کاربران را مدت بیشتری در برنامه نگه دارد. هیچ مانع قانونی وجود نداشت، اما زمانی که در مطبوعات گزارش شد، اعتبار جدی از بین رفت. هدف قرار دادن آن برای کاربران جوان به ویژه مورد انتقاد قرار گرفت. شرکت این ویژگی را حذف کرد. اگر فیلتر اخلاقی از ابتدا بود، این ریسک دیده می شد.
مورد 2 - ارزش آزمون انصاف. مدل امتیازدهی اعتباری یک بانک به طور سیستماتیک به برنامه های گروه های حفاظت شده امتیازات کمتری می داد. این در یک حسابرسی قضایی کشف شد. این مدل دوباره طراحی و به طور منظم آزمایش شد تا از ارزش بین گروهی در نتایج آن اطمینان حاصل شود. اصل اخلاقی (عدالت) به آزمونی ملموس تبدیل شد و از آسیب واقعی جلوگیری کرد.
مورد 3 - شفافیت ایجاد اعتماد کرد. یک شرکت تجارت الکترونیک عبارت "دستیار هوش مصنوعی به شما کمک می کند، می توانید هر زمان که بخواهید به یک نماینده انسانی متصل شوید" را در ابتدای چت بات پشتیبانی مشتری خود قرار داده است. شفافیت و خروج انسانی رضایت را کاهش نداد. در مقابل، اعتماد را افزایش داد و شکایات را 15 درصد کاهش داد. شفافیت انجام شده به درستی ارزش بود، نه هزینه.
چهار قالب قابل کپی
1) غربالگری اخلاقی:
نقش شما: مشاور هوش مصنوعی مسئول. این ابتکار را برای 7 اصل بررسی کنید: انصاف، شفافیت، پاسخگویی، حریم خصوصی، نظارت انسانی، امنیت، پایداری. برای هر خط مشی، یک ریسک و یک توصیه بنویسید. ابتکار: [متن]
2) تجزیه و تحلیل طرف تحت تأثیر:
همه طرفهایی را که تحت تأثیر این ابتکار هوش مصنوعی قرار گرفتهاند (مشتری، کارمند، جامعه، گروههای محروم) فهرست کنید. اثرات مثبت و منفی احتمالی را برای هر یک از طرفین بنویسید. گروهی را که به احتمال زیاد آسیب می بیند علامت بزنید. ابتکار: [متن]
3) سناریوی سوء استفاده:
5 سناریو ایجاد کنید که در آنها از ویژگی هوش مصنوعی زیر سوء استفاده شود (از جمله دستکاری، تبعیض، نقض حریم خصوصی، فریب). برای هر سناریو یک تصمیم طراحی پیشگیرانه پیشنهاد کنید. ویژگی: [متن]
4) شفافیت و کنترل نظارت:
یک طرح شفافیت و نظارت انسانی برای هوش مصنوعی رو به رو مشتری بنویسید که: چه چیزی و چگونه به کاربر اطلاع داده شود. چگونه می توان آن را به انسان منتقل کرد؟ چگونه می تواند به این تصمیم اعتراض کند؟ استفاده: [متن]
اعلان ضعیف / اعلان قوی
ضعیف: "آیا این هوش مصنوعی اخلاقی است؟"
نتیجه: یک "بله/نه" سطحی. کدام اصل، چه کسی متاثر است، چه معیاری مشخص نیست.
Strong: "ما در حال بررسی استفاده از هوش مصنوعی در یک ابزار پیش از غربالگری استخدام هستیم (انسان تصمیم نهایی را خواهد گرفت). این را از نظر اصول انصاف، شفافیت، پاسخگویی و نظارت انسانی بررسی کنید. به طور مشخص بنویسید که کدام گروه از کاندیداها ممکن است به طور ناعادلانه تحت تاثیر قرار گیرند، چه تست های سوگیری را باید انجام دهم، و چگونه نامزدها می توانند نسبت به تصمیم اعتراض کنند."
نتیجه: ارزیابی عملی مبتنی بر اصول که طرف آسیب دیده را شناسایی می کند و آزمایش و تجدید نظر را پیشنهاد می کند.
اشتباهات رایج
- اشتباه گرفتن اخلاق با رعایت قوانین. هر چیزی که قانونی است اخلاقی نیست. اخلاق خط بالاتری است.
- ماندگار ماندن اخلاق دریافت "تأیید اخلاق" پس از طراحی بسیار دیر است. اخلاق باید از ابتدا در طراحی گنجانده شود.
- عدم امتحان عدالت این فرض که «مدل ما خنثی است» خطرناک است. بدون اندازه گیری نمی توان شناخت.
- اشتباه گرفتن شفافیت با هزینه شفافیت انجام شده به درستی اعتماد و ارزش را افزایش می دهد.
- باریک نگه داشتن طرف آسیب دیده تنها اندیشیدن به مشتری و نادیده گرفتن کارمند، جامعه و گروه های محروم نقطه کوری ایجاد می کند.
احتیاط: واگذاری کامل ارزیابی اخلاقی به هوش مصنوعی متناقض و خطرناک است. هوش مصنوعی می تواند به طرح سؤالات اخلاقی کمک کند، اما قضاوت ارزشی، زمینه فرهنگی و مسئولیت اخلاقی نهایی بر عهده انسان است. موضع اخلاقی یک سازمان توسط انتخاب های آگاهانه افراد تعیین می شود، نه با "هوش مصنوعی اینطور گفت".
به طور خلاصه
اخلاق تفاوت بین «ما می توانیم» و «ما باید» است و از اعتبار بلندمدت سازمان محافظت می کند. هوش مصنوعی مسئول؛ بر اساس اصول عدالت، شفافیت، پاسخگویی، حریم خصوصی، نظارت انسانی، امنیت و پایداری است. این اصول انتزاعی نیستند; این به تصمیمات ملموسی مانند شناسایی طرف های متاثر، آزمایش تعصب، ارائه شفافیت و افزودن نظارت انسانی تبدیل می شود. اخلاق با حقوق فرق دارد و خط بالاتری است. نمی توان آن را به انتها رها کرد، باید در طرح تعبیه شود. در بخش بعدی به بحث انطباق می پردازیم که معادل قانونی اخلاق به ویژه قانون هوش مصنوعی اتحادیه اروپا و KVKK است.
وظیفه کاربردی
یک راه اندازی هوش مصنوعی با تاثیر بالا را انتخاب کنید. با الگوی 2، همه طرفهای آسیبدیده را فهرست کنید و گروهی را که بیشتر آسیب میبینند علامت بزنید. با الگوی 1، ابتکار عمل را برای هفت اصل اسکن کنید. یک معیار مشخص (آزمون انصاف، اعلان شفافیت، مسیر تجدید نظر و غیره) برای دو خطر اخلاقی مهم تعریف کنید. در نهایت، "آیا می توانم این تصمیم را برای فردی که بیشترین تأثیر منفی را دارد توضیح دهم؟" صادقانه به سوال پاسخ دهید.
چک لیست
- [ ] من همه طرف های آسیب دیده را شناسایی کرده ام.
- [ ] من استارتاپ را با هفت اصل هوش مصنوعی مسئول بررسی کردم.
- [ ] من یک آزمون برای سوگیری/انصاف برنامه ریزی کردم.
- [ ] من بیانیه شفافیت را طراحی کردم.
- [ ] هیچ راهی برای نظارت و تجدید نظر انسانی باقی نگذاشتم.
- [ ] من به سناریوهای سوء استفاده فکر کردم.
- [ ] "آیا می توانم آن را برای کسی که بیشترین تأثیر منفی را دارد توضیح دهم؟" من در آزمون قبول شدم.