سود:
- تمایز سه مدل کنترل انسانی (در حلقه، روی حلقه، در فرمان)
- شناسایی و کاهش خطرات سوگیری و تبعیض در خروجی هوش مصنوعی
- ترجمه اصول شفافیت و توضیح پذیری به کاربردهای ملموس
یک سیستم هوش مصنوعی ممکن است از نظر فنی کاملاً کار کند، اما همچنان اشتباه است: ممکن است به طور سیستماتیک گروهی را حذف کند، دلیل تصمیم خود را توضیح ندهد، یا مردم را وادار به پذیرش آن بدون سؤال کند. در این بخش، ما "نرم" اما تعیین کننده ترین جنبه حکمرانی - کنترل انسانی، مدیریت سوگیری، شفافیت و اخلاق - را به شیوه های ملموس ترجمه می کنیم. هدف شعارهای مبهم مانند «به هوش مصنوعی اعتماد نکن» نیست. آنها مکانیسمهایی کار میکنند که نشان میدهند چگونه میتوان یک خروجی را ممیزی کرد، سوگیری را کاهش داد و شفافیت را ایجاد کرد.
سه مدل کنترل انسانی
نظارت انسانی به این معنی است که انسان کنترل تصمیمات اتخاذ شده توسط هوش مصنوعی را حفظ می کند. سه مدل اساسی وجود دارد و لازم است مدل مناسب با توجه به ریسک انتخاب شود.
مدل
معنی
جایی که مناسب است
انسان در حلقه
شخص هر تصمیمی را تایید می کند
تصمیمات پرخطر و تاثیرگذار
انسان در حلقه
هوش مصنوعی کار می کند، انسان ها نظارت می کنند و در صورت لزوم مداخله می کنند
ریسک متوسط، معاملات با حجم بالا
مرد فرمانده
انسان سیستم را طراحی می کند، حدود آن را تعیین می کند، می تواند آن را ببندد
سطح حاکمیت کلی
برای تصمیماتی که به طور قابل توجهی بر فرد تأثیر می گذارد (اشتغال، اعتبار، مراقبت های بهداشتی)، مدل انسان در حلقه ترجیح داده می شود: هوش مصنوعی توصیه می کند، اما یک انسان شایسته تصمیم نهایی را می گیرد. «هوش مصنوعی گفت» هرگز بهانه نیست. مسئولیت همیشه با خود شخص است.
توجه: کنترل انسان «روی کاغذ» کافی نیست. اگر انسان به طور خودکار پیشنهاد هوش مصنوعی را تأیید کند (مهر زدن لاستیکی)، هیچ کنترل واقعی وجود ندارد. برای اینکه حسابرسی معنادار باشد، باید بتوان منطق را دید، آن را زیر سوال برد و واقعاً «نه» گفت.
خطر تعصب و تبعیض
تعصب زمانی است که هوش مصنوعی به طور سیستماتیک برای گروههای خاصی ضرر یا مزیت میکند. منبع آن اغلب دادههای آموزشی است: اگر در دادههای تاریخی تبعیض وجود داشته باشد، هوش مصنوعی آن را یاد میگیرد و حفظ میکند - حتی آن را مقیاسبندی میکند.
اقدامات عملی برای کاهش تعصب:
- بررسی متغیرهای حساس: تأثیر زمینه هایی مانند جنسیت، سن، قومیت را در تصمیم گیری بررسی کنید.
- نتایج آزمون بر اساس گروهها: آیا سیستم در گروههای مختلف نرخهای رد/پذیرش متفاوتی را تولید میکند؟
- مراقب متغیرهای پروکسی باشید: زمینه هایی مانند "محله" یا "مدرسه" ممکن است به طور ضمنی تمایز قومی/طبقه ای را بیان کنند.
- نظارت منظم ایجاد کنید: سوگیری به طور مداوم آزمایش می شود، نه فقط یک بار. ممکن است با تغییر داده ها بازگردد.
سه کیف کوچک
مورد 1 - مهر لاستیکی. در یک بانک، افسران وام امتیاز هوش مصنوعی را بدون بررسی آن تایید می کنند. آنها می گویند "سیستم قبلاً آن را محاسبه کرده است". ممیزی نشان می دهد که در 498 مورد از 500 مورد ارسالی، انسان دقیقاً همان تصمیمی را گرفته است که هوش مصنوعی انجام داده است - بنابراین هیچ بررسی واقعی وجود ندارد. راه حل: از مردم بخواهید که استدلال را ببینند، تصمیم را تا حدی حدس بزنند، و به یادداشت «چرا موافق/مخالف» نیاز دارند.
مورد 2 - سوگیری ضمنی. هوش مصنوعی استخدام کننده امتیاز کمتری به نامزدهای زن می دهد، حتی اگر اصلاً از جنسیت استفاده نمی کند. از کجا؟ از آنجایی که دادههای گذشته اکثراً مردانی را در یک موقعیت خاص شامل میشد، این مدل تبعیض غیرمستقیم را از طریق متغیرهای پروکسی مانند «کار بدون وقفه» آموخت. آزمایش گروهی این را نشان می دهد. تیم متغیرهای جایگزین را استخراج کرده و نتیجه را زیر نظر دارد.
مورد 3 - اعتماد با شفافیت. در ارزیابی خسارت مبتنی بر هوش مصنوعی، یک شرکت بیمه به هر مشتری اطلاع میدهد که «تصمیم مبتنی بر هوش مصنوعی است، آنها میتوانند درخواست تجدیدنظر کنند و درخواست بررسی انسانی کنند». نرخ اعتراض کمتر از حد انتظار است زیرا مشتریان فرآیند را درک کرده و به آن اعتماد دارند. شفافیت باعث افزایش اعتماد و کاهش ریسک می شود.
شفافیت و توضیح پذیری
شفافیت به این معناست که برای افراد مرتبط روشن شود که یک هوش مصنوعی در حال عمل است و چگونه کار می کند. توضیح پذیری یعنی اینکه بتوانیم دلیل یک تصمیم را به شکلی قابل فهم توضیح دهیم. کاربردهای بتن:
- اعلان "شما در حال صحبت با هوش مصنوعی هستید" در ارتباط با هوش مصنوعی در حال تعامل با شخص.
- توضیح "این تصمیم بر اساس عوامل زیر بود" در تصمیم گیری های خودکار.
- مسیر درخواست تجدیدنظر و درخواست بررسی انسانی را به وضوح ارائه دهید.
- برای تیم های داخلی: مستندسازی و ضبط کارهایی که مدل انجام می دهد.
نکته: از یک تصمیم هوش مصنوعی بپرسید «سه عامل اصلی که بر این تصمیم تأثیر گذاشت چه بود؟» با سوال تست کنید اگر سیستم نتواند این را قابل درک کند و تصمیم به طور قابل توجهی بر شخص تأثیر بگذارد، آن سیستم هنوز برای استفاده مسئولانه آماده نیست.
تعصب اتوماسیون: تله خود
حتی اگر شفافیت و نظارت انسانی ایجاد شود، یک خطر موذی در سمت انسان وجود دارد: سوگیری اتوماسیون. این تمایلی است که افراد به خروجی ماشین بیشتر از قضاوت خودشان اعتماد می کنند. از آنجایی که پیشنهاد هوش مصنوعی روی صفحه نمایش "عینی و حساب شده" به نظر می رسد، فرد وسوسه می شود که آن را بدون تردید بپذیرد - این منشأ روانی مهر لاستیکی است.
راه های مشخصی برای کاهش این امر وجود دارد. ابتدا مخالفت را تشویق کنید: از شخصی که تصمیم را تأیید می کند بپرسید: «چرا ممکن است با هوش مصنوعی مخالف باشم؟» از او بخواهید در مورد سوال فکر کند. سپس امتیاز اطمینان را نشان دهید: نشان دهید که هوش مصنوعی چقدر مطمئن است. خروجی های کم اطمینان را جداگانه علامت گذاری کنید. سپس یک هشدار درگیری تنظیم کنید: اگر توصیه هوش مصنوعی قوانین موسسه یا دادههای موجود برای انسان را نقض کند، سیستم این را برجسته میکند. در نهایت، دو اصل انسانی را در تصمیم گیری های حیاتی به کار ببرید. یک تایید کننده واحد بیشتر در معرض سوگیری اتوماسیون است.
احتیاط: گفتن "تأیید انسانی وجود دارد" به معنای رهایی از سوگیری اتوماسیون نیست. انسان باید هم اختیار، هم زمان و هم اطلاعات مناسب برای زیر سوال بردن هوش مصنوعی داشته باشد. سیستمی که تایید کننده را مجبور می کند تا 200 تصمیم در 3 ثانیه بگیرد، در واقع کنترل واقعی انسانی را ارائه نمی دهد.
قالب های قابل کپی
الگوی 1 — انتخاب مدل کنترل انسانی: "کدام مدل کنترل انسانی برای استفاده زیر از هوش مصنوعی مناسب است [کاربرد را شرح دهید]: در حلقه، روی حلقه یا در فرمان؟ با در نظر گرفتن خطر و تأثیر برای فرد، با توجیه توصیه کنید. مشخص کنید چه کنترلی باید اضافه کنم تا از خطر مهر لاستیکی جلوگیری کنم."
الگوی 2 — طرح تست سوگیری: "یک طرح تست سوگیری [توضیح استفاده] را برای هوش مصنوعی پشتیبانی تصمیم زیر تهیه کنید: کدام گروه ها را باید مقایسه کنم، چه معیاری را باید اندازه گیری کنم (میزان رد/ پذیرش و غیره)، چه متغیرهای جایگزینی را باید جستجو کنم، هر چند وقت یک بار باید آزمون را تکرار کنم؟ آن را گام به گام بنویسم."
الگو 3 - متن شرح تصمیم: "یک متن توضیح ساده برای یک تصمیم خودکار شخصی سازی شده بنویسید: آیا تصمیم مبتنی بر هوش مصنوعی بوده است، عوامل کلیدی موثر بر تصمیم، راهی برای تجدید نظر و درخواست بررسی انسانی. لحن غیر اتهامی، محترمانه، 120 کلمه یا کمتر."
الگو 4 - چک لیست بررسی اخلاقی: "چک لیست بررسی اخلاقی را قبل از انتشار استفاده از هوش مصنوعی آماده کنید: انصاف/تبعیض، شفافیت، کنترل انسانی، حریم خصوصی، امنیت، پاسخگویی. شامل 1 تا 2 سوال واضح برای پاسخ به هر عنوان."
اعلان ضعیف / اعلان قوی
ضعیف: "آیا این استخدام هوش مصنوعی منصفانه است؟" -> مدل یک پاسخ کلی مانند "باید منصفانه باشد" می دهد. روش قابل آزمایش و اندازه گیری سوگیری ارائه نمی دهد. STRONG: "یک طرح تست سوگیری برای این هوش مصنوعی پشتیبانی استخدامی تنظیم کنید: روشی برای مقایسه میزان پذیرش در بین جنسیت و گروه های سنی، متغیرهای پروکسی که باید در نظر گرفته شوند، آستانه تفاوت قابل قبول، و فراوانی نظارت. همچنین کنترل را اضافه کنید تا اطمینان حاصل کنید که انسان تصمیم نهایی را می گیرد." -> مدل یک مکانیسم انصاف قابل اندازه گیری و تکرار ایجاد می کند.
اشتباهات رایج
- رها کردن کنترل انسانی "روی کاغذ" و تایید خودکار توصیه هوش مصنوعی (مهر لاستیکی).
- رها کردن تصمیماتی که بهطور قابلتوجهی بر فرد تأثیر میگذارد، بدون نظارت به جای در جریان قرار گرفتن.
- در نظر گرفتن سوگیری حل شده فقط به این دلیل که "متغیر حساس را حذف کردم"؛ رد شدن از متغیرهای پروکسی
- یک بار تست سوگیری و نه نظارت مداوم بر آن.
- نادیده گرفتن شفافیت زیرا "این یک جزئیات فنی است، کاربر متوجه نخواهد شد".
- استفاده از سیستمی که نمی تواند دلیل تصمیم گیری را در تصمیم گیری های حیاتی توضیح دهد.
- ارزیابی اخلاقی را به بعد از انتشار، با گفتن "بعدا خواهیم دید".
به طور خلاصه
- کنترل انسانی در سه مدل اجرا می شود. در تصمیماتی که بر افراد تأثیر می گذارد، افراد در چرخه ترجیح داده می شوند.
- کنترل باید معنادار باشد. مهر لاستیکی (تایید خودکار) ممیزی واقعی نیست.
- تعصب اغلب از داده های آموزشی ناشی می شود. متغیرهای حساس و جایگزین باید آزمایش شوند و دائماً تحت نظارت باشند.
- شفافیت و توضیح پذیری مستلزم ارائه واضح به کاربر است که هوش مصنوعی در بازی است و دلیل تصمیم گیری.
- بررسی اخلاقی قبل از انتشار انجام می شود. مسئولیت همیشه بر عهده انسان است، "هوش مصنوعی گفت" هیچ بهانه ای نیست.
وظیفه کاربردی
فرآیند تصمیم گیری هوش مصنوعی را انتخاب کنید که بر افراد سازمان شما تأثیر می گذارد (به عنوان مثال، ارزیابی برنامه). مدل کنترل انسانی مناسب برای این فرآیند را با توجیه تعیین کنید و یک کنترل بتنی برای جلوگیری از مهر زنی لاستیکی طراحی کنید (به عنوان مثال نیاز به مشاهده توجیه، بررسی نمونه). سپس یک طرح تست سوگیری بنویسید: مشخص کنید که کدام گروه ها را مقایسه خواهید کرد، با چه معیارهایی، هر چند وقت یکبار، و به کدام متغیرهای پراکسی توجه خواهید کرد. در نهایت، متن توضیح تصمیم را پیشنویس کنید که در طول این فرآیند به فرد نشان داده میشود و شامل مسیر تجدیدنظر/بازبینی انسانی میشود.
چک لیست
- [ ] من مدل کنترل انسانی را متناسب با فرآیند انتخاب کردم.
- [ ] من یک کنترل بتنی طراحی کردم که از مهر و موم لاستیکی جلوگیری می کند.
- [ ] من یک طرح تست سوگیری (گروه ها، متریک، فرکانس) آماده کردم.
- [ ] من ریسک متغیرهای جایگزین را ارزیابی کردم.
- [ ] من یک متن توضیح تصمیم برای شخص نوشتم.
- [ ] من به وضوح مسیر تجدید نظر و بازبینی انسانی را ارائه کرده ام.
- [ ] من بررسی اخلاقی را قبل از انتشار انجام دادم.