سود:
- اصول اولیه استفاده مسئولانه از هوش مصنوعی را فهرست کنید
- می تواند توضیح دهد که چرا کنترل انسان ضروری است
- می تواند یک چک لیست استفاده مسئولانه برای کار خود ایجاد کند
در این ماژول، ما یاد گرفتیم که هوش مصنوعی چیست، چگونه کار می کند، نقاط قوت، ضعف، خطرات و گردش کار آن. در این واحد همه اینها را در یک چارچوب عملی تحت عنوان استفاده مسئولانه ترکیب می کنیم. هوش مصنوعی ابزار قدرتمندی است. اما قدرت آن زمانی به خطر تبدیل می شود که با مسئولیت شخصی که از آن استفاده می کند متعادل نباشد. «استفاده مسئولانه» ممکن است مانند یک اصل اخلاقی انتزاعی به نظر برسد. با این حال، از عادات بسیار ملموس و روزمره تشکیل شده است. در این بخش، این عادات را در چارچوبی ساده و جذاب قرار می دهیم.
پنج اصل اساسی استفاده مسئولانه
1. مردم حرف آخر را می زنند
این اساسی ترین اصل است. هوش مصنوعی یک توصیه تولید می کند. مردم بر عهده تصمیم و مسئولیت هستند. بهویژه در مورد مسائلی مانند پول، سلامت، قانون، اشتغال و شهرت، خروجی هوش مصنوعی هرگز نباید بدون نظارت اجرا شود. «ماشین به من گفت» هرگز بهانه معتبری نیست.
2. بررسی کنید، سپس اعتماد کنید
واحد توهم را به خاطر بسپارید. از حقایق قابل تأیید تولید شده توسط هوش مصنوعی (شماره، تاریخ، نام، منبع) بدون تأیید مستقل آنها استفاده نکنید. زبان روان و مطمئن دلیلی بر صحت نیست.
3. از حریم خصوصی محافظت کنید
این اصل را در واحد حفظ حریم خصوصی داده ها اعمال کنید: داده های شخصی، اسرار تجاری و اطلاعات محرمانه را در رسانه های عمومی ننویسید. در صورت لزوم ناشناس بگذارید و از خط مشی شرکت خود پیروی کنید.
4. عدالت را رعایت کنید
مراقب تعصب باشید: اطمینان حاصل کنید که خروجی به طور غیرمنصفانه گروه های خاصی را حذف یا کلیشه ای نمی کند. بر روی تصمیمات پرتأثیر بر انواع چشم ها نظارت کنید.
5. شفاف باشید
به اشتباه بیان نکنید که از هوش مصنوعی استفاده می کنید. بیان مناسب اینکه یک تحویل کلیدی با کمک هوش مصنوعی بر اساس زمینه کسب و کار و خط مشی شرکت تهیه شده است، باعث ایجاد اعتماد می شود.
نکته: این پنج اصل مکمل یکدیگر هستند. اجرای تنها یک مورد کافی نیست. به عنوان مثال، اگر به حریم خصوصی توجه کنید و از تأیید صحت رد شوید، همچنان در خطر هستید.
چرا کنترل انسانی ضروری است؟
هوش مصنوعی نمی تواند مسئولیت را بپذیرد. وقتی او مرتکب اشتباه می شود، این او نیست که بهای آن را می پردازد، بلکه شخص و نهادی است که از او استفاده می کند. علاوه بر این، هوش مصنوعی نمی تواند زمینه کامل (سیاست شرکت، روابط، حساسیت بخشی، وضعیت خاص در حال حاضر) را ببیند. کنترل انسانی؛ هم مرجعی را تعیین می کند که مسئولیت قانونی را بر عهده خواهد داشت و هم فیلتری است که نقاط کور مدل (توهم، سوگیری، نادرستی) را می گیرد. هرچه ممیزی به تصمیمی با تاثیر بالا نزدیکتر باشد، باید سختگیرانه تر باشد.
سطح حسابرسی بر اساس ریسک
نوع وظیفه
مثال
بازرسی مورد نیاز
تاثیر کم
پیش نویس یادداشت داخلی، طوفان فکری
بررسی نور
اثر متوسط
ایمیل خروجی، خلاصه گزارش
مطالعه دقیق + بررسی واقعیت
تاثیر بالا
تصمیم حقوقی/مالی/بهداشتی/استخدامی
تایید کارشناسی + تایید کتبی
رویکرد ضعیف / رویکرد قوی
رویکرد ضعیف: یک تصمیم پر تاثیر (مثلاً ارزیابی یک کارمند) را بر اساس خروجی هوش مصنوعی بدون تأیید اجرا کنید.
نتیجه: توهم یا تعصب مستقیماً در تصمیم گیری تأثیر می گذارد که زندگی فرد را تحت تأثیر قرار می دهد.
رویکرد قوی: از هوش مصنوعی فقط برای پشتیبانی/پیش نویس استفاده کنید. تصمیم خود را با شواهد مرتبط توجیه کنید، با کارشناس مربوطه مشورت کنید و تایید نهایی را به صورت کتبی بدهید.
نتیجه: شما از سرعت سود می برید، اما مسئولیت پذیری و انصاف حفظ می شود.
سه کیف کوچک
مورد 1 - چک لیست خطا را کشف کرد. هنگام شروع کار با هوش مصنوعی، یک تیم پنج اصل را روی یک کارت چاپ کرد و آنها را روی میزها قرار داد. یکی از کارمندان به طور تصادفی با سؤال "حریم خصوصی" در مورد پیشنهادی که باید ارسال شود، متوجه شد که حاوی نام مشتری است و آن را ناشناس کرد. یک لیست ساده از نقض احتمالی جلوگیری کرد.
مورد 2 - "ماشین گفت" کار نکرد. یکی دیگر از کارمندان، اطلاعات نظارتی نادرستی را که هوش مصنوعی داده بود، بدون تأیید آن اعمال کرد و وقتی مشکلی پیش آمد، با گفتن «این همان چیزی است که هوش مصنوعی گفت» از خود دفاع کرد. این عذر پذیرفته نشد; زیرا او بود که از ابزار استفاده و اجرا کرد. مسئولیت بر عهده کاربر است.
مورد 3 - کنترل قابل انعطاف با توجه به خطر. وقتی یک مدیر به سرعت از خروجی های طوفان فکری داخلی استفاده می کند. تاییدیه تخصصی مورد نیاز + توجیه کتبی برای تصمیمات پر تاثیر مانند استخدام و عملکرد. بنابراین، هم کار کم خطر را تسریع کرد و هم امنیت را در تصمیم گیری های حیاتی افزایش داد.
قالب های قابل کپی
قبل از استفاده از این خروجی، به ترتیب پنج سوال استفاده مسئولانه را از من بپرسید و از من بخواهید که برای هر کدام "ok / ناقص" علامت بزنم: 1) آیا ممیزی انسانی انجام شده است؟ 2) آیا حقایق تأیید شده است؟ 3) آیا محرمانگی حفظ شده است؟ 4) آیا منصفانه و فراگیر است؟ 5) آیا من آماده هستم که مسئولیت نتیجه را بر عهده بگیرم؟
سطح تأثیر (کم/متوسط/بالا) این کار را ارزیابی کنید و فهرستی از مراحل ممیزی را بر این اساس پیشنهاد کنید. وظیفه: [تکلیف بنویس]
در خروجی زیر، نکات پرخطر (حقیقت، محرمانه بودن، انصاف، تعهد) را که یک فرد باید حتماً بررسی کند، به ترتیب اهمیت فهرست کنید. خروجی: [اینجا بچسبانید]
برای من یک «کد استفاده مسئولانه از هوش مصنوعی» کوتاه و شخصی برای نقشم آماده کنید. موارد را عمل محور و به خاطر سپردن آسان کنید. نقش من: [نقش خود را بنویس]
چک لیست عملی
کنترل کنید
سوال
حسابرسی
آیا من این خروجی را به عنوان یک انسان بررسی کرده ام؟
دقت
آیا من حقایق (شماره، نام، تاریخ) را در آن تأیید کرده ام؟
حریم خصوصی
آیا من اطلاعات حساس یا شخصی را روی ابزار نوشته ام؟
عدالت
آیا نتیجه منصفانه و فراگیر است؟
شفافیت
آیا استفاده از هوش مصنوعی به درستی بیان شده و گمراه کننده نیست؟
مسئولیت
آیا من آماده هستم که مسئول عواقب این خروجی باشم؟
پاسخ سوال آخر همیشه باید "بله" باشد. زیرا تا زمانی که شما از این ابزار استفاده می کنید، نتیجه با شماست.
اشتباهات رایج
اشتباهات رایج
- اجرای تصمیم با تاثیر بالا بدون نظارت. تایید کارشناسی و نظارت کتبی در پول، بهداشت، قانون و استخدام ضروری است.
- یعنی «ماشین آن را گفت». مسئولیت ابزار را مقید نمی کند، بلکه شخصی که از آن استفاده می کند.
- اعمال سیاست ها به صورت انتخابی پنج اصل یک کل هستند; اگر یکی از آنها گم شود، خطر باقی می ماند.
- بازرسی را همیشه با همان دقت انجام دهید. کنترل مقیاس با توجه به ریسک؛ سرعت در خطر کم، دقت در ریسک بالا.
مسئولیت آزادی می آورد
قوانین استفاده مسئولانه ممکن است محدود کننده به نظر برسند، اما دقیقا برعکس عمل میکنند: وقتی این عادات ایمنی را داشته باشید، میتوانید بسیار راحتتر و جسورانهتر از هوش مصنوعی استفاده کنید. زیرا حتی اگر اشتباهی وجود داشته باشد، می دانید که یک فیلتر برای گرفتن آن دارید. قوانین برای کاهش سرعت شما وجود ندارند، آنها وجود دارند تا به شما کمک کنند با خیال راحت سرعت خود را افزایش دهید.
به طور خلاصه
- پنج اصل استفاده مسئولانه: مردم حرف آخر را می زنند، تأیید کنید، سپس اعتماد کنید، از محرمانگی محافظت کنید، انصاف را دنبال کنید، شفاف باشید.
- این اصول مکمل یکدیگرند. اگر یکی گم شود، خطر ادامه دارد.
- نظارت انسانی ضروری است زیرا هوش مصنوعی نمی تواند مسئولیت را بر عهده بگیرد و زمینه را کامل ببیند.
- ممیزی را بر اساس ریسک مقیاس بندی کنید: نور در اثر کم، تایید کارشناسی و توجیه کتبی در تاثیر زیاد.
- از آنجایی که شما کسی هستید که از ابزار استفاده می کند، مسئولیت نتیجه نیز بر عهده شماست. "ماشین به من گفت" بهانه ای نیست.
وظیفه برنامه
با استفاده از الگوی بالا یک «کد استفاده مسئولانه از هوش مصنوعی» شخصی و کوتاه برای نقش خود ایجاد کنید (حداکثر ۶ مورد). آن را در جایی ثبت کنید که قابل مشاهده است و سؤالات جدول "چک لیست تمرین" را یکی یکی در مورد تحویل مهم هوش مصنوعی بعدی تمرین کنید.
چک لیست
- [ ] می توانم پنج اصل استفاده مسئولانه را نام ببرم.
- [ ] می توانم توضیح دهم که چرا کنترل انسان ضروری است.
- [ ] می توانم سطح کنترل را با توجه به خطر کار تنظیم کنم.
- [ ] من یک چک لیست استفاده مسئولانه برای نقش خود ایجاد کرده ام.
- [ ] من درونی کرده ام که "ماشین به من گفت" بهانه ای نیست.