سود:
- توانایی استقرار مداوم هوش مصنوعی در هر مرحله از آغاز حادثه تا تصمیم گیری با شش گیت تأیید انسانی
- توانایی ایجاد چارچوب حاکمیت شرکتی با لیست ابزارهای تایید شده، خط مشی داده ها، نقش ها، ثبت نام، آموزش و بررسی مداوم
- توانایی درج مسئولیت انسانی، تأیید، محرمانگی، شفافیت، بررسی سوگیری و اصول قانونی/اخلاقی در گردش کار
در طول این ماژول، ما به این موضوع پرداختیم که چگونه هوش مصنوعی میتواند دستیار قدرتمندی در وظایف مختلف دیپلماسی باشد - تجزیه و تحلیل سیاست، توضیحات، ترجمه، OSINT، تأیید، آمادهسازی مذاکره، مکاتبات، آمادگی بین فرهنگی و محرمانگی - اما جایی که انسان باید تصمیم بگیرد. در این بخش نهایی، همه اینها را در یک گردش کار منسجم ترکیب خواهیم کرد. هدف این است که هوش مصنوعی را در هر مرحله از شروع یک حادثه تا تصمیم گیری، با گیت های تأیید انسانی، به طور ایمن جاسازی کنیم و چارچوبی برای استفاده مسئولانه در سطح سازمانی ایجاد کنیم.
اصل یک جمله ای: هوش مصنوعی سرعت و دامنه را در دیپلماسی افزایش می دهد. انسان قضاوت، نمایندگی، مسئولیت و تصمیم نهایی را بر عهده دارد. این واحد یک نقشه و یک چارچوب حکومتی ارائه می دهد که این اصل را در عمل روزانه قرار می دهد.
گردش کار انتها به انتها: زنجیره ای از پورت ها
بیایید یک ماموریت دیپلماتیک معمولی را به مراحل تقسیم کنیم، از زمانی که یک حادثه روی میز قرار می گیرد تا تولید یک خروجی (توضیح، گزارش، تصمیم)، و در هر مرحله یک دروازه تأیید انسانی (یک ایست بازرسی بدون عبور از آن به مرحله بعدی) قرار دهیم.
1. جمع آوری اطلاعات. منابع باز جمع آوری و طبقه بندی می شوند. درب: حقوقی، فقط منابع عمومی؟ آیا داده های حساسی وجود دارد و آیا در محیط مناسب پردازش می شود؟
2. پردازش و ترجمه. اسناد چند زبانه قابل فهم و خلاصه هستند. در: آیا کلاس حریم خصوصی با وسیله نقلیه صحیح مطابقت دارد؟ آیا اصل ترجمه است یا رسمی؟
3. تأیید. ادعاها با منشأ و بررسی متقابل تأیید می شوند. درب: آیا هر ادعای مهمی توسط حداقل دو منبع مستقل تأیید شده است؟ آیا منابع ارائه شده توسط هوش مصنوعی مستقل تلقی می شدند؟
4. سنتز و تجزیه و تحلیل. اطلاعات در یک چارچوب قرار می گیرد و سناریوها تولید می شوند. در: آیا تمایز بین واقعیت-تفسیر-پیش بینی روشن است؟ آیا فرضیه متقابل پرسیده شده است؟ آیا سوگیری آزمایش شده است؟
5. تولید خروجی. گزارش، گزارش، تفاهم نامه یا آماده سازی مذاکره تهیه می شود. در: لحن درست است؟ آیا قالب/فرم تایید شده است؟ آیا واقعیت و پیشنهاد جدا هستند؟
6. تصمیم نهایی و امضا. انسان خروجی را ارزیابی می کند و مسئولیت می پذیرد. در: آیا می توانم پشت این خروجی بایستم؟ آیا هر جمله به منبع بستگی دارد؟
قدرت این زنجیره این است: شما نمی توانید از یک دروازه بدون عبور از دروازه بعدی عبور کنید. بنابراین یک خطای هوش مصنوعی در یک مرحله (توهم، ترجمه اشتباه، سوگیری) در درب بعدی مشاهده می شود و نمی تواند به تصمیم نهایی نشت کند. یک لایه دفاعی وجود ندارد، بلکه چندین لایه روی هم قرار دارد.
نکته: چک لیستی از این زنجیر شش در را برای میز خود نگه دارید. قبل از هر تحویل مهم، درها را یکی یکی علامت گذاری کنید. این یک شبکه ایمنی را حتی در شلوغ ترین و پر فشارترین روزها فراهم می کند. زیرا اشتباهات دقیقاً در لحظات عجله رخ می دهند.
چارچوب حاکمیت شرکتی
انضباط فردی لازم است اما کافی نیست. یک چارچوب حاکمیتی (مجموعه ای از قوانین، نقش ها و مکانیسم های کنترلی حاکم بر استفاده) در سطح موسسه مورد نیاز است. اجزای اساسی:
1. لیست وسایل نقلیه تایید شده. یک لیست واضح مشخص می کند که کدام ابزار هوش مصنوعی می تواند برای کدام دسته از اطلاعات استفاده شود. "هر کس باید از هر ابزاری که می خواهد استفاده کند" یک آسیب پذیری امنیتی است.
2. سیاست طبقه بندی داده ها. اینکه دادهها در کدام کلاس قرار میگیرند و چگونه پردازش میشوند، تابع قوانین مکتوب هستند. نگاشت ابزار کلاس در واحد قبلی نهادینه می شود.
3. تعریف نقش و اختیار. مشخص می شود که چه کسی می تواند در چه شغلی از هوش مصنوعی استفاده کند و چه کسی خروجی را تایید می کند. اختیار امضای نهایی مشخص است.
4. ثبت و ممیزی (پیمای حسابرسی). کدام ابزار برای کدام کار استفاده شده است و با کدام داده ها ثبت می شود. اگر مشکلی وجود داشته باشد قابل پیگیری و پاسخگویی است.
5. آموزش و آگاهی. همه، به خصوص تازه واردها، رفلکس های مخفی کاری و نظم و انضباط تایید را می آموزند. بیشتر تخلفات به دلیل ناآگاهی رخ می دهد.
6. بررسی مستمر. ابزارها، خطرات و قوانین در طول زمان تغییر می کنند. چارچوب به طور منظم به روز می شود.
احتیاط: چارچوب حاکمیتی سندی نیست که یک بار نوشته شود و کنار گذاشته شود. ابزارهای هوش مصنوعی به سرعت تغییر می کنند. برنامه ای که دیروز ایمن در نظر گرفته می شد، ممکن است امروز خط مشی داده خود را تغییر داده باشد. بررسی منظم فهرست ابزارهای تایید شده و سیاست داده تضمین می کند که چارچوب زنده باقی می ماند.
اصول تغییر ناپذیر استفاده مسئولانه
اصول فیلتر شده از تمام واحدهای این ماژول:
- مسئولیت انسانی: تصمیم نهایی، تفسیر، نمایندگی و امضا متعلق به انسان است. "هوش مصنوعی چنین گفته است" یک توجیه نیست.
- راستیآزمایی: هر خروجی مهمی به منبع مرتبط است و تأیید مستقلی را انجام میدهد.
- محرمانه بودن: اطلاعات طبقه بندی شده هرگز بدون تایید وارد خودرو نمی شود. این دو جهان جدا از هم نگهداری می شوند.
- شفافیت: استفاده از هوش مصنوعی در صورت لزوم بیان شده است. فرآیند ثبت می شود.
- بررسی عینی و سوگیری: خروجی ها برای سوگیری آزمایش می شوند. فرضیه متقابل پرسیده می شود.
- قانونی و اخلاقی: OSINT فقط از طریق منابع قانونی و در دسترس عموم انجام می شود. داده های شخصی محافظت می شود؛ هوش مصنوعی برای دستکاری استفاده نمی شود، بلکه برای دیپلماسی محترمانه و صادقانه استفاده می شود.
- محل کارشناس ذیصلاح: در زمینه های ایمنی حیاتی یا با پیامدهای بالا، خروجی هوش مصنوعی جایگزین تاییدیه متخصص واجد شرایط نیست. فقط سرعتش رو زیاد میکنه
سه کیف کوچک
مورد 1 - درها یک حشره گرفتار شدند. اطلاعات جمع آوری شده در یک روز بحرانی به سرعت به یک جلسه توجیهی تبدیل شد. در گیت راستیآزمایی، متوجه شد که هیچ منبع مستقلی ادعای «تعهد» ایجاد شده توسط هوش مصنوعی را نداشته است. ادعای توهم بود. درب مانع از رسیدن اطلاعات نادرست به وزیر شد.
مورد 2 - حاکمیت نقض را محدود کرد. در یکی از مؤسسات لیست خودرو و نظم و انضباط ثبت نام مورد تأیید وجود داشت. هنگامی که یک کارآموز به طور تصادفی سعی کرد یک سند حساس را به یک نماینده تایید نشده ارسال کند، سیستم هشدار داد و این حادثه یک خطای جزئی بود، نه یک تخلف. چارچوب کار کرد.
مورد 3 - مرور مستمر ذخیره شد. یک سازمان طی یک بررسی منظم متوجه شد که ابزار ترجمه ای که از آن استفاده می کند، خط مشی داده خود را تغییر داده است. ابزار اکنون ورودی ها را ذخیره می کرد. از لیست تایید شده حذف شد و کارهای محرمانه به سیستم امن منتقل شد. حکومت پر جنب و جوش خطری بی سر و صدا را به همراه داشت.
چهار قالب قابل کپی
1) کنترل خروجی شش پورت:
من را از شش در عبور دهید و قبل از تولید خروجی زیر به من یادآوری کنید که برای هر کدام چه چیزی را بررسی کنم: (1) اصالت/حساسیت منبع، (2) اتصال حریم خصوصی به متوسط، (3) اعتبار متقابل، (4) تفکیک و تعصب واقعیت-تفسیر، (5) لحن/قالب، (6) امضای انسانی. شغل: [اینجا]
2) خودارزیابی حاکمیت:
نقش شما: مشاور حکمرانی هوش مصنوعی. اجرای فعلی ما را در زیر ارزیابی کنید و هرگونه شکاف را مشخص کنید: آیا فهرست ابزار تایید شده، خط مشی طبقه بندی داده ها، نقش/مرجع، ثبت/حسابرسی، آموزش، بررسی وجود دارد. برای هر عنوان پیشنهادات "حاضر / جزئی / غایب" و بهبود را ارائه دهید. وضعیت فعلی: [اینجا]
3) بررسی پس از رویداد:
آنچه را که به خوبی پیش رفت و کدام دروازهها در مأموریت مبتنی بر هوش مصنوعی در زیر کار میکردند/از دست داده بودند را تجزیه و تحلیل کنید. برای جلوگیری از تکرار این اتفاق، 3 بهبود مشخص را پیشنهاد دهید. بر بهبود فرآیند تمرکز کنید، نه سرزنش. خلاصه ماموریت: [اینجا]
4) پیش نویس اعلامیه استفاده مسئولانه:
پیش نویس یادداشت کوتاهی برای افزودن در پایان گزارش، با شفافیت استفاده از هوش مصنوعی: در چه مراحلی از هوش مصنوعی برای پیش نویس/خلاصه استفاده شده است، جایی که همه یافته ها توسط انسان تأیید شده است، و مسئولیت نهایی بر عهده متخصص است. سنجیده و واضح باشد.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
این پرونده را به طور کامل رسیدگی کنید، جلسه توجیهی را آماده کنید و تصمیم بگیرید.
کل زنجیره، تأیید و تصمیم گیری را به هوش مصنوعی واگذار می کند. خطا می تواند در هر مرحله رخ دهد. مسئولیت و محرمانگی نقض می شود.
اعلان قدرتمند:
نقش شما: دستیار گردش کار. این کار را به شش مرحله تقسیم کنید (جمع آوری، پردازش، تأیید، سنتز، خروجی، تصمیم گیری) و به من بگویید که برای هر مرحله چه کنترل انسانی باید انجام دهم. شما طرح کلی و خلاصه تولید می کنید. من تأیید، بررسی سوگیری، لحن و تصمیم را انجام خواهم داد. بدون درخواست اطلاعات محرمانه به جلو حرکت کنید. جستجو: [اینجا]
تفاوت واضح است: زنجیره به مراحل تقسیم می شود، هر دروازه تحت کنترل انسان باقی می ماند، هوش مصنوعی فقط طرح اولیه را تولید می کند و تصمیم با انسان باقی می ماند.
جدول پورت های گردش کار
مرحله
سهم هوش مصنوعی
دروازه انسان
مجموعه
ویرایش منبع
قانونمندی، حساسیت
پردازش/ترجمه
خلاصه، پیش نویس ترجمه
حریم خصوصی، ابزار ظریف
تایید
علامت مبدأ/تضاد
دو منبع مستقل
سنتز
چارچوب، سناریو
تفسیر واقعیت، تعصب
خروجی
اسکلت، طرح کلی
لحن، فرم، تمایز
تصمیم گیری
-
امضا، مسئولیت
اشتباهات رایج
- دور زدن درها پرش از درب در روزهای شلوغ باعث میشود که اشکال به داخل نشت کند.
- واگذاری کل زنجیره به هوش مصنوعی. اعتبار و تصمیم همیشه با انسان باقی می ماند.
- حذف حکومت و فراموش کردن آن. اگر چارچوب به طور مرتب مورد بازنگری قرار نگیرد، منسوخ می شود و خطراتی را ایجاد می کند.
- عدم نگهداری سوابق بدون ردپا، نمی توان پاسخگویی داشت و اشتباهات را نمی توان آموخت.
- پرهیز از شفافیت در مواردی که استفاده از هوش مصنوعی ضروری است، باید صادقانه بیان شود.
به طور خلاصه
استفاده سرتاسری مسئولانه به معنای قرار دادن هوش مصنوعی در زنجیرهای با شش دروازه تأیید انسانی از ابتدای یک حادثه تا تصمیمگیری و پشتیبانی از آن با چارچوب حاکمیت شرکتی (فهرست ابزارهای تأیید شده، خطمشی دادهها، نقشها، ثبت نام، آموزش، بررسی مستمر) است. مسئولیت انسانی، راستی آزمایی، محرمانه بودن، شفافیت، کنترل سوگیری، قانونی بودن/اخلاق و کارشناس صالح اصول تغییرناپذیر هستند. هوش مصنوعی سرعت و دامنه را افزایش می دهد. انسان همیشه عهده دار قضاوت، نمایندگی و مسئولیت نهایی است.
وظیفه کاربردی
چک لیست گردش کار شش دری را برای میز خود بنویسید و آن را برای یک کار واقعی (یا خیالی) اعمال کنید. عملکرد فعلی (یا ایده آل) خود را ارزیابی کنید و شکاف ها را با الگوی "خودارزیابی حکومتی" شناسایی کنید. "بیانیه استفاده مسئولانه" را به انتهای چاپ اضافه کنید. در نهایت، 5 اصولی را که از کل ماژول یاد گرفتید، به زبان خودتان بنویسید.
چک لیست
- [ ] من گردش کار شش پورت را تعریف و اجرا کردم.
- [ ] من هر خروجی مهمی را از یک دروازه تأیید انسانی عبور دادم.
- [ ] من بر اساس لیست خودرو و سیاست داده تایید شده کار کردم.
- [ ] من استفاده از هوش مصنوعی را ضبط کردم و در صورت لزوم آن را شفاف بیان کردم.
- [ ] من به عنوان یک انسان مسئولیت تصمیم نهایی، تفسیر و امضا را بر عهده گرفتم.
امتحان ماژول
1. کدام یک از موارد زیر دقیق ترین موقعیت برای هوش مصنوعی در روابط بین الملل و دیپلماسی است؟
- الف) هوش مصنوعی می تواند مستقیماً بدون تأیید انسان تصمیم سیاست خارجی یک دولت را اتخاذ کند
- ب) هوش مصنوعی فقط برای ترجمه متن مفید است و ربطی به کارهای دیپلماتیک دیگر ندارد
- ج) هوش مصنوعی ابزار خلاصه، ترجمه، الگو و طرح کلی است. مسئولیت قضاوت، نمایندگی و تصمیم نهایی بر عهده انسان است ✔
- د) از آنجایی که هوش مصنوعی همیشه بی طرف تر از انسان است، تفسیر خط مشی باید به آن واگذار شود.
توضیحات: هوش مصنوعی; این یک دستیار است که خلاصه می کند، ترجمه می کند، الگوها را علامت گذاری می کند و پیش نویس داده های چند زبانه را تولید می کند. مسئولیت کارهای حیاتی مانند قضاوت، تفسیر، نمایندگی، استراتژی مذاکره و تصمیم نهایی بر عهده متخصص و تصمیم گیرندگان ذیصلاح است. یک خروجی تأیید نشده می تواند منجر به سوء تفاهم، موضع ضعیف در مذاکره یا اطلاعات درز شود.
2. در جلسه توجیهی خود قبل از جلسه، هنگام تجزیه و تحلیل یک بحران فعلی چگونه می توان با هوش مصنوعی برخورد کرد؟
- الف) درخواست این که آن را فقط بر اساس منابع باز فعلی و قدیمی که ارائه میکنید ✔
- ب) با فرض عدم نیاز به ارائه منابع، آزادانه از دانش عمومی خود بهره مند شود.
- ج) تمام اطلاعاتی را که ارائه میکند بهروز بپذیرید و بدون تأیید آن در جلسه توجیهی قرار دهید.
- د) به هیچ وجه از هوش مصنوعی در تجزیه و تحلیل بحران استفاده نکنید، زیرا نمی تواند چیزی کمک کند
توضیح: داده های آموزشی هوش مصنوعی به تاریخ خاصی می رسد و ممکن است از آخرین پیشرفت ها اطلاع نداشته باشد. اگر به "حافظه" خود متکی باشد، ممکن است اطلاعات قدیمی یا حتی نادرست را ارائه دهد. در تحلیل کنونی، رویکرد صحیح این است که از هوش مصنوعی بخواهید که فقط بر منابع باز فعلی و قدیمی که شما ارائه میدهید تکیه کند.
3. چرا تمایز بین «واقعیت»، «ارزیابی» و «پیشبینی» در یک تحلیل مهم است و هوش مصنوعی چه خطری در این زمینه دارد؟
- الف) تمایز غیر ضروری است; همه به یک اندازه قابل اعتماد هستند و می توانند مخلوط شوند
- ب) فقط آینده نگری مهم است; مورد و ارزیابی را می توان نادیده گرفت
- ج) از آنجایی که هوش مصنوعی این تمایز را کاملاً ایجاد می کند، نیازی به کنترل انسان نیست.
- د) تصمیم گیرنده باید بتواند شواهد را از تفسیر تشخیص دهد. هوش مصنوعی این سه مورد را با هم اشتباه می گیرد، تبعیض و برچسب زدن به دست انسان می افتد ✔
توضیح: تصمیم گیرنده باید ببیند شواهد (واقعیت)، تفسیر تحلیلگر (ارزیابی) چیست، پیش بینی آینده (پیش بینی) چیست؟ در غیر این صورت ممکن است یک حدس را به عنوان مدرک اشتباه کند. هوش مصنوعی به طور روان این سه را با هم ترکیب می کند، بنابراین این بر عهده انسان است که تمایز قائل شود و به وضوح آن را برچسب گذاری کند.
4. هنگامی که هوش مصنوعی در ترجمه متن توافقنامه رسمی، عبارت «باید» را به عنوان «طرفین تشویق میشوند» ترجمه میکند، چه باید کرد؟
- الف) از آنجایی که ترجمه روان است، همین طور که هست پذیرفته می شود.
- ب) اصطلاح الزام آور قانونی توسط کارشناس انسانی بررسی و تصحیح می شود. ترجمه خام هوش مصنوعی سند رسمی محسوب نمی شود ✔
- ج) این انتخاب همیشه از منظر دیپلماتیک بهتر است زیرا هوش مصنوعی «نرمتر» ترجمه میشود.
- د) اختلاف اصطلاحات در متون توافقی بی اهمیت است، معنای عام کافی است
توضیح: در متن دیپلماتیک/حقوقی، تفاوت «باید» و «باید»، تفاوت بین تعهد و خواست است. ترجمه اشتباه می تواند یک commit را از بین ببرد. این عبارات باید توسط متخصص انسانی در ترجمه رسمی و با بررسی مجدد تصحیح شود. ترجمه هوش مصنوعی نمی تواند یک سند رسمی به شکل خام باشد.
5. آیا وقوع یک ادعا در 200 سایت مختلف در یک مطالعه OSINT (هوش منبع باز) آن را تأیید می کند؟
- الف) خیر؛ کپی ها ممکن است از یک منبع منفرد تهیه شوند، تأیید به منابع مستقل و ردیابی منشأ نیاز دارد ✔
- ب) بله؛ هرچه اطلاعات بیشتری در یک قطعه اطلاعات ظاهر شود، دقیق تر است.
- ج) بله؛ 200 سایت از نظر آماری شواهد کافی است
- د) خیر، اما یک منبع معتبر همیشه دقیق تر از دو منبع مستقل است
توضیحات: خیر. بیشتر اطلاعات نادرست از یک منبع مشکوک سرچشمه می گیرد و در صدها مکان کپی می شود و توهم "چند منبع" را ایجاد می کند. یک ادعا تنها زمانی تأیید شده تلقی می شود که حداقل توسط دو منبع مستقل و قابل اعتماد تأیید شود. ردیابی مبدا نشان می دهد که آیا نسخه ها از یک منبع واحد تغذیه می شوند یا خیر.
6. وقتی ادعایی را با هوش مصنوعی تأیید میکنید، اگر به منبعی اشاره میکند که «براساس گزارش 2023 این سازمان...» را نشان میدهد، چه باید کرد؟
- الف) از آنجایی که هوش مصنوعی منبع را ذکر می کند، این ادعا به طور خودکار تأیید شده تلقی می شود.
- ب) تا زمانی که نام منبع معقول به نظر می رسد نیازی به باز کردن و بررسی نیست
- ج) عدم تایید منبع بدون باز کردن مستقل آن و تایید وجود واقعی و حاوی اطلاعات ✔
- د) اگر تاریخ داده شده توسط هوش مصنوعی جاری باشد، منبع قطعا واقعی است.
توضیحات: هوش مصنوعی می تواند توهم ایجاد کند و گزارش و رقمی که وجود ندارد واقعی باشد. علاوه بر این، یک منبع ساختگی ممکن است قانعکنندهتر از منبع واقعی به نظر برسد. ما نباید هر منبعی را بدون باز کردن مستقل آن و مشاهده اینکه واقعاً وجود دارد و حاوی آن اطلاعات است، «تأیید شده» در نظر بگیریم.
7. نقش هوش مصنوعی در آماده شدن برای مذاکره چه تصمیمی باید کاملا انسانی باقی بماند؟
- الف) هوش مصنوعی هم سناریو تولید می کند و هم طرح مصالحه نهایی و خطوط قرمز را تعیین می کند
- ب) هوش مصنوعی فیلمنامه و تمرین تولید می کند. تصمیمات خط قرمز و سازش بر عهده مردم و تصمیم گیرندگان است ✔
- ج) به هیچ وجه نمی توان از هوش مصنوعی در مذاکره استفاده کرد. تمام آماده سازی باید با دست انجام شود
- د) هوش مصنوعی همچنین می تواند مذاکرات مستقیمی را با طرف مقابل روی میز انجام دهد.
توضیحات: هوش مصنوعی طرف مقابل را تجزیه و تحلیل می کند، مناطق مورد علاقه و مبادله را ترسیم می کند، سناریوها را تولید می کند و به عنوان یک شبیه ساز چالش برانگیز طرف مقابل تمرین می کند. اما اینکه خطوط قرمز در کجا کشیده میشود و چه امتیازاتی گرفته میشود، تصمیمات مردم و تصمیمگیرندگانی است که مسئولیت سیاسی دارند، زیرا یک کشور را مقید میکنند. به هوش مصنوعی منتقل نمی شود.
8. اگر هوش مصنوعی از اول شخص مفرد («ما درخواست میکنیم...») را هنگام تهیه پیشنویس «شفاهی یادداشت» استفاده کند، چرا خطا است؟
- الف) تبصره شفاهی سوم شخص مفرد نوشته می شود. قالب و فرم باید از قالب تایید شده گرفته شود و به هوش مصنوعی سپرده نشود ✔
- ب) استفاده شخصی بی ربط است. فرمت اسناد دیپلماتیک رایگان است
- ج) اول شخص مفرد شکل صحیح ترجیحی در نماد گفتاری است.
- د) از آنجایی که هوش مصنوعی الگوهای رسمی هر کشور را به طور کامل می شناسد، نیازی به کنترل نیست.
توضیح: یادداشت شفاهی نوعی سند رسمی است که به صورت سوم شخص مفرد و بدون امضاء نوشته میشود (سفارت ... احترام خود را به وزارت ... تقدیم میکند). استفاده از شخص اشتباه یک خطای رویه/فرمت است. هوش مصنوعی الگوهای کلی را می شناسد اما ممکن است شکل رسمی سازمان شما را نداند. قالب و فرم از قالب تایید شده گرفته شده است.
9. اطلاعات ارائه شده توسط هوش مصنوعی مانند "مردم این کشور همیشه هنگام چانه زنی این کار را انجام می دهند" چگونه باید در آماده سازی بین فرهنگی استفاده شود؟
- الف) به عنوان یک احتمال و محل توجه، نه قاعده قطعی; باید با در نظر گرفتن تفاوت های فردی و تایید آن استفاده شود ✔
- ب) باید به عنوان یک قاعده رفتاری قطعی در نظر گرفته شود و کل استراتژی بر اساس آن ساخته شود.
- ج) باید به عنوان یک ابزار مزیت برای دستکاری طرف مقابل استفاده شود
- د) چون هوش مصنوعی می گوید باید دقیقاً برای هر فردی اعمال شود
توضیح: این گونه تعمیمات کلیشه ای هستند. هر فردی را در قالب یکسانی قرار می دهد و شخص واقعی اغلب با کلیشه سازگار نیست. دانش فرهنگی را باید به عنوان یک امکان و نکته احتیاط به کار برد نه قاعده قطعی و تفاوت های فردی، منطقه ای و نسلی را باید به خاطر داشت و در صورت امکان با کارشناس داخلی تایید کرد.
10. برای خلاصه کردن یادداشت های مکالمه محرمانه با همکار کدام رویکرد صحیح است؟
- الف) برای سرعت، آن را در نزدیکترین ابزار هوش مصنوعی عمومی قرار دهید و آن را خلاصه کنید
- ب) نام ها را حذف کنید، آنها را "ناشناس" کنید و به هر ابزار خارجی بدهید
- ج) پردازش فقط در یک سیستم تایید شده است که در داخل، امن، و داده ها در معرض نیست ✔
- د) از آنجایی که یادداشت مصاحبه کوتاه است، بدون توجه به محرمانه بودن آن را پردازش کنید.
توضیح: یک سند محرمانه (طبقه بندی شده) هرگز در ابزار هوش مصنوعی عمومی که آژانس برای آن کلاس تایید نکرده است، وارد نمی شود. زیرا متن را می توان پردازش کرد، روی سرورهای خارجی ذخیره کرد یا در آموزش مدل استفاده کرد و استخراج غیرقابل برگشت است. این نوع کار فقط در سیستمهای داخلی، امن و تایید شده که دادهها را درز نمیکنند انجام میشود.
11. چرا ممکن است سندی با نام های حذف شده "ناشناس" تلقی شود و در دسترس عموم قرار گیرد، حمایت کافی نباشد؟
- الف) حذف یک نام همیشه ناشناس سازی کامل است و هر سند را ایمن می کند
- ب) زمینه (تاریخ، مکان، رویداد) می تواند هویت و موقعیت را بازیابی کند. حفاظت با انتخاب ابزار و محیط ارائه می شود ✔
- ج) خطر تجمع هرگز در اسناد ناشناس رخ نمی دهد.
- د) تا زمانی که سند کوتاه است، استنباط هویت از متن غیرممکن است
توضیح: حتی اگر نام ها حذف شوند، زمینه (تاریخ، مکان، رویداد، تعداد مهمانی ها، موضوع) ممکن است برای یک کارشناس کافی باشد تا هویت ها و موقعیت ها را اصلاح کند. اطلاعات حساس واقعی نه با پوشاندن، بلکه با انتخاب مناسب ابزار و رسانه محافظت می شود. اطلاعات نامشخص باید به عنوان یک طبقه بالاتر در نظر گرفته شود.
12. موثرترین راه برای جلوگیری از نشت یک خطای هوش مصنوعی در تصمیم نهایی در یک گردش کار دیپلماتیک سرتاسر چیست؟
- الف) واگذاری کل فرآیند به یک ابزار هوش مصنوعی و تنها نگاهی به پایان
- ب) حذف اعتبارسنجی میانی برای سرعت و بررسی فقط در مرحله خروجی
- ج) اجازه دادن به هر متخصص برای استفاده آزادانه از ابزار خود بدون نگهداری سوابق
- د) قرار دادن یک گیت و شرایط پاس انسانی در هر مرحله (تایید لایه ای) ✔
توضیحات: یک دروازه تأیید انسانی و یک شرایط انتقال واضح در هر مرحله (جمع آوری، پردازش/ترجمه، اعتبارسنجی، سنتز، خروجی، تصمیم) قرار می گیرد. شما نمی توانید از یک در بدون عبور از در دیگری عبور کنید. این ساختار لایهای تضمین میکند که توهم، ترجمه نادرست یا سوگیری در یک مرحله در درب بعدی گرفتار میشود و در تصمیمگیری نفوذ نمیکند.
13. اجزای کلیدی چارچوب حاکمیتی برای استفاده مسئولانه از هوش مصنوعی در سطح شرکت چیست؟
- الف) لیست ابزار تایید شده، خط مشی داده، نقش/مرجع، ثبت/حسابرسی، آموزش و بررسی مداوم ✔
- ب) تنها قانون این است که بگویید "همه باید از جدیدترین و محبوب ترین ابزار استفاده کنند"
- ج) سند خط مشی ثابتی که یک بار نوشته شده و هرگز به روز نمی شود.
- د) سپردن کلیه تصمیمات در اختیار تک تک کارشناسان بدون ثبت سوابق
توضیح: انضباط فردی لازم است اما کافی نیست. حاکمیت شرکتی؛ این شامل لیست خودروهای تایید شده، خط مشی طبقه بندی داده ها، تعریف نقش/مرجع، ثبت نام و مسیر حسابرسی، آموزش/آگاهی و اجزای بررسی مستمر است. «هر کسی باید از هر ابزاری که میخواهد استفاده کند» یک آسیبپذیری امنیتی است و اگر چارچوب بهطور مرتب بهروزرسانی نشود، منسوخ خواهد شد.
14. استفاده از هوش مصنوعی در تجزیه و تحلیل در برابر سوگیری تایید چگونه موثرتر است؟
- الف) پرسیدن آگاهانه از هوش مصنوعی فرضیه مخالف و آزمایش ارزیابی خود ✔
- ب) فقط پرسیدن سؤالاتی که نظر خود را تأیید می کند و تأیید را به عنوان مدرک در نظر می گیرد
- ج) پاسخ اولی که هوش مصنوعی داده را خنثی بپذیرد و به دنبال زاویه دیگری نباشد.
- د) با فرض عدم نیاز به کنترل اضافی زیرا سوگیری در هوش مصنوعی وجود ندارد
توضیح: اگر سؤالی بپرسید که فقط دیدگاه شما را پشتیبانی می کند، هوش مصنوعی تصویری تأییدکننده (با تمایل به چاپلوسی) ترسیم می کند. پرسیدن آگاهانه فرضیه متضاد - "سناریویی که در آن این ارزیابی اشتباه است چگونه به نظر می رسد؟" - عوامل نادیده گرفته شده را آشکار می کند و سوگیری را بررسی می کند. خلاصه کردن یک رویداد از منظرهای مختلف نیز تعادل ایجاد می کند.