واحد 11 / 11

مرزها، ریسک مدل، اخلاق، حریم خصوصی و حاکمیت

سود:

  • توانایی فهرست بندی سیستماتیک محدودیت های اصلی هوش مصنوعی در تحلیل اقتصادی (ساخت، تاریخ قطع داده ها، کوری علیت، شکست ساختاری)
  • امکان ایجاد یک استفاده ایمن و گردش کار مطابق با KVKK که از داده های محرمانه، اطلاعات حساس بازار و داده های شخصی محافظت می کند.
  • توانایی طراحی و پیاده سازی چارچوب حاکمیت هوش مصنوعی در سطح سازمانی (ثبت نام، تأیید، پاسخگویی، زنجیره تأیید)

امتحان ماژول

1. یک بانک مرکزی یک پیش بینی تورم ایجاد شده توسط هوش مصنوعی را مستقیماً بدون هیچ گونه تأییدیه ای در یادداشت سیاست رسمی قرار می دهد. اشتباه اساسی در این رویکرد چیست؟

  • الف) تبدیل خروجی هوش مصنوعی به یک تصمیم بدون اتصال آن به منبع، محاسبه مجدد آن و انجام تایید اقتصادی. نادیده گرفتن اینکه مسئولیت با مردم است ✔
  • ب) استفاده از هوش مصنوعی در پیش بینی های اقتصادی اکیداً ممنوع است
  • ج) هوش مصنوعی همواره تورم را کمتر از آنچه هست نشان می دهد
  • د) پیش بینی در نمودار ارائه نمی شود

توضیحات: هوش مصنوعی یک طرح کلی آماری ایجاد می کند. اما مسئولیت پیش بینی و محتوای خلاصه سیاست رسمی بر عهده اقتصاددان ذیصلاح و موسسه است. خروجی تایید نشده به اندازه یک گزارش بدون امضا خطرناک است. شماره باید به منبع اصلی پیوند داده شود، دوباره محاسبه شود و از یک فیلتر اقتصادی عبور داده شود.

2. زمانی که از هوش مصنوعی می‌پرسید، «شکل کسری حساب جاری ترکیه در سال 2024 را به من بدهید»، ایمن‌ترین رویکرد چیست؟

  • الف) به عدد داده شده توسط هوش مصنوعی اعتماد کنید و مستقیماً از آن استفاده کنید
  • ب) تأیید رقم از انتشار رسمی تراز پرداخت های CBRT و تأیید تاریخ/واحد ✔
  • ج) دریافت شماره از یک سایت خبری تصادفی در اینترنت
  • د) نادیده گرفتن عدد زیرا به هر حال تغییر خواهد کرد

توضیح: عدد داده شده توسط هوش مصنوعی ممکن است قدیمی تر از تاریخ قطع داده های آموزشی باشد یا ممکن است ساخته شده باشد (توهم). تنها منبع دقیق داده های اقتصادی، انتشار رسمی است. در این مثال، آمار تراز پرداخت های CBRT است. شماره باید از منبع اصلی تایید شود.

3. یک تحلیلگر سری خام CPI را به هوش مصنوعی می دهد و می گوید "رشد واقعی را محاسبه کنید". کدام یک از موارد زیر یک رفتار اعتبارسنجی صحیح است؟

  • الف) افزودن نتیجه به گزارش بدون خواندن آن
  • ب) فقط نگاه کردن به اینکه آیا نتیجه "معقول به نظر می رسد"
  • ج) نتیجه را با خواندن فرمول/کد تولید شده و محاسبه دستی حداقل یک دوره بررسی کنید.
  • د) از هوش مصنوعی بپرسید "مطمئنی هستید؟" و از پاسخ "بله" راضی بودن

توضیح: در محاسبات اقتصادی استاندارد مانند تبدیل اسمی واقعی، هوش مصنوعی ممکن است از فرمول صحیح استفاده نکند یا سال پایه را مخلوط نکند. تحلیلگر باید کد و فرمول تولید شده را بخواند، حداقل یک مشاهده را به صورت دستی محاسبه کند و نتیجه را مقایسه کند. حسابداری شفاف و قابل توضیح ترجیح داده می شود.

4. چرا در پیش بینی سری های زمانی "آزمایش عقب" انجام می شود؟

  • الف) برای نشان دادن اینکه مدل چقدر با داده های تاریخی «خوب» مطابقت دارد
  • ب) برای نهایی کردن خودکار برآورد
  • ج) برای زیباسازی داده ها
  • د) برای اندازه گیری موفقیت واقعی پیش بینی با آزمایش مدل در دوره های قبلی که در آموزش نبود ✔

توضیحات: آزمون بک‌آست میزان پیش‌بینی مدل را در دوره‌های گذشته که نمی‌داند، اندازه‌گیری می‌کند. این مدل را تنها با نگاه کردن به داده‌هایی که برازش می‌کند، از دام بیش از حد برازش محافظت می‌کند. این یک پیش نیاز برای قابلیت استفاده از مدل در دنیای واقعی است.

5. "اثر پایه" در نظرات تورم چیست و چرا نیاز به توجه دارد؟

  • الف) تغییر سالانه تحت تأثیر کم/بالای دوره مقایسه سال گذشته است ✔
  • ب) تورم همیشه بالا می رود
  • ج) تورم اصلی بالاتر از نرخ تورم
  • د) تعدیل فصلی قیمت ها

توضیح: اثر پایه این است که نرخ تغییر سالانه متاثر از کم یا زیاد (پایه) سال گذشته و همچنین توسعه سال جاری است. کاهش تورم سالانه کل ممکن است به دلیل پایه بالای سال گذشته باشد و نه کاهش واقعی. این تله اغلب در خلاصه های هوش مصنوعی نادیده گرفته می شود.

6. چگونه می توان نقش هوش مصنوعی را در یک مطالعه سناریو به دقیق ترین شکل تعریف کرد؟

  • الف) بیننده ای که آینده را با یقین می داند
  • ب) تصمیم گیرنده نهایی که مفروضات را به تنهایی تعیین می کند
  • ج) دستیار که مفروضات آشکار را به محاسبات شفاف تبدیل می کند و گزینه ها را قابل مشاهده می کند. قضاوت در انسان است✔
  • د) ابزار دقیقی که فیلمنامه را غیر ضروری می کند

توضیح: این سناریو یک پیش‌بینی نیست، بلکه یک تمرین مشروط «اگر-آنگاه» بر اساس مفروضات صریح است. هوش مصنوعی شتاب‌دهنده‌ای در تبدیل مفروضات به صفحات گسترده و قابل مشاهده کردن گزینه‌ها است. با این حال، مالکیت مفروضات، معقول بودن آنها و قضاوت نهایی بر عهده اقتصاددان است.

7. هوش مصنوعی هنگام تفسیر خروجی رگرسیون از زبان علی قوی مانند «X Y را افزایش می‌دهد» استفاده می‌کند. پاسخ صحیح اقتصاددان چیست؟

  • الف) پذیرفتن زبان علّی همانگونه که هست
  • ب) با بررسی خطرات متغیرهای حذف شده/ درون زایی و تصحیح این واقعیت که رابطه به معنای علیت نیست، زبان را تصحیح کنید.
  • ج) دور انداختن کامل رگرسیون
  • د) با فرض اینکه علیت ثابت شود اگر R-squared زیاد باشد

توضیح: رگرسیون بیشتر رابطه (همبستگی) را اندازه گیری می کند. علیت را فقط می توان تحت طرح مناسب (آزمایش، متغیر ابزاری، آزمایش طبیعی و غیره) و مفروضات مناسب ادعا کرد. ریسک متغیرهای حذف شده، درون زایی و علیت معکوس وجود دارد. اقتصاددان باید این زبان علّی بیش از حد را مهار کند و شرایط را زیر سؤال ببرد.

8. شما از هوش مصنوعی یک خلاصه ادبیات در مورد یک موضوع اقتصادی تهیه کرده اید، و متن ارجاعاتی مانند "(Yılmaz، 2019)" را ارائه می دهد. ابتدا باید چه کاری انجام دهید؟

  • الف) قرار دادن استنادها در گزارش به همان شکلی که هستند
  • ب) با فرض کیفیت خوب فقط به دلیل وجود استنادات زیاد
  • ج) صرفاً به ثبات سال های انتشار نگاه می کنیم
  • د) از منبع اصلی تأیید کنید که هر مرجع واقعاً وجود دارد و حاوی یافته ✔ است

توضیح: هوش مصنوعی می تواند منابع و منابعی تولید کند که در واقع وجود ندارند (توهم). هر مرجع باید از منبع اصلی تأیید شود که واقعاً وجود دارد، صحت انتساب آن، و اینکه واقعاً حاوی یافته ادعا شده است. اسناد تایید نشده یک ریسک علمی و حرفه ای است.

9. صادقانه ترین راه برای انتقال عدم قطعیت در یک گزارش اقتصادی عمومی چیست؟

  • الف) دادن یک عدد دقیق و عدم ذکر عدم قطعیت
  • ب) مخفی کردن بدترین سناریو و ارائه تنها عدد خوش بینانه
  • ج) محدوده پیش بینی، سناریوها و مفروضات اساسی را به وضوح بیان کنید ✔
  • د) نادیده گرفتن عدم قطعیت با گفتن "پیچیده است"

توضیح: عدم قطعیت در پیش بینی و تحلیل اقتصادی امری اجتناب ناپذیر است. بیان واضح محدوده ها، سناریوها و مفروضات به جای یک عدد دقیق، یک ارتباط صادقانه است. پنهان کردن ابهام، خواننده را گمراه می کند و اعتبار سازمان را تضعیف می کند.

10. هنگامی که نمودار رشد تولید ناخالص داخلی را نشان می دهد، محور عمودی را به جای 0 درصد از 2% شروع می کند. چرا این ممکن است گمراه کننده باشد؟

  • الف) محور نقطه چین ممکن است تفاوت های کوچک را اغراق آمیز کند و تغییر را بزرگتر از آنچه هست ✔ کند
  • ب) جایی که محور شروع می شود به هیچ وجه روی نمودار تأثیری ندارد
  • ج) نمودار به طور خودکار دقیق تر می شود
  • د) فقط انتخاب رنگ مهم است، محور بی اهمیت است

توضیح: یک محور نقطه چین (از صفر شروع نمی‌شود) می‌تواند تفاوت‌های کوچک را از نظر بصری بزرگ‌نمایی کند و تغییر را چشمگیر جلوه دهد. در تجسم صادقانه، انتخاب محور نباید پیام را تحریف کند. اگر از یک محور چین استفاده می شود، باید به وضوح علامت گذاری شود.

11. یک تحلیلگر اندیشکده داده های حساس به بازار را که هنوز عمومی نشده اند به ابزار هوش مصنوعی عمومی (غیر سازمانی) متصل می کند. ریسک کلیدی چیست؟

  • الف) هیچ خطری وجود ندارد، داده ها قبلاً عددی هستند
  • ب) تنها خطر این است که نمودار اشتباه باشد
  • ج) هوش مصنوعی داده ها را بسیار کند پردازش می کند
  • د) خطر نشت داده ها، پردازش توسط اشخاص ثالث و نقض قوانین حریم خصوصی/بازار ✔

افشا: وارد کردن داده‌های محرمانه یا حساس به بازار در یک ابزار عمومی، خطر پردازش داده‌ها توسط اشخاص ثالث، افشای اطلاعات یا استفاده برای آموزش مدل را ایجاد می‌کند. این امر هم نقض حریم خصوصی/KVKK و هم خطر دستکاری بازار و اطلاعات داخلی را به همراه دارد. داده های حساس باید در ابزارهای ایمن و تایید شده توسط موسسه پردازش شوند و در صورت لزوم ناشناس شوند.

12. ارقام یک شاخص گرفته شده از دو منبع مختلف (TURKSTAT و یک سازمان بین المللی) مطابقت ندارند. محتمل ترین توضیح بی گناه چیست؟

  • الف) یکی از منابع قطعا دروغ است
  • ب) ممکن است در تعریف، سال پایه، دامنه، تعدیل فصلی یا تجدید نظر تفاوت وجود داشته باشد. ابرداده ها باید تراز شوند ✔
  • ج) تفاوت در اعداد بی اهمیت است، گرفتن میانگین آنها کافی است
  • د) کافی است از هوش مصنوعی سوال کنید و بگذارید انتخاب کند کدام یک درست است.

توضیح: تفاوت در یک شاخص در منابع مختلف بیشتر به دلیل تفاوت در تعریف، سال پایه، دامنه، تعدیل فصلی یا تجدید نظر (نسخه) است. فراداده (تعریف، واحد، دوره، تصحیح) باید قبل از مقایسه ارقام تراز شوند.

13. کدام یک از موارد زیر کاری است که در آن هوش مصنوعی در تجزیه و تحلیل اقتصادی قوی است و با اعتبار انسانی شتاب می گیرد؟

  • الف) تایید نهایی رقم رسمی تورم به تنهایی
  • ب) اتخاذ تصمیمات سیاست پولی به جای موسسه
  • ج) سرعت بخشیدن به کارهایی مانند تهیه پیش نویس کد پاکسازی داده ها و خلاصه کردن گزارش های طولانی ✔
  • د) قرار دادن حدس تایید نشده در گزارش عمومی

توضیحات: هوش مصنوعی; قوی در کارهای مکانیکی و پیش نویسی مانند کد پیش نویس، خلاصه کردن گزارش طولانی، پیشنهاد مراحل پاکسازی داده ها، اصلاح قالب بندی و زبان. با این حال، مسئولیت نهایی پیش‌بینی، تصمیم‌گیری سیاست‌گذاری و تولید ارقام رسمی بر عهده انسان است. استفاده صحیح این است که در جایی که قوی است تسریع شود و قضاوت انتقادی در فرد حفظ شود.

14. مناسب ترین رویه حاکمیتی برای اطمینان از نظارت و ممیزی خروجی های هوش مصنوعی در یک موسسه چیست؟

  • الف) یک زنجیره ردیابی و تأیید ایجاد کنید که درخواست، ابزار، داده ها و مراحل تأیید را ثبت می کند.
  • ب) به هیچ وجه خروجی ها را ضبط نکنید تا حجم کار زیاد نشود
  • ج) هر کس می تواند آزادانه از وسیله نقلیه مورد نظر خود با داده هایی که می خواهد استفاده کند.
  • د) فقط مسن ترین فرد از هوش مصنوعی استفاده می کند، هیچ پرونده ای نگهداری نمی شود

توضیحات: حکمرانی صحیح. این نیاز به ضبط خروجی با کدام درخواست، با کدام ابزار، با کدام داده، مرحله تأیید و یک زنجیره تأیید مسئول دارد. این نظم ثبت و تصدیق امکان ردیابی اشتباهات و روشن شدن مسئولیت را فراهم می کند.