گردش کار پایان به انتها، مدل حاکمیتی و خود حسابرسی

سود:

• امکان اجرای ایمن یک کار بانکی به صورت سرتاسری با چرخه «هوش مصنوعی تولید می‌کند → کارشناس تأیید می‌کند → تصمیم‌گیری مجاز»
• قابلیت جاسازی ایمن هوش مصنوعی در چارچوب حاکمیت مدل، اعتبارسنجی، نظارت و بهبود مستمر
• توانایی بر عهده گرفتن مسئولیت نهایی با بررسی خود خروجی آنها با پنج سوال کلیدی (احراز هویت، منبع، محرمانه بودن، انصاف، تایید)

در سراسر این ماژول، ما هوش مصنوعی را به عنوان یک دستیار و مولد طرح در هر گوشه ای از بانکداری - اعتبار، تقلب، تقسیم بندی، خدمات مشتری، انطباق، گزارش، تجزیه و تحلیل مالی، قرار می دهیم. در این بخش نهایی، قطعات را کنار هم قرار می‌دهیم: چگونه یک کار بانکی را از ابتدا تا انتها در یک حلقه امن اجرا می‌کنید، چگونه مدل حاکمیتی آن حلقه را چارچوب‌بندی می‌کند، و با چه پنج سؤالی هر خروجی را خود حسابرسی می‌کنید؟ هدف این است که آنچه را که آموخته اید تقطیر کنید به یک رفلکس: AI تولید می کند → متخصص تأیید می کند → متخصص تصمیم می گیرد. این چرخه راهی برای حفظ سرعت و امنیت همزمان است.

حلقه انتها به انتها: سه حلقه

هر وظیفه بانکی را به عنوان یک زنجیره سه حلقه در نظر بگیرید:

1. هوش مصنوعی تولید می کند (حلقه پیش نویس): ناشناس، با حداقل داده، وظیفه پیش نویس/بررسی به هوش مصنوعی داده می شود - خلاصه، توجیه پیش نویس، هشدار، پیش نویس حساب. در اینجا هیچ تصمیمی وجود ندارد، فقط مواد است.
2. کارشناس تأیید می کند (حلقه فیلتر): خروجی به منبع مرتبط می شود، اعداد دوباره محاسبه می شوند، از طریق خط مشی/قانون و عدالت فیلتر می شوند. توهم، تبعیض و تجاوز به حریم خصوصی در اینجا حذف شده است.
3. مرجع تصمیم می گیرد (حلقه امضا): قضاوت نهایی - اعتبار، STR، تصمیم تقلب، امضای گزارش - توسط شخص/کمیته مجاز انجام می شود. توجیه و پیگیری حسابرسی ثبت می شود.

تلاش

هوش مصنوعی تولید می کند

کارشناس تایید می کند

تصمیم صالح

اعتبار

پیش نویس توجیهی

نسبت / منبع / انصاف

تصمیم تخصیص

تقلب

هشدار ناهنجاری

متن/تأیید مشتری

بلوک / حکم آزاد

AML

الگو/تطابق

بررسی عدم تطابق

تصمیم STR

گزارش دهید

پیش نویس متن/عدد

تایید عددی

امضا

تجزیه و تحلیل

پیش‌نویس امتیاز/نظر

محاسبه مجدد/فرض

نظر سرمایه گذاری/اعتباری

نکته: بیشترین پیوندی که در حلقه نادیده گرفته می‌شود، «تأیید» وسط است. تحت فشار، مردم از پیش نویس به تصمیم می پرند. با این حال، این دقیقا همان حلقه میانی است که هم ارزش و هم ریسک را تعیین می کند. رد شدن از تأیید چرخه را شکسته است.

حاکمیت مدل: سیستمی که حلقه را چارچوب بندی می کند

فراتر از وظایف فردی، بانک باید مدل های خود را به عنوان یک کل مدیریت کند. حاکمیت مدل شامل اجزای زیر است:

• اعتبارسنجی: مدل قبل از استفاده به طور مستقل آزمایش می شود. دقت، عدالت و حدود آن سنجیده می شود.
• مانیتورینگ: مدل ممکن است در طول زمان بدتر شود (انحراف داده ها - عملکرد زمانی که توزیع ورودی تغییر می کند کاهش می یابد). مدام تحت نظر است.
• مستندسازی: آنچه مدل انجام می‌دهد، با چه داده‌هایی آموزش دیده است، محدودیت‌های آن و مسئولین مستندسازی می‌شوند.
• نقش و مسئولیت: چه کسی تولید می کند، چه کسی تأیید می کند، چه کسی تصمیم می گیرد به وضوح مشخص شده است.
• بررسی و بهبود: خطاها ثبت می شوند، مدل به صورت دوره ای مجدد ارزیابی می شود.

احتیاط: مدلی که خوب کار می کند برای همیشه خوب کار نخواهد کرد. شرایط اقتصادی، رفتار مشتری و تاکتیک های تقلب تغییر می کند. اگر مدل نتواند با اینها همگام شود، بی سر و صدا شروع به جعل می کند. بدون نظارت، این تخریب مورد توجه قرار نمی گیرد.

خودآزمایی پنج سوالی

قبل از استفاده از هر خروجی هوش مصنوعی، این پنج سوال را از خود بپرسید:

1. تأیید: آیا من این خروجی را به منبع وصل کردم و اعداد بحرانی را دوباره محاسبه کردم؟
2. منبع: آیا هر ادعا بر اساس یک سند/داده/قاعده واقعی است یا می توان آن را ساختگی کرد؟
3. حریم خصوصی: آیا داده های هویتی ناشناس هستند، حداقل داده ها و ابزارهای تأیید شده استفاده می شود؟
4. انصاف: آیا خروجی دارای تبعیض از طریق دارایی محافظت شده یا متغیر جایگزین است؟
5. تایید: آیا تصمیم نهایی توسط شخص مجاز، منطق و مسیر حسابرسی ثبت شده است؟

اگر حتی یکی از پنج مورد "نه" باشد، خروجی برای استفاده آماده نیست.

چهار قالب قابل کپی

1) طرح ماموریت پایان به انتها:

نقش شما: دستیار که به من در برنامه ریزی یک کار بانکی در حلقه امن کمک می کند. وظیفه: [وظیفه]. من را با این سه حلقه پر کنید: (1) چه پیش نویسی را هوش مصنوعی تولید می کند، (2) کارشناس چه مراحل تأییدی را انجام می دهد، (3) مسئول چه تصمیمی می گیرد و ثبت می کند؟ پیشنهاد تصمیم گیری؛ اسکلت فرآیند ظاهر می شود.

2) برنامه خودکنترلی با پنج سوال:

خروجی هوش مصنوعی زیر را با پنج سؤال بررسی کنید: تأیید، منشأ، حریم خصوصی، انصاف، تأیید. برای هر سوال، "ok / ناقص / مخاطره آمیز" را ارزیابی کنید و نحوه رفع نواقص را بنویسید. خروجی: [متن]

3) یادداشت بررسی ردیابی مدل:

نقش شما: دستیار حاکمیت نمونه. برای مدل پشتیبانی تصمیمی که استفاده می‌کنیم، شاخص‌هایی را که نیاز به نظارت منظم دارند (عملکرد، انصاف بین گروهی، سیگنال‌های جابجایی داده‌ها، سوابق خطا) را به یک چک لیست تبدیل کنید. تصمیم گیری؛ پیشنهاد چارچوب نظارتی

4) بسته شدن پرونده و پیگیری حسابرسی:

پیش نویس یادداشت پایانی برای مسیر حسابرسی در پایان یک کار: چه پیش نویس تهیه شده است، چه تأییدیه هایی انجام شده است، چه تصمیمی توسط چه کسی گرفته شده است، با چه توجیهی. فقط از اطلاعات تایید شده ای که ارائه می کنم استفاده کنید. ورودی: [اطلاعات]

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

شما این کار را از ابتدا تا انتها انجام می دهید و نتیجه را به عنوان یک تصمیم آماده به من می دهید، بنابراین من با جزئیات کاری ندارم.

سه حلقه را به یک مرحله کاهش می دهد، تأیید و قضاوت انسان را دور می زند و مسئولیت را پنهان می کند.

اعلان قدرتمند:

نقش شما: دستیار فرآیند، نه تصمیم گیرنده. ابتدا طرح کلی کار را تهیه کنید، سپس نکاتی را که باید تأیید کنم فهرست کنید و در پایان به من یادآوری کنید که تصمیم و مسیر حسابرسی از آن من است. پنج سوال خودبررسی (احراز هویت، منبع، محرمانه بودن، انصاف، تایید) را به خروجی اضافه کنید.

اراده قوی از سه حلقه محافظت می کند، نیاز به تأیید دارد و تصمیم گیری را به شخص واگذار می کند.

سه کیف کوچک

مورد 1 - چرخه به طور کامل اجرا می شود. در یک درخواست وام، هوش مصنوعی پیش نویس توجیهی را تولید می کند (حلقه 1). متخصص نرخ ها را دوباره محاسبه می کند، توجیه انصاف را بررسی می کند، عبارت متغیر جایگزین را پاک می کند (حلقه 2). مسئول تصمیم تخصیص می گیرد و مسیر حسابرسی را ثبت می کند (حلقه 3). در 20 دقیقه، یک تصمیم مطمئن و قابل دفاع ظاهر می شود.

مورد 2 - نظارت باعث تخریب می شود. در حالی که الگوی تقلب برای ماه‌ها به خوبی کار می‌کند، به دلیل یک تاکتیک جدید کلاهبرداری، نرخ شکار بی‌صدا کاهش می‌یابد. نظارت تحت حاکمیت مدل متوجه این کاهش می شود. مدل به روز شده است. بدون نظارت، تلفات همچنان رو به رشد خواهد بود.

مورد 3 - خودکنترلی از تخلف جلوگیری می کند. یک تحلیلگر در حال ارسال مستقیم خروجی هوش مصنوعی برای یک گزارش سریع است. او پنج سوال را اعمال می کند: او متوجه می شود که یک رقم سود در سوال "منبع" تایید نشده است. کنترل از منبع؛ شماره اشتباه است سی ثانیه خود چک از ارسال تصویر نادرست به مدیریت جلوگیری می کند.

وضوح نقش ها: چه کسی تولید می کند، چه کسی تأیید می کند، چه کسی تصمیم می گیرد

چرخه سه حلقه تنها زمانی ایمن است که نقش ها مشخص باشند. رایج‌ترین اشکال، ناحیه مبهم است که در آن «همه مسئول هستند، اما هیچ‌کس مسئول نیست»: پیش‌نویس توسط هوش مصنوعی تهیه شده است، هیچ‌کس آن را به‌طور کامل تأیید نکرده است، و این تصمیم به دلیل «خروج از سیستم» بدون مراقبت باقی مانده است. این شکاف جایی است که اشتباهات به راحتی وارد می شوند.

در یک داستان سالم، هر حلقه صاحبی دارد:

• مولد (دستیار + کاربر): ناشناس، شخصی که پیش نویس را درخواست می کند و ورودی را با حداقل داده آماده می کند.
• تأیید کننده (کارشناس): شخصی که خروجی را به منبع پیوند می دهد، اعداد را دوباره محاسبه می کند و آن را برای رعایت انصاف و محرمانه بودن فیلتر می کند. این نقش هرگز نادیده گرفته نمی شود.
• تصمیم گیرنده (مرجع/ کمیته): مرجعی که تصمیم نهایی را می گیرد و مسیر توجیهی و حسابرسی را امضا می کند.

گاهی اوقات یک فرد نقش های متعددی را بر عهده می گیرد. این مشکلی نیست، به شرطی که مطمئن شوید که هر لینک آگاهانه ساخته شده و ثبت شده است. مشکل این است که یک حلقه با این فرض که "کسی باید آن را انجام داده باشد" خالی می ماند.

نکته: پس از تصمیم گیری، از خود بپرسید "صاحب این تصمیم کیست؟" بپرسید اگر پاسخ نام روشنی نباشد، به معنای گسستن زنجیره مسئولیت است. حلقه را دوباره راه اندازی کنید.

اشتباهات رایج

• رد شدن از حلقه وسط رفتن مستقیم از پیش نویس به تصمیم و رد شدن از تأیید.
• مسئولیت را بر دوش مدل انداختن. گفتن "هوش مصنوعی از عهده آن برخواهد آمد" و صاحب تصمیم و امضای نهایی نیست.
• به فکر تنظیم مدل و فراموش کردن آن. رها کردن مدلی که یک بار به خوبی کار می کرد، دنبال نشد. جابجایی داده ها را نمی بیند.
• ترک رد پای حسابرسی. ثبت نشدن چه کسی و چرا تصمیم گرفته است.
• دور زدن خودکنترلی استفاده از خروجی بدون پرسیدن پنج سوال.

نکته: خودآزمایی پنج سوالی را به عادت تبدیل کنید. به مرور زمان خودکار می شود و چند ثانیه طول می کشد. بسیاری از بزرگترین اشتباهات زمانی رخ می دهند که این چند ثانیه کنترل از دست برود.

به طور خلاصه

استفاده از هوش مصنوعی ایمن در بانکداری یک چرخه سه حلقه ای است: هوش مصنوعی تولید می کند، متخصص تأیید می کند، قدرت تصمیم می گیرد. حاکمیت مدل (اعتبار، نظارت، مستندسازی، پاسخگویی، بهبود) این چرخه را چارچوب می‌دهد. هر خروجی را با پنج سوال بررسی کنید - احراز هویت، منبع، محرمانه بودن، انصاف، تایید. اگر حتی یکی از آنها وجود نداشته باشد، خروجی آماده نیست. مدل ممکن است خراب شود. نظارت ضروری است. مسئولیت همیشه با شخص است. در یک جمله: هوش مصنوعی اولین حلقه در چرخه است. تائید و تصمیم نهایی حلقه مرد صالحی است که می تواند حساب باز کند.

وظیفه کاربردی

یک کار از کسب و کار خود انتخاب کنید و با الگوی 1 یک طرح سه حلقه ای سرتاسر ایجاد کنید: هوش مصنوعی چه چیزی را تولید می کند، متخصص چه چیزی را تأیید می کند، مرجع چه چیزی را ثبت و تصمیم می گیرد. سپس یک نمونه خروجی هوش مصنوعی برای آن کار بنویسید، خود بررسی پنج سوالی را با الگوی دوم اعمال کنید و کاستی ها را اصلاح کنید. در نهایت، یک چک لیست نظارت با الگوی 3 برای ابزار پشتیبانی تصمیمی که استفاده می کنید ایجاد کنید.

چک لیست

• [ ] من کار را در یک حلقه سه حلقه (تولید / تأیید / تصمیم گیری) ساختار دادم.
• [ ] من از پیوند میانی (تأیید) رد نشدم. منبع و اعداد را چک کردم.
• [ ] من پنج سوال خودکنترلی را مطرح کردم. اگر چیزی کم بود می رفتم.
• [ ] من از فیلترهای حریم خصوصی و انصاف عبور کردم.
• [ ] من خطر ردیابی مدل و فساد را در نظر گرفتم.
• [ ] با ثبت تصمیم نهایی، توجیه آن و مسیر حسابرسی مسئولیت را بر عهده گرفتم.

امتحان ماژول

1. کارشناس اعتبار دلیل رد وام ایجاد شده توسط هوش مصنوعی را بدون بررسی به مشتری منتقل می کند. اشتباه اساسی در این رویکرد چیست؟

• الف) خروجی هوش مصنوعی بدون تأیید قابل استفاده نیست. طرح توجیهی تصمیم باید مورد بررسی و تایید کارشناس مجاز قرار گیرد ✔
• ب) هوش مصنوعی همیشه وام را منفی می‌دهد
• ج) فقط باید به جای دلیل، امتیاز را به مشتری گفت
• د) توجیه به جای ایمیل باید از طریق تلفن به مشتری منتقل می شد.

توضیح: در حالی که هوش مصنوعی می تواند یک توجیه ثابت ایجاد کند، همچنین می تواند با همان اطمینان مبتنی بر داده های اشتباه یا فرضیات اشتباه، توجیهی اشتباه و حتی تبعیض آمیز ایجاد کند. بانکداری یک حوزه تنظیم شده و حیاتی برای اعتماد است. هر خروجی باید توسط کارشناس تایید شود و تصمیم تخصیص اعتبار و توجیه نهایی متعلق به فرد مجاز باشد.

2. بهترین رفتار از نظر محرمانه بودن (KVKK و راز مشتری) هنگام انتقال تراکنش های حساب بانکی مشتری به ابزار هوش مصنوعی چیست؟

• الف) نام کامل مشتری و صورت حساب کاربری باید همانطور که برای سرعت آپلود شده است، آپلود شود.
• ب) با حذف اطلاعات قابل شناسایی شخصی و ناشناس کردن داده ها، تنها حداقل اطلاعات لازم باید در یک ابزار امن تایید شده به اشتراک گذاشته شود.
• ج) در صورت رمزگذاری داده ها، نام و شماره حساب را می توان به هر وسیله نقلیه ای نیز ارسال کرد
• د) از آنجا که هدف خوب است، می توان کل متن را بدون درخواست از مشتری به اشتراک گذاشت

توضیح: داده های مالی مشتری هم داده های شخصی و هم راز مشتری در محدوده قانون بانکداری است. اطلاعات شناسایی مانند نام، شناسه TR، شماره حساب باید حذف شود و داده ها ناشناس شوند. حداقل داده های مورد نیاز برای کار باید به اشتراک گذاشته شود و فقط از ابزارهای امن مورد تایید موسسه استفاده شود.

3. هوش مصنوعی توجیهی برای تصمیم یک مدل امتیازدهی اعتباری ایجاد می کند، مانند "رد شدن به دلیل اینکه محله ای که متقاضی در آن زندگی می کند مخاطره آمیز است". کارشناس باید چه کار کند؟

• الف) منطق به این دلیل استفاده می شود که مدل بر اساس آمار است
• ب) اطلاعات منطقه بیشتر وزن داده می شود و تصمیم گیری تقویت می شود.
• ج) این ممکن است تبعیض غیرمستقیم از طریق یک متغیر پروکسی باشد. توجیه باید رد شود و تصمیم بر اساس معیارهای قانونی و قابل توضیح باشد ✔
• د) دلیل به مشتری گفته نمی شود فقط در پرونده نگهداری می شود مشکلی پیش نمی آید.

توضیح: منطقه محل سکونت ممکن است یک متغیر نیابتی باشد که به شدت با قومیت یا ویژگی های مشابه محافظت شده مرتبط است و باعث ایجاد تبعیض غیرمستقیم می شود. این نوع توجیه از نظر قانونی و اخلاقی غیرقابل قبول است. تصمیم باید بر اساس معیارهای مشروع، قابل توضیح و بدون تبعیض باشد و این توجیه رد شود.

4. در یک سیستم تشخیص تقلب، هوش مصنوعی یک تراکنش را به عنوان "ریسک بالا" علامت گذاری می کند. بهترین رویکرد چیست؟

• الف) هشدار یک سیگنال پیش از غربالگری است. تقلب واقعی و هشدار نادرست باید با بررسی کارشناسی تشخیص داده شود و قضاوت نهایی باید انسانی باشد ✔
• ب) تراکنش به صورت خودکار و دائمی مسدود می شود، بررسی غیرضروری است
• ج) اخطار نادیده گرفته می شود زیرا اکثر هشدارها نادرست هستند
• د) مشتری تماس گرفته می شود و مستقیماً سرزنش می شود

توضیح: هشدار هوش مصنوعی یک غربالگری اولیه و سیگنال احتمالی است، نه یک حکم قطعی. این بر عهده متخصص است که بین تقلب واقعی و موارد مثبت کاذب تمایز قائل شود، بدون قربانی کردن مشتری تحقیق کند و تصمیم نهایی را بگیرد. اخطار نباید به طور خودکار حساب را برای همیشه مسدود کند.

5. هزینه تعداد زیاد هشدارهای مثبت کاذب در کشف تقلب چقدر است؟

• الف) مثبت کاذب هیچ هزینه ای ندارد، هر چه اخطار بیشتر باشد بهتر است
• ب) ایجاد ناراحتی مشتری و خستگی هشدار. خطر کلاهبرداری واقعی بدون توجه را افزایش می دهد ✔
• ج) فقط مصرف برق سیستم را افزایش می دهد
• د) مثبت کاذب فقط در معاملات شبانه رخ می دهد

توضیح: موارد مثبت کاذب با ممانعت غیرضروری از معاملات مشتریان قانونی باعث ناراحتی و نارضایتی می شود. همچنین باعث ایجاد خستگی هوشیار در تحلیلگران می شود و خطر نادیده گرفتن تقلب واقعی را افزایش می دهد. بنابراین آستانه ها و قوانین باید متعادل باشد و هشدارها در اولویت قرار گیرند.

6. مهم ترین مرز اخلاقی در طراحی بخش بندی مشتری و کمپین های شخصی سازی شده چیست؟

• الف) هرچه قطعات باریکتر باشد بهتر است، هیچ محدودیت دیگری وجود ندارد
• ب) شخصی سازی فقط یک موضوع فنی است، نیازی به مرزهای اخلاقی ندارد
• ج) صلاحیت، رضایت و عدم تبعیض باید محافظت شود. باید از بهره برداری و دستکاری مشتری آسیب پذیر جلوگیری شود ✔
• د) اگر کمپین برای همه یکسان ارسال شود، مشکل اخلاقی وجود نخواهد داشت.

توضیح: در حالی که تقسیم بندی را می توان به نفع مشتری استفاده کرد (توصیه محصول مناسب)، همچنین می توان از آن برای سوء استفاده از آسیب پذیری (مانند بازاریابی اعتبار اضافی برای مشتری بیش از حد بدهکار) استفاده کرد. اصول مناسب بودن، رضایت و عدم تبعیض باید محافظت شود. شخصی سازی نباید به دستکاری تبدیل شود.

7. بهترین سیاست امنیتی برای چت بات خدمات مشتری چیست؟

• الف) چت بات باید بتواند انواع تراکنش ها و مشاوره های مالی را به تنهایی انجام دهد
• ب) اطلاعات روتین را سرعت می بخشد. شکایات، توصیه های حساس و تراکنش های مجاز باید به انسان ها محول شود، اطلاعات تایید نشده نباید ارائه شود ✔
• ج) چت بات می تواند تمام اطلاعات حساب را بدون تایید هویت مشتری به اشتراک بگذارد
• د) گزینه تحویل انسان باید حذف شود زیرا سرعت چت بات را کند می کند.

توضیحات: چت بات اطلاعات پرتکرار و تراکنش‌های معمول را با خیال راحت تسریع می‌کند، اما شکایات، توصیه‌های مالی حساس، تراکنش‌های مجاز روی حساب و موقعیت‌های مبهم باید به کارمند مجاز واگذار شود. علاوه بر این، ربات چت نباید اسرار مشتری را فاش کند یا اطلاعات تایید نشده ارائه دهد.

8. در فرآیندهای AML/KYC، هوش مصنوعی یک تراکنش را مشکوک علامت گذاری می کند. رویکرد صحیح از نظر گزارش تراکنش مشکوک (STR) چیست؟

• الف) اگر مدل علامت گذاری شده است، اطلاع رسانی باید به طور خودکار انجام شود، افسر انطباق غیر ضروری است.
• ب) هشدار نادیده گرفته می شود زیرا اکثر معاملات مشروع هستند
• ج) معامله بلافاصله به عنوان «شبه شویی وجود دارد» به مشتری گزارش می شود.
• د) خروجی مدل یک غربالگری و پیش نویس اولیه است. تصمیم STR توسط افسر مجاز انطباق با حفظ توجیه و دنباله حسابرسی گرفته می شود ✔

توضیحات: نظارت و اسکن تراکنش های هوش مصنوعی به سرعت الگوهای مشکوک بالقوه را علامت گذاری می کند، اما گزارش تراکنش مشکوک (STR/SAR) تصمیمی است با عواقب قانونی و با قضاوت افسر مجاز انطباق اتخاذ می شود. خروجی مدل اولیه و پیش نویس است. دنباله حسابرسی و توجیه باید حفظ شود.

9. در غربالگری لیست تحریم / PEP (فرد در معرض سیاسی)، هوش مصنوعی با یک نام مطابقت دارد، اما ممکن است این یک تطابق نادرست باشد. رویکرد درست چیست؟

• الف) مطابقت باید با شناسه های اضافی (تاریخ تولد، ملیت) تأیید شود. تصمیم باید توسط افسر انطباق گرفته شود ✔
• ب) تشابه نام کافی است، مشتری بلافاصله تحریم اعلام می شود
• ج) همه مسابقات نادرست و نادیده گرفته می شوند
• د) تصمیم گیری به چت بات واگذار می شود

توضیح: اسکن نام ممکن است به دلیل نام های مشابه، نتایج مثبت کاذب ایجاد کند. افسر انطباق باید مطابقت را با تاریخ تولد، ملیت و سایر شناسه ها تأیید کند. اعلام اشتباه یک مشتری تحریم شده یا از دست دادن یک مسابقه واقعی، هر دو عواقب جدی دارند. تصمیم متعلق به انسان است.

10. شما یک پیش نویس گزارش مدیریت با هوش مصنوعی تهیه کردید. این گزارش شامل ارقام سود فصلی است. مهم ترین مرحله قبل از امضا چیست؟

• الف) همه اعداد حیاتی در گزارش باید مجدداً بر اساس داده های منبع تأیید شوند. مسئولیت امضای نهایی بر عهده انسان است ✔
• ب) هوش مصنوعی اعداد را بدون خطا می دهد، تایید اتلاف وقت است
• ج) فقط فرمت برای زیباتر جلوه دادن گزارش بررسی شده است.
• د) گزارش مستقیماً برای مدیریت ارشد ارسال می شود و بعداً کنترل می شود

توضیح: هوش مصنوعی ممکن است مقادیر عددی را نادرست نمایش دهد، آنها را بسازد یا آنها را به طور متناقض با داده های منبع خلاصه کند. قبل از امضای گزارش، همه اعداد مهم باید مجدداً در برابر داده های منبع تأیید شوند. اگرچه اتوماسیون سرعت را فراهم می کند، مسئولیت امضای نهایی بر عهده انسان است.

11. هوش مصنوعی صورتهای مالی یک شرکت را تجزیه و تحلیل می کند و می گوید "شرکت بسیار محکم است، قطعا باید وام داده شود". مسئولیت تحلیلگر مالی چیست؟

• الف) پذیرش متن آنگونه که هست، زیرا هوش مصنوعی امور مالی را بدون خطا می شناسد
• ب) محاسبه مجدد نسبت ها از جداول منبع و فرضیات پرسش. تصمیم گیری نهایی به عنوان یک انسان با بیان عدم قطعیت ✔
• ج) ارائه تصمیم مستقیم به کمیته به عنوان «تصویب هوش مصنوعی»
• د) رد وام بدون خواندن تحلیل اصلا

توضیح: تحلیل مالی به مفروضات و دقت ورودی بستگی دارد. هوش مصنوعی ممکن است نرخ ها را اشتباه محاسبه کند، داده های از دست رفته را نادیده بگیرد یا از زبان بسیار دقیق استفاده کند. تحلیلگر باید نرخ ها را از جداول منبع مجدداً محاسبه کند، مفروضات را مورد سوال قرار دهد و تصمیم نهایی اعتبار را به صورت انسانی و با استناد به عدم قطعیت اتخاذ کند.

12. در حالی که یک مدل اعتباری ممکن است مستقیماً از یک ویژگی محافظت شده مانند جنسیت یا قومیت استفاده نکند، ممکن است به طور غیرمستقیم آنها را از طریق کدپستی و داده های خرید منعکس کند. نام این وضعیت چیست و چرا خطرناک است؟

• الف) به این کار یادگیری بیش از حد گفته می شود و فقط باعث کاهش دقت می شود
• ب) به این نشت داده می گویند و فقط یک مشکل سرعت است
• ج) این را تبعیض غیرمستقیم از طریق یک متغیر پروکسی می نامند. غیرقانونی است و باید با آزمون های انصاف بررسی شود ✔
• د) به این حالت عادی سازی می گویند و کاملا بی ضرر است

توضیح: متغیرهایی که به شدت با یک ویژگی محافظت شده مرتبط هستند، متغیرهای پروکسی نامیده می شوند. حتی اگر مدل به طور مستقیم از ویژگی محافظت شده استفاده نکند، می تواند به طور غیرمستقیم از طریق پراکسی ها تبعیض قائل شود. این هم غیرقانونی و هم غیراخلاقی است. مدل ها باید با معیارهای انصاف آزمایش شوند و ریسک پروکسی باید کنترل شود.

13. یک بانک در تصمیم گیری های اعتباری از مدل هوش مصنوعی استفاده می کند. یکی از اساسی ترین الزامات از نظر قانون گذاری و قابلیت حسابرسی چیست؟

• الف) هر چه مدل پیچیده تر و نامفهوم تر باشد، ایمن تر است
• ب) نگهداری سوابق غیر ضروری است، تصمیمات را می توان به صورت شفاهی توضیح داد
• ج) حق اعتراض مشتری باید حذف شود زیرا روند را کند می کند
• د) مدل باید قابل توضیح باشد، توجیه تصمیم و مسیر حسابرسی باید حفظ شود، مشتری باید حق اعتراض/بازبینی انسانی را داشته باشد.

توضیح: در فرآیندهای تصمیم گیری تنظیم شده، مدل باید قابل توضیح باشد، منطق تصمیم باید مستند باشد، سوابق (مسیر حسابرسی) باید حفظ شود و به مشتری باید حق اعتراض/درخواست بررسی انسانی داده شود. تصمیم غیر موجه مدل «جعبه سیاه» قابل حسابرسی نیست و با قوانین مطابقت ندارد.

14. اصل کلیدی مورد تاکید در سراسر ماژول چگونه نقش هوش مصنوعی را در بانکداری توصیف می کند؟

• الف) هوش مصنوعی می تواند جایگزین بانکداران باتجربه شود و وام ها و اطلاعیه ها را به تنهایی نهایی کند
• ب) هوش مصنوعی فقط برای بازاریابی استفاده می شود نه برای تصمیم گیری
• ج) خروجی هوش مصنوعی حتی بدون تأیید نیز ایمن است زیرا بر اساس آمار است
• د) هوش مصنوعی دستیار و تولید کننده پیش نویس است. تخصیص اعتبار، تقلب / قضاوت مطابقت و تصمیم نهایی با شخص مجاز است ✔

توضیحات: هوش مصنوعی وظایف تکراری را به عنوان دستیار، پیش نمایشگر و تولید کننده پیش نویس سرعت می بخشد. اما از آنجایی که ما در یک حوزه تنظیم‌شده و حیاتی کار می‌کنیم، تصمیم نهایی در مورد تخصیص اعتبار، تقلب/تامین رعایت و مشتری بر عهده شخص مجاز (بانکدار مجاز و کمیته تصمیم‌گیری) است. خروجی تایید نشده یک تصمیم پیش نویس بدون امضا است.