Жұмыс процесі, Үлгі басқару және өзін-өзі тексеру

Табыстар:

• «AI шығарады → сарапшы тексереді → уәкілетті шешім қабылдайды» циклімен банктік тапсырманы аяғына дейін қауіпсіз орындау мүмкіндігі
• Модельдік басқару, тексеру, бақылау және үздіксіз жетілдіру шеңберінде жасанды интеллектті қауіпсіз енгізу мүмкіндігі
• Бес негізгі сұрақпен (аутентификация, дереккөз, құпиялылық, әділдік, мақұлдау) нәтижелерін өзін-өзі тексеру арқылы түпкілікті жауапкершілікті қабылдау мүмкіндігі.

Осы модуль барысында біз AI-ны банк ісінің әр бұрышында – несие, алаяқтық, сегменттеу, тұтынушыларға қызмет көрсету, сәйкестік, есеп беру, қаржылық талдау сияқты көмекші және жобалық генератор ретінде орналастырамыз. Осы соңғы бөлімде біз бөліктерді біріктіреміз: қауіпсіз циклде банк тапсырмасын басынан аяғына дейін қалай орындауға болады, басқару моделі бұл циклды қалай жасайды және әрбір нәтижені қандай бес сұрақпен өзін-өзі тексересіз? Мақсат - үйренгеніңізді бір рефлекске айналдыру: AI жасайды → сарапшы тексереді → сарапшы шешеді. Бұл цикл жылдамдық пен қауіпсіздікті бір уақытта сақтаудың жолы болып табылады.

Үш ілмек: үш сақина

Әрбір банктік тапсырманы үш буынды тізбек ретінде қарастырыңыз:

1. AI шығарады (дрекинг сақинасы): Анонимді, ең аз деректермен AI-ға жоба/тексеру тапсырмасы беріледі — түйіндеме, негіздеме жобасы, ескерту, есепшот жобасы. Мұнда шешім жоқ, тек материал.
2. Сарапшы тексереді (сүзгі сақинасы): Шығару көзбен байланыстырылады, сандар қайта есептеледі, саясат/заңнама және әділдік арқылы сүзіледі. Мұнда галлюцинация, кемсітушілік және жеке өмірге қол сұғу жойылады.
3. Уәкілетті орган шешім қабылдайды (қол қою жүйесі): Қорытынды шешім — несие, СТР, алаяқтық туралы шешім, хаттамаға қол қою — уәкілетті тұлға/комитет қабылдайды; Негіздеме мен тексеру ізі жазылады.

Квест

AI шығарады

Маман растайды

құзыретті шешім

несие

Негіздеме жобасы

Қатынас/көз/әділдік

Бөлу туралы шешім

алаяқтық

Аномалия туралы ескерту

Мәтінмән/тұтынушыны растау

Блок/еркін шешім

AML

Үлгі/сәйкестік

Сәйкессіздікті тексеру

STR шешімі

Есеп беру

Мәтін/сан жобасы

Сандық тексеру

қол қою

Талдау

Бағалау/түсініктеме нобайы

Қайта есептеу/болжау

Инвестициялық/несиелік пікір

Кеңес: Циклдегі ең жиі өткізіп жіберілетін сілтеме ортаңғы «тексеру» болып табылады. Қысым астында адамдар жобадан шешімге секіреді. Дегенмен, дәл осы ортаңғы сақина құндылықты да, тәуекелді де анықтайды. Тексеруді өткізіп жіберу циклді бұзады.

Модельдік басқару: циклды құрайтын жүйе

Жеке тапсырмалардан басқа, банк өз үлгілерін тұтастай басқаруы керек. Модельдік басқару келесі құрамдас бөліктерден тұрады:

• Валидация: Модель пайдалануға енгізер алдында тәуелсіз сынақтан өтеді; Оның дәлдігі, әділдігі мен шегі өлшенеді.
• Бақылау: модель уақыт өте келе нашарлауы мүмкін (деректер дрейфі — кірісті бөлу өзгерген кезде өнімділік төмендейді). Ол үнемі бақылауда.
• Құжаттама: Модель не істейді, ол қандай деректермен оқытылады, оның шегі және жауаптылар құжатталады.
• Рөл мен жауапкершілік: кім шығарады, кім тексереді, кім шешеді, нақты анықталған.
• Қарау және жақсарту: Қателер жазылады, үлгі кезеңді түрде қайта бағаланады.

Абайлаңыз: жақсы жұмыс істейтін модель мәңгі жұмыс істемейді. Экономикалық жағдайлар, тұтынушылардың мінез-құлқы және алаяқтық тактикасы өзгереді; Егер модель бұларға ілесе алмаса, ол үнсіз бұрмалай бастайды. Бақылаусыз бұл деградация байқалмайды.

Бес сұрақтан тұратын өзін-өзі тексеру

Әрбір AI шығысын пайдаланбас бұрын өзіңізге мына бес сұрақты қойыңыз:

1. Тексеру: Мен бұл шығысты көзге қосып, маңызды сандарды қайта есептедім бе?
2. Дереккөз: Әрбір шағым нақты құжатқа/деректерге/ережеге негізделген бе, әлде оны ойдан шығаруға бола ма?
3. Құпиялылық: жеке басын куәландыратын деректер анонимді, ең аз деректер және бекітілген құралдар пайдаланылады ма?
4. Әділдік: Шығарылымда қорғалған қасиет немесе суррогат айнымалы бойынша кемсітушілік бар ма?
5. Бекіту: Уәкілетті тұлға қабылдаған түпкілікті шешім, негіздеме және тексеру ізі жазылды ма?

Бестің біреуі де «жоқ» болса, шығыс пайдалануға дайын емес.

Көшірілетін төрт үлгі

1) Миссияның түпкілікті жоспары:

Сіздің рөліңіз: қауіпсіз циклде банктік тапсырманы жоспарлауға көмектесетін көмекші. Тапсырма: [тапсырма]. Мені мына үш сақинамен толтырыңыз: (1) AI қандай жоба жасайды, (2) сарапшы қандай тексеру қадамдарын жасайды, (3) шенеунік қандай шешім қабылдайды және жазады? Шешімді ұсыну; Процесс қаңқасы пайда болады.

2) Бес сұрақтан тұратын өзін-өзі бақылау қосымшасы:

Келесі AI нәтижесін бес сұрақпен тексеріңіз: тексеру, шығу, құпиялылық, әділдік, мақұлдау. Әрбір сұраққа «жарайды/толық емес/тәуекел» деп бағалап, кемшіліктерді қалай түзетуге болатынын жазыңыз. Шығару: [мәтін]

3) Үлгіні бақылауды тексеру туралы ескерту:

Сіздің рөліңіз: үлгі басқару жөніндегі көмекші. Біз қолданатын шешімдерді қолдау моделі үшін жүйелі түрде бақылануы қажет көрсеткіштерді (өнімділік, топаралық әділдік, деректер дрейф сигналдары, қате жазбалары) бақылау тізіміне айналдырыңыз. Шешім қабылдау; Мониторинг құрылымын ұсыныңыз.

4) Істі жабу және тексеру ізі:

Келісімнің соңында аудиторлық жолдың қорытынды жазбасын жасаңыз: қандай жоба әзірленді, қандай тексерулер жүргізілді, кім қандай шешім қабылдады, қандай негіздемесі бар. Тек мен берген расталған ақпаратты пайдаланыңыз. Енгізу: [ақпарат]

Әлсіз шақыру / Күшті шақыру

Әлсіз шақыру:

Сіз бұл тапсырманы басынан аяғына дейін орындайсыз және маған дайын шешім ретінде нәтиже бересіз, сондықтан мен егжей-тегжейге алаңдамаймын.

Ол үш сақинаны бір қадамға дейін қысқартады, тексеру мен адамның пайымдауын айналып өтіп, жауапкершілікті жасырады.

Күшті шақыру:

Сіздің рөліңіз: шешім қабылдаушы емес, процесс көмекшісі. Алдымен тапсырманың сызбасын жасаңыз, содан кейін мен тексеру керек нүктелерді тізімдеңіз және соңында шешім мен аудит ізі менікі екенін еске салыңыз. Шығаруға бес өзін-өзі тексеру сұрақтарын қосыңыз (түпнұсқалық, дереккөз, құпиялылық, әділдік, бекіту).

Күшті ерік үш сақинаны қорғайды, тексеруді талап етеді және шешімді адамға қалдырады.

үш шағын іс

1-жағдай — Цикл толығымен орындалады. Несие өтінімінде AI негіздеме жобасын шығарады (сақина 1); сарапшы мөлшерлемелерді қайта есептейді, әділдік негіздемесін тексереді, суррогат айнымалы өрнекті тазартады (2 сақина); лауазымды тұлға бөлу туралы шешім қабылдайды және тексеру ізін жазады (3 сақина). 20 минуттан кейін қауіпсіз және қорғалатын шешім пайда болады.

2-жағдай — Мониторинг деградацияны анықтайды. Алаяқтық үлгісі айлар бойы жақсы жұмыс істегенімен, жаңа алаяқтық тактикасының арқасында аулау деңгейі тыныш төмендейді. Модельдік басқару шеңберіндегі мониторинг бұл төмендеуді байқайды; Модель жаңартылды. Бақылаусыз шығындар өсе береді.

3-жағдай — өзін-өзі бақылау бұзушылықтың алдын алады. Сарапшы жылдам есеп беру үшін AI шығысын тікелей жібермекші. Ол бес сұрақты қолданады: ол «көз» сұрағында пайда көрсеткішінің расталмағанын байқайды. Көзден басқару; нөмір қате. 30 секунд өзін-өзі тексеру жалған суреттің басшылыққа жіберілуіне жол бермейді.

Рөлдердің анықтығы: кім шығарады, кім тексереді, кім шешеді

Үш сақина циклі рөлдер анық болғанда ғана қауіпсіз. Ең жиі кездесетін ақаулық «бәрі жауапты, бірақ ешкім жауапты емес» бұлыңғыр аймақ: жобаны АИ жасаған, оны ешкім толық тексерген жоқ және шешім «жүйені тастап кеткендіктен» қараусыз қалды. Бұл бос орын қателер ең оңай енеді.

Салауатты фантастикада әрбір сақинаның иесі бар:

• Генератор (көмекші + пайдаланушы): Анонимді, жобаны сұрайтын және минималды деректермен жазбаны дайындайтын адам.
• Тексеруші (сарапшы): Шығаруды көзге байланыстыратын, сандарды қайта есептейтін және оны әділдік пен құпиялылық үшін сүзетін адам. Бұл рөл ешқашан өткізілмейді.
• Шешім қабылдаушы (орган/комитет): түпкілікті шешімді қабылдайтын және негіздеме мен тексеру жолына қол қоятын орган.

Кейде бір адам бірнеше рөлдерді алады; Әрбір сілтеме саналы түрде жасалып, жазылғанына көз жеткізсеңіз, бұл проблема емес. Мәселе мынада, сақина «біреу жасаған болуы керек» деген болжаммен бос қалдырылады.

Кеңес: Шешім қабылдағаннан кейін өзіңізге «Бұл шешімнің жалғыз иесі кім?» Деп сұраңыз. сұраңыз. Егер жауап нақты атау болмаса, бұл жауапкершілік тізбегі үзілгенін білдіреді; Циклды қайта іске қосыңыз.

Жалпы қателер

• Ортаңғы сақинаны өткізіп жіберу. Тікелей жобадан шешімге өту және тексеруді өткізіп жіберу.
• Жауапкершілікті үлгіге қою. «AI шешеді» деп, түпкілікті шешім мен қолтаңбаға ие болмау.
• Үлгіні орнатуды ойлап, оны ұмыту. Бір рет жақсы жұмыс істеген үлгіні бақылаусыз қалдыру; деректер дрейфін көрмеу.
• Аудиторлық із қалдырмайды. Кімнің қандай шешім қабылдағанын және не үшін қабылдағаны жазылмаған.
• Өзін-өзі бақылауды айналып өту. Бес сұрақты қоймастан нәтижені пайдалану.

Кеңес: бес сұрақтан тұратын өзін-өзі тексеруді әдетке айналдырыңыз; Уақыт өте келе ол автоматты болады және бірнеше секунд алады. Ең үлкен қателіктердің көпшілігі басқарудың осы бірнеше секундын өткізіп алған кезде орын алады.

Қысқаша айтқанда

Банк ісінде қауіпсіз жасанды интеллектті пайдалану үш сақиналы цикл болып табылады: AI шығарады, сарапшы тексереді, билік шешім қабылдайды. Модельдік басқару (валидация, мониторинг, құжаттама, есеп беру, жетілдіру) осы циклды құрайды. Әрбір нәтижені бес сұрақ арқылы өзін-өзі тексеру — аутентификация, дереккөз, құпиялылық, әділдік, бекіту; Тіпті біреуі жетіспесе, шығыс дайын емес. Модель бұзылуы мүмкін; бақылау маңызды болып табылады. Жауапкершілік әрқашан адамда. Бір сөйлемде: Жасанды интеллект - циклдің бірінші буыны; тексеру және түпкілікті шешім – есеп бере алатын білікті адамның сақинасы.

Қолданбалы тапсырма

Жеке бизнесіңізден тапсырма таңдаңыз және 1 үлгісімен үш сақинадан тұратын жоспар жасаңыз: AI нені шығарады, сарапшы нені тексереді, орган нені жазып алады және шешеді. Содан кейін сол тапсырма үшін AI нәтижесінің үлгісін жазыңыз, 2-ші үлгімен бес сұрақтан тұратын өзін-өзі тексеруді қолданыңыз және кемшіліктерді түзетіңіз. Соңында, сіз қолданатын шешімді қолдау құралы үшін 3 үлгісімен бақылау бақылау тізімін жасаңыз.

бақылау парағы

• [ ] Мен тапсырманы үш сақиналы циклге құрылымдадым (жасау / тексеру / шешу).
• [ ] Мен ортаңғы сілтемені өткізіп алған жоқпын (тексеру); Мен дереккөз бен сандарды тексердім.
• [ ] Мен өзін-өзі бақылауға арналған бес сұрақ қойдым; Бірдеңе жетіспейтін болса, барар едім.
• [ ] Мен құпиялылық және әділдік сүзгілерінен өттім.
• [ ] Мен үлгіні қадағалау және сыбайлас жемқорлық қаупін ескердім.
• [ ] Мен соңғы шешімді, оның негіздемесін және аудит ізін жазу арқылы жауапкершілікті өз мойныма алдым.

Модуль емтиханы

1. Несиелік сарапшы жасанды интеллект арқылы жасалған несиеден бас тарту себебін тексерместен клиентке жібереді. Бұл тәсілдегі негізгі қателік неде?

• A) Жасанды интеллект нәтижелерін тексерусіз пайдалануға болмайды; Шешімнің негіздемесі жобасын уәкілетті сарапшы қарап, бекіту керек ✔
• B) Жасанды интеллект несиені әрқашан теріс негіздейді
• C) Тапсырыс берушіге себебін емес, ұпайды ғана айту керек
• D) Негіздеме тұтынушыға электронды поштаның орнына телефон арқылы жеткізілуі керек еді.

Түсініктеме: Жасанды интеллект дәйекті негіздеме жасай алатынымен, ол қате деректерге немесе қате болжамдарға негізделген бірдей сенімділікпен қате және тіпті кемсітетін негіздеме де жасай алады. Банк қызметі реттелетін, сенімділік маңызды сала болып табылады; Әрбір өнімді сарапшы тексеріп, несиені бөлу туралы шешім мен түпкілікті негіздеме уәкілетті тұлғаға тиесілі болуы керек.

2. Жасанды интеллект құралына клиенттің банктік шоты бойынша операцияларды аудару кезінде құпиялылық (KVKK және тұтынушы құпиясы) бойынша ең жақсы мінез-құлық қандай?

• A) Жылдамдық үшін тұтынушының толық аты-жөні мен шотынан үзінді көшірме жүктелуі керек.
• B) Жеке тұлғаны анықтайтын ақпаратты жою және деректерді анонимдеу арқылы бекітілген қауіпсіз құралда ең аз қажетті ақпаратты ғана бөлісу керек ✔
• C) Егер деректер шифрланған болса, аты мен шот нөмірін де кез келген көлікке жіберуге болады
• D) Мақсаты жақсы болғандықтан, бүкіл транскриптті тұтынушыдан сұрамай-ақ бөлісуге болады

Түсініктеме: Клиенттің қаржылық деректері банктік заңнама аясында жеке деректер мен клиент құпиясы болып табылады. Аты, TR идентификаторы, шот нөмірі сияқты идентификациялық ақпарат жойылып, деректер анонимді болуы керек; Тапсырмаға қажетті ең аз деректер ортақ болуы керек және тек мекеме бекіткен қауіпсіз құралдар пайдаланылуы керек.

3. Жасанды интеллект несиелік скоринг үлгісінің шешіміне негіздеме жасайды, мысалы, «өтініш беруші тұратын аудан қауіпті болғандықтан бас тарту». Сарапшы не істеу керек?

• A) Модель статистикаға негізделгендіктен негіздеме сол күйінде қолданылады
• B) Аудандық ақпарат одан әрі салмақталып, шешім күшейтілді.
• C) Бұл прокси айнымалы арқылы жанама кемсітушілік болуы мүмкін; Негіздеме қабылданбайды және шешім заңды және түсінікті критерийлерге негізделуі керек ✔
• D) Себеп тұтынушыға айтылмайды, ол тек файлда сақталады, ешқандай проблема болмайды.

Түсініктеме: Тұрғылықты жері этникалық немесе ұқсас қорғалатын сипаттамаларға қатты қатысты прокси айнымалы болуы мүмкін, бұл жанама кемсітушілік тудырады. Мұндай негіздеме заңды және этикалық тұрғыдан қабылданбайды; Шешім заңды, түсінікті және кемсітпейтін критерийлерге негізделуі керек және бұл негіздеме қабылданбауы керек.

4. Алаяқтықты анықтау жүйесінде жасанды интеллект транзакцияны «жоғары тәуекел» деп белгілейді. Ең жақсы тәсіл қандай?

• A) Ескерту алдын ала скринингтік сигнал болып табылады; Нағыз алаяқтық пен жалған дабылды сараптама арқылы ажыратып, соңғы үкім адамгершілікпен шығарылуы керек ✔
• B) Транзакция автоматты түрде және біржола блокталады, тексеру қажет емес
• C) Ескерту еленбейді, себебі ескертулердің көпшілігі жалған
• D) Тұтынушыны шақырып, оны тікелей кінәлайды

Түсініктеме: AI ескертуі түпкілікті шешім емес, алдын ала тексеру және ықтималдық сигналы болып табылады. Нағыз алаяқтық пен жалған позитивтің аражігін ажырату, тұтынушыны құрбан етпей тексеру және соңғы шешімді шығару сарапшының қолында; Ескерту есептік жазбаны автоматты түрде біржола бұғаттамауы керек.

5. Алаяқтықты анықтауда жалған позитивті ескертулердің көп санының құны қандай?

• A) Жалған позитив ештеңені қажет етпейді, неғұрлым көп ескерту болса, соғұрлым жақсы
• B) Тұтынушының күйзелісі мен дабылдың шаршауын тудырады; Нағыз алаяқтықтың байқалмай қалу қаупін арттырады ✔
• C) Ол тек жүйенің электр энергиясын тұтынуын арттырады
• D) Жалған позитив тек түнгі саудада болады

Түсініктеме: Жалған позитивтер заңды клиенттердің транзакцияларына негізсіз кедергі келтіріп, қолайсыздық пен қанағаттанбаушылық тудырады; Ол сондай-ақ сарапшыларда ескерту шаршауын тудырады, бұл нақты алаяқтықтың елеусіз қалу қаупін арттырады. Сондықтан шектер мен ережелер теңдестірілген болуы керек және ескертулерге басымдық берілуі керек.

6. Тұтынушыларды сегменттеуді және жекелендірілген науқандарды жобалау кезінде ең маңызды этикалық шекара қандай?

• A) Сегменттері неғұрлым тар болса, соғұрлым жақсы, басқа шектеулер жоқ
• B) Жекешелендіру тек техникалық мәселе, ол этикалық шекараны қажет етпейді
• C) Жарамдылық, келісім және кемсітпеу қорғалуы керек; Әлсіз тұтынушыны пайдалану мен айла-шарғы жасаудың алдын алу керек ✔
• D) Науқан барлығына бірдей жіберілсе, этикалық мәселелер болмайды.

Түсініктеме: Сегменттеу тұтынушының игілігі үшін пайдаланылуы мүмкін болса да (тиісті өнім ұсынысы), ол осалдықты пайдалану үшін де теріс пайдаланылуы мүмкін (мысалы, артық қарызы бар тұтынушыға қосымша несие беру). Жарамдылық, келісім және кемсітпеу принциптері қорғалуы тиіс; жекелендіру манипуляцияға айналмауы керек.

7. Тұтынушыларға қызмет көрсету чатботы үшін ең жақсы қауіпсіздік саясаты қандай?

• A) Чат-бот барлық транзакциялар мен қаржылық кеңестерді өз бетімен жасай алуы керек
• B) Күнделікті ақпаратты жылдамдатады; Шағымдар, маңызды кеңестер және рұқсат етілген транзакциялар адамдарға берілуі керек, тексерілмеген ақпаратты бермеу керек ✔
• C) Чатбот клиенттің жеке басын растамай-ақ барлық тіркелгі ақпаратын бөлісе алады
• D) Адамды ауыстыру опциясын алып тастау керек, себебі ол чатботты баяулатады.

Сипаттама: Чатбот жиі сұралатын ақпаратты және әдеттегі транзакцияларды қауіпсіз жылдамдатады, бірақ шағымдар, маңызды қаржылық кеңестер, тіркелгі бойынша рұқсат етілген транзакциялар және түсініксіз жағдайлар уәкілетті қызметкерге тапсырылуы керек. Сонымен қатар, чатбот тұтынушы құпиясын ашпауы немесе тексерілмеген ақпаратты бермеуі керек.

8. AML/KYC процестерінде жасанды интеллект транзакцияны күдікті деп белгілейді. Күдікті транзакция туралы есеп беру (STR) тұрғысынан қандай тәсіл дұрыс?

• A) Егер үлгіде белгіленген болса, хабарлама автоматты түрде жасалуы керек, сәйкестік жөніндегі қызметкер қажет емес
• B) Көптеген транзакциялар заңды болғандықтан ескерту еленбейді
• C) Транзакция туралы клиентке «жылыстатуға күдік бар» ретінде дереу хабарланады.
• D) Үлгінің шығуы алдын ала скрининг және сызба; STR шешімін растау мен аудит ізін сақтай отырып, уәкілетті комплаенс қызметкері қабылдайды ✔

Сипаттама: Жасанды интеллект транзакциясын бақылау және сканерлеу ықтимал күдікті үлгілерді жылдам белгілейді, бірақ күдікті транзакция туралы есеп беру (STR/SAR) заңды салдары бар шешім болып табылады және сәйкестік жөніндегі уәкілетті қызметкердің шешімімен қабылданады. Үлгі шығысы алдын ала және жобалық болып табылады; Аудиттің ізі мен негіздемесі сақталуы керек.

9. Санкциялар тізімінде / PEP (саяси әсерге ұшыраған адам) скринингінде жасанды интеллект атқа сәйкес келеді, бірақ бұл жалған сәйкестік болуы мүмкін. Дұрыс көзқарас қандай?

• A) Сәйкестік қосымша идентификаторлармен расталуы керек (туған күні, ұлты); Шешімді комплаенс қызметкері қабылдауы керек ✔
• B) Атау ұқсастығы жеткілікті, тапсырыс беруші бірден санкцияланған деп жарияланады
• C) Барлық сәйкестіктер жалған болып саналады және еленбейді
• D) Шешім чат-ботқа қалдырылады

Түсініктеме: Атауларды сканерлеу ұқсас атауларға байланысты жалған позитивтерді шығаруы мүмкін. Сәйкестік жөніндегі қызметкер туған күнімен, ұлтымен және басқа идентификаторлармен сәйкестікті растауы керек; Клиентті қателесіп санкцияланған деп жариялау немесе нақты сәйкестікке ие болмай қалудың екеуі де ауыр зардаптарға әкеледі. Шешім адамға тиесілі.

10. Сіз жасанды интеллектпен басқару есебінің жобасын жасадыңыз; Есеп тоқсан сайынғы пайда көрсеткіштерін қамтиды. Қол қою алдындағы ең маңызды қадам қандай?

• A) Есептегі барлық сыни сандар бастапқы деректерге қатысты қайта тексерілуі керек; Соңғы қол қою жауапкершілігі адамда ✔
• B) Жасанды интеллект сандарды қатесіз береді, тексеру уақытты босқа кетіреді
• C) Есептің әдемі болуы үшін тек пішімі тексеріледі.
• D) Есеп тікелей жоғары басшылыққа жіберіледі, бақылау кейінірек жүргізіледі

Түсініктеме: Жасанды интеллект сандық мәндерді бұрмалауы, оларды құрастыруы немесе бастапқы деректерге сәйкес келмейтін қорытындылауы мүмкін. Есепке қол қойылғанға дейін барлық маңызды сандар бастапқы деректерге қарсы қайта тексерілуі керек; Автоматтандыру жылдамдықты қамтамасыз еткенімен, соңғы қол қою жауапкершілігі адамда.

11. Жасанды интеллект компанияның қаржылық есептілігін талдайды және «компания өте берік, несие міндетті түрде берілуі керек» дейді. Қаржылық талдаушының жауапкершілігі қандай?

• A) Мәтінді сол қалпында қабылдау, өйткені жасанды интеллект қаржыны қатесіз біледі.
• B) Бастапқы кестелерден арақатынастарды қайта есептеу және болжамды сұрау; Адам ретінде соңғы шешімді қабылдау, белгісіздікті айту ✔
• C) Шешімді тікелей комитетке «АИ мақұлдаған» ретінде ұсыну
• D) Талдауды мүлде оқымай несиеден бас тарту

Түсініктеме: Қаржылық талдау жорамалдар мен мәліметтердің дәлдігіне байланысты; AI жылдамдықтарды қате есептеуі, жетіспейтін деректерді елемеуі немесе тым дәл тілді қолдануы мүмкін. Аналитик бастапқы кестелерден мөлшерлемелерді қайта есептеуі, болжамдарды сұрауы және белгісіздікке сілтеме жасай отырып, соңғы несие шешімін адами түрде қабылдауы керек.

12. Несиелік модель жыныс немесе этникалық ерекшелік сияқты қорғалған сипаттаманы тікелей пайдаланбауы мүмкін, бірақ ол оларды пошта индексі және сатып алу деректері арқылы жанама түрде көрсетуі мүмкін. Бұл жағдай қалай аталады және неге қауіпті?

• A) Бұл шамадан тыс оқыту деп аталады және тек дәлдікті төмендетеді
• B) Бұл деректердің ағып кетуі деп аталады және бұл жай ғана жылдамдық мәселесі
• C) Бұл прокси айнымалы арқылы жанама дискриминация деп аталады; заңсыз болып табылады және әділдік сынақтарымен тексерілуі керек ✔
• D) Бұл нормалау деп аталады және мүлдем зиянсыз

Түсініктеме: Қорғалған сипатпен тығыз байланысты айнымалылар прокси айнымалылар деп аталады. Модель қорғалған мүмкіндікті тікелей пайдаланбаса да, прокси арқылы жанама түрде кемсітуі мүмкін. Бұл заңсыз да, әдепсіз де; Модельдер әділдік көрсеткіштерімен сыналуы керек және прокси тәуекелі бақылануы керек.

13. Банк несиелік шешімдер қабылдау кезінде жасанды интеллект үлгісін пайдаланады. Заңнамалық және аудиторлық тұрғыдан ең негізгі талаптардың бірі қандай?

• A) Модель неғұрлым күрделі және түсініксіз болса, соғұрлым қауіпсіз болады
• B) Іс қағаздарын жүргізудің қажеті жоқ, шешімдерді ауызша түсіндіруге болады
• C) Тұтынушының қарсылық білдіру құқығын алып тастау керек, себебі бұл процесті баяулатады
• D) Модель түсінікті болуы керек, шешімнің негіздемесі және аудит ізі сақталуы керек, тұтынушыға қарсылық/адамның қарауына құқық берілуі керек ✔

Түсініктеме: Реттелетін шешім процестерінде модель түсіндірілетін болуы керек, шешімнің негіздемесі құжатталған болуы керек, жазба (аудит ізі) сақталуы керек және тұтынушыға адам тексеруіне қарсылық білдіру/талап ету құқығы берілуі керек. «Қара жәшік» үлгісінің негізсіз шешімі тексерілмейді және заңнамаға сәйкес келмейді.

14. Бүкіл модульде баса айтылған негізгі қағида банк ісіндегі жасанды интеллекттің рөлін қалай сипаттайды?

• A) Жасанды интеллект тәжірибелі банкирлерді алмастыра алады және несиелер мен хабарламаларды өз бетімен аяқтай алады.
• B) Жасанды интеллект шешім қабылдау үшін емес, тек маркетинг үшін қолданылады
• C) Жасанды интеллект нәтижесі тіпті тексерусіз қауіпсіз, өйткені ол статистикаға негізделген
• D) Жасанды интеллект көмекші және тартпа генераторы болып табылады; Несиені бөлу, алаяқтық/сәйкестік туралы шешім және соңғы шешім уәкілетті тұлғада ✔

Сипаттама: AI көмекші, алдын ала скринингші және жобалық генератор ретінде қайталанатын тапсырмаларды жылдамдатады; Бірақ біз реттелетін, сенімділік маңызды салада жұмыс істейтіндіктен, несие бөлуге, алаяқтыққа/сәйкестікке және клиентке қатысты түпкілікті шешім уәкілетті тұлғаның (уәкілетті банкир және шешім комитеті) жауапкершілігінде. Тексерілмеген нәтиже қол қойылмаған шешім жобасы болып табылады.