End-to-End workflow, modelové riadenie a vlastný audit

zisky:

• Schopnosť bezpečne prevádzkovať bankovú úlohu od začiatku do konca s cyklom „AI produkuje → expert overuje → autorizovaný rozhoduje“
• Schopnosť bezpečne začleniť umelú inteligenciu v rámci riadenia modelov, overovania, monitorovania a neustáleho zlepšovania
• Schopnosť prevziať konečnú zodpovednosť samokontrolou svojich výstupov pomocou piatich kľúčových otázok (overenie, zdroj, dôvernosť, spravodlivosť, schválenie)

V rámci tohto modulu umiestňujeme AI ako pomocníka a generátora plánov v každom kúte bankovníctva – úvery, podvody, segmentácia, služby zákazníkom, dodržiavanie predpisov, výkazníctvo, finančná analýza. V tejto záverečnej časti poskladáme jednotlivé časti: ako spustíte bankovú úlohu od začiatku do konca v zabezpečenej slučke, ako modelové riadenie tvorí rámec tejto slučky a pomocou akých piatich otázok si sami kontrolujete každý výstup? Cieľom je destilovať to, čo ste sa naučili, do jediného reflexu: AI produkuje → expert overuje → expert rozhoduje. Tento cyklus je spôsob, ako udržať rýchlosť a zároveň bezpečnosť.

Slučka od konca po koniec: tri krúžky

Predstavte si každú bankovú úlohu ako trojčlánkový reťazec:

1. AI vytvára (návrhový kruh): Anonymný, s minimálnymi údajmi, AI dostane úlohu návrhu/kontroly – zhrnutie, návrh odôvodnenia, výstraha, návrh účtu. Tu neexistuje žiadne rozhodnutie, iba materiál.
2. Expert overuje (filtračný kruh): Výstup je prepojený so zdrojom, čísla sú prepočítané, filtrované cez politiku/legislatíva a spravodlivosť. Halucinácie, diskriminácia a narušenie súkromia sú tu eliminované.
3. Orgán rozhoduje (podpisový krúžok): Konečné rozhodnutie — úver, STR, rozhodnutie o podvode, podpis správy — robí oprávnená osoba/výbor; Zaznamenáva sa odôvodnenie a audit trail.

Quest

AI vyrába

Odborník potvrdzuje

kompetentné rozhodnutie

úver

Návrh odôvodnenia

Pomer/zdroj/spravodlivosť

Rozhodnutie o pridelení

podvodom

Upozornenie na anomáliu

Kontext/potvrdenie zákazníka

Blokové/voľné rozhodnutie

AML

Vzor/zhoda

Kontrola nesúladu

rozhodnutie STR

Správa

Návrh textu/čísla

Číselné overenie

podpis

Analýza

Návrh hodnotenia/komentára

Prepočet/predpoklad

Investičný/úverový posudok

Tip: Najčastejšie preskakovaným odkazom v slučke je stredné „overenie“. Ľudia pod tlakom preskakujú od návrhu k rozhodnutiu. Je to však presne ten stredný kruh, ktorý určuje hodnotu aj riziko. Preskočenie overenia znamená prerušenie cyklu.

Model governance: systém, ktorý rámuje slučku

Okrem jednotlivých úloh musí banka riadiť svoje modely ako celok. Modelové riadenie pozostáva z nasledujúcich komponentov:

• Validácia: Model je pred uvedením do používania nezávisle testovaný; Meria sa jej presnosť, spravodlivosť a limity.
• Monitorovanie: Model sa môže časom zhoršiť (posun údajov – výkon klesá, keď sa zmení distribúcia vstupov). Je neustále monitorovaný.
• Dokumentácia: Čo model robí, s akými údajmi je trénovaný, jeho limity a zodpovední sú zdokumentovaní.
• Úloha a zodpovednosť: Kto vyrába, kto overuje, kto rozhoduje, je jasne definované.
• Kontrola a vylepšenie: Chyby sa zaznamenávajú, model sa pravidelne prehodnocuje.

Pozor: Model, ktorý funguje dobre, nebude dobre fungovať navždy. Ekonomické podmienky, správanie zákazníkov a podvodná taktika sa menia; Ak s nimi model nedokáže držať krok, začne potichu falšovať. Bez monitorovania zostane táto degradácia nepovšimnutá.

Samokontrola s piatimi otázkami

Pred použitím každého výstupu AI si položte týchto päť otázok:

1. Overenie: Pripojil som tento výstup k zdroju a prepočítal som kritické čísla?
2. Zdroj: Je každé tvrdenie založené na skutočnom dokumente/údajoch/pravidle, alebo môže byť vymyslené?
3. Ochrana osobných údajov: Sú údaje o identite anonymizované, používa sa minimum údajov a schválené nástroje?
4. Spravodlivosť: Obsahuje výstup diskrimináciu na základe chráneného vlastníctva alebo náhradnej premennej?
5. Schválenie: Bolo zaznamenané konečné rozhodnutie oprávnenej osoby, odôvodnenie a revízny záznam?

Ak je čo i len jeden z piatich "nie", výstup nie je pripravený na použitie.

Štyri kopírovateľné šablóny

1) Úplný plán misie:

Vaša úloha: asistent, ktorý mi pomáha plánovať bankovú úlohu v zabezpečenej slučke. Úloha: [úloha]. Vyplňte mi tieto tri krúžky: (1) aký návrh vytvorí AI, (2) aké overovacie kroky urobí odborník, (3) aké rozhodnutie urobí a zaznamená úradník? Navrhovanie rozhodnutia; Objaví sa kostra procesu.

2) Aplikácia sebakontroly s piatimi otázkami:

Skontrolujte nasledujúci výstup AI s piatimi otázkami: overenie, pôvod, súkromie, spravodlivosť, schválenie. Pri každej otázke zhodnoťte „ok / neúplné / riskantné“ a napíšte, ako nedostatky odstrániť. Výstup: [text]

3) Poznámka o kontrole sledovania modelu:

Vaša úloha: vzorový asistent riadenia. Pre model podpory rozhodovania, ktorý používame, premeňte ukazovatele, ktoré je potrebné pravidelne monitorovať (výkon, medziskupinová spravodlivosť, signály posunu údajov, záznamy o chybách), na kontrolný zoznam. Rozhodovanie; Navrhnite rámec monitorovania.

4) Uzavretie prípadu a audit trail:

Na konci zákazky navrhnite záverečnú poznámku pre audit trail: aký návrh bol vypracovaný, aké overenia boli vykonané, aké rozhodnutie urobil kto, s akým odôvodnením. Používajte iba overené informácie, ktoré poskytnem. Vstup: [informácie]

Slabá výzva / Silná výzva

Slabá výzva:

Túto úlohu zvládate od začiatku do konca a výsledok mi dáte ako hotové rozhodnutie, takže sa nebudem trápiť s detailmi.

Zredukuje tri zvonenia na jediný krok, obchádza overovanie a ľudský úsudok a zatemňuje zodpovednosť.

Výkonná výzva:

Vaša úloha: procesný asistent, nie rozhodovateľ. Najprv vytvorte osnovu úlohy, potom uveďte body, ktoré musím overiť, a na konci mi pripomeňte, že rozhodnutie a audit trail sú moje. Pridajte k výstupu päť samokontrolných otázok (overenie, zdroj, dôvernosť, spravodlivosť, schválenie).

Silná vôľa chráni tri prstene, vyžaduje overenie a rozhodnutie necháva na človeka.

tri mini prípady

Prípad 1 – Cyklus beží naplno. V žiadosti o pôžičku AI vytvorí návrh odôvodnenia (krúžok 1); odborník prepočíta sadzby, skontroluje odôvodnenie pre spravodlivosť, vymaže výraz náhradnej premennej (krúžok 2); úradník urobí rozhodnutie o pridelení a zaznamená audit trail (krúžok 3). O 20 minút vzniká bezpečné a obhájiteľné rozhodnutie.

Prípad 2 – Monitorovanie zachytáva degradáciu. Zatiaľ čo vzor podvodu funguje dobre celé mesiace, miera chytenia potichu klesá kvôli novej taktike podvodu. Monitorovanie v rámci modelového riadenia zaznamenáva tento pokles; Model je aktualizovaný. Bez monitorovania by straty naďalej rástli.

Prípad 3 – Sebakontrola zabraňuje porušeniu. Analytik sa chystá priamo odoslať výstup AI na rýchlu správu. Aplikuje päť otázok: všimol si, že v otázke „zdroj“ nie je potvrdený údaj o zisku. Ovládanie zo zdroja; číslo je nesprávne. Tridsať sekúnd samokontroly zabraňuje odoslaniu falošného obrázku vedeniu.

Jasnosť rolí: kto vyrába, kto overuje, kto rozhoduje

Cyklus troch zvonení je bezpečný iba vtedy, keď sú úlohy jasné. Najbežnejšou chybou je rozmazaná oblasť, kde „zodpovední sú všetci, ale nikto nie je zodpovedný“: návrh vytvorila AI, nikto ho plne neoveril a rozhodnutie zostalo bez dozoru, pretože „opustilo systém“. V tejto medzere sa najľahšie dostávajú chyby.

V zdravej fikcii má každý prsteň svojho majiteľa:

• Generátor (asistent + používateľ): Anonym, osoba, ktorá si vyžiada návrh a pripraví záznam s minimálnymi údajmi.
• Overovateľ (expert): Niekto, kto prepojí výstup so zdrojom, prepočíta čísla a filtruje ho z dôvodu spravodlivosti a dôvernosti. Táto rola sa nikdy nevynecháva.
• Osoba s rozhodovacou právomocou (orgán/výbor): Orgán, ktorý prijíma konečné rozhodnutie a podpisuje odôvodnenie a audit trail.

Niekedy tá istá osoba preberá viacero rolí; To nie je problém, pokiaľ sa uistíte, že každý odkaz je urobený vedome a zaznamenaný. Problém je v tom, že prsteň je ponechaný prázdny s predpokladom, že „to niekto musel urobiť“.

Tip: Po rozhodnutí si položte otázku: „Kto je jediným vlastníkom tohto rozhodnutia?“ spýtaj sa. Ak odpoveď nie je jasná, znamená to, že reťaz zodpovednosti je prerušená; Reštartujte slučku.

Časté chyby

• Preskočenie stredného krúžku. Prechod priamo od návrhu k rozhodnutiu a preskočenie overovania.
• Prenesenie zodpovednosti na model. Povedať „AI to zvládne“ a nevlastniť konečné rozhodnutie a podpis.
• Myslieť na nastavenie modelu a zabudnúť naň. Ponechanie modelu, ktorý fungoval dobre, raz bez sledovania; nevidieť posun údajov.
• Nezanecháva stopy auditu. Nezaznamenáva, kto sa ako rozhodol a prečo.
• Obchádzanie sebakontroly. Použitie výstupu bez kladenia piatich otázok.

Tip: Urobte si z piatich otázok samokontrolu zvyk; Postupom času sa stáva automatickým a trvá niekoľko sekúnd. Mnohé z najväčších chýb sa vyskytujú vtedy, keď tých pár sekúnd kontroly premeškáme.

V súhrne

Využitie bezpečnej umelej inteligencie v bankovníctve je trojkruhový cyklus: AI vytvára, expert overuje, autorita rozhoduje. Tento cyklus tvorí rámec modelového riadenia (validácia, monitorovanie, dokumentácia, zodpovednosť, zlepšovanie). Samokontrola každého výstupu s piatimi otázkami – overenie, zdroj, dôvernosť, spravodlivosť, schválenie; Ak čo i len jeden chýba, výstup nie je pripravený. Model sa môže pokaziť; monitorovanie je nevyhnutné. Zodpovednosť je vždy na človeku. Jednou vetou: Umelá inteligencia je prvým článkom v cykle; overenie a konečné rozhodnutie sú krúžky kompetentného človeka, ktorý môže vyúčtovať.

Aplikačná úloha

Vyberte si úlohu z vlastného podnikania a vytvorte trojkruhový komplexný plán so šablónou 1: čo vytvorí AI, čo overí odborník, čo zaznamená a rozhodne autorita. Potom napíšte vzorový výstup AI pre túto úlohu, použite samokontrolu s piatimi otázkami pomocou 2. šablóny a opravte nedostatky. Nakoniec vytvorte kontrolný zoznam monitorovania so šablónou 3 pre nástroj na podporu rozhodovania, ktorý používate.

kontrolný zoznam

• [ ] Úlohu som štruktúroval do trojkrúžkovej slučky (generovať / overiť / rozhodnúť).
• [ ] Nepreskočil som stredný odkaz (overenie); Skontroloval som zdroj a čísla.
• [ ] Zadal som päť otázok sebakontroly; Ak by tam niečo chýbalo, išiel by som.
• [ ] Prešiel som filtrami ochrany súkromia a spravodlivosti.
• [ ] Zohľadnil som riziko sledovania modelov a korupcie.
• [ ] Prevzal som zodpovednosť tým, že som zaznamenal konečné rozhodnutie, jeho odôvodnenie a audit trail.

Modulová skúška

1. Úverový expert odovzdá zákazníkovi dôvod zamietnutia úveru vygenerovaný umelou inteligenciou bez toho, aby ho skontroloval. V čom spočíva zásadná chyba tohto prístupu?

• A) Výstup umelej inteligencie nemožno použiť bez overenia; Odôvodnenie návrhu rozhodnutia musí preskúmať a schváliť autorizovaný odborník ✔
• B) Umelá inteligencia uvádza zdôvodnenie úveru vždy ako negatívne
• C) Zákazníkovi by sa namiesto dôvodu malo povedať len skóre
• D) Zdôvodnenie malo byť zákazníkovi doručené telefonicky namiesto e-mailom.

Vysvetlenie: Hoci umelá inteligencia dokáže vytvoriť konzistentné odôvodnenie, môže tiež vytvoriť chybné a dokonca diskriminačné odôvodnenie s rovnakou istotou na základe nesprávnych údajov alebo nesprávnych predpokladov. Bankovníctvo je regulovaná oblasť kritická pre dôveru; Každý výstup musí byť overený odborníkom, rozhodnutie o pridelení kreditu a konečné zdôvodnenie musí patriť oprávnenej osobe.

2. Aké je najlepšie správanie z hľadiska dôvernosti (KVKK a zákaznícke tajomstvo) pri prevode transakcií na bankovom účte zákazníka do nástroja umelej inteligencie?

• A) Z dôvodu rýchlosti by sa malo nahrať celé meno zákazníka a výpis z účtu.
• B) Odstránením informácií umožňujúcich osobnú identifikáciu a anonymizáciou údajov by sa v schválenom zabezpečenom nástroji malo zdieľať iba minimum potrebných informácií ✔
• C) Ak sú dáta zašifrované, meno a číslo účtu je možné poslať aj akémukoľvek vozidlu
• D) Pretože účel je dobrý, celý prepis je možné zdieľať bez toho, aby ste sa pýtali zákazníka

Vysvetlenie: Finančné údaje zákazníka sú v rámci bankového zákona osobnými údajmi aj tajomstvom zákazníka. Identifikačné informácie ako meno, TR ID, číslo účtu by sa mali odstrániť a údaje anonymizovať; Mali by sa zdieľať minimálne údaje požadované pre danú úlohu a mali by sa používať iba bezpečné nástroje schválené inštitúciou.

3. Umelá inteligencia zdôvodňuje rozhodnutie o modeli kreditného hodnotenia, ako napríklad „odmietnutie, pretože štvrť, v ktorej žiadateľ žije, je riziková“. Čo by mal odborník robiť?

• A) Zdôvodnenie sa používa tak, ako je, pretože model je založený na štatistike
• B) Informácie o obvode sú ďalej vážené a rozhodnutie je posilnené.
• C) Môže ísť o nepriamu diskrimináciu prostredníctvom zástupnej premennej; Odôvodnenie musí byť zamietnuté a rozhodnutie musí byť založené na legitímnych a vysvetliteľných kritériách ✔
• D) Dôvod sa zákazníkovi neoznámi, je len vedený v kartotéke, nebude problém.

Vysvetlenie: Okres bydliska môže byť zástupnou premennou silne spojenou s etnickým pôvodom alebo podobnými chránenými charakteristikami, čo vytvára nepriamu diskrimináciu. Tento typ ospravedlnenia je právne a eticky neprijateľný; Rozhodnutie musí byť založené na legitímnych, vysvetliteľných a nediskriminačných kritériách a toto odôvodnenie musí byť zamietnuté.

4. V systéme odhaľovania podvodov umelá inteligencia označí transakciu ako „vysoko rizikovú“. Aký je najlepší prístup?

• A) Varovanie je signál predbežnej detekčnej kontroly; Skutočný podvod a falošný poplach by sa mal odlíšiť expertízou a konečný úsudok by mal byť vynesený ľudsky ✔
• B) Transakcia je automaticky a trvalo zablokovaná, kontrola nie je potrebná
• C) Varovanie sa ignoruje, pretože väčšina varovaní je nepravdivých
• D) Zákazník je povolaný a priamo obviňovaný

Vysvetlenie: Varovanie AI je predbežným skríningovým a pravdepodobnostným signálom, nie definitívnym verdiktom. Je na odborníkovi, aby rozlíšil medzi skutočným podvodom a falošne pozitívnymi údajmi, aby vyšetril bez toho, aby sa stal obeťou zákazníka, a aby urobil konečné rozhodnutie; Upozornenie by nemalo automaticky zablokovať účet natrvalo.

5. Aké sú náklady na veľký počet falošných pozitívnych upozornení pri odhaľovaní podvodov?

• A) Falošný pozitívny výsledok nič nestojí, čím viac upozornení, tým lepšie
• B) Vytvára u zákazníkov úzkosť a únavu z poplachu; Zvyšuje riziko, že skutočný podvod zostane nepovšimnutý ✔
• C) Zvyšuje iba spotrebu elektrickej energie systému
• D) Falošný pozitívny výsledok sa vyskytuje iba pri nočných obchodoch

Vysvetlenie: Falošné pozitíva spôsobujú nepríjemnosti a nespokojnosť tým, že zbytočne bránia transakciám legitímnych zákazníkov; U analytikov to tiež vedie k únave, čím sa zvyšuje riziko, že skutočný podvod bude prehliadnutý. Preto by prahové hodnoty a pravidlá mali byť vyvážené a upozornenia by mali mať prioritu.

6. Aká je eticky najkritickejšia hranica pri navrhovaní segmentácie zákazníkov a personalizovaných kampaní?

• A) Čím užšie segmenty, tým lepšie, iné limity neexistujú
• B) Personalizácia je len technická záležitosť, nevyžaduje si etické hranice
• C) Oprávnenosť, súhlas a nediskriminácia musia byť chránené; Musí sa zabrániť vykorisťovaniu a manipulácii so zraniteľným zákazníkom ✔
• D) Ak bude kampaň zaslaná všetkým rovnako, nevzniknú žiadne etické problémy.

Vysvetlenie: Segmentáciu možno síce využiť v prospech zákazníka (odporúčanie vhodného produktu), ale možno ju zneužiť aj na využitie zraniteľnosti (napríklad marketing dodatočného kreditu príliš zadlženému zákazníkovi). Zásady vhodnosti, súhlasu a nediskriminácie musia byť chránené; personalizácia by sa nemala zmeniť na manipuláciu.

7. Aká je najlepšia bezpečnostná politika pre chatbota zákazníckych služieb?

• A) Chatbot by mal byť schopný samostatne uzatvárať všetky druhy transakcií a finančného poradenstva
• B) Urýchľuje rutinné informácie; Sťažnosti, citlivé rady a autorizované transakcie by mali byť delegované na ľudí, nemali by sa poskytovať neoverené informácie ✔
• C) Chatbot môže zdieľať všetky informácie o účte bez overenia identity zákazníka
• D) Možnosť ľudského odovzdania by mala byť odstránená, pretože spomaľuje chatbota.

Popis: Chatbot bezpečne urýchľuje často žiadané informácie a bežné transakcie, ale sťažnosti, citlivé finančné poradenstvo, autorizované transakcie na účte a nejednoznačné situácie by mali byť delegované na oprávneného zamestnanca. Okrem toho by chatbot nemal prezrádzať tajomstvá zákazníkov ani poskytovať neoverené informácie.

8. V procesoch AML/KYC umelá inteligencia označí transakciu ako podozrivú. Aký je správny prístup z hľadiska hlásenia podozrivých transakcií (STR)?

• A) Ak je model označený, oznámenie by sa malo vykonať automaticky, kontrolór súladu nie je potrebný
• B) Upozornenie sa ignoruje, pretože väčšina transakcií je legitímna
• C) Transakcia je okamžite oznámená zákazníkovi ako „existuje podozrenie z prania špinavých peňazí“
• D) Výstupom modelu je predbežná kontrola a návrh; Rozhodnutie o STR robí autorizovaný kontrolór dodržiavania predpisov, pričom sa zachová odôvodnenie a audit trail ✔

Popis: Monitorovanie a skenovanie transakcií umelou inteligenciou rýchlo označí potenciálne podozrivé vzory, ale hlásenie podozrivých transakcií (STR/SAR) je rozhodnutie s právnymi dôsledkami a prijíma sa na základe úsudku autorizovaného kontrolóra súladu. Výstupom modelu je predbežný a návrh; Audit trail a zdôvodnenie musia byť zachované.

9. V zozname sankcií / skríningu PEP (politicky exponovaná osoba) sa umelá inteligencia zhoduje s menom, ale môže ísť o falošnú zhodu. Aký je správny prístup?

• A) Zhoda musí byť potvrdená dodatočnými identifikátormi (dátum narodenia, národnosť); Rozhodnutie musí urobiť pracovník zodpovedný za dodržiavanie predpisov ✔
• B) Podobnosť mien je dostatočná, zákazník je okamžite vyhlásený za sankcionovaného
• C) Všetky zhody sa považujú za nepravdivé a ignorujú sa
• D) Rozhodnutie je ponechané na chatbotovi

Vysvetlenie: Skenovanie mien môže spôsobiť falošné pozitíva kvôli podobným menám. Kontrolór súladu musí potvrdiť zhodu s dátumom narodenia, národnosťou a inými identifikátormi; Omylné vyhlásenie sankcionovaného zákazníka alebo vynechanie skutočného zápasu majú vážne následky. Rozhodnutie patrí človeku.

10. Vytvorili ste návrh správy o hospodárení s umelou inteligenciou; Správa obsahuje štvrťročné údaje o zisku. Aký je najdôležitejší krok pred podpisom?

• A) Všetky kritické čísla v správe by sa mali znovu overiť oproti zdrojovým údajom; Konečná zodpovednosť za podpis je na ľudskej bytosti ✔
• B) Umelá inteligencia dáva čísla bez chýb, overovanie je strata času
• C) Kontroluje sa len formát, aby správa vyzerala krajšie.
• D) Správa sa posiela priamo vrcholovému manažmentu, kontrola sa vykonáva neskôr

Vysvetlenie: Umelá inteligencia môže nesprávne uvádzať číselné hodnoty, vymýšľať si ich alebo ich sumarizovať nekonzistentne so zdrojovými údajmi. Všetky kritické čísla by sa mali pred podpísaním správy opätovne overiť oproti zdrojovým údajom; Hoci automatizácia poskytuje rýchlosť, konečná zodpovednosť za podpis leží na človeku.

11. Umelá inteligencia analyzuje finančné výkazy spoločnosti a hovorí, že „spoločnosť je veľmi solídna, pôžičku by sa určite mala poskytnúť“. Aká je zodpovednosť finančného analytika?

• A) Prijatie textu takého, aký je, pretože umelá inteligencia pozná financie bez chýb
• B) Prepočítavanie pomerov zo zdrojových tabuliek a spochybňovanie predpokladov; Konečné rozhodnutie ako človek, vyjadrenie neistoty ✔
• C) Predloženie rozhodnutia priamo výboru ako „AI schválené“
• D) Odmietnutie pôžičky bez prečítania analýzy

Vysvetlenie: Finančná analýza závisí od predpokladov a presnosti vstupov; Umelá inteligencia môže nesprávne vypočítať sadzby, ignorovať chýbajúce údaje alebo používať príliš presný jazyk. Analytik musí prepočítať sadzby zo zdrojových tabuliek, spochybniť predpoklady a urobiť konečné úverové rozhodnutie ľudsky s odvolaním sa na neistotu.

12. Hoci kreditný model nemusí priamo využívať chránené charakteristiky, ako je pohlavie alebo etnická príslušnosť, môže ich nepriamo odrážať prostredníctvom poštového smerovacieho čísla a údajov o nákupoch. Ako sa táto situácia nazýva a prečo je riziková?

• A) Toto sa nazýva preučenie a iba zníži presnosť
• B) Toto sa nazýva únik údajov a je to len problém s rýchlosťou
• C) Toto sa nazýva nepriama diskriminácia prostredníctvom proxy premennej; je nezákonné a musí byť skontrolované testami férovosti ✔
• D) Toto sa nazýva normalizácia a je úplne neškodné

Vysvetlenie: Premenné, ktoré sú silne spojené s chránenou vlastnosťou, sa nazývajú proxy premenné. Aj keď model priamo nepoužíva chránenú funkciu, môže ju diskriminovať nepriamo prostredníctvom proxy. Je to nezákonné aj neetické; Modely by sa mali testovať pomocou metrík spravodlivosti a malo by sa kontrolovať proxy riziko.

13. Banka používa pri úverových rozhodnutiach model umelej inteligencie. Čo je jednou z najzákladnejších požiadaviek z hľadiska legislatívy a kontrolovateľnosti?

• A) Čím je model zložitejší a nezrozumiteľnejší, tým je bezpečnejší
• B) Vedenie záznamov je zbytočné, rozhodnutia je možné vysvetliť ústne
• C) Právo zákazníka vzniesť námietku by malo byť odstránené, pretože to spomaľuje proces
• D) Model by mal byť vysvetliteľný, zdôvodnenie rozhodnutia a audit trail by sa mali zachovať, zákazník by mal mať právo na námietku/kontrolu človekom ✔

Vysvetlenie: V regulovaných rozhodovacích procesoch musí byť model vysvetliteľný, odôvodnenie rozhodnutia musí byť zdokumentované, musí sa viesť záznam (audítorský záznam) a zákazník musí mať právo namietať/požiadať o preskúmanie človekom. Neodôvodnené rozhodnutie modelu „čiernej skrinky“ nemožno kontrolovať a nie je v súlade s právnymi predpismi.

14. Ako kľúčový princíp zdôraznený v celom module opisuje úlohu umelej inteligencie v bankovníctve?

• A) Umelá inteligencia dokáže nahradiť skúsených bankárov a sama finalizovať pôžičky a notifikácie
• B) Umelá inteligencia sa využíva len na marketing, nie na rozhodovanie
• C) Výstup umelej inteligencie je bezpečný aj bez overenia, pretože je založený na štatistike
• D) Umelá inteligencia je asistentom a generátorom návrhov; Pridelenie kreditu, posúdenie podvodu/súladu a konečné rozhodnutie je na oprávnenej osobe ✔

Opis: AI urýchľuje opakujúce sa úlohy ako asistent, predbežná kontrola a generátor návrhov; Ale keďže pracujeme v regulovanej oblasti kritickej pre dôveru, konečné rozhodnutie týkajúce sa pridelenia úveru, zabezpečenia podvodu/súladu a zákazníka je v kompetencii oprávnenej osoby (autorizovaný bankár a rozhodovací výbor). Neoverený výstup je nepodpísaný návrh rozhodnutia.