Visapusiška darbo eiga, modelio valdymas ir savikontrolė

Pelnas:

• Galimybė saugiai atlikti banko užduotį iki galo naudojant ciklą „AI gamina → ekspertas patikrina → įgaliotas nusprendžia“
• Gebėjimas saugiai integruoti dirbtinį intelektą modelio valdymo, patvirtinimo, stebėjimo ir nuolatinio tobulinimo sistemoje
• Gebėjimas prisiimti galutinę atsakomybę savarankiškai tikrinant savo rezultatus penkiais pagrindiniais klausimais (autentifikavimas, šaltinis, konfidencialumas, sąžiningumas, patvirtinimas)

Šiame modulyje AI laikome asistentu ir planų generatoriumi visose bankininkystės srityse – kreditų, sukčiavimo, segmentavimo, klientų aptarnavimo, atitikties, ataskaitų teikimo, finansinės analizės srityse. Šiame paskutiniame skyriuje sujungiame dalis: kaip saugiai vykdyti bankininkystės užduotį nuo pradžios iki pabaigos, kaip modeliuojamas valdymo modelis ir kokiais penkiais klausimais atliekate kiekvieno išvesties savikontrolę? Tikslas yra distiliuoti tai, ką išmokote, į vieną refleksą: AI sukuria → ekspertas patikrina → ekspertas nusprendžia. Šis ciklas yra būdas išlaikyti greitį ir saugumą tuo pačiu metu.

Kilpa nuo galo iki galo: trys žiedai

Apsvarstykite kiekvieną banko užduotį kaip trijų grandžių grandinę:

1. AI gamina (juodraštis žiedas): anoniminis, su minimaliais duomenimis, AI suteikiama juodraščio/patikrinimo užduotis – santrauka, juodraščio pagrindimas, įspėjimas, paskyros juodraštis. Čia nėra sprendimo, tik medžiaga.
2. Ekspertas patikrina (filtro žiedas): išvestis susieta su šaltiniu, skaičiai perskaičiuojami, filtruojami pagal politiką / teisės aktus ir sąžiningumą. Čia pašalinamos haliucinacijos, diskriminacija ir privatumo pažeidimas.
3. Institucija priima sprendimą (parašo žiedas): Galutinį sprendimą – įskaitymas, STR, sprendimas dėl sukčiavimo, protokolo parašas – priima įgaliotas asmuo/komitetas; Pateisinimas ir audito seka registruojami.

Quest

AI gamina

Ekspertas patvirtina

kompetentingas sprendimas

kreditas

Projekto pagrindimas

Santykis / šaltinis / teisingumas

Sprendimas dėl paskirstymo

sukčiavimas

Įspėjimas apie anomaliją

Kontekstas / kliento patvirtinimas

Blokas/laisvas sprendimas

AML

Raštas / atitikmuo

Neatitikimo patikrinimas

STR sprendimas

Pranešimas

Teksto/numerio juodraštis

Skaitmeninis patikrinimas

parašas

Analizė

Įvertinkite / komentuokite juodraštį

Perskaičiavimas/prielaida

Investicijų/kredito nuomonė

Patarimas: dažniausiai praleidžiama grandinės nuoroda yra vidurinė „patikrinimas“. Esant spaudimui, žmonės pereina nuo projekto prie sprendimo. Tačiau būtent tas vidurinis žiedas lemia ir vertę, ir riziką. Patvirtinimo praleidimas nutraukia ciklą.

Modelio valdymas: sistema, kuri įrėmina kilpą

Be atskirų užduočių, bankas turi valdyti savo modelius kaip visumą. Modelio valdymas susideda iš šių komponentų:

• Patvirtinimas: modelis yra nepriklausomai išbandytas prieš pradedant naudoti; Matuojamas jo tikslumas, teisingumas ir ribos.
• Stebėjimas: modelis laikui bėgant gali pablogėti (duomenų poslinkis – našumas mažėja, kai pasikeičia įvesties paskirstymas). Jis nuolat stebimas.
• Dokumentacija: dokumentuojama, ką modelis veikia, kokiais duomenimis jis apmokytas, jo ribos ir atsakingi asmenys.
• Vaidmuo ir atsakomybė: aiškiai apibrėžta, kas gamina, kas tikrina, kas sprendžia.
• Peržiūra ir tobulinimas: Klaidos fiksuojamos, modelis periodiškai iš naujo įvertinamas.

Atsargiai: gerai veikiantis modelis neveiks amžinai. Keičiasi ekonominės sąlygos, klientų elgesys ir sukčiavimo taktika; Jei modelis negali neatsilikti nuo jų, jis pradeda tyliai falsifikuoti. Be stebėjimo šis degradavimas nepastebimas.

Penkių klausimų savikontrolė

Prieš naudodami kiekvieną AI išvestį, užduokite sau šiuos penkis klausimus:

1. Patikrinimas: ar prijungiau šią išvestį prie šaltinio ir perskaičiavau kritinius skaičius?
2. Šaltinis: ar kiekvienas ieškinys grindžiamas tikru dokumentu / duomenimis / taisykle, ar jis gali būti išgalvotas?
3. Privatumas: ar tapatybės duomenys anonimizuoti, naudojami minimalūs duomenys ir patvirtintos priemonės?
4. Sąžiningumas: ar išvestyje yra diskriminacijos dėl saugomos nuosavybės ar pakaitinio kintamojo?
5. Patvirtinimas: ar buvo užfiksuotas galutinis įgalioto asmens sprendimas, loginis pagrindas ir audito seka?

Jei nors vienas iš penkių yra „ne“, išvestis nėra paruošta naudoti.

Keturi kopijuojami šablonai

1) Visapusiškas misijos planas:

Jūsų vaidmuo: asistentas, padedantis man planuoti banko užduotį saugioje kilpoje.Užduotis: [užduotis]. Užpildykite mane šiais trimis žiedais: (1) kokį juodraštį pateiks AI, (2) kokius patikrinimo veiksmus atliks ekspertas, (3) kokį sprendimą priims ir užfiksuos pareigūnas? Sprendimo siūlymas; Pasirodo proceso skeletas.

2) Savikontrolės programa su penkiais klausimais:

Patikrinkite šią AI išvestį penkiais klausimais: patvirtinimas, kilmė, privatumas, sąžiningumas, patvirtinimas. Prie kiekvieno klausimo įvertinkite „gerai / neužbaigta / rizikinga“ ir parašykite, kaip pašalinti trūkumus. Išvestis: [tekstas]

3) Modelio sekimo patikros pastaba:

Jūsų vaidmuo: modelio valdymo padėjėjas. Mūsų naudojamame sprendimų palaikymo modelyje rodiklius, kuriuos reikia reguliariai stebėti (našumas, sąžiningumas tarp grupių, duomenų poslinkio signalai, klaidų įrašai), paverskite kontroliniu sąrašu. Sprendimų priėmimas; Pasiūlykite stebėjimo sistemą.

4) Bylos užbaigimas ir audito seka:

Užduoties pabaigoje sudarykite audito sekos baigiamojo rašto projektą: koks projektas buvo parengtas, kokie patikrinimai buvo atlikti, kokį sprendimą kas priėmė, kokiu pagrindu. Naudokite tik patvirtintą mano pateiktą informaciją.Įveskite: [informacija]

Silpnas raginimas / Stiprus raginimas

Silpnas raginimas:

Jūs atliekate šią užduotį nuo pradžios iki pabaigos, o rezultatą pateikiate kaip paruoštą sprendimą, todėl nesivarginsiu dėl smulkmenų.

Tai sumažina tris skambučius iki vieno žingsnio, apeina patikrinimą ir žmogaus vertinimą bei nuslepia atsakomybę.

Galingas raginimas:

Jūsų vaidmuo: proceso asistentas, o ne sprendimų priėmėjas. Pirmiausia pateikite užduoties metmenis, tada surašykite punktus, kuriuos turiu patikrinti, o pabaigoje priminkite, kad sprendimas ir audito seka yra mano. Pridėkite penkis savitikros klausimus (autentifikavimas, šaltinis, konfidencialumas, sąžiningumas, patvirtinimas).

Stipri valia saugo tris žiedus, reikalauja patikrinimo ir palieka sprendimą pačiam žmogui.

trys mini dėklai

1 atvejis – ciklas veikia visiškai. Paskolos paraiškoje AI pateikia pagrindimo projektą (1 žiedas); ekspertas perskaičiuoja įkainius, patikrina teisingumo pagrindimą, išvalo pakaitinio kintamojo išraišką (2 žiedas); pareigūnas priima sprendimą dėl paskirstymo ir registruoja audito seką (3 žiedas). Per 20 minučių priimamas saugus ir pagrįstas sprendimas.

2 atvejis. Stebėjimas fiksuoja degradaciją. Nors sukčiavimo modelis gerai veikia mėnesius, sugavimo rodiklis tyliai mažėja dėl naujos sukčiavimo taktikos. Stebėjimas pagal modelio valdymą pastebi šį mažėjimą; Modelis atnaujintas. Be stebėjimo nuostoliai ir toliau didėtų.

3 atvejis – savikontrolė užkerta kelią pažeidimams. Analitikas ruošiasi tiesiogiai išsiųsti AI išvestį, kad gautų greitą ataskaitą. Jis taiko penkis klausimus: pastebi, kad „šaltinio“ klausime pelno skaičius nepatvirtintas. Valdymas iš šaltinio; numeris neteisingas. Trisdešimties sekundžių savitikros neleidžia vadovybei išsiųsti klaidingą vaizdą.

Vaidmenų aiškumas: kas gamina, kas tikrina, kas sprendžia

Trijų žiedų ciklas yra saugus tik tada, kai vaidmenys yra aiškūs. Dažniausias gedimas yra neryški sritis, kurioje „visi atsakingi, bet niekas neatsako“: juodraštį parengė AI, niekas jo iki galo nepatikrino, o sprendimas liko be dėmesio, nes „išėjo iš sistemos“. Į šią spragą lengviausia patenka klaidos.

Sveikoje fantastikoje kiekvienas žiedas turi savininką:

• Generatorius (asistentas + vartotojas): Anonimas, asmuo, kuris prašo juodraščio ir parengia įrašą su minimaliais duomenimis.
• Tikriklis (ekspertas): asmuo, kuris susieja išvestį su šaltiniu, perskaičiuoja skaičius ir filtruoja, kad būtų teisingas ir konfidencialumas. Šis vaidmuo niekada nepraleidžiamas.
• Sprendimų priėmėjas (institucija / komitetas): institucija, kuri priima galutinį sprendimą ir pasirašo pagrindimą bei audito seką.

Kartais tas pats asmuo atlieka kelis vaidmenis; Tai nėra problema, jei tik įsitikinsite, kad kiekviena nuoroda sukurta sąmoningai ir įrašyta. Problema ta, kad žiedas paliekamas tuščias su prielaida, kad „kažkas tai turėjo padaryti“.

Patarimas: priėmę sprendimą paklauskite savęs: „Kas yra vienintelis šio sprendimo savininkas? paklausti. Jei atsakymas nėra aiškus pavadinimas, tai reiškia, kad atsakomybės grandinė nutrūkusi; Iš naujo paleiskite kilpą.

Dažnos klaidos

• Praleidžiant vidurinį žiedą. Tiesiogiai pereinama nuo projekto prie sprendimo ir praleidžiama patikra.
• Atsakomybės sukėlimas modeliui. Sakydami „AI sutvarkys tai“ ir neturėdami galutinio sprendimo bei parašo.
• Galvoja apie modelio nustatymą ir pamiršta. kažkada gerai veikusio modelio palikimas nesekamas; nemato duomenų dreifo.
• Nepaliekant audito pėdsakų. Nefiksuojama, kas ir kodėl priėmė sprendimą.
• Apeinant savikontrolę. Išvesties naudojimas neuždavę penkių klausimų.

Patarimas: paverskite penkių klausimų savęs patikrinimą įpročiu; Laikui bėgant jis tampa automatinis ir užtrunka sekundes. Daugelis didžiausių klaidų įvyksta, kai šios kelios kontrolės sekundės praleidžiamos.

Apibendrinant

Saugaus dirbtinio intelekto naudojimas bankininkystėje yra trijų žiedų ciklas: AI gamina, ekspertas tikrina, valdžia priima sprendimus. Modelio valdymas (patvirtinimas, stebėjimas, dokumentavimas, atskaitomybė, tobulinimas) sudaro šio ciklo rėmus. Patikrinti kiekvieną išvestį su penkiais klausimais – autentifikavimas, šaltinis, konfidencialumas, sąžiningumas, patvirtinimas; Jei net vieno trūksta, išvestis neparengta. Modelis gali sugesti; stebėjimas yra būtinas. Atsakomybė visada tenka žmogui. Vienu sakiniu: Dirbtinis intelektas – pirmoji ciklo grandis; patikrinimas ir galutinis sprendimas yra kompetentingo žmogaus, galinčio duoti sąskaitą, žiedai.

Taikymo užduotis

Pasirinkite užduotį iš savo verslo ir sukurkite trijų žiedų galutinį planą su 1 šablonu: ką sukurs dirbtinis intelektas, ką patikrins ekspertas, ką užfiksuos ir nuspręs institucija. Tada parašykite tos užduoties AI išvesties pavyzdį, atlikite penkių klausimų savitikrą naudodami 2 šabloną ir ištaisykite trūkumus. Galiausiai sukurkite stebėjimo kontrolinį sąrašą su 3 šablonu, skirtą naudojamo sprendimų palaikymo įrankiui.

kontrolinis sąrašas

• [ ] Užduotį susisteminau į trijų žiedų kilpą (generuoti / patikrinti / nuspręsti).
• [ ] Nepraleidau vidurinės nuorodos (patikrinimas); Patikrinau šaltinį ir skaičius.
• [ ] Pateikiau penkis savikontrolės klausimus; Jei ko trūktų, eičiau.
• [ ] Išlaikiau privatumo ir sąžiningumo filtrus.
• [ ] Atsižvelgiau į modelio sekimo ir korupcijos riziką.
• [ ] Prisiėmiau atsakomybę užfiksuodamas galutinį sprendimą, jo pagrindimą ir audito seką.

Modulio egzaminas

1. Kredito ekspertas perduoda klientui dirbtinio intelekto sugeneruotą paskolos atmetimo priežastį jos nepatikrinęs. Kokia esminė šio požiūrio klaida?

• A) Dirbtinio intelekto produkcija negali būti naudojama be patikrinimo; Sprendimo pagrindimo projektą turi peržiūrėti ir patvirtinti įgaliotas ekspertas ✔
• B) Dirbtinis intelektas visada pateikia paskolos pagrindimą kaip neigiamą
• C) Klientui reikia pasakyti tik balą, o ne priežastį
• D) Pateisinimas klientui turėjo būti perduotas telefonu, o ne el. paštu.

Paaiškinimas: nors dirbtinis intelektas gali pateikti nuoseklų pagrindimą, jis taip pat gali pateikti klaidingą ir net diskriminacinį pagrindimą su tuo pačiu pasitikėjimu, pagrįstu klaidingais duomenimis arba klaidingomis prielaidomis. Bankininkystė yra reguliuojama, pasitikėjimui svarbi sritis; Kiekvieną išvestį turi patikrinti ekspertas, o sprendimas dėl kredito paskirstymo ir galutinis pagrindimas turi priklausyti įgaliotam asmeniui.

2. Koks yra geriausias elgesys konfidencialumo (KVKK ir kliento paslapties) požiūriu, perkeliant kliento banko sąskaitos operacijas į dirbtinio intelekto įrankį?

• A) Kliento vardas ir pavardė ir sąskaitos išrašas turėtų būti įkelti taip, kaip yra greitis.
• B) Pašalinus asmenį identifikuojančią informaciją ir anonimizuojant duomenis, patvirtintame saugiame įrankyje turėtų būti dalijamasi tik būtiniausia informacija ✔
• C) Jei duomenys yra užšifruoti, vardas ir sąskaitos numeris taip pat gali būti siunčiami į bet kurią transporto priemonę
• D) Kadangi tikslas geras, visa stenograma gali būti dalijama neprašant kliento

Paaiškinimas: Kliento finansiniai duomenys yra ir asmens duomenys, ir kliento paslaptis pagal bankų teisę. Identifikavimo informacija, pvz., vardas, pavardė, TR ID, sąskaitos numeris, turėtų būti pašalinta, o duomenys anonimizuoti; Reikėtų dalytis minimaliais užduočiai atlikti reikalingais duomenimis ir naudoti tik saugias institucijos patvirtintas priemones.

3. Dirbtinis intelektas pateisina kredito balų modelio sprendimą, pvz., „atmetimas, nes kaimynystė, kurioje pareiškėjas gyvena, yra rizikinga“. Ką turėtų daryti ekspertas?

• A) Loginis pagrindas naudojamas toks, koks yra, nes modelis pagrįstas statistika
• B) Apygardos informacija dar labiau pasveriama ir sprendimas sustiprinamas.
• C) Tai gali būti netiesioginė diskriminacija dėl tarpinio kintamojo; Pateisinimas turi būti atmestas, o sprendimas turi būti pagrįstas teisėtais ir paaiškinamais kriterijais ✔
• D) Priežastis klientui nepasakoma, ji tiesiog saugoma byloje, problemų nebus.

Paaiškinimas: gyvenamosios vietos rajonas gali būti pakaitinis kintamasis, glaudžiai susijęs su etnine kilme ar panašiomis saugomomis savybėmis, sukuriant netiesioginę diskriminaciją. Toks pateisinimas teisiškai ir etiškai nepriimtinas; Sprendimas turi būti pagrįstas teisėtais, paaiškinamais ir nediskriminaciniais kriterijais, o šis pagrindimas turi būti atmestas.

4. Sukčiavimo aptikimo sistemoje dirbtinis intelektas pažymi sandorį kaip „didelės rizikos“. Koks yra geriausias požiūris?

• A) Įspėjimas yra signalas prieš patikrinimą; Tikras sukčiavimas ir melagingas pavojaus signalas turi būti atskirti atlikus ekspertizę, o galutinis sprendimas turi būti priimtas humaniškai ✔
• B) Operacija automatiškai ir visam laikui blokuojama, peržiūra nereikalinga
• C) Įspėjimas ignoruojamas, nes dauguma įspėjimų yra klaidingi
• D) Klientas yra skambinamas ir tiesiogiai kaltinamas

Paaiškinimas: AI įspėjimas yra preliminarus patikrinimo ir tikimybės signalas, o ne galutinis nuosprendis. Ekspertas turi atskirti tikrą sukčiavimą nuo klaidingų teigiamų rezultatų, ištirti nepakenkiant klientui ir priimti galutinį sprendimą; Įspėjimas neturėtų automatiškai užblokuoti paskyros visam laikui.

5. Kiek kainuoja daug klaidingai teigiamų įspėjimų nustatant sukčiavimą?

• A) Klaidingas teigiamas rezultatas nieko nekainuoja, kuo daugiau įspėjimų, tuo geriau
• B) Sukelia kliento nerimą ir aliarmo nuovargį; Padidina riziką, kad tikras sukčiavimas bus nepastebėtas ✔
• C) Tai tik padidina sistemos elektros suvartojimą
• D) Klaidingas teigiamas rezultatas pasitaiko tik naktiniuose sandoriuose

Paaiškinimas: klaidingi teigiami duomenys sukelia nepatogumų ir nepasitenkinimą, nes be reikalo trukdo teisėtų klientų sandoriams; Dėl to analitikai taip pat pervargsta, padidindami riziką, kad tikras sukčiavimas bus nepastebėtas. Todėl slenksčiai ir taisyklės turėtų būti subalansuoti, o įspėjimams turėtų būti teikiama pirmenybė.

6. Kokia yra etiškai kritiškiausia riba kuriant klientų segmentavimą ir personalizuotas kampanijas?

• A) Kuo siauresni segmentai, tuo geriau, kitų ribų nėra
• B) Personalizavimas yra tik techninis klausimas, jam nereikia etinių ribų
• C) turi būti apsaugotas tinkamumas, sutikimas ir nediskriminavimas; Turi būti užkirstas kelias pažeidžiamo kliento išnaudojimui ir manipuliavimui su juo ✔
• D) Jei kampanija bus siunčiama visiems vienodai, nebus jokių etinių problemų.

Paaiškinimas: nors segmentavimas gali būti naudojamas kliento naudai (tinkamo produkto rekomendacija), jis taip pat gali būti netinkamai naudojamas siekiant išnaudoti pažeidžiamumą (pvz., parduodant papildomą kreditą per daug įsiskolinusiam klientui). Turi būti saugomi tinkamumo, sutikimo ir nediskriminavimo principai; personalizavimas neturėtų virsti manipuliacija.

7. Kokia yra geriausia klientų aptarnavimo pokalbių roboto saugumo politika?

• A) Pokalbių robotas turėtų sugebėti pats sudaryti visų rūšių sandorius ir teikti finansines konsultacijas
• B) Pagreitina įprastą informaciją; Skundai, jautrūs patarimai ir įgalioti sandoriai turėtų būti perduoti žmonėms, nepatvirtinta informacija neturėtų būti teikiama ✔
• C) „Chatbot“ gali bendrinti visą paskyros informaciją nepatvirtindamas kliento tapatybės
• D) Žmogaus perdavimo parinktis turėtų būti pašalinta, nes ji sulėtina pokalbių robotą.

Aprašymas: Pokalbių robotas saugiai pagreitina dažnai užduodamą informaciją ir įprastas operacijas, tačiau skundus, jautrias finansines konsultacijas, įgaliotas operacijas sąskaitoje ir dviprasmiškas situacijas reikia perduoti įgaliotam darbuotojui. Be to, pokalbių robotas neturėtų atskleisti klientų paslapčių ar pateikti nepatikrintos informacijos.

8. AML/KYC procesuose dirbtinis intelektas pažymi operaciją kaip įtartiną. Koks yra teisingas būdas pranešti apie įtartinus sandorius (STR)?

• A) Jei modelis pažymėtas, pranešimas turėtų būti pateikiamas automatiškai, atitikties pareigūnas nereikalingas
• B) Įspėjimas ignoruojamas, nes dauguma sandorių yra teisėti
• C) Klientui nedelsiant pranešama apie sandorį, nes „yra įtarimas dėl plovimo“.
• D) modelio išvestis yra preliminarus patikrinimas ir juodraštis; STR sprendimą priima įgaliotas atitikties pareigūnas, išsaugant pagrindimą ir audito seką ✔

Aprašymas: Dirbtinio intelekto operacijų stebėjimas ir nuskaitymas greitai pažymi galimai įtartinus modelius, tačiau pranešimai apie įtartinas operacijas (STR/SAR) yra sprendimas, turintis teisines pasekmes ir priimamas įgalioto atitikties pareigūno sprendimu. Modelio išvestis yra preliminarus ir juodraštis; Audito seka ir pagrindimas turi būti išsaugoti.

9. Sankcijų sąrašo / PEP (politiškai veikiamo asmens) patikrinime dirbtinis intelektas atitinka pavadinimą, tačiau tai gali būti klaidinga atitiktis. Koks yra teisingas požiūris?

• A) Atitiktis turi būti patvirtinta papildomais identifikatoriais (gimimo data, pilietybė); Sprendimą turi priimti atitikties pareigūnas ✔
• B) Pakanka pavadinimo panašumo, klientas nedelsiant paskelbiamas sankcionuotu
• C) Visos atitiktys laikomos klaidingomis ir ignoruojamos
• D) Sprendimas paliekamas pokalbių robotui

Paaiškinimas: Vardų nuskaitymas gali duoti klaidingų teigiamų rezultatų dėl panašių pavadinimų. Atitikties pareigūnas turi patvirtinti atitiktį nurodydamas gimimo datą, pilietybę ir kitus identifikatorius; Klaidingai paskelbus klientui, kad jam skirta sankcija, arba praleidus realias rungtynes, kyla rimtų pasekmių. Sprendimas priklauso žmogui.

10. Jūs parengėte valdymo ataskaitos projektą su dirbtiniu intelektu; Ataskaitoje pateikiami ketvirčio pelno duomenys. Koks yra svarbiausias žingsnis prieš pasirašant?

• A) Visi ataskaitoje esantys kritiniai skaičiai turėtų būti iš naujo patvirtinti pagal šaltinio duomenis; Galutinė parašo atsakomybė tenka žmogui ✔
• B) Dirbtinis intelektas pateikia skaičius be klaidų, tikrinimas yra laiko švaistymas
• C) Pažymimas tik formatas, kad ataskaita atrodytų gražiau.
• D) Ataskaita siunčiama tiesiai aukštesnei vadovybei, kontrolė atliekama vėliau

Paaiškinimas: dirbtinis intelektas gali klaidingai pateikti skaitines reikšmes, jas sudaryti arba apibendrinti nesuderinamas su šaltinio duomenimis. Prieš pasirašant ataskaitą, visi kritiniai skaičiai turi būti iš naujo patikrinti pagal šaltinio duomenis; Nors automatika užtikrina greitį, galutinė parašo atsakomybė tenka žmogui.

11. Dirbtinis intelektas analizuoja įmonės finansines ataskaitas ir sako „įmonė labai solidi, paskolą būtinai reikia duoti“. Kokia finansų analitiko atsakomybė?

• A) Priimti tekstą tokį, koks jis yra, nes dirbtinis intelektas finansus išmano be klaidų
• B) Santykių perskaičiavimas iš šaltinių lentelių ir prielaidų kvestionavimas; Priimti galutinį sprendimą kaip žmogus, konstatuoti neapibrėžtumą ✔
• C) sprendimo pristatymas tiesiogiai komitetui kaip „AI patvirtintas“
• D) Paskolos atmetimas visai neperskaičius analizės

Paaiškinimas: Finansinė analizė priklauso nuo prielaidų ir įvesties tikslumo; AI gali klaidingai apskaičiuoti tarifus, nepaisyti trūkstamų duomenų arba naudoti pernelyg tikslią kalbą. Analitikas turi perskaičiuoti normas iš šaltinių lentelių, suabejoti prielaidomis ir žmogiškai priimti galutinį sprendimą dėl kredito, remdamasis neapibrėžtumu.

12. Nors kredito modelyje negali būti tiesiogiai naudojamas saugomas požymis, pvz., lytis ar etninė priklausomybė, jis gali netiesiogiai jas atspindėti per pašto kodą ir apsipirkimo duomenis. Kaip ši situacija vadinama ir kodėl ji rizikinga?

• A) Tai vadinama permokymu ir tik sumažins tikslumą
• B) Tai vadinama duomenų nutekėjimu ir yra tik greičio problema
• C) Tai vadinama netiesiogine diskriminacija per tarpinį kintamąjį; yra neteisėtas ir turi būti patikrintas sąžiningumo testais ✔
• D) Tai vadinama normalizavimu ir yra visiškai nekenksminga

Paaiškinimas: Kintamieji, kurie yra stipriai susieti su saugoma nuosavybe, vadinami tarpiniais kintamaisiais. Net jei modelis tiesiogiai nenaudoja apsaugotos funkcijos, jis gali netiesiogiai diskriminuoti per tarpinius serverius. Tai ir neteisėta, ir neetiška; Modeliai turėtų būti išbandomi naudojant sąžiningumo metriką, o tarpinė rizika turėtų būti kontroliuojama.

13. Priimdamas kredito sprendimus bankas taiko dirbtinio intelekto modelį. Koks yra vienas iš pagrindinių reikalavimų teisės aktų ir audito atžvilgiu?

• A) Kuo modelis sudėtingesnis ir nesuprantamas, tuo jis saugesnis
• B) Apskaitos tvarkymas nereikalingas, sprendimus galima paaiškinti žodžiu
• C) Kliento teisė prieštarauti turėtų būti panaikinta, nes tai lėtina procesą
• D) Modelis turi būti paaiškinamas, sprendimo pagrindimas ir audito seka turi būti išsaugoti, klientui turi būti suteikta teisė prieštarauti/žmogaus peržiūrą ✔

Paaiškinimas: Reguliuojamų sprendimų priėmimo procesuose modelis turi būti paaiškinamas, sprendimo pagrindimas turi būti dokumentuotas, turi būti saugomas įrašas (audito seka), o klientui turi būti suteikta teisė prieštarauti / prašyti žmogaus peržiūros. Nepagrįstas sprendimas dėl „juodosios dėžės“ modelio negali būti audituojamas ir neatitinka teisės aktų.

14. Kaip visame modulyje akcentuojamas pagrindinis principas apibūdina dirbtinio intelekto vaidmenį bankininkystėje?

• A) Dirbtinis intelektas gali pakeisti patyrusius bankininkus ir pats užbaigti paskolas bei pranešimus
• B) Dirbtinis intelektas naudojamas tik rinkodarai, o ne sprendimų priėmimui
• C) Dirbtinio intelekto produkcija yra saugi net ir be patikrinimo, nes ji pagrįsta statistika
• D) Dirbtinis intelektas yra asistentas ir traukos generatorius; Kredito paskirstymas, sukčiavimo / atitikties sprendimas ir galutinis sprendimas priklauso įgaliotam asmeniui ✔

Aprašymas: AI pagreitina pasikartojančias užduotis kaip asistentas, išankstinis patikrinimas ir juodraščių generatorius; Tačiau kadangi dirbame reguliuojamoje, pasitikėjimui svarbioje srityje, galutinis sprendimas dėl kredito paskirstymo, sukčiavimo/atitikties užtikrinimo ir kliento yra įgalioto asmens (įgaliotojo bankininko ir sprendimų komiteto) atsakomybė. Nepatvirtinta išvestis yra nepasirašytas sprendimo projektas.