Kompleksowy przepływ pracy, zarządzanie modelami i samokontrola — Sztuczna inteligencja w bankowości

Zyski:

Możliwość bezpiecznej obsługi zadania bankowego od początku do końca w cyklu „AI produkuje → ekspert weryfikuje → autoryzowany decyduje”
Możliwość bezpiecznego osadzania sztucznej inteligencji w ramach zarządzania modelami, walidacji, monitorowania i ciągłego doskonalenia
Możliwość wzięcia ostatecznej odpowiedzialności poprzez samokontrolę swoich wyników za pomocą pięciu kluczowych pytań (uwierzytelnienie, źródło, poufność, uczciwość, zatwierdzenie)

W całym tym module pozycjonujemy sztuczną inteligencję jako asystenta i generatora planów w każdym zakątku bankowości – w zakresie kredytów, oszustw, segmentacji, obsługi klienta, zgodności, raportowania i analiz finansowych. W tej ostatniej części łączymy elementy w całość: jak przeprowadzić zadanie bankowe od początku do końca w bezpiecznej pętli, w jaki sposób zarządzanie modelem tworzy tę pętlę i za pomocą jakich pięciu pytań dokonujesz samokontroli każdego wyniku? Celem jest przekształcenie tego, czego się nauczyłeś, w jeden odruch: sztuczna inteligencja produkuje → ekspert weryfikuje → ekspert decyduje. Cykl ten jest sposobem na jednoczesne utrzymanie szybkości i bezpieczeństwa.

Pętla od końca do końca: trzy pierścienie

Pomyśl o każdym zadaniu bankowym jak o łańcuchu składającym się z trzech ogniw:

AI tworzy (zespół roboczy): Anonimowo, przy minimalnej ilości danych, AI otrzymuje zadanie wersji roboczej/weryfikacji — podsumowanie, uzasadnienie wersji roboczej, alert, wersję roboczą rachunku. Nie ma tu żadnej decyzji, jest tylko materiał.
Ekspert weryfikuje (pierścień filtra): Wyniki są powiązane ze źródłem, liczby są przeliczane, filtrowane przez politykę/przepisy i uczciwość. Eliminowane są tutaj halucynacje, dyskryminacja i naruszenie prywatności.
Władze podejmują decyzję (pierścień podpisów): Ostateczna ocena – kredyt, STR, decyzja w sprawie oszustwa, podpis raportu – jest podejmowana przez upoważnioną osobę/komitet; Rejestruje się uzasadnienie i ścieżkę audytu.

Zadanie

AI produkuje

Ekspert potwierdza

kompetentna decyzja

kredyt

Projekt uzasadnienia

Stosunek/źródło/uczciwość

Decyzja o przydziale

oszustwo

Ostrzeżenie o anomalii

Kontekst/potwierdzenie klienta

Orzeczenie blokowe/swobodne

AML

Wzór/dopasowanie

Kontrola niezgodności

Decyzja STR

Raport

Wersja robocza tekstu/numeru

Weryfikacja numeryczna

podpis

Analiza

Oceń/skomentuj wersję roboczą

Przeliczenie/założenie

Opinia inwestycyjna/kredytowa

Wskazówka: Najczęściej pomijanym ogniwem w pętli jest środkowa „weryfikacja”. Pod presją ludzie przeskakują od projektu do decyzji. Jednak to właśnie ten środkowy pierścień określa zarówno wartość, jak i ryzyko. Pominięcie weryfikacji przerywa cykl.

Zarządzanie modelem: system tworzący pętlę

Oprócz poszczególnych zadań bank musi zarządzać swoimi modelami jako całością. Zarządzanie modelem składa się z następujących elementów:

Walidacja: Model jest niezależnie testowany przed oddaniem do użytku; Mierzona jest jego dokładność, sprawiedliwość i granice.
Monitorowanie: Model może z czasem ulec pogorszeniu (dryft danych – wydajność spada, gdy zmienia się rozkład danych wejściowych). Jest to stale monitorowane.
Dokumentacja: dokumentowane jest to, co robi model, z jakich danych jest szkolony, jego ograniczenia i osoby odpowiedzialne.
Rola i odpowiedzialność: Kto produkuje, kto weryfikuje, kto decyduje, jest jasno określone.
Przegląd i doskonalenie: Rejestrowane są błędy, model jest okresowo poddawany ponownej ocenie.

Uwaga: model, który działa dobrze, nie będzie działał dobrze wiecznie. Zmieniają się warunki ekonomiczne, zachowania klientów i taktyki oszustw; Jeżeli model nie nadąża za nimi, zaczyna po cichu fałszować. Bez monitorowania degradacja ta pozostaje niezauważona.

Samokontrola składająca się z pięciu pytań

Przed użyciem każdego wyjścia AI zadaj sobie pięć pytań:

Weryfikacja: Czy podłączyłem to wyjście do źródła i przeliczyłem wartości krytyczne?
Źródło: Czy każde twierdzenie opiera się na prawdziwym dokumencie/danych/regule, czy też może zostać sfabrykowane?
Prywatność: Czy dane dotyczące tożsamości są anonimizowane, stosowane są minimalne dane i zatwierdzone narzędzia?
Uczciwość: czy wynik zawiera dyskryminację ze względu na chronioną własność lub zmienną zastępczą?
Zatwierdzenie: Czy ostateczna decyzja podjęta przez osobę upoważnioną, uzasadnienie i ścieżka audytu zostały zapisane?

Jeśli chociaż jedna z pięciu opcji brzmi „nie”, dane wyjściowe nie są gotowe do użycia.

Cztery szablony do kopiowania

1) Kompleksowy plan misji:

Twoja rola: asystent, który pomaga mi zaplanować zadanie bankowe w bezpiecznej pętli.Zadanie: [zadanie]. Podaj mi te trzy pierścienie: (1) jaki projekt opracuje sztuczna inteligencja, (2) jakie kroki weryfikacyjne wykona ekspert, (3) jaką decyzję podejmie i zapisze urzędnik? Proponowanie decyzji; Pojawi się szkielet procesu.

2) Wniosek o samokontrolę z pięcioma pytaniami:

Sprawdź następujące wyniki AI za pomocą pięciu pytań: weryfikacja, pochodzenie, prywatność, uczciwość, zatwierdzenie. Przy każdym pytaniu oceń „ok / niekompletne / ryzykowne” i napisz, jak naprawić braki. Wynik: [tekst]

3) Uwaga dotycząca kontroli śledzenia modelu:

Twoja rola: asystent zarządzania modelem. W przypadku stosowanego przez nas modelu wspomagania decyzji zamień wskaźniki, które należy regularnie monitorować (wydajność, uczciwość międzygrupowa, sygnały dryfu danych, zapisy błędów) w listę kontrolną. Podejmowanie decyzji; Zaproponuj ramy monitorowania.

4) Zamknięcie sprawy i ścieżka audytu:

Na koniec zlecenia sporządź notatkę końcową ścieżki audytu: jaki projekt został sporządzony, jakie weryfikacje zostały przeprowadzone, jaką decyzję podjął kto i z jakim uzasadnieniem. Korzystaj wyłącznie ze zweryfikowanych informacji, które podaję. Dane wejściowe: [informacje]

Słaba zachęta/silna zachęta

Słaba zachęta:

Zajmujesz się tym zadaniem od początku do końca i podajesz mi wynik jako gotową decyzję, więc nie będę zawracał sobie głowy szczegółami.

Redukuje trzy pierścienie do jednego kroku, omija weryfikację i ludzki osąd oraz przesłania odpowiedzialność.

Potężny monit:

Twoja rola: asystent procesu, a nie decydent. Najpierw przygotuj zarys zadania, następnie wypisz punkty, które muszę zweryfikować, a na koniec przypomnij mi, że decyzja i ścieżka audytu należą do mnie. Dodaj pięć pytań samokontroli (uwierzytelnienie, źródło, poufność, uczciwość, zatwierdzenie) do wyników.

Silna wola chroni trzy pierścienie, wymaga weryfikacji i pozostawia decyzję osobie.

trzy mini etui

Przypadek 1 — Cykl przebiega w pełni. We wniosku kredytowym AI sporządza projekt uzasadnienia (pierścień 1); ekspert przelicza stawki, sprawdza zasadność uczciwości, kasuje zastępcze wyrażenie zmiennej (pierścień 2); urzędnik podejmuje decyzję o przydziale i rejestruje ścieżkę audytu (pierścień 3). W ciągu 20 minut zapadnie bezpieczna i możliwa do obrony decyzja.

Przypadek 2 – Monitoring wychwytuje degradację. Chociaż schemat oszustwa sprawdza się przez wiele miesięcy, wskaźnik wychwytywania cicho spada z powodu nowej taktyki oszustwa. Monitoring w ramach zarządzania modelowego zauważa ten spadek; Model jest aktualizowany. Bez monitorowania straty będą nadal rosły.

Przypadek 3 — Samokontrola zapobiega naruszeniom. Analityk ma zamiar bezpośrednio wysłać wyniki AI w celu szybkiego raportu. Zadaje pięć pytań: zauważa, że w pytaniu „źródło” nie jest potwierdzona wielkość zysku. Sterowanie ze źródła; numer jest błędny. Trzydzieści sekund samokontroli zapobiega wysłaniu fałszywego obrazu do kierownictwa.

Jasność ról: kto produkuje, kto weryfikuje, kto decyduje

Cykl trzech pierścieni jest bezpieczny tylko wtedy, gdy role są jasne. Najczęstszym błędem jest zamazany obszar, w którym „wszyscy są odpowiedzialni, ale nikt nie jest odpowiedzialny”: projekt został opracowany przez sztuczną inteligencję, nikt go w pełni nie zweryfikował, a decyzja pozostała bez rozpatrzenia, ponieważ „opuściła system”. W tę lukę najłatwiej wkradają się błędy.

W zdrowej fikcji każdy pierścień ma właściciela:

Generator (asystent + użytkownik): Anonimowy, osoba zamawiająca wersję roboczą i przygotowująca wpis z minimalną ilością danych.
Weryfikator (ekspert): Osoba, która łączy wynik ze źródłem, ponownie oblicza liczby i filtruje je pod kątem uczciwości i poufności. Ta rola nigdy nie jest pomijana.
Decydent (organ/komitet): Organ, który podejmuje ostateczną decyzję i podpisuje uzasadnienie i ścieżkę audytu.

Czasami ta sama osoba pełni wiele ról; Nie stanowi to problemu, o ile upewnisz się, że każde łącze jest tworzone świadomie i nagrywane. Problem w tym, że pierścień pozostawia się pusty, wychodząc z założenia, że „ktoś musiał to zrobić”.

Wskazówka: po podjęciu decyzji zadaj sobie pytanie: „Kto jest jedynym właścicielem tej decyzji?” zapytać. Jeśli odpowiedź nie jest jasna, oznacza to, że łańcuch odpowiedzialności został przerwany; Uruchom ponownie pętlę.

Typowe błędy

Omijanie środkowego pierścienia. Przejście bezpośrednio od projektu do decyzji z pominięciem weryfikacji.
Przerzucanie odpowiedzialności na model. Mówienie „AI sobie z tym poradzi” i nie posiadanie ostatecznej decyzji i podpisu.
Myśląc o ustawieniu modelu i zapomnieniu o nim. Pozostawienie modelu, który działał dobrze, gdy przestał być obserwowany; nie widać dryfu danych.
Nie pozostawianie śladu audytu. Nie rejestrujemy, kto podjął jaką decyzję i dlaczego.
Omijanie samokontroli. Korzystanie z wyników bez zadawania pięciu pytań.

Wskazówka: spraw, aby samokontrola składająca się z pięciu pytań stała się Twoim nawykiem; Z czasem staje się to automatyczne i zajmuje kilka sekund. Wiele z największych błędów ma miejsce, gdy brakuje tych kilku sekund kontroli.

Podsumowując

Zastosowanie bezpiecznej sztucznej inteligencji w bankowości składa się z trzech pierścieni: AI produkuje, ekspert weryfikuje, władza podejmuje decyzje. Zarządzanie modelami (walidacja, monitorowanie, dokumentacja, odpowiedzialność, doskonalenie) stanowi ramy tego cyklu. Samodzielnie sprawdź każdy wynik za pomocą pięciu pytań — uwierzytelnienie, źródło, poufność, uczciwość, zatwierdzenie; Jeśli brakuje choćby jednego, dane wyjściowe nie są gotowe. Model może się zepsuć; monitorowanie jest niezbędne. Odpowiedzialność zawsze spoczywa na osobie. Jednym zdaniem: Sztuczna inteligencja to pierwsze ogniwo cyklu; weryfikacja i ostateczna decyzja to pierścionki kompetentnego człowieka, który może zdać sprawę.

Zadanie aplikacji

Wybierz zadanie z własnej firmy i utwórz kompleksowy plan składający się z trzech elementów, korzystając z szablonu 1: co wyprodukuje sztuczna inteligencja, co zweryfikuje ekspert, co odnotuje organ i podejmie decyzję. Następnie napisz przykładowy wynik AI dla tego zadania, zastosuj samokontrolę składającą się z pięciu pytań za pomocą drugiego szablonu i popraw braki. Na koniec utwórz listę kontrolną monitorowania za pomocą szablonu 3 dla używanego narzędzia wspomagania decyzji.

lista kontrolna

[ ] Ułożyłem zadanie w pętlę składającą się z trzech pierścieni (generowanie/weryfikacja/decyzja).
[ ] Nie pominąłem środkowego linku (weryfikacja); Sprawdziłem źródło i liczby.
[ ] Zadałem pięć pytań dotyczących samokontroli; Gdyby czegoś brakowało, poszłabym.
[ ] Przeszedłem przez filtry prywatności i uczciwości.
[ ] Wziąłem pod uwagę ryzyko śledzenia modelu i korupcji.
[ ] Wziąłem na siebie odpowiedzialność, rejestrując ostateczną decyzję, jej uzasadnienie i ścieżkę audytu.

Egzamin modułowy

1. Ekspert kredytowy bez sprawdzania przekazuje klientowi powód odrzucenia kredytu wygenerowany przez sztuczną inteligencję. Jaki jest zasadniczy błąd w tym podejściu?

A) Wyniki sztucznej inteligencji nie mogą być wykorzystywane bez weryfikacji; Projekt uzasadnienia decyzji musi zostać rozpatrzony i zatwierdzony przez uprawnionego eksperta ✔
B) Sztuczna inteligencja zawsze podaje uzasadnienie pożyczki jako negatywne
C) Zamiast przyczyny należy podać klientowi jedynie wynik
D) Uzasadnienie powinno zostać przekazane Klientowi telefonicznie, a nie e-mailem.

Wyjaśnienie: Chociaż sztuczna inteligencja może stworzyć spójne uzasadnienie, może również stworzyć błędne, a nawet dyskryminujące uzasadnienie z taką samą pewnością, w oparciu o błędne dane lub błędne założenia. Bankowość jest obszarem regulowanym i krytycznym dla zaufania; Każdy wynik musi zostać zweryfikowany przez eksperta, a decyzja o przyznaniu kredytu i ostateczne uzasadnienie muszą należeć do osoby upoważnionej.

2. Jakie jest najlepsze zachowanie pod względem poufności (KVKK i tajemnica klienta) podczas przenoszenia transakcji z rachunku bankowego klienta do narzędzia sztucznej inteligencji?

A) Należy przesłać pełne imię i nazwisko klienta oraz wyciąg z konta, tak jak w przypadku szybkości.
B) Usuwając dane osobowe i anonimizując dane, należy udostępniać jedynie niezbędne informacje w zatwierdzonym, bezpiecznym narzędziu ✔
C) Jeśli dane są zaszyfrowane, imię i nazwisko oraz numer konta można również przesłać do dowolnego pojazdu
D) Ponieważ cel jest dobry, cały zapis można udostępnić bez pytania klienta

Wyjaśnienie: Dane finansowe klientów stanowią w rozumieniu prawa bankowego zarówno dane osobowe, jak i tajemnicę klienta. Informacje identyfikacyjne, takie jak imię i nazwisko, TR ID, numer konta, powinny zostać usunięte, a dane zanonimizowane; Należy udostępniać minimum danych wymaganych do wykonania zadania i korzystać wyłącznie z bezpiecznych narzędzi zatwierdzonych przez instytucję.

3. Sztuczna inteligencja uzasadnia decyzję w oparciu o model scoringu kredytowego, np. „odrzucenie ze względu na ryzykowną okolicę, w której mieszka wnioskodawca”. Co powinien zrobić ekspert?

A) Uzasadnienie stosuje się w niezmienionej postaci, ponieważ model opiera się na statystykach
B) Informacje o dystrykcie są dalej ważone, a decyzja zostaje wzmocniona.
C) Może to być dyskryminacja pośrednia poprzez zmienną zastępczą; Uzasadnienie należy odrzucić, a decyzja musi opierać się na uzasadnionych i możliwych do wyjaśnienia kryteriach ✔
D) Powód nie jest przekazywany klientowi, jest on po prostu przechowywany w aktach i nie będzie problemu.

Wyjaśnienie: Dzielnica zamieszkania może być zmienną zastępczą silnie powiązaną z pochodzeniem etnicznym lub podobnymi chronionymi cechami, powodując pośrednią dyskryminację. Tego typu uzasadnienie jest niedopuszczalne z prawnego i etycznego punktu widzenia; Decyzja musi opierać się na uzasadnionych, możliwych do wyjaśnienia i niedyskryminujących kryteriach, a uzasadnienie to należy odrzucić.

4. W systemie wykrywania oszustw sztuczna inteligencja oznacza transakcję jako „wysokiego ryzyka”. Jakie jest najlepsze podejście?

A) Ostrzeżenie jest sygnałem poprzedzającym kontrolę; Prawdziwe oszustwo i fałszywy alarm należy rozróżnić w drodze ekspertyzy, a ostateczna ocena powinna zostać wydana w sposób humanitarny ✔
B) Transakcja zostaje automatycznie i trwale zablokowana, przegląd nie jest konieczny
C) Ostrzeżenie jest ignorowane, ponieważ większość ostrzeżeń jest fałszywa
D) Klient zostaje wezwany i bezpośrednio obwiniony

Wyjaśnienie: Ostrzeżenie AI jest wstępnym sygnałem przesiewowym i sygnałem prawdopodobieństwa, a nie ostatecznym werdyktem. Do eksperta należy rozróżnienie pomiędzy prawdziwym oszustwem a fałszywymi alarmami, zbadanie sprawy bez wiktymizacji klienta i podjęcie ostatecznej decyzji. Ostrzeżenie nie powinno automatycznie blokować konta na stałe.

5. Jaki jest koszt dużej liczby fałszywych alarmów w wykrywaniu oszustw?

A) Fałszywy alarm nic nie kosztuje, im więcej ostrzeżeń, tym lepiej
B) Powoduje niepokój klienta i zmęczenie alarmem; Zwiększa ryzyko niezauważenia prawdziwego oszustwa ✔
C) Zwiększa jedynie zużycie energii elektrycznej przez system
D) Fałszywie dodatni wynik występuje tylko w transakcjach nocnych

Wyjaśnienie: Fałszywe alarmy powodują niedogodności i niezadowolenie, niepotrzebnie utrudniając transakcje legalnym klientom; Powoduje to również zmęczenie analityków, zwiększając ryzyko przeoczenia prawdziwego oszustwa. Dlatego też progi i zasady powinny być zrównoważone, a ostrzeżenia powinny być traktowane priorytetowo.

6. Jaka jest najbardziej etyczna granica przy projektowaniu segmentacji klientów i kampanii spersonalizowanych?

A) Im węższe segmenty, tym lepiej, nie ma innych ograniczeń
B) Personalizacja jest jedynie kwestią techniczną, nie wymaga granic etycznych
C) Należy chronić kwalifikowalność, zgodę i niedyskryminację; Należy zapobiegać wyzyskowi i manipulacji bezbronnego klienta ✔
D) Jeśli kampania zostanie skierowana do wszystkich jednakowo, nie będzie żadnych problemów etycznych.

Wyjaśnienie: Chociaż segmentację można wykorzystać na korzyść klienta (rekomendacja odpowiedniego produktu), można ją również wykorzystać do wykorzystania luk w zabezpieczeniach (takich jak marketing dodatkowego kredytu nadmiernie zadłużonemu klientowi). Należy chronić zasady przydatności, zgody i niedyskryminacji; personalizacja nie powinna przeradzać się w manipulację.

7. Jaka jest najlepsza polityka bezpieczeństwa dla chatbota obsługi klienta?

A) Chatbot powinien mieć możliwość samodzielnego zawierania wszelkiego rodzaju transakcji i doradztwa finansowego
B) Przyspiesza rutynowe informacje; Reklamacje, wrażliwe porady i autoryzowane transakcje należy zlecać ludziom, nie należy przekazywać informacji niezweryfikowanych ✔
C) Chatbot może udostępniać wszystkie informacje o koncie bez weryfikacji tożsamości klienta
D) Należy usunąć opcję przekazywania przez człowieka, ponieważ spowalnia ona chatbota.

Opis: Chatbot bezpiecznie przyspiesza często zadawane informacje i rutynowe transakcje, ale reklamacje, wrażliwe porady finansowe, autoryzowane transakcje na koncie i sytuacje niejednoznaczne należy delegować upoważnionemu pracownikowi. Dodatkowo chatbot nie powinien ujawniać tajemnic klientów ani podawać niezweryfikowanych informacji.

8. W procesach AML/KYC sztuczna inteligencja oznacza transakcję jako podejrzaną. Jakie jest właściwe podejście w zakresie raportowania podejrzanych transakcji (STR)?

A) Jeżeli model został oznaczony, powiadomienie powinno nastąpić automatycznie, inspektor ds. zgodności nie jest potrzebny
B) Ostrzeżenie zostało zignorowane, ponieważ większość transakcji jest legalna
C) Transakcja jest natychmiast zgłaszana klientowi, gdyż „istnieje podejrzenie prania pieniędzy”
D) Efektem modelu jest wstępny przegląd i projekt; Decyzję STR podejmuje upoważniony inspektor ds. zgodności, zachowując uzasadnienie i ścieżkę audytu ✔

Opis: Monitorowanie i skanowanie transakcji za pomocą sztucznej inteligencji szybko wykrywa potencjalnie podejrzane wzorce, ale zgłaszanie podejrzanych transakcji (STR/SAR) to decyzja mająca konsekwencje prawne i podejmowana na podstawie oceny upoważnionego specjalisty ds. zgodności. Wynik modelu ma charakter wstępny i roboczy; Należy zachować ścieżkę audytu i uzasadnienie.

9. Podczas sprawdzania listy osób objętych sankcjami/PEP (osoby na eksponowanym stanowisku politycznym) sztuczna inteligencja dopasowuje nazwisko, ale może to być fałszywe dopasowanie. Jakie jest właściwe podejście?

A) Dopasowanie należy potwierdzić dodatkowymi identyfikatorami (data urodzenia, narodowość); Decyzję musi podjąć specjalista ds. zgodności ✔
B) Podobieństwo nazw jest wystarczające, klient zostaje natychmiast uznany za ukaranego
C) Wszystkie dopasowania są uznawane za fałszywe i ignorowane
D) Decyzję pozostawiamy chatbotowi

Wyjaśnienie: Skanowanie nazw może dawać fałszywe wyniki z powodu podobnych nazw. Specjalista ds. zgodności musi potwierdzić zgodność, podając datę urodzenia, narodowość i inne identyfikatory; Błędne stwierdzenie, że klient został ukarany lub opuszczenie prawdziwego meczu, ma poważne konsekwencje. Decyzja należy do człowieka.

10. Przygotowałeś projekt sprawozdania z zarządzania za pomocą sztucznej inteligencji; Raport zawiera kwartalne dane dotyczące zysków. Jaki jest najważniejszy krok przed podpisaniem umowy?

A) Wszystkie krytyczne liczby w raporcie należy ponownie zweryfikować w oparciu o dane źródłowe; Ostateczna odpowiedzialność za podpis spoczywa na człowieku ✔
B) Sztuczna inteligencja podaje liczby bez błędów, weryfikacja to strata czasu
C) Sprawdzany jest tylko format, aby raport wyglądał piękniej.
D) Raport przesyłany jest bezpośrednio do wyższej kadry kierowniczej, kontrola przeprowadzana jest później

Wyjaśnienie: Sztuczna inteligencja może fałszywie przedstawiać wartości liczbowe, zmyślać je lub podsumowywać niezgodnie z danymi źródłowymi. Wszystkie krytyczne liczby należy ponownie zweryfikować z danymi źródłowymi przed podpisaniem raportu; Chociaż automatyzacja zapewnia szybkość, ostateczna odpowiedzialność za podpis spoczywa na człowieku.

11. Sztuczna inteligencja analizuje sprawozdanie finansowe firmy i stwierdza, że „firma jest bardzo solidna, zdecydowanie należy udzielić pożyczki”. Jaka jest odpowiedzialność analityka finansowego?

A) Przyjęcie tekstu takim, jaki jest, bo sztuczna inteligencja zna finanse bez błędów
B) Przeliczenie wskaźników z tabel źródłowych i kwestionowanie założeń; Podejmowanie ostatecznej decyzji jako człowiek, stwierdzając niepewność ✔
C) Przedstawienie decyzji bezpośrednio komisji jako „zatwierdzonej przez sztuczną inteligencję”
D) Odrzucenie pożyczki bez zapoznania się w ogóle z analizą

Wyjaśnienie: Analiza finansowa zależy od założeń i dokładności danych wejściowych; Sztuczna inteligencja może błędnie obliczyć stawki, zignorować brakujące dane lub używać zbyt precyzyjnego języka. Analityk musi przeliczyć stopy z tabel źródłowych, zakwestionować założenia i podjąć ostateczną decyzję kredytową po ludzku, powołując się na niepewność.

12. Chociaż model kredytowy może nie wykorzystywać bezpośrednio chronionych cech, takich jak płeć czy pochodzenie etniczne, może pośrednio odzwierciedlać je poprzez kod pocztowy i dane dotyczące zakupów. Jak nazywa się taka sytuacja i dlaczego jest ryzykowna?

A) Nazywa się to nadmiernym uczeniem się i powoduje jedynie zmniejszenie dokładności
B) Nazywa się to wyciekiem danych i jest po prostu problemem szybkości
C) Nazywa się to dyskryminacją pośrednią poprzez zmienną zastępczą; jest niezgodne z prawem i należy je sprawdzić w drodze testów rzetelności ✔
D) Nazywa się to normalizacją i jest całkowicie nieszkodliwe

Objaśnienie: Zmienne silnie powiązane z chronioną właściwością nazywane są zmiennymi zastępczymi. Nawet jeśli model nie korzysta bezpośrednio z chronionej funkcji, może dyskryminować pośrednio poprzez proxy. Jest to zarówno nielegalne, jak i nieetyczne; Modele należy testować pod kątem miar rzetelności, a ryzyko zastępcze powinno być kontrolowane.

13. Bank wykorzystuje model sztucznej inteligencji w decyzjach kredytowych. Jaki jest jeden z najbardziej podstawowych wymogów w zakresie prawodawstwa i możliwości kontroli?

A) Im bardziej skomplikowany i niezrozumiały jest model, tym jest bezpieczniejszy
B) Prowadzenie dokumentacji nie jest konieczne, decyzje można wyjaśnić ustnie
C) Należy odebrać klientowi prawo do sprzeciwu, gdyż spowalnia to proces
D) Model powinien być łatwy do wyjaśnienia, należy zachować uzasadnienie decyzji i ścieżkę audytu, klient powinien mieć prawo do sprzeciwu/weryfikacji przez człowieka ✔

Wyjaśnienie: W regulowanych procesach decyzyjnych model musi być łatwy do wyjaśnienia, uzasadnienie decyzji musi być udokumentowane, należy prowadzić zapis (ścieżkę audytu), a klient musi mieć prawo do sprzeciwu/żądania przeglądu przez człowieka. Nieuzasadniona decyzja oparta na modelu „czarnej skrzynki” nie podlega kontroli i jest niezgodna z przepisami.

14. Jak kluczowa zasada podkreślana w całym module opisuje rolę sztucznej inteligencji w bankowości?

A) Sztuczna inteligencja może zastąpić doświadczonych bankierów i samodzielnie finalizować pożyczki i powiadomienia
B) Sztuczna inteligencja wykorzystywana jest wyłącznie do celów marketingowych, a nie do podejmowania decyzji
C) Wyniki sztucznej inteligencji są bezpieczne nawet bez weryfikacji, ponieważ opierają się na statystykach
D) Sztuczna inteligencja jest asystentem i generatorem ciągu; Przydział kredytu, ocena oszustwa/zgodności i ostateczna decyzja należą do osoby upoważnionej ✔

Opis: AI przyspiesza powtarzalne zadania jako asystent, selekcjoner wstępny i generator wersji roboczej; Ponieważ jednak pracujemy w regulowanym obszarze, w którym zaufanie jest krytyczne, ostateczną decyzję dotyczącą alokacji kredytu, zapewnienia zgodności z przepisami i oszustw podejmuje osoba upoważniona (upoważniony bankier i komitet decyzyjny). Niezweryfikowany wynik jest niepodpisanym projektem decyzji.