End-to-end workflow, modelbeheer en zelfaudit — Kunstmatige intelligentie in het bankwezen

Winst:

Mogelijkheid om een banktaak veilig end-to-end uit te voeren met de cyclus 'AI produceert → expert verifieert → geautoriseerd besluit'
Vermogen om kunstmatige intelligentie veilig te verankeren binnen het kader van modelbeheer, validatie, monitoring en continue verbetering
Mogelijkheid om de uiteindelijke verantwoordelijkheid te nemen door hun output zelf te controleren met vijf belangrijke vragen (authenticatie, bron, vertrouwelijkheid, eerlijkheid, goedkeuring)

Gedurende deze module positioneren we AI als een assistent en blauwdrukgenerator in elke hoek van het bankwezen: krediet, fraude, segmentatie, klantenservice, compliance, rapportage, financiële analyse. In dit laatste onderdeel hebben we de stukken samengevoegd: hoe voer je een banktaak van begin tot eind uit in een veilige lus, hoe kadert het modelbestuur die lus, en met welke vijf vragen controleer je zelf elke output? Het doel is om wat je hebt geleerd in één reflex te destilleren: AI produceert → expert verifieert → expert beslist. Deze cyclus is de manier om tegelijkertijd snelheid en veiligheid te behouden.

End-to-end lus: drie ringen

Beschouw elke banktaak als een keten met drie schakels:

AI produceert (conceptring): Anoniem, met minimale gegevens krijgt de AI de concept-/controletaak: samenvatting, conceptmotivatie, waarschuwing, conceptaccount. Er is hier geen beslissing, alleen het materiaal.
Expert verifieert (filterring): Output wordt gekoppeld aan de bron, cijfers worden herberekend, gefilterd via beleid/wetgeving en eerlijkheid. Hallucinaties, discriminatie en inbreuk op de privacy worden hier geëlimineerd.
Autoriteit neemt beslissing (handtekeningring): Het definitieve oordeel – krediet, STR, fraudebeslissing, ondertekening rapport – wordt gedaan door een bevoegde persoon/commissie; De verantwoording en het audittraject worden vastgelegd.

Zoektocht

AI produceert

Deskundige bevestigt

bevoegde beslissing

krediet

Ontwerp van motivering

Verhouding/bron/eerlijkheid

Toewijzingsbesluit

fraude

Anomalie waarschuwing

Context/klantbevestiging

Blokkeer/vrije uitspraak

AML

Patroon/overeenkomst

Controle op mismatch

STR-besluit

Rapporteer

Tekst/nummer concept

Numerieke verificatie

handtekening

Analyse

Beoordeel/commentaarconcept

Herberekening/aanname

Investerings-/kredietadvies

Tip: De meest overgeslagen link in de lus is de middelste “verificatie”. Onder druk springen mensen van concept naar besluit. Het is echter precies die middelste ring die zowel de waarde als het risico bepaalt. Het overslaan van de verificatie doorbreekt de cyclus.

Modelgovernance: het systeem dat de lus omlijst

Naast individuele taken moet de bank haar modellen als geheel beheren. Modelgovernance bestaat uit de volgende componenten:

Validatie: Het model wordt onafhankelijk getest voordat het in gebruik wordt genomen; De nauwkeurigheid, rechtvaardigheid en grenzen ervan worden gemeten.
Monitoring: Het model kan in de loop van de tijd verslechteren (datadrift: de prestaties nemen af als de invoerverdeling verandert). Het wordt voortdurend gecontroleerd.
Documentatie: Wat het model doet, met welke gegevens het is getraind, de beperkingen ervan en wie verantwoordelijk is, zijn gedocumenteerd.
Rol en verantwoordelijkheid: Wie produceert, wie controleert, wie beslist, is duidelijk omschreven.
Review en verbetering: Fouten worden geregistreerd, het model wordt periodiek opnieuw geëvalueerd.

Let op: een model dat goed werkt, zal niet voor altijd goed werken. Economische omstandigheden, klantgedrag en fraudetactieken veranderen; Als het model deze niet kan bijhouden, begint het stilletjes te vervalsen. Zonder monitoring blijft deze degradatie onopgemerkt.

Zelfcontrole met vijf vragen

Stel uzelf deze vijf vragen voordat u elke AI-uitvoer gebruikt:

Verificatie: Heb ik deze uitgang op de bron aangesloten en de kritische cijfers opnieuw berekend?
Bron: Is elke claim gebaseerd op een echt document/gegevens/regel, of kan deze verzonnen zijn?
Privacy: Worden identiteitsgegevens geanonimiseerd, worden er minimale gegevens en goedgekeurde tools gebruikt?
Eerlijkheid: Bevat de output discriminatie op basis van beschermd eigendom of een surrogaatvariabele?
Goedkeuring: Is de uiteindelijke beslissing van de bevoegde persoon, de motivering en het audittraject vastgelegd?

Als zelfs maar één van de vijf 'nee' is, is de uitvoer niet klaar voor gebruik.

Vier kopieerbare sjablonen

1) End-to-end missieplan:

Jouw rol: assistent die mij helpt bij het plannen van een banktaak in de beveiligde lus. Taak: [taak]. Vul mij in met deze drie ringen: (1) welk ontwerp zal de AI produceren, (2) welke verificatiestappen zal de expert uitvoeren, (3) welke beslissing zal de ambtenaar nemen en vastleggen? Het voorstellen van een besluit; Het processkelet verschijnt.

2) Zelfcontroletoepassing met vijf vragen:

Controleer de volgende AI-uitvoer met vijf vragen: verificatie, herkomst, privacy, eerlijkheid, goedkeuring. Evalueer voor elke vraag "ok / onvolledig / riskant" en schrijf op hoe u de tekortkomingen kunt verhelpen. Uitvoer: [tekst]

3) Controlenota voor modeltracking:

Jouw rol: model governance assistent. Voor een beslissingsondersteunend model dat we gebruiken, moeten de indicatoren die regelmatig moeten worden gemonitord (prestaties, eerlijkheid tussen groepen, datadriftsignalen, foutregistraties) worden omgezet in een checklist. Besluitvorming; Stel een monitoringkader voor.

4) Afsluiting van zaken en audittraject:

Stel een slotnotitie op voor het audittraject aan het einde van een opdracht: welk concept is opgesteld, welke verificaties zijn uitgevoerd, welke beslissing door wie is genomen, met welke rechtvaardiging. Gebruik alleen geverifieerde informatie die ik verstrek.Invoer: [informatie]

Zwakke prompt/sterke prompt

Zwakke prompt:

Jij handelt deze taak van begin tot eind af en geeft mij het resultaat als een kant-en-klaar besluit, zodat ik me niet druk maak over de details.

Het reduceert drie ringen tot één enkele stap, omzeilt verificatie en menselijk oordeel en verhult de verantwoordelijkheid.

Krachtige prompt:

Jouw rol: procesbegeleider, geen beslisser. Maak eerst een schets voor de taak, som vervolgens de punten op die ik moet verifiëren, en herinner me er aan het eind aan dat de beslissing en het audittraject van mij zijn. Voeg vijf zelfcontrolevragen (authenticatie, bron, vertrouwelijkheid, eerlijkheid, goedkeuring) toe aan de uitvoer.

De sterke wil beschermt de drie ringen, vereist verificatie en laat de beslissing aan de persoon over.

drie minikoffers

Geval 1 — De cyclus loopt volledig door. Bij een leningaanvraag maakt AI een concept rechtvaardiging (ring 1); deskundige herberekent tarieven, controleert de rechtvaardiging op eerlijkheid, wist een surrogaatvariabele-uitdrukking (ring 2); de functionaris neemt het toewijzingsbesluit en legt de audit trail vast (ring 3). Binnen twintig minuten komt er een veilig en verdedigbaar besluit naar voren.

Geval 2 — Monitoring brengt degradatie in beeld. Hoewel een fraudepatroon maandenlang goed werkt, daalt het vangstpercentage stilletjes vanwege een nieuwe fraudetactiek. Monitoring onder modelgovernance merkt deze daling op; Het model is bijgewerkt. Zonder monitoring zouden de verliezen blijven groeien.

Geval 3 – Zelfbeheersing voorkomt overtreding. Een analist staat op het punt de AI-uitvoer rechtstreeks te verzenden voor een snel rapport. Hij past vijf vragen toe: het valt hem op dat een winstcijfer niet wordt bevestigd in de ‘bron’-vraag. Controles vanaf de bron; het nummer is verkeerd. Dertig seconden zelfcontrole voorkomt dat er een vals beeld naar het management wordt gestuurd.

Duidelijkheid van rollen: wie produceert, wie verifieert, wie beslist

De cyclus van drie ringen is alleen veilig als de rollen duidelijk zijn. De meest voorkomende fout is het vage gebied waar “iedereen verantwoordelijk is, maar niemand verantwoordelijk”: het ontwerp is opgesteld door de AI, niemand heeft het volledig geverifieerd en de beslissing bleef onbeheerd omdat het “het systeem verliet”. In deze kloof komen fouten het gemakkelijkst binnen.

In een gezonde fictie heeft elke ring een eigenaar:

Generator (assistent + gebruiker): Anoniem, persoon die het concept opvraagt en de inzending voorbereidt met minimale gegevens.
Verificateur (expert): Iemand die de output aan de bron koppelt, de cijfers herberekent en deze filtert op eerlijkheid en vertrouwelijkheid. Deze rol wordt nooit overgeslagen.
Beslisser (autoriteit/commissie): De autoriteit die de uiteindelijke beslissing neemt en de verantwoording en het audittraject ondertekent.

Soms vervult dezelfde persoon meerdere rollen; Dit is geen probleem, zolang je er maar voor zorgt dat elke link bewust wordt gemaakt en vastgelegd. Het probleem is dat een ring blanco wordt gelaten in de veronderstelling dat "iemand het gedaan moet hebben".

Tip: Nadat u een beslissing heeft genomen, vraagt u uzelf af: "Wie is de enige eigenaar van deze beslissing?" vragen. Als het antwoord geen duidelijke naam is, betekent dit dat de keten van verantwoordelijkheid is verbroken; Start de lus opnieuw.

Veel voorkomende fouten

De middelste ring overslaan. Direct van concept naar besluit gaan en verificatie overslaan.
De verantwoordelijkheid bij het model leggen. Zeggen "AI zal het afhandelen" en geen eigenaar zijn van de uiteindelijke beslissing en handtekening.
Denken aan het instellen van het model en het vergeten. Het model dat goed werkte, werd niet meer gevolgd; geen gegevensdrift zien.
Geen audit trail achterlaten. Niet vastleggen wie welke beslissing heeft genomen en waarom.
Het omzeilen van zelfbeheersing. De uitvoer gebruiken zonder de vijf vragen te stellen.

Tip: Maak van de zelfcontrole van vijf vragen een gewoonte; Het wordt na verloop van tijd automatisch en duurt seconden. Veel van de grootste fouten ontstaan wanneer deze paar seconden controle worden gemist.

Samengevat

Het gebruik van veilige kunstmatige intelligentie in het bankwezen is een cyclus van drie ringen: AI produceert, experts verifiëren, autoriteiten nemen beslissingen. Modelbeheer (validatie, monitoring, documentatie, verantwoording, verbetering) kadert deze cyclus. Controleer elke output zelf met vijf vragen: authenticatie, bron, vertrouwelijkheid, eerlijkheid, goedkeuring; Als er zelfs maar één ontbreekt, is de uitvoer niet gereed. Het model kan kapot gaan; monitoring is essentieel. De verantwoordelijkheid ligt altijd bij de persoon. In één zin: Kunstmatige intelligentie is de eerste schakel in de cyclus; verificatie en uiteindelijke beslissing zijn de ringen van de bevoegde man die verantwoording kan afleggen.

Applicatie taak

Kies een taak uit uw eigen bedrijf en maak een end-to-end plan met drie ringen met sjabloon 1: wat gaat de AI produceren, wat gaat de expert verifiëren, wat gaat de autoriteit vastleggen en beslissen. Schrijf vervolgens een voorbeeld van een AI-uitvoer voor die taak, pas de zelfcontrole van vijf vragen toe met het tweede sjabloon en corrigeer de tekortkomingen. Maak ten slotte een monitoringchecklist met sjabloon 3 voor een beslissingsondersteunend hulpmiddel dat u gebruikt.

controlelijst

[ ] Ik heb de taak gestructureerd in een lus met drie ringen (genereren / verifiëren / beslissen).
[ ] Ik heb de middelste link (verificatie) niet overgeslagen; Ik heb de bron en de cijfers gecontroleerd.
[ ] Ik heb vijf zelfcontrolevragen gesteld; Als er iets ontbrak, zou ik gaan.
[ ] Ik heb de privacy- en eerlijkheidsfilters doorstaan.
[ ] Ik heb rekening gehouden met het risico van modeltracking en corruptie.
[ ] Ik nam de verantwoordelijkheid op mij door de uiteindelijke beslissing, de rechtvaardiging ervan en het audittraject vast te leggen.

Module-examen

1. Een kredietexpert geeft de door kunstmatige intelligentie gegenereerde reden voor afwijzing van een lening door aan de klant zonder deze te controleren. Wat is de fundamentele fout in deze aanpak?

A) De output van kunstmatige intelligentie kan niet zonder verificatie worden gebruikt; De motivering van het ontwerpbesluit moet worden beoordeeld en goedgekeurd door de bevoegde deskundige ✔
B) Kunstmatige intelligentie geeft de rechtvaardiging van de lening altijd als negatief aan
C) Alleen de score mag aan de klant worden verteld in plaats van de reden
D) De rechtvaardiging had telefonisch aan de klant moeten worden doorgegeven in plaats van per e-mail.

Uitleg: Hoewel kunstmatige intelligentie een consistente rechtvaardiging kan opleveren, kan het ook een foutieve en zelfs discriminerende rechtvaardiging voortbrengen met hetzelfde vertrouwen, gebaseerd op verkeerde gegevens of verkeerde aannames. Bankieren is een gereguleerd, vertrouwenskritisch gebied; Elke output moet worden geverifieerd door een deskundige, en het krediettoewijzingsbesluit en de uiteindelijke rechtvaardiging moeten toebehoren aan de bevoegde persoon.

2. Wat is het beste gedrag op het gebied van vertrouwelijkheid (KVKK en klantgeheim) bij het overbrengen van de bankrekeningtransacties van een klant naar een hulpmiddel voor kunstmatige intelligentie?

A) Voor de snelheid moeten de volledige naam en het rekeningafschrift van de klant worden geüpload zoals ze zijn.
B) Door persoonlijk identificeerbare informatie te verwijderen en gegevens te anonimiseren, mag alleen de minimaal noodzakelijke informatie worden gedeeld in een goedgekeurde veilige tool ✔
C) Als de gegevens gecodeerd zijn, kunnen de naam en het rekeningnummer ook naar elk voertuig worden verzonden
D) Omdat het doel goed is, kan het volledige transcript worden gedeeld zonder de klant te vragen

Toelichting: Financiële gegevens van klanten zijn zowel persoonsgegevens als klantgeheimen binnen de reikwijdte van de bankwetgeving. Identificerende informatie zoals naam, TR ID en rekeningnummer moeten worden verwijderd en de gegevens moeten worden geanonimiseerd; De minimaal vereiste gegevens voor de taak moeten worden gedeeld en er mogen alleen beveiligde tools worden gebruikt die door de instelling zijn goedgekeurd.

3. Kunstmatige intelligentie levert een rechtvaardiging op voor de beslissing van een kredietscoremodel, zoals 'afwijzing omdat de buurt waar de aanvrager woont riskant is'. Wat moet de deskundige doen?

A) De grondgedachte wordt gebruikt zoals hij is, omdat het model gebaseerd is op statistieken
B) Districtsinformatie wordt verder gewogen en de beslissing wordt versterkt.
C) Dit kan indirecte discriminatie zijn via een proxyvariabele; De rechtvaardiging moet worden afgewezen en de beslissing moet gebaseerd zijn op legitieme en verklaarbare criteria ✔
D) De reden wordt niet aan de klant verteld, deze wordt gewoon in het dossier bewaard, er zal geen probleem zijn.

Uitleg: Het woondistrict kan een proxyvariabele zijn die sterk gerelateerd is aan etniciteit of soortgelijke beschermde kenmerken, waardoor indirecte discriminatie ontstaat. Dit soort rechtvaardiging is juridisch en ethisch onaanvaardbaar; Het besluit moet gebaseerd zijn op legitieme, verklaarbare en niet-discriminerende criteria, en deze rechtvaardiging moet worden afgewezen.

4. In een fraudedetectiesysteem markeert kunstmatige intelligentie een transactie als 'hoog risico'. Wat is de beste aanpak?

A) De waarschuwing is een signaal voorafgaand aan de screening; Echte fraude en vals alarm moeten door deskundigenonderzoek worden onderscheiden en het eindoordeel moet op humane wijze worden geveld ✔
B) De transactie wordt automatisch en permanent geblokkeerd, controle is niet nodig
C) De waarschuwing wordt genegeerd omdat de meeste waarschuwingen vals zijn
D) De klant wordt gebeld en krijgt direct de schuld

Uitleg: De AI-waarschuwing is een voorlopig screenings- en waarschijnlijkheidssignaal, en geen definitief oordeel. Het is aan de expert om onderscheid te maken tussen echte fraude en valse positieven, om onderzoek te doen zonder de klant tot slachtoffer te maken, en om de uiteindelijke beslissing te nemen; De waarschuwing mag het account niet automatisch permanent blokkeren.

5. Wat zijn de kosten van een groot aantal vals-positieve waarschuwingen bij fraudedetectie?

A) Een vals positief resultaat kost niets, hoe meer waarschuwingen, hoe beter
B) Zorgt voor ongemak bij de klant en alarmmoeheid; Verhoogt het risico dat echte fraude onopgemerkt blijft ✔
C) Het verhoogt alleen maar het elektriciteitsverbruik van het systeem
D) Vals-positief komt alleen voor bij nachttransacties

Uitleg: False positives veroorzaken ongemak en ontevredenheid door de transacties van legitieme klanten onnodig te belemmeren; Het leidt ook tot alertheidsmoeheid bij analisten, waardoor het risico groter wordt dat echte fraude over het hoofd wordt gezien. Daarom moeten drempels en regels evenwichtig zijn en moeten waarschuwingen prioriteit krijgen.

6. Wat is de meest ethisch kritische grens bij het ontwerpen van klantsegmentatie en gepersonaliseerde campagnes?

A) Hoe smaller de segmenten, hoe beter, er zijn geen andere limieten
B) Personalisatie is slechts een technische kwestie, er zijn geen ethische grenzen voor nodig
C) Geschiktheid, toestemming en non-discriminatie moeten worden beschermd; Uitbuiting en manipulatie van de kwetsbare klant moet worden voorkomen ✔
D) Als de campagne naar iedereen hetzelfde wordt gestuurd, zullen er geen ethische problemen ontstaan.

Uitleg: Hoewel segmentatie kan worden gebruikt ten behoeve van de klant (geschikte productaanbeveling), kan deze ook worden misbruikt om kwetsbaarheden te misbruiken (zoals het verkopen van extra krediet aan een klant met een overmatige schuldenlast). De beginselen van geschiktheid, toestemming en non-discriminatie moeten worden beschermd; personalisatie mag niet veranderen in manipulatie.

7. Wat is het beste beveiligingsbeleid voor een klantenservicechatbot?

A) De chatbot moet zelfstandig allerlei transacties en financieel advies kunnen afsluiten
B) Versnelt routinematige informatie; Klachten, gevoelig advies en geautoriseerde transacties moeten aan mensen worden overgedragen, er mag geen niet-geverifieerde informatie worden verstrekt ✔
C) Chatbot kan alle accountinformatie delen zonder de identiteit van de klant te verifiëren
D) De optie voor menselijke overdracht moet worden verwijderd omdat deze de chatbot vertraagt.

Beschrijving: De chatbot versnelt op veilige wijze veelgestelde informatie en routinematige transacties, maar klachten, gevoelig financieel advies, geautoriseerde transacties op de rekening en dubbelzinnige situaties moeten worden gedelegeerd aan de geautoriseerde medewerker. Bovendien mag de chatbot geen klantgeheimen onthullen of niet-geverifieerde informatie verstrekken.

8. Bij AML/KYC-processen markeert kunstmatige intelligentie een transactie als verdacht. Wat is de juiste aanpak als het gaat om het melden van verdachte transacties (STR)?

A) Als het model is gemarkeerd, dient de melding automatisch te gebeuren, de compliance officer is niet nodig
B) De waarschuwing wordt genegeerd omdat de meeste transacties legitiem zijn
C) De transactie wordt onmiddellijk aan de klant gemeld als ‘er bestaat een vermoeden van witwassen’
D) De modeluitvoer is een voorlopige screening en concept; De STR-beslissing wordt genomen door de bevoegde compliance officer, waarbij de rechtvaardiging en het audittraject behouden blijven ✔

Beschrijving: Het monitoren en scannen van kunstmatige intelligentie-transacties signaleert snel potentieel verdachte patronen, maar het melden van verdachte transacties (STR/SAR) is een beslissing met juridische gevolgen en wordt genomen op basis van het oordeel van de bevoegde compliance officer. De modeluitvoer is een voorlopig ontwerp; Het audittraject en de rechtvaardiging moeten behouden blijven.

9. In de sanctielijst/PEP-screening (politiek prominente persoon) matcht de kunstmatige intelligentie een naam, maar dit kan een valse match zijn. Wat is de juiste aanpak?

A) De match moet worden bevestigd met aanvullende identificatiegegevens (geboortedatum, nationaliteit); Het besluit moet worden genomen door de compliance officer ✔
B) Naamsgelijkenis is voldoende, de klant wordt onmiddellijk gesanctioneerd verklaard
C) Alle overeenkomsten worden als vals beschouwd en genegeerd
D) De beslissing wordt overgelaten aan de chatbot

Uitleg: Namenscans kunnen valse positieven opleveren vanwege vergelijkbare namen. De compliance officer moet de match met geboortedatum, nationaliteit en andere identificatiegegevens bevestigen; Het per ongeluk verklaren dat een klant een sanctie heeft opgelegd of het missen van een echte wedstrijd heeft beide ernstige gevolgen. De beslissing behoort aan de mens.

10. U heeft met kunstmatige intelligentie een concept bestuursverslag gemaakt; Het rapport bevat kwartaalwinstcijfers. Wat is de meest cruciale stap vóór ondertekening?

A) Alle kritische cijfers in het rapport moeten opnieuw worden gevalideerd aan de hand van brongegevens; De uiteindelijke handtekeningverantwoordelijkheid ligt bij de mens ✔
B) Kunstmatige intelligentie geeft cijfers zonder fouten, verificatie is tijdverspilling
C) Alleen het formaat wordt gecontroleerd om het rapport er mooier uit te laten zien.
D) Het rapport wordt rechtstreeks naar het senior management gestuurd, de controle vindt later plaats

Uitleg: Kunstmatige intelligentie kan numerieke waarden verkeerd voorstellen, verzinnen of samenvatten op een inconsistente manier met de brongegevens. Alle kritieke cijfers moeten opnieuw worden geverifieerd aan de hand van de brongegevens voordat het rapport wordt ondertekend; Hoewel automatisering voor snelheid zorgt, ligt de uiteindelijke handtekeningverantwoordelijkheid bij de mens.

11. Kunstmatige intelligentie analyseert de jaarrekening van een bedrijf en zegt: ‘het bedrijf is heel solide, de lening moet zeker worden verstrekt’. Wat is de verantwoordelijkheid van de financieel analist?

A) De tekst accepteren zoals die is, omdat kunstmatige intelligentie financiën zonder fouten kent
B) Herberekenen van verhoudingen uit brontabellen en het in vraag stellen van aannames; Als mens de uiteindelijke beslissing nemen, onzekerheid uiten ✔
C) Het besluit rechtstreeks aan de commissie presenteren als 'AI goedgekeurd'
D) De lening afwijzen zonder de analyse überhaupt te hebben gelezen

Toelichting: Financiële analyse is afhankelijk van aannames en nauwkeurigheid van input; AI kan de tarieven verkeerd berekenen, ontbrekende gegevens negeren of overdreven precieze taal gebruiken. De analist moet de koersen herberekenen op basis van brontabellen, aannames in twijfel trekken en de uiteindelijke kredietbeslissing op menselijke wijze nemen, waarbij hij de onzekerheid aanvoert.

12. Hoewel een kredietmodel mogelijk niet direct gebruik maakt van een beschermd kenmerk zoals geslacht of etniciteit, kan het deze wel indirect weerspiegelen via postcode- en winkelgegevens. Hoe wordt deze situatie genoemd en waarom is deze riskant?

A) Dit wordt overleren genoemd en zal de nauwkeurigheid alleen maar verminderen
B) Dit wordt een datalek genoemd en is slechts een snelheidsprobleem
C) Dit wordt indirecte discriminatie via een proxyvariabele genoemd; is onwettig en moet worden gecontroleerd door middel van eerlijkheidstests ✔
D) Dit wordt normalisatie genoemd en is volkomen onschadelijk

Uitleg: Variabelen die sterk verband houden met een beschermde eigenschap worden proxyvariabelen genoemd. Zelfs als het model de beschermde functie niet rechtstreeks gebruikt, kan het indirect discrimineren via proxy's. Dit is zowel illegaal als onethisch; Modellen moeten worden getest met maatstaven voor eerlijkheid en het proxyrisico moet worden beheerst.

13. Een bank gebruikt een model van kunstmatige intelligentie bij kredietbeslissingen. Wat is een van de meest fundamentele eisen op het gebied van wetgeving en controleerbaarheid?

A) Hoe complexer en onbegrijpelijker het model, hoe veiliger het is
B) Het bijhouden van administratie is niet nodig, besluiten kunnen mondeling worden toegelicht
C) Het recht van de klant om bezwaar te maken moet worden ingetrokken omdat dit het proces vertraagt
D) Het model moet verklaarbaar zijn, de motivering van de beslissing en het audittraject moeten behouden blijven, de klant moet het recht krijgen om bezwaar te maken/menselijke beoordeling ✔

Toelichting: Bij gereguleerde besluitvormingsprocessen moet het model verklaarbaar zijn, moet de onderbouwing van het besluit gedocumenteerd zijn, moet er een registratie (audit trail) worden bijgehouden en moet de klant het recht krijgen om bezwaar te maken/menselijke toetsing aan te vragen. Het onterechte besluit van een 'black box'-model is niet controleerbaar en voldoet niet aan de wetgeving.

14. Hoe beschrijft het sleutelprincipe dat in de hele module wordt benadrukt de rol van kunstmatige intelligentie in het bankwezen?

A) Kunstmatige intelligentie kan ervaren bankiers vervangen en zelfstandig leningen en meldingen afhandelen
B) Kunstmatige intelligentie wordt alleen gebruikt voor marketing, niet voor besluitvorming
C) De output van kunstmatige intelligentie is zelfs zonder verificatie veilig, omdat deze op statistieken is gebaseerd
D) Kunstmatige intelligentie is een assistent en conceptgenerator; Krediettoekenning, fraude-/complianceoordeel en uiteindelijke beslissing liggen bij de bevoegde persoon ✔

Beschrijving: AI versnelt repetitieve taken als assistent, pre-screener en conceptgenerator; Maar omdat we in een gereguleerd, vertrouwenskritisch gebied werken, ligt de uiteindelijke beslissing over krediettoekenning, fraude/compliancebepaling en de klant bij de bevoegde persoon (bevoegde bankier en beslissingscommissie). Niet-geverifieerde output is een niet-ondertekend ontwerpbesluit.