Gains :
- Capacité à distinguer les domaines où l'intelligence artificielle permet de gagner du temps réel dans le flux de travail bancaire (pré-évaluation, aide à la décision, exploitation, reporting) et les domaines où les décisions réglementées et critiques pour la confiance (attribution de crédits, dispositions relatives à la fraude/conformité) sont laissées aux humains, en fonction du niveau de risque de la tâche.
- Capacité à appliquer une discipline qui vérifie chaque sortie de l'IA à travers les étapes de connexion à la source, de recalcul et de transmission via un filtrage politique/législatif.
- Anonymiser les données clients et financières dans le cadre des règles du KVKK, du secret client et du secret bancaire et prendre l'habitude de choisir des véhicules sûrs
La journée d'un banquier est remplie de chiffres, de décisions et de confiance. Une demande de prêt est évaluée, une transaction est examinée pour déterminer s'il s'agit d'une fraude, quel produit est considéré comme adapté à un client, un contrôle de conformité est effectué et un rapport est signé en fin de journée. Ce que ces emplois ont en commun, c'est qu'ils nécessitent tous un travail rapide et, lorsqu'ils sont mal effectués, ils nuisent directement à l'argent d'une personne, à la réputation ou au statut juridique de la banque. C’est exactement là que l’intelligence artificielle entre dans cette tension. Lorsqu’il est utilisé correctement, il réduit les heures de travail à quelques minutes ; Lorsqu’elle est mal utilisée, elle accélère les erreurs, produit de la discrimination et aboutit à des décisions incontrôlables.
Tout au long de ce module, nous positionnerons l'IA comme un assistant, un pré-sélectionneur et un générateur de brouillons. L'intelligence artificielle vous aide à lire le fichier, à rédiger des brouillons, à rechercher les incohérences et à le résumer. Mais la décision vous appartient. Qu'il s'agisse d'accorder un crédit, de considérer une transaction comme suspecte ou de savoir quoi dire à un client, tout cela relève du jugement d'un être humain habilité. Dans cette unité, nous établirons fondamentalement cette distinction, c'est-à-dire où l'intelligence artificielle fait gagner du temps et où la décision est laissée aux humains, à la discipline de vérification et aux règles de confidentialité.
Pourquoi le secteur bancaire est un domaine « critique pour la confiance » et « réglementé »
Si un outil de conception de jeux de mots ne fonctionne pas correctement, personne n’est blessé. Mais un modèle bancaire défectueux peut priver une famille du crédit qu’elle mérite, victimiser un client légitime en le qualifiant de fraudeur, ou encore négliger le blanchiment d’argent et exposer la banque à de lourdes sanctions. Par conséquent, la banque se définit par deux caractéristiques :
- Critique pour la confiance : les décisions affectent l’argent et l’avenir des gens. Même si l’erreur est réversible, les dégâts sont réels.
- Réglementé : banque ; Elle est entourée de réglementations telles que le BDDK (Agence de régulation et de surveillance bancaire, l'autorité publique qui supervise les banques), le MASAK (Financial Crimes Investigation Board, l'institution de lutte contre le blanchiment d'argent) et le KVKK (Loi sur la protection des données personnelles). On ne peut pas expliquer une décision en disant « l’IA l’a dit » ; Vous devez être en mesure de justifier la décision.
Ces deux caractéristiques établissent la règle de base de l’utilisation de l’IA : les résultats de l’IA ne remplacent pas l’approbation d’un expert compétent. La décision appartient à la personne. Nous répéterons cette phrase plusieurs fois tout au long du module, car les erreurs les plus coûteuses en banque se produisent lorsque cette règle est oubliée.
Attention : Dire « le modèle fonctionne de manière très précise » ne signifie pas « on peut laisser la décision au modèle ». Même un modèle correct à 99 pour cent présente son erreur de 1 pour cent avec la même confiance. Dans le secteur bancaire, ce 1 pour cent représente le prêt d’une personne ou la pénalité d’une banque.
Où l’intelligence artificielle est-elle utile dans le secteur bancaire ?
Envisager l’activité bancaire en trois niveaux montre clairement où placer l’IA :
- Pré-évaluation et préparation (faible risque, gain élevé) : Lecture de documents, contrôle des documents manquants, synthèse des dossiers, analyse de cohérence des données. Ici, même si l’intelligence artificielle commet une erreur, le risque peut être géré car il y a un examen humain derrière cela ; Le gain est important.
- Aide à la décision (risque moyen) : projet de justification de crédit, résumé du profil de risque, commentaire financier, projet d'opération suspecte. Ici, l’intelligence artificielle produit des suggestions, mais la décision appartient à l’humain. La vérification est essentielle.
- Décision et jugement final (risque élevé, humain) : attribution de crédit, verdict de fraude, déclaration de transaction suspecte, décision reflétée sur le client. C’est la couche où l’intelligence artificielle ne peut pas prendre de décisions ; propose le plus de brouillons.
Le tableau suivant classe les tâches bancaires typiques par niveau de risque :
Quête
couche
Rôle de l'IA
Qui décide ?
Vérification des documents manquants dans le dossier de crédit
évaluation préliminaire
Numérisation, résumé
Avis d'experts
Raison du rejet/approbation du crédit
aide à la décision
Projet de justification
expert compétent
Alerte d'anomalie de transaction
aide à la décision
Signal de pré-qualification
analyste de fraude
Déclaration de transactions suspectes (STR)
jugement final
brouillon
responsable de la conformité
Décision d'attribution de crédit
jugement final
brouillon/résumé
Autorité/comité
Rédiger la correspondance client
évaluation préliminaire
projet de texte
L'employé approuve
Discipline de validation : filtre en trois étapes
Faites passer la sortie de l’IA à travers ces trois étapes à chaque fois. Ce sera le réflexe de base que nous répéterons tout au long du module :
- Connectez-le à la source. Sur quel document, quelle transaction de compte et sur quelle règle chaque numéro, réclamation et justification du résultat est-il basé ? Un résultat dont la source ne peut être citée est une « affirmation » jusqu'à ce qu'elle soit vérifiée, et non une « information ».
- Recalculer/vérifier. Si une cote, un total, un résumé des scores est donné, confirmez-le vous-même. L’IA peut déformer ou inventer des chiffres (c’est ce qu’on appelle une « hallucination » : lorsque le modèle produit de fausses informations qui semblent réelles).
- Passez-le à travers le filtre de la politique et de la législation. Le résultat est-il conforme aux politiques internes et aux règles juridiques de votre banque (interdiction de discrimination, confidentialité des clients, KVKK) ? Une sortie qui ne convient pas sera rejetée, aussi "intelligente" soit-elle.
Astuce : posez-vous cette question pour chaque résultat : "Puis-je défendre cela auprès d'un auditeur sans simplement dire "L'IA l'a produit" ?" Si la réponse est non, la sortie n’est pas encore prête à être utilisée.
Confidentialité : secret client et KVKK
En banque, les données sont doublement protégées. Les informations relatives au compte d'un client sont à la fois des données personnelles (dans le cadre du KVKK) et des secrets de client (dans le cadre de la loi bancaire ; obligation de la banque de protéger les informations qu'elle a obtenues sur son client). Par conséquent, le téléchargement des données client vers n’importe quel outil d’IA pourrait constituer une violation grave.
Règles de base :
- Anonymiser. Supprimez les informations d’identification telles que le nom, le numéro TR ID, le numéro de compte/IBAN, le téléphone. Par exemple, au lieu de « Ahmet Yılmaz, TC 123…, compte 456… », écrivez « 45 ans, client du segment X ».
- Données minimales. Partagez la quantité minimale de données réellement nécessaire à la tâche. Pas la totalité du dump, mais les lignes pertinentes.
- Utilisez un véhicule homologué. Utilisez des outils conventionnés et sécurisés approuvés par votre banque. Ne saisissez pas les données des clients dans un outil public si la destination des données n’est pas claire.
- Laissez un enregistrement. Vous devez pouvoir démontrer, lorsque cela est nécessaire, quelles données vous avez utilisées, dans quel but et quel outil vous avez utilisé (piste d'audit).
Quatre modèles copiables
1) Cadre qui détermine les rôles et les limites :
Votre rôle : assistant bancaire. PRISE DE DÉCISION; Produisez uniquement des brouillons, des résumés ou des contrôles de cohérence. N'utilisez pas d'informations d'identification (nom, TR ID, IBAN). Marquez chaque point dont vous n'êtes pas sûr comme « [confirmation requise] ». Je prendrai la décision finale et la responsabilité. Tâche : [description du poste]
2) Demande de vérification en trois étapes :
Effectuez un auto-audit et rapportez les résultats suivants sous trois aspects : (1) Sur quelles sources/données chacune de vos réclamations est-elle basée ? (2) Quels nombres doivent être recalculés ? (3) Y a-t-il un aspect à risque en termes de politique interne ou de législation (discrimination, secret client, KVKK) ? Énumérez clairement les incertitudes.
3) Contrôle d'anonymisation :
Avant de confier ce texte à un outil, identifiez toutes les informations permettant d'identifier la personne (nom, TR ID, IBAN, téléphone, adresse, combinaison de caractéristiques rares) et proposez comment les masquer. Spécifiez également les données minimales requises pour la tâche.Texte : [données]
4) Assistant de classification des couches :
Déterminez à quel niveau se situe la tâche suivante : évaluation préliminaire (accélérée par la confiance) / aide à la décision (vérifiée) / jugement final (humain). Écrivez votre justification et indiquez quelle est la limite de l'IA sur cette tâche. Tâche : [tâche]
trois mini-cases
Cas 1 — Utilisation correcte. Un spécialiste du crédit vérifiera une pile de 40 dossiers pour déceler les documents manquants. Remet chaque dossier à l'intelligence artificielle avec un résumé anonymisé ; L'intelligence artificielle note "Dans le résumé numéro 3, la date de l'attestation de revenus est antérieure à 6 mois, et dans le numéro 7, il n'y a pas de page de signature." L'expert confirme ces signes un à un dans le dossier. L'analyse manuelle, qui prend 2 heures, est réduite à 25 minutes et chaque alerte est vérifiée humainement.
Cas 2 — Échec de la confiance sans authentification. Un autre expert transmet au client un motif de refus de prêt généré par l’intelligence artificielle sans le lire. Dans la justification, l'intelligence artificielle a mal interprété les revenus du client et a déclaré que « les revenus sont insuffisants » ; Cependant, le document est correct. Le client s'y oppose, le dossier est rouvert et la banque perd du temps et de la réputation. Leçon : toutes les données sur lesquelles reposait la justification devaient être vérifiées à la source.
Cas 3 — Violation de la confidentialité. Pour plus de rapidité, un employé colle le nom complet et le relevé de compte d'un client dans un outil non approuvé et accessible au public et demande : « Ce client est-il à risque ? Avec cette seule action, la confidentialité des clients et KVKK ont été violées ; Même où vont les données n’est pas clair. Leçon : les données sont d'abord anonymisées, puis traitées uniquement dans l'outil agréé.
Invite faible/Invite forte
Invite faible :
Le relevé de compte d'Ahmet Yılmaz est joint. Décidez si nous devons accorder un crédit à ce client.
Cette demande comprend des informations personnellement identifiables (atteinte à la vie privée), demande directement une décision à l’IA (sans laisser la décision à l’humain) et ne met en place aucun cadre de vérification.
Invite puissante :
Votre rôle : assistant du spécialiste crédit vérifiant la PRÉPARATION et la COHÉRENCE du dossier.Prise de décision ; Marquez simplement les points manquants/incohérents et indiquez sur quoi vous vous basez. Ne pas utiliser d'informations d'identification.Client (anonyme) : 45 ans, segment Marquez « [confirmation requise] » tous les points qui semblent manquants ou contradictoires dans les informations fournies. Je prendrai la décision de crédit.
Une volonté forte ne contient pas d'identité, limite le rôle, laisse le pouvoir de décision à la personne et marque clairement chaque revendication pour confirmation.
Erreurs courantes
- Laisser la décision à l’intelligence artificielle. Faire dire au modèle des dispositions telles que "donner/ne pas donner de crédit", "fraude/ne pas donner". Ce sont des décisions humaines ; le modèle offre le plus de brouillons.
- Faire confiance sans vérification. Confondre un texte fluide et confiant avec « correct ». La maîtrise n'est pas la précision.
- Partage des informations d'identification. Entrer dans le véhicule sans anonymiser votre nom, votre TR ID et votre numéro de compte.
- Contourner la piste d'audit. Défaut de documenter la justification de la décision et les données utilisées ; Ne pas pouvoir répondre à la question « pourquoi cette décision a-t-elle été prise ? »
- Conduite sans autorisation. Saisir les données des clients dans des outils publics où il n'est pas clair où vont les données.
Attention : dans le secteur bancaire, le coût d'une erreur n'est souvent pas immédiatement visible ; L'objection, l'inspection ou la sanction surviennent des mois plus tard. Par conséquent, la vérification et l’enregistrement des mesures disciplinaires ne peuvent pas être reportés simplement parce que « cela n’est pas nécessaire à moins que des problèmes ne surviennent » ; Cela devrait être une habitude dès le début.
En résumé
Le secteur bancaire est un domaine réglementé et essentiel à la confiance ; L’IA est donc utilisée ici comme assistant, pré-sélection et générateur de brouillons, et non comme décideur. Pensez au travail en trois niveaux : évaluation préliminaire (accélérée par la confiance), aide à la décision (vérifiée) et jugement final (humain). Liez chaque sortie à la source, recalculez, filtrez par politique/législation. Anonymisez les données, partagez-les au minimum, utilisez des outils approuvés et laissez une piste d'audit. En une phrase : l’IA produit des brouillons ; Les personnes compétentes prennent la décision et la responsabilité.
Tâche de candidature
Sélectionnez trois tâches typiques de votre propre entreprise (ou à titre d'exemple) : une pour l'évaluation préliminaire (par exemple, contrôle de documents), une pour l'aide à la décision (par exemple, projet de justification), une pour le jugement final (par exemple, décision de crédit). Pour chacun, (1) écrivez le rôle de l’IA en une phrase, (2) indiquez quelle étape de vérification vous allez appliquer, (3) notez quelles données doivent être anonymisées. Créez ensuite une invite pour la tâche « préparation de fichier » avec le puissant modèle d'invite ci-dessus et filtrez la sortie en trois étapes.
liste de contrôle
- [ ] J'ai déterminé la couche de la tâche (évaluation préliminaire / aide à la décision / jugement final).
- [ ] J'ai confié à l'intelligence artificielle une tâche de projet/contrôle, pas une décision.
- [ ] J'ai connecté la sortie à la source et revérifié les nombres critiques.
- [ ] J'ai filtré les résultats en termes de politique interne et de législation (discrimination, secret client, KVKK).
- [ ] J'ai anonymisé les données, je les ai partagées de manière minimale et j'ai utilisé des outils approuvés.
- [ ] J'ai enregistré la décision et sa justification ; J'ai assumé la responsabilité ultime.