Guadagni:
- Capacità di distinguere dove l'intelligenza artificiale fa risparmiare tempo reale nel flusso di lavoro bancario (pre-valutazione, supporto decisionale, operazione, reporting) e dove le decisioni regolamentate e critiche per la fiducia (allocazione del credito, fornitura di frode/conformità) sono lasciate agli esseri umani, in base al livello di rischio dell'attività
- Capacità di applicare una disciplina che verifica ogni output dell'intelligenza artificiale attraverso le fasi di collegamento alla fonte, ricalcolo e passaggio attraverso il filtraggio di policy/legislazione.
- Rendere anonimi i dati finanziari e dei clienti nell'ambito della KVKK, del segreto del cliente e delle norme sulla riservatezza bancaria e acquisire l'abitudine di scegliere veicoli sicuri
La giornata di un banchiere è piena di numeri, decisioni e fiducia. Si valuta una richiesta di prestito, si esamina una transazione per vedere se si tratta di una frode, quale prodotto è considerato adatto a un cliente, si effettua un controllo di conformità e alla fine della giornata si firma un verbale. Ciò che questi lavori hanno in comune è che richiedono tutti un lavoro rapido e, se svolti in modo errato, danneggiano direttamente il denaro, la reputazione o lo status giuridico della banca. È proprio qui che l’intelligenza artificiale cade in questa tensione. Se utilizzato correttamente riduce le ore di lavoro a minuti; Se utilizzato in modo errato, accelera l’errore, produce discriminazione e porta a decisioni incontrollabili.
In questo modulo posizioneremo l'intelligenza artificiale come assistente, pre-screening e generatore di bozze. L'intelligenza artificiale ti aiuta a leggere il file per te, scrive bozze, cerca incoerenze e riassume. Ma la decisione è tua. Se concedere un credito, se considerare una transazione sospetta, cosa dire a un cliente: tutti questi sono giudizi di un essere umano dotato di potere. In questa unità stabiliremo fondamentalmente questa distinzione, ovvero dove l’intelligenza artificiale fa risparmiare tempo e dove la decisione è lasciata all’uomo, alla disciplina di verifica e alle regole sulla privacy.
Perché il settore bancario è un settore “critico per la fiducia” e “regolamentato”.
Se uno strumento di progettazione di giochi di parole funziona in modo errato, nessuno si farà male. Ma un modello bancario malfunzionante può privare una famiglia del credito che merita, vittimizzare un cliente legittimo etichettandolo come un truffatore, o trascurare il riciclaggio di denaro ed esporre la banca a pesanti sanzioni. Pertanto, il sistema bancario è definito da due caratteristiche:
- Criticità per la fiducia: le decisioni influiscono sul denaro e sul futuro delle persone. Anche se l’errore è reversibile, il danno è reale.
- Regolamentato: bancario; È circondato da normative come BDDK (Banking Regulatory and Supervision Agency, l’autorità pubblica che vigila sulle banche), MASAK (Financial Crimes Investigation Board, l’istituzione che combatte il riciclaggio di denaro) e KVKK (Legge sulla protezione dei dati personali). Non si può spiegare una decisione dicendo “l’ha detto l’AI”; Devi essere in grado di giustificare la decisione.
Queste due caratteristiche stabiliscono la regola di base per l’utilizzo dell’IA: i risultati dell’IA non sostituiscono l’approvazione di un esperto competente. La decisione spetta alla persona. Ripeteremo questa frase molte volte nel corso del modulo, perché gli errori più costosi in ambito bancario si verificano quando questa regola viene dimenticata.
Attenzione: Dire "il modello funziona in modo molto accurato" non significa "possiamo lasciare la decisione al modello". Anche un modello corretto al 99% presenta il suo errore dell’1% con la stessa sicurezza. Nel settore bancario, quell'1% è il prestito di una persona o la sanzione di una banca.
Dove torna utile l’intelligenza artificiale nel settore bancario?
Pensare all’attività bancaria in tre livelli rende chiaro dove collocare l’intelligenza artificiale:
- Pre-valutazione e preparazione (basso rischio, alto guadagno): lettura dei documenti, controllo dei documenti mancanti, riepilogo dei file, scansione della coerenza dei dati. Qui, anche se l’intelligenza artificiale commette un errore, il rischio può essere gestito perché dietro c’è la revisione umana; Il guadagno è grande.
- Supporto alle decisioni (rischio medio): bozza di giustificazione del credito, sintesi del profilo di rischio, commento finanziario, bozza di transazione sospetta. Qui l’intelligenza artificiale produce suggerimenti, ma la decisione spetta all’umano. La verifica è essenziale.
- Decisione e giudizio finale (alto rischio, umano): assegnazione del credito, verdetto di frode, segnalazione di transazioni sospette, decisione riflessa sul cliente. Questo è lo strato in cui l’intelligenza artificiale non può prendere decisioni; offre il maggior numero di bozze.
La tabella seguente classifica le attività bancarie tipiche in base al livello di rischio:
Ricerca
strato
Ruolo dell'intelligenza artificiale
Chi decide?
Controllo documenti mancanti nella cartella di credito
valutazione preliminare
Scansione, riepilogo
Recensioni di esperti
Motivo del rifiuto/approvazione del credito
supporto decisionale
Progetto di giustificazione
esperto competente
Avviso di anomalia della transazione
supporto decisionale
Segnale di prequalifica
analista di frodi
Segnalazione di transazioni sospette (STR)
giudizio finale
bozza
responsabile della conformità
Decisione di assegnazione del credito
giudizio finale
bozza/riepilogo
Autorità/comitato
Bozza di corrispondenza con il cliente
valutazione preliminare
bozza di testo
Il dipendente approva
Disciplina di validazione: filtro in tre fasi
Porta l'output dell'IA attraverso questi tre passaggi ogni volta. Questo sarà il riflesso di base che ripeteremo durante il modulo:
- Collegalo alla fonte. Su quale documento, quale transazione del conto e su quale regola si basa ciascun numero, richiesta e giustificazione nell'output? Un output la cui fonte non può essere citata è una "affermazione" fino a quando non viene verificata, non un'"informazione".
- Ricalcolare/controllare. Se viene fornita una quota, un totale, un riepilogo del punteggio, confermalo tu stesso. L’intelligenza artificiale può travisare o inventare numeri (questo è chiamato “allucinazione”: quando il modello produce informazioni false che sembrano reali).
- Passatelo attraverso il filtro della politica e della legislazione. Il risultato è conforme alle politiche interne e alle norme legali della vostra banca (divieto di discriminazione, riservatezza del cliente, KVKK)? Un risultato che non si adatta verrà rifiutato, non importa quanto sembri "intelligente".
Suggerimento: ponetevi questa domanda per ogni output: "Posso difenderlo davanti a un auditor senza semplicemente dire 'l'ha prodotto l'AI'?" Se la risposta è no, l'output non è ancora pronto per l'uso.
Privacy: segreto del cliente e KVKK
Nel settore bancario i dati sono doppiamente protetti. Le informazioni sul conto di un cliente sono sia dati personali (nell'ambito della KVKK) che segreti del cliente (nell'ambito della Legge bancaria; obbligo della banca di proteggere le informazioni apprese sul proprio cliente). Pertanto, caricare i dati dei clienti su qualsiasi strumento di intelligenza artificiale potrebbe rappresentare una grave violazione.
Regole di base:
- Anonimizza. Rimuovere le informazioni identificative come nome, numero ID TR, numero di conto/IBAN, telefono. Ad esempio, invece di "Ahmet Yılmaz, TC 123..., conto 456..." scrivi "45 anni, cliente del segmento X".
- Dati minimi. Condividi la quantità minima di dati veramente necessaria per l'attività. Non l'intera discarica, ma le righe pertinenti.
- Utilizzare un veicolo omologato. Utilizza strumenti convenzionati e sicuri approvati dalla tua banca. Non inserire i dati dei clienti in uno strumento pubblico se non è chiaro dove vanno a finire i dati.
- Lascia un record. Devi essere in grado di mostrare, quando necessario, quali dati hai utilizzato, per quale scopo e quale strumento hai utilizzato (audit trail).
Quattro modelli copiabili
1) Quadro che determina ruoli e confini:
Il tuo ruolo: assistente bancario. IL PROCESSO DECISIONALE; Produrre solo bozze, riepiloghi o controlli di coerenza. Non utilizzare informazioni di identificazione (nome, TR ID, IBAN). Contrassegna ogni punto di cui non sei sicuro come "[conferma richiesta]". Prenderò la decisione finale e la responsabilità. Compito: [descrizione del lavoro]
2) Richiesta di verifica in tre passaggi:
Effettua un'autoverifica e riporta i seguenti risultati da tre aspetti: (1) Su quali fonti/dati si basa ciascuna delle tue affermazioni? (2) Quali numeri devono essere ricalcolati? (3) Esiste un aspetto rischioso in termini di politica interna o legislazione (discriminazione, segreto del cliente, KVKK)? Elenca chiaramente le incertezze.
3) Controllo dell'anonimizzazione:
Prima di fornire questo testo a uno strumento, identifica tutte le informazioni che rendono identificabile la persona (nome, TR ID, IBAN, telefono, indirizzo, combinazione di caratteristiche rare) e suggerisci come mascherarle. Specificare inoltre i dati minimi richiesti per l'attività.Testo: [dati]
4) Assistente alla classificazione dei livelli:
Determinare in quale livello rientra il seguente compito: valutazione preliminare (accelerata dalla fiducia) / supporto decisionale (verificato) / giudizio finale (umano). Scrivi la tua motivazione e indica qual è il limite dell'intelligenza artificiale per questa attività. Compito: [compito]
tre mini custodie
Caso 1 — Uso corretto. Uno specialista del credito controllerà una pila di 40 file per verificare la presenza di documenti mancanti. Consegna ogni file all'intelligenza artificiale con un riepilogo anonimo; L'intelligenza artificiale segna "Nel riepilogo numero 3 la data del certificato di reddito è più vecchia di 6 mesi e nel numero 7 non c'è la pagina della firma". L'esperto conferma questi segnali uno per uno nel fascicolo. La scansione manuale, che richiede 2 ore, viene ridotta a 25 minuti e ogni avviso viene verificato umanamente.
Caso 2: fallimento della fiducia senza autenticazione. Un altro esperto inoltra al cliente una causale di rifiuto del prestito generata dall'intelligenza artificiale senza leggerla. Nella giustificazione, l'intelligenza artificiale ha interpretato male il reddito del cliente e ha affermato che "il reddito è insufficiente"; Tuttavia il documento è corretto. Il cliente si oppone, il caso viene riaperto e la banca perde tempo e reputazione. Lezione: tutti i dati su cui si basava la giustificazione dovevano essere controllati alla fonte.
Caso 3 — Violazione della riservatezza. Per rapidità, un dipendente incolla il nome completo e l'estratto conto di un cliente in uno strumento non approvato e disponibile al pubblico e chiede: "Questo cliente è a rischio?" Con questa singola azione sono state violate la riservatezza del cliente e la KVKK; Anche dove vanno i dati non è chiaro. Lezione: i dati vengono prima resi anonimi, quindi elaborati solo nello strumento approvato.
Prompt debole / Prompt forte
Suggerimento debole:
In allegato l'estratto conto di Ahmet Yılmaz. Decidi se dobbiamo dare credito a questo cliente.
Questa richiesta include informazioni di identificazione personale (violazione della privacy), chiede direttamente all'IA una decisione (non lasciando la decisione all'essere umano) e non istituisce alcun quadro di verifica.
Suggerimento potente:
Il tuo ruolo: assistente dello specialista del credito che controlla la PREPARAZIONE e la COERENZA del fascicolo. Processo decisionale; Basta contrassegnare i punti mancanti/incoerenti e indicare su cosa ti basi. Non utilizzare informazioni di identificazione.Cliente (anonimo): 45 anni, segnare il segmento "[conferma richiesta]" eventuali punti che sembrano mancanti o contraddittori nelle informazioni fornite. Prenderò la decisione sul credito.
Una volontà forte non contiene identità, limita il ruolo, lascia alla persona l'autorità di decisione e segnala chiaramente ogni esigenza di conferma.
Errori comuni
- Lasciare la decisione all’intelligenza artificiale. Far sì che il modello dica disposizioni del tipo “dare/non dare credito”, “frode/non”. Queste sono decisioni umane; il modello offre il maggior numero di bozze.
- Fidarsi senza verifica. Confondere un testo scorrevole e sicuro per “corretto”. La fluidità non è precisione.
- Condivisione delle credenziali. Entrare nel veicolo senza rendere anonimo il tuo nome, TR ID e numero di conto.
- Bypassare la pista di controllo. Mancata documentazione delle motivazioni della decisione e dei dati utilizzati; Non riuscire a rispondere alla domanda "perché è stata presa questa decisione?"
- Guida senza approvazione. Inserimento dei dati dei clienti in strumenti pubblici in cui non è chiaro dove vanno i dati.
Attenzione: nel settore bancario, il costo di un errore spesso non è immediatamente visibile; L'obiezione, l'ispezione o la punizione arrivano mesi dopo. Pertanto, la disciplina della verifica e della registrazione non può essere rinviata solo perché “non ce n'è bisogno a meno che non sorgano problemi”; Dovrebbe essere un'abitudine fin dall'inizio.
In sintesi
Il settore bancario è un settore critico e regolamentato per la fiducia; Quindi l’intelligenza artificiale viene utilizzata qui come assistente, pre-screening e generatore di bozze, non come decisore. Pensa al lavoro in tre livelli: valutazione preliminare (accelerata dalla fiducia), supporto decisionale (verificato) e giudizio finale (umano). Collegare ciascun risultato alla fonte, ricalcolare, filtrare attraverso politiche/legislazioni. Rendi anonimi i dati, condividili al minimo, utilizza strumenti approvati e lascia una traccia di controllo. In una frase: l’intelligenza artificiale produce bozze; Le persone competenti prendono la decisione e la responsabilità.
Compito dell'applicazione
Seleziona tre compiti tipici della tua azienda (o come esempio): uno per la valutazione preliminare (ad esempio controllo della documentazione), uno per il supporto alla decisione (ad esempio progetto di giustificazione), uno per il giudizio finale (ad esempio decisione sul credito). Per ciascuno, (1) scrivi il ruolo dell'IA in una frase, (2) indica quale fase di verifica applicherai, (3) annota quali dati devono essere resi anonimi. Quindi crea un prompt per l'attività di "preparazione del file" con il potente modello di prompt riportato sopra e filtra l'output in tre passaggi.
lista di controllo
- [ ] Ho determinato il livello del compito (valutazione preliminare/supporto alla decisione/giudizio finale).
- [ ] Ho dato all'intelligenza artificiale un compito di bozza/controllo, non una decisione.
- [ ] Ho collegato l'uscita alla sorgente e ho ricontrollato i numeri critici.
- [ ] Ho filtrato i risultati in termini di politica interna e legislazione (discriminazione, segreto del cliente, KVKK).
- [ ] Ho reso anonimi i dati, li ho condivisi minimamente e ho utilizzato strumenti approvati.
- [ ] Ho registrato la decisione e la sua motivazione; Mi sono assunto la responsabilità ultima.