Câștiguri:
- Capacitatea de a anonimiza datele clienților și financiare în sfera de aplicare a KVKK, secretul clienților și regulile de confidențialitate bancară și de a aplica vehicule sigure și reguli de prelucrare a datelor
- Să înțeleagă obligațiile impuse de legislația bancară (BRSA, MASAK, KVKK) privind utilizarea inteligenței artificiale și necesitatea auditabilității
- Abilitatea de a înțelege de ce explicabilitatea modelului, păstrarea înregistrărilor și pista de audit sunt obligatorii și mențin lanțul de responsabilitate
În domeniul bancar, datele sunt de aur, dar sunt și responsabilitate. Salariul unui client, obiceiurile de cheltuieli, istoricul de credit și tranzacțiile din cont sunt atât informații personale extrem de sensibile, cât și protejate legal. AI produce rezultate puternice atunci când lucrează cu aceste date; dar aceeași putere poate crea o încălcare gravă prin apăsarea unui buton. În această unitate, vom vedea cum să protejăm datele clienților și financiare în sfera de aplicare a KVKK, secretul clienților și regulile de confidențialitate bancară, obligațiile impuse de legislația bancară (BRSA, MASAK, KVKK) privind utilizarea inteligenței artificiale și de ce explicabilitatea modelului și pista de audit sunt obligatorii. Principiul de bază: datele sunt proprietatea proprietarului lor; Protejarea acestuia nu este o alegere tehnică, ci o obligație legală și etică.
Protecție cu două straturi: KVKK și secretul clientului
Datele unui client sunt protejate de două cadre separate:
- KVKK (Legea privind protecția datelor cu caracter personal): Orice dată care face ca o persoană să fie specifică/identificabilă este date cu caracter personal. Pentru prelucrare este necesar un temei legal (consimțământ explicit sau motiv legitim); Ar trebui să fie limitat la scop, proporțional și sigur. Datele financiare sunt de o importanță deosebită.
- Secretul clientului (Legea bancară): orice informație pe care banca află despre clientul său este un secret și nu poate fi partajată fără autorizație. Această obligație îl obligă și pe angajatul băncii.
Încărcarea datelor unui client într-un instrument AI neaprobat ar putea încălca ambele cadre simultan.
Tip de date
protectie
comportament riscant
Nume, TR, IBAN
Date personale + secret
Intrarea în vehicul fără anonimizare
extras de cont
Date personale + secret
Funcționează într-un vehicul neautorizat
Scor de credit/istoric
Date personale + secret
împărtășirea fără scop
Date anonime de segment
risc scăzut
(risc dacă identitatea poate fi recuperată)
Sfat: Nu este suficient să spui „am anonimizat”; Datele trebuie să fie cu adevărat de-identificate. Chiar și un număr mic de caracteristici (vârsta + cartier + ocupație) pot identifica o persoană. În anonimizare, „aceste date pot fi returnate persoanei?” Pune întrebarea.
Etapele securizate de prelucrare a datelor
- Anonimizare/masca. Îndepărtați zonele de identificare; Folosiți valoarea alias dacă este necesar.
- Date minime (minimizarea datelor). Prelucrează datele minime necesare pentru sarcină; Nu transportați prea multe date doar în cazul în care aveți nevoie de ele.
- Limitați-l cu scop. Utilizați datele numai în scopul pentru care au fost colectate; Nu transferați datele primite pentru credit către marketing.
- Vehicul omologat si sigur. Utilizați instrumentele de asigurare a procesării datelor contractuale ale băncii; Nu introduceți datele clienților în instrumente publice unde nu este clar încotro se îndreaptă datele.
- Pista de audit. Înregistrați ce date, în ce scop și ce instrument a fost utilizat.
- Depozitarea și eliminarea. Nu păstrați datele mai mult decât este necesar; Aruncați produsul expirat conform politicii.
Obligații impuse de legislația privind inteligența artificială
- Explicabilitate: deciziile reglementate (cum ar fi împrumuturile) trebuie să fie justificate; Decizia „cutie neagră” nu poate fi auditată.
- Pista de audit: rezultatele modelului, datele utilizate și decizia finală trebuie înregistrate; Întrebarea „de ce a fost luată această decizie?” ar trebui să se răspundă mai târziu.
- Supravegherea umană: Oamenii trebuie să fie implicați în deciziile importante; mecanismele de luare a deciziilor complet automatizate, nesupravegheate pot intra în conflict cu reglementările.
- Dreptul de opoziție și rectificare: Dreptul clientului de a se opune deciziei și de a solicita corectarea datelor sale trebuie protejat.
- Lanțul de responsabilitate: Persoana responsabilă pentru decizie este întotdeauna clară – nu modelul, ci persoana și instituția competentă.
Atenție: O încălcare a confidențialității sau o încălcare a legislației poate fi dezvăluită într-un audit luni sau chiar ani mai târziu și poate duce la amenzi administrative grele, pierderea reputației și răspunderea juridică. „Neobservat” nu este o asigurare; Înregistrarea și conformitatea sunt stabilite de la început.
Patru șabloane copiabile
1) Controlul anonimizării:
Verificați următorul text înainte de a-l oferi unui instrument de inteligență artificială: ce informații conține care face persoana identificabilă (nume, ID TR, IBAN, telefon, adresă, combinație de caracteristici rare)? Enumerați-le pe toate și sugerați cum să le mascați. Text: [date]
2) Scopul și controlul minim al datelor:
Care este setul de date minim necesar pentru această sarcină? Care dintre următoarele câmpuri nu sunt necesare pentru sarcină și ar trebui eliminate? Marcați zonele cu risc de utilizare greșită. Sarcină: [descriere] Câmpuri: [listă]
3) Proiect de înregistrare a pistei de audit:
Rolul dvs.: asistent care întocmește o fișă de audit. Creați o înregistrare ordonată a tranzacțiilor cu următoarele informații: ce date (anonim), ce scop, ce mediu, ce dată, cine este responsabil. Lăsați câmpurile lipsă ca „[de completat]”. Intrare: [informații]
4) Răspuns la solicitarea datelor clientului (drepturile KVKK):
Un client a solicitat accesul/corectarea datelor sale în domeniul de aplicare al KVKK. Redactați un răspuns care să fie respectuos, clar și care vă amintește de drepturile dumneavoastră (acces, corectare, obiecție). Adăugarea de noi date personale; Explicați etapele procesului. Oficialul va verifica.
Prompt slab / Prompt puternic
Prompt slab:
Următorul nume complet al clientului, numărul de identificare TR și extrasul de cont pentru ultimele 6 luni sunt atașate; Analizează asta și dă-mi un profil. Fii repede.
Partajează datele de identitate fără aprobare, încalcă minimizarea datelor și încalcă secretele clienților.
Solicitare puternică:
Rolul tău: asistent de analiză care lucrează cu date anonime. Vă ofer doar date de-identificate, minime: 42 de ani, segment X, interval mediu de cheltuieli lunare [interval]. Solicitarea de date cu caracter personal sau deducerea identității. Voi folosi și salva rezultatul în procesul aprobat.
Promptul puternic funcționează anonim și cu date minime, interzice extragerea identității și oferă o pistă de audit.
trei mini cutii
Cazul 1 – Prelucrare corectă. Un analist efectuează o analiză comportamentală a 5.000 de clienți doar cu date anonime, agregate; Niciun câmp de identificare nu intră în vehicul, vehiculul utilizat și scopul sunt înregistrate. Rezultatul produce valoare de afaceri și nu sunt depășite liniile de confidențialitate.
Cazul 2 – Risc de reidentificare. O echipă descoperă că unii clienți pot fi identificați individual printr-o combinație de vârstă, cartier și ocupație rară în ceea ce ei credeau că este un set de date „anonim”. Datele sunt re-anonimizate prin generalizarea acestor câmpuri (interval de vârstă, regiune mare). Eticheta „Anonim” nu este considerată sigură fără a fi testată.
Cazul 3 — Pista de audit se recuperează. O decizie de împrumut poate fi contestată ani mai târziu. Banca arată din pista de audit pe care date verificate s-a bazat decizia, pe ce temei a fost luată și cine a aprobat-o. Datorită înregistrării, decizia poate fi apărata; Daca nu ar fi urma, banca s-ar afla intr-o situatie dificila.
Cloud, terți și rezidența datelor
Majoritatea instrumentelor AI rulează în cloud și procesează datele pe propriile servere. Acest lucru deschide un strat suplimentar de întrebări în domeniul bancar: unde se duc datele și cine le poate accesa acolo? Trimiterea datelor clienților către un instrument înseamnă adesea a scoate aceste date în afara zidurilor băncii. Prin urmare, alegerea unui instrument nu este o decizie tehnică, ci o decizie de conformitate.
Puncte de luat în considerare:
- Contract de prelucrare a datelor: Există un contract cu furnizorul de instrumente care definește modul în care datele vor fi prelucrate, stocate și șterse? Instrumentele „gratuite” și fără contract nu sunt eligibile pentru datele bancare.
- Utilizare în antrenament: Aflați dacă datele pe care le-ați introdus sunt folosite în antrenamentul modelului; Dacă sunt folosite, secretele clienților se pot scurge în alte locuri.
- Reședința datelor: țara în care sunt păstrate datele este importantă atât din punctul de vedere al regulilor KVKK, cât și al transferului internațional.
- Acces și înregistrare: este înregistrat cine îl accesează?
Atenție: „Vehiculul pare sigur” nu este o asigurare. Înainte ca un instrument să poată fi utilizat în bancă, acesta trebuie să treacă aprobarea de securitate și conformitate a informațiilor. Introducerea datelor clienților într-un instrument neaprobat înseamnă a oferi datele fără a ști unde se duc.
Greșeli comune
- Partajarea datelor de identitate fără aprobare. Intrarea în vehicul fără a vă anonimiza numele, TR ID și IBAN.
- Presupunând „anonim”. Considerând datele în siguranță fără a efectua testul de reidentificare.
- Deriva scopului. Utilizarea datelor colectate într-un scop în alt scop.
- Ocolind pista de audit. Neînregistrarea datelor, scopului și mijloacelor; neputând fi tras la răspundere mai târziu.
- Decizie cutia neagră. Considerând o decizie automată care nu poate fi justificată ca legitimă.
Sfat: Confidențialitatea și conformitatea nu sunt o „barieră”, ci fundamentul încrederii. Clientul are încredere în bancă pentru că știe că datele sale sunt protejate. A risca această încredere pentru o scurtătură este cea mai scumpă greșeală.
În concluzie
Datele clienților sunt atât date cu caracter personal în sfera de aplicare a KVKK, cât și secrete ale clienților în sfera de aplicare a Legii bancare; Este dublu protejat. Anonimizați (și testați împotriva reidentificării), lucrați cu date și scop minim, utilizați numai instrumente securizate aprobate, lăsați o urmă de audit. Legislația necesită explicabilitate, supraveghere umană, dreptul la obiecție și un lanț clar de responsabilitate. Într-o singură propoziție: Datele sunt încrederea proprietarului; Este responsabilitatea unei persoane competente să protejeze, să înregistreze și să dea socoteală pentru aceasta.
Sarcina de aplicare
Scrieți un exemplu de text cu datele clientului (cu câmpuri de identificare) și efectuați o verificare a anonimizării cu șablonul 1; Stabiliți ce zone să mascați. Apoi definiți o sarcină și extrageți setul de date minim cu al doilea șablon și eliminați câmpurile inutile. În cele din urmă, produceți o schiță de înregistrare a pistei de audit cu cel de-al treilea șablon, enumerând ce informații trebuie păstrate pentru fiecare tranzacție.
lista de verificare
- [ ] Am anonimizat câmpurile ID și le-am testat împotriva reidentificării.
- [ ] Am procesat doar datele minime necesare pentru sarcină.
- [ ] Am folosit datele limitate la scopul lor; Nu am lăsat golul să scape.
- [ ] Am condus doar vehicule aprobate și sigure.
- [ ] Am înregistrat datele, scopul, mijloacele și principalul în pista de audit.
- [ ] Am ținut cont de explicabilitatea deciziei și de dreptul de opoziție al clientului.