Zyski:
- Możliwość anonimizacji danych klientów i finansowych w zakresie KVKK, tajemnicy klienta i zasad poufności bankowej oraz stosowania zasad bezpiecznego przetwarzania pojazdów i danych
- Zrozumienie obowiązków nałożonych przez ustawodawstwo bankowe (BRSA, MASAK, KVKK) w zakresie wykorzystania sztucznej inteligencji i potrzeby audytowalności
- Umiejętność zrozumienia, dlaczego wyjaśnialność modelu, prowadzenie rejestrów i ścieżka audytu są obowiązkowe, a także utrzymanie łańcucha odpowiedzialności
W bankowości dane to złoto – ale to także odpowiedzialność. Wynagrodzenie klienta, nawyki związane z wydatkami, historia kredytowa i transakcje na koncie są bardzo wrażliwymi danymi osobowymi i są prawnie chronione. Sztuczna inteligencja generuje potężne wyniki podczas pracy z tymi danymi; ale ta sama moc może spowodować poważne naruszenie za naciśnięciem przycisku. W tej jednostce zobaczymy, jak chronić dane klientów i finansowe w zakresie KVKK, tajemnicy klienta i zasad poufności bankowej, obowiązków nałożonych przez ustawodawstwo bankowe (BRSA, MASAK, KVKK) w zakresie wykorzystania sztucznej inteligencji oraz dlaczego objaśnialność modelu i ścieżka audytu są obowiązkowe. Podstawowa zasada: dane są własnością ich właściciela; Jej ochrona nie jest wyborem technicznym, ale prawnym i etycznym obowiązkiem.
Ochrona dwuwarstwowa: KVKK i tajemnica klienta
Dane klienta są chronione przez dwa odrębne frameworki:
- KVKK (Ustawa o ochronie danych osobowych): Wszelkie dane, które czynią osobę konkretną/możliwą do zidentyfikowania, są danymi osobowymi. Do przetwarzania wymagana jest podstawa prawna (wyraźna zgoda lub uzasadniony powód); Powinno być ograniczone celowo, proporcjonalne i bezpieczne. Dane finansowe są szczególnie istotne.
- Tajemnica klienta (Prawo bankowe): Wszelkie informacje, jakie bank poznaje na temat swojego klienta, stanowią tajemnicę i nie mogą być udostępniane bez upoważnienia. Obowiązek ten ciąży także na pracowniku banku.
Przesłanie danych klienta do niezatwierdzonego narzędzia AI może naruszyć oba frameworki jednocześnie.
Typ danych
ochrona
ryzykowne zachowanie
Imię i nazwisko, TR, IBAN
Dane osobowe + tajemnica
Wejście do pojazdu bez anonimizacji
wyciąg z konta
Dane osobowe + tajemnica
Praca w niedozwolonym pojeździe
Wynik/historia kredytowa
Dane osobowe + tajemnica
dzielenie się bez celu
Anonimowe dane segmentowe
niskie ryzyko
(ryzyko w przypadku możliwości odzyskania tożsamości)
Wskazówka: nie wystarczy powiedzieć „zanonimizowałem”; Dane muszą być rzeczywiście pozbawione tożsamości. Nawet niewielka liczba cech (wiek + sąsiedztwo + zawód) może zidentyfikować osobę. W przypadku anonimizacji „czy dane te mogą zostać zwrócone danej osobie?” Zadaj pytanie.
Bezpieczne etapy przetwarzania danych
- Anonimizuj/maskuj. Usuń obszary identyfikujące; Jeśli to konieczne, użyj wartości aliasu.
- Minimum danych (minimalizacja danych). Przetwarzaj minimum danych wymaganych do wykonania zadania; Nie noś zbyt dużej ilości danych na wypadek, gdyby były potrzebne.
- Ogranicz to celowo. Wykorzystuj dane wyłącznie w celu, dla którego zostały zebrane; Nie przekazuj danych otrzymanych za kredyt do celów marketingowych.
- Pojazd homologowany i bezpieczny. Skorzystaj z dostępnych w banku narzędzi zapewniających pewność przetwarzania danych umownych; Nie wprowadzaj danych klientów do narzędzi publicznych, jeśli nie jest jasne, dokąd dane trafiają.
- Ścieżka audytu. Zapisz, jakie dane, w jakim celu i jakie narzędzie zostało użyte.
- Przechowywanie i utylizacja. Nie przechowuj danych dłużej niż to konieczne; Pozbądź się przeterminowanych produktów zgodnie z polityką.
Obowiązki nałożone przez przepisy dotyczące sztucznej inteligencji
- Wyjaśnialność: decyzje regulowane (takie jak pożyczki) muszą być uzasadnione; Decyzja „czarnej skrzynki” nie podlega audytowi.
- Ścieżka audytu: należy rejestrować wyniki modelu, wykorzystane dane i ostateczną decyzję; Pytanie „dlaczego podjęto taką decyzję?” należy odpowiedzieć później.
- Nadzór człowieka: ludzie muszą być zaangażowani w ważne decyzje; w pełni zautomatyzowane, nienadzorowane mechanizmy podejmowania decyzji mogą być sprzeczne z przepisami.
- Prawo do sprzeciwu i korekty: Należy chronić prawo klienta do sprzeciwu wobec decyzji i żądania poprawienia swoich danych.
- Łańcuch odpowiedzialności: Osoba odpowiedzialna za decyzję jest zawsze jasna – nie model, ale kompetentna osoba i instytucja.
Uwaga: Naruszenie poufności lub naruszenie przepisów może zostać ujawnione w trakcie audytu kilka miesięcy lub nawet lat później i może skutkować wysokimi karami administracyjnymi, utratą reputacji i odpowiedzialnością prawną. „Nie zauważono” nie jest gwarancją; Rejestracja i zgodność są ustalane od początku.
Cztery szablony do kopiowania
1) Kontrola anonimizacji:
Zanim przekażesz go narzędziu sztucznej inteligencji, sprawdź następujący tekst: jakie informacje umożliwiają identyfikację danej osoby (imię i nazwisko, TR ID, IBAN, telefon, adres, kombinacja rzadkich cech)? Wypisz je wszystkie i zasugeruj sposób ich zamaskowania.Tekst: [dane]
2) Cel i minimalna kontrola danych:
Jaki jest naprawdę minimalny zbiór danych wymagany do tego zadania? Które z poniższych pól są niepotrzebne dla zadania i należy je usunąć? Oznacz obszary narażone na niewłaściwe użycie. Zadanie: [opis] Pola: [lista]
3) Projekt protokołu ścieżki audytu:
Twoja rola: asystent przygotowujący zapis ścieżki audytu. Utwórz schludny zapis transakcji z następującymi informacjami: jakie dane (anonimowe), jaki cel, jaki nośnik, jaka data, kto jest odpowiedzialny. Pozostaw brakujące pola jako „[do uzupełnienia]”. Wejście: [informacja]
4) Odpowiedź na żądanie danych klienta (prawa KVKK):
Klient zażądał dostępu do swoich danych/korekty w ramach KVKK. Przygotuj odpowiedź, która będzie pełna szacunku, jasna i przypomni Ci o Twoich prawach (dostęp, sprostowanie, sprzeciw). Dodanie nowych danych osobowych; Wyjaśnij etapy procesu. Urzędnik sprawdzi.
Słaba zachęta/silna zachęta
Słaba zachęta:
W załączeniu następujące imię i nazwisko klienta, numer TR ID oraz wyciąg z konta za ostatnie 6 miesięcy; Przeanalizuj to i daj mi profil. Śpieszyć się.
Udostępnia dane identyfikacyjne bez zgody, narusza minimalizację danych i narusza tajemnice klientów.
Potężny monit:
Twoja rola: asystent ds. analiz pracujący z anonimowymi danymi. Podaję tylko zdeidentyfikowane, minimalne dane: 42 lata, segment X, średni miesięczny zakres wydatków [zakres]. Żądanie danych osobowych lub wnioskowanie o tożsamości. Wykorzystam i zapiszę wyniki w zatwierdzonym procesie.
Silny monit działa anonimowo i przy minimalnej ilości danych, zabrania wyodrębniania tożsamości i zapewnia ścieżkę audytu.
trzy mini etui
Przypadek 1 – Prawidłowe przetwarzanie. Analityk przeprowadza analizę behawioralną 5000 klientów, korzystając wyłącznie z anonimowych, zagregowanych danych; Do pojazdu nie wchodzi żadne pole identyfikacyjne, rejestrowany jest używany pojazd i jego przeznaczenie. W rezultacie powstaje wartość biznesowa i nie zostają przekroczone żadne granice poufności.
Przypadek 2 – Ryzyko ponownej identyfikacji. Zespół odkrywa, że niektórych klientów można zidentyfikować indywidualnie na podstawie wieku, sąsiedztwa i rzadkiego zawodu w ramach, ich zdaniem, „anonimowego” zbioru danych. Dane są ponownie anonimizowane poprzez uogólnienie tych pól (przedział wiekowy, duży region). Tag „Anonimowy” nie jest uważany za bezpieczny bez przetestowania.
Przypadek 3 – Odtworzenie ścieżki audytu. Decyzja pożyczkowa może zostać zakwestionowana po latach. Bank pokazuje ze ścieżki audytu, na jakich zweryfikowanych danych oparto decyzję, na jakiej podstawie została podjęta i kto ją zatwierdził. Dzięki protokołowi można obronić decyzję; Gdyby nie było śladu, bank byłby w trudnej sytuacji.
Chmura, strona trzecia i miejsce przechowywania danych
Większość narzędzi AI działa w chmurze i przetwarza dane na własnych serwerach. Otwiera to dodatkową warstwę pytań w bankowości: dokąd trafiają dane i kto może tam uzyskać do nich dostęp? Wysłanie danych klientów do narzędzia często wiąże się z wyniesieniem ich poza mury banku. Dlatego wybór narzędzia nie jest decyzją techniczną, ale decyzją dotyczącą zgodności.
Punkty do rozważenia:
- Umowa o przetwarzanie danych: Czy istnieje umowa z dostawcą narzędzia, która określa, w jaki sposób dane będą przetwarzane, przechowywane i usuwane? Narzędzia „bezpłatne” i niewymagające umowy nie kwalifikują się do danych bankowych.
- Użyj w szkoleniu: Dowiedz się, czy wprowadzone dane są wykorzystywane w szkoleniu modelu; W przypadku użycia tajemnice klientów mogą wyciekać w inne miejsca.
- Miejsce zamieszkania danych: Kraj, w którym przechowywane są dane, jest ważny zarówno z punktu widzenia KVKK, jak i zasad przesyłania międzynarodowego.
- Dostęp i rejestrowanie: czy rejestrowane jest, kto uzyskuje do niego dostęp?
Uwaga: stwierdzenie „pojazd wydaje się bezpieczny” nie stanowi gwarancji. Zanim narzędzie będzie mogło zostać wykorzystane w banku, musi przejść atesty dotyczące bezpieczeństwa informacji i zgodności. Wprowadzanie danych klientów do niezatwierdzonego narzędzia oznacza udostępnianie danych bez wiedzy, dokąd trafiają.
Typowe błędy
- Udostępnianie danych osobowych bez zgody. Wejście do pojazdu bez anonimizacji imienia i nazwiska, TR ID i IBAN.
- Zakładając, że jest „anonimowy”. Uznanie danych za bezpieczne bez przeprowadzania testu ponownej identyfikacji.
- Dryf celowy. Wykorzystywanie danych zebranych w jednym celu w innym celu.
- Ominięcie ścieżki audytu. Nierejestrowanie danych, celu i środków; niemożność późniejszego pociągnięcia do odpowiedzialności.
- Decyzja dotycząca czarnej skrzynki. Uznanie decyzji automatycznej, której nie można uzasadnić jako uzasadnionej.
Wskazówka: Poufność i zgodność nie są „barierą”, ale podstawą zaufania. Klient ufa bankowi, bo wie, że jego dane są chronione. Ryzykowanie tego zaufania dla drogi na skróty jest najkosztowniejszym błędem.
Podsumowując
Dane Klienta to zarówno dane osobowe w rozumieniu KVKK, jak i tajemnica Klienta w rozumieniu Prawa Bankowego; Jest podwójnie chroniony. Anonimizuj (i testuj pod kątem ponownej identyfikacji), pracuj z minimalną ilością danych i minimalnym celem, używaj wyłącznie zatwierdzonych bezpiecznych narzędzi, zostaw ścieżkę audytu. Prawodawstwo wymaga przejrzystości, nadzoru ze strony człowieka, prawa do sprzeciwu i jasnego łańcucha odpowiedzialności. W jednym zdaniu: Dane to zaufanie właściciela; Za ich ochronę, rejestrację i rozliczanie odpowiedzialna jest kompetentna osoba.
Zadanie aplikacji
Napisz przykładowy tekst danych klienta (z polami identyfikacyjnymi) i przeprowadź kontrolę anonimizacji za pomocą szablonu 1; Określ, które obszary należy zamaskować. Następnie zdefiniuj zadanie i wyodrębnij minimalny zbiór danych za pomocą drugiego szablonu i usuń niepotrzebne pola. Na koniec utwórz wersję roboczą rekordu ścieżki audytu z trzecim szablonem, wymieniając, jakie informacje należy przechowywać w przypadku każdej transakcji.
lista kontrolna
- [ ] Zanonimizowałem pola identyfikacyjne i przetestowałem je pod kątem ponownej identyfikacji.
- [ ] Przetworzyłem tylko minimum danych wymaganych do wykonania zadania.
- [ ] Dane zostały przeze mnie wykorzystane wyłącznie w celu zgodnym z ich przeznaczeniem; Nie pozwoliłem, aby bramka strzeliła.
- [ ] Jeździłem wyłącznie zatwierdzonymi i bezpiecznymi pojazdami.
- [ ] Zarejestrowałem dane, cel, środki i zasady w ścieżce audytu.
- [ ] Wziąłem pod uwagę możliwość wytłumaczenia decyzji oraz prawo Klienta do sprzeciwu.