Zyski:
- Ocena, czy zastosowanie sztucznej inteligencji wymaga DPIA
- Zastosowanie siedmioetapowego procesu DPIA w projekcie AI
- Nadaj priorytet ryzyku za pomocą macierzy prawdopodobieństwa wpływu i projektowych środków łagodzących
Niektóre zastosowania sztucznej inteligencji stwarzają poważne ryzyko dla osób fizycznych: monitorowanie na dużą skalę, przetwarzanie danych wrażliwych, zautomatyzowane decyzje. W przypadku takich projektów zarówno KVKK/RODO, jak i unijna ustawa o sztucznej inteligencji oczekują ustrukturyzowanej oceny ryzyka przed rozpoczęciem prac. Nazwa tej oceny to Ocena skutków dla ochrony danych (DPIA). W tej części dowiemy się, jak stwierdzić, czy dane zastosowanie wymaga DPIA, jak zastosować siedmioetapowy proces DPIA w projekcie AI oraz jak ustalać priorytety ryzyka za pomocą macierzy prawdopodobieństwa-skutku.
Co to jest DPIA i kiedy jest potrzebna?
Ocena skutków dla ochrony danych (DPIA) to ustrukturyzowana analiza, która z wyprzedzeniem ocenia ryzyko, jakie przetwarzanie wiąże się z prawami i wolnościami osób fizycznych, oraz określa środki łagodzące. Punkt krytyczny: DPIA jest wykonywana na etapie projektowania, przed rozpoczęciem przetwarzania, a nie po wystąpieniu problemu.
DPIA jest zwykle wymagana, gdy:
- Wykorzystanie nowych technologii (często uwzględniana jest sztuczna inteligencja).
- Przetwarzanie danych osobowych na dużą skalę.
- Systematyczne monitorowanie lub profilowanie.
- Specjalne przetwarzanie danych.
- Zautomatyzowane decyzje, które znacząco wpływają na ludzi.
Wskazówka: Jeśli nie jesteś pewien, wykonaj „przegląd”: jeśli obecne są co najmniej dwa z pięciu powyższych, domyślnie wykonaj DPIA. Koszt przeprowadzenia oceny skutków dla ochrony danych jest niski; Koszt niezastosowania się do tego jest bardzo wysoki w przypadku jednego naruszenia.
Siedmioetapowy proces DPIA
DPIA stosuje się do projektu AI w siedmiu krokach:
krok
Co robisz?
1. Opis
Opisz przetwarzanie: jakie dane, cel, zakres, przepływ
2. Konieczność i proporcjonalność
Czy sztuczna inteligencja jest naprawdę konieczna? Czy istnieje mniej inwazyjny sposób?
3. Opinia interesariuszy
Uzyskaj opinię odpowiednich osób/przedstawicieli
4. Identyfikacja ryzyka
Wymień możliwe szkody wyrządzone pojedynczym osobom
5. Ocena ryzyka
Oceń każde ryzyko według prawdopodobieństwa i wpływu
6. Środki łagodzące
Zaprojektuj środki ostrożności dla każdego ryzyka, zidentyfikuj ryzyko resztkowe
7. Zatwierdzenie i przegląd
Udokumentuj wynik, przedstaw go do zatwierdzenia, okresowo aktualizuj
Priorytetyzowanie ryzyka: macierz prawdopodobieństwa i wpływu
Każde ryzyko oceniasz w dwóch wymiarach: prawdopodobieństwo jego wystąpienia i skutki, jeśli wystąpi. Połączenie tych dwóch daje pierwszeństwo.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Niewielki wpływ
efekt średni
duży wpływ
duże prawdopodobieństwo
średni
wysoki
krytyczny
średnie prawdopodobieństwo
niski
średni
wysoki
niskie prawdopodobieństwo
niski
niski
średni
Ryzyko krytyczne i wysokie to ryzyko, w przypadku którego nie należy kontynuować projektu bez podjęcia środków ostrożności. Celem nie jest wyeliminowanie każdego ryzyka; jest ograniczenie każdego ryzyka do akceptowalnego poziomu i świadoma akceptacja pozostałego (resztkowego) ryzyka.
trzy mini etui
Przypadek 1 – Pominięta DPIA. Sieć detaliczna wdraża system śledzący zachowania klientów w sklepie za pomocą sztucznej inteligencji, bez DPIA. Kilka miesięcy później ze skargi wynika, że system wyciągnął konkretne wnioski (stan zdrowia, przewidywanie ciąży). W audycie nie ma odpowiedzi na pytanie „dlaczego nie przeprowadziłeś DPIA”. Ocena skutków dla ochrony środowiska od początku wykryłaby to ryzyko na etapie projektowania i zapewniła bezpieczeństwo projektu.
Przypadek 2 – Projekt uratowany przez DPIA. DPIA przeprowadzana jest w celu wsparcia rekrutacji AI w banku. Na etapie identyfikacji ryzyka ryzyko stronniczości ze względu na płeć na podstawie danych historycznych okazuje się „wysokie”. Aby złagodzić skutki, zespół usuwa z modelu informacje o płci, przypisuje wyniki regularnym testom uprzedzeń i wymaga weryfikacji przez człowieka. Teraz ryzyko spada do „umiarkowanego” i projekt staje się akceptowalny. DPIA sprawia, że projekt jest bezpieczny, zamiast go zabijać.
Przypadek 3 – Test proporcjonalności. Firma chce skanować e-maile pracowników pod kątem „analizy lojalności” za pomocą sztucznej inteligencji. Na etapie oceny konieczności/proporcjonalności w ocenie skutków dla ochrony danych stwierdzono, że jest to zbyt inwazyjne w stosunku do celu; Istnieją mniej inwazyjne alternatywy. Projekt nie został zatwierdzony w obecnej formie. Test proporcjonalności rozróżnia „możemy” i „musimy”.
Uwaga: DPIA nie jest formularzem, który należy raz wypełnić i odłożyć na bok. Podczas przetwarzania zmian (nowe dane, nowy cel, nowe narzędzie) należy zaktualizować ocenę skutków dla ochrony danych. Brak DPIA jest bardziej mylący niż brak DPIA, ponieważ daje fałszywą pewność.
Kto przeprowadza DPIA i rejestruje ryzyko w związku z DPIA
Jedna osoba nie może wypełnić oceny skutków dla ochrony danych przy swoim biurku; Prawidłowa DPIA to wysiłek zespołowy. Zazwyczaj inspektor ochrony danych przeprowadza proces (Doer), ostateczną odpowiedzialność ponosi menedżer ds. zgodności (odpowiedzialny), odpowiednia jednostka biznesowa opisuje przetwarzanie, ocenia techniczne środki IT/bezpieczeństwa i potwierdza podstawę prawną. Nie należy zaniedbywać uzyskania opinii odpowiednich osób (krok trzeci); Jest to jednak krok najczęściej pomijany w praktyce.
Wyniki oceny skutków dla ochrony danych nie pozostają w próżni: zidentyfikowane ryzyka są rejestrowane w rejestrze ryzyk organizacji. Rejestr ryzyka to wykres na żywo, który rejestruje wszystkie otwarte ryzyka, ich priorytety, środki łagodzące, sprawców i daty ostatniego przeglądu. W ten sposób ryzyko projektu AI mówi tym samym językiem, co ogólne zarządzanie ryzykiem w organizacji i jest regularnie monitorowane.
Obszar rejestru ryzyk
przykład
Definicja ryzyka
Uprzedzenia związane z płcią w rekrutacji AI
priorytet
wysoki
Środek łagodzący
Ekstrakcja zmiennych zastępczych + testowanie błędu systematycznego
Odpowiedzialny
Inspektor ochrony danych
recenzja
co 3 miesiące
Wskazówka: traktuj DPIA zgodnie z podejściem „rejestruj i śledź ryzyko”, a nie podejściem „zrób i zapomnij”. Czy wdrożono mechanizmy ograniczania ryzyka i czy ryzyko resztkowe jest na akceptowalnym poziomie – bez ich rejestrowania ocena skutków dla ochrony danych staje się dokumentem okiennym.
Szablony do kopiowania
WZÓR 1 – Wstępna kontrola skutków dla ochrony danych: „Czy w przypadku tego zastosowania sztucznej inteligencji wymagana jest ocena skutków dla ochrony danych? [opisz zastosowanie]. Oceń pod kątem pięciu czynników: nowa technologia, przetwarzanie na dużą skalę, systematyczne monitorowanie, dane wrażliwe, znaczące zautomatyzowane podejmowanie decyzji. Ile jest czynników wyzwalających, czy zalecasz przeprowadzenie oceny skutków dla ochrony danych, wraz z uzasadnieniem.”
SZABLON 2 — Burza mózgów dotycząca identyfikacji ryzyka: „Wymień możliwe szkody wyrządzone ludziom w ramach tego projektu sztucznej inteligencji [opisz projekt]: wyciek danych, dyskryminacja, błędna ocena, naruszenie prywatności, brak przejrzystości, zmiana celów. Napisz jednozdaniowy scenariusz dla każdej szkody. Po prostu wykrywaj, ale nie przeciwdziałaj.”
WZÓR 3 – Punktacja wpływu prawdopodobieństwa: „Oceń następujące ryzyka [wypisz ryzyko] jako prawdopodobieństwo (niskie/średnie/wysokie) i wpływ (niski/średni/wysoki); priorytet (niski/średni/wysoki/krytyczny) pojawia się w każdym wierszu. Wypisz krytyczne i wysokie na górze. Przedstawione w formie tabeli.”
WZÓR 4 – Projekt łagodzenia: „Dla następującego ryzyka [wpisz ryzyko] zaproponuj co najmniej 3 środki łagodzące (techniczne, procesowe, organizacyjne). Oszacuj poziom „ryzyka rezydualnego” po każdym działaniu. Jeżeli po zastosowaniu środka ryzyko nadal jest wysokie, wskaż, że projekt powinien zostać przeprojektowany.
Słaba zachęta/silna zachęta
SŁABY: „Czy ten projekt AI jest ryzykowny?”-> Model daje niejasną odpowiedź „może”; nie klasyfikuje ryzyka, nie ustala priorytetów ryzyka, nie tworzy miar. SILNY: „Przeprowadź mini DPIA dla następującego projektu sztucznej inteligencji: (1) opisz przetwarzanie, (2) oceń potrzebę DPIA z 5 czynnikami, (3) wypisz 6 możliwych szkód dla osób, (4) oceniaj każde z nich według prawdopodobieństwa wpływu, (5) zaleć środki łagodzące w przypadku krytycznego/wysokiego ryzyka. Podejmij ostateczne decyzje prawne; przygotuj projekt, który przejdzie do zatwierdzenia prawnego.”-> Model tworzy projekt ustrukturyzowanej, wykonalnej oceny skutków dla ochrony danych.
Typowe błędy
- Dokonanie oceny skutków dla ochrony danych po rozpoczęciu transakcji (lub nawet po wystąpieniu problemu).
- Pomijanie przetwarzania obarczonego wysokim ryzykiem wymagającego oceny skutków dla ochrony danych to „nic wielkiego”.
- Nie wymienianie ryzyk i ustalanie ich priorytetów według prawdopodobieństwa i wpływu.
- Uznanie oceny skutków dla ochrony danych za „kompletną” bez przedstawienia środków dla każdego ryzyka.
- Pominięcie kroku konieczności/proporcjonalności i powiedzenie „możemy to zrobić, więc zróbmy to”.
- Jednorazowe wypełnienie DPIA i brak aktualizacji w przypadku zmiany procesu.
- Zatwierdzenie projektu bez jasnego udokumentowania ryzyka szczątkowego (pozostałego).
Podsumowując
- DPIA to ustrukturyzowana analiza, która ocenia wpływ przetwarzania wysokiego ryzyka na osoby fizyczne przed jego rozpoczęciem.
- Ocena skutków dla ochrony danych jest wymagana w przypadku nowej technologii, przetwarzania na dużą skalę, systematycznego monitorowania, danych wrażliwych lub znacznego zautomatyzowanego podejmowania decyzji.
- Proces składa się z siedmiu etapów: identyfikacja, konieczność/proporcjonalność, opinia interesariuszy, identyfikacja ryzyka, ocena, działanie, zatwierdzenie/przegląd.
- Ryzyka są szeregowane według macierzy prawdopodobieństwa i wpływu; Krytyczne/wysokie ryzyko nie jest akceptowane bez środków ostrożności.
- DPIA nie zabija projektu, czyni go bezpiecznym; Jest to dokument żywy, który należy aktualizować w miarę zmian w przetwarzaniu.
Zadanie aplikacji
Wybierz sposób wykorzystania sztucznej inteligencji, z którego może korzystać Twoja organizacja, i który może wiązać się z wysokim ryzykiem (na przykład wsparcie w zakresie rekrutacji, śledzenie zachowań lub punktacja kredytowa). Najpierw rozważ, czy konieczna jest DPIA w przypadku pięciu czynników. Następnie przeprowadź mini ocenę skutków dla tego zastosowania: opisz przetwarzanie, wypisz co najmniej sześć możliwych szkód wyrządzonych osobom, oceń każdą z nich na macierzy prawdopodobieństwa wpływu i przypisz priorytet. Zaprojektuj trzy środki łagodzące dla dwóch ryzyk krytycznych i wysokich i oszacuj poziom ryzyka rezydualnego po zastosowaniu środka. Na koniec należy zwrócić uwagę, kiedy konieczna będzie aktualizacja niniejszej oceny skutków dla ochrony danych.
lista kontrolna
- [ ] Oceniłem wymóg dotyczący oceny skutków dla ochrony danych, uwzględniając pięć czynników.
- [ ] Zdefiniowałem przetwarzanie (dane, cel, zakres, przepływ).
- [ ] Kwestionowałem konieczność i proporcjonalność.
- [ ] Wymieniłem możliwe szkody dla poszczególnych osób.
- [ ] Ustaliłem priorytety ryzyk w macierzy prawdopodobieństwa i wpływu.
- [ ] Zaprojektowałem środki łagodzące dla ryzyka krytycznego/wysokiego.
- [ ] Udokumentowałem już ryzyko i ustaliłem warunki przeglądu.