Zyski:
- Zastosuj kryteria oceny przed zakupem narzędzia AI
- Rozpoznanie elementów, których należy szukać w umowie powierzenia przetwarzania danych (DPA) i karcie wzoru
- Utwórz zatwierdzoną listę pojazdów i punktację ryzyka dostawcy
Co robisz, gdy jednostka biznesowa przychodzi do Twoich drzwi i mówi „chcemy zastosować to nowe narzędzie AI, będzie bardzo przydatne”? Powiedzenie „nie ma mowy” zasila sztuczną inteligencję cienia; Powiedzenie „ok” otwiera niekontrolowane ryzyko. Prawidłową odpowiedzią jest przeprowadzenie procesu oceny pojazdu. W tej części dowiemy się, jakie pytania zadać przed zakupem/certyfikacją pojazdu AI, na co zwrócić uwagę w umowie o przetwarzaniu danych (DPA) i karcie modelu oraz jak przełożyć to wszystko na zatwierdzoną listę pojazdów i ocenę ryzyka dostawcy.
Dlaczego ewaluacja jest konieczna?
Każde narzędzie AI jest procesorem danych: przetwarza dane organizacji. Zatwierdzenie niewłaściwego narzędzia oznacza przekazanie danych osobowych organizacji podmiotowi trzeciemu (i często za granicą) w sposób niekontrolowany. Podstawowe pytania, na które należy odpowiedzieć przed zatwierdzeniem narzędzia:
- Gdzie przetwarza i przechowuje dane (w jakim kraju)?
- Czy wykorzystuje nasze dane w szkoleniu modeli? Czy można to wyłączyć (opt-out)?
- Czy oferuje umowę o przetwarzaniu danych (DPA)?
- Czy istnieją certyfikaty bezpieczeństwa (np. ISO 27001)?
- Jak długo przechowywana jest historia czatów i czy można ją usunąć?
- Czy istnieje obowiązek powiadamiania nas w przypadku naruszenia bezpieczeństwa?
Umowa o przetwarzaniu danych (DPA)
Umowa o przetwarzaniu danych (DPA) to umowa podpisana pomiędzy administratorem danych (instytucją) a podmiotem przetwarzającym dane (dostawcą sztucznej inteligencji), która określa, w jaki sposób dane będą przetwarzane. KVKK i RODO w dużej mierze to nakazują. Elementy, na które należy zwrócić uwagę w DPA:
sprawa
Co powinien zapewniać?
Zakres i cel przetwarzania
Pozwól dostawcy działać wyłącznie zgodnie z naszymi instrukcjami
Podprocesory
Komu jest przekazywany? Czy jest to zgłaszane z wyprzedzeniem?
Zapewnienie transferu
Standardowe klauzule umowne lub równoważne
Środki bezpieczeństwa
Szyfrowanie, kontrola dostępu, ISO 27001
Powiadomienie o naruszeniu
Powiadomienie nas w określonym terminie w przypadku naruszenia
Usunięcie/powrót
Zobowiązanie do usunięcia/zwrócenia danych po zakończeniu umowy
Prawo do audytu
Możliwość audytu dostawcy lub otrzymywania raportów
Uwaga: większość „bezpłatnych” i „indywidualnych” planów AI nie oferuje DPA i może wykorzystywać dane do szkolenia modeli. W przypadku zastosowań korporacyjnych preferowane powinny być plany korporacyjne/biznesowe oferujące DPA i gwarantujące rezygnację z edukacji. Plan bezpłatny to często plan, w którym dane są „płatne”.
Karta modelu i przezroczystość
Karta modelu to dokument wyjaśniający, do czego przeznaczony jest model AI, z jakich danych jest szkolony, jakie są jego ograniczenia i znane ryzyko. Dobry dostawca udostępnia to. Rzeczy, na które należy zwrócić uwagę na karcie modelu: przeznaczenie modelu, znane ograniczenia i ryzyko stronniczości, niezalecane zastosowania oraz uwagi dotyczące wydajności/bezpieczeństwa. Jeśli brakuje karty modelu lub jest ona bardzo niejasna, jest to samo w sobie sygnał ostrzegawczy.
trzy mini etui
Przypadek 1 — Koszt planu bezpłatnego. Zespół księgowy rozpoczyna przetwarzanie danych finansowych klientów za pomocą bezpłatnego narzędzia AI. Narzędzie nie oferuje DPA i w jego warunkach stwierdza, że może wykorzystywać dane do uczenia modeli. Inspektor ds. zgodności zauważa to i zakazuje narzędzia, zatwierdzając korporacyjną alternatywę oferującą DPA. Różnica: kilkaset TL miesięcznie za licencję itp. Możliwe kary rzędu milionów funtów.
Przypadek 2 — Niespodzianka podprocesora. Kilka miesięcy później podczas audytu firma odkrywa, że zatwierdzone przez nią narzędzie AI przekazało dane podwykonawcom przetwarzania w trzech różnych krajach. Ponieważ w Umowie Ochrony Danych nie ma klauzuli „podprzetwarzający zostaną powiadomieni z wyprzedzeniem”, firma nie była tego świadoma. Lekcja: klauzula w DPA, która uwidacznia łańcuch podwykonawców przetwarzania, jest koniecznością.
Przypadek 3 – Decyzja na podstawie punktacji. Organizacja tworzy tabelę oceny ryzyka dostawcy składającą się z 8 kryteriów, aby porównać trzy narzędzia sztucznej inteligencji (DPA, lokalizacja danych, rezygnacja ze szkoleń, ISO 27001, powiadomienie o naruszeniu, usunięcie, karta wzorców, cena). Wynik oceny wyróżnia narzędzie, które nie jest najpopularniejsze, ale najbardziej kompatybilne. Decyzja opiera się na udokumentowanej punktacji, a nie na subiektywnym stwierdzeniu „Podobało mi się”.
Wskazówka: zarządzaj listą zatwierdzonych pojazdów jako „białą listą”: zezwalaj tylko na pojazdy znajdujące się na liście. Czarna lista musi być aktualizowana przy każdym nowym narzędziu i zawsze jest o krok z tyłu; Biała lista jest domyślnie bezpieczna.
Ryzyko wyjścia i uzależnienia
Pytanie, które większość agencji pomija przy zatwierdzaniu pojazdu, brzmi: „Co się stanie, jeśli będziemy chcieli wysiąść z tego pojazdu?” Dobra ocena uwzględnia zarówno wyjście, jak i wejście. Wyróżniają się dwa zagrożenia. Pierwszą z nich jest możliwość przenoszenia danych: czy po opuszczeniu dostawcy można odzyskać dane i konfigurację w standardowym formacie, czy też dane są zablokowane u dostawcy? Drugim jest uzależnienie od dostawcy: procesy biznesowe mogą być tak powiązane z jednym narzędziem, że koszt wyjścia staje się nie do zniesienia, gdy dostawca podnosi ceny lub zakłóca usługę.
Dlatego też dobrą praktyką jest dodanie do rekordu potwierdzenia także linii „plan wyjścia”: w jaki sposób odzyskamy dane, jakie jest alternatywne narzędzie, ile czasu zajmuje przejście. Nawet jeśli pewnego dnia dostawca przestanie świadczyć usługę, organizacja będzie przygotowana.
Uwaga: to, że pojazd jest popularny lub tani, nie oznacza, że jest zrównoważony. Mali dostawcy mogą zostać zamknięci, przejęci lub nagle zmienić swoje zasady. Przed podłączeniem procesu krytycznego do pojedynczego narzędzia należy rozważyć scenariusz wyjścia.
Szablony do kopiowania
SZABLON 1 — Zestaw pytań oceniających dostawcę: „Przygotuj pytania oceniające, które należy zadać dostawcy przed zatwierdzeniem nowego narzędzia AI. Uwzględnij: lokalizację danych, wykorzystanie i rezygnację z szkolenia modelowego, obecność DPA, certyfikaty bezpieczeństwa, okres przechowywania, powiadomienie o naruszeniu, podwykonawcy przetwarzania, zobowiązanie do usunięcia. Dołącz oczekiwaną „bezpieczną” odpowiedź na każde pytanie”.
WZÓR 2 – Lista kontrolna klauzuli DPA: „Sprawdź projekt DPA poniżej [wklej tekst] pod kątem następujących klauzul: zakres przetwarzania, podwykonawcy przetwarzania, zapewnienie przekazania, środki bezpieczeństwa, okres powiadamiania o naruszeniu, usunięcie/zwrot, prawo do audytu. Przy każdej klauzuli zaznacz „obecny/brak/niepewny”. Przypomnij, że wymagana jest zgoda prawna; nie dokonuj ostatecznych ocen.”
SZABLON 3 — Tablica wyników ryzyka dostawcy: „Skonfiguruj tablicę wyników ryzyka zawierającą 8 kryteriów, aby porównać 3 narzędzia sztucznej inteligencji: DPA, lokalizacja danych, rezygnacja ze szkoleń, ISO 27001, powiadomienie o naruszeniu, usunięcie, karta wzorców, koszt. Niech każde kryterium będzie wynosić 0–3 punkty, dodaj sumę i kolumnę rekomendacji. Podaj pusty szablon, a ja go wypełnię.”
SZABLON 4 – Zatwierdzony wpis na liście narzędzi: „Projekt nowego wpisu na zatwierdzonej liście narzędzi AI: nazwa narzędzia, zatwierdzone przeznaczenie, dozwolone klasy danych (publiczne/wewnętrzne/poufne), zabronione typy danych, jednostka odpowiedzialna, data zatwierdzenia, data przeglądu. W formacie zapisu jednowierszowego.”
Słaba zachęta/silna zachęta
SŁABY: „Czy to narzędzie AI jest bezpieczne?”-> Powtarza obietnicę marketingową narzędzia modelowego; Nie ocenia konkretnych kryteriów, takich jak DPA, lokalizacja danych, wykorzystanie szkoleń. STRONG: „Ocenię to narzędzie AI do użytku w przedsiębiorstwach. Jakich informacji powinienem zażądać od dostawcy na podstawie następujących 8 kryteriów (DPA, lokalizacja danych, rezygnacja ze szkoleń, ISO 27001, powiadomienie o naruszeniu, przechowywanie, podprocesor, model karty) i jaki powinien być „akceptowalny” próg w przypadku każdego kryterium? Podaj w formie arkusza kontrolnego. -> Model tworzy konkretne, weryfikowalne ramy oceny.
Typowe błędy
- Korzystanie z bezpłatnych/indywidualnych planów z danymi korporacyjnymi; Nie zdając sobie sprawy, że nie ma DPA i rezygnacji.
- Zatwierdzenie narzędzia w oparciu o obietnicę marketingową, bez pytania o lokalizację danych i wykorzystanie edukacyjne.
- Udostępnianie danych bez podpisywania umowy DPA i sprawdzania klauzuli podwykonawcy przetwarzania.
- Dopuszczenie pojazdu bez karty modelu/niepewnego modelu bez żadnych pytań.
- Prowadzenie listy zakazów zamiast białej listy i pozostawanie w tyle przy każdym nowym pojeździe.
- Brak ponownego przeglądu pojazdu po zatwierdzeniu (zmiana warunków).
- Opieranie wyboru dostawcy na subiektywnych preferencjach, a nie na potwierdzalnym wyniku.
Podsumowując
- Każde narzędzie AI jest procesorem danych; Przed zatwierdzeniem niezbędna jest systematyczna ocena.
- Podstawowym dokumentem wiążącym dane jest umowa powierzenia przetwarzania danych (DPA). Powinien zawierać klauzule dotyczące zakresu, podwykonawcy przetwarzania, bezpieczeństwa, naruszenia i usunięcia.
- Plany bezpłatne/indywidualne często nie oferują DPA i nie wykorzystują danych do szkoleń; Preferowane powinny być plany korporacyjne.
- Karta modelu pokazuje ograniczenia i ryzyko modelu; Jego brak jest sygnałem ostrzegawczym.
- Zatwierdzonymi narzędziami należy zarządzać w formie białej listy, a dostawcami należy zarządzać w oparciu o udokumentowaną ocenę ryzyka.
Zadanie aplikacji
Wybierz trzy prawdziwe narzędzia AI, z których może chcieć skorzystać Twoja organizacja. Skonfiguruj tabelę oceny ryzyka dostawcy z ośmioma kryteriami (DPA, lokalizacja danych, rezygnacja ze szkolenia, certyfikat bezpieczeństwa, powiadomienie o naruszeniu, przechowywanie, karta modelu, koszt) i oceń każdy pojazd w skali od 0 do 3 na podstawie tych kryteriów. Następnie napisz zatwierdzony wpis na liście pojazdów dla pojazdu, który uzyskał najwyższą liczbę punktów: zatwierdzone przeznaczenie, dozwolone klasy danych, zabronione typy danych, podmiot odpowiedzialny i data przeglądu. Na koniec zwróć uwagę na pięć elementów, które na pewno chcesz zobaczyć w DPA pojazdu i dlaczego każdy z nich jest ważny.
lista kontrolna
- [ ] Przed zatwierdzeniem narzędzia zadałem pytania oceniające.
- [ ] Wyjaśniłem lokalizację danych i przypadek użycia w szkoleniu modeli.
- [ ] Sprawdziłem istnienie DPA i jego kluczowych elementów.
- [ ] Sprawdziłem kartę modelu; Widziałem ograniczenia i ryzyko.
- [ ] Oceniłem dostawcę na podstawie udokumentowanej oceny ryzyka.
- [ ] Dodałem narzędzie do białej listy z dozwolonymi klasami danych.
- [ ] Ustaliłem datę recenzji.