Zyski:
- Możliwość ustanowienia elementów struktury zarządzania sztuczną inteligencją, która równoważy szybkość, bezpieczeństwo i spójność
- Umiejętność zaprojektowania wielofunkcyjnej tablicy AI i prostych, mających zastosowanie podstawowych zasad (dopuszczalne wykorzystanie, dane, ryzyko)
- Możliwość warstwowego zatwierdzania zgodnie z poziomem ryzyka i utrzymywania zarządzania w terenie dzięki inwentaryzacji systemu i regularnym audytom
Strategia, przypadek użycia, ROI i ryzyko; Wszyscy są silni, ale osobno są nieporządni. Tym, co je łączy, czyni powtarzalnymi i daje zaufanie instytucji, jest zarządzanie (zarządzanie; ramy określające, kto będzie podejmował decyzje, na podstawie jakich zasad i pod jaką kontrolą). Zarządzanie jest stałą odpowiedzią na pytanie: „Jak odpowiedzialnie wdrażać sztuczną inteligencję w tym przedsiębiorstwie?” W tej części dowiesz się, jak ustanowić zarządzanie sztuczną inteligencją, pisemne zasady i strukturę rady decyzyjnej. Celem nie jest tworzenie biurokracji; Aby zapewnić bezpieczną i powtarzalną pracę bez spowalniania prędkości.
Dlaczego zarządzanie jest niezbędne?
W organizacji pozbawionej nadzoru każdy zespół ustala własne zasady: jeden wkleja dane klienta do publicznego narzędzia, drugi wprowadza do produkcji niecertyfikowany model, trzeci w ogóle nie ocenia ryzyka. Kiedy pojawiają się problemy, „kto to zatwierdził?” Nie ma odpowiedzi na pytanie. Zarządzanie wypełnia tę lukę: kto decyduje, jakie zasady mają zastosowanie, kto monitoruje i kto ponosi odpowiedzialność w przypadku pojawienia się problemów.
Dobre zarządzanie równoważy trzy rzeczy: szybkość (nie tłumienie inicjatywy), bezpieczeństwo (kontrola ryzyka) i spójność (wszyscy grają według tych samych zasad). Nadmierne zarządzanie zabija prędkość; Niekompletne zarządzanie zabija zaufanie. Równowaga jest sztuką.
Wskazówka: konfigurując zarządzanie, utwórz warstwy w oparciu o poziom ryzyka, od „najwolniejszej, najbezpieczniejszej ścieżki” do „najszybszej i najbardziej ryzykownej ścieżki”. Praca obarczona niskim ryzykiem powinna przebiegać szybko; Tylko prace obarczone wysokim ryzykiem powinny podlegać rygorystycznemu zatwierdzeniu. Stosowanie tego samego uciążliwego procesu wobec wszystkich sprawia, że zarządzanie zostaje uznane za wroga.
Składniki zarządzania
komponent
Co to robi?
przykład
tablica sztucznej inteligencji
Decyzja strategiczna, priorytet, zatwierdzenie
Comiesięczne spotkania, zatwierdzenie wysokiego ryzyka
Zestaw zasad/polityki
pisane zasady
Dopuszczalne zastosowanie, dane, dostawca
Role i własność
Kto jest za co odpowiedzialny
Właściciel firmy w każdym obszarze zastosowania
Proces ryzyka i zatwierdzania
Jak zacząć
Poziom zatwierdzenia na podstawie poziomu ryzyka
Monitorowanie i audytowanie
Ciągła kontrola
Monitoring znoszenia, przeglądy okresowe
Rejestracja/inwentaryzacja
Co gdzie działa
Inwentaryzacja systemów sztucznej inteligencji
Rada ds. sztucznej inteligencji (rada / komitet sterujący ds. sztucznej inteligencji) to organ składający się z przedstawicieli wysokiego szczebla reprezentujących różne funkcje (biznes, technologia, prawo, ryzyko, dane), nadający kierunek strategiczny i zatwierdzający inicjatywy wysokiego ryzyka. Zarząd nie zarządza projektami; wyznacza ramy i podejmuje krytyczne decyzje.
Podstawowe zasady
Każda organizacja potrzebuje przynajmniej tych zasad:
- Polityka dopuszczalnego użytkowania: Z jakich narzędzi AI mogą korzystać pracownicy, z jakimi danymi i do czego? (Przykład: „Nie wprowadzaj danych osobowych klienta do nieautoryzowanego narzędzia zewnętrznego.”)
- Polityka danych i prywatności: Jakie dane, gdzie i w jaki sposób są przetwarzane? Jak zapewnić zgodność z KVKK?
- Polityka ryzyka i akceptacji: jakie oceny przechodzi startup przed wejściem do produkcji?
- Polityka dostawców/zakupów: Według jakich kryteriów wybierani są zewnętrzni dostawcy AI? (Część 11)
- Polityka przejrzystości: Kiedy klient/pracownik zostaje powiadomiony, że wykorzystywana jest sztuczna inteligencja?
Krok po kroku: ustanowienie zarządzania
1. Utwórz tablicę. Przedstawiciel biznesu, technologii, prawa, ryzyka i danych; wyraźny autorytet i rytm spotkań.
2. Napisz podstawowe zasady. Zapisz powyższe pięć zasad w sposób prosty i mający zastosowanie; To nie powieść, to reguła.
3. Ustanów proces zatwierdzania oparty na ryzyku. Niskie ryzyko szybko, wysokie ryzyko ciężkiego zatwierdzenia.
4. Zachowaj zapasy. Który system sztucznej inteligencji gdzie jest, kto jest za to odpowiedzialny, na jakim poziomie ryzyka.
5. Zinstytucjonalizuj monitorowanie i kontrolę. Przeglądy okresowe, kontrola dryftu i zgodności.
trzy mini etui
Przypadek 1 – Wyciek bez polityki. W jednej z kancelarii prawnicy korzystali z poufnych dokumentów sprawy podsumowanych za pomocą publicznie dostępnego narzędzia sztucznej inteligencji. Uważano, że jest to normalne, ponieważ nie istniały żadne zasady dopuszczalnego użytkowania. Kiedy klient dowiedział się o tym, nastąpił kryzys zaufania. Firma szybko napisała politykę, zapewniła narzędzie dla przedsiębiorstw (zabezpieczające dane) i zapewniła szkolenia. Gdyby taka polityka była prowadzona od początku, kryzys by nie nastąpił.
Przypadek 2 — Równowaga szachownicy. Jeden z producentów zbudował płytkę AI wyłącznie w oparciu o swój zespół technologiczny. Rada wydała zgody, które były technicznie doskonałe, ale obarczone ślepotą prawną i etyczną. Kiedy do zarządu dodano przedstawiciela ds. prawnych i ds. ryzyka, wykryto poważny problem związany z przestrzeganiem zasad, zanim przedsięwzięcie wysokiego ryzyka mogło wejść do produkcji. Różnorodność była wizją zarządu.
Przypadek 3 – Zarządzanie tłumiące dynamikę. W jednym banku każdy pomysł na sztuczną inteligencję, nawet ten o niskim ryzyku, przeszedł rygorystyczny, 6-tygodniowy proces zatwierdzania. Zespoły zaczęły unikać tego procesu i używać pojazdów „cienia”. Bank dokonał podziału akceptacji ze względu na poziom ryzyka: stanowiska niskiego ryzyka w ciągu 3 dni, stanowiska wysokiego ryzyka w całym procesie. Wróciła zarówno prędkość, jak i kontrola; Zmniejszone użycie cienia.
Cztery szablony do kopiowania
1) Projekt powołania Zarządu:
Twoja rola: doradca ds. zarządzania sztuczną inteligencją. Zaproponuj nam projekt zarządu sztucznej inteligencji: ilu członków z jakich funkcji, uprawnienia zarządu, częstotliwość posiedzeń, jakie decyzje zatwierdza, które pozostawia zespołom. Unikaj nadmiernej biurokracji; Zaproponuj równowagę, która utrzyma prędkość.
2) Projekt polityki dopuszczalnego użytkowania:
[Branża] opracowuje prostą, możliwą do wyegzekwowania „politykę dopuszczalnego wykorzystania sztucznej inteligencji” dla organizacji: jakich narzędzi można używać, z jakimi danymi i do czego; co jest surowo zabronione; Co się stanie w przypadku naruszenia? Pisz punkt po punkcie, zrozumiałym językiem.
3) Proces zatwierdzania oparty na ryzyku:
Zaprojektuj dla nas warstwowy proces zatwierdzania sztucznej inteligencji w oparciu o poziom ryzyka: jakie kroki, czyje zatwierdzenie, jak długo, oddzielnie dla niskiego/średniego/wysokiego ryzyka. Upewnij się, że praca obarczona niskim ryzykiem przebiega szybko, a praca obarczona wysokim ryzykiem przechodzi rygorystyczną kontrolę.
4) Szablon ekwipunku AI:
Zaprojektuj szablon inwentarza do rejestrowania systemów AI w organizacji: nazwa systemu, przeznaczenie, właściciel firmy, poziom ryzyka, wykorzystane dane, dostawca, data ostatniego audytu. Krótko wyjaśnij, dlaczego każde pole jest konieczne.
Słaba zachęta/silna zachęta
Słabe: „Napisz nam politykę dotyczącą sztucznej inteligencji”.
Wynik: tekst, który jest ogólny, nie pasuje do instytucji i jest zbyt abstrakcyjny, aby można go było zastosować.
Güçlü: „Jesteśmy 200-osobową firmą zajmującą się technologią medyczną, pracujemy z danymi pacjentów i podlegamy KVKK. Opracuj prostą, wykonalną politykę dopuszczalnego użytkowania określającą, w jaki sposób pracownicy mogą korzystać z narzędzi sztucznej inteligencji: zasada dotycząca danych pacjentów, zatwierdzone narzędzia, zakazy i konsekwencje naruszenia. Napisz to klauzula po klauzuli i jasnym językiem; załóż, że sprawdzi to nasz zespół prawny”.
Wynik: obowiązujący projekt, który pasuje do instytucji, sektora i prawodawstwa.
Typowe błędy
- W ogóle nie ustanawiając zarządzania. Powiedzenie „zobaczymy później” oznacza cichą kumulację ryzyka.
- Nadmierna biurokracja. Stosowanie dużej akceptacji każdego zadania popycha zespoły do korzystania z cienia.
- Płyta jednofunkcyjna. Sama technologia lub zarząd posiadający jedynie reprezentację prawną tworzy martwe punkty; różnorodność jest koniecznością.
- Nie pisanie polityki i umieszczanie jej w terenie. Polisa leżąca na półce nie zapewnia ochrony; Należy je wspierać szkoleniami i narzędziami.
- Nie prowadzenie zapasów. Instytucja, która nie wie, nad czym pracuje, nie może wiedzieć, co kontrolować.
Uwaga: sztuczna inteligencja może przygotować projekt polityki lub zarządu; Projektów tych nie należy jednak wprowadzać w życie bez dostosowania ich do realiów, branży i prawodawstwa instytucji oraz sprawdzenia przez działy prawne i ds. ryzyka. Polityka stworzona przez sztuczną inteligencję jest planem odpowiedzialnej decyzji korporacyjnej, a nie sama w sobie.
Podsumowując
Zarządzanie to ramy, które sprawiają, że strategia AI jest trwała, powtarzalna i niezawodna; równoważy szybkość, bezpieczeństwo i spójność. Jego kluczowymi elementami są wielofunkcyjna tablica AI, proste i wykonalne zasady, jasne role, przepływ zatwierdzeń oparty na ryzyku, ciągłe monitorowanie i inwentaryzacja systemu. Nadmierne tempo biurokracji i niepełne zarządzanie zabijają zaufanie; Równowaga sprowadza się do nawarstwiania w zależności od poziomu ryzyka. Polityki powinny obowiązywać w terenie dzięki szkoleniom i narzędziom, a nie na półce. W kolejnej części omówimy zasady etycznej i odpowiedzialnej sztucznej inteligencji, które stanowią moralną podstawę zarządzania.
Zadanie aplikacji
Przygotuj tablicę AI dla swojej organizacji: kto z niej funkcjonuje, z jakim autorytetem i w jakim rytmie. Następnie utwórz projekt polityki dopuszczalnego użytkowania przy użyciu szablonu 2 i ręcznie dostosuj co najmniej trzy klauzule zgodnie z rzeczywistymi danymi/warunkami prawnymi Twojej instytucji. Na koniec opisz w jednym zdaniu trzy poziomy (niski/średni/wysoki) procesu zatwierdzania opartego na ryzyku.
lista kontrolna
- [ ] Zaprojektowałem wielofunkcyjną konstrukcję tablicową.
- [ ] Opracowałem przynajmniej jedną podstawową politykę.
- [ ] Dostosowałem politykę do ustawodawstwa organizacji i rzeczywistości danych.
- [ ] Zdefiniowałem wielopoziomowy proces zatwierdzania oparty na ryzyku.
- [ ] Skonfigurowałem szablon inwentarza systemu AI.
- [ ] Zaplanowałem rytm monitorowania i kontroli.
- [ ] Myślałem o tym, jak wdrożyć politykę w terenie (szkolenie/narzędzie).