Zyski:
- Umiejętność wykrycia ukrytej dyskryminacji poprzez zrozumienie, że błąd wynika z danych (historycznych, reprezentacyjnych, pomiarowych, agregacyjnych) i ocenę modelu na podstawie podgrup
- Możliwość zapewnienia przejrzystości, nadzoru ze strony człowieka i odpowiedzialności za decyzje o dużym wpływie oraz przejrzystość dokumentowania za pomocą karty wzorcowej
- Możliwość zarządzania kosztami finansowymi i środowiskowymi bez utraty jakości dzięki najmniejszemu odpowiedniemu modelowi, szybkiemu skracaniu, buforowaniu i wsadom
Model może technicznie działać doskonale, ale nadal być błędny – jeśli jest nieuczciwy wobec niektórych osób, niewytłumaczalny lub powoduje niezrównoważone koszty. W tej jednostce omawiamy trzy „niewidoczne”, ale decydujące wymiary inżynierii uczenia maszynowego: stronniczość i uczciwość, etykę i przejrzystość, koszty i zrównoważony rozwój. To nie są dodawane później ozdoby, ale integralne elementy jakości inżynierskiej.
Skąd biorą się uprzedzenia?
Stronniczość modelu (systematyczne traktowanie przez model pewnych grup w inny lub niesprawiedliwy sposób) zwykle wynika z danych, a nie z modelu. Źródła:
- Stronniczość historyczna: dane odzwierciedlają niesprawiedliwość z przeszłości. Jeśli w przeszłości określonej grupie przyznano mniejsze uznanie, model wytrenowany na tych danych nauczy się i utrwali tę dyskryminację.
- Stronniczość reprezentacji: niektóre grupy są niedostatecznie reprezentowane w danych; model działa w ich przypadku słabo (np. niska dokładność w małej próbie demograficznej).
- Błąd pomiaru: same etykiety są stronnicze (np. jeśli definicja „dobrego pracownika” opiera się na wcześniejszych decyzjach o awansach).
- Błąd agregacji: ponieważ dane pochodzą z określonego kanału, nie są one reprezentatywne dla wszechświata.
Model nie tylko uczy się tych uprzedzeń; skaluje się poprzez automatyzację. stronnicza decyzja jednej osoby wpływa na inną osobę; Werdykt stronniczego modelu to miliony.
Uwaga: nie popełnij błędu, mówiąc: „model jest neutralny, ponieważ to tylko matematyka”. Model uczy się i automatyzuje ludzkie błędy w danych. Neutralność nie jest wartością domyślną, ale wynikiem, który należy zmierzyć i zapewnić.
mierzenie sprawiedliwości
Aby wymierzyć sprawiedliwość, trzeba ją najpierw zmierzyć. Aby to zrobić, oceń model na podstawie podgrup: czy wskaźniki takie jak dokładność, zapamiętywanie i odsetek wyników fałszywie dodatnich są równe w różnych grupach demograficznych? Kilka koncepcji sprawiedliwości:
- Sprawiedliwość grupowa: czy model traktuje różne grupy prawidłowo/nieprawidłowo w podobnym stopniu?
- Równość szans: czy model ujmuje te naprawdę pozytywne w równym stopniu we wszystkich grupach (jednakowa pamięć)?
Ważny fakt: różne definicje sprawiedliwości mogą nie być spełnione jednocześnie (jest to konsekwencja matematyczna). To, która definicja sprawiedliwości ma w tym kontekście pierwszeństwo, jest decyzją etyczną i biznesową, a nie techniczną, podejmowaną wspólnie z interesariuszami.
Słabe podejście / Silne podejście
Słabo: „Ogólna dokładność modelu wynosi 88%, co jest wynikiem zadowalającym”.
Güçlü: „Ogólna dokładność wyniosła 88%, ale kiedy podzieliliśmy ją na podgrupy, powtarzalność wyniosła 91% w jednej grupie i 67% w drugiej – w modelu systematycznie brakowało tej grupy. Udokumentowaliśmy przyczynę (brak reprezentacji), zebraliśmy dane dla tej grupy i ponownie ją oceniliśmy, mając na celu równą liczbę osób przypominających. Wspólnie z zainteresowanymi stronami zdecydowaliśmy, jaką definicję uczciwości potraktujemy priorytetowo”.
Różnica: mocne podejście nie kryje się za ogólną metryką, oddziela podgrupy i traktuje sprawiedliwość jako otwartą decyzję.
Etyka i przejrzystość
Podstawowe zasady odpowiedzialnej sztucznej inteligencji to:
- Wyjaśnialność: Czy można wyjaśnić, dlaczego model podjął taką decyzję? W przypadku decyzji o dużym wpływie (kredyt, zatrudnienie, opieka zdrowotna) każdy ma prawo do wyjaśnień. Niewyjaśnionego modelu nie należy stosować w tych obszarach lub należy go poprzeć dającą się wyjaśnić metodą.
- Nadzór człowieka: decyzje o dużym wpływie nie powinny być podejmowane automatycznie; Model sugeruje, człowiek potwierdza.
- Odpowiedzialność: powinno być jasne, kto jest odpowiedzialny za błąd modela. „Model zdecydował” nie jest wymówką.
- Przejrzystość: użytkownik powinien wiedzieć, że wchodzi w interakcję z sztuczną inteligencją i w jaki sposób wykorzystywane są jego dane.
W wielu krajach i sektorach zasady te są również osadzone w prawodawstwie (obowiązki w zakresie przejrzystości, audytu i nadzoru ludzkiego w przypadku systemów sztucznej inteligencji wysokiego ryzyka). Inżynier jest odpowiedzialny za znajomość przepisów obowiązujących w swojej dziedzinie.
Wskazówka: Zachowaj „kartę modelu” dla każdego modelu o dużym wpływie: co model robi, na jakich danych został wyszkolony, jak dobrze/słabo działa w jakich grupach, jakie są jego znane ograniczenia. Dokument ten jest narzędziem zapewniającym zarówno przejrzystość, jak i rozliczalność.
Koszt i trwałość
Sztuczna inteligencja nie jest tania. Zarządzanie kosztami odbywa się w dwóch wymiarach:
Koszt finansowy:
- Koszt tokena (LLM): każde żądanie i odpowiedź kosztują tokeny; Wraz ze wzrostem wolumenu rośnie rachunek. Niepotrzebnie długie podpowiedzi, zbyt duży wybór modeli i niekontrolowane pętle agentów (część 5) zawyżają koszty.
- Szkolenia i hosting: Dostrajanie i prezentacja modelu wiążą się z kosztami sprzętu.
- Optymalizacja: Nie używaj dużego modelu, jeśli wystarczy mały model; buforuj często zadawane pytania; skróć monit; Porcjuj to, co można przetworzyć.
Koszt środowiskowy: uczenie i wnioskowanie dużych modeli zużywa znaczną ilość energii. Zrównoważony rozwój sprawia, że unikanie niepotrzebnych obliczeń (właściwy rozmiar modelu, wydajna architektura) jest odpowiedzialnością zawodową.
Wskazówka: Pierwsza zasada optymalizacji kosztów: „Jaki jest najmniejszy odpowiedni model do tego zadania?” Umieszczanie wszędzie najpotężniejszego modelu jest jak wbijanie gwoździa młotem – drogie i niepotrzebne.
trzy mini etui
Przypadek 1 – Ukryta dyskryminacja. Model kontroli rekrutacji wyglądał ogólnie dobrze. Analiza podgrup wykazała, że w modelu systematycznie podkreślano kandydatki, ponieważ dane historyczne były zdominowane przez mężczyzn – nauczył się uprzedzeń historycznych. Model zatrzymano, zbilansowano dane i monitorowano metryki sprawiedliwości. Ogólna sprawiedliwość zakryła ukrytą dyskryminację.
Przypadek 2 – Niewyjaśnione odrzucenie. Model kredytowy odrzucał wnioski, ale nikt nie potrafił wyjaśnić dlaczego. Gdy klient poprosił o wyjaśnienia prawne, zespół nie był w stanie odpowiedzieć. Model został wycofany z użycia w przypadku decyzji o dużym wpływie do czasu dodania dającej się wyjaśnić metody i przedstawienia uzasadnienia dla każdego odrzucenia. Lekcja: wyjaśnialność jest niezbędna w procesie podejmowania decyzji o dużym wpływie.
Przypadek 3 – Szok związany z rachunkiem. Jeden zespół korzystał z największego LLM i bardzo długich podpowiedzi dla każdego żądania. Miesięczny rachunek nieoczekiwanie wzrósł. Analiza postów: większość żądań można było rozwiązać za pomocą małego modelu, połowa podpowiedzi była zbędna, a częste pytania można było buforować. Te trzy optymalizacje znacznie obniżyły koszty, bez utraty jakości. Lekcja: najmocniejszy model nie jest wszędzie potrzebny.
Szablony do kopiowania
Pomóż mi ocenić ten model pod kątem stronniczości/uczciwości. Które podgrupy (demograficzne/segmenty) należy podzielić i zmierzyć? Jakie wskaźniki (dokładność, zapamiętywanie, odsetek wyników fałszywie dodatnich w poszczególnych grupach) powinienem porównać? Czy różne definicje sprawiedliwości mogą być sprzeczne? Które z nich powinny być w tym kontekście traktowane priorytetowo i dlaczego? Kontekst modelu/decyzji: [wyjaśnienie]
Przygotuj kartę modelu roboczego dla tego modelu o dużym wpływie. Powinno obejmować: cel, dane i datę szkolenia, wyniki w podgrupach, znane limity, właściwe/niewłaściwe użycie, status wyjaśnialności, punkt nadzoru ludzkiego. Modelka: [opis]
Pomóż mi obniżyć koszty wdrożenia LLM bez utraty jakości. Dostępne: rozmiar modelu, średnia długość podpowiedzi, wielkość żądań, czy dostępna jest pamięć podręczna? Oceń: 1) Czy mniejszy model wystarczy (do jakich zadań)? 2) Czy można skrócić monit? 3) Czy częste żądania mogą być buforowane? 4) Czy jest dostępna praca dla partii? Zapisz szacowany wpływ każdej sugestii.
Przygotuj listę kontrolną etyki/odpowiedzialności dla tego systemu decyzyjnego o dużym wpływie. - Wyjaśnialność: czy można przedstawić uzasadnienie decyzji? - Nadzór ludzki: czy decyzja o dużym wpływie wymaga zatwierdzenia? - Odpowiedzialność: kto jest odpowiedzialny w przypadku błędu? - Przejrzystość: czy użytkownik wie, że wykorzystywana jest sztuczna inteligencja? - Regulacje: jakie wiążą się z tym zobowiązania prawne? System: [opis]
Tabela źródeł odchyleń
Źródło
objaw
środek ostrożności
historyczne nastawienie
Dyskryminacja z przeszłości trwa nadal
Audyt danych + metryka uczciwości
stronniczość reprezentacji
Niska dokładność w małej grupie próbek
Analiza podgrup + bilansowanie
błąd pomiaru
stronnicze etykiety
Przegląd procesu etykietowania
Stronniczość agregacji
Wszechświat nie jest reprezentowany
Dywersyfikacja zasobów
Typowe błędy
- Opierając się na ogólnych wskaźnikach. Ukrytej dyskryminacji nie można dostrzec bez analizy podgrup.
- Zakładając „neutralny model”. Model uczy się i wzmacnia błąd w danych.
- Pozostawienie decyzji o dużym wpływie niewyjaśnionemu modelowi. Ryzyko prawne i etyczne.
- Omijanie nadzoru człowieka. „Model zdecydował” nie jest wymówką.
- Umieszczanie wszędzie największego modelu. Niepotrzebne koszty i energia.
- Brak śledzenia kosztów. Rachunek puchnie w milczeniu.
Podsumowując
Technicznie poprawny model nadal jest porażką, jeśli nie jest sprawiedliwy, możliwy do wytłumaczenia i trwały. Błąd wynika głównie z danych, a model zwiększa go na dużą skalę; Zmierz sprawiedliwość według podgrup i uzgodnij z zainteresowanymi stronami, którą definicję sprawiedliwości należy traktować priorytetowo. Wyjaśnialność, nadzór ze strony człowieka i odpowiedzialność są niezbędne przy podejmowaniu decyzji o dużym wpływie; Przejrzystość dokumentu za pomocą karty wzorcowej. Zarządzaj kosztami i energią: wybierz najmniejszy odpowiedni model, skróć monit, użyj pamięci podręcznej i wsadowej. Wymiary te stanowią integralną część jakości inżynieryjnej, a nie dodatki dodawane później.
Zadanie aplikacji
Podziel model na co najmniej dwie podgrupy i porównaj odsetek wycofań i wyników fałszywie dodatnich w poszczególnych grupach; Jeżeli jest znacząca różnica, napisz powód i środek ostrożności. Przygotuj krótką kartę modelu dla modelu o dużym wpływie (cel, dane, wyniki podgrup, granice, wyjaśnialność). Zidentyfikuj co najmniej dwie konkretne optymalizacje (minimalne/szybkie obcięcie/pamięć podręczna/partia), aby zmniejszyć koszt wdrożenia LLM i zapisz ich szacunkowy wpływ.
lista kontrolna
- [ ] Model oceniałem w oparciu o podgrupy, nie opierałem się na metryce ogólnej.
- [ ] Wspólnie z zainteresowanymi stronami zdecydowałem, jaką definicję sprawiedliwości będę traktować priorytetowo.
- [ ] Decyzja o dużym wpływie jest możliwa do wyjaśnienia i podlega zatwierdzeniu przez człowieka.
- [ ] Udokumentowałem przezroczystość i granice za pomocą karty wzorcowej.
- [ ] Wybrałem najmniejszy odpowiedni model; Zoptymalizowałem monit/cache/batch.
- [ ] Monitoruję wpływ kosztów i energii.