Zyski:
- Uznanie czterech klas ryzyka i zabronionych praktyk określonych w prawie UE dotyczącym sztucznej inteligencji
- Rozsądna ocena kategorii ryzyka, do której należy dane zastosowanie
- Zrozum, dlaczego wysokie ryzyko i zobowiązania związane z sztuczną inteligencją ogólnego przeznaczenia wpływają na tureckie firmy
Unijna ustawa o sztucznej inteligencji (UE AI Act), która wejdzie w życie w 2024 r., jest pierwszą na świecie kompleksową regulacją dotyczącą sztucznej inteligencji, a jej wpływ wykracza daleko poza granice Unii Europejskiej. Prawo to może być bezpośrednio wiążące dla firmy z siedzibą w Türkiye, ale obsługującej rynek UE, posiadającej klientów w UE lub sprzedającej produkty do UE. W tej części poznasz podstawową logikę prawa – jego podejście oparte na ryzyku – z czterema klasami, zabronionymi praktykami i zobowiązaniami wysokiego ryzyka; Spróbujemy ocenić, do którego pola należy dane użycie.
Podstawowa idea: im wyższe ryzyko, tym surowsza zasada
Unijne prawo dotyczące sztucznej inteligencji nie wrzuca wszystkich rodzajów sztucznej inteligencji do jednego worka. Dzieli system sztucznej inteligencji na cztery kategorie w zależności od potencjalnej szkody i nakłada na każdą kategorię różne obowiązki. Rekomendacja muzyczna nie wiąże się z takim samym ryzykiem jak system selekcji kandydatów; Prawo nie stosuje wobec nich tych samych zasad. Podejście oparte na ryzyku stanowi podstawę prawa.
Klasa ryzyka
Znaczenie
przykład
rządzić
Zabronione (niedopuszczalne)
Otwarte zagrożenie dla praw podstawowych
Scoring społeczny, podświadoma manipulacja
całkowity zakaz
wysokie ryzyko
Poważnie wpływa na życie człowieka
Rekrutacja, kredyty, opieka zdrowotna, edukacja, infrastruktura krytyczna
Ścisła odpowiedzialność
ograniczone ryzyko
Wymaga przejrzystości
Chat bot, deepfake, zawartość AI
Informacje są obowiązkowe
minimalne ryzyko
Nieznaczne ryzyko
Filtr spamu, sztuczna inteligencja gier, silnik rekomendacji
bezpłatny
Zabronione aplikacje: czerwona linia
Niektóre zastosowania sztucznej inteligencji są uważane za tak szkodliwe, że nie można ich uwolnić bez względu na to, jak bardzo zmniejszone zostanie ryzyko. Należą one do kategorii zabronionej (niedopuszczalnego ryzyka):
- Wspierana przez państwo scoring społeczny (ocena ludzi na podstawie ich zachowania/cech i stawianie ich na niekorzystnej pozycji).
- Systemy manipulujące ludzką podświadomością i wyrządzające krzywdę.
- Systemy wykorzystujące słabe punkty, takie jak wiek i niepełnosprawność.
- Niektóre zastosowania identyfikacji biometrycznej w czasie rzeczywistym i masowego nadzoru (z nielicznymi wyjątkami).
- Specyficzne zastosowania, takie jak rozpoznawanie emocji w miejscu pracy i edukacji.
Uwaga: fakt, że dane zastosowanie należy do kategorii „zabronione”, nie stanowi przeszkody, którą można pokonać, mówiąc „mam dobry powód”. Praktyki te są całkowicie zabronione; nie mogą zostać uwolnione nawet przy zastosowaniu środków zmniejszających ryzyko. Pierwszą rzeczą, którą należy sprawdzić, jest to, czy projekt znajduje się na tej liście.
Zobowiązania wysokiego ryzyka
Systemy wysokiego ryzyka nie są zabronione, ale podlegają rygorystycznym warunkom. Typowe obszary wysokiego ryzyka: rekrutacja i zarządzanie pracownikami, kredyty i ubezpieczenia, edukacja i ocena egzaminów, opieka zdrowotna, infrastruktura krytyczna, egzekwowanie prawa i imigracja. Typowe obowiązki w tych systemach:
- Utworzenie i utrzymanie systemu zarządzania ryzykiem.
- Jakość danych i zarządzanie stronniczością (reprezentatywne i dokładne dane szkoleniowe).
- Dokumentacja techniczna i prowadzenie rejestrów (traceability).
- Przejrzystość i przekazywanie informacji użytkownikowi.
- Kontrola człowieka (zdolność człowieka do interwencji i obejścia).
- Gwarancje dokładności, solidności i cyberbezpieczeństwa.
Obowiązki związane z AI ogólnego przeznaczenia (GPAI).
Prawo nakłada szczególne obowiązki w zakresie przejrzystości i dokumentacji na modele AI ogólnego przeznaczenia (GPAI) – czyli wielofunkcyjne modele podstawowe, takie jak modele wielojęzyczne – a także na zastosowania indywidualne: dostarczanie podsumowań danych szkoleniowych, polityka zgodności z prawem autorskim, dodatkowa ocena modeli obarczonych ryzykiem systemowym. Jeżeli organizacja wbuduje te modele we własny produkt, część tych zobowiązań może znaleźć odzwierciedlenie w łańcuchu.
trzy mini etui
Przypadek 1 – Kontrola rekrutacyjna (wysokie ryzyko). Firma programistyczna w Izmirze rozwija platformę rekrutacyjną obsługującą firmy z UE; System automatycznie punktuje i eliminuje kandydatów. Jest to obszar, który prawo wyraźnie określa jako obszar wysokiego ryzyka. Firma; musi spełniać wymogi dotyczące jakości danych, testów stronniczości, audytu ludzkiego i dokumentacji. Argument „Jesteśmy w Turcji, to nas nie wiąże” jest nieważny; Ponieważ system jest stosowany na rynku UE, obowiązuje prawo.
Przypadek 2 — Chatbot klienta (ograniczone ryzyko). Witryna handlu elektronicznego wdraża chatbota obsługującego klientów z UE. Należy to do kategorii ograniczonego ryzyka; Głównym obowiązkiem jest przejrzystość: użytkownik musi być wyraźnie poinformowany, że „rozmawiasz ze sztuczną inteligencją”. Ukrywanie tego jest naruszeniem; Wystarczy określić.
Przypadek 3 — Zbliżanie się do linii zabronionej. Sieć detaliczna chce analizować reakcje emocjonalne klientów za pomocą kamer sklepowych i oceniać „potencjalnego złodzieja sklepowego”. Należy to do obszaru zabronionego/bardzo wysokiego ryzyka, zarówno w zakresie rozpoznawania emocji, jak i punktacji. Zespół prawny wstrzymuje projekt na etapie projektowania; Oczywiste jest, że nie można go wdrożyć nawet przy zastosowaniu środków zmniejszających ryzyko.
Wskazówka: pierwszym pytaniem przy rozpoczynaniu nowego projektu AI jest: „Jak przydatne jest to?” ale raczej „do jakiej klasy ryzyka to się zalicza?” powinno być. Dokonanie klasyfikacji w pierwszej kolejności pozwala uniknąć marnowania zasobów na projekt, który zostanie później anulowany.
Szablony do kopiowania
WZÓR 1 – Wstępna ocena klasy ryzyka: „Dokonaj wstępnej oceny następującego zastosowania sztucznej inteligencji zgodnie z unijną ustawą o sztucznej inteligencji: [opisz zastosowanie]. Określ, do której klasy ryzyka (zabronione/wysokie/ograniczone/minimalne) może należeć, wraz z uzasadnieniem. Punkty, których nie jesteś pewien, oznacz jako „wymagane potwierdzenie prawne”; nie wydawaj ostatecznej oceny prawnej.”
SZABLON 2 — Skanowanie aplikacji zabronionych: „Skanuj następujący pomysł na projekt wyłącznie w oparciu o listę aplikacji zabronionych na mocy ustawy UE o sztucznej inteligencji: [opisz projekt]. Czy istnieje ryzyko w zakresie punktacji społecznej, manipulacji podświadomości, wykorzystania luk w zabezpieczeniach, nieuprawnionego nadzoru biometrycznego, rozpoznawania emocji? Wpisz tak/nie i uzasadnij w każdym nagłówku.”
WZÓR 3 – Lista kontrolna odpowiedzialności w przypadku wysokiego ryzyka: „W przypadku zastosowania sztucznej inteligencji wysokiego ryzyka [opisz zastosowanie] tworzy tabelę „Jaka jest nasza obecna sytuacja, czego brakuje” w sześciu pozycjach odpowiedzialności (zarządzanie ryzykiem, jakość danych, dokumentacja, przejrzystość, audyt ludzki, solidność). Zaproponuj konkretne działanie w każdym wierszu.
SZABLON 4 — Powiadomienie dotyczące przejrzystości (ograniczone ryzyko): „W przypadku chatbota obsługującego użytkowników z UE napisz krótkie powiadomienie „rozmawiasz z sztuczną inteligencją”, które będzie wyświetlane użytkownikowi. Proste, uspokajające, maksymalnie 2 zdania. Uwzględnij opcję przejścia na człowieka”.
Słaba zachęta/silna zachęta
SŁABY: „Czy unijna ustawa o sztucznej inteligencji nas dotyczy?”-> Model daje ogólną odpowiedź; Nie klasyfikuje Twojego konkretnego zastosowania, nie ocenia Twojego powiązania z rynkiem UE. GÜÇLÜ: „Jesteśmy firmą z siedzibą w Izmirze, sprzedajemy sztuczną inteligencję zajmującą się rekrutacją i kontrolą przesiewową firmie w Niemczech. Do jakiej klasy ryzyka zalicza się to zastosowanie w ramach unijnego prawa dotyczącego sztucznej inteligencji, jakie obowiązki na nas spoczywają i dlaczego pobyt w Turcji nas nie zwalnia? Zaznacz w miejscach, w których nie jesteś pewien.” -> Model tworzy kontekstową klasyfikację i listę odpowiedzialności.
Typowe błędy
- Myśląc: „Jesteśmy w Turcji, prawo UE nas nie wiąże”; Wystarczy jednak dotknąć rynku UE.
- Dokonanie klasyfikacji ryzyka po opracowaniu projektu; Należy to jednak zrobić w pierwszej kolejności.
- Uznawanie zabronionej praktyki za przeszkodę, którą można pokonać przy „dobrym uzasadnieniu”.
- Ominięcie raportowania przejrzystości w systemach o ograniczonym ryzyku (nadanie botowi wyglądu człowieka).
- Zaniedbywanie audytu ludzkiego i zarządzania uprzedzeniami w przypadku zobowiązań wysokiego ryzyka.
- Pominięcie faktu, że zobowiązania związane z sztuczną inteligencją ogólnego przeznaczenia (GPAI) mogą odbić się szerokim echem w całym łańcuchu.
- Zamień prawo UE dotyczące sztucznej inteligencji z KVKK; są różne, ale uzupełniają się.
Podsumowując
- W unijnym prawie dotyczącym sztucznej inteligencji przyjęto podejście oparte na ryzyku i podzielono sztuczną inteligencję na cztery klasy: zabroniona, wysoka, ograniczona i minimalna.
- Niedozwolone praktyki (punktacja społeczna, manipulacja itp.) nie mogą zostać uwolnione, nawet jeśli ryzyko zostanie zmniejszone.
- Systemy wysokiego ryzyka; Podlega rygorystycznym obowiązkom, takim jak zarządzanie ryzykiem, jakość danych, kontrola ludzka i dokumentacja.
- W systemach o ograniczonym ryzyku głównym obowiązkiem jest przejrzystość (raportowanie, że istnieje sztuczna inteligencja).
- Prawo ma również wpływ na tureckie firmy działające na rynku UE; Klasyfikacji należy dokonać na samym początku projektu.
Zadanie aplikacji
Rozważ trzy różne zastosowania sztucznej inteligencji, które Twoja organizacja (lub fikcyjna firma) może wykorzystać w odniesieniu do rynku UE. Umieść każdą z nich w jednej z czterech klas ryzyka zgodnie z ustawą UE o sztucznej inteligencji i napisz swoje uzasadnienie. Umieść na karcie kontrolnej sześć obowiązków wysokiego ryzyka dla zastosowań, które uważasz za najbardziej ryzykowne: wypełnij kolumny „bieżący status” i „niekompletny/działanie”. Napisz oświadczenie dotyczące przejrzystości, które będzie wyświetlane użytkownikowi w przypadku zastosowań należących do kategorii ograniczonego ryzyka. Na koniec, jeśli którekolwiek z Twoich zastosowań zbliża się do zabronionej linii, zanotuj to i dlaczego.
lista kontrolna
- [ ] Każde zastosowanie sztucznej inteligencji umieściłem w jednej z czterech klas ryzyka.
- [ ] Przeskanowałem moje projekty pod kątem listy zabronionych aplikacji.
- [ ] Stworzyłem kartę kontroli odpowiedzialności w przypadku użytkowania obarczonego wysokim ryzykiem.
- [ ] Do obowiązków uwzględniłem audyt ludzki i zarządzanie uprzedzeniami.
- [ ] Przygotowałem oświadczenie dotyczące przejrzystości w przypadku stosowania ograniczonego ryzyka.
- [ ] Rozumiem, dlaczego moje powiązania z rynkiem UE spowodowały wprowadzenie prawa.
- [ ] Klasyfikacji ryzyka dokonałem na początku projektu, a nie na końcu.