Câștiguri:
- Recunoașterea celor patru clase de risc și a practicilor interzise din Legea UE AI
- Evaluare rezonabilă a categoriei de risc în care se încadrează o utilizare
- Înțelegeți de ce responsabilitățile IA cu risc ridicat și cu scop general afectează companiile turcești
Actul UE privind inteligența artificială (Legea UE AI), care intră în vigoare în 2024, este prima reglementare cuprinzătoare privind inteligența artificială din lume, iar impactul său se extinde cu mult dincolo de granițele Uniunii Europene. Această lege poate fi direct obligatorie pentru o companie cu sediul în Türkiye, dar care deservește piața UE, are clienți din UE sau vinde produse către UE. În această unitate, veți învăța logica de bază a legii — abordarea sa bazată pe riscuri — cu cele patru clase, practicile interzise și pasivele cu risc ridicat; Vom încerca să evaluăm în ce cutie se încadrează o utilizare.
Idee de bază: cu cât riscul este mai mare, cu atât regula este mai strictă
Legea UE privind IA nu reunește toate IA împreună. Împarte un sistem de inteligență artificială în patru categorii în funcție de potențialul său prejudiciu și impune obligații diferite pentru fiecare categorie. O recomandare muzicală nu prezintă același risc ca un sistem de screening de angajare; Legea nu le aplică aceeași regulă. Această abordare bazată pe risc este coloana vertebrală a legii.
Clasa de risc
Înțeles
exemplu
regulă
Interzis (inacceptabil)
Amenințare deschisă la adresa drepturilor fundamentale
Scor social, manipulare subconștientă
interdicție totală
risc ridicat
Afectează grav viața umană
Recrutare, creditare, asistență medicală, educație, infrastructură critică
Răspundere strictă
risc limitat
Necesită transparență
Chat bot, deepfake, conținut AI
Informația este obligatorie
risc minim
Risc nesemnificativ
Filtru de spam, AI de joc, motor de recomandare
gratuit
Aplicații interzise: linie roșie
Unele utilizări ale AI sunt considerate atât de dăunătoare încât nu pot fi eliberate, indiferent cât de mult riscul este redus. Acestea sunt în categoria interzise (risc inacceptabil):
- Scoruri sociale susținute de stat (punctarea oamenilor în funcție de comportamentul/caracteristicile lor și dezavantajarea acestora).
- Sisteme care manipulează subconștientul oamenilor și provoacă rău.
- Sisteme care exploatează vulnerabilități precum vârsta și handicapul.
- Anumite aplicații de identificare biometrică în timp real și supraveghere în masă (cu excepții restrânse).
- Aplicații specifice, cum ar fi recunoașterea emoțiilor la locul de muncă și educație.
Atenție: Faptul că o utilizare se află în categoria „interzisă” nu este un obstacol care poate fi depășit spunând „am un motiv întemeiat”. Aceste practici sunt complet interzise; nu poate fi eliberat nici măcar cu măsuri de reducere a riscurilor. Prima verificare care trebuie făcută este dacă proiectul este inclus în această listă.
Datorii cu risc ridicat
Sistemele cu risc ridicat nu sunt interzise, dar sunt supuse unor condiții stricte. Domenii tipice cu risc ridicat: recrutarea și managementul angajaților, credit și asigurări, educație și evaluare a examenelor, asistență medicală, infrastructură critică, aplicarea legii și imigrație. Obligații tipice în aceste sisteme:
- Stabilirea si mentinerea unui sistem de management al riscului.
- Calitatea datelor și managementul părtinirii (reprezentativ și exact al datelor de instruire).
- Documentație tehnică și evidență (trasabilitate).
- Transparență și furnizarea de informații către utilizator.
- Controlul uman (capacitatea umană de a interveni și de a trece peste).
- Acuratețe, robustețe și asigurări de securitate cibernetică.
Obligații IA de uz general (GPAI).
Legea impune obligații specifice de transparență și documentare asupra modelelor de IA cu scop general (GPAI) – adică modele de bază multifuncționale, cum ar fi modelele lingvistice mari – precum și asupra utilizărilor individuale: furnizarea de rezumate privind datele de instruire, politica de conformitate cu drepturile de autor, evaluare suplimentară pentru modelele cu risc sistemic. Dacă o organizație încorporează aceste modele în propriul produs, unele dintre aceste obligații pot fi reflectate în lanț.
trei mini cutii
Cazul 1 – Screening de recrutare (risc ridicat). O companie de software din Izmir dezvoltă o platformă de recrutare care deservește companiile din UE; Sistemul punctează și elimină automat candidații. Acesta este un domeniu pe care legea îl consideră clar cu risc ridicat. Companie; trebuie să îndeplinească obligațiile privind calitatea datelor, testarea părtinirii, auditul uman și documentarea. Argumentul „Suntem în Turcia, nu ne leagă” este invalid; Deoarece sistemul este utilizat pe piața UE, se aplică legea.
Cazul 2 – Chatbot client (risc limitat). Un site de comerț electronic instalează un chatbot care servește clienții săi din UE. Acesta este în categoria de risc limitat; Principala obligație este transparența: utilizatorul trebuie să fie clar informat că „vorbiți cu o inteligență artificială”. Ascunderea acestui lucru este o încălcare; Este suficient să precizăm.
Cazul 3 — Apropierea liniei interzise. Un lanț de retail dorește să analizeze reacțiile emoționale ale clienților prin intermediul camerelor din magazine și să dea un scor de „potențial hoț de magazin”. Aceasta se încadrează în zona interzisă/de risc foarte mare, atât cu dimensiunile de recunoaștere a emoțiilor, cât și de punctaj. Echipa juridică oprește proiectul în faza de proiectare; Este clar că nu poate fi implementat nici măcar cu măsuri de reducere a riscurilor.
Sfat: prima întrebare când începeți un nou proiect AI este „cât de util este acesta?” ci mai degrabă „în ce clasă de risc se încadrează asta?” ar trebui să fie. Efectuarea clasificării în primul rând evită irosirea resurselor pe un proiect care va fi anulat ulterior.
Șabloane copiabile
MODEL 1 — Evaluare preliminară a clasei de risc: „Preevaluați următoarea utilizare a IA în conformitate cu Legea UE AI: [descrieți utilizarea]. Precizați în ce clasă de risc (interzisă / ridicată / limitată / minimă) se poate încadra, cu justificare. Marcați punctele de care nu sunteți sigur ca fiind „confirmare legală necesară”; nu faceți o hotărâre juridică definitivă.”
ȘABLAN 2 — Scanarea aplicației interzise: „Scanați următoarea idee de proiect numai împotriva listei de „aplicații interzise din Legea UE AI”: [descrieți proiectul]. Există un risc în ceea ce privește scorul social, manipularea subconștientă, exploatarea vulnerabilităților, supravegherea biometrică neautorizată, recunoașterea emoțiilor? Scrieți da/nu și justificarea în fiecare rubrică."
ȘABLAN 3 — Listă de verificare a răspunderii cu risc ridicat: „Pentru această utilizare a AI cu risc ridicat, [descrieți utilizarea] creează un tabel „care este situația noastră actuală, ce ne lipsește” în șase rubrici de răspundere (managementul riscurilor, calitatea datelor, documentație, transparență, audit uman, robustețe). Sugerați o acțiune concretă în fiecare rând.”
ȘABLAN 4 — Notificare de transparență (risc limitat): „Pentru un chatbot care deservește utilizatorii din UE, scrieți o scurtă notificare „vorbiți cu AI” pentru a fi afișată utilizatorului. Simplu, liniștitor, maxim 2 propoziții. Includeți opțiunea de a trece la un agent uman.”
Prompt slab / Prompt puternic
SLAB: „Legislația UE AI ne privește?”-> Modelul oferă un răspuns general; Nu clasifică utilizarea ta concretă, nu evaluează legătura ta cu piața UE. GÜÇLÜ: "Suntem o companie cu sediul în Izmir, vindem IA de recrutare și screening unei companii din Germania. Ce clasă de risc se încadrează această utilizare în Legea UE AI, ce obligații ne revin și de ce nu ne scutește a fi în Turcia? Marcați unde nu sunteți sigur." -> Modelul produce o clasificare specifică contextului și o listă de răspundere.
Greșeli comune
- Gândindu-ne „Suntem în Turcia, legea UE nu ne obligă”; Cu toate acestea, atingerea pieței UE este suficientă.
- Efectuarea clasificării riscurilor după elaborarea proiectului; Cu toate acestea, ar trebui făcută în primul rând.
- Confundarea unei practici interzise ca un obstacol care poate fi depășit cu „bună justificare”.
- Ocolirea raportării transparenței în sistemele cu risc limitat (făcând botul să arate ca un om).
- Neglijarea auditului uman și a managementului părtinirii din cauza pasivelor cu risc ridicat.
- Trecând cu vederea, pasivele IA cu scop general (GPAI) pot reverbera în lanț.
- Schimbați legea UE AI cu KVKK; sunt diferite dar complementare.
Pe scurt
- Legea UE AI adoptă o abordare bazată pe risc și împarte IA în patru clase: interzisă, ridicată, limitată, minimă.
- Practicile interzise (notarea socială, manipularea etc.) nu pot fi eliberate chiar dacă riscul este redus.
- Sisteme cu risc ridicat; Este supus unor obligații stricte, cum ar fi managementul riscurilor, calitatea datelor, controlul uman și documentarea.
- În sistemele cu risc limitat, principala obligație este transparența (raportarea că există IA).
- Companiile turcești care ating piața UE sunt, de asemenea, afectate de lege; Clasificarea trebuie făcută chiar de la începutul proiectului.
Sarcina de aplicare
Luați în considerare trei utilizări diferite ale inteligenței artificiale pe care organizația dvs. (sau o companie fictivă) le-ar putea folosi în legătură cu piața UE. Plasați fiecare în una dintre cele patru clase de risc ale Legii UE AI și scrieți-vă justificarea. Puneți cele șase obligații cu risc ridicat pentru utilizarea pe care o găsiți cu cel mai mare risc într-o diagramă de control: completați coloanele „starea curentă” și „incompletă/acțiune”. Scrieți o declarație de transparență care va fi afișată utilizatorului pentru o utilizare care se încadrează în categoria de risc limitat. În cele din urmă, dacă oricare dintre utilizările dvs. se apropie de linia interzisă, rețineți că și de ce.
lista de verificare
- [ ] Am plasat fiecare utilizare a AI într-una din cele patru clase de risc.
- [ ] Mi-am scanat proiectele pe lista de aplicații interzise.
- [ ] Am creat o diagramă de control al răspunderii pentru utilizare cu risc ridicat.
- [ ] Am inclus auditul uman și managementul părtinirii în obligații.
- [ ] Am pregătit o declarație de transparență pentru utilizarea cu risc limitat.
- [ ] Înțeleg de ce legătura mea cu piața UE a declanșat legea.
- [ ] Am făcut clasificarea riscului la începutul proiectului, nu la sfârșit.