Guadagni:
- Riconoscimento delle quattro classi di rischio e delle pratiche vietate previste dalla normativa UE sull'IA
- Valutazione ragionevole della categoria di rischio in cui rientra un uso
- Scopri perché le passività legate all'IA ad alto rischio e di carattere generale influiscono sulle aziende turche
La legge sull’intelligenza artificiale dell’UE (legge sull’intelligenza artificiale dell’UE), che entrerà in vigore nel 2024, è la prima regolamentazione completa al mondo sull’intelligenza artificiale e il suo impatto si estende ben oltre i confini dell’Unione europea. Questa legge può essere direttamente vincolante per un'azienda con sede in Türkiye ma che serve il mercato dell'UE, ha clienti UE o vende prodotti nell'UE. In questa unità imparerai la logica di base della legge - il suo approccio basato sul rischio - con le sue quattro classi, pratiche vietate e passività ad alto rischio; Cercheremo di valutare in quale casella rientra un utilizzo.
Idea di base: maggiore è il rischio, più severa è la regola
La legge dell’UE sull’IA non raggruppa insieme tutta l’IA. Divide un sistema di intelligenza artificiale in quattro categorie a seconda del suo potenziale danno e impone obblighi diversi a ciascuna categoria. Una raccomandazione musicale non comporta lo stesso rischio di un sistema di screening delle assunzioni; A loro la legge non applica la stessa regola. Questo approccio basato sul rischio costituisce la spina dorsale della legge.
Classe di rischio
Significato
esempio
regola
Vietato (inaccettabile)
Aperta minaccia ai diritti fondamentali
Punteggio sociale, manipolazione del subconscio
divieto totale
alto rischio
Colpisce seriamente la vita umana
Reclutamento, credito, sanità, istruzione, infrastrutture critiche
Responsabilità oggettiva
rischio limitato
Richiede trasparenza
Bot di chat, deepfake, contenuti AI
Le informazioni sono obbligatorie
rischio minimo
Rischio insignificante
Filtro antispam, intelligenza artificiale del gioco, motore di raccomandazione
gratuito
App vietate: linea rossa
Alcuni usi dell’intelligenza artificiale sono considerati così dannosi che non possono essere rilasciati, indipendentemente dalla riduzione del rischio. Questi rientrano nella categoria proibita (rischio inaccettabile):
- Punteggio sociale sostenuto dallo Stato (punteggio delle persone in base al loro comportamento/caratteristiche e svantaggiandole).
- Sistemi che manipolano il subconscio delle persone e causano danni.
- Sistemi che sfruttano vulnerabilità come età e disabilità.
- Alcune applicazioni di identificazione biometrica in tempo reale e sorveglianza di massa (con limitate eccezioni).
- Applicazioni specifiche come il riconoscimento delle emozioni sul posto di lavoro e nell'istruzione.
Attenzione: Il fatto che un uso rientri nella categoria “vietato” non è un ostacolo che si possa superare dicendo “ho un buon motivo”. Queste pratiche sono completamente vietate; non possono essere rilasciati nemmeno con misure di riduzione del rischio. La prima verifica da fare è se il progetto è compreso in questa lista.
Passività ad alto rischio
I sistemi ad alto rischio non sono vietati ma sono soggetti a condizioni rigorose. Aree tipiche ad alto rischio: reclutamento e gestione dei dipendenti, credito e assicurazioni, istruzione e valutazione degli esami, sanità, infrastrutture critiche, forze dell'ordine e immigrazione. Obblighi tipici in questi sistemi:
- Stabilire e mantenere un sistema di gestione del rischio.
- Qualità dei dati e gestione dei bias (rappresentativi e accurati dei dati di addestramento).
- Documentazione tecnica e tenuta dei registri (tracciabilità).
- Trasparenza e informazione all'utente.
- Controllo umano (capacità umana di intervenire e prevalere).
- Precisione, robustezza e garanzie di sicurezza informatica.
Obblighi di intelligenza artificiale per scopi generali (GPAI).
La legge impone obblighi specifici di trasparenza e documentazione sui modelli di intelligenza artificiale per scopi generali (GPAI) – ovvero modelli di base multiuso come modelli linguistici di grandi dimensioni – nonché sugli usi individuali: fornitura di sintesi sui dati di addestramento, politica di conformità al copyright, valutazione aggiuntiva per i modelli con rischio sistemico. Se un’organizzazione incorpora questi modelli nel proprio prodotto, alcune di queste responsabilità potrebbero riflettersi nella catena.
tre mini custodie
Caso 1 — Screening del reclutamento (rischio elevato). Una società di software a Izmir sviluppa una piattaforma di reclutamento al servizio delle aziende dell'UE; Il sistema assegna automaticamente un punteggio ed elimina i candidati. Si tratta di un’area che la legge considera chiaramente ad alto rischio. Azienda; devono soddisfare gli obblighi di qualità dei dati, test di bias, audit umano e documentazione. L'argomento "Siamo in Turchia, questo non ci vincola" non è valido; Poiché il sistema è utilizzato nel mercato dell’UE, si applica la legge.
Caso 2: chatbot del cliente (rischio limitato). Un sito di e-commerce implementa un chatbot al servizio dei propri clienti dell'UE. Questo rientra nella categoria di rischio limitato; L'obbligo principale è la trasparenza: l'utente deve essere informato chiaramente che “stai parlando con un'intelligenza artificiale”. Nascondere questo è una violazione; E' sufficiente specificare.
Caso 3 – Avvicinamento alla linea vietata. Una catena di vendita al dettaglio vuole analizzare le reazioni emotive dei clienti attraverso le telecamere del negozio e assegnare un punteggio di "potenziale taccheggiatore". Ciò rientra nell'area proibita/a rischio molto elevato sia per quanto riguarda il riconoscimento delle emozioni che per il punteggio. Il team legale ferma il progetto in fase di progettazione; È chiaro che non può essere attuato nemmeno con misure di riduzione del rischio.
Suggerimento: la prima domanda quando si avvia un nuovo progetto di intelligenza artificiale è "quanto è utile?" ma piuttosto "in quale classe di rischio rientra questo?" dovrebbe essere. Fare la classificazione in primo luogo evita di sprecare risorse in un progetto che verrà successivamente annullato.
Modelli copiabili
MODELLO 1 — Valutazione preliminare della classe di rischio: "Prevalutare il seguente utilizzo dell'IA secondo la normativa dell'UE sull'IA: [descrivere l'uso]. Indicare in quale classe di rischio (vietato/alto/limitato/minimo) potrebbe rientrare, motivandolo. Contrassegnare i punti di cui non si è sicuri come "conferma legale necessaria"; non esprimere un giudizio giuridico definitivo."
MODELLO 2 — Scansione delle applicazioni vietate: "Scansiona la seguente idea di progetto solo confrontandola con l'elenco delle applicazioni vietate della legge UE sull'intelligenza artificiale: [descrivi il progetto]. Esiste un rischio in termini di punteggio sociale, manipolazione subconscia, sfruttamento delle vulnerabilità, sorveglianza biometrica non autorizzata, riconoscimento delle emozioni? Scrivi sì/no e la giustificazione in ciascuna intestazione."
MODELLO 3 - Lista di controllo delle responsabilità ad alto rischio: "Per questo uso ad alto rischio dell'IA, [descrivi l'uso] crea una tabella 'qual è la nostra situazione attuale, cosa manca' in sei voci di responsabilità (gestione del rischio, qualità dei dati, documentazione, trasparenza, audit umano, robustezza). Suggerisci un'azione concreta in ogni riga."
MODELLO 4 — Notifica di trasparenza (rischio limitato): "Per un chatbot che serve utenti dell'UE, scrivere una breve notifica 'stai parlando con l'intelligenza artificiale' da visualizzare all'utente. Semplice, rassicurante, massimo 2 frasi. Includere l'opzione di passare a un agente umano."
Prompt debole / Prompt forte
DEBOLE: “La normativa UE sull’IA ci riguarda?”-> Il modello fornisce una risposta generale; Non classifica il tuo utilizzo concreto, non valuta la tua connessione al mercato UE. GÜÇLÜ: "Siamo un'azienda con sede a Izmir, vendiamo reclutamento e screening dell'IA a un'azienda in Germania. Quale classe di rischio rientra questo utilizzo nella legge UE sull'IA, quali obblighi ricadono su di noi e perché essere in Turchia non ci esonera? Segna dove non sei sicuro." -> Il modello produce una classificazione e un elenco di responsabilità specifici al contesto.
Errori comuni
- Pensando “Siamo in Turchia, il diritto comunitario non ci vincola”; Tuttavia, toccare il mercato dell’UE è sufficiente.
- Effettuare la classificazione del rischio dopo aver sviluppato il progetto; Tuttavia, dovrebbe essere fatto in primo luogo.
- Confondere una pratica vietata come un ostacolo che può essere superato con “una buona giustificazione”.
- Eludere la rendicontazione sulla trasparenza nei sistemi a rischio limitato (facendo sembrare il bot un essere umano).
- Trascurare l’auditing umano e la gestione dei pregiudizi derivanti da passività ad alto rischio.
- Trascurare le responsabilità dell’IA per scopi generali (GPAI) può riverberarsi lungo tutta la catena.
- Intercambiare la legge dell’UE sull’IA con la KVKK; sono diversi ma complementari.
In sintesi
- La legge dell’UE sull’IA adotta un approccio basato sul rischio e divide l’IA in quattro classi: vietata, elevata, limitata, minima.
- Le pratiche vietate (social scoring, manipolazione, ecc.) non possono essere rilasciate anche se il rischio è ridotto.
- Sistemi ad alto rischio; È soggetto a obblighi rigorosi quali la gestione del rischio, la qualità dei dati, il controllo umano e la documentazione.
- Nei sistemi a rischio limitato, l’obbligo principale è la trasparenza (segnalare che esiste l’IA).
- Anche le aziende turche che entrano nel mercato dell’UE sono interessate dalla legge; La classificazione dovrebbe essere effettuata all’inizio del progetto.
Compito dell'applicazione
Considera tre diversi usi dell’IA che la tua organizzazione (o un’azienda fittizia) potrebbe utilizzare in relazione al mercato dell’UE. Inserisci ciascuno di essi in una delle quattro classi di rischio della legge UE sull'AI e scrivi la tua giustificazione. Inserisci i sei obblighi ad alto rischio per l'uso che ritieni più rischioso in una carta di controllo: compila le colonne "stato attuale" e "incompleto/azione". Scrivere una dichiarazione di trasparenza che verrà visualizzata all'utente per un uso che rientra nella categoria di rischio limitato. Infine, se qualcuno dei tuoi usi si avvicina alla linea vietata, annotalo e perché.
lista di controllo
- [] Ho inserito ciascun utilizzo dell'IA in una delle quattro classi di rischio.
- [ ] Ho scansionato i miei progetti confrontandoli con l'elenco delle applicazioni vietate.
- [ ] Ho creato un grafico di controllo delle responsabilità per l'utilizzo ad alto rischio.
- [ ] Ho incluso negli obblighi l’auditing umano e la gestione dei pregiudizi.
- [ ] Ho preparato una dichiarazione di trasparenza per un utilizzo a rischio limitato.
- [ ] Capisco perché il mio legame con il mercato dell'UE ha attivato la legge.
- [ ] Ho effettuato la classificazione dei rischi all'inizio del progetto, non alla fine.