Gains :
- Reconnaître les quatre classes de risques et pratiques interdites de la loi européenne sur l'IA
- Évaluation raisonnable de la catégorie de risque à laquelle appartient une utilisation
- Comprendre pourquoi les responsabilités liées à l'IA à haut risque et à usage général ont un impact sur les entreprises turques
La loi de l'UE sur l'intelligence artificielle (EU AI Act), qui entre en vigueur en 2024, est la première réglementation globale sur l'IA au monde et son impact s'étend bien au-delà des frontières de l'Union européenne. Cette loi peut être directement contraignante pour une entreprise basée en Turquie mais qui dessert le marché de l'UE, a des clients dans l'UE ou vend des produits dans l'UE. Dans cette unité, vous apprendrez la logique de base du droit — son approche basée sur le risque — avec ses quatre classes, pratiques interdites et responsabilités à haut risque ; Nous allons essayer d’évaluer dans quelle case se situe un usage.
Idée de base : plus le risque est élevé, plus la règle est stricte
La loi européenne sur l’IA ne regroupe pas toutes les IA. Il divise un système d’intelligence artificielle en quatre catégories en fonction de son préjudice potentiel et impose des obligations différentes à chaque catégorie. Une recommandation musicale ne comporte pas le même risque qu’un système de sélection à l’embauche ; La loi ne leur applique pas la même règle. Cette approche fondée sur le risque constitue l’épine dorsale du droit.
Classe de risque
Signification
exemple
règle
Interdit (inacceptable)
Menace ouverte pour les droits fondamentaux
Scoring social, manipulation subconsciente
interdiction totale
risque élevé
Cela affecte sérieusement la vie humaine
Recrutement, crédit, soins de santé, éducation, infrastructures critiques
Responsabilité sans faute
risque limité
Nécessite de la transparence
Chatbot, deepfake, contenu IA
Les informations sont obligatoires
risque minime
Risque insignifiant
Filtre anti-spam, IA de jeu, moteur de recommandation
gratuit
Applications interdites : ligne rouge
Certaines utilisations de l’IA sont jugées si nocives qu’elles ne peuvent pas être diffusées, même si les risques sont réduits. Ceux-ci appartiennent à la catégorie interdite (risque inacceptable) :
- Notation sociale soutenue par l’État (notation des personnes en fonction de leur comportement/caractéristiques et désavantageuse).
- Des systèmes qui manipulent le subconscient des gens et causent du tort.
- Des systèmes qui exploitent des vulnérabilités telles que l’âge et le handicap.
- Certaines applications d’identification biométrique en temps réel et de surveillance de masse (à quelques exceptions près).
- Applications spécifiques telles que la reconnaissance des émotions sur le lieu de travail et dans l'éducation.
Attention : Le fait qu'une utilisation soit dans la catégorie « interdite » n'est pas un obstacle qui peut être surmonté en disant « J'ai une bonne raison ». Ces pratiques sont totalement interdites ; ne peut pas être libéré même avec des mesures de réduction des risques. La première vérification à faire est de savoir si le projet figure dans cette liste.
Passifs à haut risque
Les systèmes à haut risque ne sont pas interdits mais sont soumis à des conditions strictes. Domaines typiques à haut risque : recrutement et gestion des employés, crédit et assurance, éducation et évaluation des examens, soins de santé, infrastructures critiques, application de la loi et immigration. Obligations typiques dans ces systèmes :
- Mettre en place et maintenir un système de gestion des risques.
- Qualité des données et gestion des biais (représentatives et précises des données de formation).
- Documentation technique et tenue de registres (traçabilité).
- Transparence et information de l'utilisateur.
- Contrôle humain (capacité humaine à intervenir et à outrepasser).
- Assurances de précision, de robustesse et de cybersécurité.
Obligations en matière d’IA à usage général (GPAI)
La loi impose des obligations spécifiques de transparence et de documentation sur les modèles d’IA à usage général (GPAI) – c’est-à-dire les modèles de base polyvalents tels que les grands modèles de langage – ainsi que sur les utilisations individuelles : fourniture de résumés sur les données de formation, politique de respect des droits d’auteur, évaluation complémentaire pour les modèles présentant un risque systémique. Si une organisation intègre ces modèles dans son propre produit, certaines de ces responsabilités peuvent se refléter dans la chaîne.
trois mini-cases
Cas 1 — Dépistage du recrutement (risque élevé). Une société de logiciels d'Izmir développe une plateforme de recrutement au service des entreprises européennes ; Le système note et élimine automatiquement les candidats. Il s’agit d’un domaine que la loi considère clairement comme à haut risque. Entreprise; doit respecter les obligations en matière de qualité des données, de tests de biais, d’audit humain et de documentation. L’argument « Nous sommes en Turquie, cela ne nous engage pas » est invalide ; Puisque le système est utilisé sur le marché de l’UE, la loi s’applique.
Cas 2 — Chatbot client (risque limité). Un site de commerce électronique déploie un chatbot au service de ses clients européens. Il s'agit de la catégorie à risque limité ; L'obligation principale est la transparence : l'utilisateur doit être clairement informé que « vous parlez à une intelligence artificielle ». Cacher cela est une violation ; Il suffit de préciser.
Cas 3 — Approche de la ligne interdite. Une chaîne de vente au détail souhaite analyser les réactions émotionnelles des clients grâce aux caméras du magasin et attribuer une note de « voleur à l'étalage potentiel ». Cela tombe dans la zone interdite/à risque très élevé, avec à la fois des dimensions de reconnaissance des émotions et de notation. L'équipe juridique arrête le projet dès la phase de conception ; Il est clair qu’elle ne peut être mise en œuvre même avec des mesures de réduction des risques.
Astuce : La première question lorsque l’on démarre un nouveau projet d’IA est « à quel point est-ce utile ? » mais plutôt "à quelle classe de risque cela appartient-il ?" devrait être. Faire le classement en premier lieu évite de gaspiller des ressources sur un projet qui sera annulé par la suite.
Modèles copiables
MODÈLE 1 — Évaluation préliminaire de la classe de risque : « Pré-évaluez l'utilisation suivante de l'IA conformément à la loi de l'UE sur l'IA : [décrivez l'utilisation]. Indiquez à quelle classe de risque (interdite / élevée / limitée / minimale) elle peut appartenir, avec justification. Marquez les points dont vous n'êtes pas sûr comme « confirmation juridique requise » ; ne portez pas de jugement juridique définitif. »
MODÈLE 2 — Analyse des applications interdites : "Analysez l'idée de projet suivante uniquement par rapport à la liste des "applications interdites en vertu de la loi européenne sur l'IA" : [décrivez le projet]. Y a-t-il un risque en termes de notation sociale, de manipulation subconsciente, d'exploitation de vulnérabilités, de surveillance biométrique non autorisée, de reconnaissance des émotions ? Écrivez oui/non et une justification dans chaque rubrique. "
MODÈLE 3 — Liste de contrôle de responsabilité à haut risque : « Pour cette utilisation à haut risque de l'IA, [décrire l'utilisation] crée un tableau « quelle est notre situation actuelle, ce qui manque » réparti en six rubriques de responsabilité (gestion des risques, qualité des données, documentation, transparence, audit humain, robustesse). Suggérez une action concrète dans chaque ligne.
MODÈLE 4 — Notification de transparence (risque limité) : « Pour un chatbot au service des utilisateurs de l'UE, rédigez une courte notification « vous parlez à l'IA » à afficher à l'utilisateur. Simple, rassurant, 2 phrases maximum. Incluez l'option de passer à un agent humain.
Invite faible/Invite forte
FAIBLE : « La loi européenne sur l’IA nous concerne-t-elle ? » -> Le modèle donne une réponse générale ; Il ne classe pas votre utilisation concrète, il n’évalue pas votre connexion au marché européen. GÜÇLÜ : « Nous sommes une entreprise basée à Izmir, nous vendons de l'IA de recrutement et de sélection à une entreprise en Allemagne. De quelle classe de risque cette utilisation relève-t-elle en vertu de la loi européenne sur l'IA, quelles obligations nous incombent et pourquoi le fait d'être en Turquie ne nous exempte-t-il pas ? Marquez là où vous n'êtes pas sûr. » -> Le modèle produit une classification et une liste de responsabilités spécifiques au contexte.
Erreurs courantes
- Penser « Nous sommes en Turquie, le droit européen ne nous lie pas » ; Cependant, il suffit de toucher le marché européen.
- Effectuer une classification des risques après le développement du projet ; Cependant, cela devrait être fait en premier lieu.
- Confondre une pratique interdite avec un obstacle qui peut être surmonté avec une « bonne justification ».
- Contourner les rapports de transparence dans les systèmes à risque limité (en faisant ressembler le bot à un humain).
- Négliger l’audit humain et la gestion des biais liés aux responsabilités à haut risque.
- En négligeant le fait que les responsabilités de l’IA à usage général (GPAI) peuvent se répercuter sur toute la chaîne.
- Interchanger la loi européenne sur l'IA avec le KVKK ; ils sont différents mais complémentaires.
En résumé
- La loi européenne sur l’IA adopte une approche basée sur les risques et divise l’IA en quatre classes : interdite, élevée, limitée et minimale.
- Les pratiques interdites (score social, manipulation, etc.) ne peuvent être disséminées même si le risque est réduit.
- Systèmes à haut risque ; Elle est soumise à des obligations strictes telles que la gestion des risques, la qualité des données, le contrôle humain et la documentation.
- Dans les systèmes à risque limité, la principale obligation est la transparence (signaler l’existence de l’IA).
- Les entreprises turques qui entrent sur le marché européen sont également concernées par la loi ; La classification doit être effectuée au tout début du projet.
Tâche de candidature
Considérez trois utilisations différentes de l’IA que votre organisation (ou une entreprise fictive) pourrait utiliser en relation avec le marché de l’UE. Placez chacun dans l’une des quatre classes de risque de la loi européenne sur l’IA et rédigez votre justification. Mettez les six obligations à haut risque pour l'utilisation qui vous semble la plus risquée dans une carte de contrôle : remplissez les colonnes « état actuel » et « incomplet/action ». Rédigez une déclaration de transparence qui sera affichée à l'utilisateur pour une utilisation entrant dans la catégorie à risque limité. Enfin, si l’une de vos utilisations s’approche de la limite interdite, notez-le et pourquoi.
liste de contrôle
- [ ] J'ai classé chaque utilisation de l'IA dans l'une des quatre classes de risque.
- [ ] J'ai scanné mes projets par rapport à la liste des applications interdites.
- [ ] J'ai créé un tableau de contrôle de responsabilité pour une utilisation à haut risque.
- [ ] J'ai inclus l'audit humain et la gestion des préjugés dans les obligations.
- [ ] J'ai préparé une déclaration de transparence pour une utilisation à risque limité.
- [ ] Je comprends pourquoi ma connexion au marché européen a déclenché la loi.
- [ ] J'ai fait la classification des risques au début du projet, pas à la fin.