Ganhos:
- Reconhecendo as quatro classes de risco e práticas proibidas da Lei da UE em matéria de IA
- Avaliação razoável de qual categoria de risco uma utilização se enquadra
- Entenda por que os passivos de IA de alto risco e de uso geral impactam as empresas turcas
A Lei da UE sobre Inteligência Artificial (Lei da UE sobre IA), que entrará em vigor em 2024, é a primeira regulamentação abrangente sobre IA do mundo e o seu impacto estende-se muito além das fronteiras da União Europeia. Esta lei pode ser diretamente vinculativa para uma empresa sediada na Turquia, mas que serve o mercado da UE, tem clientes na UE ou vende produtos para a UE. Nesta unidade, você aprenderá a lógica básica da lei — sua abordagem baseada no risco — com suas quatro classes, práticas proibidas e responsabilidades de alto risco; Tentaremos avaliar em qual caixa o uso se enquadra.
Ideia básica: quanto maior o risco, mais rígida é a regra
A lei da UE sobre IA não agrupa toda a IA. Divide um sistema de inteligência artificial em quatro categorias de acordo com o seu potencial dano e impõe obrigações diferentes a cada categoria. Uma recomendação musical não acarreta o mesmo risco que um sistema de triagem de contratação; A lei não lhes aplica a mesma regra. Esta abordagem baseada no risco é a espinha dorsal da lei.
Classe de risco
Significado
exemplo
regra
Proibido (inaceitável)
Ameaça aberta aos direitos fundamentais
Pontuação social, manipulação subconsciente
proibição total
alto risco
Afeta seriamente a vida humana
Recrutamento, crédito, saúde, educação, infraestrutura crítica
Responsabilidade objetiva
risco limitado
Requer transparência
Bot de bate-papo, deepfake, conteúdo de IA
A informação é obrigatória
risco mínimo
Risco insignificante
Filtro de spam, IA de jogo, mecanismo de recomendação
grátis
Aplicativos proibidos: linha vermelha
Alguns usos da IA são considerados tão prejudiciais que não podem ser liberados, não importa quanto o risco seja reduzido. Estes estão na categoria proibida (risco inaceitável):
- Pontuação social apoiada pelo Estado (pontuar as pessoas de acordo com o seu comportamento/características e colocá-las em desvantagem).
- Sistemas que manipulam o subconsciente das pessoas e causam danos.
- Sistemas que exploram vulnerabilidades como idade e deficiência.
- Certas aplicações de identificação biométrica e vigilância em massa em tempo real (com pequenas exceções).
- Aplicações específicas, como reconhecimento de emoções no local de trabalho e na educação.
Atenção: O fato de um uso estar na categoria “proibido” não é um obstáculo que possa ser superado dizendo “Tenho um bom motivo”. Estas práticas são totalmente proibidas; não podem ser liberados mesmo com medidas de redução de risco. A primeira verificação a ser feita é se o projeto está incluído nesta lista.
Passivos de alto risco
Os sistemas de alto risco não são proibidos, mas estão sujeitos a condições rigorosas. Áreas típicas de alto risco: recrutamento e gestão de funcionários, crédito e seguros, educação e avaliação de exames, saúde, infraestrutura crítica, aplicação da lei e imigração. Obrigações típicas nestes sistemas:
- Estabelecer e manter um sistema de gerenciamento de riscos.
- Qualidade dos dados e gerenciamento de preconceitos (representativos e precisos dos dados de treinamento).
- Documentação técnica e manutenção de registros (rastreabilidade).
- Transparência e prestação de informações ao usuário.
- Controle humano (capacidade humana de intervir e anular).
- Precisão, robustez e garantias de segurança cibernética.
Obrigações de IA de uso geral (GPAI)
A lei impõe obrigações específicas de transparência e documentação aos modelos de IA de uso geral (GPAI) — isto é, modelos de base multiuso, como modelos de linguagem de grande porte — bem como aos usos individuais: fornecimento de resumos sobre dados de treinamento, política de conformidade de direitos autorais, avaliação adicional para modelos com risco sistêmico. Se uma organização incorporar estes modelos no seu próprio produto, algumas destas responsabilidades poderão reflectir-se na cadeia.
três mini cases
Caso 1 — Triagem de recrutamento (alto risco). Uma empresa de software em Izmir desenvolve uma plataforma de recrutamento que serve empresas da UE; O sistema pontua e elimina automaticamente os candidatos. Esta é uma área que a lei considera claramente de alto risco. Empresa; deve atender às obrigações de qualidade de dados, testes de viés, auditoria humana e documentação. O argumento “estamos na Turquia, isso não nos obriga” é inválido; Uma vez que o sistema é utilizado no mercado da UE, aplica-se a lei.
Caso 2 — Chatbot do cliente (risco limitado). Um site de comércio eletrónico implementa um chatbot que serve os seus clientes da UE. Isto está na categoria de risco limitado; A principal obrigação é a transparência: o usuário deve ser claramente informado de que “está conversando com uma inteligência artificial”. Esconder isso é uma violação; Basta especificar.
Caso 3 — Aproximação à linha proibida. Uma rede de varejo deseja analisar as reações emocionais dos clientes por meio das câmeras das lojas e atribuir uma pontuação de “potencial ladrão de lojas”. Isso se enquadra na área de risco proibido/muito alto, tanto com reconhecimento de emoções quanto com dimensões de pontuação. A equipe jurídica interrompe o projeto na fase de concepção; É claro que não pode ser implementado mesmo com medidas de redução de riscos.
Dica: A primeira pergunta ao iniciar um novo projeto de IA é “quão útil isso é?” mas sim "em que classe de risco isso se enquadra?" deveria ser. Fazer a classificação em primeiro lugar evita desperdício de recursos em um projeto que será cancelado posteriormente.
Modelos copiáveis
MODELO 1 — Avaliação preliminar da classe de risco: "Pré-avaliar a seguinte utilização de IA de acordo com a legislação da UE sobre IA: [descrever a utilização]. Indique em que classe de risco (proibido/alto/limitado/mínimo) pode enquadrar-se, com justificação. Marque os pontos sobre os quais não tem a certeza como 'confirmação legal necessária'; não faça um julgamento jurídico definitivo."
MODELO 2 — Verificação de aplicativos proibidos: "Verifique a seguinte ideia de projeto apenas em relação à lista de aplicativos proibidos da 'Lei de IA da UE': [descreva o projeto]. Existe um risco em termos de pontuação social, manipulação subconsciente, exploração de vulnerabilidade, vigilância biométrica não autorizada, reconhecimento de emoções? Escreva sim/não e justificativa em cada título."
MODELO 3 — Lista de verificação de responsabilidade de alto risco: "Para este uso de IA de alto risco, [descrever o uso] cria uma tabela 'qual é a nossa situação atual, o que está faltando' em seis títulos de responsabilidade (gestão de risco, qualidade de dados, documentação, transparência, auditoria humana, robustez). Sugira uma ação concreta em cada linha."
MODELO 4 — Notificação de transparência (risco limitado): "Para um chatbot que atende usuários da UE, escreva uma breve notificação 'você está falando com a IA' para ser exibida ao usuário. Simples, tranquilizador, no máximo 2 frases. Inclua a opção de mudar para um agente humano."
Alerta fraco / Alerta forte
FRACO: “A Lei da UE sobre IA nos diz respeito?” -> O modelo dá uma resposta geral; Não classifica a sua utilização concreta, não avalia a sua ligação ao mercado da UE. GÜÇLÜ: "Somos uma empresa sediada em Izmir, vendemos IA de recrutamento e triagem para uma empresa na Alemanha. Qual classe de risco esse uso se enquadra na Lei de IA da UE, quais obrigações recaem sobre nós e por que estar na Turquia não nos isenta? Marque onde você não tem certeza." -> O modelo produz uma classificação específica do contexto e uma lista de responsabilidades.
Erros comuns
- Pensar “Estamos na Turquia, a legislação da UE não nos vincula”; No entanto, tocar no mercado da UE é suficiente.
- Fazer classificação de risco após desenvolvimento do projeto; No entanto, isso deve ser feito em primeiro lugar.
- Confundir uma prática proibida com um obstáculo que pode ser superado com “boa justificativa”.
- Ignorar relatórios de transparência em sistemas de risco limitados (fazendo com que o bot pareça humano).
- Negligenciar a auditoria humana e a gestão de preconceitos de responsabilidades de alto risco.
- Ignorar que as responsabilidades da IA de uso geral (GPAI) podem repercutir na cadeia.
- Intercambiar a Lei de IA da UE com a KVKK; eles são diferentes, mas complementares.
Em resumo
- A Lei da UE sobre IA adota uma abordagem baseada no risco e divide a IA em quatro classes: proibida, alta, limitada, mínima.
- Práticas proibidas (pontuação social, manipulação, etc.) não podem ser liberadas mesmo que o risco seja reduzido.
- Sistemas de alto risco; Está sujeito a obrigações estritas como gestão de riscos, qualidade de dados, controle humano e documentação.
- Em sistemas de risco limitado, a principal obrigação é a transparência (relatar que existe IA).
- As empresas turcas que entram no mercado da UE também são afetadas pela lei; A classificação deve ser feita logo no início do projeto.
Tarefa de aplicativo
Considere três utilizações diferentes da IA que a sua organização (ou uma empresa fictícia) pode utilizar em relação ao mercado da UE. Coloque cada um em uma das quatro classes de risco da Lei de IA da UE e escreva sua justificativa. Coloque as seis obrigações de alto risco para o uso que você considera de maior risco em um gráfico de controle: preencha as colunas “status atual” e “incompleto/ação”. Escreva uma declaração de transparência que será exibida ao usuário para um uso que se enquadre na categoria de risco limitado. Finalmente, se algum de seus usos estiver se aproximando da linha proibida, anote isso e por quê.
lista de verificação
- [] Coloquei cada uso de IA em uma das quatro classes de risco.
- [] Analisei meus projetos em relação à lista de aplicativos proibidos.
- [ ] Criei um gráfico de controle de responsabilidade para uso de alto risco.
- [ ] Incluí auditoria humana e gestão de preconceitos nas obrigações.
- [ ] Preparei uma declaração de transparência para uso de risco limitado.
- [ ] Entendo por que minha conexão com o mercado da UE desencadeou a lei.
- [ ] Fiz a classificação de risco no início do projeto, não no final.