Em votação histórica realizada no dia 13 de março, o Parlamento Europeu aprovou o AI Act, o primeiro conjunto de normas destinado a regulamentar o uso da Inteligência Artificial (IA) dentro da União Europeia (UE). Esta aprovação representa um importante passo para assegurar uma adoção ética e responsável da IA, com implicações que vão além das fronteiras do bloco europeu.
Definição de Inteligência Artificial
O AI Act estabelece diversas definições relevantes, mas duas são centrais para a compreensão daquilo que se busca definir como “Inteligência Artificial” para fins legais, os sistemas de IA e modelos de IA.
Conforme Considerando (97) do AI Act, “embora os modelos de IA sejam componentes essenciais dos sistemas de IA, não constituem, por si só, sistemas de IA. Os modelos de IA exigem a adição de outros componentes, como, por exemplo, uma interface de utilizador, para se tornarem sistemas de IA. Os modelos de IA são tipicamente integrados e fazem parte integrante dos sistemas de IA”.
Nesse sentido, o AI Act assim conceitua ambos:
Sistema de IA
É um sistema baseado em máquinas, concebido para funcionar com níveis de autonomia variáveis que pode apresentar capacidade de adaptação após a implantação. Para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, conclui a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais.
Além dessa importante definição, o AI Act também traz os conceitos de sistema de reconhecimento de emoções, identificação biométrica, categorização biométrica, entre outros.
Modelo de IA de finalidade geral
Este é um modelo de IA, inclusive se for treinado com uma grande quantidade de dados utilizando a auto supervisão em escala, que apresenta uma generalidade significativa e é capaz de executar de forma competente uma vasta gama de tarefas distintas, independente da forma como o modelo é colocado no mercado. Pode ser integrado numa variedade de sistemas ou aplicações, exceto os modelos de IA que são utilizados para atividades de investigação, desenvolvimento ou criação de protótipos antes de serem lançados no mercado.
Categorias de risco
O AI Act estabelece uma regulamentação abrangente para sistemas de IA mediante a classificação deles conforme o grau de risco, definindo os limites de aplicação e uso. Destacam-se as práticas proibidas, como a vedação a utilização de sistemas de IA que empreguem técnicas subliminares que contornem a consciência de uma pessoa, “ou técnicas manifestamente manipuladoras ou enganadoras, com o objetivo ou o efeito de distorcer substancialmente o comportamento de uma pessoa, ou de um grupo de pessoas, prejudicando de forma considerável a capacidade de tomar uma decisão informada e levando, assim, uma pessoa a tomar uma decisão que, caso contrário, não tomaria”.
Por outro lado, segundo o AI Act, os sistemas de IA de risco elevado devem:
- ser concebidos e desenvolvidos de modo a poderem ser supervisionados por humanos, a fim de prevenir e minimizar riscos para saúde, segurança ou direitos fundamentais;
- ser desenvolvidos com níveis apropriados de exatidão e cibersegurança;
- antes da implementação de um sistema de IA de risco elevado, deve ser realizada Avaliação de Impacto sobre Direitos Fundamentais;
- ser objeto de sistema de gestão de riscos, entre outras obrigações.
Governança e conformidade
O AI Act estabelece obrigações de transparência e governança para os sistemas de IA, proibindo práticas prejudiciais e impondo requisitos específicos aos provedores desses sistemas. Além disso, prevê sanções para o descumprimento das disposições do AI Act, podendo chegar a 7% do faturamento da empresa, além de outras sanções não pecuniárias.
Regras progressivas de entrada em vigor
O AI Act adotará uma abordagem progressiva visando permitir uma adaptação gradual dos países e das empresas à nova legislação, garantindo uma implementação eficaz e minimizando possíveis impactos adversos.
Serão adotadas as seguintes etapas, contadas da data de entrada em vigor do regulamento:
- em seis meses, as proibições previstas no texto devem ser aplicadas;
- em 12 meses, os sistemas de avaliação e conformidade, regras de governança e as obrigações dos fornecedores de modelos de IA de finalidade geral;
- em dois anos, o regulamento será totalmente aplicado.
Aplicabilidade da legislação
Embora o AI Act seja uma legislação voltada para a UE, as ramificações vão além do bloco. Com efeitos extraterritoriais, o AI Act abrange sistemas de IA que possam impactar o mercado e cidadãos da UE. Em outras palavras, aplica-se não apenas às entidades dentro da UE, mas também a todos os fornecedores ou empresas cujos produtos ou serviços sejam utilizados no território do bloco.
Em caso de dúvida sobre o tema, nossa equipe de Direito Digital está à disposição.
