Pular para o conteúdo

Entenda a lei da União Europeia que regula inteligência artificial

Nova legislação europeia proíbe o uso de sistemas de IA prejudiciais aos direitos humanos fundamentais, com exceções e flexibilidades para forças policiais e empresas que produzem chatbots de uso geral.

Entenda a lei da União Europeia que regula inteligência artificial

Em um acordo alcançado após 36 horas de negociações, parlamentares europeus finalizaram na última sexta-feira (8.dez) a AI ACT, legislação da União Europeia para regular a inteligência artificial na região.

PROIBIÇÕES. Durante as negociações, os eurodeputados concluiram que sistemas de IA podem representar uma ameaça potencial aos direitos dos cidadãos e à democracia e chegaram nas seguintes proibições:

Alguns bancos de dados, como o Clearview AI, foram completamente banidos. A Clearview oferece um sistema de reconhecimento facial amparado em uma base de dados com fotos coletadas da internet, e que já foi testada por autoridades brasileiras.

ALTO RISCO. Para sistemas de IA de alto risco, que podem causar danos significativos à saúde, segurança, direitos fundamentais, ambiente, democracia e Estado de direito, os deputados estabeleceram obrigações claras, como uma avaliação de impacto obrigatória dos direitos fundamentais.

💡
Os cidadãos da UE agora têm o direito de apresentar reclamações e exigir explicações sobre decisões influenciadas por sistemas de IA de alto risco que afetam seus direitos.

Também foi estabelecido que sistemas de IA que impactam eleições e o comportamento do eleitor são considerados de alto risco.

USO GERAL. Os sistemas de uso geral, como o ChatGPT, devem cumprir os requisitos de transparência propostos inicialmente pelo Parlamento Europeu, incluindo a elaboração de documentação técnica, a conformidade com a legislação da UE sobre direitos autorais e a divulgação de resumos detalhados sobre o conteúdo usado para treinamento.

Para os modelos de uso geral de alto impacto e risco sistêmico, existirão obrigações mais rigorosas. Se eles atenderem a critérios específicos, as empresas responsáveis deverão realizar avaliações de modelos, identificar e mitigar riscos sistêmicos, conduzir testes contraditórios, relatar incidentes graves às autoridades, garantir a cibersegurança e apresentar relatórios sobre eficiência energética.

AUTORIDADES. Órgãos públicos e forças policiais foram contemplados com diversas salvaguardas e flexibilidades específicas para a utilização de sistemas de identificação biométrica em espaços públicos, com foco na aplicação da lei. No entanto, os algoritmos de policiamento preditivo, destinados a avaliar o risco de crimes futuros com base em características pessoais, foram proibidos.

Para o uso dos sistemas biométricos em tempo real pelas forças policiais na região, serão aplicadas condições rigorosas:

A coleta de dados biométricos à distância será restrita à busca direcionada de pessoas condenadas ou suspeitas de crimes graves. O uso de tecnologias de reconhecimento facial por autoridades policiais não foi proibido, o que vem causando burburinho entre ativistas pela privacidade e tecnologistas europeus. Até a Anistia Internacional entrou na briga.

BUROCRACIA. O AI Act entrará em vigor dois anos após ser aprovado, mas as proibições serão aplicadas mais rapidamente, em apenas seis meses. Os requisitos para modelos de IA, órgãos de avaliação e a parte sobre governança começarão a valer um ano antes do prazo geral.

O não cumprimento das regras pode resultar em multas, mas a penalidade aplicada depende da infração cometida e do tamanho da empresa, cujos valores podem ser:

35 milhões de euros ou 7% do volume de negócios global;

7,5 milhões de euros ou 1,5% do volume de negócios.

Via Conselho Europeu e Parlamento Europeu (ambos em inglês)

Texto Sofia Schurig
Edição Alexandre Orrico
Sofia Schurig

Sofia Schurig

Repórter com experiência na cobertura de direitos humanos, segurança de menores e extremismo online. Estudante da UFBA, começou como estagiária no Núcleo, passando a ser repórter em 2024.

Todos os artigos

Mais em Jogo Rápido

Ver tudo

Mais de Sofia Schurig

Ver tudo