No âmbito da sua estratégia digital, a União Europeia pretende regulamentar a inteligência artificial (IA) para garantir melhores condições para o desenvolvimento e utilização desta tecnologia inovadora. Em abril de 2021, a Comissão Europeia trouxe a primeira proposta para regulamentar a IA dentro da UE. Dentre diversas diretrizes, há a recomendação que os sistemas de IA devem ser analisados ​​e classificados de acordo com o risco que representam para os usuários. Os diferentes níveis de risco significarão mais ou menos regulação. Uma vez aprovadas, essas serão as primeiras regras do mundo sobre IA.

A prioridade do Parlamento Europeu é garantir que os sistemas de IA utilizados na UE sejam seguros, transparentes, rastreáveis, não discriminatórios e respeitem o meio ambiente. Os sistemas de IA devem ser supervisionados por pessoas, e não por automação, para evitar resultados prejudiciais. O Parlamento também quer estabelecer uma definição uniforme e neutra para o conceito de IA, para que também  possa ser aplicada aos sistemas desenvolvidos futuramente.

As regras estabelecidas no AI ACT abragem obrigações para provedores e usuários dependendo do nível de risco da inteligência artificial. Embora muitos sistemas de IA representem um risco mínimo, eles precisam ser avaliados. Há também o conceito de sistemas de IA com risco inaceitável e que serão banidos. Por exemplo:

⚖️Manipulação comportamental e cognitiva de pessoas ou grupos vulneráveis ​​específicos: por exemplo, brinquedos ativados por voz que incentivam comportamentos perigosos em crianças

⚖️Pontuação social: classificação de pessoas com base no comportamento, status socioeconômico ou características pessoais

⚖️Sistemas de identificação biométrica em tempo real e remotos, como reconhecimento facial

Algumas exceções podem ser permitidas, por exemplo, sistemas de identificação biométrica remota posterior onde a identificação ocorre após um atraso significativo. Neste caso se incluem processar crimes graves, mas somente após a aprovação do tribunal.

Outro tipo de risco analisado, são os sistemas de IA de alto risco, que são aqueles que que afetam negativamente a segurança ou os direitos fundamentais. Estes são divididos em duas categorias:

⚖️1. Sistemas de IA aplicados ​​em produtos tratados pela legislação de segurança de produtos da UE . Incluem brinquedos, aviação, carros, dispositivos médicos e elevadores.

⚖️2. Sistemas de IA enquadrados em oito áreas específicas que terão de ser registrados numa base de dados da UE:

▶️Identificação biométrica e categorização de pessoas físicas

▶️Gerenciamento e operação de infraestrutura crítica

▶️Educação e formação profissional

▶️Emprego, gestão de trabalhadores e acesso ao trabalho independente

▶️Acesso e usufruto de serviços privados essenciais e serviços e benefícios públicos

▶️Aplicação da lei

▶️Gestão de Migração, Asilo e Controle de Fronteiras

▶️Assessoria na interpretação jurídica e aplicação da lei.

Todos os sistemas de IA de alto risco serão avaliados antes de serem colocados no mercado e também ao longo de seu ciclo de vida.

A IA generativa, como o ChatGPT, teria que cumprir os requisitos de transparência, como divulgar que o conteúdo foi gerado por IA, projetar o modelo para evitar que ele gere conteúdo ilegal e publicar resumos dos dados usados para treinamento e que são protegidos por direitos autorais.

Há também sistemas de risco limitado, que devem cumprir requisitos mínimos de transparência que permitam aos usuários tomar decisões informadas. Depois de interagir com os sistemas, o usuário pode decidir se deseja continuar a usá-los. Os usuários devem ser informados quando estiverem interagindo com a IA. Isso inclui sistemas de IA que geram ou manipulam conteúdo de imagem, áudio ou vídeo, por exemplo, deepfakes.

Em 14 de junho de 2023, os deputados da União Europeia adotaram a posição de negociação sobre o AI Act . As negociações com os países pertencentes ao conselho da UE  tratarão sobre sobre o texto final da lei.

Fonte: https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence