Os negociadores da União Europeia fecharam um acordo, na sexta-feira (8), sobre as primeiras regras abrangentes de inteligência artificial (IA) do mundo, abrindo caminho para a supervisão legal da tecnologia de IA que prometeu transformar a vida quotidiana e gerou alertas sobre perigos existenciais para a humanidade.
Os negociadores do Parlamento Europeu e dos 27 países membros do bloco superaram grandes diferenças em pontos controversos, incluindo a IA generativa e o uso policial de vigilância de reconhecimento facial para assinar um acordo político provisório para a Lei de Inteligência Artificial.
“Negócio!” tuitou o comissário europeu Thierry Breton pouco antes da meia-noite. “A UE torna-se o primeiro continente a estabelecer regras claras para a utilização da IA.”
O resultado veio após uma maratona de negociações a portas fechadas esta semana, com a sessão inicial durando 22 horas antes do início do segundo turno, na manhã de sexta-feira (8).
“O acordo político de hoje marca o início de um trabalho técnico importante e necessário sobre detalhes cruciais da Lei da IA, que ainda faltam”, disse Daniel Friedlaender, chefe do escritório europeu da Computer and Communications Industry Association, um grupo de lobby da indústria tecnológica.
A UE assumiu a liderança na corrida global para definir barreiras de segurança para a IA quando revelou o primeiro rascunho do seu livro de regras em 2021. O recente boom da IA generativa, no entanto, fez com que as autoridades europeias se esforçassem para atualizar uma proposta preparada para servir de modelo para o mundo.
O Parlamento Europeu ainda terá de votar a lei no início do próximo ano, mas com o acordo fechado isso é uma formalidade, disse Brando Benifei, um legislador italiano que co-lidera os esforços de negociação do órgão.
“É muito, muito bom”, disse ele por mensagem de texto após ser questionado se incluía tudo o que ele queria. “Obviamente tivemos que aceitar alguns compromissos, mas no geral foi muito bom.” A eventual lei não entraria plenamente em vigor até 2025, no mínimo, e ameaça sanções financeiras severas para violações de até 35 milhões de euros (38 milhões de dólares) ou 7% do volume de negócios global de uma empresa.
Sistemas generativos de IA, como o ChatGPT da OpenAI, explodiram na consciência mundial, deslumbrando os usuários com a capacidade de produzir textos, fotos e músicas semelhantes aos humanos, mas levantando temores sobre os riscos que a tecnologia em rápido desenvolvimento representa para empregos, privacidade e proteção de direitos autorais. e até mesmo a própria vida humana.
Agora, os EUA, o Reino Unido, a China e coligações globais como o Grupo das sete principais democracias entraram em cena com as suas próprias propostas para regular a IA, embora ainda estejam alcançando a Europa.
Regras fortes e abrangentes da UE “podem constituir um exemplo poderoso para muitos governos que consideram a regulamentação”, disse Anu Bradford, professora da Faculdade de Direito de Columbia e especialista em legislação da UE e regulamentação digital. Outros países “podem não copiar todas as disposições, mas provavelmente irão emular muitos dos seus aspectos”.
As empresas de IA sujeitas às regras da UE também provavelmente estenderão algumas dessas obrigações para fora do continente, disse ela. “Afinal, não é eficiente treinar novamente modelos separados para mercados diferentes”, afirmou.
A Lei da IA foi originalmente concebida para mitigar os perigos de funções específicas da IA com base no seu nível de risco, de baixo a inaceitável. Mas os legisladores pressionaram para expandi-lo para modelos básicos, os sistemas avançados que sustentam serviços de IA de uso geral, como ChatGPT e o chatbot Bard do Google.
Os modelos de fundação pareciam destinados a ser um dos maiores obstáculos para a Europa. No entanto, os negociadores conseguiram chegar a um compromisso provisório no início das negociações, apesar da oposição liderada pela França, que apelou, em vez disso, à auto-regulação para ajudar as empresas europeias de IA generativa que competem com grandes rivais dos EUA, incluindo a Microsoft, patrocinadora da OpenAI.
Também conhecidos como grandes modelos de linguagem, esses sistemas são treinados em vastos acervos de obras escritas e imagens extraídas da Internet. Eles dão aos sistemas de IA generativos a capacidade de criar algo novo, ao contrário da IA tradicional, que processa dados e conclui tarefas usando regras pré-determinadas.
As empresas que constroem modelos de base terão de elaborar documentação técnica, cumprir a legislação da UE em matéria de direitos de autor e detalhar o conteúdo utilizado na formação. Os modelos básicos mais avançados que representam “riscos sistémicos” enfrentarão um escrutínio adicional, incluindo a avaliação e mitigação desses riscos, a comunicação de incidentes graves, a implementação de medidas de cibersegurança e a comunicação da sua eficiência energética.
Os investigadores alertaram que poderosos modelos de base, construídos por um punhado de grandes empresas tecnológicas, poderiam ser usados para potenciar a desinformação e a manipulação online, os ataques cibernéticos ou a criação de armas biológicas.
Os grupos de defesa dos direitos humanos também alertam que a falta de transparência sobre os dados utilizados para treinar os modelos representa riscos para a vida quotidiana, porque funcionam como estruturas básicas para os programadores de software que constroem serviços alimentados por IA.
O que se tornou o tema mais espinhoso foram os sistemas de vigilância de reconhecimento facial alimentados por IA, e os negociadores encontraram um compromisso após intensa negociação.
Os legisladores europeus queriam a proibição total do uso público de digitalização facial e outros sistemas de “identificação biométrica remota” devido a preocupações com a privacidade. Mas os governos dos países membros conseguiram negociar isenções para que as autoridades policiais pudessem utilizá-las para combater crimes graves, como a exploração sexual de crianças ou ataques terroristas.
Grupos de defesa dos direitos humanos disseram estar preocupados com as isenções e outras grandes lacunas na Lei da IA, incluindo a falta de proteção para os sistemas de IA utilizados na migração e no controlo de fronteiras, e a opção para os desenvolvedores optarem por não ter os seus sistemas classificados como de alto risco.
“Quaisquer que tenham sido as vitórias nestas negociações finais, permanece o facto de que permanecerão enormes falhas neste texto final”, afirmou. disse Daniel Leufer, analista político sênior do grupo de direitos digitais Access Now.
Fonte: Time
Comente este post