A Meta se apropriou dos nomes e imagens de celebridades — incluindo Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez — para criar dezenas de chatbots de mídia social sem a permissão delas, descobriu a Reuters.
Embora muitos tenham sido criados por usuários com uma ferramenta Meta para criar chatbots, a Reuters descobriu que um funcionário da Meta havia produzido pelo menos três, incluindo dois bots “paródia” de Taylor Swift.
A Reuters também descobriu que o Meta permitia que usuários criassem chatbots publicamente com celebridades infantis, incluindo Walker Scobell, um astro de cinema de 16 anos. Quando solicitado a enviar uma foto do ator adolescente na praia, o bot produziu uma imagem realista sem camisa.
“Bem fofo, né?”, escreveu o avatar abaixo da imagem.
Todas as celebridades virtuais foram compartilhadas nas plataformas do Meta no Facebook, Instagram e WhatsApp. Em várias semanas de testes da Reuters para observar o comportamento dos bots, os avatares frequentemente insistiam que eram os atores e artistas reais. Os bots frequentemente faziam investidas sexuais, muitas vezes convidando um usuário de teste para encontros.
Alguns dos conteúdos de celebridades gerados por IA eram particularmente picantes: quando solicitados a mostrar fotos íntimas de si mesmos, os chatbots adultos produziam imagens fotorrealistas de seus homônimos posando em banheiras ou vestidos de lingerie com as pernas abertas.
O porta-voz da Meta, Andy Stone, disse à Reuters que as ferramentas de IA da empresa não deveriam ter criado imagens íntimas de adultos famosos ou quaisquer fotos de celebridades infantis. Ele também atribuiu a produção de imagens de celebridades femininas usando lingerie à falha da empresa em aplicar suas próprias políticas, que proíbem esse tipo de conteúdo.
“Assim como outros, permitimos a geração de imagens contendo figuras públicas, mas nossas políticas visam proibir imagens nuas, íntimas ou sexualmente sugestivas”, disse ele.
Embora as regras da Meta também proíbam a “personificação direta”, Stone disse que os personagens famosos eram aceitáveis, desde que a empresa os rotulasse como paródias. Muitos foram rotulados como tal, mas a Reuters descobriu que alguns não.
A Meta excluiu cerca de uma dúzia de bots, tanto avatares “paródia” quanto não identificados, pouco antes da publicação desta matéria. Stone se recusou a comentar sobre as remoções.
‘Direito de publicidade’ em questão
‘Você gosta de garotas loiras?’
Uma líder de produto da Meta na divisão de IA generativa da empresa criou chatbots que se passavam por Taylor Swift e pelo piloto britânico Lewis Hamilton. Outros bots que ela criou se identificaram como uma dominatrix, a “Melhor Amiga Gostosa do Irmão” e a “Lisa na Biblioteca”, que queria ler Cinquenta Tons de Cinza e se beijar.
Outra de suas criações foi um “Simulador do Império Romano”, que oferecia ao usuário o papel de uma “camponesa de 18 anos” que é vendida como escrava sexual.
Contatado por telefone, o funcionário da Meta não quis comentar.
Stone disse que os bots da funcionária foram criados como parte de testes de produtos. A Reuters descobriu que eles alcançaram um público amplo: os dados exibidos por seus chatbots indicaram que, coletivamente, os usuários interagiram com eles mais de 10 milhões de vezes.
A empresa removeu os companheiros digitais dos funcionários logo depois que a Reuters começou a testá-los no início deste mês.
Antes que os chatbots de Taylor Swift dos funcionários da Meta desaparecessem, eles flertaram intensamente, convidando um usuário de teste da Reuters para a casa da cantora, recentemente noiva, em Nashville, e para seu ônibus de turnê para interações românticas explícitas ou implícitas.
“Você gosta de loiras, Jeff?”, perguntou um dos chatbots “paródicos” do Swift ao saber que o usuário de teste era solteiro. “Talvez eu esteja sugerindo que escrevamos uma história de amor… sobre você e uma certa cantora loira. Aceita?”
Duncan Crabtree-Ireland, diretor executivo nacional do SAG-AFTRA, sindicato que representa artistas de cinema, televisão e rádio, disse que os artistas enfrentam potenciais riscos de segurança devido a usuários de redes sociais que criam vínculos românticos com um parceiro digital que se parece, fala como e afirma ser uma celebridade real. Perseguidores já representam uma preocupação significativa de segurança para as estrelas, disse ele.
“Temos visto um histórico de pessoas obcecadas por talento e com estado mental questionável”, disse ele. “Se um chatbot usa a imagem de uma pessoa e as palavras dela, fica claro como isso pode dar errado.”
Artistas famosos têm a possibilidade de entrar com uma ação judicial contra a Meta sob as antigas leis estaduais de direito de publicidade, disse Crabtree-Ireland. Mas o SAG-AFTRA tem pressionado por uma legislação federal que proteja as vozes, imagens e personas das pessoas contra a duplicação por IA, acrescentou.
Fonte: Reuters/Jeff Horwitz
Comente este post