Tecnologia: Metaferramenta para bloquear imagens de nudez em mensagens privadas de adolescentes

De acordo com a Meta, o novo recurso foi projetado exclusivamente para proteger os usuários, principalmente mulheres e adolescentes – menores de 13 anos não podem usar suas plataformas – de receberem imagens de nudez ou serem pressionados a enviá-las.

Também anunciou que menores, por padrão, não poderão receber mensagens de estranhos no Instagram e no Messenger.

E documentos legais recentemente tornados públicos como parte de um processo nos EUA contra a Meta, alegam que documentos da empresa mostram que cerca de 100 mil usuários adolescentes do Facebook e do Instagram são assediados sexualmente online todos os dias. A Meta acusou o processo de descaracterizar seu trabalho.

Mas, na quinta-feira (25), a gigante da tecnologia revelou um novo recurso planejado para ajudar a proteger os adolescentes de imagens inadequadas em suas mensagens.

Este sistema também funcionará em chats criptografados com mais detalhes a serem revelados ainda este ano.

A recente decisão da Meta de proteger os bate-papos do Facebook Messenger por padrão com criptografia ponta a ponta (e2ee) foi duramente criticada pelo governo, pela polícia e pelas principais instituições de caridade infantis.

E2ee significa que apenas o remetente e o destinatário podem ler as mensagens, o que significa, dizem os críticos, que a Meta não pode detectar e denunciar material de abuso infantil nas mensagens.

No entanto, alguns críticos dizem que as plataformas deveriam implantar uma técnica chamada varredura do lado do cliente para detectar abuso infantil enviado por meio de aplicativos criptografados.

A verificação do lado do cliente refere-se a sistemas no dispositivo de um usuário que verificam mensagens em busca de correspondências com imagens conhecidas de abuso infantil antes de serem criptografadas e enviadas, e relatam à empresa qualquer conteúdo suspeito de ser ilegal.

A instituição de caridade infantil NSPCC sugeriu que o novo sistema da Meta “mostra que são possíveis compromissos que equilibram os direitos de segurança e privacidade dos usuários em ambientes criptografados de ponta a ponta”.

De acordo com a Meta, seu novo recurso não é a varredura do lado do cliente, que acredita prejudicar o principal recurso de proteção de privacidade da criptografia, que apenas o remetente e o destinatário sabem sobre o conteúdo das mensagens.

Ele usará aprendizado de máquina apenas para identificar nudez e funcionará inteiramente no dispositivo. De acordo com Meta, usar o aprendizado de máquina para identificar o abuso infantil é muito mais difícil e haveria um sério risco de erros se isso fosse tentado entre seus bilhões de usuários, com o potencial de pessoas inocentes serem denunciadas com graves consequências.

A Meta argumenta que introduziu mais de 30 ferramentas e recursos para ajudar a manter as crianças seguras e também revelou uma série de novos recursos de segurança infantil.

Por padrão, as crianças não poderão receber mensagens no Instagram ou no Facebook Messenger de pessoas que não seguem ou às quais não estão conectadas, anunciou.

A metapolítica já impede que adultos enviem mensagens a adolescentes que não os seguem. “Sob esta nova configuração padrão, os adolescentes só podem receber mensagens ou serem adicionados a bate-papos em grupo por pessoas que eles já seguem ou estão conectados”, declarou a Meta.

As ferramentas de supervisão parental agora também darão aos pais a capacidade de negar solicitações de adolescentes para alterar suas configurações de segurança padrão – como quem pode enviar mensagens diretas ou se eles podem visualizar conteúdo mais confidencial. Anteriormente, eles eram apenas notificados de uma mudança.