Investigadores de segurança criaram um worm de inteligência artificial (IA) que pode se infiltrar em modelos como o ChatGPT e o Gemini, e potencialmente roubar dados.
Baseados nos Estados Unidos e em Israel, os investigadores construíram propositadamente um worm informático para servir de informador e evitar a sua ocorrência em modelos de IA generativa (GenAI).
Um worm informático pode se replicar e se propagar comprometendo outras máquinas. Ao contrário de outros worms, este não precisa que o utilizador clique ou abra uma mensagem de correio eletrônico para receber o malware, atua automaticamente no momento em que recebe a mensagem de correio eletrônico infectada.
Recebeu o nome de Morris II, em homenagem ao primeiro worm informático desenvolvido em 1988.
Como funciona?
Os investigadores criaram um sistema de correio eletrônico que pode responder à mensagens utilizando o GenAI e depois se ligar aos modelos ChatGPT, Gemini e LLaVA.
O Morris II foi utilizado contra assistentes de correio eletrônico equipados com GenAI e podia roubar dados pessoais e lançar campanhas de spam.
“O estudo demonstra que os atacantes podem inserir tais prompts em entradas que, quando processadas por modelos GenAI, levam o modelo a replicar a entrada como saída (replicação) e se envolver em atividades maliciosas (carga útil) “, escreveram os investigadores.
O prompt, que é qualquer pergunta ou comunicação feita ao modelo de IA, força o modelo de IA a responder com outro prompt, que pode infetar o assistente de IA para depois extrair informações sensíveis.
Os investigadores avisam que, embora não tenham sido detectados worms de IA, é apenas uma questão de tempo.
“Basicamente, significa que agora temos a capacidade de conduzir ou executar um novo tipo de ciber ataque que nunca foi visto antes”, disse Ben Nassi, investigador da Universidade de Cornell responsável pelo worm informático, numa entrevista à publicação Wired.
O estudo é preocupante, uma vez que os assistentes de IA estão sendo introduzidos em dispositivos inteligentes e até em automóveis, e podem enviar e-mails ou marcar compromissos em nome de alguém.
Num outro artigo publicado no mês passado, investigadores de Singapura e da China mostraram que podiam facilmente obter acesso ao sistema operativo de um modelo de linguagem de grande dimensão.
Fonte: Euronews
Comente este post