De clones de voz a avatares digitais, a IA está oferecendo novas maneiras de preservar digitalmente entes queridos — e levantando preocupações sobre dados, consentimento e como essa tecnologia pode impactar a maneira como lamentamos.
Diego Felix dos Santos nunca imaginou ouvir a voz do falecido pai novamente — até que a IA tornou isso possível. “O tom da voz é quase perfeito”, diz ele. “Parece que ele está aqui.”
Após o falecimento inesperado do pai do homem de 39 anos, no ano passado, Santos viajou para o Brasil, seu país natal, para ficar com a família. Foi somente após retornar para sua casa em Edimburgo, na Escócia, que ele conta ter percebido: “Eu não tinha nada que realmente me lembrasse do meu pai”. O que ele tinha, porém, era uma mensagem de voz que seu pai lhe enviou da cama do hospital.
Em julho, Dos Santos pegou aquela nota de voz e, com a ajuda da Eleven Labs — uma plataforma geradora de voz alimentada por inteligência artificial fundada em 2022 — pagou uma taxa mensal de US$ 22 para enviar o áudio e criar novas mensagens na voz de seu pai, simulando conversas que eles nunca tiveram.
“Oi, filho, como vai?”, ressoa a voz do pai no aplicativo, como sempre acontece em suas ligações semanais. “Beijos. Te amo, mandão”, acrescenta a voz, usando o apelido que o pai lhe deu quando ele era criança. Embora a família religiosa de Santos inicialmente tivesse reservas sobre o uso de IA para se comunicar com o pai no além-túmulo, ele diz que, desde então, eles se converteram à sua escolha. Agora, ele e a esposa, que foi diagnosticada com câncer em 2013, estão considerando criar clones de voz com IA deles mesmos.
A experiência de Santos reflete uma tendência crescente em que as pessoas estão usando IA não apenas para criar semelhanças digitais, mas também para simular mortos. À medida que essas tecnologias se tornam mais pessoais e difundidas, especialistas alertam para os riscos éticos e emocionais — desde questões de consentimento e proteção de dados até os incentivos comerciais que impulsionam seu desenvolvimento.
O mercado de tecnologias de IA projetadas para ajudar as pessoas a processar perdas, conhecidas como “tecnologia do luto”, cresceu exponencialmente nos últimos anos. Impulsionada por startups americanas como a StoryFile (uma ferramenta de vídeo com tecnologia de IA que permite que as pessoas se gravem para reprodução póstuma) e a HereAfter AI (um aplicativo baseado em voz que cria avatares interativos de entes queridos falecidos), essa tecnologia se promove como um meio de lidar com o luto, e talvez até mesmo preveni-lo.
Robert LoCascio fundou a Eternos, uma startup sediada em Palo Alto que ajuda pessoas a criar um gêmeo digital de IA, em 2024, após perder seu pai. Desde então, mais de 400 pessoas usaram a plataforma para criar avatares interativos de IA, diz LoCascio, com assinaturas a partir de US$ 25 para uma conta legada que permite que a história de uma pessoa permaneça acessível a entes queridos após sua morte.
Michael Bommer, engenheiro e ex-colega de LoCascio, foi um dos primeiros a usar o Eternos para criar uma réplica digital de si mesmo após saber do diagnóstico de câncer terminal. LoCascio diz que Bommer, que faleceu no ano passado, encontrou um encerramento ao deixar um pedaço de si para sua família. Sua família também encontrou um encerramento com isso. “Captura bem a essência dele”, disse sua esposa Anett Bommer, que mora em Berlim, Alemanha, à Reuters por e-mail. “Sinto que ele está próximo da minha vida através da IA, porque foi seu último projeto sincero e agora se tornou parte da minha vida.”
O objetivo dessa tecnologia não é criar fantasmas digitais, afirma Alex Quinn, CEO da Authentic Interactions Inc., empresa controladora da StoryFile, sediada em Los Angeles. Em vez disso, é preservar as memórias das pessoas enquanto elas ainda estão por perto para compartilhá-las.
“Essas histórias deixariam de existir sem algum tipo de interferência”, diz Quinn, observando que, embora as limitações dos clones de IA sejam óbvias — o avatar não saberá como está o tempo lá fora ou quem é o presidente atual —, os resultados ainda valem a pena. “Acho que ninguém quer ver a história, a história e a memória de alguém desaparecerem completamente”.
Consentimento
Uma das maiores preocupações em torno da tecnologia do luto é o consentimento: o que significa recriar digitalmente alguém que, em última análise, não tem controle sobre como sua imagem será usada após a morte? Enquanto algumas empresas, como a Eleven Labs, permitem que as pessoas criem imagens digitais de seus entes queridos postumamente, outras são mais restritivas.
A LoCascio, da Eternos, por exemplo, afirma que sua política os impede de criar avatares de pessoas que não podem dar seu consentimento e que administram verificações para aplicá-la, incluindo a exigência de que aqueles que criam contas gravem sua voz duas vezes. “Não vamos cruzar a linha”, diz ele. “Acho que, eticamente, isso não funciona.”
A Eleven Labs não respondeu a um pedido de comentário.
Em 2024, especialistas em ética da IA na Universidade de Cambridge publicaram um estudo solicitando protocolos de segurança para abordar os riscos sociais e psicológicos representados pela ” indústria da vida após a morte digital “. Katarzyna Nowaczyk-Basińska, pesquisadora do Centro Leverhulme para o Futuro da Inteligência de Cambridge e coautora do estudo, diz que incentivos comerciais geralmente impulsionam o desenvolvimento dessas tecnologias, tornando essencial a transparência em torno da privacidade de dados.
“Não temos ideia de como esses dados (da pessoa falecida) serão usados em dois ou dez anos, ou como essa tecnologia evoluirá”, diz Nowaczyk-Basińska. Uma solução, ela sugere, é tratar o consentimento como um processo contínuo, revisitado à medida que as capacidades da IA evoluem.
Impacto emocional
Mas além das preocupações com a privacidade e a exploração de dados, alguns especialistas também se preocupam com o impacto emocional dessa tecnologia. Ela poderia inibir a maneira como as pessoas lidam com o luto?
Cody Delistraty, autor de “The Grief Cure” (A Cura do Luto), alerta contra a ideia de que a IA pode oferecer um atalho para o luto. “O luto é individualizado”, diz ele , observando que as pessoas não podem submetê-lo ao crivo de um avatar digital ou de um chatbot de IA e esperar “obter algo realmente positivo”.
Anett Bommer diz que não recorreu ao avatar de IA do marido durante os estágios iniciais do seu próprio processo de luto, mas não acredita que isso a teria afetado negativamente se o tivesse feito. “A relação com a perda não mudou nada”, diz ela, acrescentando que o avatar “é apenas mais uma ferramenta que posso usar, além de fotos, desenhos, cartas e bilhetes”, para me lembrar dele.
Andy Langford, diretor clínico da Cruse, uma instituição de caridade para pessoas em luto sediada no Reino Unido, afirma que, embora seja muito cedo para tirar conclusões concretas sobre os efeitos da IA no luto, é importante que aqueles que usam essa tecnologia para superar a perda não fiquem “presos” ao luto. “Precisamos fazer um pouco das duas coisas — o luto e a vivência”, afirma.
Para Santos, recorrer à IA em seu momento de luto não foi uma questão de encontrar um encerramento — foi uma questão de buscar conexão. “Há alguns momentos específicos na vida… em que eu normalmente ligaria para ele pedindo conselhos”, diz Santos. Embora saiba que a IA não pode trazer seu pai de volta, ela oferece uma maneira de recriar os “momentos mágicos” que ele não pode mais compartilhar.
Fonte: Reuters/Hani Richter
Comente este post