X, ex-Twitter, condenado a indenizar mulher por deepfake pornô

A plataforma X, gerida por Elon Musk, foi condenada a indenizar uma mulher que teve sua imagem usada em uma montagem de nudez falsa gerada por inteligência artificial, conhecida como deepnude. A decisão judicial ocorreu após a mulher, identificada como Heloísa D’Angelo, ter sua imagem exposta na internet por mais de dois meses sem seu consentimento. A indenização estabelecida é de R$ 56.480.

Heloísa, conhecida como Helô, relatou que o crime ocorreu em setembro de 2024. Naquela época, o ministro do Supremo Tribunal Federal (STF), Alexandre de Moraes, havia suspendido a operação da plataforma no Brasil. Helô foi informada sobre a criação da imagem falsa por uma amiga que reside no exterior. A conta responsável pela publicação, identificada como @MA7TER_YI, utilizou fotos que Helô havia postado nas redes sociais para criar uma versão em que ela aparecia sem roupas, enquanto as outras pessoas nas imagens permaneciam vestidas.

Após descobrir o ocorrido, Helô tentou denunciar a situação diretamente na plataforma, mas não conseguiu acessar seus dados. Em busca de ajuda, dirigiu-se a diversas delegacias, enfrentando dificuldades para registrar a ocorrência. Em algumas delas, os atendentes não estavam preparados para lidar com casos de deepfake ou pornografia de vingança. Finalmente, após várias tentativas, ela conseguiu registrar um boletim de ocorrência na delegacia especializada em pedofilia, onde já havia outras denúncias de casos semelhantes.

Como a plataforma não removeu a imagem após a denúncia, Helô decidiu buscar reparação na Justiça Civil, alegando que a empresa deveria ser responsabilizada por não agir contra a publicação do conteúdo ilícito. Antes da mudança recente no entendimento do STF sobre a responsabilidade das plataformas, já era possível punir empresas que não retirassem do ar conteúdos criminosos, como a pornografia de vingança. A publicação da imagem foi removida apenas após uma ordem judicial em novembro de 2024.

Em julho de 2025, o juiz Raphael Ernane Neves decidiu a favor de Helô, condenando a X a pagar a indenização. A empresa, no entanto, recorreu da decisão e um novo julgamento está agendado para fevereiro. Os advogados da plataforma contestam o valor da indenização, argumentando que é excessivo.

Após o episódio, Helô decidiu deixar de usar a plataforma, na qual tinha cerca de 30 mil seguidores, e parou de publicar fotos pessoais. Ela expressou que suas postagens, que mostravam suas viagens e eventos, eram apreciadas pela comunidade que havia construído.

De acordo com a legislação brasileira, quando uma plataforma não retira conteúdo criminoso, ela pode ser responsabilizada. A nova jurisprudência do STF estabelece que as plataformas devem tomar medidas para impedir a disseminação de crimes graves, especialmente aqueles que afetam mulheres e crianças. A Autoridade Nacional de Proteção de Dados (ANPD) também recomendou que a X criasse um canal de denúncias para imagens geradas por inteligência artificial e acelerasse a remoção de conteúdo ilegal.

O advogado Rony Vainzof ressaltou a importância de responsabilizar criminalmente aqueles que produzem pornografia de vingança com o uso de inteligência artificial. Ele enfatizou que não é suficiente apenas controlar a tecnologia; as pessoas precisam entender que criar esse tipo de conteúdo tem consequências sérias. As plataformas são obrigadas a manter registros das publicações, o que permite que as autoridades identifiquem os responsáveis. Contudo, no caso de Helô, a X pode já ter descartado essas evidências, complicando ainda mais a situação. Helô lembrou que a conta que a atacou havia feito o mesmo com várias outras pessoas.