Podcast aborda Grok e violência sexual com IA

A União Europeia iniciou uma investigação formal contra a xAI, a empresa responsável pela plataforma de inteligência artificial Grok, após relatos de que a ferramenta estaria criando e divulgando imagens sexualizadas de pessoas reais sem o consentimento delas. Essa ação pode resultar em multas que chegam a 6% do faturamento anual da plataforma.

Nos últimos nove dias, o Grok teria publicado aproximadamente 4,4 milhões de imagens, e cerca de 40% desse total continha conteúdo sexualizado, principalmente de mulheres. A situação gerou uma repercussão significativa, levando a investigações no Reino Unido e à proibição do Grok em países como a Indonésia. No Brasil, as autoridades também se manifestaram, recomendando que a plataforma adote medidas para prevenir esse tipo de utilização.

É importante destacar que a criação de imagens sexuais falsas não é uma prática exclusiva do Grok. Esse problema faz parte de um contexto mais amplo que envolve outras redes e sites. Em resposta às ameaças de punições de autoridades, a empresa que controla o X anunciou que implementou ações para evitar a edição de imagens reais de pessoas que contenham “roupas reveladoras, como biquínis”.

Além disso, o uso de plataformas de inteligência artificial para cometer violências sexuais está sendo discutido em um episódio do programa Café da Manhã, que foi ao ar nesta quinta-feira. Mariana Valente, diretora associada do InternetLab e professora de direito da Universidade St.Gallen, na Suíça, participa do programa e explica como essas ferramentas estão ampliando a disseminação de imagens falsas. Ela também aborda questões sobre regulamentações e responsabilizações.

O Café da Manhã é um programa publicado de segunda a sexta-feira, pela manhã, e pode ser acessado gratuitamente no Spotify. Os jornalistas Gabriela Mayer e Gustavo Simon apresentam o episódio, que é produzido por uma equipe dedicada.