A ferramenta de detecção de imagens criadas por inteligência artificial da Meta, lançada recentemente, revelou um desempenho insatisfatório. De acordo com uma reportagem da Reuters publicada na última sexta-feira (10), a tecnologia falhou em reconhecer 55% das imagens que ela mesma produziu usando o sistema Muse Image, especialmente após alterações de corte. Para chegar a esse resultado, foram testadas 40 imagens desenvolvidas pelo modelo da empresa.
Desempenho em teste inicial
No início dos testes, a ferramenta se saiu bem ao identificar todas as imagens originais. Entretanto, a situação se complicou quando as dimensões das imagens foram reduzidas para cerca de um terço a metade do tamanho original. A Meta informou que ainda se encontra na fase de pré-visualização e destacou que a marca d’água invisível, chamada Content Seal, é feita para resistir a edições comuns, mas pode ser eliminada em cortes mais intensos.
Limitações da tecnologia de marca d’água
Os especialistas têm discutido as limitações que os sistemas de detecção com marca d’água enfrentam. Siwei Lyu, professor da Universidade de Buffalo, alertou que modificações significativas, como compressão ou cortes, podem afetar a eficácia da detecção. Sarah Barrington, pesquisadora de IA em Berkeley, também comentou que, embora a tecnologia ainda apresente imperfeições, ela representa um avanço substancial na identificação de conteúdos gerados por IA.
Relevância no contexto atual
Este tipo de ferramenta se torna especialmente pertinente em um ano eleitoral nos Estados Unidos, onde a manipulação de imagens pode facilitar a disseminação de deepfakes. Em março, o Comitê de Supervisão da Meta já havia indicado a necessidade de aumentar o investimento em ferramentas para combater a propagação de conteúdos enganadores gerados pela IA.
Sobre o Muse Image e novas inovações
O Muse Image, recém-lançado, é um gerador de imagens que permite que usuários criem conteúdos a partir de comandos de texto. Apesar de suas capacidades, o modelo gerou polêmica ao permitir que usuários manipulem fotos públicas no Instagram sem aviso prévio. Nos dias seguintes, a Meta introduziu também o Muse Spark 1.1, um modelo de raciocínio multimodal voltado para diversas tarefas, acessível através da nova API Meta Model API e do aplicativo Meta AI.