UM Justiça brasileira e dois órgãos federais determinaram que a rede social X, do bilionário Elon Musk, adote medidas imediatas para impedir que sua ferramenta de inteligência artificial, o Grok, seja usada na criação de imagens de cunho sexual envolvendo crianças, adolescentes ou adultos sem consentimento.
A decisão foi anunciada na quarta-feira pelo procurador-geral da República, pela Autoridade Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon). Os órgãos exigem que a plataforma implemente mecanismos eficazes para bloquear a geração de conteúdos sexualizados ou erotizados produzidos com o auxílio da ferramenta de IA.
AX terá o prazo de cinco dias para cumprir a determinação. Caso contrário, poderá ser alvo de novas ações judiciais e da aplicação de multas.
Segundo as autoridades brasileiras, a empresa já havia sido advertida em janeiro sobre o problema. À época, a plataforma informou ter removido milhares de publicações e suspendido centenas de contas relacionadas à divulgação de imagens inadequadas. Mesmo assim, de acordo com os órgãos de controle, usuários ainda conseguem gerar imagens de teor sexual por meio do Grok, o que levou à nova cobrança e à crítica por “falta de transparência” na resposta da empresa.
No fim de 2025 e início de 2026, o robô conversacional passou a responder a comandos de usuários com imagens criadas por inteligência artificial, incluindo montagens que colocavam celebridades e pessoas comuns, majoritariamente mulheres, em situações de nudez ou trajes íntimos, sem autorização. A repercussão internacional gerou investigações em países como França e Reino Unido, além de apurações no âmbito da União Europeia.
A Comissão Europeia também anunciou investigação sobre o Grok por suspeita de disseminação de imagens sexualmente explícitas manipuladas, inclusive conteúdos que poderiam configurar abuso sexual infantil.
Em alguns países do Sudeste Asiático, como Malásia, Indonésia e Filipinas, o acesso à rede social chegou a ser suspenso temporariamente em meio à controvérsia, sendo restabelecido depois.
Em meados de janeiro, a X afirmou que passaria a bloquear a geração de imagens de nudez de pessoas reais “nas jurisdições onde isso é ilegal”. No entanto, não há clareza sobre a efetividade dessas restrições.
Relatório da organização não governamental Center for Countering Digital Hate (CCDH) apontou que o Grok teria gerado cerca de três milhões de imagens sexualizadas em apenas 11 dias, incluindo aproximadamente 23 mil envolvendo crianças e 1,8 milhão retratando mulheres. O levantamento indica uma média de cerca de 190 imagens por minuto no período analisado.
Inicialmente, a criação desse tipo de conteúdo estava restrita a usuários pagantes da plataforma, mas as medidas de contenção vêm sendo questionadas por autoridades e entidades de defesa de direitos digitais.
No Brasil, a relação entre a X e o Judiciário já passou por outros momentos de tensão. Em 2024, o Supremo Tribunal Federal determinou a suspensão temporária da rede no país após o descumprimento de decisões relacionadas ao combate à desinformação.