A Autoridade Nacional de Proteção de Dados (ANPD), o Ministério Público Federal e a Secretaria Nacional do Consumidor (Senacon) emitiram ordem conjunta que obriga a plataforma X a impedir que o chatbot Grok produza imagens deepfake sexualmente explícitas. A determinação, publicada na quarta-feira, estabelece prazo de cinco dias para cumprimento integral — sob risco de sanções financeiras e ações judiciais.
Destaques
- Reguladores constataram que usuários ainda conseguiam gerar deepfakes sexualizados por meio de comandos simples de texto, mesmo após remoção de milhares de postagens
- A X foi criticada por “falta de transparência” na resposta às exigências anteriores das autoridades brasileiras
- Pesquisa do Center for Countering Digital Hate identificou cerca de três milhões de imagens sexualizadas criadas pelo Grok em apenas 11 dias
- Aproximadamente 23 mil dessas imagens aparentavam retratar menores de idade
De Jacarta a Brasília: a ofensiva global contra o Grok
A decisão brasileira integra uma crescente pressão regulatória internacional contra os recursos de geração de imagens do chatbot. A Indonésia se tornou o primeiro país a bloquear completamente o Grok, em janeiro, alegando riscos de pornografia produzida por IA. O acesso foi condicionalmente restaurado em 1º de fevereiro, após a X Corp apresentar compromissos formais de reforço nas salvaguardas.
Malásia e Filipinas adotaram estratégia semelhante. Ambas suspenderam temporariamente o chatbot antes de restabelecer o serviço mediante garantias da empresa.
Na Europa, o cenário se mostra ainda mais severo. O Escritório do Comissário de Informação da Grã-Bretanha deflagrou investigação formal em 3 de fevereiro. O órgão busca determinar se a X e a xAI processaram dados pessoais de forma lícita e se o design do Grok incorporou proteções adequadas.
No mesmo dia, a unidade de cibercrimes da França e a Europol realizaram operação nos escritórios da X em Paris. A ação integra investigação mais ampla que inclui acusações vinculadas a deepfakes geradas pelo chatbot. Elon Musk e a ex-CEO Linda Yaccarino foram convocados para entrevistas voluntárias previstas para abril.
3 milhões de imagens em 11 dias: a dimensão da crise
A controvérsia eclodiu no final de dezembro de 2025. O recurso “Modo Picante” do Grok e sua ferramenta de edição com um clique permitiram que usuários alterassem fotos de pessoas reais. Mulheres e crianças figuraram entre as vítimas, submetidas a comandos como “coloque-a de biquíni” ou “remova as roupas dela”.
Dados do Center for Countering Digital Hate revelam escala alarmante. O Grok produziu aproximadamente três milhões de imagens sexualizadas entre 29 de dezembro de 2025 e 8 de janeiro de 2026. Desse total, cerca de 23 mil retratavam aparentemente menores de idade.
A X anunciou medidas em 15 de janeiro para coibir a geração de nudez de pessoas reais em jurisdições onde tal conteúdo configura ilegalidade. No entanto, as autoridades brasileiras afirmaram que permanece obscuro em quais territórios essas salvaguardas operam efetivamente. A empresa sustentou que o Grok trata conteúdo ilegal com rigor e que usuários responsáveis por esse tipo de material enfrentarão consequências.
Serviço
- O que aconteceu: ANPD, MPF e Senacon determinaram que a X impeça o Grok de criar deepfakes sexualizados
- Prazo: cinco dias úteis a partir da publicação da ordem
- Consequências do descumprimento: multas e ações judiciais
- Contexto internacional: Indonésia, Malásia, Filipinas, Reino Unido e França já adotaram medidas similares
FAQ
O que são deepfakes sexualizados?
São imagens manipuladas por inteligência artificial que inserem o rosto ou corpo de pessoas reais em contextos sexualmente explícitos, sem consentimento da vítima.
Por que o Brasil determinou o bloqueio?
Autoridades verificaram que, apesar de alertas anteriores e alegações de correção pela X, usuários continuavam gerando conteúdo sexualizado por meio do Grok usando comandos simples de texto.
Quais países já tomaram medidas contra o Grok?
Indonésia foi a primeira a bloquear o chatbot. Malásia e Filipinas seguiram caminho semelhante. Reino Unido abriu investigação formal e a França realizou operação policial nos escritórios da X em Paris.
