O governo brasileiro, em uma ação conjunta envolvendo a Secretaria Nacional do Consumidor (Senacon), a Autoridade Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF), emitiu na última segunda-feira uma recomendação formal à plataforma X (antigo Twitter). O documento exige soluções imediatas para conter a proliferação de material sexualizado enganoso gerado pelo chatbot de inteligência artificial Grok. As autoridades alertaram que a falha no cumprimento das exigências resultará na escalada de medidas de fiscalização e punições contra a empresa.

“Temos tolerância zero para a criação e disseminação baseada em IA de imagens íntimas não consensuais ou de material de abuso sexual infantil.” — Rob Bonta, Procurador-Geral da Califórnia.

Ofensiva regulatória e casos reais

A recomendação representa a ação mais contundente do Brasil até o momento frente à crise global envolvendo o Grok. A controvérsia intensificou-se no início de janeiro, quando usuários descobriram a capacidade do chatbot de remover digitalmente as roupas de pessoas reais ou retratá-las em vestimentas reveladoras a partir de fotos públicas, sem qualquer consentimento.

A gravidade da situação foi ilustrada pelo caso da musicista brasileira Julie Yukari. Segundo investigação da Reuters, imagens geradas por IA retratando a artista quase nua circularam pela plataforma após usuários solicitarem ao Grok a modificação de uma foto que ela havia publicado durante a virada do ano.

O Instituto Brasileiro de Defesa do Consumidor (Idec) já havia protocolado uma denúncia à ANPD em 14 de janeiro, solicitando:

• A suspensão imediata das funcionalidades do Grok que utilizam dados de pessoas reais.

• A apresentação de relatórios transparentes sobre as denúncias recebidas pela plataforma.

• O cumprimento rigoroso da legislação brasileira, que impõe regras estritas para o uso de dados de crianças e adolescentes.

A deputada federal Erika Hilton também se manifestou, pedindo a desativação das funções de IA do Grok até a conclusão das investigações pertinentes.

Resposta da plataforma e cenário internacional

Em resposta à pressão, a xAI e a X anunciaram em 14 de janeiro a implementação de “medidas tecnológicas” para impedir a edição de imagens que resultem em nudez ou roupas reveladoras. A empresa restringiu a criação e edição de imagens apenas para assinantes pagos e ativou bloqueios geográficos (geoblocking) em jurisdições onde esse tipo de conteúdo é ilegal.

Contudo, o Idec sustenta que as medidas são insuficientes. A organização aponta que a X continua permitindo a geração de imagens contestadas e destaca uma grave falha de transparência: a política de privacidade do Grok não está disponível em português, o que impede os usuários brasileiros de compreenderem como seus dados estão sendo processados.

A movimentação brasileira acompanha uma onda global de restrições ao chatbot de Elon Musk:

• Bloqueios Totais: Malásia e Indonésia bloquearam o acesso ao Grok; as Filipinas trabalham para implementar medida similar.

• Investigações: Reino Unido, União Europeia, França e Índia iniciaram investigações ou emitiram alertas sobre violações de segurança online.

• Estados Unidos: A Califórnia, através do Procurador-Geral Rob Bonta, abriu investigação sobre a proliferação de material sexualmente explícito não consensual.

Perguntas Frequentes

1. Quais órgãos brasileiros notificaram a plataforma X e por quê?

A notificação formal foi uma ação conjunta entre a Senacon (Secretaria Nacional do Consumidor), a ANPD (Autoridade Nacional de Proteção de Dados) e o MPF (Ministério Público Federal). A motivação é a proliferação de imagens íntimas falsas (deepfakes) geradas sem consentimento pelo chatbot Grok, violando direitos de imagem e leis de proteção de dados.

2. Como o chatbot Grok estava sendo utilizado indevidamente?

Usuários descobriram que poderiam instruir a inteligência artificial a “despir” digitalmente pessoas reais ou recriá-las com roupas reveladoras, utilizando fotos públicas (como as de redes sociais) como base. O sistema não possuía travas de segurança suficientes para impedir a geração desse conteúdo sexualizado não consensual.

3. Há casos confirmados de vítimas no Brasil?

Sim. A investigação citou o caso da musicista brasileira Julie Yukari. Imagens geradas por IA mostrando-a quase nua circularam na plataforma X após usuários manipularem uma foto que ela havia postado legitimamente durante o Ano Novo.

4. O que a plataforma X fez para resolver o problema?

Em 14 de janeiro, a X anunciou “medidas tecnológicas” para impedir a edição de imagens que resultem em nudez e restringiu a criação de imagens apenas para assinantes pagos. No entanto, o Idec critica essas ações como insuficientes, apontando que a geração de imagens contestadas continua e que a política de privacidade da ferramenta sequer está traduzida para o português.

5. O Grok foi banido em outros países?

Sim. Devido a violações similares e falta de moderação, a Malásia e a Indonésia bloquearam totalmente o acesso ao Grok. As Filipinas estão em processo de implementar um bloqueio, e investigações estão em curso nos EUA (Califórnia), Reino Unido e União Europeia.

Raio-X

• Dado central: Senacon, ANPD e MPF emitiram recomendação formal à X na segunda-feira.

• Impacto direto: Risco de sanções e fiscalização intensificada caso a geração de deepfakes não cesse.

• Contexto técnico: O Grok permitia comandos para “despir” digitalmente pessoas a partir de fotos públicas.

• Declaração chave: O Idec aponta que a política de privacidade da IA não está traduzida para o português.

• O que observar: A eficácia das restrições tecnológicas anunciadas pela X frente às novas exigências brasileiras.