O governo brasileiro, em uma ação conjunta envolvendo a Secretaria Nacional do Consumidor (Senacon), a Autoridade Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF), emitiu na última segunda-feira uma recomendação formal à plataforma X (antigo Twitter). O documento exige soluções imediatas para conter a proliferação de material sexualizado enganoso gerado pelo chatbot de inteligência artificial Grok. As autoridades alertaram que a falha no cumprimento das exigências resultará na escalada de medidas de fiscalização e punições contra a empresa.
“Temos tolerância zero para a criação e disseminação baseada em IA de imagens íntimas não consensuais ou de material de abuso sexual infantil.” — Rob Bonta, Procurador-Geral da Califórnia.
Ofensiva regulatória e casos reais
A recomendação representa a ação mais contundente do Brasil até o momento frente à crise global envolvendo o Grok. A controvérsia intensificou-se no início de janeiro, quando usuários descobriram a capacidade do chatbot de remover digitalmente as roupas de pessoas reais ou retratá-las em vestimentas reveladoras a partir de fotos públicas, sem qualquer consentimento.
A gravidade da situação foi ilustrada pelo caso da musicista brasileira Julie Yukari. Segundo investigação da Reuters, imagens geradas por IA retratando a artista quase nua circularam pela plataforma após usuários solicitarem ao Grok a modificação de uma foto que ela havia publicado durante a virada do ano.
O Instituto Brasileiro de Defesa do Consumidor (Idec) já havia protocolado uma denúncia à ANPD em 14 de janeiro, solicitando:
-
A suspensão imediata das funcionalidades do Grok que utilizam dados de pessoas reais.
-
A apresentação de relatórios transparentes sobre as denúncias recebidas pela plataforma.
-
O cumprimento rigoroso da legislação brasileira, que impõe regras estritas para o uso de dados de crianças e adolescentes.
A deputada federal Erika Hilton também se manifestou, pedindo a desativação das funções de IA do Grok até a conclusão das investigações pertinentes.
Resposta da plataforma e cenário internacional
Em resposta à pressão, a xAI e a X anunciaram em 14 de janeiro a implementação de “medidas tecnológicas” para impedir a edição de imagens que resultem em nudez ou roupas reveladoras. A empresa restringiu a criação e edição de imagens apenas para assinantes pagos e ativou bloqueios geográficos (geoblocking) em jurisdições onde esse tipo de conteúdo é ilegal.
Contudo, o Idec sustenta que as medidas são insuficientes. A organização aponta que a X continua permitindo a geração de imagens contestadas e destaca uma grave falha de transparência: a política de privacidade do Grok não está disponível em português, o que impede os usuários brasileiros de compreenderem como seus dados estão sendo processados.
A movimentação brasileira acompanha uma onda global de restrições ao chatbot de Elon Musk:
-
Bloqueios Totais: Malásia e Indonésia bloquearam o acesso ao Grok; as Filipinas trabalham para implementar medida similar.
-
Investigações: Reino Unido, União Europeia, França e Índia iniciaram investigações ou emitiram alertas sobre violações de segurança online.
-
Estados Unidos: A Califórnia, através do Procurador-Geral Rob Bonta, abriu investigação sobre a proliferação de material sexualmente explícito não consensual.
Raio-X
-
Dado central: Senacon, ANPD e MPF emitiram recomendação formal à X na segunda-feira.
-
Impacto direto: Risco de sanções e fiscalização intensificada caso a geração de deepfakes não cesse.
-
Contexto técnico: O Grok permitia comandos para “despir” digitalmente pessoas a partir de fotos públicas.
-
Declaração chave: O Idec aponta que a política de privacidade da IA não está traduzida para o português.
-
O que observar: A eficácia das restrições tecnológicas anunciadas pela X frente às novas exigências brasileiras.
