A Comissão Europeia instaurou, nesta segunda-feira (26), um inquérito formal contra a plataforma X (antigo Twitter), citando controles insuficientes para conter a disseminação de deepfakes de exploração sexual. A medida ocorre em sincronia com uma ofensiva diplomática liderada por 13 agências das Nações Unidas, que classificaram o atual cenário de inteligência artificial como uma ameaça iminente à integridade de menores. A decisão de Bruxelas intensifica o escrutínio sobre o setor tecnológico, confrontando diretamente a gestão de Elon Musk e a arquitetura de segurança do chatbot Grok.
Destaques
-
O fato: Comissão Europeia abre investigação contra o X por falhas no bloqueio de imagens de abuso geradas por IA.
-
A estatística: Ocorrências de material sintético de abuso infantil dispararam 1.325% nos EUA em um ano.
-
O cenário: Austrália já bane redes sociais para menores de 16 anos; Reino Unido também investiga o X.
A epidemia algorítmica e as “cobaias” digitais
O catalisador para a mobilização global reside em dados alarmantes compilados pelo Childlight Global Child Safety Institute. Relatórios indicam que a produção de material nocivo gerado por inteligência artificial nos Estados Unidos saltou de 4.700 casos para mais de 67.000 entre 2023 e 2024. A sofisticação dessas ferramentas permite que predadores analisem estados emocionais de vítimas para refinar táticas de grooming (aliciamento), convertendo a interação virtual em danos físicos reais.
Em Genebra, durante a assinatura da Declaração Conjunta sobre Inteligência Artificial e os Direitos da Criança, a retórica adotada foi de urgência bélica. A Baronesa Kidron, da 5Rights Foundation, denunciou a negligência corporativa: “Sistemas de IA não testados e não regulamentados estão sendo lançados ao mercado às pressas, transformando as crianças em cobaias na corrida global da IA”. O documento, endossado por UNICEF, UNESCO e outras 50 organizações, exige que a segurança seja um pilar fundamental no design de software, e não uma funcionalidade acessória.
O cerco regulatório: De Bruxelas a Camberra
A ação da União Europeia não é um evento isolado, mas parte de uma reconfiguração da jurisprudência digital. O bloco europeu investiga especificamente se o X violou diretrizes de segurança ao permitir a proliferação de imagens hiper-realistas de abuso. Paralelamente, no Reino Unido, a Ofcom (reguladora de comunicações) iniciou sua própria auditoria em 12 de janeiro, após a Internet Watch Foundation detectar “imagens criminosas” de crianças de até 11 anos geradas pelo Grok, a IA da plataforma.
A resposta estatal mais draconiana, contudo, provém da Austrália. Desde 10 de dezembro de 2025, o país vigora uma proibição total de redes sociais para menores de 16 anos, afetando conglomerados como Meta (Instagram, Facebook), ByteDance (TikTok) e o próprio X. Sophie Kiladze, presidente do Comitê da ONU sobre os Direitos da Criança, reforçou que o progresso tecnológico não pode subjugar direitos fundamentais: “Temos o dever de garantir que a IA se torne uma ferramenta para o bem (…) A verdadeira medida do progresso não é apenas o avanço tecnológico, mas o bem-estar de cada criança”.
Inteligência Artificial Generativa
A tecnologia no centro da controvérsia envolve Redes Adversariais Generativas (GANs) e Modelos de Linguagem de Grande Escala (LLMs). Estes sistemas conseguem sintetizar imagens e textos indistinguíveis da realidade a partir de vastos bancos de dados. No caso do X, a crítica recai sobre a falta de “guardrails” (barreiras de segurança) no Grok, que, diferentemente de concorrentes que bloqueiam prompts sensíveis, tem permitido a criação de conteúdo ilícito com barreiras mínimas de entrada.
Serviço / Para entender o caso
-
O conflito: Regulação estatal vs. Liberdade irrestrita de desenvolvimento de IA por Big Techs.
-
Status: Investigação da UE instaurada hoje (26/01/2026); Inquérito no UK em andamento.
-
Onde: União Europeia, Reino Unido e Austrália (com impacto global).
FAQ
P: O que motivou a investigação específica da UE contra o X hoje?
R: A Comissão Europeia agiu devido a denúncias de que o X não implementou filtros adequados para impedir a criação e disseminação de deepfakes sexuais, violando normas de segurança digital do bloco.
P: Como a IA está sendo usada por criminosos segundo a ONU?
R: Além de gerar imagens de abuso, a IA é utilizada para analisar o comportamento online e vulnerabilidades emocionais de crianças, otimizando estratégias de aliciamento (grooming).
P: A proibição de redes sociais na Austrália afeta o Brasil?
R: Juridicamente não, mas estabelece um precedente regulatório que pode influenciar legisladores brasileiros e o debate sobre o Marco Civil da Internet e regulação de IA no Congresso.
