O Grok, chatbot de IA da xAI integrado ao X, passou a restringir a geração e a edição de imagens a usuários pagantes em meio a uma escalada de denúncias sobre uso abusivo da ferramenta para criar imagens sexualizadas não consensuais, incluindo conteúdos envolvendo mulheres e menores de idade. A mudança foi confirmada após a repercussão internacional do caso e críticas de autoridades e parlamentares europeus.
Na prática, a empresa colocou o recurso atrás de uma assinatura premium dentro do X — uma tentativa de reduzir a produção em massa e, ao mesmo tempo, responder ao desgaste público. A própria Reuters relata que a decisão veio depois de relatos de usuários utilizando o Grok para manipular imagens de pessoas reais, sem consentimento, o que intensificou o debate sobre responsabilidade das plataformas e segurança em sistemas generativos.
++ É por isso que as janelas permanecem seladas durante o inverno na Rússia
Restrição existe, mas não fecha todas as portas
Apesar do anúncio, a limitação não é total. Reportagem do The Verge aponta que o bloqueio afeta especialmente a geração “gratuita” quando usuários marcavam o @grok em respostas — mas que ainda existem formas alternativas de acessar a edição de imagens dentro do ecossistema do X, o que mantém o mecanismo “vazando” mesmo após a mudança.
A própria Reuters também destacou um ponto sensível: o aplicativo independente do Grok continuaria permitindo a geração de imagens sem a mesma restrição aplicada no X, enfraquecendo o argumento de que o paywall, por si só, resolve o problema.
Reguladores entram no jogo
O movimento ocorre sob escrutínio crescente na Europa. Segundo a Reuters, o ministro alemão Wolfram Weimer classificou o episódio como “industrialisation of sexual harassment”, enquanto a Comissão Europeia reforçou que esse tipo de conteúdo é ilegal e mantém a empresa sob pressão para adequação às regras.
Além disso, entidades de proteção infantil elevaram o nível de alerta. O The Guardian noticiou que a Internet Watch Foundation (IWF) apontou citações ao Grok em fóruns criminosos como ferramenta para produzir material envolvendo menores — e que analistas considerariam as imagens como CSAM pela lei britânica.
A resposta da empresa e o impasse
Até aqui, não houve uma explicação técnica detalhada da xAI sobre quais salvaguardas falharam e como serão reforçadas. Em um dos episódios relatados pela Reuters, a empresa respondeu a questionamentos de imprensa com “Legacy Media Lies.”
O caso expõe um dilema recorrente no avanço da IA generativa: a tecnologia ficou rápida, barata e acessível — e os mecanismos de proteção, fiscalização e responsabilização ainda correm atrás. A restrição por assinatura pode reduzir volume e atrito, mas, como apontam veículos internacionais, não resolve sozinha o risco de uso malicioso quando há caminhos paralelos e ecossistemas externos onde o conteúdo pode circular.
Não deixe de nos seguir no Instagram para mais notícias da Pardal Tech
