A plataforma do bilionário está inundada com imagens sexuais produzidas por Grok, incluindo crianças.
Publicado em 15 de janeiro de 2026
O X de Elon Musk disse que iria “bloquear geograficamente” os usuários do xAI Grok de criar imagens de pessoas em “biquínis, roupas íntimas e roupas semelhantes” em meio a uma reação global contra as imagens sexuais do chatbot.
“Implementamos medidas técnicas para evitar que Grok permita que a conta edite imagens de pessoas reais em roupas reveladoras, como biquínis”, disse a equipe de segurança de X em comunicado na quarta-feira.
Histórias recomendadas
Lista de 4 itensFim da lista
Apenas assinantes pagos poderão criar e editar imagens, mas os usuários serão proibidos de criar imagens sexuais “em jurisdições onde isso seja ilegal”.
A declaração não detalhou a natureza do bloqueio geográfico ou outras salvaguardas. X afirma ter “tolerância zero para qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”.
Grok, do X, enfrentou investigações e proibições de reguladores e governos de todo o mundo nas últimas semanas, após uma enxurrada de imagens sexualizadas de IA na plataforma.
O “modo picante” do chatbot permitiu que os usuários criassem deepfakes com instruções que incluíam “coloque-a de biquíni” e “tire a roupa dela”. Os usuários usaram o recurso para postar imagens de mulheres e crianças geradas por IA sem seu consentimento.
Na quarta-feira, o procurador-geral da Califórnia, Rob Bonta, anunciou uma investigação sobre “se e como a xAI violou a lei” para “facilitar a produção em massa” de deepfakes usados para molestar mulheres e meninas, incluindo “crianças em contextos nus e sexualmente sugestivos”.
Bonta disse que uma “avalanche de relatórios” motivou a investigação.
O regulador de mídia do Reino Unido, Ofcom, lançou sua própria investigação na segunda-feira, mas os ministros franceses disseram que encaminharam o conteúdo sexual produzido por Groke aos promotores e ao regulador de mídia RCom.
A Indonésia se tornou o primeiro país a bloquear temporariamente o acesso ao Grok no início desta semana em meio a preocupações com o aumento dos ataques deepfake, enquanto a Malásia também proibiu o chatbot e disse que planeja tomar medidas legais contra o X.
A Comissão Europeia prorrogou a ordem de retenção enviada a X no ano passado para reter e preservar todos os documentos e dados internos relacionados com Grok até ao final de 2026.
Horas antes do anúncio das medidas de segurança, o bilionário de extrema direita Musk afirmou que X “não tinha conhecimento de nenhuma imagem de menores nus criada por Grok. Literalmente zero”.
“Obviamente, o Grok não gera imagens automaticamente, apenas o faz de acordo com as solicitações dos usuários”, disse ele.
