(Bloomberg/Amy Thomson) – Os reguladores do Reino Unido abriram uma investigação sobre o X de Elon Musk no momento em que uma reação negativa está afetando o mundo devido a milhares de imagens sexualmente sugestivas geradas pela ferramenta de inteligência artificial Grok na plataforma de mídia social.
O regulador de comunicações do Reino Unido, Ofcom, disse na segunda-feira que está investigando formalmente se X, uma subsidiária da xAI, violou a Lei de Segurança Online do país, o que poderia expor a plataforma a multas ou restrições em seu serviço. X se recusou a comentar a investigação, mas disse nos últimos dias que toma medidas contra conteúdo ilegal, removendo e suspendendo contas.
Nações como o Reino Unido, França e Índia criticaram o chatbot xAI da Grok, acusando-os de criar ilegalmente imagens sexuais de pessoas sem a sua permissão. Os Estados Unidos e o Japão são de longe os maiores mercados do X em termos de usuários ativos, seguidos pela Indonésia, Índia e Reino Unido, de acordo com o provedor de dados e análises DataReportal. Os governos das três nações finais castigaram agora a xAI, com a Indonésia chegando ao ponto de bloquear temporariamente o acesso a Grok. Os EUA ainda não opinaram.
Grok foi projetado com menos proteções do que outras ferramentas convencionais de IA. Um recurso adicionado recentemente permite aos usuários remover fotos de pessoas, colocá-las em roupas íntimas e outras roupas provocantes. De acordo com algumas estimativas, milhares de imagens sexualizadas e não consensuais de crianças e mulheres no X foram criadas por usuários do Grok.
É ilegal no Reino Unido possuir ou partilhar quaisquer imagens sexuais de crianças e partilhar imagens íntimas de pessoas sem consentimento, incluindo conteúdo gerado por IA.
O secretário de negócios, Peter Kyle, disse à Times Radio na segunda-feira que o governo “é claro” consideraria proibir o X, mas a lei exige que os ministros deixem o regulador fazer o seu trabalho.
Os usuários X podem interagir diretamente com Grok na plataforma marcando sua conta em postagens e solicitando uma resposta do chatbot. Grok gera textos e imagens que aparecem como postagens na rede social. Depois que os usuários inundaram a ferramenta com pedidos para “proprietizar” pessoas, o xAI começou a restringir a ferramenta de geração de imagens a usuários pagos no X, embora ainda fosse gratuita no aplicativo independente Grok.
Musk também alertou este mês que qualquer pessoa que use o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que se carregasse conteúdo ilegal.
O conteúdo sexual de Grok gerou críticas generalizadas de governos e reguladores este mês.
A Malásia juntou-se à Indonésia no bloqueio temporário da ferramenta no fim de semana.
O gabinete do primeiro-ministro do Reino Unido, Keir Starmer, disse que a limitação do xAI dos recursos de geração de imagens do Grok para usuários pagos do X não foi longe o suficiente. A restrição “torna o recurso de IA que permite a criação de imagens ilegais um serviço premium: não é uma solução”, disse o porta-voz de Starmer, Geraint Ellis, a repórteres em uma coletiva de imprensa na sexta-feira. “É um insulto às vítimas da misoginia e da violência sexual. O que prova é que X pode agir rapidamente quando quer.”
A Internet Watch Foundation, órgão designado pelo governo do Reino Unido para identificar material de abuso sexual infantil, disse ter encontrado imagens “criminosas” de crianças na dark web supostamente geradas por Grok.
O braço executivo da União Europeia ordenou que X retenha documentos internos relativos a Grok até o final do ano. A UE criticou algumas das imagens explícitas de crianças na plataforma como ilegais.
O governo francês acusou Grok de gerar conteúdo sexual “obviamente ilegal” no X sem consentimento, sugerindo que o conteúdo poderia violar a Lei de Serviços Digitais da UE. O regulamento exige que grandes plataformas mitiguem o risco de distribuição ilegal de conteúdos.
–Com assistência de Alex Morales.
Mais histórias como esta estão disponíveis em bloomberg.com
©2026 Bloomberg LP
