Publicado em: 03 de janeiro de 2026 01h18 IST
A plataforma está a melhorar os seus filtros para evitar tais incidentes e denunciou casos de conteúdo ilegal às autoridades francesas e indianas.
O chatbot de inteligência artificial xAI de Elon Musk, Grok, disse na sexta-feira que uma falha de salvaguarda na plataforma de mídia social X causou “imagens de menores em roupas seminuas” e melhorias estavam sendo feitas para evitá-lo.
Capturas de tela compartilhadas por usuários no X mostraram a linha do tempo da mídia social de Grok repleta de imagens que os usuários disseram ter sido alteradas quando carregaram as fotos e pediram ao bot para alterá-las.
“Há casos isolados em que os usuários enviaram imagens para IA e receberam imagens de menores com roupas seminuas”, disse Grok em um post no X. “xAI tem salvaguardas, mas melhorias estão em andamento para bloquear totalmente tais solicitações”.
“Conforme observado, identificamos lacunas nas salvaguardas e iremos corrigi-las imediatamente – o CSAM é ilegal e proibido”, disse Grok, referindo-se ao material de abuso sexual infantil.
Grok não deu mais detalhes.
Quando contatado pela Reuters para comentar por e-mail, xAI respondeu com a mensagem “Legacy Media Lies”.
Em uma resposta separada ao usuário na quinta-feira, Grok disse que a maioria dos casos poderia ser evitada com filtros e monitoramento avançado, embora tenha dito que “nenhum sistema é 100% infalível”, acrescentando que o xAI prioriza melhorias e revisa os detalhes compartilhados pelos usuários.
Os ministros franceses denunciaram o conteúdo sexual produzido por Grock aos procuradores e afirmaram num comunicado na sexta-feira que o conteúdo “sexual e sexual” era “claramente ilegal”. Os ministros disseram que também relataram o conteúdo ao regulador de mídia francês Arcom para verificar a conformidade com a Lei de Serviços Digitais da UE.
Entretanto, o ministério da tecnologia da Índia disse numa carta à divisão X da Índia que a plataforma não conseguiu impedir o uso indevido do Grok para gerar e distribuir conteúdo obsceno e sexualizado de mulheres. Ordenou que X apresentasse um relatório de ação no prazo de três dias. Na resposta de X a um usuário, Grok disse que cumpre leis como a Lei de Proteção de Dados Pessoais Digitais da Índia e aconselha os usuários contra violações.
A Comissão Federal de Comunicações dos EUA não respondeu imediatamente a um pedido de comentário, enquanto a Comissão Federal de Comércio se recusou a comentar.
