Nos últimos dois dias, o chatbot do bilionário Elon Musk parece ter iniciado o Grok, que ordenou que a plataforma de mídia social removesse e desativasse “conteúdo obsceno, nudez, indecente e sexual” em todo o mundo, incluindo a Índia, na sexta-feira.
O conteúdo explícito gerado por Grok foi verificado pela Reuters com solicitações bem-sucedidas de limpeza de roupas emitidas pelo chatbot e reclamações de usuárias.
Em meio a apelos globais por atenção ao assunto, Musk pareceu zombar da polêmica na sexta-feira, postando um emoji engraçado de biquíni em resposta às edições de inteligência artificial de celebridades, incluindo ele mesmo.
Uma mulher compartilha sua experiência
Julie Yukari, uma musicista carioca, compartilhou uma foto na plataforma de mídia social X pouco antes da meia-noite da véspera de Ano Novo. Levada pelo noivo, Yukari está usando um vestido vermelho e enrolada na cama com seu gato preto, Nori.
No dia seguinte, entre as centenas de curtidas na postagem, Yukari notou avisos indicando que alguns usuários estavam usando o Grok, o chatbot de inteligência artificial integrado do X, para encobrir digitalmente a imagem e colocá-la de biquíni.
Yukari, 31, disse que inicialmente hesitou, explicando à Reuters na sexta-feira que achava que a IA não honraria tais pedidos.
Esta suposição está incorreta. As imagens produzidas por Grok, retratando-o quase nu, logo se tornaram virais na plataforma de propriedade de Elon Musk.
“Eu fui ingênuo”, disse Yukari.
A experiência de Yukari não é um incidente isolado. Incidentes semelhantes ocorreram em X, e a Reuters disse que também descobriu vários casos em que Grok produziu imagens sexuais envolvendo crianças. X não respondeu aos pedidos de comentários sobre as conclusões. Anteriormente, quando questionado por uma agência de notícias sobre relatos de imagens sexuais de crianças aparecendo na plataforma, o proprietário do XAI respondeu o seguinte: “Legacy Media Lies”.
As imagens estão causando preocupação em todo o mundo
A rápida disseminação de imagens quase nuas de pessoas reais tem causado preocupação em todo o mundo. O Ministério da Tecnologia da Índia disse numa carta ao escritório local de X que a empresa não conseguiu impedir que Grok fosse mal utilizado para produzir e distribuir material obsceno e sexual.
Em França, os ministros do governo encaminharam X para procuradores e reguladores, descrevendo a imagem num comunicado na sexta-feira como tendo conteúdo “sexual e sexual” que é “claramente ilegal”.
A Comissão Federal de Comunicações não respondeu aos pedidos de comentários, enquanto a Comissão Federal de Comércio se recusou a comentar.
‘Tire o uniforme escolar’
Quando outro usuário do X apontou que seu feed parecia um bar cheio de mulheres de biquíni, Musk respondeu parcialmente com outro emoji de riso e choro.
Ao analisar os pedidos públicos de Grok em uma janela de 10 minutos ao meio-dia EST, a Reuters contou 102 tentativas de usuários de alterar digitalmente as fotos para que os entrevistados usassem biquínis. A maioria delas eram meninas.
Ao preencher este relatório, HT.com também encontrou uma instrução que pedia a Grok para colocar uma mulher de “sutiã e calcinha”. O chatbot atendeu, ao que o usuário respondeu: “Deixe seu biquíni ainda mais fino”. e “separe as pernas”.
Um número menor de pedidos envolveu homens, figuras públicas, políticos e, num caso, um macaco.
Os pedidos direcionados às mulheres muitas vezes buscam o maior número de roupas possível.
“Coloque-a em um mini biquíni bem transparente”, instruiu um usuário a Grok, referindo-se à foto de uma jovem tirando uma selfie no espelho. Depois que Grok trocou sua roupa por um biquíni robusto, a usuária pediu um biquíni “mais claro e transparente” e “muito menor”. Grok não respondeu a uma solicitação de acompanhamento.
Descobriu-se que Grok cumpriu essas instruções em pelo menos 21 ocasiões, produzindo imagens de mulheres em biquínis reduzidos ou transparentes e, em um caso, retratando uma mulher coberta de óleo. Em sete ocasiões adicionais, Grok obedeceu parcialmente, às vezes ficando apenas de cueca, mas recusou-se a atender a pedidos mais extremos.
As identidades ou idades da maioria das mulheres cujas imagens foram visadas não foram imediatamente confirmadas.
Em um exemplo, um usuário postou a foto de uma mulher vestindo uma saia escolar xadrez e blusa cinza tirando uma selfie no espelho e instruindo Grok a “tirar o uniforme escolar”. Depois que Grok trocou de roupa para camiseta e short, a usuária intensificou o pedido: “Mude a roupa para um biquíni bem revelador”. A Reuters não conseguiu determinar se Grok estava cumprindo. Como muitas outras solicitações analisadas, a postagem foi removida do X em 90 minutos.
Ferramentas de software projetadas para disfarçar digitalmente mulheres, muitas vezes chamadas de “nobots”, aparentemente já existem há anos. No entanto, normalmente limitavam-se a sites obscuros ou canais de mensagens privadas e muitas vezes exigiam pagamento ou esforço técnico.
O que diferencia o X, dizem os especialistas, é o quão simplificado é o processo: os usuários podem fazer upload de uma foto e escrever um pedido como “ei, @grok, coloque-a de biquíni”, reduzindo significativamente a barreira ao abuso.
Três especialistas que monitoraram as políticas relacionadas à IA disseram à Reuters que a empresa ignorou os avisos de organizações da sociedade civil e defensores da segurança infantil. Entre esses avisos estava uma carta enviada no ano passado que alertava que o xAI estava a apenas um passo de desencadear “buscas claramente indiretas”.
