X e xAI de Elon Musk anunciaram medidas para evitar que seu chatbot Grok responda às solicitações dos usuários para gerar imagens de seres humanos em “roupas reveladoras, como biquínis”, após semanas de indignação após o serviço da empresa por usar roupas femininas, muitas vezes infantis.
Em uma postagem na quinta-feira, a X Safety insistiu que a empresa está “comprometida em tornar o X uma plataforma segura para todos e continua a ter tolerância zero com todas as formas de exploração sexual infantil, nudez não consensual e conteúdo sexual impróprio”. No edital, o plano parece ser composto por três pontos.
Grok, desenvolvido pela xAI de Elon Musk, está enfrentando intenso escrutínio jurídico em todo o mundo após uma tempestade de manipulação de imagens semelhantes às humanas na plataforma de mídia social X de Elon Musk. Tudo o que os usuários precisavam era de uma foto e uma hashtag @Grok com instruções como “coloque-a de biquíni”.
Os relatórios sugerem que muitos países estavam considerando proibir o Grok ou o X. No fim de semana, a Malásia e a Indonésia se tornaram os primeiros países a proibir a ferramenta Grok AI em suas regiões.
Os reguladores dos EUA também pediram à Apple e ao Google que restringissem esses aplicativos em suas respectivas lojas de aplicativos.
O primeiro passo envolve mudar a forma de instruir o chatbot Grok no X. “Implementamos medidas tecnológicas para evitar que a conta Grok seja capaz de editar imagens de pessoas reais em roupas reveladoras como biquínis.
Além disso, a empresa observou que a criação e edição de imagens usando Grok é separada de todas as solicitações usuais que foram apontadas para @grok, de modo que a resposta do chatbot AI era anteriormente restrita a clientes pagantes.
A segunda dimensão inclui uma atualização baseada em localização que vincula as restrições de Grok aos territórios locais. “Agora estamos bloqueando geograficamente a capacidade de todos os usuários gerarem imagens de pessoas reais em biquínis, roupas íntimas e roupas semelhantes por meio de sua conta Grok e no Grok in X nas jurisdições onde isso é ilegal”, disse o post.
Ao longo da controvérsia, Musk manteve sua posição de negar a má conduta de Grok e da IA. Em uma postagem na terça-feira, ele escreveu: “Não tenho conhecimento de nenhuma pequena imagem de nudez gerada pelo Grok. Literalmente zero. Obviamente, o Grok não gera imagens espontaneamente, apenas a pedido do usuário.”
No entanto, Ashley St Clair, mãe de um dos filhos de Musk, disse à BBC na semana passada que Grok produziu imagens sexualmente explícitas dela quando criança. Desde então, St. Clair declarou em uma postagem separada que X bloqueou sua conta de assinatura de planos Premium.
Musk ainda tentou se esquivar da responsabilidade, dizendo: “Quando solicitado a criar imagens, ele se abstém de produzir qualquer coisa ilegal, porque o princípio operacional do Grok é obedecer às leis de qualquer país ou estado. Pode haver momentos em que um hack contra o Grok faça algo inesperado. Se isso acontecer, corrigiremos o erro imediatamente.”
O bilionário criticou particularmente a secretária de tecnologia britânica, Liz Kendall, que trabalha com o regulador Ofcom. Depois que Kendall expressou apoio ao governo para fechar o X no Reino Unido, se necessário, Musk comentou: “Eles só querem sufocar a liberdade de expressão”.
X afirma que os eventos recentes e a nova política não alterarão os seus protocolos de segurança existentes, que determinam que todas as instruções de IA e conteúdo gerado devem seguir as diretrizes da política de conteúdo.
“Independentemente de o conteúdo ser criado por clientes gratuitos ou pagos, nossa equipe de segurança trabalha 24 horas por dia para adicionar medidas adicionais, tomar medidas imediatas e decisivas para remover conteúdo infrator e ilegal, suspender contas permanentemente quando necessário e cooperar com os governos locais e as autoridades policiais quando necessário”, disse X.
A empresa atribuiu alguns dos desafios à natureza da tecnologia. “A rápida evolução da IA generativa está criando desafios em toda a indústria. Estamos trabalhando ativamente com os usuários, nossos parceiros, órgãos reguladores e outras plataformas para enfrentar os desafios assim que eles surgirem”.
Ainda não está claro até que ponto a xAI planeja treinar seu modelo para identificar pessoas reais em imagens compartilhadas por usuários para vestimentas virtuais.
