Clair, 27, que se descreve como escritora e estrategista política, disse em uma ação movida contra a xAI na quinta-feira na cidade de Nova York que as imagens incluíam uma foto dela totalmente vestida aos 14 anos, que foi alterada para mostrá-la de biquíni, e outras mostrando-a adulta de biquíni. St. Clair é judeu. Grok está no X, a plataforma de mídia social de Musk.
Os advogados da xAI não retornaram imediatamente e-mails solicitando comentários na sexta-feira. Na quarta-feira, após uma reação global sobre imagens sexuais de mulheres e crianças, X anunciou que Grok não poderia mais editar fotos para retratar pessoas reais revelando roupas em locais ilegais.
Quando questionado sobre o caso e suas alegações, xAI respondeu apenas com “mentiras da mídia legada” em um e-mail para a Associated Press.
St Clair disse que denunciou os deepfakes ao X depois que eles começaram a aparecer no ano passado e pediu que eles os removessem. Ela disse que a plataforma respondeu inicialmente que as imagens não violavam suas políticas. Ele então prometeu não permitir que suas fotos fossem usadas ou alteradas sem o consentimento dela, disse ela.
Clair disse que a plataforma social removeu sua assinatura Premium X e marca de verificação, proibiu-a de monetizar sua conta, que tem 1 milhão de seguidores, e continuou a permitir fotos falsas de sua degradação.
“Sofri e continuo a sofrer fortes dores e sofrimento emocional como resultado do papel da xAI na criação e distribuição dessas imagens minhas alteradas digitalmente”, disse ela em um documento que acompanha o processo. “Estou humilhado e enquanto Grok continuar a criar essas imagens minhas, este pesadelo nunca terá fim.” Ela também disse que vive com medo de que as pessoas assistam seus deepfakes.
Clair é mãe do filho de 16 meses de Musk, Romulus. Ela mora na cidade de Nova York, onde entrou com a ação na Suprema Corte estadual. Ela está buscando indenizações não reveladas por suposto sofrimento emocional e outras reivindicações, bem como ordens judiciais que impediriam imediatamente a xAI de permitir mais de seus deepfakes.
Mais tarde na quinta-feira, os advogados da xAI transferiram o caso para o tribunal federal de Manhattan, onde pediram a um juiz para ouvir o caso. No mesmo dia, a xAI contra-atacou a St. Clair no tribunal federal do Distrito Norte do Texas, alegando que eles violaram os termos do Contrato do Usuário da xAI que exigia que eles entrassem com ações judiciais contra a empresa no tribunal federal do Texas. Uma sentença monetária não revelada está sendo solicitada contra ela.
X está sediado no Texas, onde Musk possui uma casa, e sua fabricante de carros elétricos, Tesla, está sediada em Austin.
Cary Goldberg, advogado de St. Clair, classificou a contra-ação como uma medida “chocante” que ele nunca tinha visto um réu fazer.
“A Sra. St. Clair defenderá vigorosamente seu fórum em Nova York”, disse Goldberg em comunicado. “Mas, francamente, qualquer jurisdição aceitaria as alegações da Sra. St. Clair – de que, ao produzir imagens sexualizadas não consensuais de meninas e mulheres, a xAI é um incômodo público e um produto razoavelmente inseguro.”
No anúncio de quarta-feira, X disse que Groc estava implementando outras salvaguardas, incluindo limitar a criação e edição de imagens a contas pagas, o que, segundo ele, melhoraria a responsabilização. Tem tolerância zero com a exploração sexual infantil, a nudez não consensual e o conteúdo sexual impróprio e removerá imediatamente esse conteúdo e denunciará contas que contenham material de abuso sexual infantil às autoridades.
