Ashley St. Clair, mãe do filho de Musk, Romulus, está processando o filho de Musk, Romulus, por “dor e angústia mental” causadas por imagens falsas de IA criadas pelo chatbot Grok.
A mãe dos filhos de Elon Musk está processando sua empresa de inteligência artificial depois que seu chatbot Grok permitiu que usuários criassem imagens falsas de exploração sexual que lhe causaram humilhação e sofrimento emocional.
A ação foi movida antes que o procurador-geral da Califórnia, Rob Bonta, enviasse à empresa xAI de Musk uma carta de cessação e desistência exigindo que ela parasse de criar e distribuir imagens sexuais questionáveis criadas por Grok.
Histórias recomendadas
Lista de 4 itensFim da lista
“A avalanche de relatórios que descrevem este material – por vezes retratando mulheres e crianças envolvidas em atividades sexuais – é chocante e, como o meu gabinete determinou, potencialmente ilegal”, disse Bonta na sexta-feira.
Ashley St. Clair, escritora e comentarista política, alega que foi vítima de imagens sexuais falsas criadas por Grok em um processo movido contra xAI na cidade de Nova York na quinta-feira.
Clair, que é mãe do filho de 16 meses de Musk, Romulus, disse que relatou as imagens à plataforma de mídia social X de Musk, hospedada por Grok, depois que elas começaram a aparecer no ano passado e pediu que as removessem.
Ele disse que o fórum respondeu que as imagens não violavam suas políticas. Posteriormente, prometeu não permitir que suas fotos fossem usadas ou alteradas sem o seu consentimento. Mais tarde, disse ela, a plataforma social retaliou contra ela removendo sua assinatura Premium X e marca de verificação e continuou a permitir suas fotos falsas depreciativas.
“Sofri e continuo sofrendo fortes dores e angústia mental como resultado do papel da xAI na criação e distribuição dessas imagens minhas alteradas digitalmente”, disse St. Clair em um documento anexado ao processo.
“Estou humilhada e espero que este pesadelo nunca acabe enquanto Grok continuar a criar estas imagens de mim”, disse ela.
‘incômodo público’
Na quinta-feira, os advogados da xAI entraram com uma ação contra St. Clair no tribunal federal do Distrito Norte do Texas, exigindo que eles abrissem ações contra a empresa no tribunal federal do Texas, alegando que eles violaram os termos de seu contrato de usuário xAI. Está buscando um julgamento monetário não revelado contra ela.
Carrie Goldberg, advogada de St. Clair, chamou a contra-ação de um movimento “sacudinte” que ela nunca tinha visto de um réu antes.
“A Sra. St. Clair defenderá vigorosamente sua plataforma em Nova York”, disse Goldberg em comunicado.
“Mas, francamente, qualquer jurisdição reconheceria a seriedade das alegações da Sra. St Clair – ao produzir imagens sexuais de meninas e mulheres sem consentimento, o xAI é um incômodo público e um produto que não é razoavelmente seguro”.
Numa entrevista à mídia norte-americana no início desta semana, St Clair disse que a batalha com Groke “não era apenas sobre mim”.
“Pode produzir sistemas de construção, sistemas de IA, em grande escala, e abusar de mulheres e crianças sem consequências. E não há realmente consequências para o que está a acontecer neste momento”, disse ele à CNN.
“Eles estão dizendo: ‘Vamos tornar isso ilegal, onde for ilegal’.
O grok de Musk já está sob escrutínio e enfrentando reação internacional pela criação de imagens aparentemente falsas no Reino Unido, na União Europeia e em outras jurisdições, incluindo Índia, Indonésia, Malásia, Filipinas e Japão.
As autoridades japonesas disseram na sexta-feira que estavam investigando X em Grok, dizendo que todas as opções estavam sendo consideradas para evitar a produção de imagens inadequadas.
