A tecnologia moderna de IA que permite que meninos e homens deixem de ser amigos digitalmente de meninas e mulheres sem consentimento há muito tempo é criticada como hostil às mulheres no Vale do Silício dominado por homens, com o chatbot Grok xAI causando indignação global, e Google e Apple permitindo dezenas de aplicativos de “nudificação” em suas lojas de aplicativos.
Grok, um aplicativo independente e também um recurso da plataforma de mídia social X de Elon Musk, gerou 3 milhões de imagens sexistas nos 11 dias após seu recurso de edição de imagens ter sido lançado em dezembro, informou o Centro de Combate ao Ódio Digital, com sede no Reino Unido. Os usuários capturaram digitalmente mulheres reais em imagens – e mais de 20.000 crianças aparentes – manipulando muitas delas em situações sexuais. Musk respondeu com desdém, republicando a imagem de uma torradeira gerada por IA de biquíni, dizendo que “não conseguia parar de rir” disso.
As autoridades da Califórnia não estavam rindo.
“Este conteúdo, que retrata mulheres e crianças em situações sexuais nuas e explícitas, é usado para assediar pessoas na Internet”, disse o gabinete do procurador-geral Rob Bonta em um comunicado à imprensa no mês passado, anunciando uma investigação sobre se a geração das imagens por Grok violou alguma lei. A investigação ainda está em andamento e Bonta está “empenhado em agir rapidamente neste assunto”, disse seu gabinete na quarta-feira.
No final do mês passado, o Tech Transparency Project, que se dedica à responsabilização de grandes empresas tecnológicas, divulgou um relatório afirmando que foram encontradas 55 aplicações na loja de aplicações Google Play e 47 na loja de aplicações Apple, que poderiam modificar imagens de mulheres reais sem o seu consentimento para as deixar total ou parcialmente expostas, ou usar biquínis e outras roupas minúsculas.
As empresas destacadas pelo Tech Transparency Project como fornecedoras de aplicativos de estímulo não são tão conhecidas como a xAI de Musk, o Google ou a Apple, e estão sediadas em locais que vão desde DreamFace em Redwood City até Bodiva na China. Bodiva oferece a função “Show Off Body” que expõe mulheres em fotos, e também oferece opções para converter fotos em vídeos pornográficos, informou o Tech Transparency Project.
A controvérsia sobre os aplicativos é apenas a mais recente desde que a OpenAI de São Francisco lançou seu inovador ChatGPT no final de 2022, que permite aos usuários gerar palavras, sons e imagens em resposta a solicitações. Erros gerados por IA em processos judiciais, o uso generalizado de IA por estudantes para trabalhos de casa e ações judiciais alegando chatbots desencadearam alarmes suicidas.
Uma série de leis estaduais e locais se aplicam a imagens geradas por IA, incluindo a Lei federal Take It Down de 2025 – introduzida pelo senador republicano dos EUA Ted Cruz, do Texas – que proíbe os usuários da Internet de publicar imagens pessoais não consensuais, incluindo imagens de “profundidade” geradas por IA de pessoas reais sem roupas. Uma disposição da lei também exige que sites e aplicativos excluam tais imagens dentro de 48 horas após uma solicitação de remoção válida.
O Projeto de Lei 621 da Assembleia da Califórnia, aprovado no ano passado, proíbe pornografia deepfake não consensual. A autora, Rebecca Bauer-Kahan, membro da Assembleia Democrática de East Bay, disse à mídia que a lei foi elaborada para impedir exatamente o que Grok estava produzindo.
“Essas são ferramentas que dão às pessoas a capacidade de prejudicar as mulheres”, disse Camerina Davidson, presidente da seção californiana da Organização Nacional para Mulheres, esta semana. “A IA reinventou a misoginia.”
As empresas de tecnologia, disse Davidson, deram aos homens formas mais poderosas de assediar as mulheres e de tentar afirmar o poder sobre as mulheres usando essas plataformas baseadas em IA que são tão simples de obter.
A Apple disse que suas diretrizes proíbem conteúdo abertamente sexual ou pornográfico e removeu 28 dos aplicativos identificados pelo Projeto de Transparência Tecnológica. De resto, a Apple disse que alertou os desenvolvedores de aplicativos sobre violações que precisavam ser corrigidas em tempo hábil. A Apple não especificou quão rápidas devem ser as soluções.
O Google disse que suspendeu “a maioria dos aplicativos” identificados pelo Tech Transparency Project e que a investigação sobre o assunto estava em andamento.
Apesar de reprimir esses aplicativos, o Google e a Apple continuam a oferecer o Grok em suas lojas de aplicativos.
A Grok, operada pela xAI de Musk, uma empresa de inteligência artificial de Palo Alto que recentemente se fundiu com a empresa de foguetes de Musk, SpaceX, não respondeu às perguntas.
A empresa mencionou em postagem no início de janeiro no X “um parecer nas defesas” que foi “resolvido com urgência”. Mas, apesar dessa suposta urgência, a Reuters informou este mês que entre 14 e 16 de janeiro e 27 e 28 de janeiro, uma equipe de seus repórteres enviou fotos deles totalmente vestidos para Grok e pediu ao chatbot para retratá-los em posições humilhantes ou sexualmente provocativas.
“Na maioria dos casos, Grok devolveu imagens sexuais, mesmo quando lhe disseram que os sujeitos não consentiam”, informou a Reuters.
Em janeiro, Ashley St. processou. Clair, mãe de um dos filhos de Musk, xAI na Suprema Corte de Nova York, alegando que Grok, em resposta às solicitações dos usuários, gerou imagens dela “sexualmente abusivas, pessoais e degradantes”. “Entre outras coisas, os usuários do X desenterraram fotos de St. Clair totalmente vestida quando ela tinha 14 anos e pediram a Grok que a tirasse e a colocasse de biquíni”, disse o processo. “Grok tem um dever.” O caso foi transferido para um tribunal federal de Nova York, e os advogados da xAI agora estão lutando para que seja transferido para um tribunal federal do Texas.
Contudo, não são apenas as mulheres e as meninas que são prejudicadas, disse Davidson.
“Ver o que é feito a outras mulheres afecta-as emocional e psicologicamente, e faz com que as mulheres não queiram chamar a atenção para si mesmas”, disse Davidson. “Muitas mulheres que conheço que estão online não usam seus nomes verdadeiros. Elas não querem ser atacadas.”
Ao permitir que os usuários transformem mulheres e meninas reais em objetos sexuais, os aplicativos enviam a meninos e homens a mensagem de que meninas e mulheres existem para “servir aos propósitos dos homens”, disse Ruth Darlene, diretora executiva da organização sem fins lucrativos WomenSV de Los Altos, que luta contra o abuso de mulheres e crianças.
“Você pode fazer com eles o que quiser.”
O uso de fotos sexualizadas por Grok gerou indignação em todo o mundo. Membros do Parlamento britânico emitiram em meados de janeiro uma declaração condenando “o uso de IA por Grok para gerar e disseminar imagens sexualmente explícitas e não consensuais de mulheres e crianças no X, incluindo imagens de defloração digital e sexualização de menores”. A Comissão Europeia e o órgão de vigilância da privacidade do Reino Unido lançaram investigações formais sobre Grok sobre o assunto.
Em 3 de fevereiro, promotores franceses invadiram os escritórios da X, a plataforma de mídia social de Elon Musk, em uma investigação sobre o que as autoridades francesas disseram ser a suposta posse e distribuição de imagens pornográficas infantis, imagens sexuais “profundas” geradas por IA e outros materiais. Musk, solicitado pelas autoridades francesas, foi ao X para fazer um “ataque político” em movimento.
Malásia e Indonésia bloquearam Grok na edição de imagens.
A manifestação de raiva da Califórnia a Kuala Lumpur segue-se a anos de controvérsia de género na indústria tecnológica do Vale do Silício. Um processo de discriminação de género de 2012, movido pela empresária Ellen Pao contra a empresa de capital de risco Kleiner Perkins, de Menlo Park, fracassou, mas chamou a atenção para o tratamento dispensado às mulheres na tecnologia. Em 2017, o CEO da Uber, Travis Kalanick, foi demitido em meio a um escândalo de assédio sexual e, no ano seguinte, a empresa concordou em pagar US$ 10 milhões para resolver uma ação judicial que alegava discriminação contra mulheres e minorias. Também em 2018, milhares de funcionários do Google foram demitidos devido à forma como a empresa lidou com o assédio sexual no local de trabalho. Quatro anos depois, o Google concordou em pagar US$ 118 milhões a até 15.500 mulheres para resolver uma ação coletiva que durou um ano, alegando que pagava menos às mulheres do que aos homens e as promovia de forma mais lenta e menos frequente.
Para empresas como xAI, Google e Apple, a disponibilidade de aplicativos desatualizados é uma falha de liderança, disse Ann Skeet, diretora sênior de ética de liderança do Centro Markkula de Ética Aplicada da Universidade de Santa Clara.
“Acertos reputacionais como os que estão sofrendo agora corroem o valor da empresa”, disse Skeet. “Eles estão prejudicando a entidade pela qual são responsáveis”.
