Entre memes, discussões políticas e a rotina diária das redes sociaisNos últimos meses, uma prática silenciosa e ilegal se estabeleceu na rede social X.
Sob o disfarce de um comentário espirituoso ou outra ironia dentro do fluxo digitalmente, alguns usuários perguntam ao grok. a inteligência artificial está integrada. Não se trata de modelos ou corpos fictícios criados do zero por um algoritmo; o ponto de partida é sempre uma pessoa real e identificável que nunca tenha consentido com tal utilização.
Por exemplo: O usuário X (geralmente alguém com NN ou perfil falso) tira uma foto Uma garota da rede social Instagram a carrega no X e pede a Grok para despi-la ou despi-la com um micro biquíni transparente. Os exemplos são muitos e as vítimas nunca deram o seu consentimento a tais disparates.
A lógica da rede mascara a gravidade do ato. Tudo acontece rápidoquase sem contato. uma foto, um comentário, uma resposta da IA, uma “nova” imagem que parece real. E, no entanto, o que é produzido é uma forma moderna de desapropriação. Não sobre bens materiais, mas sobre algo muito mais sutil: identidade visual, dignidade e autonomia sobre o próprio corpo.
A primeira tentação do ponto de vista jurídico é perguntar-nos se estivermos enfrentando um crime. A resposta requer nuances. Se essas imagens incluírem crianças ou adolescentes, a discussão termina antes mesmo de começar. a produção ou distribuição de pornografia infantil, mesmo quando criada artificialmente, é expressamente proibida pelo artigo 128.º do Código Penal. A lei não diferencia entre conteúdo “real” e “sintético”. Protege a integridade dos menores contra qualquer forma de sexualização.
Quando se trata de adultos, o cenário é mais complicado.. O sistema jurídico argentino ainda não possui uma infração penal específica que puna a clonagem de imagens ou som por meio de inteligência artificial.
Isto não quer dizer que tal conduta não possa constituir crimes. associadas a violações da privacidade, ao assédio digital ou mesmo a formas de violência simbólica e psicológica (violência digital de género), especialmente quando estas práticas se repetem ou procuram humilhar ou extorquir a vítima. O direito penal, como muitas vezes acontece, move-se atrás dos factos, esbarrando em tecnologias que avançam mais rapidamente do que a legislação.
Onde não há dúvidas é no nível civil. Direitos autorais da imagem Argentinagoza de proteção forte e clara. O artigo 53 do Código Civil e Comercial Nacional (CCCN) estabelece que a imagem de uma pessoa não pode ser fotografada, reproduzida ou utilizada sem o seu consentimento, exceto em casos excepcionais que aqui não são verificados. Não importa se a imagem final é uma “criação” de inteligência artificial; se for construído a partir de uma fotografia real e permitir a identificação da pessoa retratada, o direito violado permanece intacto. E o consentimento, conforme artigo 55 da referida norma, não é presumido, tem interpretação restritiva e pode ser livremente rescindido.
No mesmo sentido, a arte. 31 da Lei 11.723 (antiga CCCN), ainda em vigorafirma que o retrato fotográfico de uma pessoa não pode ser colocado no comércio sem o seu consentimento expresso, e o Supremo Tribunal de Justiça da Nação sustentou em inúmeras decisões que o conceito de “colocar no comércio” implica qualquer tipo de uso da imagem de outra pessoa, em qualquer forma e em qualquer meio, sem consentimento.
Em outras palavras, “expor” pessoas online à nossa legislação A violência social viola a norma, atinge reprovação jurídica, e quem apresenta tal comportamento deve responder pelos danos causados. Fazer de alguém um herói digital nu e involuntário não é uma pegadinha tecnológica, é usurpar sua identidade visual e violar sua integridade.
Mas A cadeia de responsabilidade civil não atinge apenas o usuário Grok exigiu criação de nu mas se estende a qualquer pessoa que decida compartilhá-lo na mesma rede social X (por meio de um retuíte) ou em outra mídia digital ou aplicativo de mensagens instantâneas.
de fato O antigo princípio do direito romano, “não causar dano a outrem” (não prejudicar a outra pessoa) é inteiramente aplicável neste contexto, porque ao mesmo tempo que quem pede a alguém para editar uma imagem para sexualizá-la está a cometer um ato ilegal e a causar danos pelos quais deve responder, também está a prejudicar aqueles que optam por partilhá-la.
A responsabilidade, então, não termina no momento da criação.. Cada ato de distribuição no ecossistema digital é um novo trauma. A legislação civil argentina permite pedidos de interrupção da divulgação, de retirada do material e de recuperação dos danos causados, tanto ao criador como a quem facilita a sua divulgação. Não há anonimato que apague a acusação quando o dano é concreto e verificável.
A este quadro deve ser acrescentada uma discussão inevitável: responsabilidade da própria rede social. de fato
Neste sentido, a jurisprudência argentina é consistente ao exigir que as redes às organizações sociais e aos provedores de serviços de Internet em geral, ações éticas e um dever de diligência razoável no caso de conteúdo claramente prejudicial. Portanto, permitir, tolerar ou impedir efetivamente a criação e circulação de nus digitais não consensuais expõe a plataforma à responsabilidade civil, especialmente quando o dano é previsível e evitável. O desafio regulatório consiste, portanto, em exigir padrões mais elevados de prevenção, moderação e resposta a estas empresas, em linha com a sua capacidade tecnológica atual.
O debate, em suma, não é exclusivamente tecnológico nem exclusivamente jurídicoTambém é cultural. Naturalizamos a ideia de que tudo o que é tecnicamente possível é aceitável apenas por esse fato. Porém, a lei existe justamente para estabelecer limites quando o exercício do poder, que hoje também é poder algorítmico, ameaça prejudicar os direitos de terceiros.
A inteligência artificial não cria uma zona proibida ou suspensão muitos direitos pessoais. Pelo contrário, obriga-nos a reafirmar um conceito básico: a imagem de uma pessoa não é uma entrada disponível ou um campo de testes, mas uma manifestação da sua dignidade. O que é verdadeiramente perturbador é que não só estas práticas existem, mas também que começam a ser vistas como parte da paisagem quotidiana.
Advogado consultor na área de direito digital e privacidade de dados, Professor da UBA e Austrália, Direito ao Esquecimento, Diretor de Pós-Graduação da Faculdade de Direito, BMU
