Uma equipe de pesquisadores indianos desenvolveu uma tecnologia com patente pendente para evitar vazamentos de identidade durante a edição de fotos com IA. O sistema foi liderado por Dipesh Tamboli, Vaneet Aggarwal e Vineet Punyamoorty da Purdue University, que desenvolveram a arquitetura subjacente. Eles se uniram ao colaborador técnico Athur Pawar, da Universidade de Michigan, para ser coautor da pesquisa, criando um pipeline que protege imagens pessoais antes de serem carregadas em uma plataforma de IA de terceiros.
O pesquisador abriu o projeto em conversa com Hindustan Times.com. Falando sobre a inspiração por trás do projeto, Deppish explicou que “veio de um certo momento no início de 2025, quando Filtro AI “estilo Ghibli” Tornou-se viral. “
A tendência viral Imagens estilo Ghibli Tomando conta das redes sociais na semana passada, os internautas pediram à IA para transformar suas fotos em um estilo de anime distinto. Enquanto muitos entes queridos Um novo recurso do OpenAIalguns chamaram a tendência de “desrespeitosa” ao cofundador do Studio Ghibli Hayao Miyazakique anteriormente criticou a animação gerada por IA como “um insulto à vida” e disse que “nunca iria querer incorporar esta tecnologia em meu trabalho”.
A inspiração por trás da tecnologia e por que ela é única
“Milhões estavam enviando fotos pessoais para se transformarem em desenhos animados, mas, ao mesmo tempo, os governos – incluindo o governo indiano – estavam emitindo alertas urgentes sobre os perigos de enviar dados biométricos para servidores de terceiros”, disse Deepesh, um ex-aluno de doutorado, ao HindustanTimes.com. “Foi um grande ‘imposto sobre a privacidade’: para usar essas ferramentas criativas, você tem que reconhecer seu rosto. Percebi que, uma vez carregados dados biométricos de alta resolução, os usuários perdem todo o controle sobre eles. Comecei a pensar: como podemos alcançar esses resultados surpreendentes de IA sem vazar informações pessoais? Essa pergunta levou ao PrivateEdit.”
Com a nova tecnologia a caminho, pode-se perguntar o que ela tem a oferecer que nunca foi visto antes. Deepish tinha a resposta.
Leia mais | OpenAI, Anthropic e Google se unem para combater a duplicação de modelos de IA na China
“A maioria das ferramentas de privacidade hoje são “reativas” – elas tentam resolver o problema depois que você envia seus dados. PrivateEdit é “projetado pela privacidade”. Introduzimos uma maneira de “desacoplar” sua identidade do resto da imagem. O que é realmente novo é que nossa tecnologia funciona com grandes modelos de IA que você já está usando – não precisamos conversar ou mudar. Apresentando o “Trust Slider” que devolve ao usuário, você decide. Você pode ocultar quantas informações você confia com base em uma plataforma específica, que ainda não existe”, explicou.
Como funciona a tecnologia?
Vineet, doutorando em engenharia de computação e elétrica, explicou detalhadamente como funciona a tecnologia.
“Construímos um pipeline que funciona como um ‘filtro seguro’ entre você e a IA. Em vez de enviar toda a sua imagem para a nuvem, nosso sistema funciona localmente no seu dispositivo”, explicou. HindustanTimes. com. “Ele usa segmentação avançada para encontrar as partes “sensíveis ao reconhecimento” do seu rosto – as marcas únicas que fazem de você quem você é – e coloca uma máscara digital nelas. Em seguida, enviamos apenas o “fundo” e as versões mascaradas para a IA. A IA realiza os ajustes que você solicita e, em seguida, a imagem é enviada de volta para o seu dispositivo, onde seus detalhes faciais reais nunca são preservados. Você realmente “vê” o seu verdadeiro eu.”
Pode-se perguntar se a tecnologia é apenas para técnicos ou se usuários regulares de smartphones podem usá-la. Depesh disse que eles estavam determinados a não fazer disso apenas um “experimento de laboratório” e insistiram que era fácil de usar.
“O objetivo é parecer um aplicativo de edição de fotos padrão. Você não precisa saber como funciona a IA ou o que é “segmentação”; basta usar um controle deslizante simples para selecionar seu nível de privacidade, e o aplicativo lida com “mascaramento” e “reconstrução” complexos em segundo plano. A privacidade não deve ser uma tarefa árdua; deve ser tão fácil de implementar.
Riscos importantes de privacidade associados às ferramentas de edição de IA
Winnett, professor universitário e professor Riley de Engenharia Industrial com cargos efetivos no Departamento de Ciência da Computação e na Escola de Engenharia Elétrica e de Computação da Família Elmore, disse que o principal risco é a persistência de dados e o aumento de funções.
“Muitos usuários presumem que sua imagem é removida assim que um ‘filtro’ é aplicado, mas muitas vezes esses dados se tornam parte de uma pegada digital permanente sem consentimento explícito para monitoramento, criação de perfil ou treinamento de modelos futuros. A revolução da IA não ocorre às custas da autonomia humana básica”, explicou Vineet, em cujo grupo de pesquisa trabalharam Deepesh e Vineet.
Leia mais | O economista PhD diz que seu trabalho agora envolve remover o ‘m-traço’ da escrita sobre IA: ‘O trabalho oculto da economia da IA’
Atharv, o pesquisador técnico, explicou como os riscos podem ser reduzidos com a nova tecnologia dos pesquisadores da Purdue.
“Quando você carrega fotos brutas, elas podem ser armazenadas inadvertidamente, vazadas em uma violação do servidor ou usadas para treinar “deepfakes” sem sua permissão. Usando nosso sistema de mascaramento, dados confidenciais nunca são transferidos para a nuvem. Isso também ajuda as empresas; elas agora podem oferecer ferramentas de fotos de IA para seus clientes. Disse.
Atharv afirma ainda que esta tecnologia pode ser utilizada por grandes empresas como Adobe, Apple ou Google, chamando-a de “um futuro ideal para esta tecnologia”.
“Como nosso pipeline não exige que as empresas alterem seus modelos de IA existentes, ele pode ser integrado aos aplicativos existentes como uma “camada de privacidade”. Isso permitirá que essas grandes empresas de tecnologia forneçam excelentes recursos de produtos e, ao mesmo tempo, digam com orgulho aos seus usuários: “Nunca vemos suas fotos brutas”. Isso é uma vitória tanto para a reputação quanto para a segurança da empresa”, explicou ele.
Esta pesquisa examina como a IA afeta o futuro da regulamentação e da lei
Winnett observou que os governos de todo o mundo estão lutando para saber como gerenciar a IA.
“Muitas leis centram-se no que as empresas fazem depois de terem os seus dados. O nosso trabalho fornece um caminho técnico para a ‘minimização de dados’ – um princípio fundamental em leis de privacidade como o GDPR. Ao provar que podemos alcançar resultados de alta qualidade sem recolher dados sensíveis em primeiro lugar, estamos a fornecer um modelo de como os regulamentos de IA devem ser escritos no futuro”, explicou ele.
Vineet revelou que o maior desafio é o fato de que o mascaramento facial pode fazer com que a imagem final editada por IA pareça falsa ou afetar sua qualidade.
“Se você mascarar demais, a IA perde o contexto e a imagem fica estranha. Se você mascarar muito pouco, sua privacidade é perdida. Desenvolvemos uma técnica de “mistura inteligente” que dá à IA informações suficientes para entender a luz e a sombra da cena sem ver suas características biométricas reais. O resultado é uma alta qualidade, onde a imagem real da “IA” fica visível no meio da sua imagem real. As mudanças são completamente invisíveis”, afirmou.
Enquanto isso, Dipesh disse que uma coisa que as pessoas devem lembrar quando usarem ferramentas de IA no futuro é que “a inovação não precisa ser feita às custas da sua identidade”.
“Há muito tempo que nos dizem que, para obter a melhor tecnologia, temos de abdicar dos nossos dados. A nossa investigação prova que isso não é verdade. Temos a IA mais poderosa do mundo e também a nossa privacidade. Nunca temos de escolher entre ser criativos e seguros”, concluiu, acrescentando que o próximo grande passo são os dados verificáveis.
“Não é suficiente para uma empresa prometer que não usará seus dados; precisamos de sistemas técnicos onde um usuário possa verificar matematicamente se seus dados foram usados apenas para o que disseram e depois excluídos imediatamente. Combinar isso com o processamento no dispositivo será a chave para um mundo de IA onde a inovação e a segurança pessoal não entrem em conflito”, disse Dipesh.
