Golpes corporativos com rosto humano
Em janeiro de 2024, um executivo financeiro da empresa britânica de engenharia Arup participou de uma reunião de rotina no Skype. Colegas conhecidos apareceram na tela, piscando naturalmente e falando com autoridade. Mas as pessoas com quem ele interagiu não eram reais.
Deepfakes gerados por IA que fraudaram a empresa conhecida por projetos como a Estátua da Unidade e a rede ferroviária da Índia transferiram quase US$ 25 milhões em 15 transações de seu escritório em Hong Kong antes que a fraude fosse detectada.
Mais perto de casa, um fabricante global de chips na Índia descobriu um deepfake durante uma entrevista de emprego. “Ele sincronizou muito bem as expressões faciais e o tom, mas descobrimos o uso da tecnologia deepfake e ele saiu”, disse Naveen Sharma, cofundador da Krupp AI, criadora do Vismantis, uma ferramenta para detecção de vídeo e áudio sintéticos.
Da política à perda pessoal
O contato da Índia com deepfakes começou quando vídeos do político Manoj Tiwari falando sobre “Effective Haryanvi” se tornaram virais antes das eleições legislativas de 2020 em Delhi. Em 2023, os deepfakes passaram para a esfera pessoal. Em Kerala, um homem de 73 anos perdeu Rs 40.000 em uma ligação no WhatsApp de um amigo em Dubai em busca de ajuda urgente.
A escala é impressionante. Samsub, um fornecedor global de verificação de identidade, relatou um aumento anual de 280% em incidentes deepfake no primeiro trimestre de 2024, especialmente antes das eleições nacionais. Uma pesquisa da McAfee em novembro de 2024 descobriu que 75% dos indianos viram conteúdo deepfake no ano passado, enquanto 45% conheciam alguém que havia sido enganado por material gerado por IA. “O termo ‘deepfake’ abrange conteúdo sintético criado do zero e conteúdo artificial que altera vídeos existentes”, explicou Sharma. “Ambas as formas distorcem a verdade: uma a inventa, a outra a reescreve.”
Decodificação de impressão digital AI
Especialistas forenses estão agora estudando falhas sutis de IA para detectar deepfakes. Chefe do Centro de Excelência em Multimídia Forense da National Forensic Science University (NFSU), Dr. Surbhi Mathur, disse: “O áudio deepfake costuma ser muito limpo, sem nenhum ruído de fundo típico”. Os rostos de IA carecem de variações de luz natural e de não uniformidade de resposta fotográfica (PRNU) – a “impressão digital” deixada pelos sensores da câmera. As microexpressões faciais muitas vezes perdem os padrões naturais de piscar ou a forma como o rosto ou as mãos se movem ao redor do rosto.”
O diretor do IIIT Hyderabad, Sandeep Shukla, acrescentou: “Existem ferramentas que afirmam ter mais de 90% de precisão na detecção de deepfake. No entanto, como dependem de tecnologia de aprendizagem profunda baseada em redes neurais, não há garantia de que detectarão todas as falsificações. A polícia e os juízes precisam ser treinados em detecção e descobrir seus limites”.
Explorando a confiança para obter ganhos financeiros
Os deepfakes muitas vezes exploram rostos familiares para construir confiança. Desde 2023, a Unidade de Análise Deepfakes (DAU), parte da Misinformation Combat Alliance, rastreou centenas de golpes gerados por IA. Rostos de Ratan Tata, NR Narayana Murthy, Rahul Gandhi, Nirmala Sitharaman, Virat Kohli, dos médicos Naresh Trehan e Devi Shetty também foram usados em endossos falsos. Descobriu-se que um vídeo viral de investimento da Ratan Tata foi 83,8% gerado por IA; Mais tarde, Tata desmascarou isso publicamente no Instagram.
Os deepfakes de celebridades também estão em alta. Em novembro de 2023, um deepfake da atriz Rashmika Mandana se transformou no rosto da influenciadora Sara Patel. O conteúdo explícito gerado por IA e criado sem consentimento – por vezes chamado de “nudez profunda” – representa sérios riscos para a privacidade das mulheres, alertam os especialistas.
Desafios e defesas legais
Sem uma lei dedicada ao deepfake, os atores de Bollywood recorreram aos tribunais em busca de proteção. O Supremo Tribunal de Delhi emitiu ordens ‘John Doe’ permitindo ações legais contra criminosos desconhecidos. Ele introduziu ‘injunções dinâmicas +’ para forçar as plataformas a remover ativamente deepfakes e reenvios originais.
Protegendo o futuro
Sharma identifica o setor bancário, de serviços financeiros e de seguros (BFSI) como o setor mais vulnerável. “Nos processos KYC online, posso clonar uma voz ou um rosto e o sistema pode verificar se a pessoa é genuína”, alertou.
Os próximos regulamentos visam exigir ferramentas de detecção profunda de falsificações para KYC e verificação de documentos no BFSI. As regras de TI, alteradas em 2021, implementarão a rotulagem de conteúdos que abrangem mais de 10% de áudio ou vídeo e exigirão remoções rápidas – geralmente 36 horas, três horas durante as eleições. “Uma pessoa que divulgue ou uma plataforma que hospede conteúdo deepfake, mesmo sem saber, enfrentará uma ação legal”, disse Sharma.
Especialistas alertam que a velocidade é crítica. “A tecnologia muda a cada 15-20 dias e os fraudadores evoluem mais rapidamente”, disse Sharma. “Precisamos de leis, detecção e conscientização movendo-se na mesma velocidade”.
Equipamentos e recursos
- Kerala Cyberdome: um modelo público-privado para detecção de deepfake e análise forense digital
- Módulo cibernético do Departamento de Segurança da Mulher de Telangana: Combatendo o abuso baseado em imagens e ameaças falsas profundas
- Portal Nacional Sahyog: permite relatar anonimamente incidentes de deepfake e abuso cibernético
Projetos de pesquisa financiados pela MeitY:
- Projeto Sakshya (IIT Jodhpur/Madras): Detecção em tempo real de imagens, vídeo e áudio
- AI Vishleshak (IIT Mandi & Himachal Forensics): IA explicável para deepfakes e falsificação de assinatura
- Sistema de detecção de voz profunda falsa (IIT Kharagpur): focado na representação de voz gerada por IA
Detectando um Deepfake:
- O áudio é muito limpo e não há ruído de fundo
- Entrega robótica ou com script
- Mudanças tonais repentinas ou artefatos de áudio
- Erros de vídeo: problemas de sincronização labial, sombra não natural, objetos derretendo no rosto, dentes borrados
Exemplos de software de descoberta:
- FakeCatcher (Intel, EUA)
- Soluções Hia AI (EUA)
- Deepfake-O-Meter (Laboratório Forense de Mídia, EUA)
- Válido (EUA)
- Detector Deepfake (OpenAI, EUA)
Da fraude financeira aos insultos pessoais, os deepfakes na Índia vão além do dinheiro, ameaçando a dignidade e a confiança na era digital. Especialistas dizem que a luta exigirá medidas iguais de tecnologia, lei e bom senso.
Com contribuições do TOI
