A decisão da Anthropic de encerrar abruptamente dois dos seus mais recentes modelos de IA poucos dias após o seu lançamento foi sem precedentes, especialmente porque ocorreu em resposta a uma ordem do governo dos EUA que restringe o acesso apenas aos americanos.
Mas de acordo com um relatório do Politico, a Casa Branca passou grande parte da sexta-feira a tentar fazer com que a Anthropic retirasse voluntariamente o seu modelo de IA recentemente lançado, Fable, enquanto as autoridades dos EUA temiam que as suas salvaguardas pudessem ser contornadas de formas que pudessem representar ameaças à segurança nacional.
O esforço acabou por falhar, levando a administração a impor controlos de exportação que desactivaram efectivamente os modelos Fable 5 e Mythos 5 da empresa poucos dias após o seu lançamento público.
1. Principais preocupações da Amazon
A Anthropic garantiu aos novos modelos que eles são seguros e protegidos com forte proteção. No entanto, de acordo com o relatório, os altos funcionários da gestão começaram rapidamente a questionar se estas salvaguardas eram tão fortes como a empresa afirmava.
As preocupações aumentaram na quinta-feira, quando o presidente-executivo da Amazon, Andy Jessee, supostamente sinalizou questões relacionadas à negligência do modelo com os defensores.
A Amazon é uma grande investidora na Anthropic e estava respondendo ao pedido de comentários da empresa, segundo uma pessoa familiarizada com as discussões descritas no relatório.
Em 24 horas, a questão atingiu os mais altos níveis da Casa Branca, informou o Politico.
O secretário do Tesouro dos EUA, Scott Bessant, o diretor cibernético da Casa Branca, Sean Karen Cross, a chefe de gabinete da Casa Branca, Susie Wiles, e outros altos funcionários se reuniram para discutir o modelo e determinar a resposta do governo.
Leia também | ‘Isso é grande’: mito do desarmamento antrópico, modelos de fábulas sobre a restrição de acesso estrangeiro do governo dos EUA
Após a reunião, as autoridades tentaram entrar em contato com o presidente-executivo da Anthropic, Dario Amudi. De acordo com funcionários do governo citados no relatório, inicialmente foram informados de que ele não estava disponível porque “estava participando de um retiro de bem-estar”.
A Antrópica contestou veementemente esse relato. Um porta-voz da empresa disse: “Isso é absolutamente falso”, acrescentou o relatório.
Uma pessoa próxima à Anthropic disse ao Politico que Amudi foi contatado pela primeira vez por volta do meio-dia e se juntou à discussão com funcionários da alta administração em cerca de uma hora e 15 minutos. Durante o período em que ele esteve indisponível, a empresa ofereceu outros altos executivos como substitutos, disse a fonte.
2. Três ligações e um desentendimento
Assim que o contato foi estabelecido, Amudi participou de três ligações envolvendo vários altos funcionários da administração, incluindo Besant, Karen Cross e o secretário de Comércio, Howard Lutnick.
Durante estas conversações, Amodi alegadamente argumentou que as preocupações da administração derivavam de um mal-entendido sobre a questão.
De acordo com o relatório, o CEO da Anthropic argumentou que isso era diferente de um “jailbreak” mais amplo que permitiria aos usuários executar sistemas sem as restrições de segurança da Anthropic.
Leia também | O que poderia significar o retorno de Cloud’s Fable 5 e a longa rivalidade da Anthropic com a administração Trump?
Mesmo após a implementação dos controles de exportação, a Anthropic defendeu publicamente sua tecnologia. Em comunicado, a empresa disse que “nenhum testador ainda foi capaz de detectar um jailbreak universal – um método de jailbreak que pode contornar a segurança do módulo de forma tão ampla, bloqueando uma ampla gama de capacidades cibernéticas”.
A empresa também reconheceu que continua impossível eliminar todas as tentativas de jailbreak na indústria de IA.
A Anthropic argumentou ainda que suas proteções eram muito limitadas, dizendo que seus sistemas são “tão robustos que muitos usuários reclamaram que eles são muito amplos”.
3. A Casa Branca permaneceu intocada
No entanto, a administração não ficou convencida com estas explicações.
De acordo com um funcionário não identificado da Casa Branca citado pelo Politico, as conclusões fornecidas pela Amazon foram analisadas com a Agência de Segurança Nacional, que acredita haver evidências suficientes de uma ameaça grave.
Logo após o término das ligações, a administração Trump avançou com os controles de exportação visando os modelos Fable 5 e Mythos 5.
“Os controles de exportação foram o último recurso depois de pedirem horas”, disse um alto funcionário da Casa Branca ao Politico. “Não era algo que queríamos fazer, mas nossas mãos estavam atadas.”
A Anthropic disse mais tarde que a ordem, emitida pelas autoridades de segurança nacional, proibia o uso do modelo por estrangeiros. A empresa acrescentou que o “efeito líquido” foi “desativar repentinamente” o sistema para que todos os usuários cumprissem as restrições.
4. O ultimato dos ‘90 minutos’
Uma pessoa familiarizada com a posição da empresa disse à mídia que a Anthropic nunca teve a oportunidade de cooperar significativamente antes da imposição das sanções.
“A Casa Branca deu 90 minutos para baixar os modelos, detalhando a ameaça real”, disse a fonte. “Nunca houve qualquer solicitação – ou pedido – para que trabalhassem conosco, apenas um prazo anunciado de 90 minutos.
Não é a primeira vez que a Anthropic e a Casa Branca entram em conflito, antes de, em fevereiro, o Departamento de Defesa dos EUA rotular a Anthropic como uma “ameaça à cadeia de abastecimento” depois que a empresa de IA recusou o Pentágono a retirar guardas de segurança, limitando o uso de sua tecnologia para armas autônomas e vigilância doméstica em massa.
