Por que os EUA restringiram e depois restauraram o modelo de IA mais poderoso da Anthropic

O Departamento de Comércio dos EUA suspendeu os controles de exportação que forçaram a Anthropic a vender dois de seus modelos mais avançados de inteligência artificial (IA) – o Fable 5 e o Mythos 5 – para todos os consumidores em todo o mundo, inclusive na Índia, disse a empresa na terça-feira.

A Antthropic disse em um blog que está fortalecendo ainda mais sua colaboração com o governo dos EUA. (Reuters)

O limite de reversão é um episódio que começou em 12 de junho, quando a administração Trump ordenou que a Anthropic revertesse o modelo para todos os estrangeiros por motivos de segurança nacional. A ordem veio num momento em que Washington intensificava a vigilância de modelos avançados de IA, em meio a preocupações de que pudessem ser utilizados indevidamente pela inteligência militar na China, na Rússia ou em outros países preocupantes.

Como a empresa não conseguia distinguir com segurança os estrangeiros de outros usuários em tempo real, ela bloqueou o acesso ao modelo para todos, inclusive os americanos.

Fable 5, lançado no início de junho, é uma versão pública fechada do Mythos 5, um modelo que a Antrópico reteve de um grande lançamento público devido à sua capacidade incomumente forte de identificar vulnerabilidades que hackers poderiam explorar. O Mythos 5 foi direcionado apenas a um pequeno grupo de empresas e governos, como parte do que a Anthropic chama de Projeto Glasswing, permitindo que esses grupos e instituições selecionados encontrassem outras explorações ou vulnerabilidades potencialmente perigosas em sua própria infraestrutura.

A Anthropic restaurou pela primeira vez o acesso limitado ao Mythos 5 a um pequeno conjunto de organizações “confiáveis” dos EUA em 26 de junho, antes que o Departamento de Comércio suspendesse completamente a proibição de ambos os modelos em 30 de junho.

As restrições, no entanto, repercutiram na indústria de IA e levantaram questões sobre se os controles de exportação poderiam ser usados ​​para regular o acesso ao modelo de IA.

o que aconteceu

De acordo com a Reuters, a Anthropic disse que a ordem de controle de exportação do governo dos EUA veio depois que pesquisadores da Amazon encontraram uma maneira de contornar a segurança do Fable 5, permitindo que poderosos modelos de IA identificassem vulnerabilidades de software ou acessassem outras informações ilegais.

A empresa implementou agora uma nova salvaguarda que bloqueia esse comportamento, disse. Qualquer aplicativo fechado será relegado ao modelo antigo Opus 4.8.

Leia também: Empresa chinesa de IA Z.ai tem como alvo Claude Mythos da Anthropic

A Anthropic disse que embora isso possa ser decepcionante para os usuários, a compensação é garantir que os outros recursos do Fable 5 estejam amplamente disponíveis. A empresa também alertou que é “provavelmente impossível” tornar qualquer modelo de IA totalmente robusto para “jailbreaks”, termo usado para se referir a tecnologias que contornam a segurança.

“Haverá muitos jailbreaks comuns, alguns são pouco prejudiciais, e embora nenhum jailbreak universal tenha sido descoberto para Fable 5 no momento em que este artigo foi escrito, pesquisadores especialistas em segurança continuam a se juntar a ele”, disse a empresa.

Coordenação estreita, monitoramento e o que tudo isso significa

A Anthropic também disse em um blog que está fortalecendo ainda mais sua colaboração com o governo dos EUA, estendendo o acesso antecipado a ambos os seus modelos a parceiros governamentais designados.

Uma carta do secretário de Comércio dos EUA, Howard Lutnick, à Anthropic disse que a empresa concordou em trabalhar com o governo em protocolos para Mythos, Fable e modelos futuros, e em denunciar qualquer atividade abusiva ao governo dos EUA. Lutnick, no entanto, disse que o departamento “reserva-se o direito de rever as decisões tomadas nesta carta e de renovar a exigência de licença, caso as circunstâncias mudem ou caso a Anthropic não cumpra com seus compromissos”.

O maior escrutínio dos modelos de IA começou em junho, depois de o presidente dos EUA, Donald Trump, ter assinado uma ordem executiva para estabelecer um quadro voluntário para os criadores de IA submeterem “modelos de fronteira codificados” ao governo durante 30 dias antes de os divulgarem a parceiros de confiança.

A rival antrópica OpenAI também enfrentou sanções. Afirmou na semana passada que atrasou o lançamento público completo do GPT-5.6 a pedido do governo dos EUA, limitando o seu acesso a um pequeno grupo de parceiros.

O episódio marca uma mudança na forma como Washington vê agora o policiamento da IA. Os controlos de exportação têm sido tradicionalmente utilizados pelos Estados Unidos para o hardware que alimenta estes modelos, e não para o software acabado e disponível publicamente. O facto de o governo ter retirado brevemente o acesso aos produtos de consumo sugere que este tipo de interferência pode tornar-se o novo normal num mundo pós-IA.

Leia também: Por que a Anthropic superou a OpenAI na corrida de IPO

Isaac Harris, diretor executivo do Frontier Security Institute, uma organização sem fins lucrativos focada em IA e segurança nacional, disse à Reuters que existe agora um processo para padronizar o modelo americano. Mas, acrescentou, “ainda há um ponto de interrogação sobre como as capacidades perigosas provenientes da China com menos salvaguardas serão tratadas pela administração no mercado dos EUA”.

Antrópico vs. Pentágono

A paralisação foi a mais recente em uma disputa entre o governo antrópico e os EUA que vinha crescendo há meses.

Dan Ball, ex-conselheiro de IA da Casa Branca de Trump e principal redator do Plano de Ação de IA para 2025 do governo, disse em um podcast do New York Times que o relacionamento da Antrópico com o governo dos EUA dura até o verão de 2024.

Na altura, Joe Biden concordou em usar o Pentágono e a Nuvem Antrópica em ambientes confidenciais, incluindo análise de inteligência, mas com duas ressalvas: nenhuma vigilância doméstica em massa e nenhuma arma letal totalmente autónoma, disse Ball no programa de Ezra Klein.

Leia também: O que o retorno de Cloud’s Fable 5 pode significar e a rivalidade de longa data da Anthropic com a administração Trump

A administração Trump estendeu o acordo em termos semelhantes até 2025, disse Ball, antes que o relacionamento azedasse durante o outono e fosse inaugurado no início de 2026.

O avanço decisivo, disse ele, ocorreu quando Emil Michel, o subsecretário de guerra para investigação e engenharia, pediu à Anthropic que eliminasse a disposição, proibindo a utilização da nuvem para analisar os dados comerciais que recolhe, uma capacidade que está no cerne da objecção à vigilância em massa.

A guerra também foi extraordinariamente pessoal e política, observou Ball.

O secretário de Defesa dos EUA, Pete Hegsoth, escreveu no X que o “verdadeiro propósito da Antrópico não é claro. Tomar o poder de veto sobre as decisões operacionais dos militares dos EUA”, o que era “inaceitável”. Trump também descreveu a Anthropic como uma “empresa vigilante de esquerda radical” e seus funcionários como “malucos de esquerda”.

A questão veio à tona em fevereiro deste ano, quando Hegsoth ameaçou invocar a Lei de Produção de Defesa e designar a Antrópica como uma “ameaça à cadeia de abastecimento”.

Esse rótulo é geralmente reservado para tecnologia considerada perigosa demais para ser colocada em qualquer lugar da cadeia de abastecimento militar dos EUA, e tem sido usado contra empresas estrangeiras, como a chinesa Huawei, por temores de espionagem. Nunca havia sido etiquetado em uma empresa americana antes.

Trump então anunciou no Truth Social que todas as agências federais parariam de usar a tecnologia Antrópica: “Não precisamos dela, não a queremos e não faremos negócios com eles novamente!”

A Anthropic, cujo trabalho no Pentágono se enquadrava num contrato de 200 milhões de dólares, disse que designar uma ameaça à cadeia de abastecimento seria “tanto legalmente inseguro como estabeleceria um precedente perigoso”, e acrescentou: “Nenhuma quantidade de ameaças ou punições do Departamento de Guerra mudará a nossa posição sobre a vigilância doméstica massiva ou armas totalmente autónomas”.

O Departamento de Defesa acabou assinando um acordo com a OpenAI, que afirma manter os mesmos limites da Anthropic. O chefe da OpenAI, Sam Altman, disse à equipe em uma nota vista pela BBC que sua empresa rejeita usos militares “como vigilância doméstica e armas ofensivas autônomas”.

Posteriormente, a Anthropic entrou com duas ações federais contra o Departamento de Defesa em 9 de março, alegando que o rótulo de ‘ameaça à cadeia de suprimentos’ foi aplicado indevidamente e equivalia a retaliação pela proteção da IA ​​​​da fala protegida da empresa, em violação de seus direitos ao devido processo.

“A Constituição não permite que o governo use este amplo poder para punir uma empresa pelo seu discurso protegido. Nenhuma lei federal autoriza as ações aqui”, argumentou a Anthropic, dizendo a um tribunal que a designação causaria “danos irreparáveis” e arriscaria “centenas de milhões ou mesmo milhares de milhões” de dólares em receitas perdidas.

Os casos não são resolvidos. Um juiz federal em São Francisco emitiu uma liminar para impedir Cloud de aplicar a proibição, mas um tribunal de apelações de D.C. em 8 de abril negou à Anthropic uma suspensão de emergência.

(com informações de agências; Este artigo é uma versão atualizada de outro publicado em junho)

Link da fonte

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui