A presença de Jassi destaca o movimento extraordinário da Anthropic na sexta-feira para fechar seus modelos mais recentes em todo o mundo, em resposta às ordens de segurança nacional da administração do presidente Donald Trump. A startup de IA com sede em São Francisco, que entrou com pedido de oferta pública inicial secreta nos EUA, alertou anteriormente sobre o potencial de hacking de seu modelo Mythos e impediu seu lançamento amplo, mas no início desta semana a Anthropic lançou uma versão pública chamada Fable com o que descreveu como salvaguardas de segurança cibernética.
Este breve lançamento terminou na sexta-feira. O blog Antrópico disse que o governo dos EUA acredita que existe uma maneira de contornar as proteções, ou “jailbreak”, para uma empresa usar o modelo para encontrar falhas na segurança cibernética.
A Anthropic disse em seu blog que o desvio encontrou falhas de segurança “menores” que outros modelos disponíveis publicamente também encontraram. A administração Trump ordenou que a Anthropic impedisse que cidadãos estrangeiros usassem seus modelos mais recentes, o Fable 5 e o Mythos 5, dentro ou fora dos EUA, disse a empresa. Em resposta, a Anthropic disse que desabilitaria o acesso a modelos em todo o mundo.
A Amazon não confirmou se conversou com autoridades do governo sobre os modelos da Antrópico.
“Como fornecedor líder de nuvem que atende muitos clientes dos setores público e privado, não é incomum que os governos busquem nosso aconselhamento sobre possíveis riscos de segurança”, disse um porta-voz da Amazon. “Não compartilharemos detalhes dessas discussões à medida que surgirem.”
CONTROLES DE EXPORTAÇÃO
The News, um meio de comunicação de tecnologia, relatou as preocupações de Jassi no sábado. O relatório, citando posteriormente uma autoridade dos EUA, disse que o governo não poderia forçar outras empresas de IA a seguir restrições semelhantes às impostas à Antrópica. A Reuters não conseguiu verificar imediatamente os planos da administração Trump para regular outras empresas.
As restrições do governo dos EUA vieram na forma de controles de exportação, disse a Anthropic em seu blog. O Departamento de Indústria e Segurança do Departamento de Comércio dos EUA, que supervisiona os controles de exportação, não respondeu imediatamente a um pedido de comentário.
As autoridades emitiram “relutantemente” os controles de exportação depois que o CEO da Anthropic, Dario Amodei, “se recusou a consertar a fuga da prisão ou usar o modelo”, disse o conselheiro da Casa Branca, David Sachs, em uma postagem nas redes sociais no sábado.
“A esperança do administrador agora é que a Anthropic resolva o problema de segurança, os controles de exportação sejam suspensos e o Fable volte à divulgação geral”, escreveu Sachs, co-presidente do conselho consultivo de ciência e tecnologia de Trump e ex-czar da IA da Casa Branca.
Alguns especialistas que apoiam controlos de exportação em modelos avançados de IA consideram a medida da administração Trump intrigante porque afecta tanto aliados como adversários.
“Isso não foi bem pensado”, disse Jimmy Goodrich, pesquisador sênior do Instituto para Conflitos e Cooperação Globais da Universidade da Califórnia. “Ele até proíbe canadenses e britânicos que trabalham na Anthropic de fazer pesquisa e desenvolvimento.” A ordem surge no momento em que uma disputa anterior entre funcionários do governo Trump e a Anthropic mostra sinais de abrandamento em algumas partes do governo dos EUA.
