A Anthropic disse na sexta-feira que “desativaria abruptamente” seu modelo de IA mais avançado para todos os usuários depois que o governo dos EUA ordenou que suspendesse o acesso a cidadãos estrangeiros, citando preocupações de segurança nacional.
A empresa afirmou ter recebido uma diretriz de controle de exportação exigindo a suspensão do acesso aos seus modelos Fable 5 e Mythos 5 para todos os estrangeiros. No entanto, acrescentou que não recebeu informações detalhadas por trás da avaliação da segurança nacional.
A diretriz surge em meio a uma relação já tensa entre a Anthropic e o governo dos EUA. No início deste ano, a relação rompeu depois de a empresa se ter recusado a permitir que os militares dos EUA utilizassem os seus sistemas de IA para vigilância doméstica e armas totalmente autónomas. Em resposta, o governo colocou a Anthropic em uma lista negra da cadeia de abastecimento que entrará em vigor no final do ano.
A mídia social explodiu
A decisão desencadeou uma onda imediata de reação online, com os usuários profundamente divididos e muitas vezes confusos.
Um usuário X disse: “Isso é como o 11 de setembro para o TechBros”.
Outro simplesmente escreveu “Wtffffff”.
Alguns usuários especularam sobre motivos políticos e comerciais. Um deles disse: “Não posso deixar de pensar que é porque a Anthropic está na liderança, em relação ao IPO, e o atual governo não pode arcar com isso”.
Outro escreveu: “Não há robôs assassinos para o Pentágono. Governo dos EUA: portanto, não há modelo para ninguém. Medalhas de ouro em humilhação mútua. Ninguém ganha.”
Preocupações com a censura também foram levantadas. Um usuário X disse: “E a censura governamental aos modelos de IA começa, como avisei. O Fable 5 da Anthropic agora é essencialmente ilegal, porque a Anthropic não pode nem garantir a nacionalidade das contas dos usuários. Este governo dos EUA está começando a tentar a censura em massa dos modelos de IA. Em pouco tempo, eles banirão os modelos de código aberto baseados na China.”
Outros usuários reagiram de forma mais bem-humorada, com um deles perguntando: “As formigas (Antrópicas) não podem fazer com que sua equipe trabalhe nisso / não usem mais isso pessoalmente haha”,
A reação do ex-CEO da Zoho
O ex-CEO da Zoho Corp, Sridhar Vembu, estava entre aqueles que reagiram fortemente ao desenvolvimento, chamando a mudança de “enorme”. Vembu escreveu que desabilitar os modelos Mythos e Fable da Anthropic para usuários fora dos EUA provou que “a tecnologia é a arma definitiva”.
Ele acrescentou que “a soberania nacional, a segurança nacional, agora é tudo uma questão de tecnologia”, argumentando que os países verão o acesso a sistemas avançados de IA através de lentes estratégicas e geopolíticas.
Vembu disse ainda que o episódio mostra que “a globalização está morta e a Índia deve encontrar o seu próprio caminho”. Instando os legisladores a responder, ele disse que o governo indiano deve garantir que as organizações incluam pequenos modelos de IA, incluindo “código aberto indiano e chinês”. “Com um pouco de esforço, podemos fazê-los funcionar”, escreveu ele, “No entanto, por que dar dinheiro a pessoas que nem querem vender para você?”
A empresa cita preocupações de ‘jailbreak’
A Anthropic disse que entende as preocupações do governo sobre uma forma potencial de contornar a segurança, ou o que descreve como uma ameaça de “jailbreak”, que poderia permitir que o Fable 5 fosse usado para identificar vulnerabilidades de software.
É entendimento da Antrópico que o governo acredita que existe uma maneira de contornar, ou “desbloquear”, uma segurança que impediria o Fable 5 de ser usado para identificar vulnerabilidades de software, disse a empresa, informou a agência de notícias Reuters.
A empresa acrescentou que recebeu apenas “evidências verbais de um possível jailbreak restrito e não universal” e reduziu as preocupações.
“Concordamos que encontrar um potencial jailbreak limitado deve levar ao recall de um modelo de negócios que implantou centenas de milhões de pessoas”, disse a empresa.
A diretora de informação do Departamento de Defesa dos EUA, Kristen Davis, reagiu ao desenvolvimento dizendo que a segurança nacional deveria ser priorizada.
“Poucas coisas são mais importantes do que apenas o ciclo de receita, o clickbait e o preço pré-IPO. A América primeiro. Sempre”, disse Davis, citando a Reuters.
Um funcionário dos EUA também confirmou que o Departamento do Comércio emitiu directivas de controlo de exportações exigindo a suspensão do acesso a cidadãos estrangeiros. O ex-funcionário da Casa Branca Dan Ball disse que a medida poderia efetivamente limitar o uso de cidadãos norte-americanos, observando que “não-americanos” também poderiam ser deportados de dentro do país, acrescentou o relatório da Reuters.
Notavelmente, muitas figuras proeminentes associadas à Anthropic nasceram fora dos Estados Unidos, incluindo o cofundador Chris Ola, o pesquisador de IA Andrej Krapethi e a filósofa Amanda Skell. A HT não conseguiu verificar de forma independente o estatuto de cidadania dos indivíduos e resta saber se os funcionários dessa categoria serão afetados pelas restrições de acesso.
A empresa busca reembolso
A Antrópica disse acreditar que houve um mal-entendido e está trabalhando para restabelecer o acesso ao modelo o mais rápido possível.
“Se este padrão fosse implementado em toda a indústria, acreditamos que essencialmente interromperia todos os novos designs de modelos para todos os fornecedores de modelos de fronteira”, disse a empresa.
No início da semana, a Anthropic lançou seu modelo Fable 5 em uma nova categoria de capacidade de “classe matemática”, que vem com guardas de segurança que limitam o uso em domínios de alto risco, como segurança cibernética.
No entanto, os especialistas alertaram que esses sistemas avançados ainda podem ser utilizados indevidamente para lançar ataques cibernéticos sofisticados, especialmente contra sectores críticos como os sistemas bancários.
