Funcionários da administração Trump pediram à unidade de testes de inteligência artificial do governo que parasse de divulgar relatórios públicos, o mais recente sinal de que a Casa Branca está a reforçar os controlos sobre os modelos de IA à medida que crescem as preocupações com a segurança nacional.
Sean Cairncross, Diretor Nacional Cibernético, enfatizou que as preocupações com a segurança nacional desempenham um papel importante na avaliação dos modelos de IA.
Funcionários do governo, incluindo o Diretor Nacional Cibernético, Sean Kern Cross, disseram ao Centro de Padrões e Inovação de IA para interromper a publicação de sua revisão de modelo enquanto uma ordem executiva assinada pelo presidente Trump na semana passada é implementada, disseram pessoas familiarizadas com o assunto. A ordem representou uma vitória para Karen Cross e para o secretário do Tesouro, Scott Bessant, que enfatizaram as considerações de segurança para desempenhar um papel mais importante na avaliação do modelo.
A decisão de suspender o trabalho público do grupo está a ser vista por alguns responsáveis como um sinal de que Karen Cross e os seus aliados querem ter mais voz na avaliação do modelo, disseram as pessoas. Alguns responsáveis administrativos estão zangados com Cairns Cross por exercer mais influência sobre o processo; Eles achavam que a ordem executiva direcionava um novo grupo para realizar o trabalho que o centro – conhecido como CAISI – já estava realizando, disseram as pessoas.
Do outro lado estão empresas como a OpenAI, que discutiram com funcionários da administração sobre a importância do CAISI e a preservação do seu poder, disseram as pessoas. O capitalista de risco David Sachs, que aconselha a IA da Casa Branca, alertou que um processo de teste de modelo excessivamente zeloso – sem monitorização – poderia atrasar a implementação e sufocar a inovação.
A porta-voz da Casa Branca, Liz Huston, disse que a implementação da agenda AIA do presidente Trump é um esforço de todo o governo, com muitas agências contribuindo para o seu sucesso. “Cairn Cross está fazendo o melhor que pode para proteger o povo americano e ao mesmo tempo promover a inovação”, disse ele.
Sediada no Departamento de Comércio, a CAISI é a principal agência do governo que testa modelos de IA antes de serem lançados e informa o público sobre as suas capacidades e desempenho relativo. É visto como um dos principais veículos através dos quais o governo pode mitigar os riscos associados à segurança cibernética, às armas biológicas e a outras ameaças da IA.
A CAISI ainda está a trabalhar internamente para rever os modelos e coordenar com as agências governamentais, mas interromper o seu trabalho público coloca o seu futuro em risco, disseram as pessoas.
Os principais desenvolvedores de modelos, incluindo OpenAI e Anthropic, têm laços com o CAISI desde a administração Biden. O processo descrito na ordem executiva pode desafiar a forma como as empresas planeiam lançar os modelos se estiverem preocupadas que as autoridades de segurança nacional possam considerá-los perigosos e retardar a sua implantação, disseram analistas de IA.
A medida para limitar a actividade da CAISI é o exemplo mais recente de como modelos poderosos como as mariposas da Anthropic, capazes de conduzir ataques cibernéticos, minaram a estratégia de IA da administração.
Sendo uma agência civil, a CAISI conseguia anteriormente partilhar as conclusões com o público e outros investigadores, uma prática que, segundo os analistas, é pouco provável que continue se as agências de segurança tiverem mais controlo.
Num memorando sobre segurança nacional publicado pela Casa Branca na semana passada, uma secção sobre ameaças de IA menciona autoridades de segurança e exclui a CAISI.
Funcionários da Casa Branca instruíram a CAISI a retirar um anúncio no mês passado que dizia que trabalharia com a Microsoft, o Google e a empresa de IA de Elon Musk depois que a ordem executiva fosse concluída, disseram pessoas familiarizadas com o assunto.
Em abril, um ex-pesquisador da Antrópico liderou o CAISI por dias quando a Casa Branca lhe pediu abruptamente que renunciasse, uma medida que alguns funcionários consideraram decorrente da hostilidade do governo ao desenvolvedor de IA.
O secretário de Comércio, Howard Lutnick, reinventou o CAISI no início do segundo mandato de Trump, mudando seu nome de AI Security Institute, o nome original do presidente Biden.
Na semana passada, a OpenAI apelou ao fortalecimento do CAISI com mais recursos e responsabilidades num plano político. Chris Lehane, diretor de assuntos globais da empresa, disse aos repórteres que a unidade era capaz de realizar testes sofisticados e tinha relacionamentos com empresas líderes.
Especialistas em IA dizem que a unidade tem pouco poder em comparação com grupos semelhantes em outros países e precisa fornecer liderança americana no campo.
Escreva para Amrith Ramkumar em amrith.ramkumar@wsj.com
