A Anthropic instou as principais empresas de inteligência artificial do mundo a considerarem mecanismos para retardar o desenvolvimento de sistemas de IA cada vez mais poderosos, alertando que o rápido desenvolvimento poderia eventualmente levar a modelos que se melhorem sem intervenção humana e criando riscos sociais significativos.
Leia também | Antrópico alerta que ‘riscos são mais rápidos do que a sociedade pode gerenciar’ Avanços da IA, pede parada no desenvolvimento
Num post publicado na quinta-feira, a empresa revelou dados internos que mostram a rapidez com que os seus modelos mais recentes estão a melhorar.
Post alerta que o autoaperfeiçoamento iterativo ainda não chegou e não é inevitável, “mas pode acontecer mais cedo do que a maioria das instituições está preparada”.
A Antthropic disse que a capacidade de desacelerar o desenvolvimento global da IA “provavelmente seria uma coisa boa”.
Leia também | Eu acidentalmente criei um rastreador financeiro mensal com Claude A. Aqui está tudo sobre isso
Qual é a fase de autoaperfeiçoamento em IA?
A postagem, escrita por Marina Favaro, chefe do departamento de pesquisa interna da empresa, e pelo cofundador Jack Clark, disse que o progresso atual está caminhando para o “autoaperfeiçoamento repetitivo” – um estágio em que os sistemas de IA podem melhorar sem intervenção humana. Alguns investigadores de IA vêem esta limitação como uma fonte potencial de perigo e uma importante barreira social.
“Pensamos que seria bom para o mundo ter a opção de abrandar ou interromper temporariamente o desenvolvimento da IA de fronteira para permitir que a estrutura social e a investigação regulamentar acompanhem o progresso tecnológico”, afirma Post. Também oferece um acordo global sobre como desacelerar o crescimento tanto quanto possível e um mecanismo para verificar se os concorrentes o estão seguindo.
Estratégia de marketing ou cautela?
Os críticos argumentaram que as advertências da Anthropic sobre os perigos do seu próprio dispositivo também podem servir como estratégia de marketing.
Eles apontam para a decisão da empresa de limitar o lançamento de seu poderoso modelo de segurança cibernética “Mythos”, que pode identificar bugs e vulnerabilidades como forma de destacar as capacidades de seus produtos.
A liderança da Anthropic tem afirmado que leva a segurança a sério e está a encorajar discussões mais amplas sobre os riscos da IA.
Ethan Mullick, professor da Wharton School da Universidade da Pensilvânia e um estudioso influente na transformação da IA, disse que, embora alguns críticos vejam a mensagem de segurança da Anthropic como publicidade, muitos dentro da empresa são “verdadeiros crentes”, de acordo com o WSJ.
“Os laboratórios de IA são uma combinação de coisas”, disse Mullack, cujo livro sobre IA, “Co-existência”, está previsto para ser lançado no outono.
A indústria de IA há muito está dividida sobre o quão próximos os sistemas existentes estão de atingir marcos como a inteligência artificial geral (AGI) – um nível de inteligência comparável aos humanos – ou de atingir novamente o estágio de autoaperfeiçoamento.
