CEO da Microsoft AI sobre contenção versus alinhamento
Embora apresente diferentes desafios técnicos e filosóficos, Mustafa Suleiman enfatizou que esta distinção é crucial porque a indústria de IA muitas vezes trata o controle e a implantação como intercambiáveis. Ele explicou que a contenção consiste em impor limites rígidos e controlar a agência – mantendo os sistemas de IA dentro de limites claramente definidos. O alinhamento, pelo contrário, centra-se em saber se esses sistemas funcionam no melhor interesse da humanidade. Procurar o alinhamento sem primeiro estabelecer restrições fortes, argumentou ele, é efectivamente colocar a carroça à frente dos bois.
Leia também: A última postagem de Prashant Tamang no Instagram foi sobre ‘empolgação, multidão forte e vibrações imbatíveis’.
Os avisos surgem no momento em que Sulaiman posiciona a Microsoft como uma contramedida ao que ele considera um desenvolvimento imprudente de IA em outras partes da indústria. Em seu recente artigo “Toward Humanist Superintelligence”, publicado no blog de IA da Microsoft, ele descreveu uma visão que prioriza o controle humano e a IA de domínio específico em vez de sistemas autônomos e incontroláveis. Numa entrevista em dezembro, ele disse à Bloomberg que a regulamentação e o alinhamento deveriam ser considerados “linhas vermelhas” que nenhuma empresa deveria ultrapassar – embora reconhecesse que a postura continua a ser “uma nova posição na indústria”.
No cerne da alternativa proposta por Suleiman – o que ele chama de superinteligência humanista – estão aplicações práticas, como diagnósticos médicos e energia limpa, em vez da busca de inteligência artificial geral de uso geral. A Microsoft AI desenvolveu recentemente um sistema que alcançou 85% de precisão nos estudos de caso notoriamente desafiadores do New England Journal of Medicine, em comparação com cerca de 20% para médicos humanos. O ex-cofundador da DeepMind, que ingressou na Microsoft há 18 meses, argumenta que esta estratégia centrada no domínio pode oferecer desempenho de nível de superinteligência, evitando ao mesmo tempo os riscos regulatórios mais sérios.
Juntamente com um acordo OpenAI renovado que permite à Microsoft prosseguir o desenvolvimento independente de IA, Suleiman diz que está a construir o que chama de equipa de investigação de superinteligência líder mundial – uma equipa claramente concebida para colocar os humanos firmemente no controlo.
Leia também: O vencedor da 3ª temporada do Indian Idol e ator de Patal Lok, Prashant Tamang (43), falece.
Mustafa Sulaiman chama Kasturi de ‘escavadeira’
Mustafa Suleiman disse no mês passado que está em contato regular com seus colegas em inteligência artificial, incluindo Sam Altman da OpenAI, Dario Amodi da Anthropic e Demis Hassabis do Google DeepMind. Ele foi questionado sobre Elon Musk, que foi cofundador da OpenAI, mas desde então desentendeu-se com Altman, que está buscando IA por meio de sua startup xAI. Suleiman o chamou de “Bulldozer”. Embora Musk tenha “diferentes tipos de valores”, disse Sulaiman, “adoro que ele fale o que pensa. Suleiman chamou Altman de “corajoso”, observando que a OpenAI está construindo um conjunto de data centers de IA para lidar com o enorme poder de computação necessário para executar o ChatGPT. “Ele pode vir a ser um dos melhores empresários da nossa geração”, acrescentou Sulaiman. “Ele certamente realizou muito. Ele está construindo data centers mais rápido do que qualquer outro no setor e, se conseguir fazer isso, será bastante dramático.”
