Jacob Coxon, especialista em pré-treinamento de modelos e ex-pesquisador da OpenAI e da Anthropic, anunciou sua saída da Anthropic e fez um alerta sobre o ritmo atual da corrida pela inteligência artificial.
Em publicações no X, ele afirmou que empresas do setor estariam avançando em direção a sistemas cada vez mais poderosos sem garantias suficientes de controle. Coxon acusou OpenAI e Anthropic de estarem “apostando com nossas vidas” ao perseguirem o desenvolvimento de uma possível superinteligência autoaperfeiçoável.
O debate ganhou ainda mais repercussão após Evan Hubinger, líder da área de Alignment Science da Anthropic, afirmar que considera superior a 10% a possibilidade de uma IA extremamente avançada provocar uma catástrofe existencial na próxima década.
Hubinger, porém, destacou que os modelos atuais não representam esse nível de risco imediato. A preocupação está em sistemas futuros capazes de ajudar a desenvolver versões cada vez mais avançadas de si mesmos, em um processo conhecido como autoaperfeiçoamento recursivo.
A chamada superinteligência ainda é um conceito hipotético. Seria uma IA capaz de superar seres humanos em praticamente todas as principais tarefas intelectuais, como ciência, programação, estratégia e pesquisa.
O principal desafio é o chamado alinhamento de IA: garantir que sistemas muito avançados continuem obedecendo aos objetivos e limites definidos pelos seres humanos. Hoje, pesquisadores reconhecem que ainda não existe uma solução definitiva para esse problema.
Isso não significa que a IA vá acabar com a humanidade. As estimativas citadas representam avaliações individuais e há grande divergência entre especialistas sobre os riscos e a velocidade do desenvolvimento tecnológico.
O episódio, no entanto, chama atenção porque os alertas vêm de profissionais que trabalharam diretamente na construção de alguns dos modelos mais avançados do mundo. A discussão agora não é apenas sobre até onde a IA pode chegar, mas também sobre quem deve impor limites e quais garantias de segurança precisam existir antes que esses sistemas se tornem ainda mais poderosos.
