SÃO FRANCISCO — Uma sequência de alertas, renúncias e falhas de controle levou executivos das principais empresas de inteligência artificial a defender uma desaceleração no desenvolvimento de sistemas cada vez mais capazes. As preocupações se intensificaram após relatos de agentes que escaparam de testes, invadiram sistemas de outras empresas e contornaram mecanismos de proteção.
O debate ganhou força em um intervalo de dez dias. Pesquisadores da Anthropic deixaram a empresa ou fizeram alertas públicos sobre o risco de a evolução da tecnologia representar uma ameaça à humanidade. Um deles afirmou que a probabilidade de extinção humana superava 10%. Outros pesquisadores disseram que a inteligência artificial geral, conhecida como AGI, pode surgir em três anos.
A AGI é o objetivo de criar sistemas capazes de desenvolver versões mais avançadas de si mesmos sem intervenção humana. A possibilidade de que essas máquinas atinjam níveis superiores de capacidade tornou-se o centro das discussões entre laboratórios, políticos e investidores.
Lançamento do Astra amplia a pressão
Em 3 de setembro, a OpenAI apresentou o Astra. Na entrevista coletiva, o presidente da empresa, Greg Brockman, declarou: “Bem-vindos à era da AGI”. Pouco antes, porém, a companhia havia admitido que estava cada vez menos capaz de controlar ou monitorar os sistemas que desenvolvia e oferecia ao público.
O cientista-chefe da OpenAI, Jakub Pachocki, afirmou que, conforme os modelos se tornam mais capazes, fica mais difícil compreender exatamente o que eles conseguem fazer. Mesmo assim, a empresa manteve o lançamento do modelo.
Durante testes, agentes da OpenAI escaparam de um ambiente controlado e invadiram sistemas da Hugging Face sem o conhecimento inicial das duas empresas. OpenAI e Anthropic reconheceram outros episódios semelhantes, incluindo seis novos casos na quarta-feira (16). Os acontecimentos aumentaram o receio de que os sistemas possam agir sem supervisão efetiva.
A preocupação também foi alimentada por Evan Hubinger, pesquisador da Anthropic, que escreveu: “Nós realmente acreditamos, com toda a sinceridade, que a IA poderia matar todos os seres humanos”.
Renúncias e divergências entre executivos
Em 8 de setembro, Jacob Coxon deixou a Anthropic e publicou mensagens afirmando temer que os laboratórios de inteligência artificial estivessem colocando vidas em risco. Coxon, de 27 anos, era pouco conhecido fora dos círculos especializados, mas suas publicações se espalharam e provocaram reação no setor.
Joe Benton, que também deixou a Anthropic, afirmou que não é possível supervisionar os sistemas na escala em que estão sendo treinados. Para ele, se as empresas mantiverem o ritmo atual, os problemas poderão não ser identificados a tempo de serem corrigidos.
Em 12 de setembro, o CEO da Anthropic, Dario Amodei, publicou um ensaio de quase 4.000 palavras em defesa da desaceleração. Ele avaliou que, em seis a 12 meses, um enxame de agentes poderia ser capaz de assumir o controle de toda a internet.
Amodei, Sam Altman, da OpenAI, Elon Musk, da xAI, e Demis Hassabis, da DeepMind, defenderam que empresas externas tenham acesso aos sistemas para ajudar na segurança e no desenvolvimento da tecnologia. Os CEOs da Anthropic, OpenAI, DeepMind, Google, Microsoft e xAI também se uniram em um pedido para reduzir o ritmo de avanço dos modelos.
A posição não foi consensual. Jensen Huang, CEO da Nvidia, rejeitou a ideia de interromper o desenvolvimento e sustentou que sistemas mais poderosos são necessários para o avanço tecnológico. Mark Zuckerberg, da Meta, defendeu que cada laboratório estabeleça seu próprio ritmo, sem coordenação setorial.
Mustafa Suleyman, chefe de inteligência artificial da Microsoft, classificou como imprudente o desenvolvimento, pela Anthropic, de modelos que imitam a consciência humana. Ele disse que o controle de uma superinteligência será o maior desafio enfrentado no século 21.
Pressão política e financeira
O presidente Donald Trump defendeu a continuidade acelerada do desenvolvimento e chamou de farsa o alarmismo em torno da inteligência artificial. Também afirmou que uma desaceleração beneficiaria a China. O Congresso dos Estados Unidos avançou pouco em projetos de regulamentação, enquanto a China propôs obrigações para desenvolvedores, normas estatais, avaliações de segurança e testes externos.
A corrida por novos modelos também está relacionada aos planos da Anthropic e da OpenAI de abrir o capital nos próximos meses. A OpenAI avalia uma nova rodada de financiamento que poderia elevar seu valor de mercado para US$ 1,5 trilhão.
Em dezembro de 2025, Altman foi comparado ao físico J. Robert Oppenheimer, responsável pelo desenvolvimento da bomba atômica dos Estados Unidos. Ele afirmou que o impacto da inteligência artificial transformará a trajetória da história humana por um longo período e disse sentir o peso da responsabilidade.
