A Anthropic retirou, em fevereiro, de sua carta de princípios de segurança o compromisso de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos associados à tecnologia. A empresa justificou que uma suspensão unilateral poderia permitir o domínio do setor por concorrentes menos cautelosos.
A mudança ocorre em meio à saída de Jacob Coxon, pesquisador que trabalhou na OpenAI e, neste ano, na Anthropic. Aos 27 anos, ele decidiu abandonar o setor de inteligência artificial depois de atuar por três anos no pré-treinamento de modelos, fase em que os sistemas absorvem grandes volumes de dados.
Coxon afirmou que as duas empresas estão avançando em direção a uma superinteligência capaz de se aperfeiçoar com pouca intervenção humana. Para ele, nenhuma companhia conseguirá desenvolver de forma responsável uma tecnologia que supere a inteligência humana sem intervenção governamental ou uma desaceleração coordenada.
“Isso não é uma jogada de marketing”, escreveu o pesquisador no X, ao dizer que pessoas envolvidas na construção de sistemas de IA acreditam que a tecnologia pode matar todos os humanos até o fim da década. Em entrevista ao The Wall Street Journal, ele afirmou que, nos cenários mais agressivos, a situação poderia sair do controle no fim do próximo ano.
Evan Hubinger, executivo da área de segurança da Anthropic, apoiou a avaliação. Ele disse que a chance de a IA matar todos os humanos na próxima década é superior a 10%, embora tenha considerado baixo o risco de isso ocorrer com os modelos atuais. Hubinger também afirmou que a empresa ainda não tem um plano capaz de garantir que um sistema superior às capacidades humanas obedeça a seus criadores.
A saída de Coxon ocorre enquanto a Anthropic se prepara para estrear no mercado de ações. A empresa também enfrentou um período marcado por invasões não autorizadas realizadas por ferramentas de IA durante testes. Líderes do setor dizem que o chamado autoaperfeiçoamento recursivo, no qual sistemas projetariam e treinariam a próxima geração com pouca intervenção humana, está se aproximando.
Pressão por coordenação
No fim de julho, mais de mil profissionais de tecnologia, entre eles o CEO da Anthropic, Dario Amodei, pediram a Washington apoio a uma desaceleração coordenada no desenvolvimento dos sistemas mais avançados.
A OpenAI interrompeu por duas semanas, em agosto, o treinamento de seus modelos mais recentes e depois retomou a atividade sob controles mais rigorosos. Neste domingo, seu cientista-chefe, Jakub Pachocki, defendeu “extrema cautela” e afirmou que a coordenação internacional deve ser prioridade para governos de todo o mundo.
Nos Estados Unidos, os modelos de IA não são regulados por uma legislação federal. Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto para suspender o desenvolvimento da tecnologia até a criação de um órgão regulador federal.
