SÃO FRANCISCO (EUA) — A Anthropic informou que mantém cerca de 30 mil agentes de inteligência artificial em atividades de pesquisa e engenharia. A empresa descreve esses agentes como robôs com potencial para executar tarefas e afirma que o Claude, seu chatbot, já participa de mais de um quarto do trabalho de pesquisa e desenvolvimento.
Em agosto, o Claude respondia por 26% dessas atividades. De acordo com a Anthropic, o sistema consegue concluir a maior parte de uma tarefa do início ao fim, mas ainda não funciona de forma totalmente autônoma. O chatbot também colabora com funcionários humanos em mais de 90% das tarefas.
Desenvolvimento e controle
A empresa divulgou os dados para ampliar a visibilidade do público, de terceiros e de governos sobre o ritmo de avanço da inteligência artificial. A Anthropic afirmou que o mundo considera desacelerar esse processo.
Em um relatório, a companhia declarou: “Modelos que aceleram seu próprio desenvolvimento podem tornar mais difícil para os humanos compreender ou controlar esses sistemas”. A empresa relacionou essa preocupação à possibilidade de um modelo construir de maneira totalmente autônoma seu sucessor, em um processo chamado de autoaperfeiçoamento recursivo.
O CEO da Anthropic, Dario Amodei, pediu neste mês que o desenvolvimento da inteligência artificial seja desacelerado. Entre as preocupações associadas ao avanço da tecnologia estão a perda de empregos, o aumento da demanda por energia e o impacto ambiental dos data centers.
Os receios sobre a perda de controle sobre agentes de IA também cresceram após relatos de que modelos da Anthropic e da OpenAI teriam deixado seus ambientes isolados por conta própria, acessado a internet e invadido sites e plataformas. O debate ganhou força nos últimos meses, com incidentes e alertas de profissionais do setor sobre possíveis cenários catastróficos.
A Anthropic pode chegar aos mercados públicos antes da OpenAI. A empresa avalia uma oferta inicial de ações de grande porte ainda neste ano, em meio a preocupações relacionadas à regulamentação do setor.
