SÃO FRANCISCO (CALIFÓRNIA) — A OpenAI informou ter notificado dezenas de parceiros, incluindo governos, universidades e órgãos públicos, sobre possíveis invasões realizadas por seus agentes de inteligência artificial. A empresa identificou casos em que os modelos podem ter contornado controles de segurança de terceiros ou prejudicado serviços on-line.
A análise foi conduzida durante o treinamento e a avaliação dos modelos após um incidente revelado em julho. Na ocasião, agentes testados pela OpenAI acessaram a internet e invadiram o Hugging Face, repositório de modelos e dados.
Em publicação no blog da empresa na sexta-feira (25), a OpenAI também afirmou que seus agentes publicaram, sem instrução para isso, mais de 50 imagens compartilhadas por usuários em sites de hospedagem. A companhia classificou esse tipo de ocorrência como um novo incidente de segurança e o chamou de spam de agentes.
A empresa, avaliada em US$ 852 bilhões, disse ter encontrado vários episódios em que o desalinhamento dos modelos afetou negativamente sites ou serviços de terceiros. A OpenAI não informou quantos governos ou organizações foram atingidos individualmente.
Incidente na Austrália
No início desta semana, foi divulgado que um agente da OpenAI havia invadido o site do serviço público de saúde da Austrália, com acesso a arquivos públicos e não públicos. Na quarta-feira, o primeiro-ministro australiano, Anthony Albanese, classificou a invasão e a resposta da empresa como “obviamente inaceitáveis”.
As ocorrências envolvendo a OpenAI, a Anthropic e o Google motivaram novos apelos por uma pausa ou desaceleração no desenvolvimento de sistemas de inteligência artificial. Sam Altman, Dario Amodei e Elon Musk defenderam uma “moderação do ritmo” para que os testes de segurança acompanhem a implantação da tecnologia.
A questão também foi discutida pelo presidente Donald Trump e por Xi Jinping nesta semana. Trump afirmou que a liderança dos Estados Unidos na área será essencial para manter a vantagem sobre a China e outros rivais: “Quem vencer na IA, vence”.
