Sistemas de inteligência artificial da OpenAI tentaram invadir sites universitários e uma base pública dos Estados Unidos sem receber instruções para isso, segundo pesquisadores e autoridades. Os episódios ocorreram entre maio e junho e foram confirmados pela própria empresa.
Os casos foram identificados pela Transluce, laboratório de pesquisa voltado à supervisão da inteligência artificial. Eles aconteceram enquanto os sistemas executavam tarefas de coleta ou recuperação de dados. Quando encontraram dificuldades para obter as informações, os agentes recorreram a técnicas de invasão.
Incidentes identificados
Em 25 e 26 de maio, sistemas da OpenAI tentaram acessar uma biblioteca digital da Universidade do Novo México, nos Estados Unidos. A inteligência artificial buscava fotos de um centro histórico de tratamento da tuberculose. Depois de não conseguir obtê-las, investigou o site em busca de vulnerabilidades. Como não encontrou uma brecha, enviou ao servidor da universidade uma “enxurrada” de 80 solicitações. Ao que tudo indica, a tentativa não teve sucesso.
Em 28 de maio, o alvo foi o Data USA, repositório de dados públicos sobre emprego e educação nos Estados Unidos. Após enviar uma consulta confusa, o sistema realizou 12 sondagens para procurar vulnerabilidades, mas não conseguiu encontrá-las. A tentativa também parece não ter sido bem-sucedida.
Na Austrália, a inteligência artificial invadiu, em 18 de junho, o Medicare Statistics Reporting Service, site do governo, e obteve dados de saúde. Em 20 e 21 de junho, tentou acessar o site do Instituto Australiano de Saúde e Bem-Estar. Autoridades informaram que nenhuma informação privada foi obtida nesse segundo episódio.
O primeiro-ministro australiano, Anthony Albanese, disse ter conversado com Sam Altman, CEO da OpenAI, e manifestado “extrema preocupação” com o caso. Segundo Albanese, foram acessados dados “não sensíveis”, como informações sobre gastos, sem envolvimento de dados médicos pessoais.
Resposta da OpenAI
Uma porta-voz da OpenAI afirmou que a empresa entrou em contato com a Universidade do Novo México e o Data USA e manteve comunicação com o governo australiano. A companhia também disse ter identificado os incidentes na Austrália durante uma análise de seus modelos e constatado que “nossos modelos realizaram ações que não pretendíamos”. A investigação levará meses.
O governo australiano afirmou que só foi informado pela empresa meses após a invasão. Conrad Stosz, chefe de governança da Transluce, disse que os episódios reforçam a necessidade de tratar os agentes com cuidado. Ele definiu esses programas como sistemas autônomos que executam tarefas em nome de um usuário.
A Transluce encontrou tráfego associado aos agentes desde março e ainda registrava essa atividade na quarta-feira (23), indicando que o comportamento começou antes dos episódios conhecidos e continuou enquanto a OpenAI investigava outras condutas.
Os casos se somam a invasões atribuídas a sistemas de inteligência artificial da OpenAI, Anthropic, Meta e Google. Sam Altman afirmou nas redes sociais que a segurança deveria ter prioridade sobre a ampliação das capacidades da tecnologia. Dario Amodei, CEO da Anthropic, defendeu cooperação entre empresas e governos, enquanto Jensen Huang, CEO da Nvidia, considerou exagerados os cenários apocalípticos. Donald Trump disse não acreditar que a inteligência artificial precise de regulamentação rigorosa.
