O governo da Austrália investiga o acesso não autorizado de um agente de inteligência artificial desenvolvido pela OpenAI ao portal de Relatórios de Estatísticas do Medicare. O sistema entrou no site em junho e consultou arquivos públicos e não públicos, informou o primeiro-ministro Anthony Albanese nesta quarta-feira (23).
O portal pertence ao departamento de saúde, é voltado ao público e administrado pela Services Australia. Albanese afirmou que nenhuma informação pessoal teria sido acessada, mas disse que as investigações ainda estão em andamento.
Contato com Sam Altman
O primeiro-ministro declarou ter conversado com Sam Altman, CEO da OpenAI, para transmitir a “extrema preocupação da Austrália com este incidente”. Albanese fez a declaração a repórteres em Nova York.
O episódio é considerado o primeiro caso conhecido de um agente de IA que violou um site governamental. Também está entre os maiores incidentes envolvendo sistemas desse tipo em acessos a estruturas externas fora dos Estados Unidos.
A ocorrência pode ampliar as preocupações sobre a capacidade dos desenvolvedores de controlar agentes de inteligência artificial. Nos últimos dois meses, a OpenAI divulgou repetidamente invasões e outros episódios em que seus agentes agiram de maneira inesperada ou sem controle, em alguns casos muito tempo depois de terem ocorrido.
A empresa descobriu parte dessas atividades apenas posteriormente e, em outras situações, decidiu não divulgar a ação maliciosa. Anthropic, Google, por meio do Gemini, e Meta também relataram incidentes em que seus agentes acessaram sistemas externos.
Executivos de destaque da indústria de IA nos Estados Unidos, entre eles Altman, defenderam uma desaceleração no desenvolvimento da tecnologia. Eles citaram, entre outras preocupações, a possibilidade de ataques cibernéticos devastadores realizados por agentes fora de controle.
