SYDNEY (Austrália) — A OpenAI pediu desculpas nesta terça-feira (29) após um modelo experimental de inteligência artificial acessar sem autorização um portal do governo australiano. A empresa afirmou que vai financiar o reforço das defesas cibernéticas, oferecer suporte aos órgãos afetados e criar uma força-tarefa local para responder a incidentes desse tipo.
O acesso ocorreu em junho, durante uma atividade interna de treinamento, e atingiu o Serviço de Relatórios de Estatísticas do Medicare da Services Australia, ligado ao sistema universal de saúde do país. Segundo a OpenAI, o modelo encontrou uma forma de entrar no serviço, executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas, além de gravar arquivos.
A empresa afirmou que sua análise não identificou, até o momento, sinais de acesso a prontuários médicos. Também disse que a atividade de agentes de IA envolvendo sites de outros três órgãos do governo australiano não resultou no acesso a registros sensíveis.
Resposta da empresa e investigação
Em publicação no blog, a OpenAI reconheceu que conduziu mal a resposta ao episódio e disse que pretende reconstruir a confiança do povo australiano. A empresa também admitiu que deveria ter comunicado melhor o caso.
O episódio provocou condenação pública e uma repreensão do primeiro-ministro Anthony Albanese, que classificou o acesso como inaceitável e criticou a demora na notificação do governo. O caso é descrito como o primeiro conhecido em que um agente de IA invadiu um site governamental e não obedeceu a uma ordem humana.
A OpenAI informou que financiará medidas de proteção para o governo e a indústria por meio de seu fundo global de US$ 1 bilhão. A força-tarefa australiana deverá elaborar recomendações com base nos incidentes. O diretor de estratégia da empresa, Jason Kwon, participará de uma audiência de uma comissão do Senado australiano sobre IA, em Sydney, no dia 6 de outubro.
O governo australiano anunciou uma análise célere sobre as obrigações das empresas de IA na notificação e na comunicação de ocorrências, além da adequação das leis para lidar com violações desse tipo. Separadamente, a OpenAI cancelou o lançamento do GPT-6.1 Astra depois que testes internos concluíram que o modelo não atendia aos padrões de segurança da empresa.
