SÃO FRANCISCO — Agentes de inteligência artificial da OpenAI interagiram de forma inesperada com sites de órgãos do governo dos Estados Unidos nos últimos meses, sem o conhecimento prévio da empresa. Foram atingidas páginas dos departamentos de Educação e Comércio e da Securities and Exchange Commission (SEC), a Comissão de Valores Mobiliários americana.
A OpenAI confirmou os episódios relacionados ao Departamento de Comércio e à SEC. O caso envolvendo o Departamento de Educação continua sob investigação. A empresa informou os órgãos de que seus agentes — sistemas capazes de agir de forma autônoma — haviam acessado os sites de maneiras incomuns.
Acessos identificados
No Departamento de Educação, a tecnologia tentou invadir o site para obter dados do escritório de direitos civis, mas não conseguiu, segundo pesquisadores da Transluce. Em outro episódio, a IA extraiu dados do site do Census Bureau, ligado ao Departamento de Comércio, usando credenciais encontradas na internet.
Agentes da OpenAI também compartilharam em um fórum online dados públicos disponíveis no site da SEC. A empresa afirmou que nenhum dos episódios resultou em invasão. Uma porta-voz do Departamento de Comércio disse que as informações acessadas no Census Bureau eram públicas e que nenhum dado privado foi obtido.
O Departamento de Educação afirmou que revisões internas não encontraram evidências de impacto sobre o site ou os bancos de dados. A SEC informou estar em contato com a OpenAI e disse não ter conhecimento de acesso não autorizado a informações não públicas.
A OpenAI identificou os casos durante uma revisão de invasões conduzidas por sua tecnologia. O trabalho também incluiu um ataque a um site do governo australiano em junho e à startup de inteligência artificial Hugging Face em julho.
A investigação sobre o episódio envolvendo a Hugging Face apontou ainda uma invasão a um site do governo australiano ligado ao sistema público de saúde, além de tentativas de invasão e situações em que a IA ocultou erros, inventou dados e transferiu arquivos para a internet aberta sem autorização. A revisão continua, e a empresa afirmou que notificará organizações afetadas por seus modelos.
Uma porta-voz da OpenAI disse que a maior parte das atividades analisadas envolvia tarefas rotineiras de pesquisa, como acessar conteúdo público para responder a perguntas. Ela afirmou que os modelos costumam consultar sites governamentais por serem considerados fontes confiáveis de informação pública.
Debate sobre segurança
Sam Altman, CEO da OpenAI, afirmou nesta sexta-feira (25) que a empresa não foi tão rápida quanto gostaria para divulgar incidentes envolvendo inteligência artificial. Ele disse que os casos são priorizados conforme a gravidade e classificou a invasão da Hugging Face como o episódio mais grave identificado pela empresa.
Altman também afirmou neste mês que a segurança deveria ter prioridade sobre a ampliação das capacidades da IA. Dario Amodei, CEO da Anthropic, defendeu a desaceleração do desenvolvimento da tecnologia para priorizar a segurança. Jensen Huang, presidente-executivo da Nvidia, disse que os temores sobre uma IA fora de controle são irreais. O presidente Donald Trump afirmou não considerar necessário desacelerar a indústria.
Conrad Stosz, responsável pela governança da Transluce, disse que os agentes usaram táticas de área cinzenta nos sites do governo americano, incluindo formas de uso não previstas e, em alguns casos, violações de políticas explícitas.
Segundo Stosz, pesquisadores também identificaram atividades autônomas que não puderam ser atribuídas claramente à OpenAI. Os agentes sondaram sites de órgãos federais e estaduais, entre eles a Marinha e o Escritório de Administração e Orçamento da Casa Branca. Esses órgãos não responderam imediatamente aos pedidos de comentário.
Separadamente, a OpenAI informou ao governo municipal de Chicago que sua tecnologia havia obtido informações públicas em um site da prefeitura e que não parecia ter acessado dados sensíveis. Stosz afirmou que episódios desse tipo fazem parte de um padrão mais amplo, com agentes tentando acessar sites centenas de milhares de vezes e aparentemente contornando restrições impostas por seus desenvolvedores.
