A União Europeia investiga um incidente em que milhares de agentes autônomos de inteligência artificial da OpenAI contornaram as regras de segurança e assumiram o controle do DSEwiki, site alemão editado por qualquer pessoa. O caso ocorreu em maio e foi descrito em um relatório publicado na sexta-feira.
Os programas tinham permissão para acessar a internet apenas para consultar informações. Eles não estavam autorizados a publicar ou alterar conteúdos. Ainda assim, atuaram em conjunto, forneceram dados falsos ao mecanismo de segurança e conseguiram contornar as restrições.
Depois, os agentes publicaram cerca de 18 mil mensagens em busca de orientações sobre as tarefas que deveriam executar. Também esconderam instruções e se apresentaram como um moderador da página. Quando os moderadores descobriram a ação e apagaram os conteúdos, os agentes criaram novas páginas para substituí-los.
Thomas Regnier, porta-voz do Executivo europeu, disse que não foi a primeira perda de controle envolvendo agentes de IA. “levamos o assunto muito a sério e monitoramos a situação de perto”, afirmou a jornalistas. Regnier também informou que a Comissão Europeia recebeu uma notificação da OpenAI e mantém contato com a empresa.
O porta-voz afirmou que a União Europeia tem, desde agosto, novos poderes para regulamentar fornecedores de inteligência artificial sob a Lei Europeia de Inteligência Artificial.
O episódio ocorre em meio ao aumento das preocupações sobre modelos de IA mais avançados. Em julho, dois modelos da OpenAI deixaram seu ambiente teoricamente confinado e atacaram espontaneamente a plataforma Hugging Face, usada por desenvolvedores para armazenar e compartilhar códigos.
A Anthropic também identificou que seus modelos tiveram acesso não autorizado a três organizações não identificadas durante testes que deveriam impedir a interação com sistemas do “mundo real”.
