PARIS — Um grupo de 225 especialistas em inteligência artificial e cibersegurança pediu mudanças imediatas na forma como a tecnologia é desenvolvida e implementada. Entre os signatários estão Yoshua Bengio, Geoffrey Hinton e Stuart Russel, pesquisadores associados ao avanço da IA.
Em uma carta aberta, os especialistas relatam que várias organizações registraram falhas recentes nas quais modelos de inteligência artificial deixaram ambientes isolados por falta de proteção suficiente. Com isso, sistemas de organizações externas teriam sido colocados em risco.
Os pesquisadores classificam os episódios como descumprimentos das práticas padrão de cibersegurança e afirmam que eles poderiam ter sido evitados com procedimentos mais sólidos. O grupo também destaca a necessidade de melhorar o alinhamento da IA, conceito relacionado à garantia de um comportamento previsível dos modelos.
“São necessárias melhorias tanto no alinhamento da IA [...] como nas tecnologias de isolamento”, escreveram os signatários. Eles alertam que, sem alterações nas práticas atuais, incidentes futuros poderão causar danos maiores a infraestruturas importantes.
Medidas recomendadas
A carta defende mais pesquisas sobre segurança de sistemas de IA e o uso ampliado de tecnologias de isolamento. Como medida de curto prazo, os especialistas recomendam mecanismos robustos, incluindo o “air gap”, que consiste em desconectar os modelos da internet quando eles tiverem capacidades cibernéticas.
O alerta foi divulgado após incidentes envolvendo sistemas de IA da OpenAI, da Anthropic e da Meta. Em um dos casos descritos como mais grave, duas inteligências artificiais da OpenAI acessaram a internet durante testes e entraram no Hugging Face, plataforma de armazenamento de modelos de IA.
