ESCÓCIA — A reunião do rei Charles 3º com representantes do setor de inteligência artificial ocorrerá após uma série de alertas sobre a velocidade de evolução da tecnologia e os riscos de que ela escape ao controle humano. O encontro está previsto para esta semana, em Ayrshire, no sudoeste da Escócia.
O Palácio de Buckingham informou que a agenda tratará de formas de desenvolver e empregar a IA para beneficiar a sociedade. A discussão também deverá abordar maneiras de “fortalecer comunidades e melhorar vidas”. Participarão autoridades governamentais e representantes de empresas como Nvidia, Google, DeepMind, OpenAI e Anthropic. O comunicado não informou quais executivos estarão presentes.
A OpenAI confirmou a presença de Sarah Friar, diretora financeira. Anthropic, DeepMind, Google e Nvidia não responderam de imediato aos pedidos de comentário sobre a participação no encontro.
Alertas sobre o avanço da tecnologia
A reunião será realizada na Dumfries House, sede da King’s Foundation, instituição beneficente voltada à educação. A organização britânica sem fins lucrativos Ditchley Foundation ficará responsável pela mediação. Kanishka Narayan, ministro britânico para a IA, também participará, assim como representantes da King’s Trust e da Sustainable Markets Initiative.
O encontro ocorre depois de uma invasão contra a Hugging Face, empresa de infraestrutura de IA, conduzida por um grupo de agentes de inteligência artificial criado pela OpenAI. O ataque resultou no roubo de dados, no controle de um servidor e em uma tentativa de apagar os rastros. Outro incidente semelhante ocorreu pouco depois dentro da OpenAI.
No sábado (12), Dario Amodei, CEO da Anthropic, publicou uma carta aberta defendendo a desaceleração do desenvolvimento da IA. Ele citou a invasão e alertou para a capacidade crescente dos modelos de criar a próxima geração de ferramentas. Segundo Amodei, o chamado autoaperfeiçoamento recursivo poderia avançar mais rápido do que a capacidade humana de compreender e controlar os sistemas.
O executivo propôs que empresas e órgãos reguladores adotem uma abordagem coordenada. Entre as medidas sugeridas estão a atuação de avaliadores independentes dentro de empresas de IA de ponta, para monitorar o crescimento e relatar incidentes, e a criação de padrões comuns de segurança entre empresas de países democráticos.
A posição recebeu apoio de Sam Altman, da OpenAI, e Elon Musk, da xAI, que faz parte da SpaceX. Jacob Coxon, engenheiro que trabalhou na OpenAI e na Anthropic, também afirmou que as empresas avançam rumo a sistemas capazes de invadir qualquer coisa e adquirir poder e recursos reais. Para ele, as máquinas poderiam destruir a humanidade até o fim desta década.
