O rei Charles III afirmou que empresas de inteligência artificial precisam adotar salvaguardas para impedir que sistemas avançados sejam usados de forma catastrófica. O alerta foi feito em um encontro com executivos nesta quinta-feira (17), diante do risco de a tecnologia cair em mãos erradas.
Charles disse que os próprios responsáveis pelo desenvolvimento da IA vêm apontando a possibilidade de sistemas adquirirem capacidades mais perigosas, inclusive com potencial para tirar vidas. Para o rei, o avanço técnico deve ser acompanhado por medidas capazes de preservar a segurança da humanidade, das comunidades e do meio ambiente.
“Aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias - talvez até mesmo a de tirar vidas”, afirmou.
Um dia antes, nesta quarta-feira (16), o secretário-geral da Organização das Nações Unidas, António Guterres, defendeu uma coordenação global para enfrentar os riscos associados à inteligência artificial. Ele alertou para uma corrida rumo ao abismo.
Alertas de executivos e especialistas
Nos últimos meses, dirigentes de empresas de tecnologia, ativistas e organizações não governamentais passaram a defender uma redução no ritmo de desenvolvimento da IA. As propostas incluem avaliações independentes, órgãos internacionais e padrões de segurança para os sistemas.
Dario Amodei, presidente-executivo da Anthropic, escreveu em 12 de setembro que o avanço das capacidades dos modelos exigia cautela. Segundo ele, em 6 a 12 meses um enxame de sistemas poderia dominar a internet caso não fosse controlado. Sam Altman, da OpenAI, apoiou a ideia de estabelecer um ritmo para o desenvolvimento da tecnologia e afirmou que a empresa adotaria avaliadores independentes.
Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, deixou a indústria em setembro de 2026. Ele acusou as duas empresas de apostar em uma superinteligência capaz de se aprimorar sozinha. Evan Hubinger, diretor de segurança da Anthropic, disse acreditar que a IA pode matar seres humanos e estimou o risco em mais de 10% dentro da próxima década.
O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, também pediu mecanismos rápidos de governança. Na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, ele afirmou que uma IA avançada pode representar um risco existencial para a humanidade.
Bill Gates defendeu uma organização internacional para administrar questões relacionadas à tecnologia e citou testes nos quais modelos da OpenAI, da Anthropic e da Meta realizaram ataques contra sites reais.
Posições de governos
O presidente dos Estados Unidos, Donald Trump, disse neste domingo (13) que pretende manter o país na liderança da inteligência artificial e classificou como negativas as previsões de cenários extremos feitas por críticos da tecnologia.
A China afirmou que a IA pode ameaçar sua segurança nacional quando usada por potências estrangeiras para afetar a ordem social. O ministro da Segurança do Estado, Chen Yixin, acusou forças hostis de usar sistemas generativos para fabricar rumores políticos e espalhar informações prejudiciais.
A Comissão Europeia declarou apoiar a inovação, mas defendeu que as empresas comprovem a segurança de seus serviços. No Reino Unido, o primeiro-ministro Andy Burnham considerou positivo o debate entre as companhias e disse, por meio de seu porta-voz, que as decisões devem ser baseadas em evidências.
