A expansão da inteligência artificial (IA) passou a ser acompanhada por alertas sobre seus riscos e por uma disputa política sobre os limites que devem ser impostos à tecnologia. O debate envolve o Vaticano, governos, organismos internacionais, empresas do setor e usuários de diferentes países.
A principal divisão ocorre entre os que defendem a desaceleração do desenvolvimento para reduzir o risco de perda de controle e os que avaliam que uma restrição favoreceria a China. A preocupação também aparece entre pessoas comuns: em Roma, a arquiteta Frida Awrohum usa IA no trabalho, mas afirma que ainda sente medo. Na Indonésia, uma estudante questiona se alguém conseguiria responder tão bem quanto um chatbot. Em Xangai, um empresário teme que as próximas gerações encontrem “verdadeiras dificuldades” para conseguir emprego.
No Chile, uma jovem de 19 anos avalia que a tecnologia “está nos tornando mais burros”. O italiano Diego Sermattei, de 18 anos, tem percepção diferente e comemora a rapidez com que a ferramenta realiza pesquisas. A japonesa Konno Hazuki, de 29 anos, não se sente ameaçada porque considera que a falta de emoções limita algumas capacidades oferecidas por uma pessoa aos clientes.
Alertas no Vaticano e no setor de tecnologia
O papa Leão 14 advertiu, na quarta-feira (16/09), contra a transferência para algoritmos de decisões que pertencem à consciência humana. Ele também defendeu que as relações sociais mantenham substância e profundidade pessoal. Em maio, havia publicado uma encíclica em que propôs o “desarmamento” da IA para impedir que a tecnologia dominasse a humanidade.
No setor privado, Dario Amodei, diretor-executivo da Anthropic, defendeu um ritmo mais lento para a indústria e propôs auditorias independentes obrigatórias para os modelos mais avançados. A proposta recebeu apoio de Sam Altman, da OpenAI, e de Elon Musk, da xAI.
Altman apontou dois riscos: a perda do controle sobre o futuro e a concentração excessiva de poder em uma empresa, um laboratório ou um país. Para ele, uma IA muito poderosa usada para impor uma visão de mundo poderia produzir resultados extremamente distópicos. O executivo defendeu um marco legal federal com avaliações preventivas dos modelos durante o desenvolvimento.
Mark Zuckerberg concordou com a possibilidade de avaliadores independentes, mas rejeitou a ideia de interromper ou frear o desenvolvimento. O chefe da Meta afirmou que cada laboratório deve adotar, por iniciativa própria, medidas para tornar seus modelos mais seguros.
A preocupação também aumentou após a renúncia de Jacob Coxon, pesquisador que trabalhou na Anthropic e na OpenAI. Ele disse que as duas empresas avançavam em direção a sistemas superinteligentes que poderiam extinguir a humanidade antes do fim da década.
Disputa entre Washington e Pequim
Em Washington, Bernie Sanders e Steve Bannon participaram do mesmo encontro promovido pelo Future of Life Institute e expressaram reservas sobre os rumos do setor, embora tenham posições políticas diferentes. Sanders anunciou que pretende apresentar uma lei para proibir permanentemente o desenvolvimento de uma superinteligência artificial, comparada por ele às armas nucleares.
Bannon defendeu o rompimento dos vínculos dos Estados Unidos com o setor chinês de IA. Seu plano inclui restringir o acesso da China a componentes avançados, afastar cidadãos chineses dos laboratórios americanos e impedir que entidades chinesas acessem os mercados de capitais dos Estados Unidos.
Sanders propôs negociações com Pequim para conter os sistemas mais avançados. Bannon, por outro lado, defendeu o isolamento do setor chinês em relação ao ecossistema tecnológico americano.
Em Pequim, um jornal oficial rejeitou a ideia de que a corrida pela IA seja um jogo de soma zero. O periódico afirmou que a tecnologia não é monopólio das grandes potências e defendeu a cooperação entre Washington e Pequim para administrar os riscos do desenvolvimento. Também acusou os Estados Unidos de adotar um duplo padrão ao questionar a destilação de modelos chineses, enquanto empresas americanas também recorreriam à prática.
Donald Trump e o presidente chinês, Xi Jinping, têm reunião prevista para a próxima semana em Washington, quando a IA deverá estar entre os temas das conversas bilaterais.
Trump rejeita restrições mais amplas
Trump classificou como uma farsa a possibilidade de a IA destruir a humanidade e afirmou que impor limites ao desenvolvimento beneficiaria a China. Em uma conversa com Jensen Huang, diretor-executivo da Nvidia, durante a cúpula All-In, em Los Angeles, descreveu os centros de dados como o petróleo dos próximos 20 ou 25 anos.
O vice-presidente JD Vance também demonstrou ceticismo diante das propostas de regulação. Ele disse considerar estranho que as próprias empresas de IA peçam ao governo que estabeleça regras para o setor.
A Anthropic entrou em conflito com o governo após rejeitar determinados usos militares do Claude, incluindo vigilância dentro dos Estados Unidos e emprego de armas autônomas. A decisão resultou na perda de acesso a alguns contratos do Pentágono. A empresa recorreu à Justiça e obteve decisão favorável em um dos processos.
Europa e ONU defendem supervisão
Na Europa, Ursula von der Leyen, presidente da Comissão Europeia, propôs na quarta-feira novas barreiras de acesso às redes sociais baseadas na idade. O plano impediria o acesso de menores de 13 anos e criaria contas especiais, sob supervisão, para adolescentes de 13 a 15 anos.
Von der Leyen afirmou que menores podem ser arrastados para conteúdos cada vez mais extremos. A proposta pode gerar novo atrito com Trump, que critica a regulamentação tecnológica europeia.
A presidente também anunciou que a Comissão Europeia discutirá com grandes empresas medidas para avaliar e reduzir os riscos dos sistemas de IA mais avançados. O trabalho será coordenado com parceiros como Canadá e Reino Unido.
Simeon de Brouwer, assessor de políticas da organização EDRi, criticou as restrições etárias. Para ele, elas apenas adiam a exposição dos jovens a determinados riscos sem modificar o modelo de negócios que manteria os usuários dependentes das plataformas.
De Genebra, Volker Türk, alto comissário das Nações Unidas para os Direitos Humanos, alertou que falhas em sistemas cada vez mais autônomos podem afetar infraestruturas e serviços essenciais. Ele também disse que o avanço da IA pode enfraquecer mecanismos criados para evitar cenários relacionados a armas de destruição em massa.
Para Türk, nenhum país ou empresa deve decidir sozinho quais riscos o restante do mundo terá de assumir.
