SAN FRANCISCO — A discussão sobre quem deve definir os limites da inteligência artificial ganhou força após declarações de executivos, políticos e pesquisadores com posições divergentes. Enquanto empresas do setor defenderam controles próprios, representantes políticos e especialistas questionaram a capacidade de autorregulação das companhias.
Empresas defendem controles próprios
Sam Altman, CEO da OpenAI, afirmou na terça-feira (15/9), durante uma conferência anual da Salesforce, que as empresas de inteligência artificial devem conduzir o desenvolvimento da tecnologia com responsabilidade. Ele disse confiar na capacidade da OpenAI e de outras companhias de manter a segurança à frente do avanço das ferramentas.
“Vamos fazer isso direito. Tenho muita confiança na capacidade da nossa empresa e do setor de fazer isso com segurança”, afirmou Altman. Segundo ele, as empresas devem manter o alinhamento da IA aos valores humanos e a segurança à frente das capacidades. Caso não consigam, deverão reduzir o ritmo ou interromper o desenvolvimento.
O executivo também reconheceu que existem razões para temer a tecnologia, diante da rapidez de sua evolução. A manifestação ocorreu depois que textos de pesquisadores da Anthropic ganharam grande repercussão. Evan Hubinger afirmou que, sem controle, a IA poderia matar todos os seres humanos até o fim da década. Jacob Coxon, outro pesquisador citado, deixou a empresa.
Dario Amodei, presidente-executivo da Anthropic, defendeu a redução do ritmo de desenvolvimento e pediu regulamentação pelos governos. A posição recebeu apoio de Altman, Demis Hassabis, cofundador da DeepMind, do Google, e Elon Musk, dono da rede social X e do assistente de IA Grok.
Jensen Huang, presidente-executivo da Nvidia, também disse que as próprias empresas deveriam decidir se novas versões de seus sistemas serão lançadas. Para ele, não são necessárias novas leis ou regulamentações, e a segurança deve ser tratada como um problema de engenharia. Huang afirmou que uma empresa deve fazer uma pausa se perceber que perdeu o controle de seu produto.
Políticos e especialistas pedem limites
Em Washington D.C., Bernie Sanders e Steve Bannon questionaram a possibilidade de o setor estabelecer sozinho suas regras. Sanders afirmou que decisões sobre o desenvolvimento da IA estão nas mãos de poucas pessoas muito ricas, citando Elon Musk, Mark Zuckerberg e Jeff Bezos.
Bannon também contestou a autorregulação das empresas de tecnologia. “Nunca podemos confiar no que diz um oligarca porque... eles são dissimulados e mentem”, declarou na mesma conferência.
Mark Zuckerberg escreveu na rede social X que os laboratórios têm condições e incentivos para adotar medidas próprias de segurança. Ele afirmou que empresas que não priorizarem o alinhamento de seus sistemas ficarão para trás e poderão ser responsabilizadas se seus modelos causarem danos.
Jack Clark, executivo e cofundador da Anthropic, disse à BBC na segunda-feira (14/9) que deixar a inteligência artificial como uma indústria totalmente sem regulamentação seria assumir riscos imensos. Patrick Hillman, diretor de operações da Logical Intelligence, afirmou que há pouca confiança de que empresas de tecnologia atuem em nome do interesse público.
OpenAI e Anthropic informaram que começaram a trabalhar em um possível acordo de segurança para todo o setor. Amodei disse que a Anthropic conversa com outras empresas sobre compromissos com padrões mais rigorosos e mecanismos adicionais de verificação. Chris Lehane, da OpenAI, afirmou que a companhia também trabalha com Anthropic e Google DeepMind em uma iniciativa voluntária para estabelecer padrões para sistemas avançados de IA, com ou sem apoio dos governos.
