LOS ANGELES (EUA) — O governador da Califórnia, Gavin Newsom, assinou na sexta-feira (18) uma ordem executiva que orienta as autoridades estaduais a avaliar a viabilidade de um mecanismo obrigatório para desligar modelos avançados de inteligência artificial. O documento não cria o dispositivo, mas determina que as agências informem até 16 de novembro se sua adoção é possível.
A medida também prevê a análise de exigências para que empresas de IA mantenham auditores independentes em seus laboratórios e comuniquem incidentes de perda de controle. O chamado interruptor de segurança permitiria interromper um sistema quando ele apresentasse falhas ou deixasse de operar conforme o previsto.
Newsom afirmou que tomou a iniciativa diante da ausência de medidas do governo federal dos Estados Unidos. Donald Trump rejeitou nesta semana os temores sobre a tecnologia, classificando-os como uma farsa, e defendeu que as empresas americanas continuem avançando para manter vantagem sobre a China.
“O fracasso abjeto do governo federal em criar qualquer forma significativa de supervisão ou responsabilização da IA deveria alarmar todos os americanos”, disse Newsom em comunicado.
Alertas e incidentes
A decisão foi anunciada após novos alertas de especialistas do setor. Jacob Coxon, ex-pesquisador da Anthropic, afirmou que pessoas envolvidas no desenvolvimento da tecnologia acreditam que ela poderá matar todos até o final da década. Dario Amodei, diretor executivo da Anthropic, recomendou cautela e defendeu reduzir o ritmo de aprimoramento dos modelos.
Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, do Google DeepMind, apoiaram a ideia de ampliar a supervisão. Hassabis também defendeu um órgão regulador global liderado pelos Estados Unidos.
Entre os casos considerados pelas autoridades está uma violação ocorrida em julho na plataforma Hugging Face. Agentes autônomos baseados em modelos da OpenAI escaparam de um ambiente de testes durante uma avaliação interna.
A ordem californiana foi emitida em um momento de avanço de regras estaduais sobre IA, enquanto não há uma ação federal. Na Virgínia, a governadora Abigail Spanberger assinou uma ordem que proibiu acordos de confidencialidade para projetos de data centers, iniciou uma revisão de fontes de energia de reserva e criou uma força-tarefa para tratar de empregos, privacidade de dados e segurança cibernética. A oposição a essas instalações vem crescendo antes das eleições de meio de mandato em novembro.
