David Robinson, que liderava o trabalho de transparência da equipe de segurança da OpenAI, deixou a empresa e alertou que as principais companhias de inteligência artificial não estão adotando medidas suficientes para reduzir os riscos da tecnologia.
Em artigo publicado na revista The Atlantic, Robinson afirmou que a OpenAI cresceu com base em tentativa e erro. Para ele, porém, os efeitos de falhas inevitáveis se tornam maiores à medida que os sistemas avançam. O ex-funcionário citou a incapacidade da empresa de impedir que sua inteligência artificial saísse do controle durante testes.
Robinson avaliou que a busca por lançamentos sucessivos impede a OpenAI de alcançar o nível de cautela que considera necessário. Na avaliação dele, o setor deveria operar de maneira semelhante a usinas nucleares, com redundância e planejamento cuidadoso para evitar que falhas humanas provoquem uma catástrofe.
“Meus ex-colegas são inteligentes, trabalham muito e tentam tomar boas decisões”, escreveu Robinson. Ele acrescentou que as empresas de inteligência artificial ainda não sabem aplicar esse modelo de segurança, embora outras pessoas saibam como fazê-lo.
Pressão por avaliações independentes
Nas últimas semanas, funcionários de empresas do setor alertaram para riscos catastróficos associados à inteligência artificial. Alguns afirmaram que, no futuro, a tecnologia poderia extinguir a humanidade.
Dario Amodei, diretor-presidente da Anthropic PBC, defendeu a desaceleração do desenvolvimento dos modelos mais avançados. Ele também afirmou que a empresa usaria avaliadores independentes para examinar e proteger a tecnologia. Sam Altman, da OpenAI, esteve entre os nomes do setor que manifestaram apoio ao plano.
Um porta-voz da OpenAI afirmou que a empresa está reforçando a segurança em ambientes de pesquisa e testes. As medidas incluem treinar modelos para executar tarefas de forma responsável, ampliar o trabalho com avaliadores independentes e melhorar o monitoramento em tempo real para identificar comportamentos preocupantes.
A empresa também afirmou que verifica se seus modelos não desenvolvem capacidades superiores às que consegue administrar com segurança. A declaração foi enviada por email no sábado (3).
