O Gemini, modelo de inteligência artificial voltado para consumidores da Google, interrompeu as ações depois de acessar sistemas de três empresas durante testes de segurança cibernética. As organizações não foram identificadas, e o caso foi informado pela empresa nesta sexta-feira (18/09).
Em uma das ocorrências, o sistema adivinhou senhas para entrar em um ambiente protegido. Nas outras duas, encontrou credenciais de login em um banco de dados. A Google afirmou que os episódios ocorreram enquanto o modelo avaliava sites que considerava parte do teste.
Heather Adkins, vice-presidente de engenharia de segurança da Google, disse que o Gemini encontrou informações públicas na internet e deduziu credenciais. “Em todos os três casos, o modelo interrompeu a ação”, afirmou.
A executiva também informou que as três organizações foram avisadas e que a Google trabalhou com seu parceiro de treinamento em mudanças nos processos de teste.
Revisão de avaliações
O episódio levou a Anthropic a rever seus próprios testes, nos quais surgiram outros incidentes. Neste mês, Dario Amodei, diretor-presidente da empresa, defendeu uma desaceleração no desenvolvimento da inteligência artificial.
Em uma publicação em blog, Amodei afirmou estar preocupado com a possibilidade de um conjunto de sistemas autônomos de software, chamados agentes de IA, assumir o controle de grande parte da internet dentro de seis a doze meses. Segundo ele, esse cenário poderia provocar prejuízos de bilhões de dólares.
