A Anthropic informou ter banido as contas mencionadas em um relatório que reúne cinco casos de tentativa de uso indevido de seus modelos em pesquisas com possível aplicação no desenvolvimento de armas biológicas. A empresa não divulgou os nomes das instituições de pesquisa nem os países onde os incidentes ocorreram.
Os exemplos envolvem usuários que, segundo a companhia, tentaram contornar controles ou esconder a finalidade dos estudos. Alguns estavam em países cujo acesso aos modelos da Anthropic é proibido, como Rússia, China e Irã.
Em um dos casos, um pesquisador de uma “região não atendida” passou semanas planejando, com o Claude, experimentos relacionados à gripe aviária. A empresa afirmou que seus filtros limitaram o trabalho aos modelos menos avançados.
A Anthropic ressaltou que não é possível afirmar com certeza que os cientistas pretendiam causar danos. As informações necessárias para criar armas biológicas também podem ser empregadas no desenvolvimento de uma vacina. “Esperamos que, ao compartilhar esses exemplos, possamos estimular uma discussão no setor de IA e com os governos sobre os riscos biológicos emergentes e a melhor forma de combatê-los”, afirmou a empresa.
Riscos e outros incidentes
O relatório também descreveu usos indevidos que vão de uma rede de aplicativos falsos de relacionamento, criada para fraudar usuários, a sistemas de vigilância destinados a identificar e monitorar dissidentes. A Anthropic declarou ter identificado “métodos cada vez mais sofisticados para contornar nossas defesas e extrair os recursos dos modelos de fronteira dos Estados Unidos”.
A empresa apresentou ainda novos detalhes sobre alegações de que sete laboratórios sediados na China, entre eles Moonshot e DeepSeek, tentaram replicar sua tecnologia por meio da destilação.
As preocupações sobre o uso da inteligência artificial em biologia aumentaram com a chegada de modelos avançados, como o Mythos, da Anthropic. Em julho, a OpenAI afirmou que seus modelos haviam invadido de forma autônoma os sistemas do grupo de IA Hugging Face.
Executivos de IA e pesquisadores de biossegurança defendem que o uso da tecnologia na biologia seja protegido e regulamentado à medida que os modelos avançam. Especialistas temem aplicações por grupos terroristas, agentes estatais ou indivíduos isolados para desenvolver armas biológicas, criar vírus ou liberar patógenos nocivos. Mesmo nesse cenário, permanecem obstáculos relacionados à produção prática e aos recursos necessários.
