A Anthropic afirma ter interrompido o acesso ao Claude quando não conseguiu determinar se pesquisas biológicas identificadas tinham finalidade legítima ou ilegal. A empresa não informou quais pesquisadores ou instituições estavam envolvidos, nem seus países de vinculação e os agentes biológicos analisados.
De acordo com a companhia, os mesmos processos podem contribuir para avanços na medicina, como a criação de vacinas, ou para o desenvolvimento de patógenos. Diante da dúvida, a decisão foi suspender o serviço como medida de precaução.
Um relatório da Anthropic também registra tentativas de uso da ferramenta para produzir propaganda, operar drones de guerra e desenvolver possíveis armas biológicas. A empresa diz ter bloqueado o produto em todas as tentativas detectadas.
Entre os casos descritos estão suspeitas de monitoramento de opositores exilados por China e Irã. O documento atribui à Rússia o uso do Claude para criar propaganda apresentada como reportagens jornalísticas, com foco nas eleições da Moldávia.
