A Anthropic informou ter bloqueado pesquisas biológicas de intenção não esclarecida e interrompido operações de vigilância que usavam seus modelos de inteligência artificial. Os casos foram identificados entre janeiro e julho e tiveram origem na China, no Irã e na África Ocidental, segundo relatório da empresa sobre o uso indevido do Claude.
A companhia afirmou que governos e grupos alinhados a autoridades estatais recorrem à IA para monitorar minorias e dissidentes. Entre os alvos citados estão ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores e minorias iranianos que vivem no exterior. As campanhas, conforme o relatório, atingiam comunidades da diáspora e dissidentes perseguidos historicamente por esses regimes.
Métodos de vigilância e uso do Claude
Em um dos episódios, iranianos criaram um método para identificar pessoas a partir de suas contas em redes sociais. Em outro, um contratado que trabalhava para as autoridades de segurança nacional do Mali usou o Claude no desenvolvimento do software que viabilizou a coleta de inteligência.
A Anthropic, sediada em San Francisco, também acusou desenvolvedores chineses de usar o modelo de modo enganoso. Eles geravam respostas para consultas de usuários e, ao mesmo tempo, faziam a chamada destilação desses dados para melhorar seus próprios sistemas. No setor, o termo descreve o uso de um modelo para treinar outro.
Estudos sobre agentes biológicos
A empresa não identificou os envolvidos nas pesquisas relacionadas a armas biológicas. O relatório afirmou: “As pessoas envolvidas nesses estudos de caso são cientistas.” A Anthropic disse não afirmar que eles pretendiam causar danos e explicou que revelar suas identidades ou as dos laboratórios poderia expô-los a riscos.
Os trabalhos bloqueados envolviam o vírus chikungunya, transmitido por mosquitos; uma cepa altamente patogênica de gripe aviária; uma família de vírus que inclui a varíola e o mpox; além de venenos e outras toxinas.
