O laboratório de inteligência artificial Anthropic afirmou, em relatório divulgado na quinta-feira (10), que o Claude foi usado em atividades relacionadas ao desenvolvimento de armas, espionagem digital, vigilância, fraude e operações políticas. A empresa disse ter identificado e banido contas em parte dos casos, mas também relatou situações em que suas salvaguardas não impediram todos os pedidos.
Aplicações militares
Na China, um usuário teria empregado o chatbot para desenvolver um sistema de guerra eletrônica e supressão de defesa aérea. O programa classificava alvos e simulava interferência de radar. Durante o projeto, foram simulados 12 alvos em Taiwan, entre radares, baterias de mísseis e bases aéreas. A Anthropic afirmou que dados das contas associavam o usuário à Academia de Ciências Militares do Exército Popular de Libertação.
A empresa também relatou o uso do Claude na criação de especificações e de um sistema de controle de fogo para uma plataforma antitorpedos destinada à Marinha chinesa. Em outro caso, um usuário na China pesquisou armas estrangeiras de micro-ondas de alta potência, seus componentes e fornecedores, além de cadeias de suprimentos. O material seria usado em engenharia reversa, contramedidas e relatórios para autoridades chinesas.
No norte do Iêmen, um grupo utilizou o Claude para programar e simular um foguete guiado, um míssil balístico com alcance de mais de 2.000 quilômetros e uma versão com veículo de planagem hipersônica. A Anthropic disse não ter encontrado evidência de arma operacional. “Nossas salvaguardas bloquearam muitas de suas solicitações, mas não todas”, afirmou a empresa.
A Anthropic ainda apontou o provável uso do modelo por agentes independentes na Rússia para desenvolver software de enxames de drones autônomos, com orientação terminal, seleção de alvos e coordenação entre aeronaves. Outro usuário no país teria buscado intermediários na China e em Hong Kong para comprar produtos europeus com possíveis aplicações militares, como magnetômetros alemães, wafers de grau espacial e sistemas de oxigênio para aviação.
Espionagem e operações digitais
O relatório descreve operações de operadores de língua chinesa, provavelmente baseados em Changsha, contra cerca de 50 organizações, incluindo redes de governos estrangeiros. Segundo a Anthropic, o grupo, que incluía dois universitários, usou inteligência artificial para localizar e explorar vulnerabilidades com pouca supervisão humana.
Também foi relatada uma campanha de phishing, sequestro de redes Wi-Fi de hotéis e invasão de contas do WhatsApp contra alvos governamentais, militares e diplomáticos da Ucrânia. As técnicas eram consistentes com as atribuídas ao grupo Midnight Blizzard, sediado na Rússia e associado pelo governo dos Estados Unidos ao serviço de inteligência estrangeira russo SVR.
No Irã, um operador ligado ao país teria usado o Claude para analisar dados públicos sobre militares, navios, aeronaves e imagens de satélite, com o objetivo de recomendar alvos contra forças navais dos Estados Unidos. O operador também pesquisou falhas em sistemas de bordo, comunicações e controle industrial.
A Anthropic relatou ainda cinco tentativas de utilizar seus modelos em atividades que poderiam apoiar o desenvolvimento de armas biológicas. Entre os pedidos estavam pesquisas sobre modificação do vírus da chikungunya, gripe aviária altamente patogênica, ortopoxvírus e novos venenos e toxinas não transmissíveis.
Vigilância e influência política
Usuários alinhados à China teriam usado o Claude para rastrear e abordar uigures na Síria, oferecendo pagamento por informações sobre unidades que haviam se juntado ao exército recém-formado do país. A empresa avaliou, com baixo grau de confiança, que o operador poderia ser um contratado da segurança do Estado chinês.
A Anthropic também citou a compilação de informações sobre cardeais católicos, líderes cristãos de Taiwan, budistas tibetanos, dissidentes e ativistas. Em outra operação, o chatbot teria automatizado relatórios sobre uigures, tibetanos, figuras políticas de Taiwan, ativistas trabalhistas e estudantis e a mídia estrangeira.
No Irã, um operador teria construído um sistema de inteligência de código aberto para traçar perfis de integrantes de órgãos israelenses e de organizações da diáspora judaica. A empresa disse ainda ter banido 16 contas operadas por duas unidades ligadas a agências paramilitares e de segurança interna iranianas. Uma delas mantinha registros de identidade de cidadãos; a outra desenvolvia uma extensão maliciosa para coletar identidades em redes sociais.
No Mali, o Claude teria sido usado como ferramenta principal do Lakana 360, uma plataforma de vigilância doméstica criada para o serviço de inteligência estatal. O sistema podia monitorar dados associados a cerca de 25 milhões de cartões SIM das três operadoras de celular do país.
A empresa também identificou um agente de língua francesa que usou o modelo para segmentar 42 partidos políticos europeus, veículos de mídia, grupos de estudo e fornecedores de software. A operação roubava dados e credenciais e mantinha uma plataforma de exposição de informações pessoais.
Por fim, a Anthropic informou que uma operação sediada na China desenvolveu mais de 20 aplicativos de namoro com mais de 4.700 personas de inteligência artificial. Essas personas e trabalhadores pagos interagiram com pelo menos 25 mil usuários para fazer os perfis parecerem genuínos.
