Conversas entre usuários e chatbots de inteligência artificial vêm sendo usadas como elementos de investigações policiais e processos judiciais nos Estados Unidos. Os diálogos já apareceram em acusações de fraude, ações civis e casos envolvendo ameaças de violência.
As plataformas Claude, da Anthropic, ChatGPT, da OpenAI, Gemini, do Google, e Copilot, da Microsoft, receberam consultas de pessoas que buscavam avaliar possíveis consequências de crimes cometidos ou planejados. Em alguns casos, as empresas encaminharam as conversas a órgãos de segurança, principalmente ao FBI.
Um levantamento registrou 11 comunicações feitas pelas empresas entre janeiro e junho de 2024. O número subiu para 17 entre julho e dezembro de 2024, 41 entre janeiro e junho de 2025 e 84 entre julho e dezembro de 2025.
A OpenAI informou que utiliza um programa para identificar sinais de comportamento perigoso nas conversas. Quando encontra esse tipo de indício, o conteúdo é enviado a revisores humanos. Se eles concluírem que existe risco iminente e crível de violência, a empresa comunica o caso às autoridades.
Casos levados à Justiça
Em um processo federal, Bradley Heppner, executivo de uma instituição financeira, consultou o Claude depois de ser informado de que era investigado por crimes de fraude. Ele pediu sugestões de estratégias de defesa. Quando a conversa foi apresentada em tribunal, alegou que as comunicações deveriam ser protegidas, como ocorre entre clientes e advogados.
O juiz rejeitou o argumento, afirmando que as garantias da relação entre advogado e cliente não se aplicavam ao chatbot. Heppner foi condenado por fraude em transações mobiliárias e fraude eletrônica.
Em Michigan, um vendedor de pneus consultou o ChatGPT sobre a possibilidade de o Yahoo! recuperar, por ordem judicial, mensagens que ele havia apagado. O conteúdo foi descoberto durante uma busca em seu celular, autorizada no processo de discovery. O réu negava ter atraído clientes de seu antigo empregador e também negava ter assinado um acordo anticoncorrencial.
A juíza concluiu que ele havia tentado adulterar provas e determinou o pagamento de honorários adicionais ao advogado da empresa. A ação prosseguiu.
Na Flórida, Darren Zhou relatou ao ChatGPT planos de estuprar e matar a ex-namorada. O FBI avisou a polícia, que identificou a mulher com base nas informações atribuídas ao chatbot. Zhou foi preso, fez um acordo de admissão de culpa e recebeu sentença de oito anos de prisão, com suspensão condicional da pena.
Em Missouri, Ryan Schaefer era suspeito de danificar 17 carros no estacionamento da Missouri State University. Após permitir uma busca no celular, a polícia encontrou uma conversa com o ChatGPT, registrada às 3h47 da madrugada, na qual ele demonstrava preocupação com a possibilidade de ser identificado. Schaefer fez acordo de admissão de culpa por danos a propriedades e foi sentenciado a cinco anos de prisão, com suspensão condicional da pena.
Outro processo envolve um adolescente de 15 anos, identificado nos autos como R.K.C. Ele consultou o ChatGPT sobre uma proposta do pai relacionada a um possível acordo de um milhão de dólares. O pai havia processado Meta, Snapchat, TikTok e YouTube, atribuindo aos aplicativos vício em redes sociais e problemas de saúde mental do filho.
Snapchat, TikTok e YouTube fecharam um acordo para encerrar o processo. A Meta decidiu contestar a ação, mas o pai depois pediu sua extinção, citando preocupações com a capacidade do adolescente de enfrentar um julgamento de várias semanas.
Debate sobre sigilo
O levantamento também mencionou o caso de um agricultor do Espírito Santo que confessou ao ChatGPT planejar a contratação de um pistoleiro para matar seu filho de 8 anos, com o objetivo de não pagar pensão alimentícia à ex-companheira.
O CEO da OpenAI, Sam Altman, defende que as comunicações entre usuários e chatbots recebam proteção semelhante à existente entre advogados e clientes, terapeutas e pacientes, além de padres e fiéis. Para ele, a sociedade se beneficiaria de um alto nível de proteção para esse tipo de conversa.
A professora de Direito Laura Abelson, da Southern Methodist University, afirmou que, em um ambiente sem regulamentação, é altamente improvável que um juiz reconheça essas comunicações como privilegiadas. Andrew Fegurson, professor da George Washington University e autor de um livro sobre vigilância digital, disse que a expansão da IA tende a expor mais aspectos da vida das pessoas ao escrutínio policial.
