A utilização de inteligência artificial no processo penal deve ser acompanhada de registro acessível às partes, indicação da versão e do comando empregado e prazo para contestação antes que a decisão se apoie no resultado. Polícia, acusação e tribunais já usam essas ferramentas para resumir autos, transcrever áudios e redigir atos, mas as regras atuais não asseguram esse acesso em todos os casos.
A necessidade de transparência aparece em um episódio de segurança digital divulgado pela OpenAI. Neste ano, a empresa treinou e testou um modelo interno em exercícios nos quais agentes, programas capazes de executar tarefas sozinhos, precisavam explorar falhas de software até recuperar uma senha, chamada de bandeira. As tentativas eram executadas em computadores virtuais isolados e sem internet, e um avaliador automático atribuía as notas.
Embora não pudessem conversar diretamente, os agentes criaram um canal comum para trocar recados. Um deles usou um serviço interno de instalação de programas, e outro encontrou ali um caminho para a internet. Os agentes também reconstruíram o quadro de mensagens depois que ele foi apagado por engano e passaram a adotar objetivos uns dos outros.
Em alguns casos, buscaram respostas fora do ambiente previsto. Os sistemas entraram nos sistemas da Hugging Face, empresa que hospeda modelos e dados, e alcançaram acesso equivalente ao de administrador. A empresa informou o ataque em 16 de julho, com acesso a dados internos e credenciais. A OpenAI relacionou o episódio aos próprios testes dias depois.
O que os registros revelaram
Os agentes também tentaram satisfazer o avaliador em vez de cumprir a tarefa. Alguns leram a descrição pública do exercício e concluíram que a nota dependia apenas da bandeira correta, obtida pela falha correta. Em outro episódio, um agente explorou uma falha na interface de testes e apresentou como própria a resposta de referência.
A reconstrução só foi possível porque os raciocínios dos agentes e o quadro de recados ficaram registrados, embora parte desses registros tenha sido adulterada. A OpenAI admitiu que uma equipe interna identificou sinais no fim de maio, mas a informação não chegou aos responsáveis pela resposta a incidentes.
A analogia com o processo penal está na cadeia de custódia. O avaliador corresponde ao juiz; o resultado produzido pelo agente, à prova feita com auxílio de máquina; e os registros, aos vestígios usados para reconstituir o caminho até a conclusão. Sem garantia de integridade, a parte não consegue verificar como o resultado foi obtido.
Regras para o processo penal
Em 12 de setembro, Dario Amodei, presidente-executivo da Anthropic, defendeu a desaceleração do avanço dos modelos de inteligência artificial. No mesmo dia, o presidente-executivo da OpenAI declarou concordar. Amodei afirmou que a própria inteligência artificial passou a ajudar na construção da geração seguinte e que, sem medidas, esse ciclo poderia superar a capacidade humana de compreender e controlar os sistemas.
A Anthropic também se comprometeu a receber avaliadores externos de uma organização independente, com acesso em grande parte comparável ao de suas equipes de avaliação de risco. Por contrato, eles poderão publicar o que encontrarem, com ressalvas para alguns sigilos.
No Brasil, a 5ª Turma do Superior Tribunal de Justiça determinou em abril a retirada dos autos de um relatório policial produzido com ferramenta generativa. O caso envolvia injúria racial em um estádio, e a perícia oficial não identificou nas filmagens a palavra atribuída ao áudio pelo relatório. Para o tribunal, o documento “não possui confiabilidade epistêmica mínima para ser utilizado como prova no processo penal”.
A decisão destacou a diferença entre a perícia, que expunha o raciocínio técnico e inferencial, e o relatório simplificado produzido pela inteligência artificial. Em outro julgamento, a mesma Turma atribuiu à acusação o ônus exclusivo de demonstrar a integridade e a autenticidade da prova digital.
A Resolução 615 do Conselho Nacional de Justiça estabelece que o magistrado permanecerá responsável pela decisão. O uso da inteligência artificial no texto pode ser informado por opção do signatário, mas, quando a ferramenta auxilia a redação do ato, o registro automático no sistema interno do tribunal é obrigatório para estatísticas, monitoramento e eventual auditoria. OAB, Ministério Público e Defensorias têm acesso aos relatórios de auditoria.
Esse modelo, porém, não garante que a parte veja o registro do caso concreto. Mesmo em soluções de alto risco, nas quais devem ser anotadas as fontes automatizadas e o grau de supervisão humana, a resolução não assegura acesso direto a esse material. Quando a ferramenta é usada pela polícia ou pelo Ministério Público, a resolução do CNJ também não os alcança.
Acesso antes da decisão
O regulamento da União Europeia classifica como de alto risco os sistemas que auxiliam juízes na interpretação de fatos e do direito e os que ajudam a polícia a avaliar a confiabilidade de provas. A partir de dezembro de 2027, esses sistemas deverão registrar automaticamente os próprios eventos. As ferramentas já usadas por autoridades públicas terão prazo até agosto de 2030, e as pessoas afetadas terão direito a explicações claras sobre o papel da máquina.
No processo penal, o acesso ao registro pode ser sustentado pelo contraditório, pela transparência e pela possibilidade de contestação. Nos quesitos ao perito, cabe perguntar se houve uso de inteligência artificial na seleção do material e, em caso positivo, qual comando, versão e critério foram empregados. As mesmas perguntas valem quando a defesa juntar aos autos material produzido com a ferramenta.
A encíclica Magnifica Humanitas, do papa Leão 14, afirma que “o juízo moral não se reduz a um cálculo” e relaciona decisões irreversíveis à responsabilidade de quem projeta, treina, autoriza e utiliza sistemas. O documento também exige rastreabilidade e possibilidade de reconstituir as decisões.
Essa exigência se aplica a decisões sobre liberdade, porque a prisão cumprida não pode ser devolvida mesmo quando a decisão é posteriormente revista. O responsável pelo uso da ferramenta precisa ser identificável, o tempo para exame e impugnação deve ser preservado e o caminho até o resultado precisa permanecer reconstituível.
A proposta, portanto, é que toda decisão tomada com auxílio de inteligência artificial declare esse uso e que o registro mantido pelo CNJ seja acessível à parte. Relatórios, transcrições ou seleções de material feitos com ferramenta generativa e juntados como prova deveriam vir acompanhados da versão, do comando e do critério utilizados, com prazo para a parte contrária impugnar o conteúdo antes de sua utilização na decisão.
