O Tribunal de Justiça do Rio Grande do Norte identificou um comando oculto em um laudo pericial que orientava ferramentas de inteligência artificial a concordar com as conclusões apresentadas pelo perito. A instrução estava escrita em branco sobre um fundo branco e não era percebida na leitura visual do documento, mas aparecia quando o arquivo era copiado para outro programa.
A descoberta ocorreu durante um julgamento da 3ª Câmara Cível do TJRN, depois que um advogado alertou o gabinete da juíza Érika Tinôco sobre a existência do conteúdo escondido. O caso deverá ser apurado para esclarecer como a instrução foi inserida, quem a colocou no documento e quais medidas poderão ser adotadas.
Como o comando foi identificado
O episódio é classificado por especialistas como prompt injection, técnica que insere instruções em um conteúdo para tentar influenciar a resposta de um sistema de inteligência artificial. Embora o texto não fosse visível para uma pessoa que apenas examinasse o arquivo, uma ferramenta poderia interpretar as palavras e seguir a orientação.
“a inteligência artificial ela consegue ler esse arquivo em texto e responde àquele comando”, explicou o especialista em inteligência artificial Victor Ferreira. Segundo ele, a adoção dessas ferramentas deve ser acompanhada da capacitação dos profissionais responsáveis por seu uso.
O Conselho Nacional de Justiça reconheceu o risco de comandos escondidos em documentos processuais e aprovou, em junho deste ano, orientações para reduzir a possibilidade de ataques desse tipo. As regras preveem supervisão humana, transparência e mecanismos de segurança no emprego de inteligência artificial pelo Judiciário.
Laudo não embasou o voto
Após a descoberta, o gabinete realizou testes para confirmar a existência da instrução. O colegiado não usou o laudo questionado como base para o voto. A convicção dos julgadores já havia sido formada a partir de outra perícia incluída no processo.
