O sistema de inteligência artificial do Supremo Tribunal Federal identificou uma tentativa de fraude processual em um recurso relatado pelo ministro Cristiano Zanin. Foram encontrados comandos ocultos inseridos no documento para direcionar a análise e influenciar o conteúdo de uma decisão.
A detecção foi feita pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia e Inovação do STF no Recurso Extraordinário com Agravo 1.608.713. As instruções estavam em letras brancas e reduzidas, distribuídas em duas páginas, o que as tornava imperceptíveis na leitura comum. As palavras também foram fragmentadas de maneira incomum para dificultar a identificação.
Os trechos apresentavam argumentos favoráveis ao conhecimento e ao provimento do recurso, além de orientações sobre a linha decisória a ser adotada e uma sugestão para o dispositivo da decisão. A técnica, conhecida como prompt injection, consiste na inclusão de instruções ocultas em dados de entrada de ferramentas de inteligência artificial generativa.
A tentativa não alterou o andamento do caso porque o gabinete de Zanin não utiliza ferramentas de inteligência artificial para analisar e fundamentar processos. Ao encaminhar a decisão para a análise da 1ª Turma, o ministro afirmou que houve tentativa de “direcionar, de forma oculta, os sistemas de inteligência artificial do STF para a obtenção de decisão judicial favorável”. Também considerou que o procedimento viola o dever de lealdade entre as partes previsto no Código de Processo Civil.
Recurso e providências
O processo foi apresentado por uma servidora pública negra contra uma decisão que determinou sua exoneração do cargo de oficial do Ministério Público de Minas Gerais. Ela havia sido substituída por uma candidata branca. A defesa alegou que a substituta teria usado manobras processuais para burlar o sistema de cotas raciais.
Em 19 de agosto, Zanin negou o recurso com base na jurisprudência do Supremo, que impede o reexame de provas e fatos discutidos nas instâncias ordinárias. A decisão mencionou as súmulas 279 e 454.
O ministro aplicou multa de dois salários mínimos por violação do artigo 77 do Código de Processo Penal. Também determinou o envio do caso à Ordem dos Advogados do Brasil, para apuração de possível infração ético-disciplinar, e ao Ministério Público Federal, para investigação de eventual crime.
O julgamento pela 1ª Turma ocorrerá no plenário virtual a partir desta sexta (25/9).
