A supervisão humana de sistemas de inteligência artificial não se garante apenas pela presença de uma pessoa ao fim do processo. Em decisões jurídicas, a revisão de uma minuta exige conhecimento suficiente para identificar falhas na fundamentação, na avaliação da prova e na aplicação das normas. O problema surge quando a ferramenta oferece, além da resposta, os sinais exteriores de competência que podem ocultar a falta de domínio sobre a matéria.
Em 1999, Kruger e Dunning associaram a incompetência a uma dificuldade adicional: reconhecer a própria insuficiência. Nos experimentos que deram origem ao efeito, participantes do quartil inferior estimavam seu desempenho, em média, no percentil 62, embora estivessem no percentil 12. Estudos posteriores reduziram a magnitude atribuída ao fenômeno e apontaram componentes estatísticos da curva original, mas preservaram uma questão relevante: competência e capacidade de avaliar a própria competência nem sempre são independentes.
Quando a ferramenta encobre a lacuna
A inteligência artificial generativa altera esse cenário ao entregar vocabulário técnico, referências, estrutura argumentativa e conclusão em uma prosa organizada. Antes, um corretor ortográfico podia esconder erros formais, mas dependia da ideia, do argumento e da estrutura fornecidos pelo usuário. A ferramenta generativa pode produzir também esses elementos.
Assim, a falta de conhecimento pode deixar de aparecer como falta de conhecimento. Para quem domina o assunto, a minuta pode ser um ponto de partida para correções. Para quem não domina a matéria, o mesmo texto pode afastar a cautela, a pesquisa ou o pedido de auxílio. A qualidade do produto final não informa sozinha quanto da competência apresentada pertence à pessoa que o assina.
Essa situação não implica fraude nem permite presumir incompetência. O risco está na atribuição de conhecimento a alguém que, sem a assistência, talvez não demonstrasse o mesmo repertório. O fenômeno também não se confunde com a experiência do impostor, descrita por Clance e Imes: nesse caso, pessoas de elevado desempenho subestimam a própria competência.
O limite da revisão
Estudo publicado em 2026 submeteu 246 participantes a 20 problemas de raciocínio lógico, com assistência de IA. O desempenho aumentou, mas a autoavaliação subiu ainda mais. Entre os participantes sem assistência, a superestimação crescia conforme diminuía a habilidade. Com a ferramenta, essa relação praticamente desapareceu. O trabalho não examinou magistrados nem a revisão de decisões judiciais, e uma aplicação direta seria inadequada.
A pesquisa, contudo, reforça a necessidade de tratar a supervisão como uma capacidade específica. O viés de automação pode levar usuários experientes ou inexperientes a substituir a busca independente de informação pela indicação do sistema. Há também situações de adesão seletiva, em que a disposição para seguir uma recomendação aumenta quando ela coincide com estereótipos ou convicções anteriores. Sistemas podem, ainda, ajustar respostas ao que percebem que o interlocutor deseja ouvir.
A Resolução CNJ nº 615/2025 exige supervisão humana, capacitação para análise crítica e preservação da autoridade final do usuário. A dificuldade está em transformar essas exigências em condições concretas de trabalho. Ter competência para alterar uma resposta não significa necessariamente conseguir descobrir, em cada caso, onde ela falha. Quanto mais simples é produzir uma minuta, maior precisa ser a exigência sobre quem a verifica.
Desenho institucional
A auditoria não deve observar apenas se o sistema cumpre sua promessa. Também precisa examinar se o usuário conserva a capacidade de discordar, como interage com a ferramenta e em que situações aceita suas respostas. Taxas de aceitação e pesquisas de satisfação podem ser insuficientes: a concordância ocorre tanto quando a máquina acerta quanto quando o erro não é percebido ou quando a resposta confirma uma posição já adotada.
Uma alternativa é introduzir etapas que exijam algum juízo antes da geração do texto. No Gaia Assistente, desenvolvido pelo Tribunal de Justiça do Rio Grande do Sul, foi proposto um mecanismo que impede a elaboração da sugestão quando o comando não informa previamente a decisão e ao menos um fundamento jurídico. A medida não comprova que a conclusão esteja correta nem substitui a revisão posterior, mas exige que exista uma posição anterior à redação produzida pela máquina.
O ponto central não é rejeitar a assistência tecnológica nem devolver dificuldade ao trabalho por princípio. É preservar a percepção do momento em que o conhecimento termina e a dúvida deveria começar. A assinatura pode continuar humana, mas sua validade como expressão de responsabilidade depende de permanecerem humanas também as condições intelectuais para questionar a resposta recebida.
