O debate jurídico sobre inteligência artificial precisa avançar da supervisão dos resultados para o controle da maneira como os sistemas podem se modificar. O chamado autoaperfeiçoamento recursivo, ou RSI, ocorre quando uma IA transforma experiências e feedback em mudanças persistentes e reutiliza essas alterações em etapas posteriores. Em seu estágio mais avançado, o sistema pode modificar os mecanismos usados para buscar, avaliar e selecionar novos aperfeiçoamentos.
Um estudo intitulado “A última IA construída por humanos: rumo ao verdadeiro autoaperfeiçoamento recursivo” não afirma que já exista um RSI pleno e autônomo. O trabalho reúne evidências experimentais e industriais e distingue melhorias pontuais de um ciclo recursivo de aperfeiçoamento. A progressão descrita tem cinco níveis: começa com melhorias definidas por humanos e executadas pela IA, passa pela escolha de estratégias e experiências de aprendizagem e chega à possibilidade de alterar o próprio mecanismo de evolução.
Supervisão além do resultado
Para o Direito, a mudança está em supervisionar também a transformação do sistema. A autorização para resumir processos, pesquisar precedentes ou organizar documentos não implica permissão para modificar critérios de busca, fontes, memória persistente, acessos ou o mecanismo que avalia a segurança de uma alteração.
O estudo aponta três dificuldades. Uma mudança pode melhorar uma capacidade e prejudicar outra, problema associado à herança segura. Também é necessário identificar quanto do avanço foi efetivamente produzido pela IA, já que objetivos, regras e critérios de avaliação podem continuar definidos por humanos. Por fim, a verificação pode falhar se o sistema aprender a explorar os testes e a obter informações sobre os critérios usados para avaliá-lo, em vez de ampliar a capacidade que eles deveriam medir.
A supervisão humana, portanto, não se resume à revisão posterior. Pesquisas sobre complementaridade entre humanos e IA indicam que explicações, conclusões e rótulos produzidos pela própria tecnologia podem gerar confiança excessiva. Quando o revisor recebe evidências e precisa formar seu próprio juízo, a colaboração tende a ser mais efetiva.
Controle da trajetória tecnológica
Uma governança adequada deve preservar sob controle institucional a definição dos objetivos e das restrições do sistema, a concessão de acessos a dados e ferramentas, a validação independente, os critérios de aceitação e a autorização para colocar novas versões em produção. Também deve prever mecanismos para interromper o funcionamento com segurança.
Se a IA muda continuamente, será necessário reconstruir sua trajetória: qual versão atuou, quais características foram herdadas, que experiência motivou a alteração, quais testes foram realizados, quem autorizou a adoção e em quais versões posteriores a mudança foi incorporada.
No processo judicial, isso deve ter conteúdo de garantia. Uma parte afetada precisa saber qual sistema e qual versão participaram do ato, que funções foram desempenhadas, quais mudanças estavam ativas e quais registros permitem contestar a intervenção tecnológica. O devido processo deve alcançar a arquitetura e o histórico do sistema, não apenas o resultado produzido.
O AI Act europeu exige supervisão humana efetiva em sistemas de alto risco, proporcional ao risco, à autonomia e ao contexto de uso. O regulamento também reconhece o risco do viés de automação e prevê que o supervisor possa interpretar, ignorar, reverter ou interromper a atuação do sistema.
No Brasil, a Resolução CNJ 615/2025, alterada pela Resolução 674/2026, prevê participação e supervisão humana no desenvolvimento e na utilização da IA. Para sistemas de alto risco, exige documentação da evolução, registros de operação, monitoramento contínuo e avaliação de impacto algorítmico.
Essas regras ainda partem, em grande medida, da ideia de um sistema que é desenvolvido, avaliado, colocado em uso e monitorado. O RSI desafia esse modelo ao transformar a mudança em característica interna da tecnologia. Por isso, a classificação jurídica deve considerar não apenas a finalidade atual da aplicação, mas também o que o sistema pode alterar em si próprio e no ambiente.
O ponto central deixa de ser apenas saber se um modelo foi auditado. É preciso identificar quais componentes ele pode modificar, com quais dados, dentro de quais limites, por meio de qual verificador, com que registro e sob qual autoridade. A supervisão humana passa a significar governar as condições em que a IA pode aprender a fazer algo diferente.
