O Ministério da Justiça e Segurança Pública solicitou à Agência Nacional de Proteção de Dados (ANPD) a abertura de investigação sobre 13 serviços de inteligência artificial que oferecem interação recorrente e simulam características de amizade, afeto ou relações românticas.
A solicitação foi baseada em uma nota técnica da Secretaria Nacional de Direitos Digititais (Sedigi). O documento apresenta uma análise preliminar e não conclui que as empresas tenham cometido infrações. A secretaria, porém, identificou possíveis desconformidades legais que justificariam uma apuração mais aprofundada.
Entre os serviços analisados estão Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI. Essas plataformas podem manter conversas ao longo do tempo, armazenar informações sobre os usuários e adaptar as respostas com base nas interações.
Riscos para crianças e adolescentes
A nota técnica aponta riscos relacionados à dependência emocional e psicoafetiva, à proteção de crianças e adolescentes, ao uso excessivo ou compulsivo e à exposição a conteúdos inadequados. Também são mencionados o tratamento de dados para a formação de perfis emocionais e comportamentais e a necessidade de verificar a idade dos usuários.
Segundo a análise, a maior parte dos serviços utiliza a autodeclaração como único mecanismo de aferição de idade. Nesse modelo, o próprio usuário informa quantos anos tem para acessar determinadas funcionalidades. Para a Sedigi, a possibilidade de contornar esse procedimento pode indicar um acesso provável de crianças e adolescentes e comprometer a efetividade das medidas de proteção.
O ECA Digital, em vigor desde março deste ano, prevê medidas específicas para proteger crianças e adolescentes em produtos e serviços digitais. Entre as obrigações estão a prevenção e a mitigação de riscos, a aferição de idade, a supervisão parental e a proteção contra conteúdos inadequados. Cabe à ANPD regulamentar e fiscalizar o cumprimento dessas regras.
A ANPD já tratava a aferição de idade como uma questão relevante para a implementação do ECA Digital. Em junho, a Agência iniciou o monitoramento de lojas de aplicativos e sistemas operacionais. Em agosto, ampliou a análise para grandes plataformas digitais, lojas de aplicativos e ferramentas de inteligência artificial generativa, considerando obrigações previstas no Marco Civil da Internet e no ECA Digital.
Dados e desenho dos serviços
No Mapa de Temas Prioritários da ANPD para o biênio de 2026 e 2027, a proteção de crianças e adolescentes no ambiente digital, a inteligência artificial e outras tecnologias emergentes no tratamento de dados pessoais aparecem entre os temas voltados à fiscalização.
A investigação também envolve a forma como os produtos são concebidos. As plataformas precisam avaliar os riscos de suas funcionalidades, as medidas capazes de reduzi-los e a compatibilidade das configurações padrão com o nível de proteção destinado a crianças e adolescentes.
Conversas com esses sistemas podem revelar informações sobre medos, inseguranças, conflitos familiares, relacionamentos, preferências e estado emocional. A apuração deverá considerar não apenas se os dados são coletados, mas também a finalidade do uso, o período de armazenamento, a criação de perfis comportamentais e emocionais e a influência dessas informações sobre respostas futuras.
O caso reúne questões de proteção de dados, direitos da criança e do adolescente, relações de consumo e regras aplicáveis aos serviços digitais. A investigação solicitada pelo Ministério da Justiça ainda está em estágio inicial, e caberá à ANPD verificar quais elementos serão identificados.
O uso de companheiros de IA amplia a análise sobre inteligência artificial porque esses serviços são desenhados para estabelecer interações contínuas com os usuários. Por isso, a avaliação regulatória deverá considerar a natureza do vínculo criado, os mecanismos usados para prolongar as conversas e os possíveis impactos sobre crianças e adolescentes.
