Uma análise preliminar do Ministério da Justiça e Segurança Pública identificou possíveis desconformidades em 13 serviços de inteligência artificial que simulam amizade, companheirismo e relacionamentos amorosos. A pasta recomendou nesta segunda-feira (21) que a Agência Nacional de Proteção de Dados avalie os riscos dessas plataformas.
A sugestão foi apresentada em nota técnica da Secretaria Nacional de Direitos Digitais, vinculada ao ministério. O documento propõe que a ANPD examine os serviços considerando o Estatuto Digital da Criança e do Adolescente (ECA Digital) e suas atribuições de fiscalização.
A nota não conclui que as plataformas tenham cometido infrações. Entre os temas indicados para investigação estão os mecanismos de verificação de idade, a possibilidade de uso excessivo ou compulsivo, a exposição a conteúdo inadequado e a utilização de dados para construir perfis emocionais e comportamentais.
Serviços analisados
Foram avaliados Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI. As plataformas têm características distintas, mas podem armazenar o histórico das conversas, adaptar respostas, simular personalidade e emoções e oferecer, em alguns casos, amizade, romance e conteúdo adulto.
A Secretaria Nacional de Direitos Digitais afirmou que a maior parte dos serviços examinados usa a autodeclaração como único mecanismo para verificar a idade. “A facilidade com que a autodeclaração é contornada” foi apresentada pela secretaria como um indicativo de possível acesso de crianças e adolescentes, além de uma deficiência na aferição etária.
A análise integra as ações do governo para implementar o ECA Digital, que estabelece deveres de proteção e segurança no uso de plataformas e outros serviços digitais por crianças e adolescentes.
