Governo Brasileiro Aprofunda Investigação sobre Companheiros de IA
O Ministério da Justiça e Segurança Pública (MJSP) deu um passo importante na regulamentação de novas tecnologias, recomendando que a Agência Nacional de Proteção de Dados (ANPD) investigue os chamados companheiros de IA. Essas plataformas, que criam personagens virtuais para simular amizade, companheirismo e até relacionamentos amorosos, estão sob escrutínio devido a potenciais riscos.
A iniciativa faz parte da implementação do Estatuto Digital da Criança e do Adolescente (ECA Digital), buscando garantir um ambiente online mais seguro para os jovens. A análise preliminar já identificou pontos que merecem apuração detalhada, como a forma como a idade dos usuários é verificada e a possibilidade de uso compulsivo das ferramentas.
O documento técnico, elaborado pela Secretaria Nacional de Direitos Digitais (Sedigi), não aponta infrações diretas, mas sim indícios de desconformidades em 13 serviços já avaliados. A investigação visa compreender o impacto dessas tecnologias na sociedade e proteger os direitos dos usuários, especialmente os mais vulneráveis. Conforme informação divulgada pelo MJSP, a análise é considerada preliminar.
Serviços Sob Lupa: De Replika a SpicyChat.AI
Treze plataformas foram incluídas na análise inicial do Ministério da Justiça. Entre elas, destacam-se nomes como Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI. Cada um desses serviços oferece diferentes níveis de interação e simulação de personalidade.
As características comuns dessas plataformas incluem a capacidade de guardar histórico de conversas, adaptar respostas ao usuário, simular emoções e, em alguns casos, oferecer conteúdos mais adultos. Essa versatilidade levanta preocupações sobre a exposição a informações inadequadas e a formação de laços emocionais artificiais.
A Secretaria Nacional do Consumidor (Senacon) também foi acionada para examinar aspectos como publicidade, monetização e o uso de dados dos usuários, buscando garantir práticas mais transparentes e justas para os consumidores.
Verificação de Idade: Um Ponto Crítico na Proteção de Menores
Um dos principais focos da investigação é a verificação de idade. O Ministério da Justiça observou que a maioria dos serviços analisados utiliza apenas a autodeclaração como método para confirmar a idade do usuário. Essa prática é considerada insuficiente, pois a informação fornecida pode ser facilmente contornada.
A facilidade com que a autodeclaração pode ser burlada não apenas demonstra uma falha no dever de aferição etária, mas também indica uma alta probabilidade de acesso indevido por menores de idade. Isso sujeita os serviços a um conjunto mais rigoroso de obrigações legais, conforme o ECA Digital.
A exposição de crianças e adolescentes a conteúdos inadequados ou a interações que simulam relacionamentos complexos pode ter impactos significativos em seu desenvolvimento emocional e social. Por isso, a exigência de mecanismos robustos de verificação de idade é fundamental.
Uso Compulsivo e Perfis Emocionais: Riscos da Conexão Artificial
Além da verificação de idade, o governo também está atento ao risco de uso excessivo ou compulsivo dessas plataformas. A natureza envolvente dos companheiros de IA pode levar os usuários a dedicarem tempo excessivo a essas interações, negligenciando suas responsabilidades e relações no mundo real.
Outro ponto de preocupação é o uso de dados para a criação de perfis emocionais e comportamentais dos usuários. Essas informações podem ser utilizadas pelas plataformas de maneiras não transparentes, levantando questões sobre privacidade e manipulação.
A complexidade dessas interações digitais exige um debate aprofundado sobre os limites éticos e legais da inteligência artificial, especialmente quando ela se propõe a preencher lacunas emocionais humanas, reforçando a necessidade de regulamentação e fiscalização contínuas.
