Character.AI vai banir menores de 18 anos do uso de seus chatbots a partir de novembro
A Character.AI anunciou, nesta quarta-feira (25), que vai proibir o acesso de usuários menores de 18 anos aos seus chatbots a partir do dia 25 de novembro. A medida visa enfrentar preocupações relacionadas à segurança infantil no uso da inteligência artificial da empresa.
Para aplicar a nova regra, a Character.AI informará seus usuários menores durante o próximo mês e estabelecerá limites de tempo no uso da plataforma. Após o início da proibição, menores não poderão mais criar ou manter conversas com os chatbots da empresa, embora possam acessar conversas anteriores e gerar conteúdos visuais por meio da IA, dentro de certas restrições.
Essa decisão ocorre em meio a discussões sobre os riscos que chatbots podem representar para a saúde mental de adolescentes. Em 2024, a Character.AI enfrentou processos envolvidos em casos que apontam para consequências graves, como o suicídio de um adolescente que interagia de forma intensa com um dos chatbots da plataforma.
Related News
Além disso, a empresa se comprometeu a criar um laboratório dedicado à segurança em inteligência artificial. O CEO da Character.AI, Karandeep Anand, afirmou que a medida é “um passo ousado” e destaca a preocupação da empresa em estabelecer referências mais rigorosas de segurança do que as exigidas atualmente por regulamentações.
Casos semelhantes têm levado outras empresas do setor a implementarem controles parentais e aprimorar suas políticas de segurança, como a OpenAI, que em setembro anunciou recursos para tornar seu chatbot mais seguro. Autoridades legislativas nos Estados Unidos também avançam com propostas e leis que visam proteger crianças do uso indiscriminado de chatbots.
A Character.AI conta hoje com cerca de 20 milhões de usuários mensais, dos quais menos de 10% declararam ser menores de 18 anos. A empresa pretende utilizar tecnologias para identificar menores com base nas interações na plataforma e em contas conectadas a redes sociais, solicitando posteriormente a verificação da idade para confirmar o perfil do usuário.
Especialistas em saúde mental destacam a importância da medida, mas alertam para a necessidade de acompanhamento para os jovens que desenvolvem dependência emocional desses sistemas, buscando mitigar impactos negativos da suspensão abrupta do acesso.
Fundada em 2021 por dois ex-engenheiros do Google, a Character.AI tem recebido investimentos robustos e licenciou sua tecnologia para grandes empresas do setor, mostrando-se uma das referências em desenvolvimento de companheiros virtuais baseados em inteligência artificial.
