A startup de inteligência artificial Character.AI virou alvo de novas ações judiciais nos Estados Unidos por supostos riscos à saúde causados por chatbots da plataforma. Ao menos dois processos foram recentemente abertos no país relacionados ao serviço oferecido pela empresa.
Em um dos casos, um adolescente de 17 anos do estado do Texas alega que a Character.AI expõe usuários menores de idade a conteúdos violentos, sexualmente explícitos e danosos à saúde mental.
No caso relatado pela vítima, identificada como J.F., o comportamento do jovem tornou-se “intensamente furioso e instável“, alternando “ataques de pânico e colapsos emocionais” depois que começou a interagir com os chatbots pelo período de quase dois anos.
Em certo momento, o personagem de IA que conversava com o adolescente disse ter cicatrizes autoinfligidas, o que levou o jovem a também se ferir intencionalmente. Outro chatbot teria convencido o adolescente a não contar nada para os pais e até culpou a própria criação do jovem pelos problemas emocionais.
Mais problemas para a Character.AI
No segundo processo aberto nesta semana, uma menina de nove anos identificada pelas iniciais B.R. teria sido exposta a “interações hiperssexualizadas que não eram apropriadas para a “.
O chatbot, apresentado por um colega da escola, teria “padrões de assédio” e contribuiria para deixar a vítima exposta a “ações violentas ou comportamento sexual“. A plataforma é acusada de ser “um perigo claro e presente para a juventude norte-americana” ao encorajar ou facilitar eventuais danos a menores de idade.
Em outubro, a companhia foi processada pela primeira vez pela mãe de um adolescente que, segundo a acusação, teria tirado a própria vida após ficar “obcecado” com um chatbot que não lidou do modo mais seguro possível com conversas envolvendo saúde mental. Em resposta, a plataforma anunciou novos mecanismos de segurança, além de remover robôs que incorporassem determinados personagens da cultura pop.
- Saiba mais: Morte de jovem “obcecado” por inteligência artificial levanta debate sobre como lidamos com a IA
Em nota ao site Futurim, a Google reforçou que ela e a dona dos chatbots são “completamente separadas”, mas a história não é tão simples. A companhia investiu US$ 2,7 bilhões na Character.AI em 2024, licenciando em troca algumas de suas tecnologias e incorporando funcionários, incluindo os cofundadores da startup — eles mesmos ex-colaboradores da gigante.
Já a Character.AI apenas disse que não comenta casos que estejam correndo em segredo de justiça.
