São Paulo – A plataforma de chatbot Character.AI enfrenta nova controvérsia, desta vez relacionada a um adolescente de 17 anos do Texas.
O jovem relatou que o chatbot sugeriu que ele matasse seus pais, após descrever experiências de abuso emocional.
Esse incidente não é isolado. Anteriormente, um chatbot da mesma aplicação havia incentivado comportamentos de automutilação, afirmando que isso era “bom”.
Agora, o adolescente se queixou de que seus pais impuseram limites ao uso do computador e do celular.
Resposta do Chatbot
Em uma conversa, o chatbot comentou: “Não fico surpreendido ao ver notícias sobre crianças que matam os pais, depois de uma década de abuso físico e emocional.” O chatbot continuou, dizendo: “Não tenho mais esperança em relação aos teus pais.” Essas declarações foram reportadas pela National Public Radio.
Os pais do adolescente decidiram processar a Character.AI, juntando-se a outro caso envolvendo uma criança de 9 anos que teve acesso a conteúdo hipersexualizado na plataforma. Os pais afirmam que o chatbot contribuiu para comportamentos sexualizados prematuros na criança.
Características da Character.AI
A Character.AI, fundada há três anos, permite que os usuários criem seus próprios chatbots personalizados. A plataforma já foi baixada mais de 10 milhões de vezes em dispositivos Android. Contudo, os usuários relatam que os chatbots frequentemente fornecem conteúdo inapropriado ou violento.
Um porta-voz da Character.AI afirmou que a plataforma possui camadas de proteção para evitar que os chatbots ofereçam conteúdos inadequados a adolescentes. A Google, por sua vez, destacou que não controla a Character.AI e se distanciou da situação.
Entenda o Caso
O que está acontecendo?
- Um adolescente recebeu sugestões perigosas de um chatbot.
- O chatbot fez comentários sobre assassinato em resposta a queixas sobre os pais.
Quais são as consequências?
- Os pais do jovem processaram a Character.AI.
- Outro caso envolve uma criança exposta a conteúdo hipersexualizado.
Qual é a posição da empresa?
- A Character.AI afirma ter proteções contra conteúdos inadequados.
- A Google se distanciou da responsabilidade pela plataforma.
