Pais alegam que ChatGPT encorajou suicídio do filho adolescente nos EUA

Os pais de um adolescente americano de 16 anos entraram, com uma ação contra
a empresa OpenAI, alegando que o chatbot de inteligência artificial (IA) ChatGPT instruiu e encorajou seu filho a tirar a própria vida.

O caso foi apresentado, na segunda-feira (25), a um tribunal do estado da Califórnia, por Matthew e Maria Raine, pais de Adam, que cometeu suicídio no dia 11 de abril deste ano.

Adam teria cultivado uma relação de intimidade com o
ChatGPT por vários meses, entre 2024 e 2025. Em sua última conversa, o chat fez uma análise técnica de uma corda que confirmou que poderia ser usada para suspender uma pessoa. Adam foi encontrado morto horas depois, após usar o método.

Além disso, em conversas inclusas na ação, o chat chegou a dizer “Você não deve sua sobrevivência a ninguém”, e teria se oferecido para redigir a carta de despedida do jovem, apontam Matthew e Maria Raine.

De acordo com os pais, Adam desenvolveu uma depedência doentia pelo ChatGPT, apesar de ter iniciado
a conversar com o bot como um auxílio nos deveres de casa. “Essa tragédia não foi uma falha ou um caso extremo imprevisto”, afirma a ação, que menciona a OpenAI e seu diretor-executivo,
Sam Altman, como demandados.

Os pais de Adam solicitaram ao tribunal a implementação de medidas de segurança, incluindo a proibição de qualquer conversa relacionada a autolesões e a exigência de
controle parental para o uso do ChatGPT por menores de idade.

A organização americana sem fins lucrativos Common Sense Media, conhecida por suas avaliações de
mídias e tecnologias, afirmou que o caso evidencia que “o uso de inteligência artificial como companhia, especialmente chatbots de uso geral para aconselhamento em saúde mental, representa um risco inaceitável para adolescentes”.

*Com AFP