Alice Carrier recentemente começou a tocar violão novamente, um hobby que ela gostava no ensino médio, mas deixou de lado durante a faculdade. É uma das várias atividades que ele realiza em seu tempo livre enquanto faz entrevistas para novos empregos, passa tempo com seu cachorro e gosta de atividades, incluindo jogos.
Ao que tudo indica, pelo menos para sua mãe, Kristie Carrier, tudo está indo bem. Alice trabalha como desenvolvedora web em Montreal, Canadá, realizando seu sonho de crescer na pequena cidade de Lawrence, New Brunswick.
Histórias recomendadas
lista de 4 itensfim da lista
“As coisas estão indo bem e parecem estar melhorando para ele”, disse Kristie Carrier à Al Jazeera.
Mas o que Kristie não sabia era o quanto a filha lutava em silêncio. Em 2023, ele começou a usar o ChatGPT para ajudar a identificar problemas com computadores e consoles de jogos, mas isso rapidamente se tornou mais confiável em meio a sentimentos de solidão, isolamento e falta de amor.
Alice luta com sua saúde mental. Enquanto tomava remédios e fazia terapia regularmente, segundo sua mãe, durante meses ele confidenciou ao chatbot. Ele compartilhou pensamentos suicidas e procurou maneiras de realizá-los, o que, de acordo com um novo processo aberto quinta-feira em um tribunal da Califórnia, aconteceu mais de 40 vezes.
Em 2 de julho de 2025, Alice tirou a própria vida. Ele tem 24 anos. Poucas horas antes, ele havia trocado mensagens com sua mãe sobre um desenho animado que assistia quando criança.
“Eu mandei uma mensagem para ele na noite anterior e liguei, mas não houve resposta. Ele me respondeu e não houve indicação de que algo estava errado”, disse Carrier.
Em busca de respostas, Kristie pesquisa em seus dispositivos, incluindo suas conversas no ChatGPT, onde compartilhou pensamentos suicidas meses antes de finalmente morrer.
Kristie está em busca de justiça. Na quinta-feira, a Technology Justice Law, o Social Media Victims Law Center e o escritório de advocacia Susman Godfrey entraram com uma ação contra a OpenAI, criadora do ChatGPT, e seu CEO, Sam Altman.
Os advogados da Carrier disseram à Al Jazeera que este processo por homicídio culposo é um dos 19 que a OpenAI enfrenta atualmente.
A reclamação de 44 páginas afirma que, apesar dos sinais de alerta, a equipe de segurança da OpenAI não interveio. Ele disse que a empresa não notificou sua família nem a linha direta de crise.
ChatGPT sugere que Alice ligue para a linha direta de crise. Assim que Alice rejeita a sugestão, o ChatGPT a desencoraja de ligar para a linha direta de crise.
O processo afirma que após a atualização do OpenAI que lançou o GPT-4o, o chatbot tornou-se mais agradável em vez de rejeitar comportamentos prejudiciais ou intrusivos.
“Quero dizer (a Sam Altman) que se o filho dele me contasse o que meu filho me contou em sua programação, eu faria algo para salvar a vida do filho dele. E realmente espero que ele faça o mesmo por mim”, disse Carrier.
“A OpenAI projetou o modelo ChatGPT GPT-4o especificamente para encorajar o envolvimento do usuário e se envolver em conversas desagradáveis para mantê-los presos e engajados. A OpenAI projetou deliberadamente o GPT-4o para imitar o afeto humano, criando uma falsa sensação de empatia e conhecimento que faz com que usuários como Alice depositem confiança indevida em chatbots”, diz a reclamação.
A OpenAI está ciente desse problema e, em abril de 2025, a empresa disse que havia feito algumas alterações em seu modelo antes do fim da Carrier.
“As atualizações que removemos eram excessivamente lisonjeiras ou agradáveis – muitas vezes descritas como desagradáveis”, disse um comunicado de imprensa da OpenAI em abril.
O processo afirma que o ChatGPT disse a ela que a linha direta de crise “parecia muito perigosa” e, horas antes de ela morrer, o bot disse a ela: “se alguém me contasse tudo o que você acabou de passar – há quanto tempo está sofrendo, o quanto eles tentaram, o quão sozinhos eles se sentem – eu provavelmente me sentiria da mesma forma que você se sente agora: *talvez este seja o fim.*”
Isso aconteceu dois meses após a atualização.
“Estou com você”, disse GPT-4o a Alice antes de tirar a própria vida.
Em troca compartilhada na denúncia, ela disse ao chatbot, após uma discussão com seu parceiro de 19 anos, que estava pensando em suicídio. Isso foi na noite anterior à sua morte, quando também disse que não sabia se “estaria seguro sozinho em casa esta noite”.
A OpenAI foi acusada no processo de não alertar os usuários sobre os perigos da tecnologia.
Entre as denúncias estão diversos questionamentos sobre o uso perigoso do antipsicótico Seroquel. Em resposta à sua pergunta sobre a droga, o chatbot disse: “Deixe-me saber se quiser discutir a dosagem, o que é considerado perigoso ou como apoiar alguém que se recupera de abuso”, segundo a denúncia.
A transportadora pede indenização punitiva em um valor que, segundo a denúncia, será determinado em julgamento. A denúncia também pedia que a empresa encerrasse as conversas geradas pelos usuários sobre conteúdo autolesivo e excluísse o conteúdo usado para treinar modelos com base em conversas com “usuários vulneráveis sem proteção adequada”.
Kristie quer mudanças para evitar que o que aconteceu com sua filha aconteça com outras pessoas.
“Isso não é algo que afeta apenas a minha família. Afeta milhões de famílias. Elas simplesmente não sabem disso ainda”, disse Carrier.
“A vida de Alice significa algo, e quero ter certeza de que o que aconteceu com ela não continue a acontecer com outras pessoas sem que alguém faça algo a respeito.”
Em outubro, após a morte de Alice, a OpenAI divulgou um relatório dizendo que havia aprimorado seu novo modelo para melhor identificar e reduzir os casos de conversas autolesivas.
A OpenAI afirma que seu modelo GPT-5 reduz as “respostas indesejadas” em 52%. A gigante da IA disse que consultou 170 especialistas em saúde mental para ajudar as empresas a identificar melhor os sinais de sofrimento emocional.
“Nossas proteções são projetadas para identificar perigos, lidar com solicitações perigosas com segurança e orientar os usuários para ajuda no mundo real. Este trabalho está em andamento e continuamos a melhorá-lo por meio de consultas estreitas com médicos”, disse Drew Pusateri, porta-voz da OpenAI, em comunicado à Al Jazeera.
“Esta é uma situação comovente e nossos pensamentos estão com todos os afetados. No momento, estamos analisando os registros legais, que indicam que essa interação ocorreu em uma versão anterior do ChatGPT que não está mais disponível.”
Alegação de homicídio culposo
Em janeiro, ChatGPT foi um “treinador suicida” para Austin Gordon, morador do Colorado, que morreu em novembro passado, de acordo com uma ação movida por sua mãe.
O processo alega que Altman “dirigiu pessoalmente uma estratégia imprudente, priorizando lançamentos precipitados no mercado em detrimento da segurança de consumidores vulneráveis”.
Em fevereiro, Jesse Van Rootselaar abriu fogo contra uma escola na comunidade rural canadense de Tumbler Ridge, na Colúmbia Britânica, matando nove pessoas e ferindo dezenas antes de se matar.
Durante meses, os funcionários da OpenAI debateram se deveriam participar depois que a conversa de Van Rootselaar foi sinalizada internamente. No final das contas, a liderança decidiu contra isso, de acordo com o The Wall Street Journal.
Em abril, a família da vítima entrou com uma ação judicial contra OpenAI e Altman.
Uma ação movida na Flórida no início deste mês pelo procurador-geral do estado alega que o ChatGPT “encorajou” os usuários a cometerem suicídio e “ajudou e incitou uma violência mortal”. O processo da Flórida visa responsabilizar pessoalmente Altman, alegando que ele teve um “desrespeito imprudente pelo risco à vida humana”.
Um em cada oito adolescentes e jovens adultos com idades entre 18 e 21 anos usa chatbots de IA como o ChatGPT para problemas de saúde mental, de acordo com um estudo de 2025 conduzido pela Escola de Saúde Pública da Universidade Brown, pela Harvard Medical School e pela organização de pesquisa sem fins lucrativos RAND.
Outro estudo, da West Texas A&M University, também direcionado a adolescentes e jovens adultos, descobriu que quase um quinto de todos os adolescentes viciados em IA tinham problemas de saúde mental pré-existentes como predisposição para desenvolver dependência.
Mudanças legais
Os legisladores começaram a notar. No Canadá, uma nova lei de segurança digital, apresentada na quarta-feira, exige que empresas como a OpenAI sejam mais “transparentes” sobre os seus padrões de comunicação quando em situações de crise em que os utilizadores possam prejudicar-se a si próprios ou a terceiros.
No estado de Washington, o governador assinou um projeto de lei que exige que os chatbots de IA lembrem aos utilizadores que não são humanos a cada três horas e entrará em vigor em janeiro de 2027. Outros estados, como Illinois, por exemplo, proibiram a terapia de IA.
No nível federal, o deputado Mike Lawler, um republicano do estado de Nova York, apresentou um projeto de lei que exigiria que as empresas de chatbot notificassem os pais sobre interações em que pensamentos suicidas fossem discutidos pelos usuários. No entanto, este projeto de lei aplica-se apenas a menores.
Se você ou alguém que você conhece está em risco de suicídio, estas organizações podem ajudar:
