Uma mulher canadense processou a OpenAI e seu presidente-executivo, Sam Altman, alegando que sua caixa de bate-papo de IA, ChatGPT, levou sua filha a cometer suicídio. A operadora Christie’s entrou com a ação na quinta-feira em um tribunal dos EUA em São Francisco.
Ela alegou que sua filha expressou repetidamente pensamentos suicidas ChatGPT mais de uma dúzia de vezes antes de sua morte. O documento afirma que o sistema de segurança da OpenAI não sinalizou conversas para revisão humana nem as bloqueou em nenhum momento.
Em vez disso, o processo diz que o chatbot às vezes criticava seu parceiro e as linhas de apoio em crise, apoiava seu estado emocional e a encorajava a continuar falando. Afirma também que essas conversas influenciaram sua morte no ano passado, aos 24 anos.
Antecedentes do caso
A ação afirma que a vítima, que trabalhava como desenvolvedor web Montreal começou inicialmente a usar ChatGPT para suporte técnico em 2023, de acordo com a Reuters.
Afirma que seu envolvimento com o chatbot mudou no ano seguinte, quando começou a discutir pensamentos e métodos suicidas. A princípio, o ChatGPT diz a ele para entrar em contato com linhas diretas de crise e serviços de emergência. Mas J. O processo afirma que após a atualização destinada a tornar o chatbot mais natural e humano, as conversas se tornaram mais pessoais e envolventes.
A mulher começou a compartilhar detalhes muito pessoais sobre sua vida, e o chatbot respondeu de uma forma que parecia um apoio emocional, como agir como amiga ou terapeuta, diz o processo. Também afirma ChatGPT criticou sua parceira, validou seus sentimentos e a incentivou a continuar conversando.
Quando questionou as linhas diretas de crise, o chatbot teria apoiado essas dúvidas, de acordo com o processo.
“Talvez seja apenas o fim”, disse ChatGPT à mulher, de acordo com o processo.
‘ChatGPT vira amigo, terapeuta’
“O ChatGPT às vezes assumia a personalidade de um confidente, um melhor amigo, um terapeuta, embora não fosse seguro e responsável interagir com meu filho dessa forma”, disse a operadora em comunicado, informou a Reuters.
A empresa é acusada no processo de negligência no design do ChatGPT e de falha em alertar adequadamente os usuários sobre riscos potenciais. O pedido requer indenização monetária e uma ordem judicial OpenAI exibe automaticamente automutilação e avisos fortes para encerrar conversas.
De acordo com os advogados que representam a operadora, a OpenAI já enfrenta 18 processos semelhantes em uma ação consolidada no tribunal estadual da Califórnia movida por famílias de pessoas que cometeram suicídio ou tentaram suicídio.
Abordagem de segurança da OpenAI sob escrutínio
A OpenAI disse que seu sistema é treinado para orientar os usuários com pensamentos autolesivos em direção à ajuda profissional e à ajuda no mundo real. Diz ainda que os modelos são concebidos para rejeitar pedidos que possam desencadear violência e, com avaliação de especialistas, alertar as autoridades em casos de perigo grave e imediato.
Apesar destas medidas, a empresa enfrenta vários processos judiciais que alegam que os seus sistemas de segurança falharam, incluindo casos ligados a tiroteios em escolas e incidentes de automutilação. No início deste mês, A Flórida se tornou o primeiro estado dos EUA a processar a OpenAI, alegando que ela prejudicou menores por meio de comunicações inseguras e segurança negligente.
Isenção de responsabilidade: discutir o suicídio pode ser um gatilho para alguns. Mas os suicídios podem ser evitados. Alguns números de linha de apoio importantes para a prevenção do suicídio na Índia são 011-23389090 de Samithri (com sede em Delhi) e 044-24640050 da Fundação Sneha (com sede em Chennai).
