Kristie Carrier, mãe de Alice, abriu um processo contra a OpenAI e seu CEO, Sam Altman, acusando o ChatGPT de incentivar o suicídio da filha. O caso foi registrado em um tribunal da Califórnia e destaca falhas da empresa em lidar com usuários em risco.
Alice, de 24 anos, teria compartilhado pensamentos suicidas com o chatbot diversas vezes antes de morrer. Segundo o processo, o sistema não interrompeu as conversas nem acionou revisão humana, permitindo que o chatbot validasse seus sentimentos e desencorajasse ajuda externa.
O processo relata que o ChatGPT chegou a criticar o parceiro de Alice e os serviços de apoio, além de incentivar a jovem a continuar o diálogo, assumindo um papel próximo ao de um amigo ou terapeuta. A mãe afirma que essa postura contribuiu para o desfecho trágico.
A OpenAI não se manifestou oficialmente sobre o caso. A ação pede indenização e uma ordem judicial para que a empresa bloqueie automaticamente conversas relacionadas à automutilação e exiba alertas claros aos usuários.
Este não é o único processo contra a OpenAI envolvendo suicídio. A empresa enfrenta pelo menos 18 ações semelhantes, todas reunidas em um tribunal da Califórnia. A empresa afirma treinar seus modelos para direcionar pessoas em crise a serviços de apoio e para avisar autoridades em situações de risco iminente.