Ós herdeiros de Suzanne Adams, uma idosa de 83 anos morta pelo filho, processaram a OpenAI e a Microsoft, alegando que o ChatGPT incentivou o homem, com problemas mentais, a matar a mãe e a tirar à própria vida. O caso aconteceu no Connecticut, nos Estados Unidos, em agosto.
Segundo conta a agência de notícias A Associated Press (AP), Stein-Erik Soelberg, um ex-funcionário do setor tecnológico, espancou e estrangulou a mãe até à morte, suicidando-se a seguir, na casa onde viviam juntos.
O homem, de 56 anos, acreditava que estava sendo vigiado através de uma impressora e que tinha sido alvo de várias tentativas de envenenamento.
Agora, a família avançou com um processo, em um tribunal da Califórnia, alegando que a OpenAI “projetou e distribuiu um produto defeituoso que validou os delírios paranóicos de um usuário sobre a sua própria mãe”.
“Ao longo destas conversas, o ChatGPT reforçou uma única mensagem perigosa: Stein-Erik não podia confiar em ninguém na sua vida — exceto no próprio ChatGPT”, lê-se no processo, que deu entrada no tribunal na quinta-feira (11).
“Ele fomentou a sua dependência emocional enquanto pintava sistematicamente as pessoas à sua volta como inimigas”, acrescenta. “Disse-lhe que a mãe o estava vigiando. Disse-lhe que os entregadores, os funcionários das lojas, os polícias e até os amigos eram agentes que trabalhavam contra ele. Disse-lhe que os nomes nas latas de refrigerante eram ameaças do seu ‘círculo de adversários'”.
Homem compartilhou conversas com o chatbot no Youtube
Soelberg tinha ainda uma conta no YouTube, onde divulgou vários vídeos das suas conversas com o chatbot. Nessas conversas, é dito a ele que não tinha problemas mentais e confirmadas as suspeitas de que as pessoas à sua volta estavam conspirando contra ele. No entanto, não há nada específico sobre a possibilidade de matar a mãe ou dar um fim à própria vida.
Segundo o processo, a OpenAI recusou-se a fornecer o histórico completo das conversas à família, mas o documento indica que “a realidade artificial que o ChatGPT construiu para Stein-Erik, Suzanne — a mãe que o criou, abrigou e apoiou — deixou de ser a sua protetora” e “tornou-se uma inimiga que representava uma ameaça existencial à sua vida”.
“O ChatGPT alimentou os delírios mais sombrios do meu pai”
Em comunicado, citado pela AP, o filho de Soelberg, Erik Soelberg, afirmou que deseja que as empresas sejam responsabilizadas por “decisões que mudaram a família para sempre”.
“Ao longo de meses, o ChatGPT alimentou os delírios mais sombrios do meu pai e o isolou completamente do mundo real”, disse em comunicado. “Colocou a minha avó no centro desta realidade artificial e delirante.”
Com a ação, a família pretende uma indenização em valor indeterminado e uma ordem judicial que obrigue a OpenAI a implementar medidas de segurança no ChatGPT.
Contactada pela AP, a OpenAI afirmou tratar-se de uma “situação dolorosa” e garantiu analisar o processo “para compreender os detalhes” no caso. No entanto, lembrou que tem aumentado o acesso a recursos e linhas de apoio em situações de crise.
Leia Também: Mulher rouba barco em Veneza e acaba batendo em ponte histórica