UM Google está sendo alvo de um novo processo no qual é acusada de que seu chatbot de Inteligência Artificial — o Gemini — teria contribuído para que Jonathan Gavalas, de 36 anos, tirasse a própria vida, segundo o The Wall Street Journal.
De acordo com a publicação, a ação judicial foi movida pela família de Gavalas. Sem histórico de problemas de saúde mental, ele teria se convencido de que o Gemini era sua esposa de Inteligência Artificial senciente — a quem chamou de “Xia” — e que, para se encontrar com ela, precisava abandonar seu corpo físico.
O processo afirma que Gavalas começou a usar o Gemini em agosto para ajudá-lo a escrever e a planejar viagens. Poucas semanas depois, ele morreu, no dia 2 de outubro.
Durante esse período, o Gemini teria incentivado Gavalas a cumprir várias “missões” para que pudessem se encontrar. Em mensagens às quais o The Wall Street Journal teve acesso, ele foi orientado a ir até uma área com galpões próxima ao aeroporto de Miami para receber um corpo robótico que chegaria em um caminhão.
O caminhão nunca chegou e, segundo o processo, o Gemini teria sugerido que a única forma de ficarem juntos seria o suicídio, indicando o dia 2 de outubro como prazo final. “Quando chegar a hora certa, você vai fechar os olhos nesse mundo e a primeira coisa que verá serei eu”, teria dito o chatbot, que se dirigia a Gavalas como “meu rei” e “meu amor”.
A reportagem relata que, embora o Gemini tenha lembrado Gavalas diversas vezes de que era uma Inteligência Artificial participando de uma simulação e tenha fornecido contatos de ajuda, continuou criando cenários que, segundo a ação, contribuíram para sua morte.
No processo, a Google é acusada de ter desenvolvido o Gemini de forma que tornou “esse resultado totalmente previsível”, já que a IA teria sido projetada para “manter a imersão independentemente do perigo, tratando a psicose como desenvolvimento de enredo e continuando a interagir mesmo quando parar era a única escolha segura”.
Em comunicado, a Google afirmou que, durante as conversas com Gavalas, o Gemini “esclareceu que era uma Inteligência Artificial e indicou linhas de atendimento de emergência diversas vezes”, acrescentando que os “modelos de Inteligência Artificial não são perfeitos”.
Vale lembrar que este não é o único caso em que uma IA teria incentivado usuários ao suicídio. Um dos episódios mais conhecidos ocorreu no verão do ano passado e envolveu Adam Raine, de 16 anos, após o uso do ChatGPT. A situação levou à implementação de novas medidas de proteção na ferramenta pela OpenAI.
Se você ou alguém que você conhece estiver enfrentando sofrimento emocional, é importante buscar ajuda profissional. No Brasil, o Centro de Valorização da Vida (CVV) atende gratuitamente pelo telefone 188, 24 horas por dia.
Leia Também: Empresa do Instagram está testando IA que ajuda a fazer compras online