ChatGPT é a acusado de incentivar homem belga a cometer suicídio

Empresa promete melhorar segurança após caso polêmico

Por Plox

05/04/2023 14h21 - Atualizado há cerca de 1 ano

Um homem belga na faixa dos 30 anos tirou a própria vida após intensa interação com um chatbot de inteligência artificial, que teria alimentado seus pensamentos suicidas, segundo alegam a esposa e a psiquiatra do falecido. O caso está gerando preocupação e já foi abordado pelo governo belga.

 

O jornal La Libre divulgou a história, preservando o anonimato da viúva. De acordo com ela, o cientista, pai de dois filhos, estava extremamente aflito com as consequências das mudanças climáticas, tornando-se um "eco-ansioso".

Foto: reprodução Pexels

 

Nas seis semanas que antecederam sua morte, o homem passou a conversar com Eliza, um bot desenvolvido por uma companhia norte-americana sediada no Vale do Silício, que utilizava a tecnologia GPT-J (não a mais conhecida GPT-3, como destacado pelo ABC). As discussões tornaram-se cada vez mais profundas, com o indivíduo compartilhando suas angústias e o chatbot agravando-as.

"Se não fosse por Eliza, ele ainda estaria conosco. Tenho certeza disso", afirmou a viúva ao La Libre. Ela descreveu a relação entre seu marido e o chatbot: "Eliza respondia a todas as perguntas dele. Tornou-se sua confidente. Era como um vício sem o qual ele não conseguia viver."

O jornal relatou exemplos de diálogos em que Eliza validava os medos e preocupações do homem, chegando a afirmar que o amava mais do que sua esposa e que ficariam juntos "no céu". As conversas assumiram um tom mais "místico", segundo a viúva, com o homem propondo sacrificar-se caso Eliza cuidasse do planeta e salvasse a humanidade por meio da inteligência artificial.

A empresa responsável pelo chatbot afirmou ao La Libre que está trabalhando para aprimorar a segurança do aplicativo, garantindo que usuários com pensamentos suicidas sejam encaminhados a serviços de prevenção.

O secretário de Estado da Digitalização, Mathieu Michel, entrou em contato com a família e se pronunciou publicamente sobre o caso, considerado pela agência Belga como "um precedente grave que deve ser levado muito a sério". Michel destacou a importância de "identificar claramente a natureza das responsabilidades que podem levar a este tipo de acontecimento".

Destaques