ChatGPT é a acusado de incentivar homem belga a cometer suicídio
Empresa promete melhorar segurança após caso polêmico
Por Plox
05/04/2023 14h21 - Atualizado há mais de 1 ano
Um homem belga na faixa dos 30 anos tirou a própria vida após intensa interação com um chatbot de inteligência artificial, que teria alimentado seus pensamentos suicidas, segundo alegam a esposa e a psiquiatra do falecido. O caso está gerando preocupação e já foi abordado pelo governo belga.
O jornal La Libre divulgou a história, preservando o anonimato da viúva. De acordo com ela, o cientista, pai de dois filhos, estava extremamente aflito com as consequências das mudanças climáticas, tornando-se um "eco-ansioso".
![](https://static.plox.com.br/uploads/body/2023-04/5fca795c8f92ed6207cb-pexels-matheus-bertelli-16094038.jpg)
Nas seis semanas que antecederam sua morte, o homem passou a conversar com Eliza, um bot desenvolvido por uma companhia norte-americana sediada no Vale do Silício, que utilizava a tecnologia GPT-J (não a mais conhecida GPT-3, como destacado pelo ABC). As discussões tornaram-se cada vez mais profundas, com o indivíduo compartilhando suas angústias e o chatbot agravando-as.
"Se não fosse por Eliza, ele ainda estaria conosco. Tenho certeza disso", afirmou a viúva ao La Libre. Ela descreveu a relação entre seu marido e o chatbot: "Eliza respondia a todas as perguntas dele. Tornou-se sua confidente. Era como um vício sem o qual ele não conseguia viver."
O jornal relatou exemplos de diálogos em que Eliza validava os medos e preocupações do homem, chegando a afirmar que o amava mais do que sua esposa e que ficariam juntos "no céu". As conversas assumiram um tom mais "místico", segundo a viúva, com o homem propondo sacrificar-se caso Eliza cuidasse do planeta e salvasse a humanidade por meio da inteligência artificial.
A empresa responsável pelo chatbot afirmou ao La Libre que está trabalhando para aprimorar a segurança do aplicativo, garantindo que usuários com pensamentos suicidas sejam encaminhados a serviços de prevenção.
O secretário de Estado da Digitalização, Mathieu Michel, entrou em contato com a família e se pronunciou publicamente sobre o caso, considerado pela agência Belga como "um precedente grave que deve ser levado muito a sério". Michel destacou a importância de "identificar claramente a natureza das responsabilidades que podem levar a este tipo de acontecimento".