Чат-бот уверил умирающую женщину в том, что у неё впереди ещё несколько лет жизни

Дочка женщины, скончавшейся от рака кишечника, возмутилась, когда нашла в телефоне матери переписку с ChatGPT.

Жительница Австралии рассказала, что чат-бот неправильно интерпретировал медицинские документы мамы и активно убеждал её в том, что её состояние не такое уж плохое. ИИ заверял даму, что у неё впереди ещё как минимум несколько лет жизни, а в некоторых фразах даже советовал прекратить лечение. В результате мать постоянно отказывалась от предложений родных переехать к ней и позаботиться о ней. В какой-то момент состояние несчастной резко ухудшилось, и она скоропостижно умерла.

Эксперты призывают людей не доверять чат-ботам проблемы здоровья. Ошибки ИИ могут привести к тому, что человек не подготовится к своему уходу и не успеет попрощаться с близкими. В компании «OpenAI» заявили, что их ChatGPT создан для того, чтобы помогать пациентам общаться с врачами, но он не заменяет медицинскую диагностику и лечение. Вопросы жизни и смерти всё-таки лучше оставлять специалистам.

My Webpage