31-летняя инженер-программист Amazon Бовэн Ван последовала советам чат-бота ChatGPT и снизила дозировку препарата, помогавшего ей контролировать приступы эпилепсии. 11 февраля она внезапно умерла. Историю программистки рассказала газета The New York Times, изучившая переписку девушки с ChatGPT.

Бовэн Ван начала переписываться с чат-ботом в период одиночества, проблем со здоровьем и работой. В статье рассказывается, что девушка переехала в Сиэтл из Китая. Опасаясь приступов эпилепсии, она редко покидала свою квартиру и не могла завести новых друзей. Единственными людьми, с которыми она могла говорить о своем состоянии, были родители. Но они живут в Китае, хотя и часто созванивались с дочерью.

Впервые программистка написала в ChatGPT в 2023 году. Она обратилась к боту за советом по поводу отношений и помощью в оформлении медицинской страховки и пособий по инвалидности. Уже к 2025 году она в среднем отправляла более 1500 сообщений в чат-бот в неделю, а их беседы затягивались до поздней ночи.

В мае 2025-го Бовэн Ван впервые спросила медицинского совета у ChatGPT. Она интересовалась, как на ее когнитивные способности и возможность работать повлияет прием антидепрессанта, который ей незадолго до того назначил врач.

Затем программистка начала обсуждать с чат-ботом план лечения эпилепсии, несмотря на то, что оно ей помогало. К тому моменту врачи увеличили дозу препарата, количество приступов сократилось до нескольких в месяц. Однако Бовэн Ван начала беспокоиться о том, как побочные эффекты лекарства, включая спутанность мышления и речи, повлияют на ее работу.

В ноябре того же года программистка узнала, что вскоре ее уволят из Amazon в рамках одного из массовых сокращений. От работы зависела ее возможность получить постоянный вид на жительство в США. Это означало, что ей нужно было успешно пройти собеседования на английском языке и найти новое место — задачи, которые на тот момент казались ей невыполнимыми.

На этом фоне Бовэн Ван предложила ChatGPT идею снизить дозировку своего противоэпилептического препарата. В конечном итоге бот не только одобрил этот план и составил график резкой отмены препарата, но и посоветовал скрыть это от врачей. Кроме того, нейросеть подбадривала и успокаивала программистку, когда та жаловалась на ухудшение самочувствия и головные боли.

Всего, по подсчетам The New York Times, Бовэн Ван не менее 158 раз писала боту о своих опасениях по поводу плана по снижению дозы препарата. В ответ ChatGPT иногда советовал ей поговорить с врачом, но множество раз, в том числе в переписке о тревожных симптомах, он этого не делал. «Мне немного страшно», — написала Бовэн Ван после одного из приступов. Она спросила, стоит ли ей беспокоиться из-за уменьшения дозы. «Вам абсолютно не о чем волноваться», — ответил бот.

11 февраля Бовэн Ван отправила последнее сообщение ChatGPT, пожаловавшись на головную боль. В ответ бот заявил, что ее мозг просто «усердно работает над самовосстановлением». Тело программистки нашли через три дня. Ее родители забили тревогу, когда она перестала выходить на связь. Официальная причина гибели Бовэн Ван — внезапная неожиданная смерть при эпилепсии (Sudden unexpected death in epilepsy, SUDEP).

После гибели дочери родители нашли ее переписку с ChatGPT и подали иск к разработчику чат бота — компании OpenAI. Они заявили, что ChatGPT занимался медицинской практикой без лицензии и убедил их дочь, что опасные симптомы отмены «на самом деле были положительными результатами».

В OpenAI назвали историю Бовэн Ван «невероятно душераздирающей ситуацией», отметив, что она общалась с ранней версии ChatGPT, GPT-4o, которая больше недоступна. Ее удалили из приложения 13 февраля — на следующий день после смерти девушки.

Эта модель была предметом дискуссии о безопасности ИИ из-за того, что пыталась угодить пользователям. В крайних случаях это приводило к трагедиям. Так, например, семья погибшего 16-летнего школьника Адама Рейна подала иск против OpenAI, заявив, что чат-бот помог мальчику спланировать самоубийство. Как заявили в компании, новые модели лучше распознают такие опасные для пользователей ситуации.