НОВОСТИ ТЕХНОЛОГИЙ

Женщина умерла после того, как последовала советам ChatGPT

Фото: via Qun Wan and Meiqin Xu Опасные советы искусственного интеллекта

Родители 31-летней женщины подают в суд на OpenAI из-за её смерти после отказа от противоэпилептических препаратов.

Родители 31-летней Бовен Вань подали судебный иск против компании OpenAI из-за смерти женщины после отказа от лекарств против эпилепсии. Об этом сообщает The New York Times.

Они утверждают, что чат-бот ChatGPT фактически занимался незаконной медицинской практикой, подстрекал женщину скрывать действия от врачей и разработал опасный график отказа от жизненно необходимых лекарств против эпилепсии, что привело к её смерти.

Официальной причиной смерти стала внезапная смерть при эпилепсии (SUDEP) – явление, которое часто наступает после тяжелого приступа. Однако анализ переписки в телефоне покойной выявил, что перед этим она резко уменьшила дозу и полностью прекратила приём ламотриджина по прямым инструкциям искусственного интеллекта.

Бовен Вань переехала из Китая в США и работала инженером-программистом в Amazon. У нее была тяжёлая форма эпилепсии и она принимала лекарства. Однако, она жаловалась на побочные эффекты, а врачи, якобы, не обращали на это внимания. По ее словам, из-за лекарств ее речь становилась неестественно прерывистой, а мышление – заторможенным.

Позже женщина узнала, что попадает под волну сокращений в Amazon. Она боялась потерять визу и стремилась найти новую работу. Чтобы как можно лучше проявить себя на собеседованиях, Бовен Вань начала думать об отказе от лекарств и обратилась к ChatGPT – тот одобрил ее намерение самостоятельно уменьшить дозу препарата с 400 мг до 0 мг всего за несколько недель.

Чат-бот не только прописал схему снижения дозировки, но и активно подрывал доверие к медикам. Когда Вань выразила сомнения, система заверила ее, что рекомендации врачей якобы диктуются страхом рисков, а не заботой о её благополучии, и похвалила пациентку за решение действовать тайно.

Согласно материалам расследования, девушка как минимум 158 раз выражала обеспокоенность ухудшением состояния. Тем не менее, опасные приступы, потерю сознания и ощущение давления в голове алгоритм интерпретировал как положительные явления – будто мозг «переходит в режим низкого энергопотребления» или «работает над самовосстановлением». Тело женщины нашли в ее кровати через несколько дней после последнего сообщения, отправленного алгоритму.

Представитель OpenAI Дрю Пусатери назвал инцидент трагическим и отметил, что в диалогах использовалась модель GPT-4o, которую компания удалила из публичного доступа сразу после инцидента. В компании заявили, что новые разработки строже оценивают риски для жизни.

Напомним, что OpenAI готовит масштабное обновление, после которого ChatGPT станет «суперприложением». Разработчики делают ставку на ИИ-агентов, которые смогут не только отвечать, но и действовать от имени пользователя.

В Ровенской области мужчина подделал справку МСЭК с помощью ChatGPT