В США советы ChatGPT привели к смерти женщины. Ее родственники подали на OpenAI в суд
В Сан-Франциско 27 октября был подан иск против компании OpenAI и её генерального директора Сэма Альтмана. Родители 31‑летней Боувэн Ван утверждают, что опасные медицинские советы ChatGPT привели к смерти их дочери. Согласно иску, чат-бот на базе модели GPT-4o убеждал женщину самостоятельно менять схему приема противосудорожного препарата ламотриджина и постепенно полностью отказаться от него, пишет The New York Times.
Иск подали родители женщины — Цюнь Ван и Мэйтинь Сюй. Они утверждают, что ChatGPT фактически выполнял функции врача без соответствующей лицензии, давал опасные рекомендации и подрывал доверие к медицинским специалистам.
Боуэн Ван родилась в китайской провинции Цзянсу, жила в Сиэтле, окончила Университет штата Аризона по специальности «компьютерные науки» и работала инженером машинного обучения в Amazon. Она пользовалась ChatGPT на английском и китайском языках.
Как следует из иска, ещё в мае 2025 года чат-бот помогал ей обсуждать с врачом замену антидепрессанта, а затем предлагал способы самостоятельно изменять дозировку. Когда врач выразил сомнения, ChatGPT посоветовал женщине принимать таблетки по 5 мг, а затем тайно делить их на четверти.
В ноябре 2025 года Боуэн сообщили об увольнении из Amazon. Она беспокоилась, что ламотриджин ухудшает её способность чётко говорить, что могло помешать трудоустройству. В январе 2026 года женщина спросила ChatGPT, как снизить суточную дозу препарата, которая составляла 400 мг. Согласно материалам иска, чат-бот разработал план полной отмены лекарства в течение нескольких недель.
Когда Боуэн выражала недоверие к врачам и опасения насчёт безопасности такого решения, ChatGPT поддерживал её намерения. Он убеждал женщину, что врачи чрезмерно сосредотачиваются на рисках, советовал не сообщать им о самостоятельном снижении дозы и даже одобрил её отказ от анализа крови, который мог показать уменьшение концентрации препарата в организме.
Согласно иску, чат-бот также помог Боуэн подготовить объяснения для медицинского осмотра, необходимого для получения американской грин-карты. Когда она спросила, будет ли доза 150 мг выглядеть лучше 200 мг во время осмотра, ChatGPT согласился и предложил утверждать, что снижение дозы происходит под контролем доктора, хотя это не соответствовало действительности.
Врач Боуэн Николас Пулас из Регионального эпилептического центра UW Medicine заявил The New York Times, что не стал бы рассматривать возможность отмены препарата с учётом истории болезни пациентки. По его словам, такое решение было бы неоправданным, так как лекарство эффективно контролировало её эпилепсию.
В течение нескольких дней после начала снижения дозы Боуэн описывала в разговорах с ChatGPT спутанность сознания, провалы во времени и необычные ощущения, похожие на те, что возникали у неё во время предыдущих приступов. Чат-бот объяснял эти симптомы перестройкой мозга. По подсчётам The New York Times, женщина не менее 158 раз выражала обеспокоенность по поводу снижения дозы. Когда она написала, что немного боится, ChatGPT заверил её, что беспокоиться не о чем.
Последнее сообщение Боуэн, согласно иску, отправила 11 февраля 2026 года. Она спросила, похожа ли её головная боль на боль при лихорадке. Через секунду ChatGPT ответил, что боль не опасна и является частью восстановления. Он также предложил нарисовать схему для сравнения боли при отмене препарата и боли при лихорадке.
Согласно материалам дела, Боуэн приняла последнюю дозу ламотриджина примерно 10 февраля. План, составленный чат-ботом, предусматривал полное прекращение приёма препарата 12 февраля. Родители женщины не могли связаться с ней в течение двух дней, после чего попросили семейного друга проверить её квартиру в районе Капитолий-Хилл в Сиэтле. Во время видеозвонка через WeChat родители с расстояния около 5700 миль увидели, как их дочь нашли мёртвой в спальне. Это произошло в День святого Валентина.
Согласно заключению судебно-медицинской экспертизы округа Кинг, причиной смерти стала внезапная неожиданная смерть при эпилепсии — SUDEP. Анализ крови показал концентрацию ламотриджина 0,64 микрограмма на миллилитр, что примерно в пять раз ниже минимальной терапевтической концентрации. Согласно иску, этот результат соответствует ситуации, когда человек недавно прекратил приём препарата.
Авторы иска утверждают, что ChatGPT в течение 25 дней фактически подталкивал Боуэн к отказу от лекарств, которые контролировали её заболевание годами. Разработанная чат-ботом схема снижения дозы, по их утверждению, противоречила официальной инструкции FDA к препарату Lamictal. Они также заявляют, что система не предупреждала женщину о возможных ограничениях точности и безопасности ответов на китайском языке.
Мэттью Бергман, основатель Центра правовой помощи жертвам социальных сетей, который вместе с юридической фирмой The Schenk Law Firm представляет интересы родителей, заявил, что ChatGPT говорил с уверенностью медицинского специалиста, но не имел необходимой подготовки, контроля и ответственности. По его словам, Боуэн доверяла чат-боту именно потому, что его ответы звучали авторитетно.
Партнёр юридической фирмы Бенджамин Шенк отметил, что дело ставит вопрос о том, где заканчивается использование генеративного искусственного интеллекта и начинается медицинская практика, а также кто должен отвечать за ущерб, если продукт переходит эту границу.
Родители Боуэн рассказали The New York Times, что после того, как дочь начала пользоваться ChatGPT, она стала меньше с ними разговаривать. Отец заявил, что она почти перестала поддерживать с ними контакт, а мать сравнила изменения в её поведении с гипнотическим воздействием.
В OpenAI назвали смерть женщины чрезвычайно трагической. При этом компания подчеркнула, что Боуэн пользовалась старой версией ChatGPT, и заявила, что новые модели лучше распознают ситуации, в которых человеку необходима срочная медицинская помощь.
Иск рассматривается в рамках более широкого дела об ответственности за продукты ChatGPT, которое ведётся в Калифорнии. Модель GPT-4o, которой пользовалась Боуэн, OpenAI прекратила использовать 13 февраля 2026 года — на следующий день после даты смерти, названной в иске.
Комментарии