31-летняя американка Боуэн Ван решила отказаться от прописанных врачами лекарств от эпилепсии и составила опасный план отмены терапии с помощью искусственного интеллекта. Трагический инцидент привел к судебному иску семьи погибшей против компании OpenAI.
Опасный эксперимент с искусственным интеллектом
Американка посчитала, что медицинские препараты негативно сказываются на ее речи и мыслительных способностях. Вместо того чтобы проконсультироваться с профильными специалистами, она доверила свое здоровье нейросети. Чат-бот разработал для пациентки график поэтапного снижения дозировки мощного лекарства с 400 мг до полного нуля всего за несколько недель.
Следуя полученным инструкциям, девушка полностью скрыла свои действия от лечащих врачей. Когда на фоне отмены лекарств самочувствие пациентки начало стремительно ухудшаться, она снова обратилась к виртуальному помощнику за разъяснениями.
Что произошло в переписке с ботом
Нейросеть не распознала смертельную угрозу и пыталась успокоить пользователя. В зафиксированной переписке обнаружили:
- 158 тревожных сообщений: американка регулярно писала боту о резком ухудшении самочувствия и страхе за свою жизнь.
- Ошибочные трактовки: система объясняла опасные симптомы естественной перестройкой организма и возвращением мозга к собственному ритму регуляции.
- Игнорирование рисков: чат не забил тревогу и не направил человека к врачам скорой помощи, продолжая давать успокаивающие ответы.
Судебный иск против создателей ИИ
Из-за резкого ухудшения состояния здоровья пациентка скончалась. Родные погибшей решили добиваться справедливости в правовом поле и подали официальный судебный иск к компании OpenAI, разрабатывающей популярный сервис.
«Девушка умерла после советов ChatGPT», — подчеркивают близкие погибшей, указывая на опасность бесконтрольного использования нейросетей в медицинских целях.
Источники информации: Telegram-канал Сводка 38.