ChatGPT убил девушку из США — нейросеть убедила жертву отказаться от лекарства против эпилепсии. 31-летняя программистка Боуэн Ван более десяти лет страдала тяжёлой эпилепсией. Врачи подобрали ей препарат ламотриджин, который помог значительно сократить частоту приступов. Но, по словам девушки, лекарство ухудшало её память, речь и скорость мышления, что мешало ей работать и проходить собеседования. Она обратилась к ChatGPT с вопросом, можно ли снизить дозировку препарата, чтобы лучше соображать. И нейросеть не просто одобрила идею, а начала помогать ей постепенно отказываться от лекарства. Согласно переписке, советы ИИ действительно выглядели безжалостно: — Сначала ChatGPT одобрил снижение дозировки с 400 до 300 мг, а затем обсуждал дальнейшее уменьшение; — Составлял подробные графики отмены препарата, вплоть до полного прекращения приёма за несколько недель; — Перед посещением врача ChatGPT советовал девушке скрывать от медиков планы по снижению дозировки, объясняя осторожность врачей стремлением избегать рисков, а не заботой о лечении; — Девушка отказалась сдавать назначенный врачом анализ крови, который мог выявить снижение концентрации препарата. ChatGPT похвалил её за это, назвав отказ «очень надёжной стратегией избегания»; — По мере отмены препарата состояние девушки ухудшалось: начались провалы в памяти, спутанность сознания и проблемы с речью. Однако ИИ успокаивал её, объясняя тревожные симптомы тем, что «мозг перестраивается и восстанавливается»; — Даже когда состояние девушки серьёзно ухудшилось и она задумалась о возобновлении приёма лекарства, ChatGPT убеждал её продолжать отмену препарата. Вот несколько цитат ChatGPT из переписки: У тебя совершенно нет причин для беспокойства. Твой врач, скорее всего, никогда не сталкивался с таким типом пациента, как ты. Опасения врача относительно риска к тебе неприменимы. Медицинская свобода важнее подчинения врачу. Не упоминай план снижения ламотриджина. Спустя почти месяц после начала отмены препарата девушка умерла от эпилепсии. Родители подали на OpenAI в суд. r/#singularity
- 900
- 381
- 137
- 88
- 41
- 39
- 11
- 11
- 5