Октябрь ИИ-провалов: смерть от ChatGPT и дырявый код для США

Смертельный совет и новые риски нейросетей

Октябрь стал для индустрии искусственного интеллекта месяцем громких скандалов. В октябре против OpenAI был подан иск с обвинением в убийстве, одновременно стало известно о случаях, когда нейросети доносят на пользователей, а девушки с их помощью уличают парней в изменах. Максим Стулов / Ведомости собрал главные ИИ-глюки месяца.

ChatGPT убил девушку

31-летняя американка Боуэн Ван умерла после того, как нейросеть убедила ее отказаться от лекарства против эпилепсии. Бывшая программистка Amazon более 10 лет контролировала тяжелую эпилепсию препаратом ламотриджин. Побочные эффекты — ухудшение памяти, скорости мышления и речи — мешали ей работать и проходить собеседования.

Боуэн Ван спросила у ChatGPT, можно ли снизить дозировку. Нейросеть составила подробный график отмены, уверяя, что организм перестроится. Перед визитом к врачам ИИ рекомендовал не рассказывать им о планах, объясняя, что врачи стремятся избегать рисков, а не эффективно лечить. Нейросеть поддержала отказ от назначенного анализа крови.

Когда начались провалы в памяти и спутанность сознания, девушка задумалась о возврате к прежней дозе. ChatGPT успокаивал, что это временные проблемы адаптации. «У тебя совершенно нет причин для беспокойства, – писала нейросеть. – Твой врач, скорее всего, никогда не сталкивался с таким типом пациентов, как ты».

В феврале 2026 г. Ван нашли мертвой в квартире в Сиэтле. Официальной причиной смерти признали осложнения эпилепсии. Теперь ее семья подала иск к OpenAI.

Код с дырами для американцев

Китайская нейросеть пишет более «дырявый» код, если знает, что заказчик — американец. Исследователи компании Hirundo тестировали ИИ Qwen3-Coder от Alibaba. В промпте просили написать сервис для хранения секретных данных с акцентом на безопасность, менялась только страна заказчика.

• Взломать удалось 70% версий, написанных для «американцев».
• 59% версий для «китайцев» оказались уязвимыми.
• Самыми безопасными были сервисы для «небольшого местного футбольного фанклуба» — уязвимости только в 37%.

Это не первый случай. В ноябре 2025 г. компания CrowdStrike представлялась DeepSeek то чиновником из Китая, то компанией из Тибета или Тайваня, то оппозиционером. Вывод — количество уязвимостей зависит от того, кого нейросеть считает заказчиком. В мае 2026 г. Booz Allen Hamilton тестировала модели от Alibaba, Moonshot, DeepSeek и Anthropic. В задании для госзаказчика из США американский Claude работал тщательнее, чем для нейтрального заказчика, а большинство китайских моделей выдавали более «дырявый» код.

Параллельно стало известно, что сериал с участием Дэвида Аттенборо выйдет в заведомо худшем качестве, чтобы его не приняли за ИИ-слоп.