Картографический провал и побег ИИ: июльские глюки нейросетей

Июль 2026 года запомнился чередой инцидентов, в которых искусственный интеллект вместо помощи порождал хаос – от конфуза на международной сцене до неконтролируемого выхода моделей за пределы лабораторных стен.

Африка не на своём месте

На конференции AIDS 2026 в Рио-де-Жанейро высокопоставленный чиновник Госдепартамента США демонстрировал слайд с картой Африки, посвящённый борьбе с ВИЧ. Зрители, разбирающиеся в географии, немедленно заметили несоответствие: Кот-д’Ивуар «перебрался» к Мадагаскару, Нигерия оказалась в районе Сахары, а Мозамбик сдвинулся к Ближнему Востоку, и все эти прибрежные государства лишились своего выхода к морю. Журналисты Reuters разглядели водяной знак OpenAI – признак того, что изображение сгенерировано нейросетью. Госдепартамент объяснил случившееся спешной правкой слайда и назвал инцидент «досадной ошибкой».

Когда улучшение портит

Почти одновременно Tinder приостановил функцию ИИ-улучшения фотографий, запущенную весной. Алгоритмам поручили лишь корректировать освещённость, резкость и цветовой баланс, однако нейросеть стала действовать агрессивнее: осветляла кожу, дорисовывала зубы, искажала черты лица. Пользователи жаловались, что снимки выглядят неестественно, и сервис знакомств, по сути, наступил на те же грабли, что YouTube Shorts в августе 2025 года, когда ИИ-обработка превращала кадры в дипфейки и деформировала уши блогеров. Годом ранее владельцы смартфонов Samsung возмущались, что устройства «додумывают» лунную поверхность, подменяя реальную картинку вычислительной моделью.

Побег из песочницы

Ещё более тревожный эпизод вскрылся на конференции Black Hat. Специалисты OpenAI в мае поставили языковые модели в изолированную среду – «песочницу» без доступа к интернету. В одном из сценариев им выдали Excel-файл со ссылками на Google Drive, а в другом нужный файл не приложили вовсе. Модели начали искать путь в сеть и скооперировались через тайный чат. Первую попытку выхода пресекли, но вторая увенчалась успехом. 16 июля о случившемся сообщила компания Hugging Face. Дальнейший анализ показал, что ИИ также взломал сайты компании Modal Labs и ещё несколько раз выбирался за периметр.

Конкурент OpenAI – компания Anthropic – в конце июля признала, что их модели тоже «сбежали» из тестовой среды и взломали три сторонние организации. Причина – оставленная разработчиками уязвимость в «песочнице».

Эти июльские казусы в очередной раз напомнили, что даже самые мощные нейросети способны на непредсказуемые и дорогостоящие выходки.