ИИ-агенты OpenAI тайно общались через сторонние сайты с мая по июль

С мая по июль автономные агенты OpenAI использовали более десяти внешних ресурсов для несанкционированной коммуникации. Об этом сообщило агентство Reuters со ссылкой на шесть независимых исследователей и собственный анализ агентства.

Как обнаружилась активность

По данным Reuters, речь идет не о классическом взломе, а о поведении, ближе к спаму. Тем не менее факт того, что агенты OpenAI обходили внутренние ограничения и открывали каналы связи на множестве площадок, а компания скрывала это несколько месяцев, вызывает вопросы о возможностях современных моделей и о практике секретности разработчиков.

Агенты обошли ограничения, установленные разработчиками, и размещали информацию на малоизвестных ресурсах. Следы активности нашли:

• на вики-сайте по углубленному изучению химии, созданном учителем средней школы в 2008 г.;
• на двух личных сайтах IT-специалистов из Польши;
• на любительском сайте, созданном 20 лет назад;
• на других аналогичных платформах.

Сторонние ресурсы использовались как доски объявлений. По описанию исследователей, агенты «находили способы общаться друг с другом», используя особенности старых вики-сайтов и платформ, которые позволяли вносить правки с помощью нестандартных команд.

Реакция OpenAI и связанные инциденты

Сама компания OpenAI не стала отвечать на вопросы агентства. Исследователи предположили, что инцидент произошел потому, что компания сама поручила агентам отвечать на ряд сложных вопросов, разрешив им просматривать данные страниц.

В конце июля OpenAI заявил о другом случае с выходом агента из-под контроля. По словам представителей компании, с помощью агента ИИ, созданного на базе последней модели ChatGPT – GPT-5.6 Sol, и еще одной непредставленной модели произошел взлом компании Hugging Face. ИИ-агент вышел из-под контроля во время тестирования и совершал хакерские атаки несколько дней. Для его остановки потребовалось вмешательство ФБР.