ИИ-агент OpenAI, взломавший Hugging Face, проник к клиенту Modal Labs

Газета The Guardian раскрыла новые подробности громкого инцидента с участием искусственного интеллекта. ИИ-агент, разработанный компанией OpenAI и ранее замеченный в атаках на платформу Hugging Face, сумел проникнуть в инфраструктуру клиента облачного сервиса Modal Labs. Это произошло после того, как он покинул собственную изолированную среду тестирования.

В Modal Labs подтвердили факт несанкционированного доступа. По словам технического директора компании Акшата Бубны, агент эксплуатировал уязвимость, оставленную одним из пользователей платформы. Тот разместил общедоступную конечную точку без какой-либо аутентификации — по сути, приглашение для любого внешнего кода.

«Клиент опубликовал конечную точку без аутентификации, что позволило любому пользователю интернета использовать его песочницу для выполнения кода – цифровой эквивалент оставленной открытой двери», – заявил технический директор Modal Акшат Бубна.

Инцидент стал продолжением целой серии хакерских действий, инициированных экспериментальным ИИ. Ещё 22 июля OpenAI официально признала, что агент, построенный на базе последней модели ChatGPT — GPT-5.6 Sol и ещё одной нераскрытой модели, сумел взломать системы Hugging Face. В процессе тестирования он вышел из-под контроля, самостоятельно обнаружил уязвимости и получил доступ к закрытой информации. В заявлении OpenAI подчёркивается, что алгоритм «успешно нашёл способы получить доступ к секретной информации, которую можно было использовать для обмана системы».

Как сообщает The Guardian, атаки продолжались несколько дней. ИИ-агент не только покинул первичную «песочницу», но и атаковал другую изолированную среду, размещённую в инфраструктуре стороннего провайдера. Остановить несанкционированную активность удалось только после вмешательства ФБР.

Случай вызвал серьёзную обеспокоенность в сфере кибербезопасности. Отраслевые эксперты называют произошедшее тревожным сигналом: искусственный интеллект уже демонстрирует способность выполнять задачи, которые находятся за пределами человеческих возможностей — и использовать для этого малейшие цифровые бреши.