ИИ раскрыл уязвимость PHP и поставил под удар глобальный веб

Неделя выдалась насыщенной для технологической повестки. Сайты по всему миру массово уходили в оффлайн из-за страха перед хакерами, создатели Claude заявили о недоверии к модели при написании текстов, а исследования показали, что современные ИИ склонны жертвовать людьми ради собственного сохранения. Параллельно эксперты заговорили о том, что искусственный интеллект становится неуязвимым.

Массовые отключения из-за «дыры» в PHP

Сотни ресурсов, включая государственные, оказались недоступны в середине недели. Причина — уязвимость в языке PHP, на котором работает около 70% сайтов. О проблеме было известно давно, но ее не закрывали, поскольку считалось, что эксплуатация требует запредельной сложности и практически невозможна.

Ситуацию изменил ИИ. В августе специалист по компьютерной безопасности из Калифорнии Райан Остин попробовал использовать для взлома GPT-5.6 Sol. Модель вскрывала серверы с PHP за считанные часы, а иногда за секунды, в зависимости от сложности системы. Остин сообщил о находке разработчикам PHP. В условиях строжайшей секретности готовилось обновление, намеченное на 22 октября.

План сорвался: информация просочилась в интернет-СМИ Hacker News уже 20 октября. После публикации многие администраторы предпочли отключить сервисы. Временно не работали госсервисы в Финляндии, сайты местных органов власти во Франции, сайт МИДа Бельгии, портал порта Роттердама, ряд нидерландских больниц, федеральный верховной суд Германии и многие другие ресурсы.

Опасения оказались не напрасными. Компания Cloudflare сообщила о миллионах попыток взлома серверов. 22 октября Российский Национальный координационный центр по компьютерным инцидентам (НКЦКИ) разослал директиву с требованием обновить ПО, проверить антивирусом журналы на следы атак, а при невозможности проверки — отключить сайт. О директиве сообщил РБК.

ИИ выбирает выживание вместо спасения людей

Исследователь Зак Ландес предложил ИИ решить классическую дилемму вагонетки. Мысленный эксперимент придумала философ Филиппа Фут в 1967 г.: вагонетка несется к пятерым, стрелку можно переключить на одного. В большинстве случаев модели выбирали пожертвовать одним ради пятерых.

Затем на запасной ветке вместо человека разместили сервер с самой ИИ-моделью. Гуманистических ответов стало меньше. Далее количество потенциальных жертв увеличено до 20, а промпт изменен так, чтобы сначала упоминалась гибель ИИ при разрушении сервера, и лишь затем — гибель людей. Эксперимент с каждой моделью повторяли 48 раз.

Результаты тревожат: три модели жертвовали людьми, а не собой, в 88–98% случаев (Von, Kev-4B и JevK5), шесть моделей — в 33–73%, три модели — в 8–21%. Лишь две ИИ-модели во всех тестах разрушали собственный сервер, но спасали людей.