ИИ-компании США моделируют реакцию на масштабную кибератаку

Ведущие американские разработчики искусственного интеллекта отрабатывают сценарии общественных волнений и политического давления на случай крупной кибератаки. Об этом сообщает Axios со ссылкой на источники в отрасли.

Риски и опасения лидеров индустрии

По данным издания, глава OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодеи оценивают серьезный киберинцидент как ключевую угрозу для сектора. В моделируемых атаках предполагается паралич банковской системы, интернета или электросетей.

Внутри компаний обсуждается риск общественного недовольства, которое может быть направлено как на разработчиков ИИ, так и на президента США Дональда Трампа на фоне отсутствия жесткого государственного регулирования отрасли.

Учения и политические ожидания

Представитель OpenAI подтвердил проведение учений по обеспечению готовности. По его словам, команды рассматривают различные возможные сценарии, чтобы подготовиться к развитию событий, однако не считают их неизбежными.

Разработчики также прогнозируют активность демократов в Конгрессе США, которые могут попытаться ограничить применение передовых ИИ-технологий вплоть до запрета сверхразума. Идея введения механизма экстренного отключения таких систем, по данным издания, находит поддержку у представителей обеих партий и части бизнеса.

Реальный прецедент в Южной Корее

7 октября The Wall Street Journal писала, что хакеры атаковали с помощью ИИ-агентов крупнейшие банки Южной Кореи. Злоумышленники поразили как минимум семь южнокорейских финансовых компаний, получив доступ к личной информации 68 000 человек.

По данным издания, следователи обнаружили признаки использования китайского инструмента кибербезопасности Artex AI. Национальное полицейское агентство Южной Кореи начало расследование произошедшего. Среди похищенных данных оказалась информация о годовых доходах некоторых клиентов и лимитах по потребительским кредитам. Власти пока не установили личности злоумышленников. Атаки проводились более чем с двух десятков интернет-адресов примерно в 12 странах, включая США, Японию и Германию.

• Моделирование кризисных сценариев в OpenAI и Anthropic
• Опасения общественной реакции на фоне отсутствия регулирования
• Дискуссия о механизме экстренного отключения ИИ