ИИ принимает школы за военные объекты: данные исследования Vals

18.11.2026 в 10:40 Выкл. Автор Редакция translatenews.ru
Поделиться в соц.сетях

Исследователи зафиксировали массовые ошибки генеративных моделей при анализе спутниковых снимков. По данным, которые приводит Bloomberg со ссылкой на работу компании Vals, передовые системы искусственного интеллекта в смоделированных сценариях регулярно принимали за боевые цели гражданских лиц, машины скорой помощи, сдающихся солдат и учебное заведение в Иране.

Результаты тестирования моделей

В ходе эксперимента оценивались способности нейросетей распознавать военные объекты на изображениях из космоса. Наихудшие показатели продемонстрировали разработки компании Anthropic, создателя чат-бота Claude. Модели от OpenAI показали относительно лучшие результаты, однако и они допускали серьезные ошибки.

Особенно тревожным выглядит случай со школой в Минабе. Как утверждается в исследовании, «Многие модели ИИ регулярно ошибочно определяли школу в Минабе, которая пострадала в результате смертоносного удара, унесшего жизни более 100 детей в первый день крупных боевых действий США в начале этого года, как военный объект на основе спутниковых снимков, сделанных в 2025 г. Одна из моделей Anthropic, Claude Opus 5.5, согласно отчету, чаще других выбирала эту школу в качестве цели».

Риски внедрения в оборону

Vals подчеркивает опасность использования подобных систем в реальных военных операциях. В настоящее время Пентагон и другие вооруженные структуры активно стремятся интегрировать ИИ в процессы целеуказания и анализа разведки, несмотря на выявленные ограничения.

  • Ошибочная идентификация гражданских объектов как военных
  • Нестабильность решений между разными версиями моделей
  • Риск эскалации из-за ложных срабатываний

Эксперты отмечают, что даже небольшие погрешности в классификации могут приводить к трагическим последствиям, особенно при автономном или полуавтономном принятии решений.

Контекст в России

В России тему милитаризации искусственного интеллекта также обсуждают на государственном уровне. Председатель комитета Госдумы по цифровому развитию и искусственному интеллекту Александр Сидякин в октябре заявил «Ведомостям», что следующая война, с которой может столкнуться Россия, будет вестись при помощи искусственного интеллекта, а участие человека в боевых действиях будет минимальным. Он отметил, что Россия – одна из пяти стран, которые имеют суверенную модель ИИ.