ООН и Красный Крест бьют тревогу: машины не должны решать, кому жить

ООН и Международный комитет Красного Креста (МККК) выступили с экстренным совместным заявлением, в котором потребовали как можно скорее ввести юридически обязательные ограничения для автономных систем вооружений. Речь идет о технологиях, способных выбирать и поражать цели без участия человека.

Совместное обращение сделали генеральный секретарь ООН Антониу Гутерриш и президент МККК Мирьяна Сполярич. Об этом сообщило агентство Reuters.

Красная линия уже близко

Глава ООН сделал жесткое предупреждение. «Сейчас мы опасно близки к пересечению моральной красной линии – автономному выбору людей в качестве целей машинами», — заявил Антониу Гутерриш. По его мнению, переговоры о регулировании подобных систем необходимо запускать немедленно и закреплять в них четкие запреты и ограничения.

На следующей неделе в Женеве представители государств соберутся, чтобы обсудить возможные новые правила. Дискуссия приобретает особую актуальность на фоне участившегося применения искусственного интеллекта и частично автономных вооружений в военных конфликтах.

• Украина
• Судан
• сектор Газа
• Иран
• страны Персидского залива

При этом полностью автономные оборонительные системы — например, противоракетные комплексы на боевых кораблях — уже стоят на вооружении нескольких государств. Однако данных об их применении непосредственно против людей пока нет.

Ответственность и риски ошибок

В ООН и МККК настаивают: окончательное решение о лишении человека жизни должно оставаться за человеком, а не за алгоритмом. Правозащитники также предупреждают, что ИИ-системы могут ошибаться, не распознавая раненых или сдающихся в плен военнослужащих. Кроме того, автономные технологии способны серьезно усложнить расследование военных преступлений и установление ответственных лиц.

Переговоры по автономным вооружениям идут в Женеве с 2014 года, однако специальные международные юридически обязательные нормы для таких систем до сих пор практически отсутствуют.

НАТО и восточный фланг

14 августа издание Politico сообщило, что НАТО планирует активно внедрять беспилотники с элементами ИИ для укрепления восточного фланга альянса. Дроны станут частью инициативы Eastern Flank Deterrence Initiative (EFDI), в рамках которой НАТО создает единую цифровую систему наблюдения вдоль границ с Россией и Белоруссией — от севера Финляндии до Черного моря.

Ожидается, что в эту сеть войдут тысячи дронов, датчиков и спутников, объединенных при помощи технологий искусственного интеллекта.