Брэд Смит требует международного контроля и аварийной остановки ИИ

Президент Microsoft Брэд Смит выступил за значительное ужесточение надзора за технологиями искусственного интеллекта. В интервью BBC он подчеркнул, что текущий уровень регулирования ИИ выглядит несоразмерным рискам, которые несут куда более простые устройства.

Сравнение с бытовой техникой

По словам Брэда Смита, «Сейчас ваша стиральная машина подчиняется большему количеству правил безопасности, чем искусственный интеллект. Каждая упаковка молока, которую вы видите в продуктовом магазине, подлежит соблюдению требований безопасности и проверкам». Эта аналогия стала ключевой в его аргументации о необходимости срочных мер.

Предложения по безопасности

Брэд Смит считает необходимым разработать международные стандарты безопасности ИИ. Он предлагает обязать компании внедрять механизмы экстренной остановки систем искусственного интеллекта в случае выхода их из-под контроля. Также глава Microsoft выступил за законодательное требование сообщать о подобных инцидентах и уведомлять пострадавших, а новые ИИ-продукты проверять с привлечением независимых государственных экспертов.

Президент Microsoft назвал искусственный интеллект одновременно «инструментом и оружием», которое нуждается в срочном регулировании. По его мнению, ведущую роль в разработке международных правил могла бы сыграть Великобритания благодаря своему Институту безопасности искусственного интеллекта.

Разногласия с Вашингтоном

Позиция Брэда Смита расходится с подходом президента США Дональда Трампа, который выступает за саморегулирование отрасли, чтобы американские компании не уступили конкурентам из Китая. При этом глава Microsoft поддержал недавнее соглашение крупнейших американских технологических компаний о сотрудничестве с независимыми аудиторами, но подчеркнул, что этих мер уже недостаточно.

«Главная проблема любой системы саморегулирования заключается в том, что добросовестные компании будут делать то, что от них требуется. Беспокоиться нужно о менее ответственных компаниях», – заключил Смит.

9 октября Axios писал, что руководители ведущих американских компаний в сфере искусственного интеллекта моделируют сценарии общественных протестов и политического кризиса на случай масштабной кибератаки.