Мир ищет баланс между безопасностью и развитием ИИ

Вопросы регулирования искусственного интеллекта сегодня находятся в центре внимания правительств по всему миру. Страны пытаются найти модель, которая защитит граждан, но не затормозит технологический прогресс. Об этом в интервью журналисту ИС «Вести» Марии Кудрявцевой заявил заместитель председателя правительства РФ – руководитель аппарата правительства Дмитрий Григоренко.

Разные подходы и скорость изменений

По словам вице-премьера, основная сложность заключается в темпах развития технологий. Государственным институтам трудно оперативно обновлять нормы и правила, когда отрасль меняется быстрее, чем правовая база. Дмитрий Григоренко отметил, что государства выбирают разные пути.

В качестве примера он привел Китай, где делают ставку на открытые модели, которые разработчики могут использовать для создания собственных сервисов. В Европе, по его словам, действует более жесткое регулирование, при этом сейчас там обсуждается его смягчение.

Что требует общество

Дмитрий Григоренко подчеркнул двойственную природу регулирования. С одной стороны, оно может сдерживать развитие технологий, с другой — обеспечивать гражданам необходимые гарантии безопасности. По его мнению, людям нужны понятные правила использования ИИ, возможность обжаловать решения систем и понимание того, куда обращаться в случае проблем.

Оценки экспертов и политиков

23 сентября глава OpenAI Сэм Альтман на заседании Совета Безопасности ООН заявил, что развитие систем ИИ может опередить способность человечества реагировать на происходящие изменения. Риск, по его словам, связан со слишком быстрым развитием ИИ. Альтман отметил, что значение этих рисков будет возрастать по мере приближения к созданию систем, которые смогут самостоятельно совершенствовать себя и последующие версии. В таком случае темпы развития технологий могут существенно увеличиться.

14 сентября председатель «Единой России», зампред Совбеза РФ Дмитрий Медведев назвал опасения по поводу стремительного развития ИИ реальными. Создатели генеративного ИИ, по его словам, опасаются прежде всего не гибели человечества, а последствий возможных аварий с участием разработанных на его основе систем.

12 сентября основатель SpaceX Илон Маск и Сэм Альтман поддержали предложение главы Anthropic Дарио Амодеи замедлить развитие ИИ из соображений безопасности. По мнению Дарио Амодеи, для сокращения связанных с технологией рисков недостаточно только инвестировать в меры безопасности. Необходимо также контролировать скорость развития возможностей ИИ, чтобы системы предотвращения рисков успевали совершенствоваться вместе с технологией.