Альтман на Совбезе ООН предупредил о неконтролируемом росте ИИ

На заседании Совета Безопасности ООН глава OpenAI Сэм Альтман заявил, что развитие систем искусственного интеллекта может опередить способность человечества реагировать на изменения. О выступлении сообщила Reuters со ссылкой на ЕРА / ТАСС. По мнению эксперта, ключевая угроза связана не с отдельным применением технологий, а с их общей динамикой.

Саморазвивающиеся системы и автоматизация разработки

Сэм Альтман подчеркнул, что риск заключается в слишком быстром развитии ИИ. Он отметил, что значение этих угроз будет возрастать по мере приближения к созданию систем, способных самостоятельно совершенствовать себя и последующие версии. В таком случае темпы развития технологий могут существенно увеличиться. Отдельно глава OpenAI обратил внимание на возможность автоматизации самого процесса создания искусственного интеллекта, что дополнительно усиливает скорость изменений.

Вопрос контроля над темпами обсуждается и в бизнес-сообществе. 12 сентября основатель SpaceX Илон Маск и Сэм Альтман поддержали предложение главы Anthropic Дарио Амодеи замедлить развитие искусственного интеллекта из соображений безопасности. Дарио Амодеи призвал снизить темпы разработки ИИ. По его мнению, для сокращения связанных с технологией рисков недостаточно только инвестировать в меры безопасности. Необходимо также контролировать скорость развития возможностей ИИ, чтобы системы предотвращения рисков успевали совершенствоваться вместе с технологией.

Оценка рисков в России

14 сентября председатель «Единой России», зампред Совбеза РФ Дмитрий Медведев назвал опасения по поводу стремительного развития ИИ реальными. Он указал, что создатели генеративного ИИ опасаются прежде всего не гибели человечества, а последствий возможных аварий с участием разработанных на его основе систем. По словам Дмитрия Медведева, программный продукт с продвинутой версией ИИ может использоваться для управления крупным производством или транспортным узлом. Ошибка такой системы, считает он, способна привести к масштабному ущербу — например, к столкновению самолетов или уничтожению АЭС.

• Самообучающиеся модели могут ускорить собственное развитие без внешнего контроля
• Автоматизация разработки ИИ повышает скорость появления новых возможностей
• Эксперты предлагают синхронизировать темпы роста технологий и мер безопасности