Независимые лаборатории проверят ИИ на духовность и нравственность

Российские IT-компании смогут передавать независимым испытательным лабораториям проверку больших моделей искусственного интеллекта на соответствие закону и традиционным духовно-нравственным ценностям. Как сообщают «Ведомости» со ссылкой на источники в одной из компаний — участников обсуждений, в профильной IT-ассоциации и на собеседника в Минцифры, для этого потребуется одобрение Минцифры.

Обсуждения проходили в конце июля — начале августа на площадке АНО «Цифровая экономика» в рамках подготовки подзаконных актов к принятому закону об ИИ. Министерство цифрового развития уже разработало базовые правила регулирования технологии.

Новые статусы и критерии оценки

Закон об ИИ, принятый 26 июля, вводит два специальных статуса для больших фундаментальных моделей — статус суверенной и статус национальной модели. Для получения любого из них модель должна подтвердить соответствие российскому законодательству и традиционным духовно-нравственным ценностям. Сам закон носит рамочный характер: основные правила функционирования ИИ в России будут установлены подзаконными актами.

Порядок подтверждения соответствия определит правительство. Как рассказывал 7 июля в ходе первого чтения законопроекта в Госдуме статс-секретарь — заместитель министра цифрового развития Иван Лебедев, в подготовке документов будут участвовать Минцифры, ФСБ и ФСТЭК, отвечающие в том числе за информационную и технологическую безопасность. Первый проект архитектуры соответствующих норм уже подготовлен. Порядок оценки будет содержать критерии, позволяющие определить, соответствует ли модель духовно-нравственным ценностям и задачам технологического развития страны.

Как будет устроена проверка

Прописывать духовно-нравственные ценности в отдельном акте не планируется. По словам источника, участвующего в обсуждении подзаконного акта, их перечень уже содержится в указе президента № 809. Вместо этого совместно с бизнесом будут разработаны специальные бенчмарки, с помощью которых российские большие фундаментальные модели будут тестировать на соответствие закону и ценностям.

Правкомиссия по цифровизации может создать испытательную лабораторию с подачи Минцифры. Процедуру проверки могут закрепить в акте правительства. ИИ-разработчик должен будет подать заявление и приложить следующие документы:

• описание архитектуры модели;
• сведения о разработчике;
• данные о механизмах фильтрации;
• другие материалы, предусмотренные процедурой.

Лаборатория приступит к экспертизе: проверит ответы модели с помощью бенчмарков и протестирует возможности обхода внутренних ограничений, в том числе с использованием промпт-инъекций — метода внедрения вредоносной инструкции во входные данные. Это должно сделать оценку российских больших фундаментальных моделей более прозрачной и единообразной.