МВД предупредило о скрытом формировании цифровых профилей в ChatGPT

Предупреждение МВД о памяти нейросетей

Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД РФ обратило внимание на то, что нейросеть ChatGPT может формировать персонализированные цифровые досье на пользователей. Сигнал прозвучал после анализа практики использования чат-ботов, где люди раскрывают чувствительную информацию.

Что показала проверка

Как говорится в сообщении управления, «Общаясь с искусственным интеллектом, пользователи нередко делятся личными переживаниями, служебными документами, спрашивают советы в финансовых вопросах и состоянии здоровья. Однако далеко не все задумываются, что часть этих сведений может сохраняться в персонализированной памяти ИИ». Ссылка сделана на исследование The Algorithmic Self-Portrait.

По его данным, разработчик чат-бота OpenAI сохраняет личные сведения пользователей, формируя их цифровые портреты. Около 95% записей создавались без одобрения пользователя на сохранение, а у 91% в памяти учетных записей содержались сведения, относящиеся к персональным данным.

Риски и рекомендации

В полиции отмечают, что такая практика создает риски идентификации пользователей, даже если они используют псевдонимы. Отдельно выделяется угроза манипулирования памятью ИИ через внедрение ложных инструкций в обрабатываемые документы.

Для снижения рисков специалисты советуют:

• контролировать настройки памяти и персонализации ИИ-сервисов;
• не загружать в чат служебные документы и другую конфиденциальную информацию;
• обезличивать запросы, исключая реальные имена, адреса и иные идентифицирующие сведения;
• использовать временные чаты при обсуждении личных вопросов;
• периодически проверять сохраненную информацию в аккаунте.

Ранее «Ведомости» со ссылкой на исследование из Гарварда и Института Брукингса «Как развитие искусственного интеллекта влияет на налогово-бюджетную политику» писали о возможных изменениях в структуре бюджетных доходов, росте безработицы и обострении неравенства на фоне развития ИИ.