Ответственность за ошибки ИИ-агентов обсуждали на FINBOD 2026
16.11.2026 в 00:44Дискуссия в Ташкенте
На форуме FINBOD 2026 в Ташкенте в рамках сессии «Персонализация клиентского опыта на основе искусственного интеллекта» участники вернулись к вопросу, который пока не имеет однозначного решения в отрасли. Речь шла о том, кто должен нести ответственность за ошибки, которые неизбежно допускают системы искусственного интеллекта в рекомендациях пользователям и в операционной работе.
По мнению экспертов, собравшихся на мероприятии, сам факт сбоев в работе ИИ не вызывает удивления. Технологии, основанные на вероятностных моделях, работают в условиях неопределенности, и полная безошибочность для них недостижима. При этом юридическая и репутационная нагрузка от таких ошибок ложится на бизнес, который внедряет решения, и именно это порождает дискуссию о границах ответственности.
Позиция банковского сектора
Конкретный взгляд на проблему представил заместитель директора департамента анализа данных и моделирования ВТБ Денис Суржко. Он подчеркнул, что ошибки в ИИ – это стандартное стечение обстоятельств. По его словам, Ошибки происходят во всех протоколах – и в алгоритмах управления самолетом, и в медицине, и в банках, поэтому ИИ тут не является исключением.
Суржко отметил, что Некий процент ошибок всегда заложен во все процессы и модели, например, при работе с заказчиками ВТБ подписывает SLA (Service Level Agreement – соглашение об уровне сервиса), где указано, что на контрольной выборке банк ошибается в определенном проценте случаев. Такая практика позволяет формализовать допустимый уровень неточностей и сделать ожидания сторон прозрачными.
Задача банка – держать процент ошибок на указанном уровне, добавил банкир. Если он растет, необходимо это исправлять. Таким образом, в финансовой организации подход к ИИ схож с подходом к любым другим сложным системам: ошибки признаются, измеряются и управляются в рамках заранее оговоренных параметров.
Что остается открытым
Обсуждение на FINBOD 2026 показало, что отрасль пока ищет баланс между скоростью внедрения персонализированных сервисов на базе искусственного интеллекта и необходимостью четких правил ответственности. Пока компании фиксируют допустимый уровень ошибок в договорах и внутренних метриках, вопрос о распределении ответственности между разработчиком модели, интегратором и конечным пользователем остается предметом дальнейших дебатов.
- Форум FINBOD 2026 прошел в Ташкенте
- Ключевая тема сессии — персонализация клиентского опыта на основе искусственного интеллекта
- ВТБ использует SLA для фиксации допустимого процента ошибок на контрольной выборке