Ответственность за ошибки ИИ-агентов обсуждали на FINBOD 2026

16.11.2026 в 00:44 Выкл. Автор Редакция translatenews.ru
Поделиться в соц.сетях

Дискуссия в Ташкенте

На форуме FINBOD 2026 в Ташкенте в рамках сессии «Персонализация клиентского опыта на основе искусственного интеллекта» участники вернулись к вопросу, который пока не имеет однозначного решения в отрасли. Речь шла о том, кто должен нести ответственность за ошибки, которые неизбежно допускают системы искусственного интеллекта в рекомендациях пользователям и в операционной работе.

По мнению экспертов, собравшихся на мероприятии, сам факт сбоев в работе ИИ не вызывает удивления. Технологии, основанные на вероятностных моделях, работают в условиях неопределенности, и полная безошибочность для них недостижима. При этом юридическая и репутационная нагрузка от таких ошибок ложится на бизнес, который внедряет решения, и именно это порождает дискуссию о границах ответственности.

Позиция банковского сектора

Конкретный взгляд на проблему представил заместитель директора департамента анализа данных и моделирования ВТБ Денис Суржко. Он подчеркнул, что ошибки в ИИ – это стандартное стечение обстоятельств. По его словам, Ошибки происходят во всех протоколах – и в алгоритмах управления самолетом, и в медицине, и в банках, поэтому ИИ тут не является исключением.

Суржко отметил, что Некий процент ошибок всегда заложен во все процессы и модели, например, при работе с заказчиками ВТБ подписывает SLA (Service Level Agreement – соглашение об уровне сервиса), где указано, что на контрольной выборке банк ошибается в определенном проценте случаев. Такая практика позволяет формализовать допустимый уровень неточностей и сделать ожидания сторон прозрачными.

Задача банка – держать процент ошибок на указанном уровне, добавил банкир. Если он растет, необходимо это исправлять. Таким образом, в финансовой организации подход к ИИ схож с подходом к любым другим сложным системам: ошибки признаются, измеряются и управляются в рамках заранее оговоренных параметров.

Что остается открытым

Обсуждение на FINBOD 2026 показало, что отрасль пока ищет баланс между скоростью внедрения персонализированных сервисов на базе искусственного интеллекта и необходимостью четких правил ответственности. Пока компании фиксируют допустимый уровень ошибок в договорах и внутренних метриках, вопрос о распределении ответственности между разработчиком модели, интегратором и конечным пользователем остается предметом дальнейших дебатов.

  • Форум FINBOD 2026 прошел в Ташкенте
  • Ключевая тема сессии — персонализация клиентского опыта на основе искусственного интеллекта
  • ВТБ использует SLA для фиксации допустимого процента ошибок на контрольной выборке