Британские ведомства тонут в потоке ИИ-обращений

Феномен AI clog в Великобритании

О росте количества обращений, созданных с помощью генеративного искусственного интеллекта, пишет The Guardian. В британской публичной сфере явление получило название AI clog, что переводится как «засорение ИИ».

По данным издания, «Депутаты парламента, местные власти, юристы, школы и другие организации получают множество жалоб, запросов и юридических исков, зачастую сложных для понимания», – говорится в материале. Раньше подготовка жалобы, подача заявления на работу или иного официального обращения требовала значительных усилий: нужно было разобраться в теме, заполнить форму, составить корректное письмо. Сейчас ИИ-боты позволяют сделать «экспертов из непрофессионалов». Нейросети дают доступ к бесплатному, «хотя не всегда надежному», юридическому консультанту, администратору или личному помощнику.

Как выглядит нагрузка на госорганы

Поток таких сообщений заметно увеличивает операционную нагрузку на государственные структуры. В Управлении комиссара по информации (ICO) обнаружили, что запросы, сгенерированные ИИ, могут быть «очень длинными, повторяющимися и содержать несвязанные комментарии или неверно направленные требования». Кроме того, ведомствам не всегда удается определить, какая именно информация в этих обращениях запрашивается.

Эксперты отмечают, что автоматизация формулировок снижает порог входа для жалобщиков, но одновременно ухудшает качество коммуникации с государством. Тексты часто избыточны, содержат повторы и логические несостыковки, что затрудняет их обработку и требует дополнительной верификации.

• Увеличение объема входящей корреспонденции
• Снижение читаемости и релевантности запросов
• Риск неверной адресации требований
• Дополнительные затраты времени на разбор ИИ-текстов

Параллели из судебной практики

Проблема не нова и выходит за пределы Великобритании. «Ведомости» писали в сентябре, что Верховный суд рекомендовал адвокатам проверять документы после использования ИИ. Тогда при изучении содержания документов сторон ВС обнаружил в отзыве представителя кредитора ссылку на пункт постановления пленума ВС РФ, которого в действительности не существует.

Случай иллюстрирует системный риск: нейросети могут генерировать правдоподобные, но недостоверные ссылки и формулировки, что повышает требования к проверке материалов, подготовленных с их помощью.