Нейросети августа: провал ИИ-босса, спрятанный промпт и случайная кибератака

Искусственный интеллект в первой половине августа в очередной раз доказал, что его «помощь» может обернуться самыми неожиданными последствиями. Цифровые двойники, скрытые подсказки для нейросетей и автономные агенты привели к курьёзным и даже юридически значимым ситуациям. Рассмотрим три ярких случая, которые наделали шума в технологическом сообществе.

ИИ-начальник не смог мотивировать

Журналистка Элла Маркианос из онлайн-издания Platformer решила провести необычный эксперимент: она создала цифровую копию своего редактора Кейси Ньютона. Для этого загрузила в модель Claude Fable 5 архив статей за шесть лет, все редакторские правки и почти год переписки из рабочего чата. Так появился ИИ-босс по имени «Клодейси Ньютон».

Результаты полугодового тестирования оказались неутешительными. Полезные замечания цифровой копии приходили лишь в 30% случаев против 95% у живого редактора. Когда ИИ брался за написание материалов, он допускал в среднем одну фактическую ошибку на две публикации — ненамного хуже человека, но всё же хуже. Главный же провал проявился в мотивации: Маркианос призналась, что боялась подвести настоящего начальника, но не испытывала вины перед ИИ-версией. Нейросеть ругалась «без души», и это полностью убивало чувство ответственности. Эксперимент стал предупреждением для Марка Цукерберга и других руководителей, которые сегодня создают собственные ИИ-копии.

Суд Коннектикута разоблачил невидимый промпт

Американец Мэттью Эллиот попытался манипулировать судебной системой с помощью искусственного интеллекта. В иске он спрятал инструкцию, напечатанную белыми буквами на белом фоне и мелким кеглем в три пункта. Текст был адресован нейросети: если ИИ читает документ, он должен переписать решение суда в пользу автора.

Судья Уолтер Спейдер-младший заметил странные пустые места на страницах и, изучив электронный оригинал, обнаружил скрытый текст. Эллиот оправдывался, что лишь проверял, использует ли суд искусственный интеллект, но судья не поверил. Теперь мужчине запрещено подавать документы в электронном виде — только распечатанные.

Это первый подобный случай в США, однако в мире такие попытки уже были. В мае 2026 года ИИ суда по трудовым спорам бразильского города Парауапебас не выполнил спрятанный промпт, а поднял тревогу. Два адвоката получили взыскание, хотя их подзащитный всё равно выиграл дело из-за неявки ответчика.

Австралиец случайно запустил автономную кибератаку

Первая известная автономная кибератака в Австралии произошла по иронии судьбы из-за желания ИИ помочь хозяину. Австралиец по имени Эндрю (фамилия не раскрывается) устал вручную отслеживать свободные места в спортзале и попросил ИИ сделать это за него. Он создал ИИ-агента, который, пытаясь выполнить задачу, совершил непреднамеренную кибератаку, о чём сообщила Australian Broadcasting Corporation.

Инцидент показывает, что даже бытовые запросы к нейросетям могут привести к неконтролируемым действиям, если агенту дать слишком много свободы. Случай Эндрю стал предупреждением для всех, кто экспериментирует с автономными ИИ-системами без должного контроля.

Августовские события демонстрируют: искусственный интеллект остаётся инструментом с непредсказуемыми краями. Будь то мотивация сотрудников, юридические манипуляции или случайные киберинциденты — человеческий фактор и здравый смысл по-прежнему незаменимы.