Anthropic введет запрет на оскорбления нейросети Claude

Anthropic опубликовала обновленные правила работы с языковой моделью Claude. В новой редакции документа появляется запрет на систематическое и бессмысленное оскорбительное или жестокое обращение с моделями компании. Изменения вступают в силу 12 ноября.

Когда модель сможет прервать диалог

В Anthropic уточнили, что ограничение будет применяться лишь в крайних ситуациях, когда пользователь неоднократно демонстрирует жестокость к нейросети без видимой причины. Согласно обновленным правилам, Claude получит право завершать беседу, если в ней появляется грубость. При этом в компании не уточнили, будут ли применяться дополнительные меры, в том числе блокировка аккаунтов. Обычное раздражение, споры с моделью и схожие ситуации под действие нового правила не подпадают.

Расширение списка запрещенного использования

Параллельно Anthropic расширила перечень недопустимых сценариев применения Claude. Теперь модель нельзя использовать для вмешательства в избирательные процессы, распространения дезинформации о кандидатах и голосовании, а также для выдавания себя за кандидатов или сотрудников избирательных комиссий. Запрещено и применение нейросети для снижения явки избирателей.

Кроме того, в обновленном документе отдельно прописаны ограничения, связанные с приватностью и безопасностью. Запрещается использовать Claude для слежки за людьми без их согласия и для принятия решений о задержании или привлечении людей к ответственности.

Биолаборатория на фоне изменений правил

18 сентября Reuters сообщил о тайном создании Anthropic биолаборатории для исследований в области искусственного интеллекта и фармацевтики. По данным собеседников агентства, компания намерена разрабатывать лекарства, в том числе от редких и неизлечимых болезней, с помощью нейросетей. Как пишет Reuters, глава направления науки о жизни Anthropic Эрик Каудерер-Абрамс 15 сентября подтвердил наличие стартапа в этой сфере.