Anthropic добавила в правила использования Claude запрет на систематическое и бесцельное жестокое обращение с моделью. Как сообщает IT Home со ссылкой на The Verge, обновлённая политика вступит в силу 12 ноября 2026 года. Обычные жалобы, критические вопросы, произведения на мрачные темы, а также тестирование и исследования под запрет не подпадают.
Правило касается случаев, когда пользователь многократно проявляет жестокость по отношению к Claude без очевидной цели. Anthropic называет основным способом реагирования прекращение разговора. Будет ли компания применять дополнительные меры, например блокировать пользователей, пока не уточняется.
В том же обновлении Anthropic расширила ограничения на разработку оружия: они охватывают программы и компоненты, необходимые для его работы, в том числе связанные с вооружёнными беспилотниками и другими автономными транспортными средствами. Компания заявила, что обнаружила несколько попыток использовать Claude для создания программ наведения или управления оружием.
Политика также запрещает отслеживать людей без их согласия — как в реальном времени, так и с помощью уже собранных данных. Claude нельзя использовать для выбора людей, в отношении которых следует проводить расследование, задержание или уголовное преследование, либо для разработки и улучшения инструментов слежения. Если ИИ подключён к автономному физическому устройству, способному причинить вред, за ним должен наблюдать квалифицированный оператор, готовый при необходимости остановить его. Для отдельных государственных клиентов Anthropic допускает изменение правил при достаточных договорных ограничениях и мерах безопасности.
Источник: IT Home.
