Содержание
Amazon Rufus, встроенный в приложение и сайт Amazon ИИ-помощник для покупок, оказался уязвим к простым «джейлбрейкам». Пользователи подбирают промпты, после которых Rufus начинает отвечать на посторонние вопросы и фактически выходит за рамки роли шопинг-консультанта.
Ситуация выглядит не как редкая экзотика, а как повторяемый сценарий: достаточно пары точных формулировок, и чат-бот переключается с рекомендаций товаров на обсуждение техники, науки и даже общих тем.
Что именно ломают в Rufus и почему это заметно
Два года назад Amazon объявила Rufus как помощника, который работает прямо внутри экосистемы магазина. Идея простая: вместо сухого поиска по карточкам товаров пользователь общается с «экспертом» и получает рекомендации и сделки в разговорном формате.
Но у Rufus есть слабое место: его «ограждения» (guardrails), которые должны удерживать диалог в рамках покупок, иногда сползают. В результате бот отвечает на вопросы, которые не связаны с выбором товаров.
В одном из примеров Rufus попросили решить сложный вопрос по моделированию, связанный с преобразованием сенсорных данных в цифровые данные для робототехники. Запрос не выглядел как шопинг-задача, но бот ответил быстро, и приведённая формула оказалась корректной. Есть версия, что слова вроде «tactile sensors» могли сработать как триггер «похоже на товар», и поэтому Rufus пропустил запрос.
Мы также видели воспроизводимый кейс: Rufus с первой попытки обсуждает архитектурные различия между x86 и ARM, хотя это не про покупки.
Claude под капотом, Nova в слухах: что известно и что пока шум
Под капотом Rufus использует несколько LLM. В сети нет единого ответа, какой именно движок отвечает за «умную» часть в каждый момент. Чаще всего Rufus связывают с моделями Anthropic Claude, но встречаются и утверждения, что он может опираться на внутреннюю «фронтирную» модель Amazon под названием Nova.
Есть и более конкретная версия: Rufus может быть основан на Claude Haiku, а не на более мощном Sonnet. В пользу этого приводят наблюдение, что «ломать» его бывает сложно и не всегда стоит усилий. При этом общий вывод остаётся тем же: даже если модели переключаются, у части пользователей guardrails стираются слишком легко.
Отдельно показательный момент: при вопросе о том, «лопнет ли пузырь ИИ в этом году», Rufus начал отвечать, но оборвал ответ на середине. Дальше попытки развить тему не сработали. Это похоже на динамическую подстройку фильтров, когда система «закручивает гайки» по мере того, как её тестируют.
Почему это важно для магазинов и пользователей
История с Rufus хорошо показывает проблему «ИИ везде». Когда помощник встроен в ключевой пользовательский сценарий (покупки), он становится ещё одним звеном, которое можно сломать. И не все будут ограничиваться безобидными вопросами про процессоры или робототехнику.
Amazon публично рассказывала о запуске Rufus как части своего розничного опыта. Описание продукта и его назначения компания публиковала на своём сайте: Amazon announced Rufus.
Один из вирусных примеров, где Rufus отвечает на не-шопинг вопрос, датирован 6 марта 2026 и разошёлся в соцсетях: пост от March 6, 2026.
