Содержание
Acrab Agent Box — компактный мини-ПК из Сингапура для локального ИИ, который, по заявлению компании, тянет языковые модели на 100 млрд параметров без облака и серверной стойки.
Главная интрига не в размере корпуса. Acrab сравнивает систему с Nvidia DGX Spark за $5 000, то есть около 400 000 рублей. Стартап обещает близкую производительность, цену примерно на уровне одной пятой от DGX Spark и вдвое ниже энергопотребление. Точную розничную цену Agent Box компания пока не раскрыла.
G≡LIX 1 собрали под локальный вывод нейросетей
В основе Agent Box лежит собственный чип G≡LIX 1, который выпускают по 5-нм техпроцессу. Acrab делает упор не на универсальную производительность, а на инференс больших языковых моделей. То есть на запуск уже обученных моделей прямо на устройстве.
По конфигурации чип больше похож на маленькую систему-на-кристалле для edge AI, чем на обычный десктопный процессор. Внутри — 20-ядерный Arm CPU, графический блок на 3 TFLOPS и многоядерный NPU.
- CPU: 20 ядер Arm
- GPU: до 3 TFLOPS
- NPU: многоядерный блок для инференса LLM
- Память: единая высокоскоростная память с пропускной способностью 273 ГБ/с
- Кэш: 8 МБ L1 и L2 с пропускной способностью 768 ГБ/с
- Производительность: до 700 TOPS по заявлению Acrab
Заявленные 700 TOPS звучат солидно, но с такими цифрами всегда есть нюанс. TOPS хорошо смотрятся в презентации, но реальные LLM упираются не только в математику. Важны объём памяти, скорость доступа к KV-кэшу и оптимизация рантайма под конкретную модель.
Acrab отдельно говорит про VAE-векторное ускорение. Компания утверждает, что оно ускоряет обработку attention до трёх раз. Если это работает не только в демо, мини-ПК может быть интересен разработчикам агентов и локальных ассистентов.
Тест Gemma 26B: быстрее Mac Mini M4 Pro в prefill
В собственном тесте Acrab получила скорость 1 416,8 токена в секунду на конфигурации Gemma 26B A4B. Тест шёл с KV-кэшем на 40K и входом на 10K токенов. Для сравнения, Apple Mac Mini M4 Pro в этом сценарии показал 188,9 токена в секунду.
| Система | Сценарий | Заявленный результат |
|---|---|---|
| Acrab Agent Box | Gemma 26B A4B, 40K KV cache, 10K input | 1 416,8 токена/с |
| Apple Mac Mini M4 Pro | Тот же тест Acrab | 188,9 токена/с |
| Nvidia DGX Spark | Сравнение Acrab по классу устройства | $5 000, около 400 000 рублей |
Разница с Mac Mini M4 Pro в prefill — заявленные 7,5 раза. Prefill важен при длинном контексте: модель сначала прогоняет входной текст, а уже потом генерирует ответ. Для агентных сценариев это больное место, потому что ассистент держит историю, документы, команды и состояние среды.
Но это внутренний тест производителя. Независимых бенчмарков Agent Box пока нет. Мы бы не ставили его в одну полку с DGX только по цифрам из анонса. Тут нужна проверка на разных моделях, квантовании, длине контекста и стабильной нагрузке.
Мини-ПК рассчитан на агентов, роботов и умный дом
Acrab продаёт Agent Box не как ещё один NUC, а как основу для локального agentic AI. В комплект платформы входят AI-рантаймы, инструменты для разработчиков, возможности ОС, референсные дизайны и софт для оркестрации автономных агентов.
В демонстрациях компания показывала голосовые команды, которые создают и печатают 3D-модели. Ещё система управляла роботами-пылесосами и подключёнными устройствами: умными лампами, кондиционерами и замками.
Локальный инференс даёт понятный практический смысл. Пользователь не платит за каждый токен в облаке. Чувствительные данные остаются на устройстве. Ассистент может работать при плохом интернете и хранить персональную память рядом с владельцем.
Платформу хотят вынести за пределы настольного ПК. Acrab называет AI NAS, сетевые накопители, промышленных и сервисных роботов, а также умные автомобили. Для этого стартап планирует работать с производителями готового железа.
Вокруг компании пока остаётся мало публичных деталей. В уведомлениях об авторских правах к анонсу фигурирует CATL — крупнейший производитель батарей для электромобилей. Если это отражает реальную финансовую поддержку, у Acrab может быть ресурс не только на красивый прототип.
«Generative AI helped people find answers. Agentic AI will help them get things done», — сказал глава Acrab доктор Кен Пуа. Его вторая формулировка ещё точнее описывает ставку компании: Agent Box показывает сегодняшние возможности, а G≡LIX 1 и полный стек ПО нацелены на более широкий парк устройств.
