Содержание
ASUS 1 апреля 2026 анонсировала UGen300 USB AI Accelerator — компактный USB-ускоритель для локального инференса, который выдаёт 40 AI TOPS и потребляет около 2,5 Вт в типичных задачах.
Идея простая: подключили по USB-C — и даже устройство без встроенного NPU получает отдельный «движок» для LLM и задач компьютерного зрения. ASUS говорит про кроссплатформенность и работу без облака, с упором на задержки и приватность.
Что это за устройство и чем оно отличается от «NPU в ноутбуке»
UGen300 — это внешний ускоритель, который берёт на себя часть ИИ-нагрузки и разгружает CPU и встроенные NPU хост-устройства. По формату это тонкий модуль размером 105 x 50 x 18 мм, подключение — через USB 3.1 Gen 2 Type-C.
Внутри стоит Hailo-10H. ASUS прямо позиционирует его как чип, оптимизированный под генеративные сценарии на краю: инференс LLM, vision-language задачи и похожие пайплайны. В списке примеров — генерация текста, суммаризация видео, триггеры событий, «voice to action» и восприятие в реальном времени.
Память 8 ГБ и ставка на стабильную пропускную способность
Ключевая деталь UGen300 — 8 ГБ LPDDR4 прямо на устройстве. ASUS отдельно подчёркивает, что это снижает риск упереться в общую системную память, как бывает у типичных NPU, и даёт более предсказуемую пропускную способность при сложных ИИ-проектах.
По заявлению компании, такой подход помогает и слабым хостам: ускоритель «подхватывает» тяжёлые задачи, чтобы система не проседала в параллельной работе.
Совместимость: Windows, Linux, Android и популярные фреймворки
ASUS заявляет plug-and-play и совместимость с Windows, Linux и Android. Из коробки обещают поддержку основных фреймворков: TensorFlow, PyTorch и ONNX.
Для быстрого старта компания готовит утилиту UGen Utility. В ней заявили валидацию на базе более чем 100 предобученных моделей. Ещё ASUS отсылает разработчиков к сообществу Hailo с туториалами и референс-дизайнами, но без конкретных сроков запуска этого набора.
Max Glover, Chief Revenue Officer of Hailo, прокомментировал анонс так: «By integrating the Hailo-10H into a ubiquitous USB device, ASUS brings the full power of AI and generative AI to everyone». По смыслу: ASUS и Hailo хотят сделать on-device ИИ более доступным и массовым за счёт привычного USB-формата.
Страница продукта уже доступна на сайте компании: ASUS UGen300 USB AI Accelerator. Цену и сроки начала продаж ASUS в анонсе не назвала.