Содержание
Dell Pro Max with GB10 собрали в домашний AI-кластер из двух мини-ПК: связка получила 256 ГБ единой памяти и 200-гигабитную сеть Nvidia ConnectX 7. По тестам Tom’s Hardware, такая конфигурация запускает крупные локальные LLM, которые уже не помещаются в один узел на 128 ГБ.
Это не история про «игрушечный сервер под столом». Скорее про новый класс домашнего железа для тех, кто гоняет большие open-source модели локально. Один GB10 хорош для моделей, которые целиком влезают в 128 ГБ памяти. Два узла уже дают пространство для экспериментов с 200-300-миллиардными MoE-моделями.
Зачем связывать два GB10 вместо сборки с видеокартами
Главная причина простая: большой пул VRAM на дискретных GPU быстро превращает сборку в дорогой и шумный сервер. Чтобы выйти хотя бы на 128 ГБ видеопамяти, нужны дорогая платформа, несколько карт, нормальные PCI Express-линии и питание с запасом.
Для системы на нескольких профессиональных GPU обычно берут Threadripper Pro или Epyc. Сначала платишь за процессор, плату и DDR5. Потом добавляешь видеокарты. Если идти выше 128 ГБ VRAM, одни Nvidia GPU легко уводят бюджет за $20 000, то есть около 1,8 млн рублей, даже при сборке на старых 48-гигабайтных Ada-картах.
Есть и бытовая сторона. Четыре карты с турбинным охлаждением под нагрузкой — сомнительные соседи в кабинете. Питание тоже упирается в розетку: стандартная американская линия на 15 А даёт максимум 1800 Вт. Для домашней лаборатории это уже территория компромиссов.
Кластер из двух Dell Pro Max with GB10 стоит дешевле такого GPU-сервера. Конфигурация с 4-ТБ SSD оценена в $6332 за один узел, то есть около 570 000 рублей. Пара машин обойдётся в $12 664, около 1,1 млн рублей, плюс примерно $50 за QSFP-кабель.
Характеристики Dell Pro Max with GB10
Dell почти повторяет шаблон Nvidia DGX Spark, но добавляет две практичные мелочи: индикатор питания на передней панели и решётки, которые не цепляют одежду или микрофибру. У референсного DGX Spark такой индикатор отсутствует, а металлические панели ведут себя менее дружелюбно.
В комплекте Dell даёт 280-ваттный адаптер USB-C. Это на 40 Вт больше блока питания у референсного DGX Spark. Данных о повышенном TDP или более высоких частотах нет.
- CPU: Nvidia GB10, 10 ядер Arm Cortex-X925
- GPU: Nvidia Blackwell, 6144 CUDA-ядер
- Память: 128 ГБ LPDDR5X на один узел
- Накопитель: 4 ТБ PCIe Gen 4 NVMe SSD
- Сеть: Nvidia ConnectX 7 Smart NIC, 200 Гбит/с через QSFP
- Проводная сеть: 10GbE через RJ45
- Беспроводные интерфейсы: Wi-Fi 7 и Bluetooth 5.4
- Порты: три USB 3.2 Gen2x2 Type-C с DisplayPort Alt Mode и HDMI 2.1b
- ОС: Nvidia DGX OS на базе Linux
- Габариты: 150 x 150 x 51 мм
Dell поставила SSD PCIe Gen 4, хотя ранний DGX Spark стартовал с Gen 5. По данным тестировщиков, Nvidia тоже перешла на Gen 4 в референсных системах из-за ситуации с ценами на NAND. Поэтому этот пункт выглядит не как урезание, а как прагматичный выбор.
200 Гбит/с есть, но настройка не похожа на plug-and-play
GB10-системы используют ConnectX 7 как сетевой хребет для распределённых вычислений. Интерфейс поддерживает RoCE — RDMA over Converged Ethernet. Для AI-кластера это важно: узлы передают данные напрямую и снижают лишние накладные расходы.
Есть ограничение, о котором легко забыть. Nvidia указывает на форумах DGX Spark, что GB10-системы работают с Ethernet и RoCE, но не с InfiniBand. Если дома уже лежит InfiniBand-коммутатор, он не превращает эти коробки в готовый кластер.
Связь внутри платформы тоже устроена нетипично. GB10, судя по тестам, выводит максимум PCIe 5.0 x4. Чтобы получить 200 Гбит/с на одном QSFP-порту, две линии x4 объединяют за физическим портом ConnectX 7. Поэтому система видит один физический порт как два логических интерфейса.
Tom’s Hardware столкнулся с просадкой RDMA-скорости после первой настройки. Оба узла показывали актуальное состояние через DGX Dashboard, но второй Pro Max держал обновление fwupd за «phasing fence» в apt. После принудительного обновления подтянулись новые прошивки, а NCCL-тесты вышли примерно на ожидаемые 25 ГБ/с для 200-гигабитного линка.
То есть кластер работает стабильно после настройки. Но это не устройство из серии «вставил кабель и забыл». Нужны аккуратная конфигурация сетевых интерфейсов, SSH без пароля и проверка пропускной способности через NCCL.
Крупные модели: DeepSeek v4 Flash и MiniMax M2.7
Для распределённого инференса использовали vLLM с tensor parallelism. Этот режим раскладывает веса модели по GPU разных узлов. В экосистеме DGX Spark уже есть community-проекты spark-vLLM-docker и sparkrun, а SGLang остаётся альтернативой.
Первой моделью стала DeepSeek v4 Flash. Это MoE-модель на 284 млрд параметров, из которых 18 млрд активны на токен. Заявленное окно контекста достигает 1 млн токенов, но vLLM на этой конфигурации дал потолок 400 000 токенов.
Рецепт vLLM использовал встроенное multi-token prediction. За счёт этого скорость декодирования почти не падала даже при контексте выше 200 000 токенов. В пересчёте на текст это примерно 333 страницы A4.
Вторая модель — четырёхбитная квантизация CyanKiwi для MiniMax M2.7. У неё 230 млрд параметров всего и 10 млрд активных параметров. Контекстное окно составило 200 000 токенов, ровно столько vLLM выдал после инициализации на кластере.
MiniMax M2.7 вела себя более ожидаемо. Без преимущества multi-token prediction время до первого токена росло, а скорость в tokens per second снижалась ближе к пределу контекста. Но связка всё равно осталась пригодной для локальной песочницы с тяжёлыми моделями.
Питание и шум ближе к рабочей станции, чем к серверной
Во время тестов два Pro Max with GB10 потребляли от розетки примерно 375-415 Вт под нагрузкой инференса. Это немного выше TGP одной RTX 5080 без учёта остального ПК.
Шум тоже не ушёл в серверную зону. Замер показал около 40 дБА на расстоянии 18 дюймов, то есть примерно 46 см. Для кабинета или домашнего рабочего места это терпимый уровень, особенно рядом с четырьмя турбинными GPU.
Если расширять кластер дальше двух узлов, громче самих GB10 может оказаться сетевое железо на 200/400 Гбит/с. Такие коммутаторы чаще проектируют для стойки, а не для комнаты, где человек сидит весь день.
Для частного покупателя альтернатива есть: Asus Ascent GX10, по оценке Tom’s Hardware, даёт схожий кластер меньше чем за $10 000, около 900 000 рублей. Dell Pro Max with GB10 в протестированной версии стоит $6332 за узел и официально представлен на американском сайте Dell: страница Dell Pro Max with GB10.
