Содержание
Qualcomm HBC — новая архитектура для ИИ-ускорителей, где вычислительный блок ставят прямо под стек LPDDR DRAM. Компания обещает до 6x лучшую пропускную способность на ватт против HBM и более 200x емкости против SRAM на кристалле.
Звучит как очередная битва с «стеной памяти». Для ИИ это не абстракция. Математика в ускорителях растет быстрее, чем каналы к памяти. HBM помогает, но не всегда успевает за вычислительными блоками.
HBC переносит вычисления под стек памяти
Qualcomm строит HBC вокруг простого инженерного хода: ИИ-ускоритель выносят из большого SoC и кладут под стек LPDDR, а связь с памятью идет через TSV, то есть вертикальные соединения через кремний, чтобы сократить путь между данными и вычислительными блоками.
Идея не в том, чтобы просто заменить HBM на LPDDR. Qualcomm хочет убрать узкое место между памятью и ускорителем. В классической схеме данные приходится гонять через более длинные тракты. В HBC логика сидит почти под самой DRAM.
Компания не раскрыла абсолютную пропускную способность HBC. Это главный пробел в анонсе. Без числа в ТБ/с нельзя честно поставить HBC рядом с HBM3E или с DRAM-on-Logic от GUC.
Похожими схемами индустрия занимается давно. Производители DRAM уже пробовали near-memory compute. GUC недавно предложила DoL, где от одного до четырех слоев DRAM ставят поверх логики. Для такой схемы называли около 5 ТБ/с пропускной способности.
HBC против HBM и SRAM: заявленные отличия
Главная заявка Qualcomm звучит агрессивно, но пока без абсолютных цифр: HBC дает в шесть раз лучшую пропускную способность на ватт против HBM, а по емкости превосходит SRAM на кристалле более чем в 200 раз.
| Параметр | Qualcomm HBC | HBM | SRAM на кристалле |
|---|---|---|---|
| Пропускная способность на ватт | До 6x выше, по заявке Qualcomm | База сравнения Qualcomm | Абсолютных данных нет |
| Емкость | Более 200x против SRAM | Высокая, но требует отдельных стеков памяти | Быстрая, но ограниченная площадью кристалла |
| Упаковка | LPDDR-стек над логикой, связь через TSV | Нужны дорогие решения с интерпозером | Память находится прямо на кристалле |
На бумаге HBC пытается взять сильные стороны двух миров. От SRAM — короткую дорогу до вычислений. От стековой памяти — плотность и емкость. Qualcomm прямо говорит, что такой подход снижает потребление, нагрев и стоимость упаковки.
Но есть важная оговорка. Qualcomm пока не объяснила, что именно делает сам HBC-ускоритель. Это может быть узкий блок под трансформеры, более общий массив тензорных ядер или логика для подготовки данных при инференсе и обучении.
- Пропускная способность: абсолютное значение Qualcomm не раскрыла.
- Тип вычислений: компания не описала набор операций HBC-ускорителя.
- Сценарии: отдельно не названы обучение, инференс или конкретные модели.
Дорожная карта AI200, AI250 и разночтение с AI350
В дорожной карте Qualcomm ближайший ускоритель AI200 остается на LPDDR5X, а переход к HBC начинается со следующего поколения: AI250 получит HBC первого поколения и заявленный рост пропускной способности в 18 раз относительно AI200.
| Ускоритель | Память и архитектура | Заявленный параметр | Сроки |
|---|---|---|---|
| AI200 | LPDDR5X | 43 ТБ RAM на стойку | Позже в этом году |
| AI250 | HBC первого поколения | 18x пропускной способности против AI200 | Дата не раскрыта |
| AI300 / AI350 | HBC второго поколения | В раскрытых данных фигурирует 54x, база сравнения требует уточнения | Дата не раскрыта |
С названием старшего ускорителя есть разночтение. В заголовочных данных фигурирует AI350, а в описании дорожной карты рядом со вторым поколением HBC встречается AI300. Мы не склеиваем эти имена в один продукт без прямого подтверждения Qualcomm.
Для серверного ИИ это все равно важный ход. Qualcomm атакует не пиковые TOPS, а стоимость движения данных. В больших моделях именно память часто решает, простаивают ли вычислительные блоки или работают близко к потолку.
Тони Пиалис, исполнительный вице-президент и глава дата-центров Qualcomm, сформулировал ставку так: «Мы отделили ИИ-ускоритель от XPU и разместили XPU прямо под стеком DRAM. Это дает преимущества SRAM с плотностью и емкостью стековой памяти».
