Содержание
Etched получила новое финансирование от SK Hynix и вышла на оценку $10,3 млрд. Стартап делает AI-чипы не для обучения моделей, а для инференса — той самой ежедневной работы нейросетей, когда они отвечают пользователю.
Это важная развилка для рынка AI-железа. Nvidia строит универсальные ускорители, которые хорошо тянут обучение и инференс. Etched идёт в более узкую сторону: процессоры под одну задачу, но с упором на память, задержки и энергопотребление.
Etched ставит на инференс вместо универсальных GPU
Etched утверждает, что обычные GPU часто тратят лишнюю энергию на инференсе, потому что несут слишком много универсальной логики. При этом крупным AI-моделям всё чаще не хватает памяти, особенно когда запросы идут потоком и система должна отвечать быстро.
Компания выросла из проекта бывших студентов Гарварда Гэвина Уберти, Роберта Вахена и Криса Чжу. Они не пытаются закрыть весь рынок AI-ускорителей сразу. Фокус простой: тяжёлый инференс для больших языковых моделей и близких архитектур.
По задумке Etched, стойка с такими чипами должна конкурировать не за красивые TFLOPS на слайде. Главная цель — быстрее гонять данные между вычислительными блоками и памятью. В инференсе задержка часто бьёт по ощущению сильнее, чем пиковая математика.
LVI и CSM: меньше напряжение, больше общей памяти
Новая архитектура Etched строится вокруг двух технологий: Low Voltage Inference и Cluster Scale Memory. Первая снижает рабочее напряжение математических блоков. Вторая связывает процессоры с большим общим пулом памяти через собственный низколатентный интерконнект.
Крис Чжу объясняет проблему через теплопакет. Чем выше загрузка FLOPS, тем больше энергии тянет чип. После этого включаются температурные ограничения, и частоты падают.
«Мы спроектировали новую архитектуру, чтобы математические блоки чипа работали при напряжении ниже половины от большинства AI-чипов. Это даёт кратный рост плотности FLOPS по сравнению с текущими AI-чипами», — заявил Чжу.
Etched отдельно критикует связку с HBM. Такая память даёт высокую пропускную способность, но не работает на скоростях SRAM при декодировании. Во время инференса задержки добавляют подсистема памяти и межчиповые соединения.
Ответ компании — гибрид HBM/SRAM и общий пул памяти CSM. Etched говорит, что такая схема снижает задержки mem2mem и сохраняет высокую интерактивность. При этом стартап хочет уйти от компромиссов SRAM-only чипов, 3D DRAM и оптических соединений.
- LVI: снижает напряжение вычислительных блоков и тепловую нагрузку.
- CSM: даёт чипам доступ к общей низколатентной памяти.
- HBM/SRAM: сочетает ёмкость HBM и быстрый доступ ближе к SRAM.
- Интерконнект: сокращает задержки при передаче данных между узлами.
Инвесторы дали почти миллиард долларов
Etched быстро набирает деньги под производство стоечных inference-систем. В 2023 году стартап привлёк $5,4 млн, в 2024 году — $120 млн, в 2025 году — $500 млн, а в 2026 году — ещё $300 млн.
Суммарное финансирование достигло примерно $925,4 млн. Последний раунд удвоил оценку компании с $5 млрд до $10,3 млрд. В раунде участвовали Sequoia Capital, Andreessen Horowitz, Jane Street, Diffusion, Argo и SK Hynix.
Для SK Hynix это логичный заход в историю про инференс. Компания зарабатывает на памяти для AI-систем, включая HBM. А Etched как раз строит архитектуру, где память и задержки стоят в центре продукта.
Роберт Вахен сказал, что раунд ускоряет производство inference-кластеров. Компания уже открыла площадку около Милпитаса: 80 000 кв. футов, или примерно 7 400 м², и мощность 10 МВт. У Etched больше 400 сотрудников, производство развёрнуто на Тайване, а заявленный спрос клиентов превышает $1 млрд.
Системы Etched рассчитаны на обычные большие языковые модели, mixture-of-experts и альтернативные архитектуры, включая Mamba. О деталях финансирования также писал Blocks & Files.
