Содержание
Anthropic, разработчик Claude, обсуждает сотрудничество с британским стартапом Fractile. Компания делает ставку на SRAM-подход к ускорению инференса: Fractile заявляет цель — до 100 раз быстрее и в 10 раз дешевле по сравнению с решениями NVIDIA Groq.
Что точно известно, а что пока на уровне переговоров
Факт первый: разговоры идут. По данным The Information, Anthropic находится на ранней стадии переговоров с Fractile.
Факт второй: у Fractile пока нет железа, на которое можно опереться цифрами из лаборатории. В публикации говорится, что стартап ещё не разработал тестовые чипы. То есть заявления про 100x и 10x — это целевые показатели архитектуры, а не результаты независимых бенчмарков.
Факт третий: Anthropic уже снижает риски, не завязываясь на одного поставщика. Сейчас компания использует чипы NVIDIA, Google и Amazon для своей инфраструктуры.
Memory Compute Fusion: ставка на SRAM и меньше походов в DRAM
Fractile продвигает то, что называет Memory Compute Fusion Architecture. Идея простая по смыслу и сложная по реализации: меньше гонять данные во внешнюю DRAM и чаще держать рабочие наборы внутри чипа. Это снижает зависимость от off-chip памяти и бьёт по задержкам, которые часто упирают инференс в «узкое горлышко».
Ключевой элемент подхода — собственная SRAM-технология. По описанию в утечке, концепция близка к тому, как устроены inference-ускорители с большими объёмами SRAM и высокой внутренней пропускной способностью.
С чем сравнивают: параметры Groq 3 LPU, которые озвучивает NVIDIA
Сравнение в утечке идёт с Groq-направлением у NVIDIA. Компания называет Groq 3 LPU ускорителем инференса и приводит конкретные числа по памяти и шинам.
- SRAM: 500 МБ
- Пропускная способность SRAM: 150 ТБ/с
- Scale-up bandwidth: 2,5 ТБ/с
Отдельно упоминается стойка Groq 3 LPX Rack: в ней 256 LPU и суммарно 128 ГБ SRAM. Логика понятна: много быстрой SRAM и высокая полоса дают низкую задержку и высокий темп выдачи токенов, что критично для инференса.
Почему Anthropic вообще смотрит в сторону «своего» железа
Спрос на вычисления для ИИ растёт, и крупные игроки всё чаще думают о чипах под свои модели и свои профили нагрузки. В случае Anthropic это выглядит как попытка расширить портфель не только поставщиками, но и технологиями.
При этом компания не «срывается с якоря» уже сейчас. В данных упомянута сделка Anthropic с Broadcom на уровне multi-gigawatt, а также то, что в портфеле вычислений может появиться четвёртый поставщик — AMD.
Команда Fractile, по имеющимся данным, собрана из инженеров с бэкграундом в NVIDIA, Graphcore и Imagination Technologies.
Ключевое ограничение на сегодня звучит прямо: у Fractile ещё нет тестовых чипов, и переговоры с Anthropic остаются ранними.
