DeepSeek открыла исходный код инструментов для вычислительной платформы Huawei Ascend: компилятора TileLang, вычислительных библиотек и средств обмена данными между устройствами. Как сообщает IT Home со ссылкой на объявление компании, каждому из опубликованных компонентов соответствует инструмент, ранее открытый для платформы Nvidia.
Подход TileLang сначала проверили на платформе Nvidia. Сейчас с его помощью реализовано большинство операторов, используемых при обучении моделей серии DeepSeek V4. Версия для Ascend позволяет работать с низкоуровневыми инструкциями Ascend C через язык более высокого уровня. По словам DeepSeek, для каждого оператора TileLang, используемого при обучении её моделей, подготовлена производительная реализация на Ascend. На какой платформе проходит обучение V4, компания не уточнила.
В опубликованный набор также входят DeepGEMM для матричных вычислений и DeepEP для обмена данными между устройствами. TileKernels содержит векторные операции и операции доступа к памяти, FlashMLA — операции разреженного внимания для работы с длинным контекстом, а DeepSelect — инструменты отбора данных. По заявлению DeepSeek, в ряде ключевых тестов производительность вычислений и обмена данными у этих компонентов приблизилась к пределу оборудования.
Источник: IT Home.
