SenseTime 30 октября открыла исходный код SenseNova Loop-9B-Preview — языковой модели с 9 млрд параметров. По результатам испытаний компании, она превзошла более крупную Qwen3.5-27B в трёх тестах, связанных с рабочими задачами и автоматизацией.

Изображение к статье: SenseTime открыла SenseNova Loop-9B-Preview: модель обошла Qwen3.5-27B в тестах компании

В модели используется архитектура Looped Transformer: часть её слоёв обрабатывает информацию повторно, используя общие параметры. Так SenseTime увеличивает глубину вычислений без соответствующего роста числа параметров. Первые и последние четыре слоя декодера остались обычными, а промежуточные заменены повторно используемым блоком. Компания также применила механизм mHC для передачи информации между этапами обработки.

Изображение к статье: SenseTime открыла SenseNova Loop-9B-Preview: модель обошла Qwen3.5-27B в тестах компании

Как пишет IT Home со ссылкой на SenseTime, модель опередила Qwen3.5-27B в WorkBuddy Bench, RaccoonPPT Bench и AutomationBench при текущих условиях оценки. В отдельном сравнении вариантов самой SenseNova Loop-9B-Preview применение mHC повысило результаты на 4,42 балла в GPQA Diamond и на 13,34 балла в TeamBench.

Источник: IT Home.

Продолжение после рекламы

Рейтинг: 0 / 5. Оценок: 0

Рекомендуем почитать

Оставьте комментарий

Перед оставлением комментария, пожалуйста, ознакомьтесь с правилами комментирования.