Underdog AI выпустила Saluki 27B — 2-битную квантованную версию Qwen3.8-27B размером 7,89 ГБ, сообщает IT Home. Квантование уменьшает объём данных, которыми представлены параметры модели. Saluki работает только с текстом на входе и выходе.

Модель рассчитана на задачи ИИ-агентов: повседневные рассуждения и работу с инструментами. По заявлению Underdog AI, Saluki лучше полноразмерной Qwen3.8-27B выбирает инструменты и вызывает несколько инструментов параллельно. При этом компания отмечает относительно слабые результаты Saluki в математических задачах.

Saluki распространяется в стандартном формате llama.cpp: её можно загрузить в llama.cpp и построенные на нём приложения без специальной сборки.

Источник: IT Home.

Продолжение после рекламы

Рейтинг: 0 / 5. Оценок: 0

Рекомендуем почитать

Оставьте комментарий

Перед оставлением комментария, пожалуйста, ознакомьтесь с правилами комментирования.