Underdog AI выпустила Saluki 27B — 2-битную квантованную версию Qwen3.8-27B размером 7,89 ГБ, сообщает IT Home. Квантование уменьшает объём данных, которыми представлены параметры модели. Saluki работает только с текстом на входе и выходе.
Модель рассчитана на задачи ИИ-агентов: повседневные рассуждения и работу с инструментами. По заявлению Underdog AI, Saluki лучше полноразмерной Qwen3.8-27B выбирает инструменты и вызывает несколько инструментов параллельно. При этом компания отмечает относительно слабые результаты Saluki в математических задачах.
Saluki распространяется в стандартном формате llama.cpp: её можно загрузить в llama.cpp и построенные на нём приложения без специальной сборки.
Источник: IT Home.