Разработчикам, стремящимся улучшить своё программное обеспечение для процессоров Intel следующего поколения, предоставили новую библиотеку. NPU Acceleration Library стала доступна в открытом доступе, и любой желающий может воспользоваться ей для улучшения работы ИИ.
Библиотека написана на Python и предназначена для того, чтобы помочь разработчикам повысить производительность своих приложений за счёт новейшего нейронного процессора (NPU) Intel, доступного в чипах Meteor Lake. В настоящее время NPU отсутствует в процессорах Intel, но к концу этого года компания также планирует выпустить процессоры Arrow Lake и Lunar Lake со встроенными NPU.
По словам Тони Монгколсмаи, архитектора программного обеспечения Intel, эта библиотека позволяет выполнять компактные языковые модели Gemma-2b или TinyLlama. Теоретически это позволяет разработчикам быстро создавать локальные приложения ИИ-чатов.
Intel продемонстрировала эту функцию во время презентации Meteor Lake. Тест проводился на ноутбуке MSI Prestige 16 AI, оснащённом процессором Intel Core Ultra. Пока что Intel не предоставила документацию и не расширила поддержку библиотеки для других популярных форматов и технологий ИИ. Стоит отметить, что данное программное обеспечение не предназначено для конечных пользователей.