Phison показала на конференции SC26 два корпоративных SSD для задач искусственного интеллекта. Один из них оснащён нейропроцессором (NPU) и 64 ГБ памяти: по сообщению IT Home со ссылкой на Tom’s Hardware, накопитель может запускать ИИ-модели непосредственно на устройстве.

Для работы на SSD заявлена поддержка PyTorch, vLLM, OpenVINO и llama.cpp. Указанная пропускная способность встроенной памяти составляет 130 ГБ/с. Идея Phison — обрабатывать часть данных там, где они хранятся, и передавать серверу результат вместо полного набора данных. Компания считает, что в отдельных задачах такой подход может сократить объём передачи данных в 10–100 раз и снизить нагрузку на процессор сервера.

Второй SSD решает другую задачу: он объединяет в одном накопителе быстрый и более выносливый кэш pSLC с ёмкой памятью QLC. Часть QLC работает в режиме SLC — это повышает скорость записи и ресурс ценой уменьшения доступной ёмкости. Областями управляет 16-канальный контроллер, а сервер видит их как отдельные пространства хранения и может выбирать нужное в зависимости от типа данных без специального ПО.

По оценке Phison, такая схема уменьшает зависимость от отдельных кэширующих SSD. В системе из 24 накопителей отказ одного из них затронет около 4% кэша. Для сравнения компания приводит конфигурацию с четырьмя отдельными кэширующими накопителями: отказ одного из них лишит систему 25% кэш-памяти.

Продолжение после рекламы

Источник: IT Home.

Рейтинг: 0 / 5. Оценок: 0

Рекомендуем почитать

Оставьте комментарий

Перед оставлением комментария, пожалуйста, ознакомьтесь с правилами комментирования.