Google открыла исходный код TorchTPU — инструментов для запуска приложений на PyTorch с использованием её чипов TPU. По сообщению IT Home, компания заявляет, что существующие приложения можно перенести на TPU, изменив настройки и не переписывая код.
PyTorch широко используют для разработки и обучения моделей искусственного интеллекта, а многие проекты на его основе рассчитаны на видеокарты Nvidia. TorchTPU даёт разработчикам другой вариант оборудования для таких задач — TPU в облаке Google. Компания также представила набор инструментов, который помогает находить и исправлять ошибки при переносе приложений.
Google сообщила о сотрудничестве с Meta, Hugging Face и разработчиками инструментов vLLM и SGLang для обеспечения совместимости TorchTPU с ними. Днём ранее Amazon представила похожее решение TorchNeuron для своих чипов Trainium и облака AWS. Упрощение переноса расширяет выбор оборудования для разработчиков, но само по себе не означает, что они откажутся от видеокарт Nvidia.
Источник: IT Home.
