Исследователи Apple описали Minions — систему, которая объединяет свободные графические процессоры Mac с чипами Apple Silicon для выполнения задач ИИ-инференса, то есть запуска уже обученных моделей. Согласно исследованию Apple, в испытаниях некоторые задачи, прежде ожидавшие доступа к централизованным GPU более 10 часов, начинали выполняться через несколько минут. Сократилось время в очереди, а не заявленная длительность самих вычислений.
Minions разбивает задачу на части и распределяет их между доступными компьютерами. Каждый Mac сам запрашивает работу у сервера и выполняет её локально на своём GPU. Если устройство отключится, уснёт или потеряет питание, система передаст незавершённую часть другому компьютеру. Такой подход позволяет задействовать уже имеющееся оборудование без покупки дополнительных GPU.
Как отмечает IT Home, Minions пока описана как исследовательская инженерная система, а не как продукт для владельцев Mac. Исследователи также называют конфиденциальность данных и правила их использования проблемой, если в вычислениях участвуют устройства других подразделений.
Источник: IT Home.
