Apple показала на конференции Jamf JNUC таблицу с оценками того, модели какого масштаба могут работать на её устройствах — от iPhone и iPad до кластера Mac Studio. Как сообщает IT之家 со ссылкой на публикацию @aaronp613, для iPhone и iPad в таблице указано до 14 млрд активных параметров модели, для одного Mac Studio — до 480 млрд.
Активные параметры — та часть параметров модели, которая задействована при обработке запроса. Это число помогает сравнить указанный в таблице масштаб моделей, но само по себе не говорит о скорости ответа.
| Устройство | Максимум объединённой памяти | До скольких активных параметров |
|---|---|---|
| iPhone и iPad | 16 ГБ | 14 млрд |
| MacBook Air | 32 ГБ | 35 млрд |
| Mac mini | 64 ГБ | 70 млрд |
| MacBook Pro | 128 ГБ | 120 млрд |
| Mac Studio | 512 ГБ | 480 млрд |
| Кластер Mac Studio | 2 ТБ | 1,6 трлн |
Разницу между устройствами Apple связывает с объёмом и пропускной способностью объединённой памяти, которую используют вычислительные блоки устройства. Например, в таблице для iPhone и iPad указано до 76 ГБ/с, а для Mac Studio — до 1,2 ТБ/с. Строка с кластером относится к нескольким Mac Studio, а не к одному компьютеру.
