Для видеокарт GeForce RTX 30 и RTX 40 появились две отдельные модификации, повышающие скорость некоторых матричных вычислений. По данным TechPowerUp, в одном из тестов GeForce RTX 4090 после модификации показала почти двукратный прирост. Речь идёт о вычислительных задачах, а не о скорости видеокарт в играх.
Проект для архитектуры Ampere охватывает карты на чипах GA102, GA103, GA104 и GA106. В тесте умножения матриц с использованием формата BF16 GeForce RTX 3090 Ti ускорилась до 80%. Такие операции применяются в нейросетях.
Другая модификация, для Ada Lovelace, заявлена для чипов AD102, AD103 и AD106. TechPowerUp приводит результат RTX 4090 в тесте тензорных операций с FP16 и накоплением в FP32: 165,6 трлн операций в секунду до изменения и 331,6 трлн после. FP16 и BF16 — форматы чисел с пониженной точностью, используемые в подобных расчётах.
По сообщению TechPowerUp, обе модификации работают со стандартными драйверами Nvidia и должны применяться при запуске системы, до загрузки драйвера. Издание также предупреждает о потере гарантии при модификации видеокарты. Приведённые результаты относятся к конкретным вычислительным тестам: по ним нельзя определить, насколько ускорится любая задача с нейросетью.
Источник: Techpowerup.
