🖥 Энтузиасты обошли ограничения GeForce и удвоили скорость
Часть возможностей GeForce оказалась доступна после программной разблокировки. Авторы GPU Unlock и его версии для архитектуры Ada показали, как увеличить скорость отдельных матричных вычислений на потребительских видеокартах Nvidia.
На RTX 4090 в синтетических тестах результат вырос примерно вдвое.
Разработчики опубликовали код и замеры в репозиториях GPU Unlock и GPU Unlock Ada .
Инструмент запускается до штатного драйвера Nvidia и меняет настройки, ограничивающие скорость определенных тензорных операций. Основная мишень — вычисления FP16 и BF16 с накоплением результата в FP32, которые используются в задачах машинного обучения.
⏺ Читать материал
Лаборатория хакера
Views: 294