💅 В старых GeForce нашли запас для нейросетей
💅 В старых GeForce нашли запас для нейросетей
Энтузиасты снимают ограничение скорости вычислений на RTX 30 с помощью модуля для Linux. В одном из тестов RTX 3090 Ti прибавила около 80%.
Результат зависит от задачи: начальная обработка запросов к языковым моделям ускоряется, а генерация токенов существенно не меняется. Отдельное ответвление уже проверяют на RTX 40.
↖️ https://kod.ru/gpu-unlock-nvidia-rtx-30
Энтузиасты снимают ограничение скорости вычислений на RTX 30 с помощью модуля для Linux. В одном из тестов RTX 3090 Ti прибавила около 80%.
Результат зависит от задачи: начальная обработка запросов к языковым моделям ускоряется, а генерация токенов существенно не меняется. Отдельное ответвление уже проверяют на RTX 40.
↖️ https://kod.ru/gpu-unlock-nvidia-rtx-30