Вышел открытый анлокер для RTX 30xx и 40xx. Драйвер и прошивку он не трогает, просто запускается раньше драйвера.
На RTX 3090 матричные вычисления поднялись с 70,6 до 125,9 терафлопс. Картинки и видео локальными моделями генерируются почти на 60% быстрее.
А вот текст от языковых моделей почти не ускоряется, там всё упирается в память, а не в вычисления.
Интереснее другое. Те кто копался в картах считают, что ограничение стояло специально, чтобы игровое железо хуже годилось под ии.
Взяли бы себе такую карту под нейросети, раз проценты открываются бесплатно?
Я так же есть на других площадках, подписывайтесь там, где удобнее следить: ВК · ТГ · Threads · Linked in