💅 Чтоб без дела не стояла

Энтузиаст выпустил приложение, которое запускает LLM на видеокарте взломанной PlayStation 5. Qwen 3.8 на 27 млрд параметров выдаёт около 20 токенов в секунду, а более лёгкие модели работают ещё быстрее.

Чат открывается в браузере на любом устройстве в домашней сети, а API можно подключить даже в OpenCode или совместимую IDE.

Как это работает и что нужно для запуска:

➡️ https://kod.ru/ps5lm-nejroseti-na-ps5