🤯
transformers serve теперь позволяет превратить любую LLM или VLM в модель принятия решений с помощью конечной точки
/v1/systemone

Т.е. вам больше не нужно тренировать свой Jev, - просто берёте любую модель и дёргаете её через эту ручку и она ведёт себя как Jev, - не генерит токены, а сразу даёт вероятности ответа.

HuggingFace тащит. Скоро во всех инференсах мира.

#systemone #Jev #HuggingFace #transformers
———
@tsingular