Инфра не бесконечна и выбор небольших моделей более чем оправдан…

Инфра не бесконечна и выбор небольших моделей более чем оправдан (главное сделать выбор взвешенно), а если можно сделать модель совсем небольшой? А пайплайн для модели ещё меньше? Даёшь разумную оптимизацию!

+ Миф о «равных весах»: что на самом деле скрывается внутри малых моделей
https://habr.com/ru/companies/selectel/articles/1043278/
+ Single Task Algorithmic Reasoning Models: как с помощью маленькой модели обойти большую LLM?
https://habr.com/ru/companies/sberbank/articles/1069794/
+ Как я уместил весь MLOps-пайплайн в 10 строк
https://habr.com/ru/companies/ruvds/articles/1013854/