AuraLite AI — это облегченная образовательная модель большого языка (LLM), реализованная с помощью PyTorch.

Она предназначена для демонстрации внутренней работы архитектуры Transformer (основы таких моделей, как GPT-4) в доступном формате, который можно использовать на потребительском оборудовании.

Github Community