☝🏻Сэм Альтман обвинил локальный ИИ в дефеците оперативной памяти

Глава OpenAI заявил, что локальный запуск нейросетей на устройствах пользователей в глобальном масштабе — «ужасное» распределение ресурсов.🤖

Его логика:
🔻 многие верят, что с открытыми моделями проблема решена и дата-центры не понадобятся;
🔻 но тогда часть мирового запаса DRAM оседает в личных компьютерах;
🔻 а там она используется лишь 5% времени.

«Если вы пытаетесь справиться с таким дефицитом, вам нужна максимальная загрузка в облаке» — сказал Альтман, добавив, что интуиция многих людей подсказывает обратное.

☝🏻Есть нюанс: сама OpenAI и её проект Stargate, по оценке Samsung и SK Hynix, потребует 900 000 пластин DRAM в месяц. Аналитики считают это примерно 40% мирового предложения.🤔

Цифра в 5% тоже спорная: память ноутбука занята ещё браузером и видеозвонками, а дата-центры строятся под пиковый спрос и тоже не загружены полностью.

☝🏻☝🏻Зато локальная модель не отправляет ваши документы и код на чужой сервер, не ставит ограничения, работает без интернета и не упирается в лимиты в часы пик.🤷🏼‍♀️
================
🔺 News | 🧩 Soft | 💻 Hacker