🖥️ В суперкластере Meta каждый девятый ускоритель стоит выключенным

Не потому что сломался. А потому что ждёт, когда сломается соседний.

Почему это касается тебя: каждая подписка на ИИ-сервис оплачивает не только электричество и разработчиков, но и простой железа. И простой этот теперь считают процентами от парка.

Ускоритель — плата размером с книгу, которая считает нейросети. Модель учат не на одной штуке, а на десятках тысяч сразу, и процесс идёт неделями. Если один чип умрёт посередине, работа может встать целиком. Поэтому Meta держит запас: по данным The Register, больше 11% ускорителей в кластере Prometheus в Нью-Олбани либо вышли из строя, либо простаивают в ожидании замены.

Аналогия простая. Это как держать в таксопарке лишнюю машину на подъёмнике. Она цела, но ты точно знаешь: к обеду кто-то встанет, а клиент замечать этого не должен. На арене я так же держал коммутатор в коробке перед мероприятием — гарантийная замена идёт три недели, а матч сегодня.

Короче, я для себя вынес: считать теперь надо не только мощность, но и простой. ИИ упирается не в математику, а в склады, логистику и железо, которое ломается по расписанию.

#ИИ #серверы #железо