SF Compute 8 октября подняла прайс на H100 с $3,96 до $5,04 за GPU-час. Нода на 8 GPU теперь $40,32 в час. Новая цена применилась и к уже запущенным нодам и джобам, с первой же минуты после изменения. Компания сама написала в changelog, что не предупредила заранее, и извинилась.
После этого они ввели правило: о повышении сообщают минимум за 24 часа, в дашборде и письмом. И отдают это в API:
create_node и get_node возвращают rate.upcoming_increase, а запущенная нода получает событие price_change. Скидки остались: пятница −33%, выходные −20%, batch −25%.Что я бы забрал себе, даже если вы не на SF Compute:
- на почасовых GPU без фиксированной цены держать алерт на изменение ставки, а не только на сумму счёта;
- длинные обучения по возможности сдвигать на дешёвые окна, тут это выходные и пятница;
- если провайдер отдаёт цену в API, пусть планировщик её читает перед запуском.
Источник: https://autoresearch.sfcompute.com/changelog/price-increase-cancellations
#FinOps #GPU #H100
Рекламный пост