Где заканчивается ускорение NumPy и что выбрать дальше

Векторизация выполняет цикл низкоуровневым кодом. В тесте прибавление 17 к 100 млн элементов заняло 6,13 секунды для списка CPython и 0,07 секунды для массива NumPy.

Предел виден, когда нужной операции нет в NumPy или вычисление создаёт промежуточный массив. np.abs(arr).mean() для массива на 1 ГБ выделяет ещё 1 ГБ под абсолютные значения. Цикл Python убирает копию, но возвращает расходы интерпретатора.

В разборе Python⇒Speed решения разделены по задаче. PyPy ускоряет циклы по обычным объектам, но плохо сочетается с NumPy. Numba компилирует функции для NumPy. Cython, Rust, C и C++ позволяют собрать расширение заранее.

«Явное лучше неявного» работает и для оптимизации: выбирайте инструмент по форме узкого места.