В МГУ оценили возможности оптических процессоров для ИИ

Исследователи Центра искусственного интеллекта МГУ оценили, насколько оптические процессоры способны ускорять алгоритмы машинного обучения. Они показали, что высокая скорость отдельной оптической операции не всегда приводит к существенному ускорению алгоритма в целом: итоговый выигрыш зависит от того, какую долю вычислений эта операция занимает.

Ученые рассмотрели случайные проекции, которые применяются в машинном обучении для уменьшения размерности данных, обнаружения изменений в потоках данных и работы с нейронными сетями. Для четырёх алгоритмов они определили, какая часть нагрузки приходится на случайную проекцию: около 15% для рандомизированного сингулярного разложения, 32% для прямого выравнивания обратной связи, 48% для метода обнаружения изменений в потоках данных и 75% для резервуарных вычислений.

Сравнение оптических и электронных устройств показало, что преимущество оптического подхода становится заметным при работе с векторами размерностью от трёх миллионов элементов, а такие масштабы пока редко встречаются на практике. При разработке оптических вычислительных систем необходимо учитывать не только возможности оборудования, но и структуру алгоритмов, для которых оно предназначено. Полученные результаты позволяют оценивать целесообразность применения оптических процессоров ещё до создания специализированного оборудования. Развитие технологий и появление алгоритмов, в которых случайная проекция занимает большую часть вычислений, может расширить возможности их использования.

Подробнее — на сайте.