Улучшение векторных расширений RISC-V для повышения производительности рабочих нагрузок машинного обучения

В течение недели 19 апреля^th, Linley Group провела свою конференцию Spring Processor Conference 2021. Linley Group имеет репутацию организатора отличных конференций. И весенняя конференция этого года не стала исключением. Было проведено несколько очень информативных докладов от различных компаний, которые информировали аудиторию о последних исследованиях и разработках, проводимых в отрасли. Презентации были разбиты на категории по восьми различным темам. Темами были Edge AI, Embedded SoC Design, Scaling AI Training, AI SoC Design, Network Infrastructure for AI and 5G, Edge AI Software, Signal Processing and Efficient AI Inference.

Искусственный интеллект (ИИ) как технология в последние годы привлек большое внимание и инвестиции. Конференция, безусловно, отразила это в ряде тематических категорий, связанных с ИИ. В более широкой категории ИИ Edge AI был темой, которая имела несправедливую долю презентаций, и это было оправданно. Пограничные вычисления переживают стремительный рост благодаря IoT, 5G и другим приложениям с низкими задержками.

Одна из презентаций в категории Edge AI называлась «Улучшение векторных расширений RISC-V для повышения производительности рабочих нагрузок машинного обучения». Доклад был сделан Крисом Латтнером, президентом по разработке и продуктам в SiFive, Inc. Крис привел веские доводы в пользу того, почему решение SiFive на основе векторных расширений RISC-V отлично подходит для приложений, управляемых ИИ. Следующее мое мнение.

Требования рынка:

По мере роста рынка периферийных вычислений требования к производительности и мощности этих приложений также становятся все более и более высокими. Многие из этих приложений управляются искусственным интеллектом и относятся к категории рабочих нагрузок машинного обучения (ML). А внедрение ИИ подталкивает требования к обработке в большей степени к манипулированию данными, а не к вычислениям общего назначения. Глубокое обучение лежит в основе моделей машинного обучения и включает обработку больших массивов данных. Поскольку модели машинного обучения быстро развиваются, идеальным решением будет решение, оптимизированное для: производительности, мощности, простоты включения новых моделей машинного обучения и масштаба возникающих в результате изменений аппаратного и/или программного обеспечения.

Преимущество вектора RISC-V:

Первоначальной мотивацией инициативы, которая дала нам архитектуру RISC-V, является экспериментирование. Эксперименты по разработке конструкций чипов, обеспечивающих лучшую производительность в условиях ожидаемого замедления действия закона Мура. RISC-V построен на идее возможности индивидуального изготовления конкретных микросхем, где вы можете выбирать, какие расширения набора команд вы используете. Расширения векторов позволяют обрабатывать векторы любой длины с помощью функций, обрабатывающих векторы фиксированной длины. Векторная обработка позволяет существующему программному обеспечению работать без перекомпиляции при обновлении аппаратного обеспечения в виде большего количества АЛУ и других функциональных блоков. Значительный прогресс произошел с точки зрения установленной аппаратной базы и поддерживающей экосистемы, такой как технологии компиляции.

RISC-V можно оптимизировать для конкретного домена или приложения с помощью пользовательских расширений. Благодаря открытой стандартной архитектуре набора команд пользователи RISC-V получают большую гибкость при выборе поставщика для своих потребностей в разработке микросхем.

Предложение SiFive:

SiFive расширил преимущества RISC-V Vector, добавив новые векторные расширения для ускорения выполнения множества различных моделей нейронных сетей. Обратитесь к рисунку 1, чтобы увидеть пример ускорения, которое можно получить с помощью дополнительных расширений SiFive по сравнению с использованием только базовых векторных расширений RISC-V. Его решение Intelligence X280 представляет собой многоядерное векторное решение RISC-V (аппаратное и программное обеспечение), которое позволяет клиентам легко внедрять оптимизированные приложения Edge AI. Решение также можно использовать для реализации приложений центра обработки данных.

Рисунок 1:

Преимущество SiFive:

• Решение SiFive Intelligence X280 полностью поддерживает платформы с открытым исходным кодом TensorFlow и TensorFlow Lite для машинного обучения (см. рис. 2).
• SiFive предоставляет простой способ миграции существующего кода клиента, основанного на других архитектурах, на векторную архитектуру RISC-V. Например, SiFive может переводить код ARM Neon в ассемблерный код RISC-V V.
• SiFive позволяет своим клиентам изучать возможность добавления пользовательских расширений к своим реализациям RISC-V.
• SiFive через свое бизнес-подразделение OpenFive расширяет услуги по внедрению пользовательских чипов для удовлетворения конкретных потребностей в кремнии.

Рисунок 2:

Резюме:

Короче говоря, клиенты SiFive могут легко и быстро внедрять свои приложения, независимо от того, связаны ли они с рабочими нагрузками Edge AI или традиционными рабочими нагрузками центра обработки данных. Если вы заинтересованы в том, чтобы воспользоваться преимуществами решений SiFive для повышения производительности ваших рабочих нагрузок машинного обучения, я рекомендую вам зарегистрироваться и прослушать весь разговор Криса а затем обсудите с SiFive способы использования их различных предложений для разработки ваших продуктов.

Поделитесь этим постом через: Источник: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/