ML 워크로드에서 성능을 가속화하기 위해 RISC-V 벡터 확장 기능 향상

19월 XNUMX일 주간 동안^th, Linley Group은 Spring Processor Conference 2021을 개최했습니다. Linley Group은 우수한 컨퍼런스를 개최하는 것으로 정평이 나 있습니다. 그리고 올해 춘계학술대회도 예외는 아니었습니다. 업계에서 진행되고 있는 최신 연구 개발 작업에 대해 청중에게 업데이트하는 다양한 회사의 매우 유익한 강연이 많이 있었습니다. 발표는 5가지 주제로 분류되었습니다. 주제는 Edge AI, 임베디드 SoC 설계, AI 확장 교육, AI SoC 설계, AI 및 XNUMXG용 네트워크 인프라, Edge AI 소프트웨어, 신호 처리 및 효율적인 AI 추론이었습니다.

인공지능(AI)은 최근 몇 년 동안 기술로서 많은 관심과 투자를 받아왔습니다. 컨퍼런스는 AI와 관련된 주제 카테고리의 수에 이를 확실히 반영했습니다. 더 넓은 AI 범주 내에서 Edge AI는 프레젠테이션에서 불공평한 비중을 차지했으며 당연히 그럴 만한 주제였습니다. 엣지 컴퓨팅은 IoT, 5G 및 기타 지연 시간이 짧은 애플리케이션을 통해 빠르게 성장하고 있습니다.

Edge AI 카테고리 내의 프레젠테이션 중 하나는 다음과 같습니다. “ML 워크로드의 성능을 가속화하기 위해 RISC-V 벡터 확장을 강화합니다.” SiFive, Inc.의 엔지니어링 및 제품 부문 사장인 Chris Lattner가 강연을 진행했습니다. Chris는 SiFive의 RISC-V 벡터 확장 기반 솔루션이 AI 기반 애플리케이션에 적합한 이유에 대해 강력한 사례를 제시했습니다. 다음은 내 생각입니다.

시장 요구사항:

엣지 컴퓨팅 시장이 빠르게 성장함에 따라 이러한 애플리케이션의 성능 및 전력 요구 사항도 점점 더 까다로워지고 있습니다. 이러한 애플리케이션 중 다수는 AI 기반이며 기계 학습(ML) 워크로드 범주에 속합니다. 그리고 AI 채택은 범용 컴퓨팅보다는 데이터 조작에 대한 처리 요구 사항을 더 많이 추진하고 있습니다. 딥 러닝은 ML 모델의 기초가 되며 대규모 데이터 배열 처리를 포함합니다. ML 모델이 빠르게 발전함에 따라 이상적인 솔루션은 성능, 성능, 새로운 ML 모델 통합 용이성, 결과적인 하드웨어 및/또는 소프트웨어 변경 범위를 최적화하는 솔루션입니다.

RISC-V 벡터의 장점:

RISC-V 아키텍처를 제공한 이니셔티브의 원래 동기는 실험입니다. 무어의 법칙이 둔화될 것으로 예상되는 상황에서 더 나은 성능을 제공하는 칩 설계를 개발하기 위한 실험입니다. RISC-V는 사용 중인 명령어 세트 확장을 선택할 수 있는 특정 칩을 맞춤 제작할 수 있다는 아이디어를 바탕으로 구축되었습니다. 벡터 확장을 사용하면 고정 길이의 벡터를 처리하는 함수를 사용하여 모든 길이의 벡터를 처리할 수 있습니다. 벡터 처리를 통해 하드웨어가 더 많은 ALU 및 기타 기능 단위의 형태로 업그레이드될 때 재컴파일 없이 기존 소프트웨어를 실행할 수 있습니다. 확립된 하드웨어 기반과 컴파일러 기술과 같은 지원 생태계 측면에서 상당한 진전이 이루어졌습니다.

RISC-V는 사용자 정의 확장을 통해 특정 도메인이나 애플리케이션에 최적화될 수 있습니다. 개방형 표준 명령어 세트 아키텍처인 RISC-V 사용자는 칩 설계 요구 사항에 맞는 공급업체를 선택할 때 많은 유연성을 누릴 수 있습니다.

SiFive의 제안:

SiFive는 다양한 신경망 모델의 실행을 가속화하기 위해 새로운 벡터 확장을 추가하여 RISC-V 벡터 이점을 강화했습니다. RISC-V의 기본 벡터 확장만 사용할 때와 비교하여 SiFive의 추가 기능 확장을 사용하여 얻을 수 있는 속도 향상의 예를 보려면 그림 1을 참조하십시오. Intelligence X280 솔루션은 고객이 최적화된 Edge AI 애플리케이션을 쉽게 구현할 수 있도록 지원하는 멀티 코어 지원 RISC-V 벡터 솔루션(하드웨어 및 소프트웨어)입니다. 이 솔루션은 데이터 센터 애플리케이션을 구현하는 데에도 사용될 수 있습니다.

그림 1 :

SiFive 장점:

• SiFive의 Intelligence X280 솔루션은 기계 학습을 위한 TensorFlow 및 TensorFlow Lite 오픈 소스 플랫폼을 완벽하게 지원합니다(그림 2 참조).
• SiFive는 다른 아키텍처를 기반으로 하는 고객의 기존 코드를 RISC-V Vector 아키텍처로 쉽게 마이그레이션할 수 있는 방법을 제공합니다. 예를 들어 SiFive는 ARM Neon 코드를 RISC-V V 어셈블리 코드로 변환할 수 있습니다.
• SiFive를 통해 고객은 RISC-V 구현에 맞춤형 확장을 추가할 수 있습니다.
• OpenFive 사업부를 통해 SiFive는 도메인별 실리콘 요구 사항을 해결하기 위해 맞춤형 칩 구현 서비스를 확장합니다.

그림 2 :

슬립폼 공법 선택시 고려사항

간단히 말해서 SiFive 고객은 애플리케이션에 Edge AI 워크로드가 포함되어 있든 기존 데이터 센터 유형의 워크로드가 포함되어 있든 상관없이 쉽고 빠르게 애플리케이션을 구현할 수 있습니다. ML 워크로드의 성능을 가속화하기 위해 SiFive 솔루션의 이점을 활용하는 데 관심이 있다면 등록하고 들어보는 것이 좋습니다. 크리스의 전체 대화 그런 다음 제품 개발을 위해 SiFive의 다양한 제품을 활용하는 방법에 대해 SiFive와 논의하십시오.

다음을 통해이 게시물 공유 : 출처: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-Vector-extensions-to-accelerate-performance-on-ml-workloads/