Meningkatkan Ekstensi Vektor RISC-V untuk Mempercepat Kinerja pada Beban Kerja ML

Selama minggu 19 April^th, Linley Group mengadakan Konferensi Prosesor Musim Semi 2021. Linley Group memiliki reputasi menyelenggarakan konferensi yang luar biasa. Dan konferensi musim semi tahun ini tidak terkecuali. Ada sejumlah pembicaraan yang sangat informatif dari berbagai perusahaan yang memperbaharui hadirin tentang penelitian dan pengembangan terbaru yang terjadi di industri. Presentasi telah dikategorikan dalam delapan mata pelajaran yang berbeda. Materi pelajarannya adalah Edge AI, Embedded SoC Design, Scaling AI Training, AI SoC Design, Network Infrastructure for AI and 5G, Edge AI Software, Signal Processing, dan Efficient AI Inference.

Artificial Intelligence (AI) sebagai teknologi telah mengumpulkan banyak perhatian dan investasi selama beberapa tahun terakhir. Konferensi tersebut tentu tercermin dalam jumlah kategori materi pelajaran yang berkaitan dengan AI. Dalam kategori AI yang lebih luas, Edge AI adalah subjek yang memiliki porsi presentasi yang tidak adil dan dapat dibenarkan. Komputasi tepi melihat pertumbuhan pesat yang didorong oleh IoT, 5G, dan aplikasi persyaratan latensi rendah lainnya.

Salah satu presentasi dalam kategori Edge AI berjudul “Meningkatkan Ekstensi Vektor RISC-V untuk Mempercepat Performa pada Beban Kerja ML.” Pembicaraan diberikan oleh Chris Lattner, Presiden, Teknik dan Produk di SiFive, Inc. Chris membuat alasan kuat mengapa solusi berbasis ekstensi vektor RISC-V SiFive sangat cocok untuk aplikasi yang digerakkan oleh AI. Berikut ini adalah pendapat saya.

Persyaratan Pasar:

Secepat pasar untuk komputasi tepi tumbuh, kinerja dan kebutuhan daya dari aplikasi ini juga semakin menuntut. Banyak dari aplikasi ini didorong oleh AI dan termasuk dalam kategori beban kerja machine learning (ML). Dan adopsi AI mendorong persyaratan pemrosesan lebih ke manipulasi data daripada komputasi tujuan umum. Pembelajaran mendalam mendasari model ML dan melibatkan pemrosesan array data yang besar. Dengan model ML yang berkembang pesat, solusi ideal adalah solusi yang mengoptimalkan: kinerja, daya, kemudahan dalam menggabungkan model ML yang muncul, dan cakupan perubahan perangkat keras dan/atau perangkat lunak yang dihasilkan.

Keuntungan Vektor RISC-V:

Motivasi asli di balik inisiatif yang telah memberi kita arsitektur RISC-V adalah eksperimen. Bereksperimen untuk mengembangkan desain chip yang menghasilkan kinerja yang lebih baik dalam menghadapi perlambatan yang diharapkan dari hukum Moore. RISC-V dibangun di atas gagasan untuk dapat membuat chip tertentu di mana Anda dapat memilih ekstensi set instruksi yang Anda gunakan. Ekstensi vektor memungkinkan pemrosesan vektor dengan panjang berapa pun menggunakan fungsi yang memproses vektor dengan panjang tetap. Pemrosesan vektor memungkinkan perangkat lunak yang ada untuk berjalan tanpa kompilasi ulang ketika perangkat keras ditingkatkan dalam bentuk lebih banyak ALU dan unit fungsional lainnya. Kemajuan signifikan telah terjadi dalam hal basis perangkat keras yang mapan dan ekosistem pendukung seperti teknologi kompiler.

RISC-V dapat dioptimalkan untuk domain atau aplikasi tertentu melalui ekstensi khusus. Sebagai arsitektur set instruksi standar terbuka, pengguna RISC-V menikmati banyak fleksibilitas dalam memilih pemasok untuk kebutuhan desain chip mereka.

Penawaran SiFive:

SiFive telah meningkatkan keunggulan RISC-V Vector dengan menambahkan ekstensi vektor baru untuk mempercepat eksekusi banyak model jaringan saraf yang berbeda. Lihat Gambar 1 untuk melihat contoh jenis percepatan yang dapat diperoleh dengan menggunakan ekstensi add-on SiFive dibandingkan dengan hanya menggunakan ekstensi vektor dasar RISC-V. Solusi Intelijen X280-nya adalah solusi RISC-V Vector (perangkat keras dan perangkat lunak) yang mampu multi-core untuk memudahkan pelanggannya mengimplementasikan aplikasi Edge AI yang dioptimalkan. Solusi tersebut juga dapat digunakan untuk mengimplementasikan aplikasi data center.

Gambar 1:

Keuntungan SiFive:

• Solusi Intelijen X280 SiFive sepenuhnya mendukung platform sumber terbuka TensorFlow dan TensorFlow Lite untuk pembelajaran mesin (Lihat Gambar 2)
• SiFive menyediakan cara mudah untuk memigrasikan kode pelanggan yang ada berdasarkan arsitektur lain ke arsitektur RISC-V Vector. Misalnya, SiFive dapat menerjemahkan kode ARM Neon ke kode perakitan RISC-V V V
• SiFive memungkinkan pelanggannya menjelajahi penambahan ekstensi khusus ke implementasi RISC-V mereka
• SiFive melalui unit bisnis OpenFive memperluas layanan implementasi chip khusus untuk memenuhi kebutuhan silikon khusus domain

Gambar 2:

Ringkasan:

Singkatnya, pelanggan SiFive dapat dengan mudah dan cepat mengimplementasikan aplikasi mereka, baik aplikasi tersebut melibatkan beban kerja Edge AI atau jenis beban kerja pusat data tradisional. Jika tertarik untuk memanfaatkan solusi SiFive untuk mempercepat kinerja beban kerja ML Anda, saya sarankan Anda mendaftar dan mendengarkan Seluruh pembicaraan Chris dan kemudian diskusikan dengan SiFive tentang cara memanfaatkan penawaran mereka yang berbeda untuk mengembangkan produk Anda.

Bagikan postingan ini melalui: Sumber: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/