بهبود برنامه های افزودنی برداری RISC-V برای تسریع عملکرد در بارهای کاری ML

در هفته 19 آوریل^th، گروه Linley کنفرانس پردازشگر بهار 2021 خود را برگزار کرد. گروه Linley به برگزاری کنفرانس های عالی شهرت دارد. و کنفرانس بهار امسال نیز از این قاعده مستثنی نبود. تعدادی گفتگوی بسیار آموزنده از شرکت های مختلف وجود داشت که مخاطبان را در مورد آخرین کارهای تحقیق و توسعه ای که در این صنعت در حال انجام است به روز می کرد. ارائه ها در هشت موضوع مختلف دسته بندی شده بودند. موضوعات مربوط به Edge AI، Embedded SoC Design، Scaling AI Training، AI SoC Design، زیرساخت شبکه برای هوش مصنوعی و 5G، نرم افزار Edge AI، پردازش سیگنال و استنتاج کارآمد AI بود.

هوش مصنوعی (AI) به عنوان یک فناوری در سال های اخیر توجه و سرمایه گذاری زیادی را به خود جلب کرده است. این کنفرانس قطعاً در تعداد مقوله‌های موضوعی مرتبط با هوش مصنوعی منعکس شد. در رده وسیع‌تر هوش مصنوعی، Edge AI موضوعی بود که سهم ناعادلانه‌ای از ارائه‌ها داشت و به‌طور موجهی هم همین‌طور بود. محاسبات لبه شاهد رشد سریعی است که توسط اینترنت اشیا، 5G و سایر برنامه‌های کاربردی با تاخیر کم مورد نیاز است.

یکی از ارائه ها در رده هوش مصنوعی Edge عنوان شد "افزایش پسوندهای برداری RISC-V برای تسریع عملکرد در بارهای کاری ML." این سخنرانی توسط کریس لاتنر، رئیس، مهندسی و محصول در SiFive, Inc انجام شد. کریس دلیل محکمی برای اینکه چرا راه‌حل مبتنی بر پسوندهای برداری RISC-V SiFive برای برنامه‌های مبتنی بر هوش مصنوعی مناسب است، ارائه کرد. موارد زیر برداشت من است.

الزامات بازار:

به همان سرعتی که بازار محاسبات لبه در حال رشد است، عملکرد و توان مورد نیاز این برنامه ها نیز بیشتر و بیشتر می شود. بسیاری از این برنامه ها مبتنی بر هوش مصنوعی هستند و در دسته بارهای کاری یادگیری ماشین (ML) قرار می گیرند. و پذیرش هوش مصنوعی نیاز به پردازش را بیشتر به سمت دستکاری داده ها سوق می دهد تا محاسبات با هدف عمومی. یادگیری عمیق زیربنای مدل های ML است و شامل پردازش آرایه های بزرگی از داده ها است. با پیشرفت سریع مدل‌های ML، یک راه‌حل ایده‌آل راه‌حلی است که برای: عملکرد، قدرت، سهولت در ترکیب مدل‌های ML در حال ظهور و دامنه تغییرات سخت‌افزاری و/یا نرم‌افزار حاصل بهینه‌سازی شود.

مزیت بردار RISC-V:

انگیزه اصلی پشت ابتکاری که معماری RISC-V را به ما داده است، آزمایش است. در حال آزمایش برای توسعه طرح‌های تراشه‌ای که عملکرد بهتری در مواجهه با کندی مورد انتظار قانون مور دارند. RISC-V بر اساس این ایده ساخته شده است که می‌توانید تراشه‌های خاصی را بسازید که در آن بتوانید برنامه‌های افزودنی مجموعه دستورالعمل‌هایی را که استفاده می‌کنید انتخاب کنید. پسوندهای برداری امکان پردازش بردارهای هر طولی را با استفاده از توابعی که بردارهای با طول های ثابت را پردازش می کنند، فراهم می کند. پردازش برداری، نرم افزار موجود را قادر می سازد که بدون کامپایل مجدد اجرا شود، هنگامی که سخت افزار به شکل ALU های بیشتر و سایر واحدهای کاربردی ارتقا می یابد. پیشرفت قابل توجهی در زمینه ایجاد پایگاه سخت افزاری و اکوسیستم پشتیبانی مانند فناوری های کامپایلر اتفاق افتاده است.

RISC-V را می توان برای یک دامنه یا برنامه خاص از طریق پسوندهای سفارشی بهینه کرد. به عنوان یک معماری مجموعه دستورالعمل استاندارد باز، کاربران RISC-V از انعطاف پذیری زیادی در انتخاب تامین کننده برای نیازهای طراحی تراشه خود برخوردار هستند.

پیشنهاد SiFive:

SiFive مزیت RISC-V Vector را با افزودن پسوندهای برداری جدید برای تسریع اجرای بسیاری از مدل های مختلف شبکه عصبی افزایش داده است. برای مشاهده نمونه ای از نوع افزایش سرعتی که می توان با استفاده از افزونه های افزودنی SiFive در مقایسه با استفاده از پسوندهای برداری پایه RISC-V به دست آورد، به شکل 1 مراجعه کنید. راه حل Intelligence X280 آن یک راه حل RISC-V Vector (سخت افزار و نرم افزار) با قابلیت چند هسته ای است تا اجرای برنامه های بهینه هوش مصنوعی Edge را برای مشتریان آسان کند. این راه حل همچنین می تواند برای پیاده سازی برنامه های مرکز داده استفاده شود.

شکل 1:

مزیت SiFive:

• راه حل SiFive's Intelligence X280 به طور کامل از پلتفرم های منبع باز TensorFlow و TensorFlow Lite برای یادگیری ماشین پشتیبانی می کند (به شکل 2 مراجعه کنید).
• SiFive یک راه آسان برای انتقال کدهای موجود مشتری بر اساس معماری های دیگر به معماری RISC-V Vector ارائه می دهد. به عنوان مثال، SiFive می تواند کد ARM Neon را به کد اسمبلی RISC-V V ترجمه کند
• SiFive به مشتریان خود اجازه می دهد تا اضافه کردن پسوندهای سفارشی به پیاده سازی های RISC-V خود را بررسی کنند
• SiFive از طریق واحد تجاری OpenFive خود، خدمات پیاده سازی تراشه های سفارشی را برای رفع نیازهای سیلیکونی خاص دامنه گسترش می دهد

شکل 2:

خلاصه:

به طور خلاصه، مشتریان SiFive می‌توانند به راحتی و به سرعت برنامه‌های خود را پیاده‌سازی کنند، خواه این برنامه‌ها شامل بارهای کاری Edge AI باشند یا نوع سنتی مرکز داده. اگر علاقه مند به بهره مندی از راه حل های SiFive برای تسریع عملکرد بارهای کاری ML خود هستید، توصیه می کنم ثبت نام کنید و گوش دهید کل صحبت کریس و سپس با SiFive در مورد راه های استفاده از پیشنهادات مختلف آنها برای توسعه محصولات خود بحث کنید.

اشتراک گذاری این پست از طریق: منبع: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/