تحسين امتدادات المتجهات RISC-V لتسريع الأداء في أعباء عمل ML

عقدة المصدر: 1853315

خلال اسبوع 19 أبريلthعقدت مجموعة Linley مؤتمر Spring Processor لعام 2021. وتتمتع مجموعة Linley بسمعة طيبة في عقد مؤتمرات ممتازة. ولم يكن مؤتمر الربيع لهذا العام استثناءً. كان هناك عدد من المحادثات المفيدة للغاية من مختلف الشركات لإطلاع الجمهور على أحدث أعمال البحث والتطوير التي تحدث في الصناعة. وقد تم تصنيف العروض التقديمية ضمن ثمانية مواضيع مختلفة. كانت الموضوعات هي Edge AI، وتصميم SoC المضمن، وقياس التدريب على الذكاء الاصطناعي، وتصميم AI SoC، والبنية التحتية للشبكة للذكاء الاصطناعي و5G، وبرمجيات Edge AI، ومعالجة الإشارات، واستدلال الذكاء الاصطناعي الفعال.

لقد حظي الذكاء الاصطناعي (AI) كتقنية بالكثير من الاهتمام والاستثمار خلال السنوات الأخيرة. ومن المؤكد أن المؤتمر يعكس ذلك في عدد فئات المواضيع المتعلقة بالذكاء الاصطناعي. ضمن الفئة الأوسع للذكاء الاصطناعي، كان Edge AI موضوعًا كان له حصة غير عادلة من العروض التقديمية، وهذا له ما يبرره. تشهد الحوسبة المتطورة نموًا سريعًا مدفوعًا بإنترنت الأشياء والجيل الخامس وغيرها من التطبيقات ذات المتطلبات ذات زمن الوصول المنخفض.

أحد العروض التقديمية ضمن فئة Edge AI كان بعنوان "تعزيز امتدادات المتجهات RISC-V لتسريع الأداء في أحمال عمل تعلم الآلة." ألقى المحاضرة كريس لاتنر، رئيس قسم الهندسة والمنتجات في شركة SiFive, Inc. وقدم كريس حجة قوية حول سبب كون الحل القائم على امتدادات المتجهات RISC-V من SiFive مناسبًا تمامًا للتطبيقات التي تعتمد على الذكاء الاصطناعي. ما يلي هو رأيي.

متطلبات السوق:

مع نمو سوق الحوسبة المتطورة، أصبحت متطلبات الأداء والطاقة لهذه التطبيقات أكثر تطلبًا أيضًا. تعتمد العديد من هذه التطبيقات على الذكاء الاصطناعي وتندرج ضمن فئة أعباء عمل التعلم الآلي (ML). ويعمل اعتماد الذكاء الاصطناعي على دفع متطلبات المعالجة نحو معالجة البيانات بدلاً من الحوسبة للأغراض العامة. يعتمد التعلم العميق على نماذج تعلم الآلة ويتضمن معالجة صفائف كبيرة من البيانات. مع التطور السريع لنماذج تعلم الآلة، سيكون الحل المثالي هو الحل الذي يعمل على تحسين: الأداء، والقوة، وسهولة دمج نماذج تعلم الآلة الناشئة ونطاق التغييرات الناتجة في الأجهزة و/أو البرامج.

ميزة ناقل RISC-V:

الدافع الأصلي وراء المبادرة التي أعطتنا بنية RISC-V هو التجريب. تجربة تطوير تصميمات الرقائق التي تحقق أداءً أفضل في مواجهة التباطؤ المتوقع لقانون مور. تم بناء RISC-V على فكرة القدرة على تصميم شرائح معينة حيث يمكنك اختيار امتدادات مجموعة التعليمات التي تستخدمها. تسمح امتدادات المتجهات بمعالجة المتجهات بأي طول باستخدام الوظائف التي تعالج المتجهات ذات الأطوال الثابتة. تمكن معالجة المتجهات البرامج الموجودة من التشغيل دون إعادة الترجمة عند ترقية الأجهزة في شكل المزيد من وحدات ALU والوحدات الوظيفية الأخرى. لقد حدث تقدم كبير من حيث قاعدة الأجهزة الراسخة ودعم النظام البيئي مثل تقنيات المترجم.

يمكن تحسين RISC-V لمجال أو تطبيق معين من خلال ملحقات مخصصة. باعتبارها بنية مجموعة تعليمات قياسية مفتوحة، يتمتع مستخدمو RISC-V بقدر كبير من المرونة في اختيار المورد لاحتياجات تصميم الرقائق الخاصة بهم.

عرض SiFive:

قامت SiFive بتحسين ميزة RISC-V Vector عن طريق إضافة امتدادات متجهة جديدة لتسريع تنفيذ العديد من نماذج الشبكات العصبية المختلفة. ارجع إلى الشكل 1 لرؤية مثال على نوع التسريع الذي يمكن الحصول عليه باستخدام ملحقات SiFive الإضافية مقارنة باستخدام امتدادات المتجهات الأساسية لـ RISC-V فقط. إن حل Intelligence X280 الخاص بها هو حل RISC-V Vector متعدد النواة (الأجهزة والبرامج) لتسهيل على عملائها تنفيذ تطبيقات Edge AI المحسنة. يمكن أيضًا استخدام الحل لتنفيذ تطبيقات مركز البيانات.

الرقم 1:

أداء SuperCharge ML risc-v

ميزة سيفايف:

  • يدعم حل SiFive’s Intelligence X280 بشكل كامل الأنظمة الأساسية مفتوحة المصدر لـ TensorFlow وTensorFlow Lite للتعلم الآلي (راجع الشكل 2)
  • يوفر SiFive طريقة سهلة لترحيل التعليمات البرمجية الحالية للعميل استنادًا إلى بنيات أخرى إلى بنية RISC-V Vector. على سبيل المثال، يمكن لـ SiFive ترجمة كود ARM Neon إلى كود التجميع RISC-V V
  • تسمح SiFive لعملائها باستكشاف إضافة ملحقات مخصصة لتطبيقات RISC-V الخاصة بهم
  • تقوم SiFive من خلال وحدة أعمال OpenFive التابعة لها بتوسيع خدمات تنفيذ الشرائح المخصصة لتلبية احتياجات السيليكون الخاصة بالمجال

الرقم 2:

دعم كامل لـ TensorFlow Lite risc-v

ملخص:

باختصار، يمكن لعملاء SiFive تنفيذ تطبيقاتهم بسهولة وسرعة، سواء كانت التطبيقات تتضمن أعباء عمل Edge AI أو نوع أعباء عمل مركز البيانات التقليدي. إذا كنت مهتمًا بالاستفادة من حلول SiFive لتسريع أداء أعباء عمل تعلم الآلة لديك، فإنني أنصحك بالتسجيل والاستماع إلى حديث كريس كاملا ثم ناقش مع SiFive طرق الاستفادة من عروضهم المختلفة لتطوير منتجاتك.

شارك هذا المنشور عبر: المصدر: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/

الطابع الزمني:

اكثر من سيميويكي