تم اختيار نوى SiFive RISC-V لعقد حساب Google AI

عقدة المصدر: 1684403

تقول SiFive ، رقاقة RISC-V ، إن معالجاتها تُستخدم لإدارة أعباء عمل الذكاء الاصطناعي إلى حد ما في مراكز بيانات Google.

وفقًا لـ SiFive ، فإن المعالج المعني هو ذكاءه X280، تصميم RISC-V متعدد النواة مع امتدادات متجهية ، محسّن لتطبيقات AI / ML في مركز البيانات. عند الدمج مع وحدات مضاعفة المصفوفة (MXU) ، يتم رفعها من وحدات معالجة الموتر من Google (TPU) ، يُزعم أن هذا يوفر قدرًا أكبر من المرونة لبرمجة أعباء عمل التعلم الآلي.

بشكل أساسي ، تعمل نوى RV280 للأغراض العامة في X64 في رمز المعالج الذي يدير الجهاز ، ويغذي حسابات التعلم الآلي في وحدات MXU من Google كما هو مطلوب لإكمال المهام. يشتمل X280 أيضًا على وحدة الرياضيات الموجهة الخاصة به والتي يمكنها التعامل مع العمليات التي لا تستطيع وحدات التسريع القيام بها.

كان كل من SiFive و Google خجولين بعض الشيء ، ربما لأسباب تجارية ، حول كيفية تغليف هذا واستخدامه بالضبط ، على الرغم من أنه يبدو لنا كما لو أن Google قد وضعت وحدات تسريع مخصصة في نظام X280 متعدد النواة على شريحة ، وربط تحظر MXU المصمم من Google مباشرة إلى مجمع RISC-V الأساسي. تُستخدم هذه الشرائح في مراكز بيانات Google ، في "مضيفات حساب الذكاء الاصطناعي" وفقًا لـ SiFive ، لتسريع أعمال التعلم الآلي.

نتخيل أنه إذا تم استخدام هذه الرقائق في الإنتاج ، فإن هذه الرقائق تتعامل مع المهام داخل الخدمات. نلاحظ أنه لا يمكنك استئجار هذا الجهاز مباشرة على Google Cloud ، والذي يوفر أجهزة افتراضية مُحسّنة للذكاء الاصطناعي مدعومة بتقنية x86 التقليدية و Arm و TPU و GPU.

تم الكشف عن التفاصيل في قمة أجهزة الذكاء الاصطناعي في وادي السيليكون في وقت سابق من هذا الشهر ، في حديث للشريك المؤسس لشركة SiFive وكبير المهندسين المعماريين Krste Asanović و Google TPU Architect Cliff Young ، وفي مشاركة مدونة SiFive هذا الاسبوع.

وفقًا لـ SiFive ، فقد لاحظت أنه بعد تقديم X280 ، بدأ بعض العملاء في استخدامه كنواة مصاحبة جنبًا إلى جنب مع المسرع ، من أجل التعامل مع جميع مهام التدبير المنزلي والمعالجة ذات الأغراض العامة التي لم يتم تصميم المسرع لأدائها.

وجد الكثيرون أن هناك حاجة إلى حزمة برامج كاملة الميزات لإدارة المسرّع ، كما يقول عالم الرقائق ، وأدرك العملاء أنهم يستطيعون حل هذه المشكلة باستخدام مجمع X280 الأساسي بجوار المسرع الكبير ، حيث تتولى مراكز RISC-V CPU المعالجة كافة أعمال الصيانة و رمز العمليات ، وإجراء العمليات الحسابية التي لا يستطيع المسرّع الكبير القيام بها ، وتوفير وظائف أخرى مختلفة. بشكل أساسي ، يمكن أن يعمل X280 كنوع من عقدة إدارة المسرع.

للاستفادة من ذلك ، عملت SiFive مع عملاء مثل Google لتطوير ما تسميه Vector Coprocessor Interface eXtension (VCIX) ، والذي يسمح للعملاء بربط مسرع مباشرةً بملف تسجيل المتجه في X280 ، مما يوفر أداءً متزايدًا وبيانات أكبر عرض النطاق.

وفقًا لأسانوفيتش ، فإن الميزة هي أنه يمكن للعملاء إحضار المعالج المساعد الخاص بهم إلى النظام البيئي RISC-V وتشغيل حزمة برامج وبيئة برمجة كاملة ، مع القدرة على تشغيل Linux بذاكرة افتراضية كاملة ودعم متماسك لذاكرة التخزين المؤقت ، على شريحة تحتوي على مزيج من أنوية وحدة المعالجة المركزية ووحدات التسريع للأغراض العامة.

من وجهة نظر Google ، أرادت التركيز على تحسين عائلة تقنيات TPU الخاصة بها ، وعدم إضاعة الوقت في صياغة معالج التطبيق الخاص بها من البداية ، ولذا فإن إقران وظائف التسريع هذه بمعالج جاهز للأغراض العامة يبدو أنه الطريقة الصحيحة للذهاب ، وفقا ليونغ.

تقوم VCIX بشكل أساسي بلصق وحدات MXU بنواة RISC-V بزمن انتقال منخفض ، متجاوزًا الحاجة إلى قضاء العديد من الدورات في انتظار نقل البيانات بين وحدة المعالجة المركزية ووحدة التسريع عبر الذاكرة أو ذاكرة التخزين المؤقت أو PCIe. بدلاً من ذلك ، قيل لنا ، إنها مجرد عشرات الدورات من خلال الوصول إلى سجل النواقل. يشير هذا أيضًا إلى كل شيء - مجمع RISC-V CPU والمسرعات المخصصة - كلها في نفس القالب ، مجمعة كنظام على رقاقة.

يعمل رمز التطبيق على نوى RISC-V للأغراض العامة ، وأي عمل يمكن تسريعه بواسطة MXU يتم تمريره عبر VCIX. وفقًا ليونغ ، هناك مزايا أخرى لهذا النهج بالإضافة إلى الكفاءة. تم تبسيط نموذج البرمجة ، مما أدى إلى وجود برنامج واحد يحتوي على تعليمات عددية ومتجه ومعالج مشترك متداخلة ، ويسمح بسلسلة أدوات برمجية واحدة حيث يمكن للمطورين كتابة التعليمات البرمجية بلغة C / C ++ أو المجمع كما هو مفضل.

"باستخدام نوى الأغراض العامة المستندة إلى SiFive VCIX" المهجنة "مع Google MXUs ، يمكنك إنشاء آلة تتيح لك" الحصول على كعكتك وتناولها أيضًا "، مع الاستفادة الكاملة من أداء MXU وقابلية البرمجة العامة قال يونج: "وحدة المعالجة المركزية بالإضافة إلى أداء المتجه لمعالج X280".

من المحتمل أن تظل القدرة على إنشاء شريحة مخصصة مثل هذه مجالًا للمبتدئين مثل Google ، أو أولئك الذين لديهم متطلبات متخصصة وجيوب عميقة ، ولكنها توضح ما يمكن تحقيقه بفضل مرونة نظام RISC-V للنظام الإيكولوجي المفتوح .

يبدو أن هذه المرونة والانفتاح كافيان لجذب Google - المؤيد منذ فترة طويلة لـ RISC-V ، مع استخدام نوى RV في بعض منتجاتها الأخرى - إلى استخدام الهندسة المعمارية المبتدئة بدلاً من نقل المعالجات المساعدة المخصصة إلى شرائح x86 أو Arm. - التصاميم المرخصة. ®

PS: تذكر عندما كان Google اللعب باستخدام بنية POWER CPU في مراكز البيانات الخاصة بها؟

الطابع الزمني:

اكثر من السجل