ליבות SiFive RISC-V שנבחרו עבור צמתי מחשוב בינה מלאכותית של Google

שבב RISC-V biz SiFive אומר שהמעבדים שלה משמשים לניהול עומסי AI במידה מסוימת במרכזי הנתונים של גוגל.

לפי SiFive, המעבד המדובר הוא האינטליגנציה שלו X280, עיצוב מרובה ליבות RISC-V עם הרחבות וקטוריות, מותאם ליישומי AI/ML במרכז הנתונים. בשילוב עם יחידות הכפל המטריצה ​​(MXU) שהועלו מיחידות עיבוד הטנזור של גוגל (מכשירי TPU), נטען כי הדבר מספק גמישות רבה יותר לתכנות עומסי עבודה של למידת מכונה.

בעיקרו של דבר, ליבות ה-RV280 למטרות כלליות של ה-X64 במעבד מרצות את הקוד שמנהל את המכשיר, ומזינות חישובים של לימוד מכונה לתוך ה-MXUs של גוגל כנדרש להשלמת עבודות. ה-X280 כולל גם יחידת מתמטיקה וקטורית משלו שיכולה להתמודד עם פעולות שיחידות המאיץ אינן יכולות.

SiFive וגוגל התביישו מעט, אולי מסיבות מסחריות, לגבי האופן שבו זה נארז ומשמש בדיוק, אם כי זה נשמע לנו כאילו גוגל הציבה את יחידות האצה המותאמות אישית שלה במערכת X280 מרובה ליבות-על-שבב, המחברת את בלוקים MXU בעיצוב גוגל ישירות למתחם הליבה RISC-V. שבבים אלה משמשים במרכזי הנתונים של גוגל, ב"מארחי מחשוב AI" לפי SiFive, כדי להאיץ את עבודת למידת המכונה.

אנו מתארים לעצמנו שאם משתמשים בהם בייצור, השבבים האלה מטפלים במשימות בתוך השירותים. אנו מציינים שאינך יכול לשכור את החומרה הזו ישירות ב-Google Cloud, המציע מכונות וירטואליות מותאמות ל-AI המופעלות על ידי טכנולוגיות x86, Arm, TPU ו-GPU מסורתיות.

הפרטים נחשפו בפסגת החומרה של AI בעמק הסיליקון מוקדם יותר החודש, בהרצאה של מייסד ואדריכל ראשי של SiFive Krste Asanović ו-Google TPU Architect Cliff Young, וב פוסט בבלוג של SiFive השבוע.

לפי SiFive, היא הבחינה שבעקבות הצגת ה-X280, חלק מהלקוחות החלו להשתמש בו כליבה נלווית לצד מאיץ, על מנת לטפל בכל משימות הניקיון והעיבוד למטרות כלליות שהמאיץ לא תוכנן לבצע.

רבים מצאו שנדרש מחסנית תוכנה מלאה כדי לנהל את המאיץ, אומר ה-chip biz, ולקוחות הבינו שהם יכולים לפתור את זה עם קומפלקס ליבות X280 ליד המאיץ הגדול שלהם, ליבות המעבד RISC-V מטפלות בכל התחזוקה וה קוד פעולות, ביצוע פעולות מתמטיות שהמאיץ הגדול אינו יכול, ומתן פונקציות שונות אחרות. בעיקרו של דבר, ה-X280 יכול לשמש מעין צומת ניהול עבור המאיץ.

כדי לנצל זאת, SiFive עבדה עם לקוחות כמו גוגל כדי לפתח את מה שהיא מכנה ה-Vector Coprocessor Interface eXtension (VCIX), המאפשרת ללקוחות לקשר מאיץ באופן הדוק ישירות לקובץ הרישום הווקטור של ה-X280, לספק ביצועים מוגברים ונתונים גדולים יותר. רוחב פס.

לדברי Asanović, היתרון הוא שלקוחות יכולים להכניס מעבד משלהם למערכת האקולוגית של RISC-V ולהריץ ערימת תוכנה מלאה וסביבת תכנות, עם היכולת לאתחל לינוקס עם זיכרון וירטואלי מלא ותמיכה קוהרנטית במטמון, על שבב המכיל שילוב של ליבות מעבד ויחידות האצה לשימוש כללי.

מנקודת המבט של גוגל, היא רצתה להתמקד בשיפור משפחת טכנולוגיות ה-TPU שלה, ולא לבזבז זמן ביצירת מעבד יישומים משלה מאפס, ולכן שילוב פונקציות האצה אלה עם מעבד מוכן לשימוש כללי נראה כמו הדרך הנכונה ללכת, לפי יאנג.

VCIX בעצם מדביק את ה-MXUs לליבות RISC-V עם חביון נמוך, ומדלג על הצורך לבלות מחזורים רבים בהמתנה להעברת נתונים בין המעבד ליחידת האצה באמצעות זיכרון, מטמון או PCIe. במקום זאת, נאמר לנו, מדובר רק בעשרות מחזורים דרך גישה לאוגר וקטור. זה גם מרמז על הכל - מתחם המעבד RISC-V והמאיצים המותאמים אישית - כולם נמצאים על אותו קובייה, ארוזים כמערכת על שבב.

קוד היישום פועל על ליבות RISC-V למטרות כלליות, וכל עבודה שניתן להאיץ על ידי ה-MXU עוברת דרך ה-VCIX. לדברי יאנג, ישנם יתרונות נוספים של גישה זו, כמו גם יעילות. מודל התכנות מפושט, וכתוצאה מכך תוכנית אחת עם הוראות סקלריות, וקטוריות ומעבדות משולבות, ומאפשרת שרשרת כלים תוכנה אחת שבה מפתחים יכולים לקודד ב-C/C++ או assembler לפי העדפה.

"עם ליבות למטרות כלליות מבוססות SiFive VCIX 'הכלאיות' עם Google MXUs, אתה יכול לבנות מכונה שתאפשר לך 'לאכול את העוגה שלך וגם לאכול אותה', תוך ניצול מלא של כל הביצועים של ה-MXU ויכולות התכנות של כללי CPU כמו גם הביצועים הווקטוריים של מעבד X280", אמר יאנג.

סביר להניח שהיכולת לייצר שבב מותאם אישית כזה תישאר נחלתם של ה-hyperscalers כמו גוגל, או אלה עם דרישות נישה וכיסים עמוקים, אבל היא כן מדגימה מה ניתן להשיג הודות לגמישות של מודל ה-RISC-V הפתוחה של מערכת אקולוגית .

נראה שהגמישות והפתיחות האלה מספיקות כדי לפתות את גוגל - תומכת ותיקה ב-RISC-V, עם ליבות רכבי פנאי בשימוש בחלק ממוצריה האחרים - להשתמש בארכיטקטורת ה-upstart, בניגוד לעיבוד המעבדים המותאמים אישית שלה לתוך שבבי x86 או Arm -עיצובים ברישיון. ®

נ.ב.: זכור מתי גוגל היה toying עם שימוש בארכיטקטורת ה-POWER CPU במרכזי הנתונים שלה?