AWS ו- NVIDIA כדי להביא עננים מבוססי זרוע Graviton2 עם GPUs

AWS ממשיכה לחדש בשם לקוחותינו. אנו עובדים עם NVIDIA כדי להביא מעבד זרוע מבוסס NVIDIA GPU מואץ ענן מחשוב אלסטי של אמזון מופע (אמזון EC2) לענן במחצית השנייה של 2021. מופע זה יכלול את זרוע מעבד AWS Graviton2, שנבנה מהיסוד על ידי AWS ומותאם לאופן שבו לקוחות מריצים את עומסי העבודה שלהם בענן, ומבטל הרבה רכיבים לא נחוצים שאחרת עשויים להיכנס למעבד כללי.

חדשנות AWS עם מעבדי Graviton2

AWS המשיכה לחלוץ מחשוב ענן עבור לקוחותינו. בשנת 2018, AWS הייתה ספקית הענן הגדולה הראשונה שהציעה מקרים מבוססי זרוע בענן עם מופעי EC2 A1 המופעלים על ידי מעבדי AWS Graviton. מקרים אלה בנויים סביב ליבות זרוע ועושים שימוש נרחב בסיליקון המותאם אישית של AWS. הם מתאימים מאוד לעומסי עבודה בהיקפים גדולים שבהם אתה יכול לחלוק את העומס על פני קבוצה של מקרים קטנים יותר.

בשנת 2020, AWS שחררה מעבדי Graviton2 מעוצבים באמצעות AWS, ומספקים קפיצת מדרגה משמעותית בביצועים וביכולות בהשוואה למעבדי AWS Graviton מהדור הראשון. מעבדים אלה מפעילים EC2 מטרה כללית (M6g, M6gd, T4g), מופעי אופטימיזציה לחישוב (C6g, C6gd, C6gn) ומותאמים לזיכרון (R6g, R6gd, X2gd) ומספקים ביצועי מחיר טובים יותר עד 40% בהשוואה לזרם דומה מופעים מבוססי x86 של דור למגוון רחב של עומסי עבודה. מעבדי AWS Graviton2 מספקים ביצועים גדולים פי שבעה, ליבות מחשוב ארבע פעמים, זיכרון מהיר פי חמישה ומטמון גדול פי שניים בהשוואה למעבדי AWS Graviton מהדור הראשון.

לקוחות הכוללים Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap ו- Twitter ראו ביצועים משמעותיים והפחיתו עלויות מהפעלת מקרים מבוססי AWS Graviton2 בייצור. מעבדי AWS Graviton2, המבוססים על ארכיטקטורת Arm של 64 סיביות, נתמכים על ידי מערכות הפעלה לינוקס פופולריות, כולל Amazon Linux 2, Red Hat, SUSE ואובונטו. יישומים ושירותים פופולריים רבים של AWS ו- ISV תומכים גם במקרים מבוססי AWS Graviton2. מפתחי זרועות יכולים להשתמש במקרים אלה כדי לבנות יישומים באופן מקורי בענן, ובכך לבטל את הצורך בהדמיית אוספים צולבים, המועדים לטעויות ולוקחים זמן רב. הוספת מחשבי GPU של NVIDIA מאיצה מקרים מבוססי Graviton2 לעומסי עבודה עננים מגוונים, כולל משחקים ועומסי עבודה אחרים מבוססי זרוע כמו הסקת למידה ממוחשבת (ML).

העבר בקלות משחקי אנדרואיד לענן

לפי מחקר מאת App Annie, המשחקים הסלולריים הם כעת צורת המשחק הפופולרית ביותר ועברה את הקונסולה, PC ו- Mac. נוֹסָף מחקר מאת App Annie הוכיח כי עד 10% מכל הזמן המושקע במכשירים ניידים הוא עם משחקים, ומפתחי משחקים צריכים לתמוך ולבצע אופטימיזציה של המשחקים שלהם למגוון המכשירים הניידים המגוונים המשמשים כיום ובעתיד. על ידי מינוף הענן, מפתחי משחקים יכולים לספק חוויה אחידה בכל קשת המכשירים הניידים ולהאריך את חיי הסוללה עקב דרישות מחשוב וכוח נמוכות יותר על המכשיר הנייד. מופע ה- AWS Graviton2 עם האצת NVIDIA GPU מאפשר למפתחי משחקים להריץ משחקי אנדרואיד באופן מקורי, לקודד את הגרפיקה המופנית ולזרום את המשחק ברשתות למכשיר נייד, וכל זאת ללא צורך בהפעלת תוכנת הדמיה בתשתית מבוססת מעבד x86.

הסקה חסכונית, מבוססת GPU על למידת מכונה

בנוסף למשחקים סלולריים, לקוחות המפעילים מודלים של למידת מכונה בייצור מחפשים ללא הרף דרכים להוזיל עלויות מכיוון שההסקה של ML יכולה לייצג עד 90% מסך ההוצאות על התשתית להפעלת יישומים אלה בקנה מידה גדול. עם הצעה חדשה זו לקוחות יוכלו לנצל את יתרונות המחיר / ביצועים של Graviton2 כדי לפרוס מודלים של לימוד עמוק מואץ של GPU בעלות נמוכה משמעותית לעומת מקרים מבוססי x86 עם האצת GPU.

AWS ו- NVIDIA: היסטוריה ארוכה של שיתוף פעולה

AWS ו- NVIDIA שיתפו פעולה במשך למעלה מעשר שנים כדי לספק ללא הרף פתרונות חזקים, חסכוניים וגמישים מבוססי GPU ללקוחות כולל האחרונה מקרים EC2 G4 עם NVIDIA T4 GPUs שהושקו בשנת 2019 ו- מופעי EC2 P4d עם NVIDIA A100 GPUs שהושקו בשנת 2020. מופעי EC2 P4d פרוסים באשכולות בקנה מידה גבוה המכונים EC2 UltraClusters המורכבים מהמחשוב, הרשת והאחסון הגבוהים ביותר בענן. EC2 UltraClusters תומך ברשת מופעים של 400 Gbps, מתאם בד אלסטי (EFA) וטכנולוגיית NVIDIA GPUDirect RDMA המסייעות באימון מהיר של דגמי ML באמצעות טכניקות מתרחבות ומופצות.

בנוסף להיותנו הראשונים בענן שמציעים מקרים מואצים של GPU, והראשונים בענן מציעים GPUs של NVIDIA V100, אנו עובדים כעת יחד עם NVIDIA להציע מקרים חדשים EC2 המשלבים מעבד מבוסס זרוע עם מאיץ GPU במערכת במחצית השנייה של 2021. למידע נוסף על האופן בו AWS ו- NVIDIA עובדים יחד בכדי להביא טכנולוגיה חדשנית ללקוחות, בקרו באתר AWS ב- NVIDIA GTC 21.

על המחבר

ג'וף מוראז הוא מנהל שיווק מוצר בכיר במופעי מחשוב מואצים של AWS EC2, ועוזר ללקוחות לענות על צרכי המחשוב שלהם על ידי מתן גישה למאיצי מחשוב מבוססי חומרה כגון יחידות עיבוד גרפיות (GPU) או מערכי שער לתכנות שדה (FPGA). בזמנו הפנוי הוא נהנה לשחק כדורסל ואופניים עם משפחתו.

מקור: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/