Βελτίωση επεκτάσεων φορέα RISC-V για επιτάχυνση της απόδοσης σε φόρτους εργασίας ML

Την εβδομάδα της 19ης Απριλίου^th, ο Όμιλος Linley πραγματοποίησε το Spring Processor Conference του 2021. Ο Όμιλος Linley έχει τη φήμη ότι συγκαλεί εξαιρετικά συνέδρια. Και το φετινό εαρινό συνέδριο δεν αποτέλεσε εξαίρεση. Υπήρξαν πολλές πολύ ενημερωτικές ομιλίες από διάφορες εταιρείες που ενημερώνουν το κοινό σχετικά με τις τελευταίες εργασίες έρευνας και ανάπτυξης που συμβαίνουν στον κλάδο. Οι παρουσιάσεις είχαν κατηγοριοποιηθεί σε οκτώ διαφορετικά θέματα. Τα θέματα ήταν Edge AI, Embedded SoC Design, Scaling AI Training, AI SoC Design, Network Infrastructure for AI and 5G, Edge AI Software, Signal Processing and Efficient AI Inference.

Η Τεχνητή Νοημοσύνη (AI) ως τεχνολογία έχει συγκεντρώσει μεγάλη προσοχή και επενδύσεις τα τελευταία χρόνια. Το συνέδριο σίγουρα αντικατόπτριζε αυτό στον αριθμό των θεματικών κατηγοριών που σχετίζονται με την τεχνητή νοημοσύνη. Εντός της ευρύτερης κατηγορίας της τεχνητής νοημοσύνης, το Edge AI ήταν ένα θέμα που είχε άδικο μερίδιο παρουσιάσεων και δικαιολογημένα. Η τεχνολογία Edge computing γνωρίζει ταχεία ανάπτυξη που καθοδηγείται από το IoT, το 5G και άλλες εφαρμογές απαιτήσεων χαμηλής καθυστέρησης.

Μία από τις παρουσιάσεις στην κατηγορία Edge AI είχε τίτλο "Βελτίωση των διανυσματικών επεκτάσεων RISC-V για επιτάχυνση της απόδοσης σε φόρτους εργασίας ML." Η ομιλία έγινε από τον Chris Lattner, Πρόεδρο, Μηχανική και Προϊόντα της SiFive, Inc. Ο Chris υποστήριξε γιατί η λύση που βασίζεται σε διανυσματικές επεκτάσεις RISC-V του SiFive είναι ιδανική για εφαρμογές που βασίζονται σε τεχνητή νοημοσύνη. Το παρακάτω είναι η άποψή μου.

Απαιτήσεις αγοράς:

Όσο γρήγορα αναπτύσσεται η αγορά υπολογιστών αιχμής, τόσο οι απαιτήσεις απόδοσης και ισχύος αυτών των εφαρμογών γίνονται όλο και πιο απαιτητικές. Πολλές από αυτές τις εφαρμογές βασίζονται σε τεχνητή νοημοσύνη και εμπίπτουν στην κατηγορία φόρτου εργασίας μηχανικής εκμάθησης (ML). Και η υιοθέτηση της τεχνητής νοημοσύνης ωθεί τις απαιτήσεις επεξεργασίας περισσότερο προς τη χειραγώγηση δεδομένων παρά τον υπολογισμό γενικού σκοπού. Η βαθιά μάθηση βασίζεται στα μοντέλα ML και περιλαμβάνει την επεξεργασία μεγάλων σειρών δεδομένων. Με τα μοντέλα ML να εξελίσσονται γρήγορα, μια ιδανική λύση θα ήταν αυτή που βελτιστοποιεί: απόδοση, ισχύ, ευκολία ενσωμάτωσης αναδυόμενων μοντέλων ML και εύρος των αλλαγών υλικού ή/και λογισμικού που προκύπτουν.

Πλεονέκτημα του διανύσματος RISC-V:

Το αρχικό κίνητρο πίσω από την πρωτοβουλία που μας έδωσε την αρχιτεκτονική RISC-V είναι ο πειραματισμός. Πειραματισμός για την ανάπτυξη σχεδίων τσιπ που αποδίδουν καλύτερες επιδόσεις ενόψει της αναμενόμενης επιβράδυνσης του νόμου του Moore. Το RISC-V βασίζεται στην ιδέα της δυνατότητας προσαρμογής συγκεκριμένων τσιπ όπου μπορείτε να επιλέξετε ποιες επεκτάσεις συνόλου εντολών χρησιμοποιείτε. Οι διανυσματικές επεκτάσεις επιτρέπουν την επεξεργασία διανυσμάτων οποιουδήποτε μήκους χρησιμοποιώντας συναρτήσεις που επεξεργάζονται διανύσματα σταθερών μηκών. Η διανυσματική επεξεργασία επιτρέπει στο υπάρχον λογισμικό να εκτελείται χωρίς επαναμεταγλώττιση όταν το υλικό αναβαθμίζεται με τη μορφή περισσότερων ALU και άλλων λειτουργικών μονάδων. Σημαντική πρόοδος έχει σημειωθεί όσον αφορά την καθιερωμένη βάση υλικού και το υποστηρικτικό οικοσύστημα, όπως οι τεχνολογίες μεταγλωττιστών.

Το RISC-V μπορεί να βελτιστοποιηθεί για έναν συγκεκριμένο τομέα ή εφαρμογή μέσω προσαρμοσμένων επεκτάσεων. Ως αρχιτεκτονική σετ εντολών ανοιχτού προτύπου, οι χρήστες RISC-V απολαμβάνουν μεγάλη ευελιξία στην επιλογή προμηθευτή για τις ανάγκες σχεδίασης τσιπ.

Προσφορά της SiFive:

Το SiFive έχει βελτιώσει το πλεονέκτημα του RISC-V Vector προσθέτοντας νέες διανυσματικές επεκτάσεις για την επιτάχυνση της εκτέλεσης πολλών διαφορετικών μοντέλων νευρωνικών δικτύων. Ανατρέξτε στην Εικόνα 1 για να δείτε ένα παράδειγμα του είδους της επιτάχυνσης που μπορεί να επιτευχθεί χρησιμοποιώντας τις πρόσθετες επεκτάσεις του SiFive σε σύγκριση με τη χρήση μόνο των βασικών διανυσματικών επεκτάσεων του RISC-V. Η λύση Intelligence X280 είναι μια λύση RISC-V Vector με πολλαπλούς πυρήνες (υλισμικό και λογισμικό) που διευκολύνει τους πελάτες της να εφαρμόσουν βελτιστοποιημένες εφαρμογές Edge AI. Η λύση μπορεί επίσης να χρησιμοποιηθεί για την υλοποίηση εφαρμογών data center.

Εικόνα 1:

Πλεονέκτημα SiFive:

• Η λύση Intelligence X280 της SiFive υποστηρίζει πλήρως τις πλατφόρμες ανοιχτού κώδικα TensorFlow και TensorFlow Lite για μηχανική εκμάθηση (Ανατρέξτε στην Εικόνα 2)
• Το SiFive παρέχει έναν εύκολο τρόπο μετεγκατάστασης του υπάρχοντος κώδικα του πελάτη που βασίζεται σε άλλες αρχιτεκτονικές στην αρχιτεκτονική RISC-V Vector. Για παράδειγμα, το SiFive μπορεί να μεταφράσει τον κώδικα ARM Neon σε κώδικα συναρμολόγησης RISC-V V
• Το SiFive επιτρέπει στους πελάτες του να εξερευνήσουν την προσθήκη προσαρμοσμένων επεκτάσεων στις υλοποιήσεις RISC-V τους
• Το SiFive μέσω της επιχειρηματικής του μονάδας OpenFive επεκτείνει τις προσαρμοσμένες υπηρεσίες υλοποίησης τσιπ για την αντιμετώπιση των αναγκών πυριτίου για συγκεκριμένους τομείς

Εικόνα 2:

Περίληψη:

Με λίγα λόγια, οι πελάτες του SiFive μπορούν εύκολα και γρήγορα να εφαρμόσουν τις εφαρμογές τους, είτε οι εφαρμογές περιλαμβάνουν φόρτους εργασίας Edge AI είτε παραδοσιακούς τύπους φόρτου εργασίας κέντρου δεδομένων. Εάν ενδιαφέρεστε να επωφεληθείτε από τις λύσεις του SiFive για την επιτάχυνση της απόδοσης των φόρτων εργασίας σας ML, σας συνιστώ να εγγραφείτε και να ακούσετε Ολόκληρη η συζήτηση του Κρις και στη συνέχεια συζητήστε με τη SiFive για τρόπους αξιοποίησης των διαφορετικών προσφορών τους για την ανάπτυξη των προϊόντων σας.

Μοιραστείτε αυτήν την ανάρτηση μέσω: Πηγή: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/