การปรับปรุงส่วนขยายเวกเตอร์ RISC-V เพื่อเร่งประสิทธิภาพบนปริมาณงาน ML

ในช่วงสัปดาห์ของวันที่ 19 เมษายน^thLinley Group ได้จัดการประชุมโปรเซสเซอร์ฤดูใบไม้ผลิปี 2021 Linley Group มีชื่อเสียงในด้านการจัดการประชุมที่ยอดเยี่ยม และการประชุมฤดูใบไม้ผลิปีนี้ก็ไม่มีข้อยกเว้น มีการพูดคุยที่ให้ความรู้มากมายจากบริษัทต่างๆ เพื่ออัปเดตผู้ฟังเกี่ยวกับงานวิจัยและพัฒนาล่าสุดที่กำลังเกิดขึ้นในอุตสาหกรรม การนำเสนอถูกแบ่งออกเป็นแปดหัวข้อที่แตกต่างกัน หัวข้อต่างๆ ได้แก่ Edge AI, การออกแบบ SoC แบบฝัง, การฝึกอบรม AI แบบปรับขนาด, การออกแบบ AI SoC, โครงสร้างพื้นฐานเครือข่ายสำหรับ AI และ 5G, ซอฟต์แวร์ Edge AI, การประมวลผลสัญญาณ และการอนุมาน AI ที่มีประสิทธิภาพ

ปัญญาประดิษฐ์ (AI) เป็นเทคโนโลยีที่ได้รับความสนใจและการลงทุนอย่างมากในช่วงไม่กี่ปีที่ผ่านมา การประชุมดังกล่าวสะท้อนให้เห็นว่าในจำนวนหัวข้อเรื่องที่เกี่ยวข้องกับ AI ภายในหมวดหมู่ที่กว้างขึ้นของ AI นั้น Edge AI เป็นหัวข้อที่มีส่วนแบ่งการนำเสนอที่ไม่ยุติธรรมและสมเหตุสมผล Edge Computing มีการเติบโตอย่างรวดเร็วโดยได้รับแรงหนุนจาก IoT, 5G และแอปพลิเคชันอื่นๆ ที่ต้องการเวลาแฝงต่ำ

หนึ่งในการนำเสนอภายในหมวดหมู่ Edge AI มีชื่อว่า “การปรับปรุงส่วนขยายเวกเตอร์ RISC-V เพื่อเร่งประสิทธิภาพบนปริมาณงาน ML” เป็นผู้บรรยายโดย Chris Lattner ประธานฝ่ายวิศวกรรมและผลิตภัณฑ์ของ SiFive, Inc. Chris ได้ยกประเด็นสำคัญว่าทำไมโซลูชันที่ใช้ส่วนขยายเวกเตอร์ RISC-V ของ SiFive จึงเหมาะอย่างยิ่งสำหรับแอปพลิเคชันที่ขับเคลื่อนด้วย AI ต่อไปนี้เป็นของฉัน

ข้อกำหนดของตลาด:

ทันทีที่ตลาดสำหรับการประมวลผลแบบเอดจ์กำลังเติบโต ความต้องการด้านประสิทธิภาพและพลังงานของแอปพลิเคชันเหล่านี้ก็มีความต้องการเพิ่มมากขึ้นเช่นกัน แอปพลิเคชันเหล่านี้จำนวนมากขับเคลื่อนด้วย AI และจัดอยู่ในหมวดหมู่ของปริมาณงานการเรียนรู้ของเครื่อง (ML) และการนำ AI มาใช้กำลังผลักดันความต้องการในการประมวลผลไปสู่การจัดการข้อมูลมากกว่าการประมวลผลเพื่อวัตถุประสงค์ทั่วไป การเรียนรู้เชิงลึกรองรับโมเดล ML และเกี่ยวข้องกับการประมวลผลข้อมูลจำนวนมาก เนื่องจากโมเดล ML มีการพัฒนาอย่างรวดเร็ว โซลูชันในอุดมคติจึงเป็นโซลูชันที่ปรับให้เหมาะสมสำหรับ: ประสิทธิภาพ พลังงาน ความสะดวกในการรวมโมเดล ML ที่เกิดขึ้นใหม่และขอบเขตของการเปลี่ยนแปลงฮาร์ดแวร์และ/หรือซอฟต์แวร์ที่เป็นผลลัพธ์

ข้อได้เปรียบของเวกเตอร์ RISC-V:

แรงจูงใจดั้งเดิมเบื้องหลังความคิดริเริ่มที่ทำให้สถาปัตยกรรม RISC-V แก่เราคือการทดลอง การทดลองเพื่อพัฒนาการออกแบบชิปที่ให้ประสิทธิภาพที่ดีขึ้นเมื่อเผชิญกับการชะลอตัวของกฎของมัวร์ RISC-V สร้างขึ้นจากแนวคิดในความสามารถในการปรับแต่งชิปโดยเฉพาะ โดยคุณสามารถเลือกส่วนขยายชุดคำสั่งที่คุณใช้ได้ ส่วนขยายเวกเตอร์ช่วยให้สามารถประมวลผลเวกเตอร์ที่มีความยาวเท่าใดก็ได้โดยใช้ฟังก์ชันที่ประมวลผลเวกเตอร์ที่มีความยาวคงที่ การประมวลผลเวกเตอร์ช่วยให้ซอฟต์แวร์ที่มีอยู่สามารถทำงานได้โดยไม่ต้องคอมไพล์ใหม่เมื่อมีการอัพเกรดฮาร์ดแวร์ในรูปแบบของ ALU และหน่วยการทำงานอื่นๆ มากขึ้น ความก้าวหน้าที่สำคัญเกิดขึ้นในแง่ของการจัดตั้งฐานฮาร์ดแวร์และระบบนิเวศที่สนับสนุน เช่น เทคโนโลยีคอมไพเลอร์

RISC-V สามารถปรับให้เหมาะสมสำหรับโดเมนหรือแอปพลิเคชันเฉพาะผ่านส่วนขยายที่กำหนดเอง ในฐานะสถาปัตยกรรมชุดคำสั่งมาตรฐานแบบเปิด ผู้ใช้ RISC-V จะได้รับความยืดหยุ่นอย่างมากในการเลือกซัพพลายเออร์สำหรับความต้องการในการออกแบบชิปของตน

ข้อเสนอของ SiFive:

SiFive ได้เพิ่มความได้เปรียบของ RISC-V Vector ด้วยการเพิ่มส่วนขยายเวกเตอร์ใหม่ เพื่อเร่งการดำเนินการของโมเดลโครงข่ายประสาทเทียมที่แตกต่างกันมากมาย อ้างอิงถึงรูปที่ 1 เพื่อดูตัวอย่างประเภทการเร่งความเร็วที่สามารถรับได้โดยใช้ส่วนขยาย Add-on ของ SiFive เมื่อเปรียบเทียบกับการใช้เพียงส่วนขยายเวกเตอร์พื้นฐานของ RISC-V โซลูชัน Intelligence X280 ของบริษัทเป็นโซลูชัน RISC-V Vector ที่มีความสามารถแบบมัลติคอร์ (ฮาร์ดแวร์และซอฟต์แวร์) เพื่อให้ลูกค้าสามารถนำแอปพลิเคชัน Edge AI ที่ได้รับการปรับแต่งมาใช้งานได้อย่างง่ายดาย โซลูชันนี้ยังสามารถใช้เพื่อปรับใช้แอปพลิเคชันศูนย์ข้อมูลได้อีกด้วย

1 รูป:

ข้อได้เปรียบ SiFive:

• โซลูชัน Intelligence X280 ของ SiFive รองรับแพลตฟอร์มโอเพ่นซอร์ส TensorFlow และ TensorFlow Lite อย่างสมบูรณ์สำหรับการเรียนรู้ของเครื่อง (ดูรูปที่ 2)
• SiFive มอบวิธีง่ายๆ ในการย้ายโค้ดที่มีอยู่ของลูกค้าตามสถาปัตยกรรมอื่นๆ ไปยังสถาปัตยกรรม RISC-V Vector ตัวอย่างเช่น SiFive สามารถแปลโค้ด ARM Neon เป็นโค้ดแอสเซมบลี RISC-V V
• SiFive ช่วยให้ลูกค้าสามารถสำรวจการเพิ่มส่วนขยายที่กำหนดเองในการใช้งาน RISC-V ของตนได้
• SiFive ผ่านหน่วยธุรกิจ OpenFive ขยายบริการการใช้งานชิปแบบกำหนดเองเพื่อตอบสนองความต้องการซิลิคอนเฉพาะโดเมน

2 รูป:

สรุป:

โดยสรุป ลูกค้า SiFive สามารถใช้งานแอปพลิเคชันของตนได้อย่างง่ายดายและรวดเร็ว ไม่ว่าแอปพลิเคชันจะเกี่ยวข้องกับปริมาณงาน Edge AI หรือปริมาณงานประเภทศูนย์ข้อมูลแบบดั้งเดิมก็ตาม หากสนใจที่จะได้รับประโยชน์จากโซลูชันของ SiFive สำหรับการเร่งประสิทธิภาพของปริมาณงาน ML ของคุณ ฉันขอแนะนำให้คุณลงทะเบียนและรับฟัง บทสนทนาทั้งหมดของคริส จากนั้นหารือกับ SiFive เกี่ยวกับวิธีการใช้ประโยชน์จากข้อเสนอที่แตกต่างกันในการพัฒนาผลิตภัณฑ์ของคุณ

แชร์โพสต์นี้ผ่าน: ที่มา: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-Performance-on-ml-workloads/