Aprimorando as extensões de vetor RISC-V para acelerar o desempenho em cargas de trabalho de ML

Durante a semana de 19 de abril^th, o Grupo Linley realizou sua Spring Processor Conference 2021. O Grupo Linley tem a reputação de realizar conferências excelentes. E a conferência de primavera deste ano não foi exceção. Houve uma série de palestras muito informativas de diversas empresas, atualizando o público sobre os mais recentes trabalhos de pesquisa e desenvolvimento que estão acontecendo no setor. As apresentações foram categorizadas em oito assuntos diferentes. Os assuntos foram Edge AI, Embedded SoC Design, Scaling AI Training, AI SoC Design, Infraestrutura de rede para AI e 5G, Edge AI Software, Processamento de sinais e Efficient AI Inference.

A Inteligência Artificial (IA) como tecnologia tem atraído muita atenção e investimentos nos últimos anos. A conferência certamente refletiu isso no número de categorias de assuntos relacionados à IA. Dentro da categoria mais ampla de IA, Edge AI foi um assunto que teve uma parcela injusta de apresentações e com razão. A edge computing está vendo um rápido crescimento impulsionado pela IoT, 5G e outras aplicações com requisitos de baixa latência.

Uma das apresentações na categoria Edge AI foi intitulada “Aprimorando extensões de vetor RISC-V para acelerar o desempenho em cargas de trabalho de ML.” A palestra foi proferida por Chris Lattner, presidente de engenharia e produto da SiFive, Inc. Chris defendeu fortemente por que a solução baseada em extensões vetoriais RISC-V da SiFive é uma ótima opção para aplicações orientadas por IA. A seguir está minha opinião.

Requisitos do mercado:

À medida que o mercado de edge computing cresce, os requisitos de desempenho e energia destas aplicações também se tornam cada vez mais exigentes. Muitos desses aplicativos são orientados por IA e se enquadram na categoria de cargas de trabalho de aprendizado de máquina (ML). E a adoção da IA ​​está empurrando os requisitos de processamento mais para a manipulação de dados do que para a computação de uso geral. O aprendizado profundo é a base dos modelos de ML e envolve o processamento de grandes conjuntos de dados. Com a rápida evolução dos modelos de ML, uma solução ideal seria aquela que otimizasse para: desempenho, potência, facilidade de incorporação de modelos de ML emergentes e escopo das alterações de hardware e/ou software resultantes.

Vantagem do vetor RISC-V:

A motivação original por trás da iniciativa que nos deu a arquitetura RISC-V é a experimentação. Experimentar para desenvolver designs de chips que produzam melhor desempenho diante da desaceleração esperada da lei de Moore. O RISC-V foi construído com base na ideia de ser capaz de fabricar chips específicos onde você pode escolher quais extensões de conjunto de instruções você está usando. As extensões vetoriais permitem o processamento de vetores de qualquer comprimento usando funções que processam vetores de comprimentos fixos. O processamento vetorial permite que o software existente seja executado sem recompilação quando o hardware é atualizado na forma de mais ALUs e outras unidades funcionais. Houve um progresso significativo em termos de base de hardware estabelecida e ecossistema de suporte, como tecnologias de compilador.

O RISC-V pode ser otimizado para um domínio ou aplicativo específico por meio de extensões personalizadas. Como uma arquitetura de conjunto de instruções de padrão aberto, os usuários do RISC-V desfrutam de muita flexibilidade na escolha de um fornecedor para suas necessidades de design de chip.

Oferta da SiFive:

SiFive aprimorou a vantagem do vetor RISC-V adicionando novas extensões de vetor para acelerar a execução de muitos modelos de redes neurais diferentes. Consulte a Figura 1 para ver um exemplo do tipo de aceleração que pode ser obtida usando as extensões complementares do SiFive em comparação com o uso apenas das extensões de vetor base do RISC-V. Sua solução Intelligence X280 é uma solução RISC-V Vector com capacidade multi-core (hardware e software) para facilitar aos seus clientes a implementação de aplicativos Edge AI otimizados. A solução também pode ser usada para implementar aplicações de data center.

Figura 1:

Vantagem SiFive:

• A solução Intelligence X280 da SiFive oferece suporte total às plataformas de código aberto TensorFlow e TensorFlow Lite para aprendizado de máquina (consulte a Figura 2)
• SiFive fornece uma maneira fácil de migrar o código existente do cliente baseado em outras arquiteturas para a arquitetura RISC-V Vector. Por exemplo, SiFive pode traduzir o código ARM Neon para o código assembly RISC-V V
• SiFive permite que seus clientes explorem a adição de extensões personalizadas às suas implementações RISC-V
• SiFive, por meio de sua unidade de negócios OpenFive, amplia serviços de implementação de chips personalizados para atender às necessidades de silício específicas de domínio

Figura 2:

Resumo:

Em suma, os clientes SiFive podem implementar seus aplicativos de maneira fácil e rápida, quer os aplicativos envolvam cargas de trabalho de Edge AI ou cargas de trabalho do tipo tradicional de data center. Se estiver interessado em se beneficiar das soluções da SiFive para acelerar o desempenho de suas cargas de trabalho de ML, recomendo que você se registre e ouça Toda a conversa de Chris e depois discuta com SiFive sobre maneiras de aproveitar suas diferentes ofertas para desenvolver seus produtos.

Compartilhe esta postagem via: Fonte: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/