SambaNova indsamler $676M for at masseproducere AI-trænings- og inferenschips

SambaNova systemer, en startup, der udvikler chips til AI-arbejdsbelastninger, annoncerede i dag, at den har rejst 676 millioner dollars, hvilket vurderer virksomheden til mere end 5 milliarder dollars efter penge. SambaNova siger, at det planlægger at udvide sin kundebase - især på datacentermarkedet - da det bliver en af ​​de mest kapitaliserede AI-virksomheder i verden med over 1 milliard dollars rejst.

AI-acceleratorer er en type specialiseret hardware designet til at fremskynde AI-applikationer såsom neurale netværk, deep learning og forskellige former for maskinlæring. De fokuserer på lavpræcision aritmetisk eller in-memory computing, som kan booste ydeevnen af ​​store AI-algoritmer og føre til state-of-the-art resultater i naturlig sprogbehandling, computersyn og andre domæner. Det er måske grunden til, at de forventes at have en voksende andel af edge computing-processorkraft, der forventes at udgøre 70 % af den i 2025, ifølge til en nylig undersøgelse fra Statista.

SambaNova optager en sommerhusindustri af startups, hvis fokus er at udvikle infrastruktur til at håndtere AI-arbejdsbelastninger. Det Palo Alto, Californien-baserede firma, som blev grundlagt i 2017 af Oracle og Sun Microsystems-veteranen Rodrigo Liang og Stanford-professorerne Kunle Olukotun og Chris Ré, leverer systemer, der kører AI og dataintensive apps fra datacenteret til kanten.

Olukotun, som for nylig modtog IEEE Computer Society's Harry H. Goode Memorial Award, er leder af Stanford Hydra Chip Multiprocessor-forskningsprojektet, som producerede et chipdesign, der parrer fire specialiserede processorer og deres cache med en delt sekundær cache. Ré, lektor ved Institut for Computervidenskab ved Stanford Universitys InfoLab, er en MacArthur geniprismodtager, som også er tilknyttet Statistical Machine Learning Group, Pervasive Parallelism Lab og Stanford AI Lab.

SambaNovas AI-chips - og dets kunder for den sags skyld - forbliver stort set under lås og slå. Men virksomheden har tidligere afsløret, at det udvikler "softwaredefinerede" enheder inspireret af DARPA-finansieret forskning i effektiv AI-behandling. Ved at udnytte en kombination af algoritmiske optimeringer og tilpasset board-baseret hardware hævder SambaNova, at det er i stand til dramatisk at forbedre ydeevnen og kapaciteten af ​​de fleste AI-prægede apps.

SambaNovas 40-milliarder transistor Cardinal SN10 RDU (Reconfigurable Dataflow Unit), som er bygget på TSMC's N7-proces, består af en række rekonfigurerbare noder til data, lagring og switching. Den er designet til at udføre in-the-loop-træning og give mulighed for modelomklassificering og optimering på farten under inferens-med-trænings-arbejdsbelastninger. Hver Cardinal-chip har seks controllere til hukommelse, hvilket muliggør en båndbredde på 153 GB/s, og de otte chips er forbundet i en alt-til-alle-konfiguration. Denne sidste bit er muliggjort af et switching-netværk, der tillader chipsene at skalere.

SambaNova sælger ikke Cardinal alene, men snarere som en løsning, der skal installeres i et datacenter. Den grundlæggende enhed i SambaNovas tilbud kaldes DataScale SN10-8R, med en AMD-processor parret med otte Cardinal-chips og 12 terabyte DDR4-hukommelse eller 1.5 TB pr. Cardinal. SambaNova siger, at det vil tilpasse sine produkter baseret på kundernes behov med et standardsæt af netværks- og administrationsfunktioner, som SambaNova kan fjernadministrere.

Den store hukommelseskapacitet giver tilsyneladende SN10-8R et ben op på rivaliserende hardware som Nvidias V100. Som SambaNova VP for produkt Marshall Choy fortalte Next Platform, kan Cardinals rekonfigurerbare arkitektur eliminere behovet for ting som nedsampling af billeder i høj opløsning til lav opløsning til træning og inferens, og bevare informationen i det originale billede. Resultatet er evnen til at træne modeller med velsagtens højere samlet kvalitet, samtidig med at behovet for yderligere mærkning elimineres.

På softwaresiden af ​​ligningen har SambaNova sin egen grafoptimering og compiler, der lader kunder, der bruger maskinlæringsrammer som PyTorch og TensorFlow, få deres arbejdsbelastninger genkompileret til Cardinal. Virksomheden sigter mod at understøtte naturligt sprog, computersyn og anbefalingsmodeller, der indeholder over 100 milliarder parametre - de dele af modellen, der er lært fra historiske træningsdata - samt et større hukommelsesfodaftryk, der giver mulighed for hardwareudnyttelse og større nøjagtighed.

SambaNova har konkurrence på et marked, der forventes at nå $ 91.18 milliarder i 2025. Hailo, en startup, der udvikler hardware til at fremskynde AI-inferencing på kanten, blev i marts 2020 fanget $ 60 millioner i risikovillig kapital. Californien-baseret Mythic har rejst 85.2 millioner dollars for at udvikle tilpasset in-memory computerarkitektur. Graphcore, en Bristol, UK-baseret startup, der skaber chips og systemer til at accelerere AI-arbejdsbelastningen, har en krigskiste i hundredvis af millioner af dollars. Og Baidus voksende AI-chipenhed var for nylig vurderet til $2 milliarder efter finansiering.

Men SambaNova siger, at den første generation af Cardinal blev tappet i foråret 2019, med de første prøver af silicium allerede på kundernes servere. Faktisk havde SambaNova solgt til kunder i over et år før dette tidspunkt - de eneste offentlige versioner er fra Department of Energy i Lawrence Livermore og Los Alamos. Lawrence Livermore integrerede et af SambaNovas systemer med dets Corona supercomputing-klynge, primært brugt til simuleringer af forskellige fysikfænomener.

SambaNova er også modtageren af ​​et marked, der oplever hidtil uset – og vedvarende – kundeefterspørgsel. Stigninger i indkøb af biler og elektronik i begyndelsen af ​​pandemien har forværret en voksende mangel på mikrochips. Som svar har den amerikanske præsident Joe Biden for nylig forpligtet 180 milliarder dollars til F&U til avanceret databehandling samt specialiseret halvlederfremstilling til kunstig intelligens og kvanteberegning, som alle er blevet centrale i landets nationale teknologistrategi.

"Vi begyndte at sende produkter under pandemien og så en acceleration af forretning og adoption i forhold til forventningerne," fortalte en talsmand til VentureBeat via e-mail. "COVID-19 bragte også en sølv lining i, at det har genereret nye use cases for os. Vores teknologi bliver brugt af kunder til forskning og opdagelse af COVID-19 terapeutiske og antivirale forbindelser."

Ifølge Bronis de Supinski, Chief Technology Officer hos Lawrence Livermore, bliver SambaNovas platform brugt til at udforske en teknik kaldet kognitiv simulering, hvor AI bruges til at accelerere behandlingen af ​​dele af simuleringer. Han fordringer en omkring 5 gange forbedring sammenlignet med GPU'er, der kører de samme modeller.

Sammen med det nye SN10-8R-produkt er SambaNova indstillet til at tilbyde to cloud-lignende servicemuligheder: Den første — SambaNova AI Platform — er en gratis udviklersky til forskningsinstitutioner med computeradgang til hardwaren. Den anden - DataFlow as a Service - er til erhvervskunder, der ønsker fleksibiliteten i skyen uden at betale for hardwaren. I begge tilfælde vil SambaNova håndtere styring og opdateringer.

Softbank ledede SambaNovas seneste finansieringsrunde, en serie D. Virksomheden, der har over 300 ansatte, lukkede tidligere en $250 mio. serie C runde ledet af BlackRock og efterfulgt af en serie B på $150 millioner med Intel Capital i spidsen.

Kilde: https://venturebeat.com/2021/04/13/sambanova-raises-over-600m-to-mass-produce-ai-chips-for-training-and-inference/