Maailma suurim tehisintellekti kiip on nüüd saadaval 2.6 triljoni transistoriga

Maailma suurim tehisintellekti kiip kahekordistas oma tehnilisi andmeid – tolli lisamata.

Cerebras Systems Wafer Scale Engine on umbes suure söögitaldriku suurune. Kogu see pindala võimaldab palju rohkem kõike, protsessoritest mäluni. Esimene WSE kiip, vabastatakse 2019is, sellel oli uskumatult 1.2 triljonit transistorit ja 400,000 XNUMX töötlevat südamikku. Selle järglane kahekordistab kõike, välja arvatud selle füüsiline suurus.

WSE-2 mahutab samale söögitaldrikule 2.6 triljonit transistorit ja 850,000 18 südamikku. Selle kiibisisene mälu on suurenenud 40 gigabaidilt 9 gigabaidile ning teabe edastamise kiirus mällu ja sealt tagasi on langenud 20 petabaidilt sekundis XNUMX petabaidini sekundis.

See on metsaline, kui te seda viilutate.

WSE-2 toodab Taiwan Semiconductor Manufacturing Company (TSMC) ja see oli hüpe TSMC 16 nanomeetriselt kiibi valmistamise protsessilt 7 nanomeetrisele protsessile – jättes vahele 10 nanomeetrise sõlme –, mis võimaldas suurema osa WSE-2 eelistest. .

See nõudis muudatusi kiibi füüsilises disainis, kuid Cerebras ütleb, et nad tegid ka igas tuumas täiustusi rohkem kui uue protsessi toimimiseks. Uuendatud megakiip peaks olema palju kiirem ja tõhusam.

Miks teha hiiglaslikke arvutikiipe?

Kuigi graafikaprotsessorid (GPU-d) on tehisintellektis endiselt ülimad, ei loodud neid eriti tehisintellekti jaoks. Pigem töötati esmalt välja ja kasutati GPU-sid graafikaga rasketes rakendustes, näiteks mängides.

Nad on tehisintellekti ja superarvutite jaoks teinud hämmastavaid asju, kuid viimastel aastatel on tehisintellekti jaoks valmistatud spetsiaalsed kiibid aina kasvanud.

Cerebras on üks kandidaate, kõrvuti teiste uutega, nagu Graphcore ja SambaNova, ning tuttavamate nimedega nagu Intel ja NVIDIA.

Ettevõttele meeldib võrrelda WSE-2 tipptasemel AI-protsessoriga (NVIDIA A100), et rõhutada, kui erinev see konkurentidest erineb. A100-l on kaks protsenti rohkem transistore (54.2 miljardit), mis hõivavad veidi alla kahe protsendi pindalast. See on palju väiksem, kuid A100 võimsus on täielikum, kui sajad või tuhanded kiibid on ühendatud suuremas süsteemis.

Seevastu WSE-2 vähendab kõigi nende kiipide ühendamise kulusid ja keerukust, segades võimalikult palju töötlemist ja mälu ühele räniplaadile. Samal ajal suurendab märkimisväärselt kiirust ja tõhusust, kui kaotatakse vajadus andmete teisaldamiseks paljude kiipide vahel, mis on paigutatud mitmele serveririiulile.

Kiibi disain annab selle väikestele kiiretele tuumadele eraldi mälu ja hõlbustab südamike vahelist kiiret suhtlust. Ja Cerebrase kompileerimistarkvara töötab masinõppemudelitega, kasutades standardseid raamistikke (nt PyTorch ja TensorFlow), et muuta ülesannete jaotamine kiibi tuumade vahel üsna valutuks.

Seda lähenemisviisi nimetatakse vahvlimõõtkavadeks, kuna kiip on tavalise räniplaadi suurune, millest tavaliselt lõigatakse palju kiipe. Vahvlimõõtkava on olnud radaril juba aastaid, kuid Cerebras on esimene, kes valmistab äriliselt elujõulise kiibi.

Kiip on pakendatud arvutisüsteemi nimega CS-2. Süsteem sisaldab jahutust ja toiteallikat ning mahub umbes kolmandikku tavalisest serveririiulist.

Pärast seda, kui käivitusettevõte 2019. aastal kiibist välja kuulutas, hakkas see töötama kasvava klientide nimekirjaga. Cerebras loeb GlaxoSmithKline'i, Lawrence Livermore National Labi ja Argonne Nationali (muu hulgas) klientideks kõrvuti nimetamata partneritega farmaatsia, biotehnoloogia, tootmise ja sõjaväe vallas. Paljud rakendused on olnud AI-s, kuid mitte kõik. Eelmisel aastal teatas ettevõte National Energy Technology Laboratory (NETL) kasutas kiipi superarvuti edestamiseks vedeliku dünaamika simulatsioonis.

Kas vahvlikaal läheb suureks?

Seda, kas vahvlimastaabis andmetöötlus kinni püüab, tuleb veel näha.

Cerebras ütleb, et nende kiip kiirendab märkimisväärselt masinõppe ülesandeid ja varajaste klientide tunnistusi, millest mõned nõuda päris suurt kasumit— toetab seda. Kuid veel ei ole sõltumatuid pea-peale võrdlusi. Näiteks Cerebras ega enamik teisi tehisintellekti riistvara idufirmasid ei osalenud hiljutine tehisintellektisüsteemide MLperfi võrdlustest. (Peaaegu kõik parimad süsteemid kasutasid oma algoritmide kiirendamiseks NVIDIA GPU-sid.)

Järgi IEEE spekterCerebras ütleb, et nad eelistavad pigem lasta huvitatud ostjatel testida süsteemi oma spetsiifilistes närvivõrkudes, mitte müüa neid üldisema ja potentsiaalselt vähem rakendatava võrdlusaluse alusel. See ei ole haruldane lähenemine AI-analüütik Karl Freund ütles: "Igaüks kasutab oma mudeleid, mille nad on oma ettevõtte jaoks välja töötanud. See on ostjate jaoks ainus asi.

Samuti väärib märkimist, et WSE saab hakkama vaid piisavalt väikeste ülesannetega, et mahutada oma kiibile. Ettevõtte sõnul sobivad kõige sobivamad probleemid ja WSE-2 pakub veelgi rohkem ruumi. Sellegipoolest kasvab masinõppe algoritmide maht kiiresti. Võib-olla sellepärast Cerebras soovib seda tähele panna kaks või isegi kolm CS-2 mahub serverikappi.

Lõppkokkuvõttes pole WSE-2 mõtet väiksemate ülesannete jaoks, mille puhul üks või paar GPU-d ära teevad. Praegu kasutatakse kiipi suurtes arvutusmahukates teaduse ja uurimistöö projektides. Praegused rakendused hõlmavad vähiuuringuid ja ravimite avastamist, gravitatsioonilainete tuvastamist ja termotuumasünteesi simulatsiooni. Cerebrase tegevjuht ja kaasasutaja Andrew Feldman ütleb, et see võidakse teha kättesaadavaks ka klientidele, kellel on lühemad ja vähem intensiivsed pilvevajadused.

Kiibi turg on nišš, kuid Feldman rääkis HPC juhe see on suurem, kui ta 2015. aastal eeldas, ja see kasvab endiselt, kuna AI-le tuleb pidevalt juurde uusi lähenemisviise. "Turg liigub uskumatult kiiresti," ütles ta.

AI-kiipide vaheline tihenev konkurents väärib jälgimist. Lõppkokkuvõttes võib olla mitu otstarbekohast lähenemisviisi või üks, mis tõuseb tippu.

Vähemalt hetkel näib, et on olemas isu hiiglaslike arvutikiipide helde abi järele.

Image Credit: Tserebrased

Source: https://singularityhub.com/2021/04/25/the-worlds-biggest-ai-chip-now-comes-stock-with-2-6-trillion-transistors/