Tehisintellekt ja tavalised arvutid sobivad kokku põrgus.
Peamine põhjus on riistvarakiipide praegune seadistamine. Traditsioonilisel Von Neumanni arhitektuuril põhinev kiip isoleerib mälumälu põhiprotsessoritest. Iga arvutus on painajalik esmaspäevahommikune pendelränne, kus kiip edastab pidevalt andmeid igast sektsioonist edasi-tagasi, moodustades kurikuulsa "mälu sein. "
Kui olete kunagi liikluses ummikus olnud, teate, milline frustratsioon on: see võtab aega ja raisatud energiat. Kuna AI-algoritmid muutuvad üha keerukamaks, muutub probleem üha hullemaks.
Miks siis mitte kujundada ajul põhinev kiip, mis sobib ideaalselt sügavate närvivõrkude jaoks?
Sisestage mälus arvutamise ehk CIM-i kiibid. Nimele truuks jäädes arvutavad ja salvestavad need kiibid mälu samas kohas. Unustage pendelränne; kiibid on väga tõhusad kodus töötamise alternatiivid, mis kõrvaldavad andmeliikluse kitsaskoha probleemi ning lubavad suuremat tõhusust ja väiksemat energiatarbimist.
Või nii käib teooria järgi. Enamik AI-algoritme kasutavaid CIM-kiipe on keskendunud ainult kiibi disainile, demonstreerides oma võimeid kiibi simulatsioonide abil, mitte täisväärtuslikul riistvaral toiminguid tehes. Kiibid ei suuda kohaneda ka mitme erineva AI-ülesandega – pildituvastus, hääle tajumine –, mis piiravad nende integreerimist nutitelefonidesse või muudesse igapäevastesse seadmetesse.
See kuu, uuringus in loodus uuendatud CIM algusest peale. Selle asemel, et keskenduda ainult kiibi disainile, optimeeris rahvusvaheline meeskond, mida juhivad neuromorfse riistvara eksperdid dr. HS Philip Wong Stanfordist ja dr Gert Cauwenberghs UC San Diegost, kogu seadistuse, alates tehnoloogiast kuni arhitektuurini ja lõpetades riistvara kalibreerivate algoritmidega. .
Saadud NeuRRAM-kiip on võimas neuromorfne andmetöötlus, millel on 48 paralleelset südamikku ja 3 miljonit mälurakku. Äärmiselt mitmekülgne kiip lahendas mitut tehisintellekti standardset ülesannet – nagu käsitsi kirjutatud numbrite lugemine, autode ja muude objektide tuvastamine piltidel ning helisalvestiste dekodeerimine – üle 84-protsendilise täpsusega.
Kuigi edukuse määr võib tunduda kesine, konkureerib see olemasolevate digitaalsete kiipidega, kuid säästab oluliselt energiat. Autorite arvates on see samm lähemale tehisintellekti toomisele otse meie seadmetesse, selle asemel, et andmeid arvutamiseks pilve saata.
"Kui need arvutused teha kiibil, selle asemel et saata teavet pilve ja pilvest, võib tulevikus olla kiirem, turvalisem, odavam ja skaleeritavam tehisintellekt ning võimaldada rohkematele inimestele juurdepääsu tehisintellektile." ütles Wong
Neuraalne inspiratsioon
AI-spetsiifilised kiibid on nüüd hämmastav peenraha tosin. Alates Google'i Tensor Processing Unit (TPU) ja Tesla Dojo superarvuti arhitektuurist kuni Baidu ja Amazonini investeerivad tehnoloogiahiiglased miljoneid tehisintellekti kullapalavikusse, et ehitada protsessoreid, mis toetavad üha keerukamaid süvaõppe algoritme. Mõned isegi kasutage kiibiarhitektuuride kujundamiseks masinõpet kohandatud AI-tarkvara jaoks, tuues võistlusele täisringi.
Üks eriti intrigeeriv kontseptsioon pärineb otse ajust. Kui andmed läbivad meie neuroneid, "ühendavad" need võrkudesse füüsiliste "dokkide" kaudu, mida nimetatakse sünapsideks. Need struktuurid, mis istuvad närviharude otsas nagu väikesed seened, on multitegumtöölised: nad arvutavad ja salvestavad andmeid valgu koostise muutuste kaudu.
Teisisõnu, erinevalt klassikalistest arvutitest ei pea neuronid andmeid mälust protsessoritesse edastama. See annab ajule eelise digiseadmete ees: see on väga energiasäästlik ja teeb korraga mitu arvutust, mis kõik on pakitud kolmekilosesse tarretisse, mis on kolju sisse topitud.
Miks mitte aju aspekte uuesti luua?
sisene neuromorfne arvutus. Üks häkkimine oli RRAM-ide või takistuslike juhusliku juurdepääsuga mäluseadmete (mida nimetatakse ka "memristoriteks") kasutamine. RRAM-id salvestavad mälu isegi siis, kui vooluvõrgust välja lülitatakse, muutes nende riistvara takistust. Sarnaselt sünapsidele saab neid komponente pakkida väikesel alal tihedatesse massiividesse, luues vooluringe, mis on võimelised ilma hulgita väga keerulisi arvutusi. Kombineerituna CMOS-iga, tootmisprotsessiga meie praegustes mikroprotsessorites ja kiipides vooluringide ehitamiseks, on duo muutub veelgi võimsamaks süvaõppe algoritmide käitamiseks.
Kuid see maksab. "RRAM-CIM-i arhitektuuri üliparalleelne analoogarvutus annab suurepärase efektiivsuse, kuid muudab keeruliseks sama funktsionaalse paindlikkuse ja arvutustäpsuse saavutamise kui digitaalsetes ahelates, " ütlesid autorid.
Optimeerimise Genie
Uus uuring süvenes RRAM-CIM kiibi igasse osasse, kujundades selle praktiliseks kasutamiseks ümber.
See algab tehnoloogiast. NeuRRAM-il on 48 tuuma, mis arvutavad paralleelselt, kusjuures RRAM-seadmed on füüsiliselt põimitud CMOS-ahelatesse. Sarnaselt neuroniga saab iga tuuma eraldi välja lülitada, kui seda ei kasutata, säilitades energiat, kui selle mälu on salvestatud RRAM-i.
Need RRAM-i rakud - kõik kolm miljonit - on ühendatud nii, et andmeid saab edastada mõlemas suunas. Autorid selgitasid, et see on ülioluline disain, mis võimaldab kiibil paindlikult kohaneda mitme erinevat tüüpi AI-algoritmidega. Näiteks üks sügava närvivõrgu tüüp, CNN (konvolutsiooniline närvivõrk), on arvutinägemisel eriti hea, kuid vajab andmete liikumiseks ühes suunas. Seevastu LSTM-id, sügava närvivõrgu tüüp, mida sageli kasutatakse heli tuvastamiseks, töötlevad andmeid korduvalt, et signaale aja järgi sobitada. Sarnaselt sünapsidega kodeerib kiip, kui tugevalt üks RRAM-i neuron teisega ühendub.
See arhitektuur võimaldas liiklusummikute minimeerimiseks andmevoogu peenhäälestada. Nagu üherealise liikluse laiendamine mitmerealiseks, võib kiip dubleerida võrgu praegust "mälu" enamikust arvutusmahukatest probleemidest, nii et mitu tuuma analüüsib probleemi samaaegselt.
Viimane parandus varasematele CIM-kiipidele oli tugevam sild ajulaadse arvutuse (sageli analoogse) ja digitaalse töötluse vahel. Siin kasutab kiip neuroniahelat, mis suudab analoogarvutuse hõlpsalt digitaalsignaalideks teisendada. Autorid selgitasid, et see on samm edasi võrreldes varasemate "võimsuse- ja piirkonnanäljaste" seadistustega.
Optimeerimised õnnestusid. Oma teooriat proovile pannes valmistas meeskond NeuRRAM-i kiibi ja töötas välja algoritmid riistvara programmeerimiseks erinevate algoritmide jaoks, nagu Play Station 5, mis töötab erinevaid mänge.
Paljudes võrdlustestides toimis kiip nagu tšempion. Käitades kiibil seitsmekihilist CNN-i, oli NeuRRAM-i veamäär populaarse MNIST-i andmebaasi abil käsitsi kirjutatud numbrite tuvastamisel alla ühe protsendi.
See sai suurepäraselt hakkama ka raskemate ülesannetega. Teise populaarse sügava närvivõrgu, LSTM-i, laadimisel oli kiip ligikaudu 85 protsenti õige, kui seda prooviti Google'i kõnekäskude tuvastamisega. Kasutades vaid kaheksat südamikku, suutis kiip, mis töötab järjekordsel AI-arhitektuuril, taastada mürarikkaid pilte, vähendades vigu ligikaudu 70 protsenti.
Mis siis?
Üks sõna: energia.
Enamik tehisintellekti algoritme on koguenergia vits. NeuRRAM töötas poole väiksema energiakuluga kui eelmiste tipptasemel RRAM-CIM kiibid, muutes neuromorfse andmetöötluse abil energiasäästu lubaduse veelgi reaalsuseks.
Kuid uuringu silmapaistev on selle strateegia. Liiga sageli peavad teadlased kiipide kujundamisel tasakaalustama tõhususe, mitmekülgsuse ja täpsuse mitme ülesande jaoks – mõõdikud, mis on sageli üksteisega vastuolus. Probleem muutub veelgi raskemaks, kui kogu andmetöötlus toimub otse riistvaras. NeuRRAM näitas, et kõigi metsalistega on võimalik korraga võidelda.
Siin kasutatud strateegiat saab kasutada teiste neuromorfsete arvutusseadmete optimeerimiseks, näiteks faasimuutusmälu tehnoloogias, ütlesid autorid.
Praegu on NeuRRAM kontseptsiooni tõestus, mis näitab, et füüsiline kiip - mitte selle simulatsioon - töötab ettenähtud viisil. Kuid arenguruumi on, sealhulgas RRAM-ide edasine skaleerimine ja selle suuruse vähendamine, et see sobiks üheks päevaks meie telefonidesse.
"Võib-olla kasutatakse seda täna lihtsate AI-ülesannete tegemiseks, nagu märksõnade otsimine või inimeste tuvastamine, kuid homme võib see võimaldada hoopis teistsugust kasutajakogemust. Kujutage ette reaalajas videoanalüüsi koos kõnetuvastusega, mis kõik on väikeses seadmes. ütles uuringu autor dr Weier Wan. "Teadlase ja insenerina on minu ambitsioon viia laborite teadusuuendused praktilisse kasutusse."
Image Credit: David Baillot / California Ülikool San Diego
