14. april 2023 (Nanowerk Spotlight) Phase change memory (PCM) er en type ikke-flyktig minneteknologi som lagrer data på nanoskala ved å endre fasen til et spesialisert materiale mellom krystallinske og amorfe tilstander. I krystallinsk tilstand viser materialet lav elektrisk motstand, mens det i amorf tilstand har høy motstand. Ved å bruke forskjellige varme- og raskt avkjølende pulser, kan fasen byttes, slik at data kan skrives og leses som binære verdier (0s og 1s) eller kontinuerlige analoge verdier basert på materialets motstand.
Faseendringsminne er en fremvoksende teknologi med stort potensial for å fremme analog in-memory databehandling, spesielt i dype nevrale nettverk og nevromorf databehandling. Ulike faktorer, som motstandsverdier, minnevindu og motstandsdrift, påvirker ytelsen til PCM i disse applikasjonene. Så langt har det vært utfordrende for forskere å sammenligne PCM-enheter for in-memory databehandling basert utelukkende på deres ulike enhetsegenskaper, som ofte hadde avveininger og korrelasjoner.
En annen utfordring er at analog in-memory databehandling kan forbedre hastigheten og redusere strømforbruket for AI databehandling, men det kan lide av redusert nøyaktighet på grunn av ufullkommenhet i de analoge minneenhetene.
Ny forskning, publisert i Avanserte elektroniske materialer ("Optimalisering av prosjektert faseendringsminne for analog in-memory computing inference"), adresserer disse problemene ved 1) omfattende benchmarking av PCM-enheter i store nevrale nettverk, og tilby verdifulle retningslinjer for å optimalisere disse enhetene i fremtiden, og 2) forbedre og optimalisere analoge minneenheter laget med faseendringsmaterialer, noe som til slutt forbedrer nøyaktigheten for AI-databehandling.
Ning Li, som på den tiden jobbet ved IBM Research i Yorktown Heights og Albany (nå førsteamanuensis ved Lehigh University), den første forfatteren av studien, og hans IBM-kolleger forklarer: "Først oppdaget vi at mange enhetsegenskaper kan tunes systematisk tunes systematisk ved hjelp av et foringslag introdusert i vårt tidligere arbeid. For det andre fant vi en måte å optimalisere disse enhetsegenskapene fra et systemsynspunkt ved å bruke omfattende simuleringer på systemnivå." Disse to fremskrittene sammen gjorde det mulig for teamet å identifisere de beste enhetene."
I dette arbeidet laget teamet modeller for å representere drift- og støyadferden til PCM-enheter. De brukte disse modellene for å vurdere ytelsen til disse enhetene i nevrale nettverksslutningsapplikasjoner. De evaluerte ytelsen til store nevrale nettverk med titalls millioner vekter (dvs. parametrene i et nevralt nettverk som bestemmer styrken til forbindelsene mellom nevroner; I tilfelle av PCM-basert analog in-memory databehandling, lagres vektene som motstandsverdier i PCM-enhetene) ved bruk av PCM-enheter både med og uten projeksjonsforinger (ytterligere lag introdusert i PCM-enhetsstrukturen, som er laget av et ikke-faseendringsmateriale), tester en rekke dype nevrale nettverk (DNN) og datasett i flere tidstrinn.
Målte egenskaper til PCM-enhet og deres innvirkning på nettverksnøyaktighet som en funksjon av PCM-minnevindu a) programmeringsområde Gmax–Gmin, b) toppdriftskoeffisient, c) standardavvik for driftkoeffisient, d) normalisert lesestøy, e) ResNet- 32 (CIFAR-10) slutningsfeil på kort sikt (1 sekund) og lang sikt (1 måned) etter programmering, f) LSTM (PTB) slutningsfeil ved 1 sekund og 1 måned etter programmering, g) BERT (MRPC) slutningsfeil ved 1 sekund og 1 måned etter programmering, h) BERT (MNLI) inferensfeil ved 1 sekund og 1 måned etter programmering. (Oppgitt med tillatelse av Wiley-VCH Verlag) (klikk på bildet for å forstørre)
Studien finner at enheter med projeksjonsforinger fungerer godt på tvers av ulike DNN-typer, inkludert tilbakevendende nevrale nettverk (RNN), konvolusjonelle nevrale nettverk (CNN) og transformatorbaserte nettverk. Forskerne undersøkte også virkningen av ulike enhetsegenskaper på nettverksnøyaktighet og identifiserte en rekke målenhetsspesifikasjoner for PCM med foringer som kan føre til ytterligere forbedringer.
I motsetning til tidligere rapporter om PCM-enheter for AI-databehandling, knytter dette arbeidet enhetsresultater til sluttresultatene av databrikker med store og nyttige dype nevrale nettverk. Dr. Li forklarer at PCM-enheter for in-memory databehandling er vanskelig å sammenligne for AI-applikasjoner ved kun å bruke enhetsegenskaper. Studien gir en løsning på dette problemet ved å tilby omfattende benchmarking av PCM-enheter i ulike nettverk under ulike forhold for vektkartlegging og retningslinjer for PCM-enhetsoptimalisering.
Ved å kunne vise at enhetens egenskaper kan justeres kontinuerlig, og at disse egenskapene er korrelert med hverandre, blir systematisk optimalisering av enhetene mulig.
Ved hjelp av optimaliseringsstrategien demonstrerte forskerne at de kan oppnå mye bedre nøyaktighet for både kortsiktig og langsiktig programmering. De reduserte effekten av PCM-drift og støy på dype nevrale nettverk betydelig, og forbedret både innledende nøyaktighet og langsiktig nøyaktighet.
"Potensielle anvendelser av arbeidet vårt inkluderer forbedret hastighet, redusert kraft og reduserte kostnader i språkbehandling, bildegjenkjenning og enda bredere AI-applikasjoner, som ChatGPT," påpeker Li.
Som et resultat av dette arbeidet ser forskerne for seg at beregning av store nevrale nettverk vil bli raskere, grønnere og billigere. De neste stadiene i deres undersøkelser inkluderer ytterligere optimalisering av PCM-enheter og implementering av dem i databrikker.
"Den fremtidige retningen for dette forskningsfeltet er å muliggjøre reelle produkter som kundene finner nyttige," konkluderer Li. "Selv om analoge systemer bruker ufullkomne analoge enheter, tilbyr de betydelige fordeler i hastighet, kraft og kostnader. Utfordringen ligger i å identifisere passende applikasjoner og muliggjøre dem."
By
Michael
Berger
-
Michael er forfatter av tre bøker av Royal Society of Chemistry:
Nano-samfunnet: Skyver teknologiens grenser,
Nanoteknologi: Fremtiden er litenog
Nanoengineering: Ferdighetene og verktøyene som gjør teknologien usynlig
Copyright ©
Michael
Berger
-
Michael er forfatter av tre bøker av Royal Society of Chemistry:
Nano-samfunnet: Skyver teknologiens grenser,
Nanoteknologi: Fremtiden er litenog
Nanoengineering: Ferdighetene og verktøyene som gjør teknologien usynlig
Copyright ©
Nanowerk
Bli en Spotlight-gjesteforfatter! Bli med i vår store og voksende gruppe gjestebidragere. Har du nettopp publisert en vitenskapelig artikkel eller har andre spennende utvikling å dele med nanoteknologisamfunnet? Slik publiserer du på nanowerk.com.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- Platoblokkkjede. Web3 Metaverse Intelligence. Kunnskap forsterket. Tilgang her.
- kilde: https://www.nanowerk.com/spotlight/spotid=62821.php
- :er
- 1
- 10
- 7
- 8
- 9
- a
- I stand
- nøyaktighet
- Oppnå
- tvers
- Ytterligere
- adresser
- fremskritt
- fordeler
- påvirke
- Etter
- AI
- tillate
- Selv
- Amazon
- og
- En annen
- søknader
- påføring
- ER
- AS
- Førsteamanuensis
- At
- forfatter
- basert
- BE
- bli
- blir
- være
- BEST
- Bedre
- mellom
- bøker
- øke
- grenser
- bredere
- by
- CAN
- saken
- sentrum
- utfordre
- utfordrende
- endring
- endring
- egenskaper
- ChatGPT
- billigere
- kjemi
- chips
- klikk
- kollegaer
- samfunnet
- sammenligne
- beregningen
- datamaskin
- databehandling
- forhold
- Tilkoblinger
- forbruk
- kontinuerlig
- kontinuerlig
- korrelasjoner
- Kostnad
- opprettet
- Kunder
- dato
- datasett
- Dato
- dyp
- dype nevrale nettverk
- demonstrert
- Bestem
- utviklingen
- avvik
- enhet
- Enheter
- forskjellig
- vanskelig
- retning
- oppdaget
- e
- effekter
- elektronisk
- Emery
- Emerging Technology
- muliggjøre
- aktivert
- muliggjør
- styrke
- feil
- Eter (ETH)
- evaluert
- Selv
- spennende
- utstillinger
- Forklar
- forklarer
- omfattende
- faktorer
- langt
- raskere
- felt
- Finn
- funn
- Først
- Til
- funnet
- fra
- funksjon
- videre
- framtid
- gif
- flott
- sterkt
- Gruppe
- Økende
- Gjest
- retningslinjer
- Ha
- høyder
- Høy
- Hvordan
- Hvordan
- HTTPS
- i
- IBM
- identifisert
- identifisere
- identifisering
- bilde
- Bildegjenkjenning
- Påvirkning
- implementere
- forbedre
- forbedret
- forbedringer
- bedre
- in
- inkludere
- Inkludert
- innledende
- introdusert
- Undersøkelser
- saker
- IT
- bli medlem
- jpg
- Språk
- stor
- lag
- lag
- føre
- logo
- Lang
- langsiktig
- Lav
- laget
- Making
- mange
- kartlegging
- materiale
- materialer
- Kan..
- Minne
- Michael
- Middle
- millioner
- modeller
- Måned
- flere
- navn
- nanoteknologi
- nettverk
- nettverk
- neural
- nevrale nettverket
- nevrale nettverk
- Nerveceller
- Ny
- neste
- Bråk
- of
- tilby
- tilby
- on
- ONE
- optimalisering
- Optimalisere
- optimalisert
- optimalisere
- Annen
- Papir
- parametere
- spesielt
- Topp
- utføre
- ytelse
- tillatelse
- fase
- PHP
- plato
- Platon Data Intelligence
- PlatonData
- Point
- Synspunkt
- poeng
- mulig
- potensiell
- makt
- forrige
- Før
- Problem
- prosessering
- Produkter
- Professor
- Programmering
- anslått
- Projeksjon
- gir
- publisere
- publisert
- utgiver
- Skyver
- område
- raskt
- Lese
- ekte
- anerkjennelse
- redusere
- Redusert
- Rapporter
- representere
- forskning
- forskere
- Motstand
- resultere
- Resultater
- kongelig
- s
- Sekund
- Del
- Kort
- kortsiktig
- Vis
- signifikant
- betydelig
- ferdigheter
- So
- så langt
- Samfunnet
- løsning
- spesialisert
- spesifikasjoner
- fart
- Spotlight
- stadier
- Standard
- Tilstand
- Stater
- lagret
- butikker
- Strategi
- styrke
- struktur
- Studer
- slik
- egnet
- byttet om
- system
- Systemer
- Target
- lag
- Teknologi
- Testing
- Det
- De
- Fremtiden
- deres
- Dem
- Disse
- tre
- Ties
- tid
- Tittel
- til
- sammen
- verktøy
- typer
- Til syvende og sist
- etter
- universitet
- oppdateringer
- URL
- bruke
- Verdifull
- Verdier
- variasjon
- ulike
- Se
- Vei..
- vekt
- VI VIL
- hvilken
- mens
- HVEM
- vil
- med
- innenfor
- uten
- Arbeid
- arbeid
- skrevet
- Din
- zephyrnet
Mer fra Nanowerk
Å låse opp naturens hemmeligheter gir en kraftig iongenerator
Kilde node: 2314976
Tidstempel: Oktober 6, 2023
En 4D-printer for smarte materialer med magneto- og elektromekaniske egenskaper
Kilde node: 1998835
Tidstempel: Mar 8, 2023
Få medikamenter over blod-hjerne-barrieren ved hjelp av nanopartikler
Kilde node: 1987715
Tidstempel: Mar 2, 2023
Testing av partikkelspredning og refleksjon i grafen
Kilde node: 2295853
Tidstempel: September 27, 2023
Kunstig intelligens katalyserer genaktiveringsforskning og avdekker sjeldne DNA-sekvenser
Kilde node: 2101659
Tidstempel: Kan 19, 2023
En ny metode med høy gjennomstrømning for screening av proteinutskillende mikrobielle stammer
Kilde node: 2113599
Tidstempel: Kan 30, 2023
Høy varmeledningsevne av kubisk silisiumkarbid ble endelig demonstrert
Kilde node: 1957189
Tidstempel: Februar 14, 2023
Bruk av smarte bioelektroniske enheter for å fange og frigjøre tumorceller
Kilde node: 2260127
Tidstempel: September 8, 2023
Å avbilde de minste atomene gir innsikt i et enzyms uvanlige biokjemi
Kilde node: 2281177
Tidstempel: September 20, 2023
En stjerne som en Matryoshka-dukke: Ny teori for gravastjerner
Kilde node: 2481345
Tidstempel: Februar 15, 2024
Transformator! Ny flerbruksrobot endrer form for ulike bruksområder
Kilde node: 2298893
Tidstempel: September 29, 2023
Optimalisering av nanoskala transistor-ytelse gjennom valg av portmetallarbeidsfunksjon
Kilde node: 2517391
Tidstempel: Mar 17, 2024