14년 2023월 XNUMX일(나노 워크 스포트라이트) 상변화메모리(Phase Change Memory, PCM)는 특수 물질의 결정 상태와 비정질 상태 사이에서 상을 변화시켜 나노 수준으로 데이터를 저장하는 비휘발성 메모리 기술의 일종이다. 결정질 상태에서는 전기 저항이 낮고, 비정질 상태에서는 저항이 높습니다. 서로 다른 열과 급속 냉각 펄스를 적용하면 위상이 전환되어 데이터를 이진 값(0과 1) 또는 재료의 저항에 따라 연속적인 아날로그 값으로 쓰고 읽을 수 있습니다.
상변화 메모리는 특히 심층 신경망과 뉴로모픽 컴퓨팅 분야에서 아날로그 인메모리 컴퓨팅을 발전시킬 수 있는 큰 잠재력을 지닌 새로운 기술입니다. 저항 값, 메모리 창, 저항 드리프트와 같은 다양한 요소가 이러한 애플리케이션에서 PCM의 성능에 영향을 미칩니다. 지금까지 연구자들은 종종 장단점과 상관 관계가 있는 다양한 장치 특성만을 기반으로 인메모리 컴퓨팅용 PCM 장치를 비교하는 것이 어려웠습니다.
또 다른 과제는 아날로그 인메모리 컴퓨팅이 AI 컴퓨팅의 속도를 크게 향상시키고 전력 소비를 줄일 수 있지만 아날로그 메모리 장치의 불완전성으로 인해 정확도가 저하될 수 있다는 점입니다.
새로운 연구 발표 첨단 전자 재료 (“아날로그 인메모리 컴퓨팅 추론을 위한 예상 위상 변화 메모리 최적화”)는 1) 대규모 신경망에서 PCM 장치를 광범위하게 벤치마킹하여 향후 이러한 장치를 최적화하기 위한 귀중한 지침을 제공하고, 2) 상변화 물질로 만든 아날로그 메모리 장치를 개선 및 최적화하여 궁극적으로 AI 컴퓨팅의 정확성을 향상함으로써 이러한 문제를 해결합니다.
당시 Yorktown Heights and Albany의 IBM Research(현 Lehigh University 부교수)에서 근무 중이던 Ning Li(현재 Lehigh University 부교수)와 그의 IBM 동료들은 다음과 같이 설명합니다. 이전 작업에서 소개된 라이너 레이어를 사용하여 체계적으로 조정할 수 있습니다. 둘째, 광범위한 시스템 수준 시뮬레이션을 사용하여 시스템 관점에서 이러한 장치 특성을 최적화하는 방법을 찾았습니다.” 이 두 가지 발전을 통해 팀은 최고의 장치를 식별할 수 있었습니다.”
이 작업에서 팀은 PCM 장치의 드리프트 및 잡음 동작을 나타내는 모델을 만들었습니다. 그들은 이러한 모델을 사용하여 신경망 추론 애플리케이션에서 이러한 장치의 성능을 평가했습니다. 그들은 수천만 개의 가중치(즉, 뉴런 사이의 연결 강도를 결정하는 신경망 내의 매개변수, PCM 기반 아날로그 인메모리 컴퓨팅의 경우 가중치가 저장되는 대규모 신경망의 성능을 평가했습니다. 프로젝션 라이너(비상 변화 재료로 만들어진 PCM 장치 구조에 도입된 추가 레이어)가 있거나 없는 PCM 장치를 사용하여 PCM 장치의 저항 값으로), 다양한 심층 신경망(DNN) 테스트 및 여러 시간 단계의 데이터 세트.
PCM 장치의 측정된 특성과 PCM 메모리 창의 함수로서 네트워크 정확도에 미치는 영향 a) 프로그래밍 범위 Gmax–Gmin, b) 피크 드리프트 계수, c) 드리프트 계수의 표준 편차, d) 정규화된 읽기 노이즈, e) ResNet- 프로그래밍 후 단기(32초) 및 장기(10개월)에서의 1(CIFAR-1) 추론 오류, f) 프로그래밍 후 1초 및 1개월의 LSTM(PTB) 추론 오류, g) BERT(MRPC) 추론 오류 프로그래밍 후 1초 1개월에 h) 프로그래밍 후 1초 1개월에 BERT(MNLI) 추론 오류. (Wiley-VCH Verlag의 허가를 받아 재인쇄됨) (확대하려면 이미지를 클릭하세요)
연구에 따르면 프로젝션 라이너가 있는 장치는 순환 신경망(RNN), 컨볼루션 신경망(CNN) 및 변환기 기반 네트워크를 포함한 다양한 DNN 유형에서 우수한 성능을 발휘하는 것으로 나타났습니다. 연구원들은 또한 다양한 장치 특성이 네트워크 정확도에 미치는 영향을 조사하고 추가 개선으로 이어질 수 있는 라이너가 있는 PCM에 대한 다양한 대상 장치 사양을 식별했습니다.
AI 컴퓨팅용 PCM 장치에 대한 이전 보고서와는 달리, 이 작업은 장치 결과를 크고 유용한 심층 신경망을 갖춘 컴퓨팅 칩의 최종 결과와 연결합니다. Li 박사는 인메모리 컴퓨팅용 PCM 장치는 장치 특성만으로는 AI 애플리케이션과 비교하기 어렵다고 설명합니다. 본 연구에서는 다양한 가중치 매핑 조건과 PCM 장치 최적화 지침에 따라 다양한 네트워크에서 PCM 장치에 대한 광범위한 벤치마킹을 제공함으로써 이 문제에 대한 솔루션을 제공합니다.
장치 특성이 지속적으로 조정될 수 있고 이러한 특성이 서로 연관되어 있음을 보여줌으로써 장치의 체계적인 최적화가 가능해집니다.
연구원들은 최적화 전략을 사용하여 단기 및 장기 프로그래밍 모두에서 훨씬 더 나은 정확도를 달성할 수 있음을 입증했습니다. 심층 신경망에서 PCM 드리프트 및 노이즈의 영향을 크게 줄여 초기 정확도와 장기 정확도를 모두 향상시켰습니다.
"우리 작업의 잠재적인 응용 분야에는 언어 처리, 이미지 인식은 물론 ChatGPT와 같은 더 광범위한 AI 응용 프로그램의 속도 향상, 전력 감소, 비용 절감이 포함됩니다."라고 Li는 지적합니다.
이 연구의 결과로 연구원들은 대규모 신경망 계산이 더 빠르고 친환경적이며 저렴해질 것으로 예상합니다. 조사의 다음 단계에는 PCM 장치를 더욱 최적화하고 컴퓨터 칩에 구현하는 것이 포함됩니다.
“이 연구 분야의 미래 방향은 고객이 유용하다고 생각하는 실제 제품을 구현하는 것입니다.”라고 Li는 결론지었습니다. “아날로그 시스템은 불완전한 아날로그 장치를 사용하지만 속도, 전력, 비용 측면에서 상당한 이점을 제공합니다. 문제는 적합한 애플리케이션을 식별하고 이를 활성화하는 데 있습니다.”
By
마이클
버거
-
마이클은 왕립 화학 협회 (Royal Society of Chemistry)의 세 권의 책을 저술했습니다.
나노 사회 : 기술의 경계를 넓히다,
나노 기술 : 미래는 작다및
나노 엔지니어링 : 기술을 보이지 않게하는 기술과 도구
저작권 ©
마이클
버거
-
마이클은 왕립 화학 협회 (Royal Society of Chemistry)의 세 권의 책을 저술했습니다.
나노 사회 : 기술의 경계를 넓히다,
나노 기술 : 미래는 작다및
나노 엔지니어링 : 기술을 보이지 않게하는 기술과 도구
저작권 ©
나노 워크
Spotlight 게스트 작성자가 되십시오! 우리의 크고 성장하는 그룹에 가입하십시오. 게스트 기여자. 방금 과학 논문을 발표했거나 나노 기술 커뮤니티와 공유 할 다른 흥미로운 개발이 있습니까? nanowerk.com에 게시하는 방법은 다음과 같습니다..
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- 플라토 블록체인. Web3 메타버스 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 출처: https://www.nanowerk.com/spotlight/spotid=62821.php
- :이다
- 1
- 10
- 7
- 8
- 9
- a
- 할 수 있는
- 달성
- 가로질러
- 추가
- 구애
- 발전하다
- 장점
- 영향을
- 후
- AI
- 허용
- 이기는하지만
- 아마존
- 과
- 다른
- 어플리케이션
- 적용
- 있군요
- AS
- 준
- At
- 저자
- 기반으로
- BE
- 가
- 된다
- 존재
- BEST
- 더 나은
- 사이에
- 도서
- 증폭
- 경계
- 더 넓은
- by
- CAN
- 케이스
- 센터
- 도전
- 도전
- 이전 단계로 돌아가기
- 변화
- 특성
- ChatGPT
- 저렴
- 화학
- 칩
- 클릭
- 동료
- 커뮤니티
- 비교
- 계산
- 컴퓨터
- 컴퓨팅
- 조건
- 연결
- 소비
- 끊임없는
- 지속적으로
- 상관 관계
- 비용
- 만든
- 고객
- 데이터
- 데이터 세트
- 날짜
- 깊은
- 깊은 신경망
- 시연
- 결정
- 개발
- 일탈
- 장치
- 디바이스
- 다른
- 어려운
- 방향
- 발견
- e
- 효과
- 전자
- 신흥
- 신흥 기술
- 가능
- 사용 가능
- 가능
- 강화
- 오류
- 에테르 (ETH)
- 평가
- 조차
- 흥미 진진한
- 전시
- 설명
- 설명
- 광대 한
- 요인
- 멀리
- 빠른
- 들
- Find
- finds
- 먼저,
- 럭셔리
- 발견
- 에
- 기능
- 추가
- 미래
- 지프
- 큰
- 매우
- 그룹
- 성장하는
- 손님
- 가이드 라인
- 있다
- 높이
- 높은
- 방법
- How To
- HTTPS
- i
- IBM
- 확인
- 확인
- 식별
- 영상
- 이미지 인식
- 영향
- 구현
- 개선
- 개선하는
- 개량
- 개선
- in
- 포함
- 포함
- 처음에는
- 소개
- 조사
- 문제
- IT
- 어울리다
- JPG
- 언어
- 넓은
- 층
- 레이어
- 리드
- 심벌 마크
- 긴
- 장기
- 낮은
- 만든
- 유튜브 영상을 만드는 것은
- .
- 매핑
- 자료
- 재료
- XNUMX월..
- 메모리
- 마이클
- 중간
- 수백만
- 모델
- 달
- 여러
- name
- 나노 기술
- 네트워크
- 네트워크
- 신경
- 신경망
- 신경망
- 뉴런
- 신제품
- 다음 것
- 노이즈
- of
- 제공
- 제공
- on
- ONE
- 최적화
- 최적화
- 최적화
- 최적화
- 기타
- 서
- 매개 변수
- 특별히
- 피크 (캐노피 지붕쪽)
- 수행
- 성능
- 허가
- 상
- PHP
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 포인트 적립
- 관점
- 전철기
- 가능한
- 가능성
- 힘
- 너무 이른
- 이전에
- 문제
- 처리
- 제품
- 교수
- 프로그램 작성
- 돌출한
- 투영
- 제공
- 게시
- 출판
- 발행자
- 미는
- 범위
- 빠르게
- 읽기
- 현실
- 인식
- 감소
- 감소
- 보고서
- 대표
- 연구
- 연구원
- 저항
- 결과
- 결과
- 왕의
- s
- 둘째
- 공유
- 짧은
- 단기간의
- 표시
- 상당한
- 크게
- 기술
- So
- 지금까지
- 사회
- 해결책
- 전문
- 명세서
- 속도
- 스포트라이트
- 단계
- 표준
- 주 정부
- 미국
- 저장
- 상점
- 전략
- 힘
- 구조
- 교육과정
- 이러한
- 적당한
- 전환
- 체계
- 시스템은
- 목표
- 팀
- Technology
- 지원
- 그
- XNUMXD덴탈의
- 미래
- 그들의
- 그들
- Bowman의
- 세
- 넥타이
- 시간
- Title
- 에
- 함께
- 검색을
- 유형
- 궁극적으로
- 아래에
- 대학
- 업데이트
- URL
- 사용
- 가치 있는
- 마케팅은:
- 종류
- 여러
- 관측
- 방법..
- 무게
- 잘
- 어느
- 동안
- 누구
- 의지
- 과
- 이내
- 없이
- 작업
- 일하는
- 쓴
- 너의
- 제퍼 넷