Yeni Spiking Nöromorfik Çip, Yüksek Verimli Yapay Zeka Çağında Başlayabilir

Beyin bilişiminde zamanlama her şeydir. Nöronların devrelere bağlanması bu şekildedir. Bu devreler son derece karmaşık verileri işleyerek ölüm kalım anlamına gelebilecek eylemlere yol açar. Tamamen yeni koşullarla karşı karşıya kaldığımızda bile beynimiz bu şekilde anlık kararlar verebilmektedir. Ve bunu beyni aşırı enerji tüketiminden kızartmadan yapıyoruz.

Başka bir ifadeyle, beyin, taklit edilebilecek son derece güçlü bir bilgisayara mükemmel bir örnek teşkil ediyor ve bilgisayar bilimcileri ve mühendisleri bunun için ilk adımları attılar. Nöromorfik hesaplama alanı, yeni donanım çipleri ve yazılım algoritmalarıyla beynin mimarisini ve veri işleme yeteneklerini yeniden yaratmayı amaçlıyor. Gerçeğe giden bir yol olabilir yapay zeka.

Ancak çok önemli bir unsur eksik. Nöromorfik çiplere güç veren algoritmaların çoğu, yalnızca her yapay nöronun katkısını, yani birbirlerine ne kadar güçlü bağlandıklarını (sinaptik ağırlık) önemser. Eksik olan (ancak beynimizin iç işleyişiyle eşdeğer olan) şey zamanlamadır.

Bu ay, Avrupa Birliği'nin amiral gemisi büyük veri sinirbilimi çalışması olan İnsan Beyni Projesi'ne bağlı bir ekip şunları ekledi: zaman unsuru nöromorfik bir algoritmaya. Sonuçlar daha sonra fiziksel donanıma uygulandı; BrainScaleS-2 nöromorfik platform ve son teknoloji GPU'lar ve geleneksel nöromorfik çözümlerle karşı karşıya.

Yazarlar, "Derin öğrenmede kullanılan soyut sinir ağlarıyla karşılaştırıldığında, daha fazla biyolojik arketip, performans ve ölçeklenebilirlik açısından hala geride kalıyor" dedi.

Çeşitli testlerde algoritma, standart bir kıyaslama testinde "doğruluk, gecikme ve enerji verimliliği açısından olumlu" bir karşılaştırma yaptı. şuraya Araştırmada yer almayan İsviçre'deki Zürih Üniversitesi ve ETH Zürih'ten Dr. Charlotte Frenkel. Nöromorfik hesaplamaya zamansal bir bileşen ekleyerek, statik veri görevlerinden (mesela görüntü tanıma) zamanı daha iyi kapsülleyen bir göreve geçiş yapan yüksek verimliliğe sahip yeni bir yapay zeka çağını başlatabiliriz. Videoları, biyosinyalleri veya beyinden bilgisayara konuşmayı düşünün.

Lider yazar Dr. Mihai Petrovici'ye göre potansiyel her iki yönde de geçerli. "Çalışmamız yalnızca nöromorfik hesaplama ve biyolojik olarak ilham alan donanım açısından ilginç değil. Aynı zamanda sözde derin öğrenme yaklaşımlarının sinir bilimine aktarılması ve böylece insan beyninin sırlarının daha da açığa çıkarılması talebini de kabul ediyor” dedi. şuraya.

Hadi Konuşalım

Yeni algoritmanın temelinde beyin hesaplamasında temel bir prensip var: ani yükselişler.

Oldukça soyutlanmış bir nörona bir göz atalım. Dışa doğru uzanan iki sarmalayıcıyla çevrelenmiş soğanlı bir orta bölümü olan bir tootsie rulosuna benziyor. Bir tarafı girdidir; önceki nörondan sinyalleri alan karmaşık bir ağaçtır. Diğeri ise kimyasallarla dolu baloncuk benzeri gemiler kullanarak diğer nöronlara sinyal gönderen ve alıcı tarafta elektriksel bir tepkiyi tetikleyen çıkıştır.

İşin püf noktası şu: Tüm bu dizinin gerçekleşmesi için nöronun "ani yükselişe geçmesi" gerekiyor. Ancak ve ancak nöron yeterince yüksek düzeyde bir girdi (güzel bir şekilde yerleşik gürültü azaltma mekanizması) alırsa, soğanlı kısım bir sonraki nöronu uyarmak için çıkış kanallarından aşağıya doğru ilerleyen bir ani artış üretecektir.

Ancak nöronlar bilgiyi iletmek için yalnızca tek bir sivri ucu kullanmazlar. Aksine, bir zaman dizisinde ani yükselişler yaşıyorlar. Bunu Mors Kodu gibi düşünün: Bir elektrik patlamasının meydana geldiği zamanlama, zengin miktarda veri taşır. Bu, nöronların devrelere ve hiyerarşilere bağlanmasının temelini oluşturur ve yüksek enerji verimliliğine sahip işlemlere olanak tanır.

Öyleyse neden nöromorfik bilgisayarlar için aynı stratejiyi benimsemeyesiniz?

Spartalı Beyin Benzeri Bir Çip

Ekip, tek bir yapay nöronun sivri uçlarının haritasını çıkarmak yerine (ki bu Herkül gibi bir görevdi), tek bir ölçüt üzerinde yoğunlaştı: Bir nöronun ateşlenmesinin ne kadar sürdüğü.

"İlk artışa kadar geçen süre" kodunun ardındaki fikir basittir: Bir nöronun yükselişi ne kadar uzun sürerse, aktivite seviyeleri de o kadar düşük olur. Sivri uçları saymakla karşılaştırıldığında, bir nöronun aktivitesini kodlamanın son derece seyrek bir yolu, ancak bazı avantajları da beraberinde getiriyor. Aktivasyonu kodlamak için yalnızca bir nöronun ilk canlandığı andaki gecikme kullanıldığından, bilgisayarı çok fazla veri noktasıyla bunaltmadan nöronun tepki verme yeteneğini yakalar. Başka bir deyişle hızlıdır, enerji açısından verimlidir ve kolaydır.

Ekip daha sonra algoritmayı nöromorfik bir çip üzerine kodladı. BrainScaleS-2Kabaca yapısı içindeki basit "nöronları" taklit eden, ancak çalışan 1,000 kattan daha hızlı biyolojik beynimizden daha fazla. Platformda, her biri biyolojik nöronların bilgiyi değiştirdiği, işlediği ve sakladığı yapılandırılabilir sinapslar aracılığıyla 500 girdi alabilen 256'ün üzerinde fiziksel yapay nöron bulunuyor.

Kurulum bir hibrittir. “Öğrenme” zamana bağlı algoritmayı uygulayan bir çip üzerinde gerçekleştirilir. Bununla birlikte, sinir devresindeki herhangi bir güncelleme (yani bir nöronun diğerine ne kadar güçlü bağlandığı) harici bir iş istasyonu aracılığıyla gerçekleştirilir; buna "döngü içi eğitim" adı verilir.

İlk testte algoritmaya, geleneksel Doğu sembolündeki farklı alanları ayrıştırmayı gerektiren "Yin-Yang" görevi uygulandı. Algoritma ortalama yüzde 95 doğruluk oranıyla mükemmel bir sonuç elde etti.

Ekip daha sonra klasik bir derin öğrenme göreviyle kurulumu zorladı:MNİST, bilgisayar görüşünde devrim yaratan, elle yazılmış sayılardan oluşan bir veri kümesi. Algoritma neredeyse yüzde 97 doğruluk oranıyla yeniden başarılı oldu. Daha da etkileyici olanı, BrainScaleS-2 sisteminin son derece düşük bağıl enerji tüketimiyle 10,000 test örneğini sınıflandırması bir saniyeden kısa sürdü.

Bu sonuçları bir bağlama oturtan ekip, daha sonra BrainScaleS-2'nin yeni algoritmayla donatılmış performansını ticari ve diğer nöromorfik platformlarla karşılaştırdı. Almak kotra yelkeninöral hesaplamayı ve ani artışları da taklit eden devasa, paralel dağıtılmış bir mimari. Yeni algoritma, SpiNNaker'ın tükettiği gücün yalnızca küçük bir kısmını tüketirken görüntü tanımada 100 kat daha hızlıydı. IBM'in nöromorfik çipinin habercisi olan True North'ta da benzer sonuçlar görüldü.

Sırada Ne Var?

Beynin en değerli iki hesaplama özelliği (enerji verimliliği ve paralel işlem) artık yeni nesil bilgisayar çiplerine büyük ölçüde ilham veriyor. Amaç? Mevcut silikon bazlı çiplerimiz için gereken enerjinin sadece küçük bir kısmını kullanarak, kendi beyinlerimiz kadar esnek ve uyarlanabilir makineler üretin.

Ancak yapay sinir ağlarına dayanan derin öğrenmeye kıyasla biyolojik olarak makul olanlar zayıfladı. Frenkel, bunun bir kısmının bu devreleri öğrenme yoluyla "güncellemenin" zorluğundan kaynaklandığını açıkladı. Ancak BrainScaleS-2 ve bir miktar zamanlama verisi ile bu artık mümkün.

Aynı zamanda, sinaptik bağlantıları güncellemek için "harici" bir arabulucuya sahip olmak, tüm sisteme biraz nefes alma zamanı verir. Beyin hesaplamamızın karmaşıklığına benzer şekilde nöromorfik donanım, uyumsuzluklar ve hatalarla doludur. Çip ve harici bir hakemle tüm sistem bu değişkenliğe uyum sağlamayı öğrenebilir ve daha hızlı ve daha esnek öğrenme için sonunda bu değişkenliği telafi edebilir, hatta tuhaflıklarından yararlanabilir.

Frenkel'e göre algoritmanın gücü seyrekliğinde yatıyor. Beynin, "görsel işleme gibi hızlı tepki sürelerini açıklayabilen" seyrek kodlarla güçlendirildiğini açıkladı. Beynin tüm bölgelerini aktive etmek yerine sadece birkaç sinir ağına ihtiyaç var; yoğun trafikte sıkışıp kalmak yerine boş otoyollarda hızla ilerlemek gibi.

Gücüne rağmen algoritmanın hâlâ aksaklıkları var. Konuşma veya biyosinyaller gibi zaman dizileri konusunda üstün olmasına rağmen statik verileri yorumlamakta zorluk çekiyor. Ancak Frenkel'e göre bu, yeni bir çerçevenin başlangıcı: önemli bilgiler esnek ama basit bir ölçümle kodlanabilir ve geleneksel enerji maliyetlerinin çok küçük bir kısmıyla beyin ve yapay zeka tabanlı veri işlemeyi zenginleştirmek için genelleştirilebilir.

"[Bu]… nöromorfik donanımın nihayet geleneksel sinir ağı yaklaşımlarına göre rekabet avantajı göstermesini sağlamak için önemli bir basamak taşı olabilir" dedi.

Resim Kredisi: Yin-Yang veri kümesindeki veri noktalarının sınıflandırılması, Göltz ve Kriener ve diğerleri. (Heidelberg / Bern)

Kaynak: https://singularityhub.com/2021/11/09/new-spiking-neuromorphic-chip-could-usher-in-an-era-of-highly-tained-ai/