Pekin Üniversitesi ve Çin Bilimler Akademisi araştırmacıları, yapay sinir ağını doğrudan donanıma entegre eden 40 nanometrelik bir bellek içi hesaplama çipi geliştirdi. Yeni yonga, beyin korteksinin karmaşık yapısını yarım saniyenin altında modelleyerek Nvidia A100 tabanlı sistemlere göre 50 ila 478 kat arasında daha yüksek hız sağladı.
Bellek ve işlemci aynı yapıda
Geleneksel bilgisayar mimarilerinde veriler bellekte saklanıyor, ardından işlenmek üzere işlemciye aktarılıyor. Bellek ile işlemci arasındaki bu sürekli veri hareketi, hesaplama süresini uzatırken enerji tüketimini de artırıyor. Çinli araştırmacıların geliştirdiği bellek içi hesaplama mimarisi ise verinin depolandığı yerde işlenmesine imkan tanıyor. Böylece veri aktarımına duyulan ihtiyaç azalıyor ve hesaplamalar daha düşük gecikmeyle gerçekleştirilebiliyor.
Memristördeki kayma avantaja çevrildi
Araştırma ekibi, çipin geliştirilmesinde faz değişimli memristörlerden yararlandı. Bu bileşenlerde genellikle üretim kusuru olarak değerlendirilen iletkenlik kayması, yeni sistemde sinirsel dinamikleri hesaplamak için kullanıldı. İletkenlikte zamanla oluşan değişim, yapay sinir ağının çalışma biçimini donanım düzeyinde taklit eden bir unsur haline getirildi. Bu yaklaşım sayesinde çipin hem işlem hızının hem de enerji verimliliğinin artırıldığı belirtildi.
Veri aktarımı azalıyor
Almanya’daki Jülich Araştırma Merkezi’nden uzmanlar, bellek içi hesaplama yaklaşımını verinin uzak bir işlem merkezine taşınması yerine üretildiği noktada işlenmesine benzetiyor. Bu yöntem, veri hareketini azaltarak hem gecikme süresini hem de enerji tüketimini düşürüyor. Özellikle yüksek hacimli görüntüleme ve modelleme işlemlerinde, verinin bellekte tutulduğu noktada işlenmesi sistem performansı açısından önemli bir avantaj sağlıyor.
Beyin haritalamada kullanılabilir
Pekin Üniversitesi Entegre Devreler Fakültesi Profesörü Yang Yuchao, geliştirilen çipin gerçek zamanlı nöronavigasyon, Alzheimer hastalığının erken teşhisi ve kişiselleştirilmiş dijital beyin ikizlerinin oluşturulması gibi alanlarda kullanılabileceğini söyledi. Yeni mimarinin, özellikle yüksek hacimli beyin görüntüleme verilerinin hızlı biçimde işlenmesine yönelik uygulamalarda donanım temeli oluşturabileceği belirtiliyor.
Yarım saniyenin altında modelleme
Araştırmacıların açıkladığı performans sonuçlarına göre çip, karmaşık kortikal yapıları yarım saniyenin altında modelleyebiliyor. Aynı işlemlerin geleneksel GPU tabanlı sistemlerde daha uzun sürdüğü ifade ediliyor. Bellek ve işlem birimlerinin aynı yapıda bulunması, veri aktarımından kaynaklanan gecikmeyi azaltıyor. Bu sayede sistem, milisaniye ölçeğinde sonuç üretirken daha düşük enerji tüketimiyle çalışabiliyor.
Nvidia A100’e karşı test edildi
Yeni yonganın performansı, Nvidia A100 grafik işlemcili sistemlerle karşılaştırıldı. Araştırmacılar, yapılan testlerde uygulamaya bağlı olarak 50 ila 478 kat arasında hız artışı sağlandığını bildirdi. Geleneksel GPU sistemlerinde bellek ve işlemci arasındaki veri trafiği yüksek enerji tüketimine ve ısınmaya neden olurken, bellek içi hesaplama yaklaşımı bu yükü azaltmayı hedefliyor.
Robotik ve otonom sistemlere uygulanabilir
Geliştirilen çipin kullanım alanlarının yalnızca tıbbi görüntüleme ve beyin modelleme uygulamalarıyla sınırlı olmadığı belirtiliyor. Düşük gecikme ve düşük enerji tüketimi, teknolojiyi robotik sistemler, otonom araçlar, somutlaştırılmış yapay zeka uygulamaları ve uç bilişim cihazları için de uygun hale getiriyor.
Neden önemli
Bu gelişme, yapay zeka donanımında veri aktarım darboğazını aşmaya yönelik önemli bir adım. Bellek içi hesaplama, özellikle yüksek hacimli veri işleme gerektiren uygulamalarda (beyin modelleme, otonom sistemler) GPU'ların enerji ve hız sınırlarını zorlayabilir. Ancak 40 nm üretim süreci ve memristör tabanlı yaklaşımın ticarileşme öncesinde güvenilirlik ve ölçeklenebilirlik sorunlarını aşması gerekiyor.
