Yapay zeka modellerinin eğitimi ve çalıştırılması, büyük ölçüde GPU'lar arasındaki veri iletim hızına bağlı. Mevcut elektronik tabanlı bağlantılar, artan model boyutları karşısında darboğaz oluşturuyor. Bu soruna çözüm olarak geliştirilen yeni bir optik bağlantı sistemi, GPU'lar arası veri transferini 100 kata kadar hızlandırabiliyor.
Sistem, geleneksel elektrik sinyalleri yerine ışık (foton) kullanarak veri iletimi sağlıyor. Bu sayede hem bant genişliği hem de enerji verimliliği açısından önemli kazanımlar elde ediliyor. Optik bağlantı, özellikle büyük dil modelleri (LLM) ve diğer hesaplama yoğun yapay zeka iş yüklerinde kritik öneme sahip olan GPU'lar arası iletişim gecikmesini büyük ölçüde azaltıyor.
Teknolojinin detaylarına ilişkin henüz kamuya açık teknik bir doküman yayımlanmış değil. Ancak ulaşılabilen bilgilere göre, prototip aşamasındaki sistem mevcut en hızlı GPU bağlantılarına kıyasla 100 kat daha yüksek veri aktarım hızına ulaşabiliyor. Bu, aynı anda binlerce GPU'nun paralel çalıştığı süper bilgisayar ve veri merkezi ortamlarında eğitim sürelerini haftalardan günlere indirme potansiyeli taşıyor.
Neden önemli
Yapay zeka modelleri katlanarak büyürken, GPU'lar arası iletişim darboğazı sektörün en büyük sorunlarından biri haline geldi. Optik bağlantı, bu darboğazı ortadan kaldırarak mevcut donanım altyapısından çok daha yüksek verim alınmasını sağlayabilir. Eğer sistem ticarileşirse, büyük ölçekli yapay zeka eğitim maliyetleri önemli ölçüde düşebilir ve daha küçük ekiplerin de rekabetçi modeller geliştirmesinin önü açılabilir. Ayrıca enerji verimliliği sayesinde veri merkezlerinin karbon ayak izinin azaltılmasına da katkıda bulunabilir.
