ABD Federal Soruşturma Bürosu (FBI), yapay zeka yeteneklerini genişletmek amacıyla büyük dil modelleri (LLM) eğitimi için özel süper bilgisayarlar kurmayı değerlendiriyor. Data Center Dynamics'in haberine göre, FBI'ın bu sistemlerde Nvidia'nın B300 GPU'larını veya Google'ın TPU'larını (Tensor Processing Unit) kullanma seçenekleri masada.
Haberde, FBI'ın mevcut altyapısını güçlendirmek ve daha karmaşık yapay zeka modellerini çalıştırabilmek için yüksek performanslı bilgi işlem kaynaklarına ihtiyaç duyduğu belirtiliyor. Özellikle büyük dil modellerinin eğitimi, devasa hesaplama gücü gerektiriyor ve bu da özel donanım çözümlerini zorunlu kılıyor.
Nvidia B300 GPU'lar, Nvidia'nın en yeni nesil grafik işlem birimleri arasında yer alıyor ve yapay zeka iş yükleri için optimize edilmiş durumda. Google'ın TPU'ları ise özellikle TensorFlow gibi makine öğrenimi çerçeveleri için tasarlanmış özel çipler. FBI'ın hangi teknolojiyi tercih edeceği henüz netlik kazanmış değil.
FBI'ın bu hamlesi, federal kurumların yapay zeka altyapısına yaptığı yatırımların arttığı bir döneme denk geliyor. Büro, daha önce de yapay zeka tabanlı araçları suç analizi ve siber güvenlik gibi alanlarda kullanmaya başlamıştı.
Neden önemli
FBI'ın kendi LLM süper bilgisayarını kurma potansiyeli, istihbarat ve kolluk kuvvetlerinin yapay zeka kullanımında önemli bir adımı temsil ediyor. Mevcut bulut tabanlı çözümler yerine özel donanıma yönelmek, veri güvenliği ve gizliliği açısından kritik olabilir. Ayrıca Nvidia B300 ve Google TPU arasındaki seçim, donanım pazarındaki rekabeti ve gelecekteki kamu ihalelerini etkileyebilir. Bu tür bir yatırım, diğer federal kurumlar için de emsal teşkil edebilir.
