Nvidia’dan Devrim Niteliğinde Bir AI Süper Bilgisayarı: Project Digits
Nvidia, artık kendi özel yapay zeka süper bilgisayarına sahip olmak isteyenler için heyecan verici bir çözüm sunma yolunda önemli bir adım atıyor. Bu çip üreticisi, 2025 CES etkinliği sırasında, Mayıs ayında Project Digits adlı kişisel yapay zeka süper bilgisayarını tanıtacağını duyurdu.
Project Digits, masaya sığacak kadar kompakt bir yapıya sahip olmasına rağmen, üst düzey AI modellerini çalıştırmak için gereken işlem gücünü sunuyor. Bu sistem, GB10 Grace Blackwell Superchip teknolojisini temel alıyor. Geçmişte bu tür bir işlem gücü sağlamak için çok daha büyük ve enerji tüketimi yüksek sistemler kullanılıyordu. Ancak bu yeni masaüstü boyutundaki süper bilgisayar, yalnızca 3.000 dolarlık bir başlangıç fiyatıyla, 200 milyara kadar parametreye sahip AI modellerini işleme kapasitesine sahip.
Nvidia CEO’su Jensen Huang, bu yeni sistemin önemini vurgulayarak, “Yapay zeka, her sektördeki her uygulamada ana akım hale gelecek. Project Digits ile Grace Blackwell Superchip, milyonlarca geliştiriciye ulaşmayı hedefliyor” dedi. Ayrıca, “Her veri bilimcisinin, AI araştırmacısının ve öğrencisinin masasına bir yapay zeka süper bilgisayarı yerleştirmek, onların AI çağına katılmalarını ve bu çağı şekillendirmelerini sağlıyor” şeklinde ekledi.
Her Project Digits sistemi, 128 GB birleşik ve tutarlı belleğe (RAM) sahip olmanın yanı sıra, 4 TB’a kadar NVMe depolama alanı sunuyor. Daha karmaşık ve zorlu uygulamalar için, iki Project Digits sistemi bir araya getirilerek 405 milyara kadar parametreye sahip modelleri işlemek üzere kullanılabiliyor. Karşılaştırma yapmak gerekirse, Meta’nın en güncel ve güçlü modeli olan Llama 3.1, tam olarak 405 milyar parametreye sahip.
GB10 çipi, FP4 hassasiyetinde 1 petaflop’a kadar yapay zeka performansı sunabiliyor; bu da saniyede 1 katrilyon AI hesaplaması yapabileceği anlamına geliyor. Sistem, NVLink-C2C bağlantısı aracılığıyla 20 güç tasarruflu Arm tabanlı çekirdek içeren bir Grace CPU’ya bağlanıyor ve Nvidia’nın en yeni nesil CUDA çekirdekleri ile beşinci nesil Tensor Çekirdekleri ile donatılmış durumda.
Nvidia, GB10’un güç verimliliği ve performansını optimize etmek için geliştirme sürecinde MediaTek ile iş birliği yaptı. Kullanıcılar, Nvidia’nın AI yazılım kütüphanesinden faydalanarak geliştirme kitleri, yönetim araçları ve önceden eğitilmiş modelleri Nvidia NGC kataloğu üzerinden erişebilecekler.
Project Digits, Linux tabanlı Nvidia DGX OS ile çalışacak ve PyTorch, Python ve Jupyter notebook’lar gibi popüler çerçeveleri destekleyecek. Geliştiriciler, Nvidia NeMo çerçevesini kullanarak modellerine özelleştirmeler yapabilecek ve Nvidia RAPIDS kütüphaneleri ile veri bilimi iş akışlarını hızlandırmayı hedefleyebilecekler. Kullanıcılar, yapay zeka modellerini Project Digits üzerinde yerel olarak geliştirebilir, ardından aynı Grace Blackwell mimarisini ve Nvidia AI Enterprise yazılım platformunu kullanarak bulut hizmetlerine veya veri merkezi altyapısına dağıtabilecekler.
