RTX ve DGX için hız artışı
Nvidia'nın paylaştığı testlerde RTX ve DGX sistemlerinde token üretim hızında ciddi artışlar elde edildi. Şirketin verdiği bilgilere göre GeForce RTX 5090 gibi üst seviye RTX GPU'larında llama.cpp kullanılarak yapılan testlerde, Qwen3.6-27B modelinde token üretim hızı yüzde 50'ye kadar arttı. Daha büyük Qwen3.6-35B modelinde ise hızlanmanın yüzde 90'a kadar ulaştığı belirtiliyor.
DGX Spark platformunda ise Qwen3.6-27B modeliyle yapılan vLLM testlerinde 1,4 kata kadar hızlanma elde edildi. DeepSeek v4 Flash ile yapılan yapay zekâ çıkarım işlemlerinde de yüzde 20 civarında bir artış yaşanmış durumda. Nvidia, bu performans kazanımlarının yeni çekirdek optimizasyonları sayesinde elde edildiğini söylüyor.
Nvidia'nın ikinci önemli duyurusu ise yerel yapay zekâ kullanımını daha kolay hale getirmeyi amaçlıyor. Şirket, 24 GB veya daha yüksek VRAM kapasitesine sahip Nvidia GPU'lar için çeşitli yapay zekâ ajanlarında kolaylaştırılmış kurulum desteği sunacak. Bu destek ilk aşamada üç önemli platformu kapsıyor. Bunlar Hermes Agent, OpenClaw ve Perplexity Computer.
Nvidia, Microsoft ve OpenClaw tarafından geliştirilen Windows uygulaması da benzer şekilde 24 GB ve üzeri VRAM'e sahip RTX GPU'larda optimize edilmiş yerel modellerin daha kolay kurulmasını sağlayacak.
