Meta, 816 milyar toplam parametreye sahip açık ağırlıklı yapay zeka modeli Muse Spark Open’ı kullanıma sundu. Şirket, yeni modelini bugüne kadar ABD'de geliştirilen en yetenekli açık ağırlıklı yapay zeka modeli olarak tanımlıyor. Apple ile birlikte optimize edilen model, iki M5 Ultra işlemcili Mac Studio üzerinde çalışabiliyor. Model, kodlama ve çok adımlı akıl yürütme görevlerine odaklanıyor.
Meta Muse Spark Open neler sunuyor?
816 milyar toplam parametreye, 42 milyar aktif parametreye ve 1 milyon tokenlık bağlam penceresine sahip olan modelin karmaşık yazılım geliştirme, uzun süreli görevler ve çok adımlı akıl yürütme işlemleri için tasarlandığı aktarılıyor. Doğal olarak çok modlu bir yapıya sahip olan Muse Spark Open, farklı veri türlerini işleyebiliyor. Modelin öne çıkan özellikleri arasında karmaşık kodlama görevlerini yerine getirme, birden fazla aşamadan oluşan iş akışlarını yönetme ve araçları kullanarak görevleri tamamlayabilme bulunuyor.
Meta, modelin performansını çeşitli değerlendirmelerle destekliyor. Şirketin yayımladığı karşılaştırmalarda Muse Spark Open, rakip açık ağırlıklı modelleri farklı kategorilerde geçmeyi başarabiliyor veya çok yakın performans gösterebiliyor.
İki Mac Studio tek sistem gibi çalışıyor
Apple'ın birleşik bellek mimarisi, M5 Ultra işlemcinin entegre GPU'sunun her Mac Studio üzerinde 512 GB'a kadar belleği kullanmasına olanak tanıyor. İki bilgisayar bir araya getirildiğinde toplam 1 TB birleşik bellek kapasitesi elde ediliyor. Böylece modelin ağırlıkları iki makineye dağıtılarak büyük ölçekli yapay zeka modeli yerel ortamda çalıştırılabiliyor.
Sistemin performansında bellek bant genişliği de önemli rol oynuyor. Meta'nın paylaştığı bilgilere göre M5 Ultra, 1,2 TB/sn bellek bant genişliği sunuyor. Bu kapasite, modelin her token için ihtiyaç duyduğu verilerin hızlı şekilde okunmasına yardımcı oluyor. Meta, iki Mac Studio'nun birlikte tek bir süper bilgisayar gibi çalışabildiğini ifade ediyor. Bunlar etkileyici olsa da 1 TB bellek ihtiyacı büyük bir yatırım anlamına geliyor. Apple, henüz 512 GB'lık Mac Studio fiyat bilgisini paylaşmadı.
Nvidia ve AMD ekran kartları için de optimize edildi
Modelin açık ağırlıklı sürümü, SGLang içerisinde özel ve otomatik ayarlanabilir Helion GPU çekirdekleriyle birlikte sunuluyor. Meta'nın verilerine göre bu optimizasyonlar, Nvidia ve AMD ekran kartlarında çekirdek seviyesinde 1,03 ila 3,95 kat arasında hızlanma sağlıyor. AMD MI350 üzerinde ise uçtan uca performansta yüzde 3 iyileşme elde ediliyor.
Geliştiriciler, modeli kendi ihtiyaçlarına göre uyarlamak için PyTorch çerçevesinden ve TorchTitan araçlarından yararlanabiliyor. Bu esneklik, Muse Spark Open'ın farklı donanımlarda ve özel kullanım senaryolarında değerlendirilmesini mümkün kılıyor.
Kodlama ve video düzenleme görevlerini yerine getirebiliyor
Öte yandan Meta, Muse Spark Open'ı kendi yapay zeka kodlama terminali Muse Code ile birlikte test etti. Şirketin paylaştığı örneklerden birinde model, açık kaynaklı Mastodon istemcisi Ice Cubes üzerinde çalışarak hata düzeltmeleri yaptı, yeni özellikler ekledi ve uygulamanın derleme sürecini tamamladı.
Bir diğer kullanım senaryosunda ise model, profesyonel video düzenleme yazılımı DaVinci Resolve ile birlikte kullanıldı. Muse Spark Open, görüntüleri kare kare inceleyerek öne çıkan anları belirledi ve videoları dikey formata uygun şekilde kırptı. Bu örnekler, modelin yalnızca kod üretmekle sınırlı kalmayıp birden fazla adımdan oluşan masaüstü iş akışlarını da yönetebildiğini gösteriyor.
Meta'nın yaklaşımı, yapay zeka modellerinin bilgisayar üzerinde doğrudan çalıştırılmasıyla görevlerin yerel ortamda tamamlanmasına dayanıyor. Böylece uygun donanıma sahip kullanıcılar, çeşitli işlemleri bulut tabanlı hizmetlere bağımlı kalmadan gerçekleştirebiliyor.
Muse Spark Open nasıl kullanılabilir?
Meta, Muse Spark Open'ı farklı API platformları üzerinden erişime açtı. Model halihazırda Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter ve Together AI üzerinden kullanılabiliyor.
Model ağırlıkları ise Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face ve Microsoft Foundry Models üzerinden indirilebiliyor.
Modelin ağırlıkları Hugging Face üzerinden alınabiliyor ve geliştiriciler kendi uygulamalarına yönelik özelleştirmeler yapabiliyor.
Meta, model ağırlıklarını Muse Model License kapsamında yayımlıyor. Lisans, birçok geliştiricinin modeli ücretsiz kullanmasına izin verirken ticari kullanım için bazı sınırlamalar içeriyor