Teknoloji devi Google, geliştiricilerin veri gizliliğinden ve işlem hızından ödün vermeden yerel cihazlarda güçlü arama sistemleri kurmasını sağlayacak yeni açık kaynaklı EmbeddingGemma 2 modelini tanıttı. Yeni model, çeşitli veri türlerini tek yapıda birleştirmesiyle öne çıkıyor. Toplam 740 milyon parametrelik son derece kompakt bir mimariye sahip olan mimari, kendisinden iki kat daha büyük rakip modelleri bile performans testlerinde geride bırakıyor.
EmbeddingGemma 2 neler sunuyor?
twitterwidget{float:none !important;margin:0 auto !important;}
EmbeddingGemma 2, farklı veri türlerini sayısal vektörlere dönüştürerek bunlar arasında anlamsal bağlantılar kurulmasını sağlıyor. Böylece örneğin bir ses kaydındaki ifadeyle ilişkili video görüntüsü bulunabiliyor veya metin kullanılarak saatlerce süren ses kayıtları içinde arama yapılabiliyor.
Google'ın geçen yıl kullanıma sunduğu EmbeddingGemma yalnızca metin tabanlı işlemlere odaklanırken eni model kod, görüntü, video ve sesi de aynı sistem içerisinde destekliyor. İnternet bağlantısına ihtiyaç duymayan model, Google'ın Gemma 4 mimarisi temel alıyor ve Apache 2.0 lisansıyla sunuluyor.
Modelin toplam boyutu 740 milyon parametre seviyesinde. Bununla birlikte geliştiricilerin her kullanım senaryosunda modelin tamamını çalıştırması gerekmiyor. metin işlemleri için 270 milyon, görüntü için 170 milyon, ses için ise 300 milyon parametreli yapı kullanılabiliyor.
EmbeddingGemma 2'nin öne çıkan özelliklerinden biri de depolama ve bellek kullanımını azaltmaya yönelik esnek yapısı. Model, Matryoshka Representation Learning (MRL) sayesinde oluşturduğu 768 boyutlu vektörleri 512, 256 veya 128 boyuta kadar küçültebiliyor.
Bu yapı, özellikle cihaz üzerinde çalışan yerel vektör veritabanlarında önemli bir avantaj sağlıyor. Google'a göre vektör boyutunun düşürülmesi depolama alanı ve bellek kullanımında 6 kata kadar tasarruf sağlayabiliyor.
Model aynı zamanda önceki sürüme kıyasla daha geniş bir bağlam penceresine sahip. 8 bin tokenlık bağlam penceresi, EmbeddingGemma'nın sunduğu kapasitenin dört katına karşılık geliyor. Bu sayede model yerel donanım üzerinde yaklaşık 5,5 dakikalık ses, 29 görüntü veya 58 video karesi işleyebiliyor.
Telefonda 191 MB RAM ile çalışabiliyor
EmbeddingGemma 2, özellikle yerel yapay zeka uygulamaları düşünülerek optimize ediliyor. Google'ın verdiği bilgilere göre model, Google Pixel 11 Pro üzerinde yalnızca metin tabanlı işlemler için yaklaşık 191 MB aktif RAM gerektiriyor. Diğer veri türleri dahil edildiğinde modelin aktif RAM ihtiyacı ise yaklaşık 567 MB seviyesinde.
Modelin tarayıcı üzerinde WebGPU kullanılarak çalıştırılması da mümkün. Google, bu senaryoda sorguların yaklaşık 20 ila 70 milisaniye içerisinde işlenebildiğini belirtiyor. Böylece modelin çalışması için her sorgunun uzak bir sunucuya gönderilmesine veya bir API anahtarı kullanılmasına gerek kalmıyor.
Bu yaklaşım, özellikle kişisel verilerin cihaz dışına çıkarılmasının istenmediği uygulamalarda önem taşıyor. Embedding işleminin yerel olarak gerçekleştirilmesi hem gizliliği artırıyor hem de ağ gecikmesini ortadan kaldırarak tamamen çevrimdışı arama ve veri erişimi senaryolarının önünü açıyor.
Açık kaynak ekosisteminde kullanılabilecek
EmbeddingGemma 2'nin model ağırlıkları Hugging Face ve Kaggle üzerinden erişime açılıyor. Gemini Enterprise Agent Platform Model Garden desteğinin ise ilerleyen dönemde sunulması planlanıyor. Cihaz üzerinde kullanım için optimize edilen modeller LiteRT Community'nin Hugging Face sayfasında da yer alıyor.
