Google EmbeddingGemma 2: Cihazda Çalışan Açık Kaynaklı Yapay Zeka

Google, geçen yıl tanıttığı EmbeddingGemma'nın ardından ikinci nesil modeli EmbeddingGemma 2'yi duyurdu. Yeni model, yalnızca metin değil; kod, görüntü, video ve sesi tek bir "gömme uzayı"nda birleştiren, cihaz üzerinde çalışabilen açık kaynaklı bir yapay zeka modeli. 740 milyon parametreyle alt-1 milyar sınıfında kendine özgü bir konumlanış sunan model, Apache 2.0 lisansıyla ticari kullanıma da açık. Peki bu teknik özellikler, yazılım geliştiriciler ve son kullanıcılar için pratikte ne anlama geliyor?

Çok Modallı Gömme Nedir ve Neden Önemli?

"Embedding" veya Türkçe karşılığıyla "gömme", yapay zekanın farklı veri türlerini sayısal vektörlerle ifade etme yöntemi. Geleneksel sistemler metni, görüntüyü ve sesi ayrı modellerde işler; çok modallı gömme ise bu türleri aynı matematiksel uzayda konumlandırır. Örneğin bir ses kaydındaki "yağmur sesi" ile bir metindeki "yağmur" kelimesi veya bir fotoğraftaki yağmur görüntüsü, bu uzayda birbirine yakın vektörlerle temsil edilir.

EmbeddingGemma 2'nin dikkat çekici yanı, bu birleştirmeyi "doğal" (native) olarak yapması. Yani veriyi dışarıda farklı modellere parçalayıp sonuçları birleştirmek yerine, tek bir model tüm türleri anlayabiliyor. Kaynağa göre bu, sesli bir nottan belirli bir video klibi bulmayı veya saatlerce ses kaydı içinde metin sorgusuyla arama yapmayı mümkün kılıyor.

Modelin mimari yapısı modüler: yalnızca metin işlemleri için 270 milyon parametre yeterli; görüntü (170M) ve ses (300M) kodlayıcıları isteğe bağlı olarak eklenebiliyor. Bu, kaynak kısıtlı uygulamaların yalnızca ihtiyaç duyduğu bileşenleri yüklemesine olanak tanıyor.

Teknik Özelliklerin Pratik Karşılığı

EmbeddingGemma 2'nin rakiplerinden ayrıldığı noktalar salt pazarlama iddiası değil, belirli teknik seçimlerle destekleniyor.

Matryoshka Representation Learning (MRL) kullanımı bunlardan biri. Geliştiriciler, 768 boyutlu çıktı vektörlerini 512, 256 veya 128 boyuta dinamik olarak kısaltabiliyor. Kaynağın belirttiğine göre bu, yerel vektör veritabanlarında depolama alanı ve bellek kullanımında 6 kata kadar tasarruf sağlıyor. Mobil cihazlarda her megabaytın değerli olduğu düşünülürse, bu özellik salt akademik bir ayrıntı değil, ürünleştirme kararını etkileyen bir faktör.

Modelin kuantizasyon sonrası bellek ayak izi de dikkate değer: Google Pixel 11 Pro'da yalnızca metin için ~191 MB, tam çok modallı versiyon için ~567 MB aktif RAM. 8K token bağlam penceresi ise yaklaşık 5.5 dakika ses, 29 görüntü veya 58 video karesi işleyebileceği anlamına geliyor. Bu rakamlar, modelin akıllı telefon gibi tüketici donanımında çalışabileceğini somutlaştırıyor.

Performans açısından, MTEB Code benchmarkında bir önceki nesle göre 9.92 puanlık artış (68.76'dan 78.68'e) kaydedilmiş. Kod gömme performansındaki bu sıçrama, yerel kod tabanı indeksleme ve semantik kod arama gibi geliştirici araçları için doğrudan ilgi çekici.

Gizlilik ve Bağımsızlık: Cihaz Üzerinde Çıkarımın Anlamı

EmbeddingGemma 2'nin en güçlü vaatlerinden biri, veriyi buluta göndermeden işleyebilmesi. Gömme vektörlerinin yerel olarak üretilmesi, üç temel avantaj doğuruyor: veri gizliliği, düşük gecikme ve çevrimdışı çalışabilirlik.

Özellikle kişisel medya arşivleri, sağlık kayıtları veya kurumsal hassas veriler söz konusu olduğunda, verinin cihazdan çıkmaması bir "nice-to-have" değil, "must-have" haline gelebiliyor. Google AI Edge Gallery'deki "Instant Media Search" ve "Video Moments Finder" örnekleri, bu teknolojinin son kullanıcıya nasıl ulaşabileceğini gösteriyor.

EmbeddingGemma 2'nin Gemma 4 ile aynı metin tokenizer ve ses kodlayıcıyı paylaşması da stratejik bir tercih. İki modeli birleşik bir pipeline'da çalıştırmak, toplam bellek ayak izini düşürüyor. Bu, Retrieval-Augmented Generation (RAG) sistemlerinin cihaz üzerinde gerçekleşebileceği anlamına geliyor; yani yapay zeka, harici bilgiye erişmeden yanıt üretmek yerine, yerel olarak indekslenmiş çok modallı veriye dayanarak daha doğru ve güncel çıktılar sunabiliyor.

Geliştirici Ekosistemi ve Entegrasyon Yolları

Google, modelin hemen kullanılabilir olması için çok sayıda platformla çalışmış. Model ağırlıkları Hugging Face ve Kaggle'da yayınlanmış; LiteRT Community'de cihaz için optimize edilmiş versiyonlar bulunuyor. Google AI Edge MediaPipe, hazır gömme ve geri alma görevleri sunarken; LiteRT özel model entegrasyonu için tercih edilebiliyor. Tarayıcı tarafında transformers.js ve WebGPU desteği mevcut.

Çıkarım altyapısı açısından transformers, sentence-transformers, MLX, vLLM, llama.cpp, SGLang, Ollama ve LMStudio gibi popüler araçlar destekleniyor. Vektör depolama için Qdrant entegrasyonu belirtilmiş. Fine-tuning konusunda ise Unsloth rehberliği öne çıkarılıyor.

Bu geniş ekosistem, modelin yalnızca araştırma ortamında kalmayıp, üretim sistemlerine entegre edilebilirliğini artırıyor. Geliştiricinin mevcut toolchain'ine uymayan bir teknoloji, ne kadar yetenekli olursa olsun benimsenme engeliyle karşılaşır; EmbeddingGemma 2 bu açıdan bilinçli bir açılım yapıyor.

Değerlendirme ve Dikkat Edilmesi Gerekenler

EmbeddingGemma 2, çok modallı yapay zekanın cihaz üzerinde çalışabilir hale gelmesinde önemli bir adım. Ancak "en yetenekli" veya "en hafif" gibi süperlatifler yerine, modelin gerçekçi konumunu anlamak önemli.

740 milyon parametre, büyük bulut modellerinin yanında küçük kalıyor; bu da karmaşık soyutlamalar veya nadir görülen çok modallı ilişkilerde sınırlamalar olabileceği anlamına geliyor. Ayrıca, modelin çok modallı yetenekleri "isteğe bağlı" modüllere dayanıyor; tam çok modallı performans için tüm kodlayıcıların yüklenmesi gerekiyor ve bu, bellek kullanımını artırıyor.

MRL ile vektör boyutu küçültme, depolama tasarrufu sağlasa da, boyut düştükçe temsil gücünde de kayıp olasılığı var. Geliştiricinin, uygulamasının hassasiyet ihtiyacı ile depolama kısıtı arasında denge kurması gerekecek.

Son olarak, modelin Apache 2.0 lisansı ticari kullanıma açık olsa da, Gemma ailesinin kullanım şartları ve potansiyel gelecekteki güncellemeleri takip etmek, uzun vadeli ürün kararları için önemli.

Alptuğ Harun'dan: EmbeddingGemma 2'nin en ilginç yanı, "açık model" ile "cihaz üzerinde" kavramlarını birleştirme stratejisi. Google, bulut tabanlı Gemini modelleriyle paralel olarak, gizlilik odaklı ve düşük gecikmeli kullanım alanlarını açık ekosistemle kapatmaya çalışıyor. Bu, geliştiriciler için seçenek çeşitliliği anlamına geliyor; ancak aynı zamanda Google'ın kendi altyapısına (LiteRT, MediaPipe, AI Edge) bağımlılık yaratabilecek bir ekosistem inşası da olduğunu görmek gerekiyor.