Meta, Bilgisayarlarda Yerel Çalışabilen 30 Milyar Parametreli Muse Glimmer’ı Yayınladı

Meta, tüketici bilgisayarlarında yerel olarak çalışabilen 30 milyar parametreli açık ağırlıklı yapay zekâ modeli Muse Glimmer’ı yayınladı. Meta Superintelligence Labs tarafından geliştirilen model, sürekli çalışan yapay zekâ ajanları için tasarlanırken tek bir tüketici GPU’suna sahip Mac veya PC üzerinde çalışabiliyor. Meta, model ağırlıklarını Apache 2.0 lisansıyla sunarken Glimmer’ın uzun süreli akıl yürütme, araç kullanımı, hata kurtarma, kodlama ve çok modlu görevleri desteklediğini açıkladı.

Muse Glimmer Tek GPU’lu Bilgisayarlarda Yerel Yapay Zekâ Ajanlarını Çalıştırıyor

Meta’nın yeni modeli, yapay zekâ işlemlerinin bulut sunucularına gönderilmesi yerine doğrudan kullanıcının bilgisayarında gerçekleştirilmesini hedefliyor. Muse Glimmer, tek bir tüketici GPU’suna sahip Mac veya PC sistemlerinde çalışacak şekilde optimize edilirken modelin özellikle sürekli aktif kalan yapay zekâ ajanlarına yönelik tasarlandığı belirtiliyor. Yerel çalışma modeli, kullanıcı verilerinin uzak sunuculara gönderilme ihtiyacını azaltırken geliştiricilere donanım üzerinde daha fazla kontrol sağlıyor.

Glimmer’ın 30 milyar parametreli yapısı, yerel yapay zekâ modellerinde performans ile donanım ihtiyacı arasındaki dengeyi öne çıkarıyor. Modelin tam hassasiyetli sürümünü çalıştırmak normal koşullarda 55 GB’ın üzerinde bellek gerektirirken 4-bit quantization uygulanmış sürümün boyutu 20 GB’ın altına indiriliyor. Böylece 24 GB veya 32 GB belleğe sahip sistemler, modelin tamamını yerel olarak çalıştırabilecek kapasiteye ulaşabiliyor.

Meta’nın 4-bit quantization yaklaşımı, model parametrelerinin daha düşük bit derinliğiyle temsil edilmesini sağlayarak bellek kullanımını azaltıyor. Bu yöntem, 30 milyar parametreli bir modelin yüksek kapasiteli veri merkezi donanımı olmadan tüketici bilgisayarlarında çalıştırılabilmesi açısından kritik önem taşıyor. Kullanıcılar daha düşük bellek tüketimi sayesinde modeli masaüstü bilgisayarlarda veya yüksek performanslı dizüstü sistemlerinde yerel olarak çalıştırabiliyor.

Modelin token üretim hızını artırmak için DFlash speculative decoding teknolojisinden de yararlanılıyor. Meta’nın ölçümlerine göre DFlash, Nvidia RTX 5090 üzerinde 3,1 kat, M5 Max üzerinde 1,8 kat, M4 Max üzerinde ise 1,5 kat hızlanma sağlıyor. Donanım ile model optimizasyonunun birlikte kullanılması, yerel yapay zekâ ajanlarının uzun görevlerde daha hızlı yanıt vermesine yardımcı oluyor.

Muse Glimmer, yalnızca metin üretimi yapan bir dil modeli olarak değil belirli görevleri kendi başına sürdürebilen yapay zekâ ajanları için geliştirildi. Modelin uzun süreli akıl yürütme yeteneği, bir görevi tek bir yanıtla tamamlamak yerine daha uzun işlem zincirleri içerisinde sürdürebilmesini hedefliyor. Araç çağırma, hata sonrasında toparlanma ve kodlama desteği de modelin ajan tabanlı kullanım senaryolarını genişletiyor.

Çok modlu akıl yürütme desteği, Glimmer’ın yalnızca metinsel girdilerle sınırlı kalmamasını sağlıyor. Model 100’den fazla dili desteklerken OpenClaw gibi ajan çerçeveleriyle de çalışabiliyor. Meta, böylece Glimmer’ı geliştiricilerin kendi bilgisayarlarında kod yazma, araç çalıştırma, dosyaları analiz etme ve daha uzun görevleri otomatikleştirme amacıyla kullanabileceği bir altyapı olarak konumlandırıyor.

Meta’nın Glimmer geliştirme süreci, daha önce Muse ailesinde elde edilen modellerden yararlanıyor. Şirket, ön eğitim aşamasında Muse Spark modelinin çıktılarından logit distillation yöntemiyle yararlandı. Bu yöntem, daha büyük veya daha yetenekli bir modelin ürettiği olasılık dağılımlarının daha küçük bir modele aktarılmasıyla yeni modelin belirli yetenekleri daha verimli öğrenmesini sağlıyor.

Meta, orta eğitim ile son eğitim aşamalarında Glimmer’ın ajan özelliklerini geliştirmek için farklı eğitim yöntemlerini bir arada kullandı. Denetimli ince ayar, pekiştirmeli öğrenme, ajan odaklı eğitim ve on-policy distillation süreçleri modelin akıl yürütme, kodlama ve araç kullanma yeteneklerini geliştirmek için uygulandı. Meta’nın açıklamasına göre Muse Glimmer, bazı popüler LLM testlerinde Gemma4-31B ve Qwen3.6-27B gibi yerel modelleri geride bıraktı.

Meta, Muse Glimmer’ın model ağırlıklarını Apache 2.0 lisansı altında yayınladı. Açık ağırlık yaklaşımı, geliştiricilerin modeli yalnızca Meta’nın sunduğu çevrim içi hizmetler üzerinden kullanmak yerine kendi donanımlarında çalıştırmasına, farklı yazılım altyapılarına entegre etmesine ve kendi kullanım senaryolarına uyarlamasına olanak tanıyor.

Glimmer’ın dağıtımı için Hugging Face üzerinden erişim sağlanırken model Ollama, LM Studio, llama.cpp, MLX, ExecuTorch, vLLM ve SGLang gibi farklı araçlarla da kullanılabiliyor. Geniş çalışma ortamı desteği, modelin yalnızca araştırma amacıyla değil yerel geliştirme ortamlarında doğrudan kullanılmasını kolaylaştırıyor. Açık ağırlıkların tüketici donanımında çalıştırılabilmesi, yapay zekâ ajanlarının bulut merkezli yapıdan masaüstü bilgisayarlara doğru yayılmasını hızlandırabilecek bir gelişme oluşturuyor.

Meta’nın Muse ailesindeki genişleme Glimmer ile sınırlı kalmıyor. Meta CEO’su Mark Zuckerberg, şirketin Muse Spark 2.1 modelinin ağırlıklarını da önümüzdeki haftalarda yayınlayacağını açıkladı. Yeni sürümün açık ağırlıklarla sunulması, Meta’nın farklı kullanım alanları için Muse ailesini daha geniş bir geliştirici topluluğuna açma stratejisinin devam ettiğini gösteriyor.

Yerel yapay zekâ modellerindeki rekabet, yalnızca parametre sayısı üzerinden ilerlemiyor. Bellek tüketimi, token üretim hızı, araç kullanımı, çok modlu yetenekler, model lisansı ve tüketici GPU’larıyla uyumluluk geliştiricilerin tercihlerini doğrudan etkiliyor. Muse Glimmer’ın bu alanları aynı pakette birleştirmesi, Meta’nın yerel çalışan yapay zekâ ajanları pazarında OpenAI, Google ve Alibaba gibi şirketlerin açık veya yerel model stratejilerine karşı daha güçlü bir konum oluşturma hedefini ortaya koyuyor.