DeepSeek-V4.1-Flash açık ağırlıklı yayında: 552B MoE modeli kendi GPU sunucunuzda çalıştırmak için ne gerekir?

DeepSeek, yeni mimari ailesinin en küçük üyesi olan V4.1-Flash'ı 10 Eylül 2026'da yayımladı. Model hem API üzerinden kullanılabiliyor hem de ağırlıkları MIT lisansıyla Hugging Face'te paylaşıldı. API'yi kullanan ekiplerin bir model adı değişikliğine dikkat etmesi gerekiyor. Veriyi dışarı göndermek istemeyen ekipler için ise asıl soru şu: Bu model kendi sunucumuzda çalışır mı, çalışırsa ne gerekir?

Ne değişti

Mimari ve yetenekler

Model kartına göre V4.1-Flash, toplamda 552 milyar parametrelik bir MoE (mixture of experts) omurgası kullanıyor. Her token için bu parametrelerin yalnız bir kısmı çalışıyor: istem işlenirken token başına 8 milyar, yanıt üretilirken 16 milyar parametre devreye giriyor. Model 1 milyon tokena kadar bağlam destekliyor ve görselleri doğrudan anlayabiliyor.

Bu yapının sonucu şu: Hesaplama tarafında model, adındaki "Flash" sözcüğüne uygun biçimde nispeten hafif kalıyor. Bellek tarafında ise durum farklı, çünkü çalışan parametre sayısı küçük olsa bile 552 milyar parametrenin tamamının GPU belleğinde durması gerekiyor.

API tarafı

• En yeni modeli çağırmak için model adı artık deepseek-flash.
• Eski deepseek-v4-flash ve deepseek-v4-flash-vision-exp adlarıyla gelen istekler şimdilik V4.1 Flash'a yönlendiriliyor.
• DeepSeek bu çıkışla birlikte API fiyatlarını düşürdüğünü duyurdu. Güncel rakamlar için resmi değişiklik günlüğüne bakın.
• Kullanıcılardan gelen talep üzerine V4 Pro API hizmeti, 14 Eylül 2026'dan sonra da faturalandırma yöntemi değişmeden sürecek.

NVIDIA'nın NVFP4 sürümü

NVIDIA, modelin NVFP4 ile nicemlenmiş bir sürümünü Hugging Face'te yayımladı. Bu sürümde yönlendirilen MoE uzmanları NVFP4'e çevrilmiş, dikkat katmanları ve paylaşılan uzmanlar ise MXFP8 hassasiyetinde bırakılmış. NVIDIA bu sürümü vLLM ve SGLang ile çalışacak şekilde hazırlamış ve dört adet GB300 (Blackwell) GPU üzerinde test etmiş. Kartta checkpoint boyutunun nicemleme sonrasında yaklaşık 476 GB'tan 492 GB'a çıktığı belirtiliyor. Yani bu sürüm diskte yer kazandırmak için değil, Blackwell donanımına uygun bir biçim sunmak için hazırlanmış görünüyor.

Ne anlama geliyor

API kullananlar için: Kodunuzda eski model adı sabit yazılıysa bugün bir sorun yaşamazsınız. Ancak "şimdilik" yönlendirme kalıcı bir söz değil. Model adını yapılandırma dosyasına taşıyıp deepseek-flash olarak güncellemek, ileride yaşanabilecek sessiz bir kesintiyi önler. Model değiştiği için çıktıların biçimi de değişebilir. Geçişten önce kendi test istemlerinizle bir karşılaştırma yapın.

Kendi sunucusunda çalıştırmak isteyenler için: MIT lisansı ticari kullanım açısından oldukça serbest. Asıl engel donanım. Yaklaşık yarım terabaytlık ağırlıklar tek bir GPU'ya sığmaz. Bunun yanında uzun bağlamın KV önbelleği de ek bellek ister. Bu yüzden gerçekçi senaryo, tensor parallel ile birden fazla yüksek bellekli GPU'ya bölünmüş bir kurulum. NVIDIA'nın test ettiği yapılandırma da bu ölçeğin bir göstergesi.

KVKK ve veri gizliliği: Müşteri verisi, sözleşme metni ya da iç belgelerle çalışan Türk ekipleri için yurt dışındaki bir API'ye veri göndermek, yurt dışına aktarım değerlendirmesi gerektirir. Açık ağırlıklı bir modeli Türkiye'deki bir sunucuda çalıştırırsanız veri sizin altyapınızdan çıkmaz. Kayıt tutma, erişim yetkisi ve saklama sürelerini de kendiniz belirlersiniz. Gecikme tarafında da yurt içi bir sunucu, özellikle etkileşimli kullanımda fark yaratabilir.

Maliyet hesabı: API fiyatları düştüğü için düşük ve dalgalı hacimde API çoğu zaman daha ekonomiktir. Sürekli ve yüksek hacimli kullanımda ya da veri gizliliğinin pazarlık konusu olmadığı durumlarda kendi sunucunuz öne çıkar. Kararı kendi token hacminizle hesaplayın.

Nasıl denenir

1. Önce API ile ölçün. Türkçe istemlerinizi, uzun belge senaryolarınızı ve görsel girdilerinizi deepseek-flash ile deneyin. Model işinize yaramıyorsa donanıma yatırım yapmanın anlamı yok.
2. Donanımı planlayın. Toplam GPU belleği, ağırlıkların boyutunu rahatça aşmalı. Kalan pay KV önbelleğine ve eşzamanlı isteklere gider. Bağlam uzunluğunu ihtiyacınızdan büyük açmayın, çünkü bellek ihtiyacı bağlamla birlikte artar. Çok GPU'lu bir GPU sunucu ya da kurumunuza ayrılmış bir özel bulut bu iş için doğal başlangıç noktası.
3. Sürümü seçin. Blackwell donanımınız varsa NVIDIA'nın NVFP4 sürümü, model kartındaki vLLM ve SGLang talimatlarıyla birlikte iyi bir başlangıç noktası. Diğer donanımlarda orijinal ağırlıkları ve çalışma zamanının destek durumunu kontrol edin.
4. Ağırlıkları yedekleyin. Yarım terabaytlık dosyaları her yeni sunucuda yeniden indirmek zaman alır. Bir kopyayı S3 uyumlu nesne depolamada tutmak kurulumları hızlandırır.

vLLM ile tipik bir başlangıç şöyle görünür. Kesin parametreler için model kartındaki önerileri esas alın:

pip install vllm
vllm serve nvidia/DeepSeek-V4.1-Flash-NVFP4 --tensor-parallel-size 4

Sunucu ayağa kalktığında OpenAI uyumlu uç nokta yerelde hazır olur:

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="yerel")
yanit = client.chat.completions.create(
    model="nvidia/DeepSeek-V4.1-Flash-NVFP4",
    messages=[{"role": "user", "content": "KVKK aydınlatma metnini özetle."}],
)
print(yanit.choices[0].message.content)

Bu kadar büyük bir modelde yeniden başlatma süresi de önemli bir maliyet kalemidir. Bu konuda vLLM 0.31.0'daki preload özelliğini anlattığımız yazıya göz atabilirsiniz. Uç noktayı internete açmadan önce kimlik doğrulama ve ters vekil eklemeyi unutmayın.

Sık sorulan sorular

Eski model adıyla yazılmış kodum çalışmaya devam eder mi?

Şu an evet. Eski Flash adları V4.1 Flash'a yönlendiriliyor. Ancak bu geçici bir düzenleme olarak duyuruldu. Model adını deepseek-flash olarak güncellemeniz daha güvenli.

Model tek GPU'da çalışır mı?

Hayır. Her token için çalışan parametre sayısı küçük olsa da 552 milyar parametrenin tamamı bellekte durmak zorunda. Bu nedenle çok GPU'lu bir kurulum gerekir.

MIT lisansı ticari kullanıma izin veriyor mu?

MIT, ticari kullanıma izin veren serbest bir lisanstır. Yine de lisans metnini ve model kartındaki notları kendi hukuk ekibinizle birlikte okuyun.

NVFP4 sürümü daha az disk alanı mı kaplıyor?

NVIDIA'nın kartına göre hayır. Checkpoint boyutu yaklaşık 476 GB'tan 492 GB'a çıkmış. Bu sürümün asıl amacı Blackwell GPU'lara uygun bir biçim sunmak.

Kaynaklar

• Change Log | DeepSeek API Docs
• deepseek-ai/DeepSeek-V4.1-Flash · Hugging Face
• nvidia/DeepSeek-V4.1-Flash-NVFP4 · Hugging Face