Ollama 0.35 yayında: /v1/systemone ile karar modelleri, Modelfile yetenek bildirimi ve sunucuda güncelleme

Ollama, 28 Eylül 2026'da 0.35.0 sürümünü, bir gün sonra da 0.35.1'i yayımladı. Bu iki sürümün öne çıkan yeniliği, serbest metin üretmek yerine yapılandırılmış bir karar döndüren "karar modelleri" ve bunları sunan /v1/systemone uç noktası. Ollama'yı kendi Linux ya da GPU sunucusunda çalıştıran ekipler için hem yeni bir kullanım alanı hem de planlanması gereken bir güncelleme anlamına geliyor.

Ne değişti

0.35.0: karar modelleri ve /v1/systemone

Bu sürümde yeni bir uç nokta geldi: /v1/systemone. Uç nokta karar modellerini sunuyor. Ollama bu modelleri özellikle destek taleplerini önceliklendirme ve içerik sınıflandırma gibi işler için tanıtıyor. İlk aşamada kullanıma açılan iki model Nimble ve Tev1.

API üç tür soruyu destekliyor:

• choice: Seçenekler arasından seçim yapar ve her seçenek için bir olasılık puanı verir.
• noul: Belirli bir koşulun gerçekleşme olasılığını döndürür.
• score: Girdiyi sıralı ölçütlere göre puanlar.

Aynı sürümde küçük ama işletme açısından önemli bir uyumluluk değişikliği de var. Kullanımdan kaldırılmış typical_p parametresini gönderen istekler artık hata almıyor. Parametre yalnızca uyarı olarak günlüğe yazılıyor. Eski istemci kodunuz bu parametreyi hâlâ gönderiyorsa, güncellemeden sonra kırılma yerine günlükte uyarı görürsünüz.

0.35.1: Clef desteği ve Modelfile yetenek bildirimi

0.35.1, Cloudflare'in Clef karar modellerini de /v1/systemone üzerinden kullanılabilir hale getirdi. Görsel girdiyi de işleyebilen bu aile iki modelden oluşuyor: 27B'lik Clef ve 9B'lik Clef Flash. Bu modellerin LLM'lerden farkını daha önce Cloudflare Clef karar modelleri yazımızda ele almıştık.

Diğer değişiklikler şunlar:

• Modelfile'larda yetenek bildirimi yapılabiliyor. Bu bildirimler kalıtım ve dışa aktarım sırasında korunuyor.
• Karar modelleri ollama show çıktısında ve model listelerinde yalnızca decision yeteneğiyle görünüyor. Böylece bir sohbet modeliyle karıştırılmaları zorlaşıyor.
• Web araması kullanan modeller yanıt başına üç yerine en fazla on arama yapabiliyor.
• Paketle gelen llama.cpp ve MLX motoru güncellendi.

Bir önceki 0.34.4 sürümünde de düşünen (thinking) modellerde yapılandırılmış çıktının tek geçişte uygulanması ve büyük yerel kütüphanelerde görülen "model not found" hatasının giderilmesi gibi düzeltmeler gelmişti.

Ne anlama geliyor

Şimdiye kadar bir destek talebini "acil, normal, düşük" diye ayırmak için genellikle bir sohbet modeline uzun bir prompt yazılıyor ve dönen metin ayrıştırılıyordu. Bu yöntem kırılgandı. Model bazen fazladan açıklama ekliyor, bazen beklenmeyen bir etiket uyduruyordu. Karar modelleri doğrudan seçenek ve olasılık döndürdüğü için uygulama tarafındaki kod sadeleşir. Olasılık değerini bir eşikle karşılaştırıp, emin olunmayan durumları insana yönlendirmek de kolaylaşır.

Türkiye'deki ekipler için öne çıkan başlıklar:

• KVKK ve veri gizliliği: Destek talepleri, e-postalar ve form içerikleri çoğu zaman kişisel veri içerir. Sınıflandırmayı kendi sunucunuzda yaptığınızda bu veri harici bir API'ye gönderilmez. Bu da veri işleme envanterini ve yurt dışına aktarım değerlendirmesini sadeleştirir.
• Maliyet öngörülebilirliği: Sınıflandırma yüksek hacimli ve tekrarlayan bir iştir. Token başına ödeme yerine sabit kaynakla çalışmak bütçeyi tahmin etmeyi kolaylaştırır.
• Türkçe başarımı: Duyurularda Türkçe başarımına dair bir bilgi yok. Kendi talep geçmişinizden etiketli küçük bir örnek setle sınamadan üretime almayın.
• Kullanım alanları: Talep önceliklendirme, yorum ve içerik ayıklama, bir ajanın isteği hangi araca ya da alt ajana yönlendireceğine karar vermesi.

Nasıl denenir

Güncellemeden önce

1. Mevcut sürümü not edin (ollama --version).
2. Uygulamanızın kullandığı modellerin ve Modelfile'ların listesini çıkarın. Model dizini büyükse yedek planınızı gözden geçirin.
3. Üretim sunucusu tek ise güncellemeyi trafik düşükken yapın. Test ortamı varsa önce orada deneyin.

Docker ile çalışan kurulumlar

Resmi imajı kullanıyorsanız güncelleme, yeni imajı çekip konteyneri aynı birimle yeniden oluşturmaktan ibarettir. Modeller birimde durduğu için yeniden indirilmez.

docker pull ollama/ollama
docker stop ollama
docker rm ollama
docker run -d --gpus=all \
  -v ollama:/root/.ollama \
  -p 127.0.0.1:11434:11434 \
  --name ollama ollama/ollama
docker exec ollama ollama --version

Portu yalnızca 127.0.0.1 üzerinde yayınlamak bilinçli bir tercih. Ollama API'sini dışarıya açmanız gerekiyorsa Nginx ters vekil ve kimlik doğrulama rehberimizi izleyin. Docker kullanmayan doğrudan kurulumlarda ise resmi sürüm sayfasındaki güncelleme yönergelerini takip edin.

Karar modelini denemek

Güncellemeden sonra karar modellerinden birini çekip ollama show ile decision yeteneğinin göründüğünü doğrulayın. Kütüphanedeki tam model adlarını ve /v1/systemone istek biçimini resmi sürüm notlarından kontrol edin. Ardından gerçek taleplerinizden 50 ile 100 örneklik etiketli bir set hazırlayıp modelin seçimlerini kendi etiketlerinizle karşılaştırın.

Donanım seçimi

GPU bellek ihtiyacı temelde parametre sayısına ve kullanılan nicemleme (quantization) düzeyine bağlıdır. Daha düşük bit genişliği daha az bellek demektir ama doğruluğu etkileyebilir. 9B'lik Clef Flash gibi küçük bir model tek bir orta sınıf GPU'ya rahat sığar. 27B'lik Clef ise belirgin biçimde daha fazla bellek ister. Eş zamanlı istek sayısı arttıkça bağlam için ayrılan bellek de büyür. Yüksek hacimli sınıflandırma için bir GPU sunucu mantıklı olur. Düşük hacimli denemelerde küçük modeli CPU üzerinde, bir bulut sunucuda çalıştırıp gecikmeyi ölçmek de başlangıç için yeterli olabilir.

Sık sorulan sorular

Karar modelleri sohbet modellerinin yerini alır mı?

Hayır. Karar modelleri seçim, olasılık ve puan döndürmek için tasarlandı. Serbest metin üretimi gereken işlerde sohbet modelleri kullanılmaya devam eder. Pratikte ikisi birlikte kullanılabilir: önce karar modeli talebi sınıflandırır, sonra gerekiyorsa bir sohbet modeli yanıt taslağı hazırlar.

Eski istemcim typical_p gönderiyor, güncelleme sorun çıkarır mı?

0.35.0 ile bu parametre hata yerine uyarı üretiyor, yani istek çalışmaya devam eder. Yine de günlükleri temiz tutmak için parametreyi istemci kodundan kaldırmak iyi olur.

Modelfile yetenek bildirimi neden önemli?

Özel modellerinizi bir temel modelden türetip dışa aktardığınızda modelin hangi yeteneğe sahip olduğu bilgisi kaybolmuyor. Birden çok modeli yöneten ekiplerde hangi modelin karar, hangisinin sohbet için kullanılacağı listelerde açıkça görünüyor.

Kaynaklar

• Release v0.35.0 · ollama/ollama
• Release v0.35.1 · ollama/ollama
• Releases · ollama/ollama