Eğitimin Amacı ve Kapsamı
Bir modelin yeni sürümünü doğrudan canlı trafiğin %100'üne açmak; şema uyumsuzlukları, beklenmeyen gecikme artışları veya sessiz doğruluk kayıpları nedeniyle iş süreçlerini durdurabilir. Bu eğitim, model artefaktlarının kayıt ve soy kütüğü (lineage) yönetiminden başlayarak canlı ortamda kademeli geçiş ve anında geri alma (rollback) desenlerini uygulamalı olarak ele alır.
Katılımcılar MLflow Model Registry üzerinde model alias'ları (@champion, @challenger) tanımlar; KServe/Istio ile kanarya (canary), yansıtma (shadow/dark launch) ve A/B yönlendirmeleri kurar; metrik ihlalinde otomatik rollback tetikler. Eğitim sonunda kurum için bir model sürüm geçiş prosedürü ve kontrol listesi hazırlanır.
Kimler Katılmalı?
- Model yayın süreçlerini ve CI/CD/CT akışlarını yöneten MLOps mühendisleri
- Canlıdaki modelleri düzenli olarak yeniden eğitip güncelleyen ML mühendisleri ve veri bilimciler
- Servis sürekliliği ve trafik yönetiminden sorumlu platform ve SRE ekipleri
- Ön koşul: temel model deployment, Git ve container/Kubernetes bilgisi
Kazanımlar
- Veri kümesi, eğitim kodu, hiperparametre ve model ağırlıklarını uçtan uca versiyonlamak
- MLflow Model Registry'de model imzaları (signatures) ve
@champion/@challengeralias'larını yönetmek - Shadow (ayna trafik), canary ve blue/green dağıtım stratejilerini doğru senaryoda uygulamak
- Champion-Challenger ve online A/B deneyleriyle yeni modelin iş etkisini doğrulamak
- Latency, hata oranı veya tahmin kayması (drift) eşiklerinde otomatik rollback devreye almak
Konular
Model Versiyonlama, Lineage ve Model Registry
- Kod (Git), veri (DVC/LakeFS) ve model artefaktı arasındaki soy kütüğü (lineage) bağı
- MLflow Model Registry: model imzası, metadata, tag'ler ve
@champion/@challengeralias yönetimi
Şema Evrimi ve Geriye Dönük Uyumluluk
- Yeni özellik (feature) eklendiğinde veya çıktılar değiştiğinde API sözleşmesini koruma
- Model sarmalayıcılar (wrappers), varsayılan değerler ve eğitim-sunum uyumu testleri
Kademeli Geçiş Desenleri: Blue/Green, Canary ve Shadow
- Blue/Green ile anlık ortam değişimi ve KServe/Istio ile ağırlıklı canary trafik bölme
- Shadow (mirroring) dağıtım ile canlı trafiği kullanıcıyı etkilemeden yeni modelde test etme
Champion-Challenger, A/B Testi ve Multi-Armed Bandits
- Teknik doğrulama (canary) ile iş metriği doğrulaması (A/B testi) arasındaki fark
- İstek bazlı yönlendirme, tahmin loglama ve istatistiksel anlamlılık analizi
Otomatik Rollback ve CI/CD Model Terfi Hattı
- Webhook ve GitOps (Argo Rollouts) ile model terfi (promotion) otomasyonu
- SLO ihlali ve dağılım kayması durumunda tek komutla veya otomatik rollback
Bu Kategorideki Diğer Eğitimler
-
Sunulan Modellerin Ölçeklendirilmesi
Canlı model servislerini yatay ve dikey ölçekleme: Kubernetes HPA, KEDA ve Knative ile kuyruk/GPU metriklerine göre autoscaling, cold start azaltma, MIG/time-slicing ve yük dengeleme. MLOps, SRE ve platform mühendisleri için.
- Canlı Kurs
- 5 modül
-
Model Deployment Giriş
Eğitilmiş bir modeli notebook'tan production'a taşımanın temel adımları: serialization, API ile servis etme, container'a paketleme, temel monitoring ve rollback. Model deployment sürecine yeni başlayan veri bilimciler ve geliştiriciler için.
- Canlı Kurs
- 5 modül
-
REST API ve gRPC Temelleri
Model servisleri için REST ve gRPC protokollerinin temelleri: HTTP/JSON tasarımı, OpenAPI, Protocol Buffers, streaming RPC ve performans karşılaştırması. Doğru protokolü seçip ilk servisini yazmak isteyen geliştiriciler için.
- Canlı Kurs
- 5 modül
-
Synchronous vs Asynchronous Inference
Senkron ve asenkron inference desenleri: istek-yanıt, kuyruk tabanlı işleme (Celery, Redis, Kafka), job polling, webhook ve async Python. Uzun süren model çağrılarını ölçeklenebilir biçimde tasarlamak isteyen mühendisler için.
- Canlı Kurs
- 5 modül
-
Batch, Real-time ve Streaming Inference Temelleri
Üç temel inference modunun karşılaştırması: Spark ve Airflow ile batch scoring, REST tabanlı real-time servisler ve Kafka/Flink ile streaming inference. İş ihtiyacına uygun modu seçmek isteyen veri ve ML ekipleri için.
- Canlı Kurs
- 5 modül
-
Model Serialization
Modelleri güvenli ve taşınabilir biçimde kaydetme: pickle/joblib riskleri, TorchScript, SavedModel, ONNX, safetensors ve GGUF formatları, MLflow ile paketleme ve sürüm uyumluluğu. ML mühendisleri ve veri bilimciler için.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin