Eğitimin Amacı ve Kapsamı
Pek çok model, notebook'ta başarılı sonuç verdiği halde production'a hiç ulaşmaz. Bu giriş programı, bir scikit-learn veya PyTorch modelini kaydetmekten başlayıp FastAPI ile bir endpoint'e dönüştürmeye, Docker ile paketlemeye ve basit bir health check ile yayına almaya kadar uçtan uca akışı gösterir.
Katılımcılar batch ve online deployment ayrımını, model registry kavramını ve deployment sonrası izlenmesi gereken temel metrikleri öğrenir. Eğitim kurumun kendi örnek modeli üzerinde yürütülür; sonunda tekrar kullanılabilir bir deployment şablonu ve yayın öncesi kontrol listesi elde edilir.
Kimler Katılmalı?
- Modellerini ilk kez production'a taşıyacak veri bilimciler
- ML ekipleriyle çalışan backend geliştiriciler
- MLOps yolculuğuna başlayan yapay zeka mühendisleri
- Ön koşul: temel Python bilgisi ve komut satırı kullanımı
Kazanımlar
- Bir modeli yeniden yüklenebilir formatta kaydetmek ve sürümlemek
- Model için basit bir REST endpoint'i yazmak ve test etmek
- Model servisini Docker image'ı olarak paketlemek
- Batch ve online deployment arasında doğru seçimi yapmak
- Latency, hata oranı ve tahmin dağılımı gibi temel metrikleri izlemeye başlamak
Konular
Notebook'tan Production'a: Deployment Yaşam Döngüsü
- Eğitim, paketleme, yayın ve izleme adımları
- Batch ve online deployment senaryoları
Modeli Kaydetme ve Model Registry
- joblib, pickle ve framework'e özgü formatlar
- MLflow Model Registry ile sürüm ve aşama yönetimi
FastAPI ile İlk Tahmin Endpoint'i
- Pydantic ile girdi doğrulama
- Model yükleme ve tahmin fonksiyonu
- Swagger arayüzü ile test
Docker ile Paketleme
- Dockerfile yazımı ve bağımlılık yönetimi
- Image boyutunu küçültme ve health check
Yayın Sonrası İzleme ve Rollback
- Latency, hata oranı ve tahmin dağılımı
- Basit rollback ve yayın öncesi kontrol listesi
Bu Kategorideki Diğer Eğitimler
-
REST API ve gRPC Temelleri
Model servisleri için REST ve gRPC protokollerinin temelleri: HTTP/JSON tasarımı, OpenAPI, Protocol Buffers, streaming RPC ve performans karşılaştırması. Doğru protokolü seçip ilk servisini yazmak isteyen geliştiriciler için.
- Canlı Kurs
- 5 modül
-
Synchronous vs Asynchronous Inference
Senkron ve asenkron inference desenleri: istek-yanıt, kuyruk tabanlı işleme (Celery, Redis, Kafka), job polling, webhook ve async Python. Uzun süren model çağrılarını ölçeklenebilir biçimde tasarlamak isteyen mühendisler için.
- Canlı Kurs
- 5 modül
-
Batch, Real-time ve Streaming Inference Temelleri
Üç temel inference modunun karşılaştırması: Spark ve Airflow ile batch scoring, REST tabanlı real-time servisler ve Kafka/Flink ile streaming inference. İş ihtiyacına uygun modu seçmek isteyen veri ve ML ekipleri için.
- Canlı Kurs
- 5 modül
-
Model Serialization
Modelleri güvenli ve taşınabilir biçimde kaydetme: pickle/joblib riskleri, TorchScript, SavedModel, ONNX, safetensors ve GGUF formatları, MLflow ile paketleme ve sürüm uyumluluğu. ML mühendisleri ve veri bilimciler için.
- Canlı Kurs
- 5 modül
-
Model Sunma Mimarileri
Model sunma mimari desenleri: embedded model, model-as-a-service, serverless, edge, multi-model ve LLM gateway yapıları; KServe, Triton, Ray Serve ve vLLM gibi platformların konumlandırılması. Mimarlar ve kıdemli ML mühendisleri için.
- Canlı Kurs
- 5 modül
-
Latency, Throughput ve Cost Trade-offs
Model sunumunda p95/p99 latency, throughput ve birim maliyet dengesi: dynamic batching, quantization, caching, GPU/CPU seçimi ve yük testi ile optimizasyon. Ölçeklenebilir ve ekonomik inference altyapısı kuran ML ve platform mühendisleri için.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin