Eğitimin Amacı ve Kapsamı
Gece çalışan bir churn skorlaması, ödeme anında fraud kontrolü ve sensör verisinden anomali tespiti farklı inference modları gerektirir. Eğitim batch, real-time ve streaming inference'ın mimarisini, veri tazeliği ve maliyet etkilerini, feature erişim desenlerini örneklerle açıklar.
Katılımcılar aynı modeli Airflow ile zamanlanmış batch job olarak, FastAPI ile online servis olarak ve Kafka consumer olarak çalıştırır. Eğitim sonunda kurumun kullanım senaryolarını üç moda eşleyen bir karar matrisi ve kontrol listesi elde edilir.
Kimler Katılmalı?
- Model sonuçlarını iş süreçlerine bağlayan veri bilimciler
- Veri pipeline'larını yöneten veri mühendisleri
- Inference altyapısını planlayan yapay zeka ve platform mühendisleri
- Ön koşul: Python ve temel SQL bilgisi
Kazanımlar
- Bir kullanım senaryosu için batch, real-time veya streaming modunu seçmek
- Airflow ile zamanlanmış bir batch scoring job'ı kurmak
- Online bir tahmin servisini feature erişimiyle birlikte tasarlamak
- Kafka üzerinden gelen olaylarla streaming inference çalıştırmak
- Üç modun maliyet ve veri tazeliği dengesini karşılaştırmak
Konular
Inference Modlarına Genel Bakış
- Batch, real-time ve streaming tanımları
- Veri tazeliği, latency ve maliyet ekseni
Batch Inference
- Airflow ve Spark ile toplu skorlama
- Sonuçları veri ambarına yazma ve tekrar çalıştırma
Real-time Inference
- Online servisler ve latency bütçesi
- Feature store ile online feature erişimi
Streaming Inference
- Kafka consumer ve Apache Flink ile olay işleme
- Windowing ve sıralama sorunları
Mod Seçimi ve Karar Matrisi
- Kurum senaryolarının modlara eşlenmesi
- Hibrit mimariler ve geçiş planı
Bu Kategorideki Diğer Eğitimler
-
Modelleri güvenli ve taşınabilir biçimde kaydetme: pickle/joblib riskleri, TorchScript, SavedModel, ONNX, safetensors ve GGUF formatları, MLflow ile paketleme ve sürüm uyumluluğu. ML mühendisleri ve veri bilimciler için.
- Canlı Kurs
- 5 modül
-
Model sunma mimari desenleri: embedded model, model-as-a-service, serverless, edge, multi-model ve LLM gateway yapıları; KServe, Triton, Ray Serve ve vLLM gibi platformların konumlandırılması. Mimarlar ve kıdemli ML mühendisleri için.
- Canlı Kurs
- 5 modül
-
Model sunumunda p95/p99 latency, throughput ve birim maliyet dengesi: dynamic batching, quantization, caching, GPU/CPU seçimi ve yük testi ile optimizasyon. Ölçeklenebilir ve ekonomik inference altyapısı kuran ML ve platform mühendisleri için.
- Canlı Kurs
- 5 modül
-
Inference servislerinin uçtan uca güvenliği: mTLS, OAuth2/JWT, rate limiting, güvenli serialization, container sertleştirme, model çalma/adversarial saldırı savunması ve KVKK uyumu. ML, platform ve uygulama güvenliği mühendisleri için.
- Canlı Kurs
- 5 modül
-
TensorFlow ve Keras modellerini SavedModel formatında dışa aktarma, SignatureDef tanımlama ve TensorFlow Serving ile REST/gRPC üzerinden yayına alma. Modellerini üretime taşımaya başlayan veri bilimciler ve ML mühendisleri için.
- Canlı Kurs
- 5 modül
-
TensorFlow Serving'de çoklu model yönetimi, dynamic batching, XLA/TensorRT ve mixed precision hızlandırma, GPU bellek ayarı, Prometheus metrikleri ve özel servable mimarisi. Yüksek trafikli TF servislerini işleten mühendisler için.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
