Eğitimin Amacı ve Kapsamı
TensorFlow veya Keras ile eğitilen bir modelin üretim ortamında Python koduna bağımlı kalmadan, yüksek performanslı bir C++ sunucusu üzerinden sunulması için standart araç TensorFlow Serving'dir. Bu eğitim, modelin SavedModel formatında kaydedilmesinden başlayarak REST ve gRPC endpoint'leri üzerinden tahmin alınmasına kadar olan temel süreci adım adım uygular.
Katılımcılar saved_model_cli ile model imzalarını inceler, ön işleme adımlarını model grafiğine dahil eder ve Docker üzerinde çalışan TensorFlow Serving ile çoklu sürüm (version) yönetimi yapar. Eğitim sonunda kurum içi kullanım için hazır bir SavedModel dışa aktarma ve sunum şablonu elde edilir.
Kimler Katılmalı?
- TensorFlow veya Keras ile model geliştiren veri bilimciler
- Modelleri standart bir sunucu üzerinden yayına alacak ML ve yazılım mühendisleri
- MLOps süreçlerine TensorFlow Serving eklemek isteyen platform ekipleri
- Ön koşul: temel Python ve TensorFlow/Keras ile model eğitme bilgisi
Kazanımlar
- Keras ve TensorFlow modellerini üretim uyumlu SavedModel formatında dışa aktarmak
- SignatureDef yapılarını tanımlamak ve
saved_model_cliile doğrulamak - Docker ile TensorFlow Serving ayağa kaldırıp REST ve gRPC istekleri göndermek
- Ön işleme katmanlarını modelin içine gömerek eğitim-sunum uyumsuzluğunu önlemek
- Model dizin yapısı üzerinden yeni sürümleri kesintisiz devreye almak
Konular
SavedModel Formatı ve Mimari Yapısı
saved_model.pb, variables ve assets dizin yapısı- Keras
exportvetf.saved_model.savekullanımı
SignatureDef ve Ön İşleme Katmanları
@tf.functionveinput_signatureile özel serving fonksiyonlarısaved_model_cliile girdi/çıktı tensörlerini inceleme ve yerel test- Keras preprocessing katmanlarını model grafiğine dahil etme
Docker ile TensorFlow Serving Kurulumu
- Resmi Docker image'ı ile model sunucusunu başlatma ve port yapılandırması
- Model durumunu (status) ve metadata endpoint'lerini sorgulama
REST ve gRPC İstemcileri ile Tahmin Alma
- REST API'de
instancesveinputsJSON formatları tensorflow-serving-apiile Python gRPC istemcisi yazımı
Sürüm Yönetimi ve Model Warmup
- Sürüm klasörleri ve temel version policy ayarları (latest, specific)
- İlk istek gecikmesini önlemek için warmup kayıtları oluşturma
Bu Kategorideki Diğer Eğitimler
-
TensorFlow Serving'de çoklu model yönetimi, dynamic batching, XLA/TensorRT ve mixed precision hızlandırma, GPU bellek ayarı, Prometheus metrikleri ve özel servable mimarisi. Yüksek trafikli TF servislerini işleten mühendisler için.
- Canlı Kurs
- 5 modül
-
TensorFlow Serving servislerini Docker ve Kubernetes üzerinde ölçeklenebilir biçimde işletme: nesne depolamadan model çekme, GPU zamanlama, readiness/liveness probe'ları, HPA/KEDA ve KServe entegrasyonu. MLOps ve platform mühendisleri için.
- Canlı Kurs
- 5 modül
-
PyTorch modellerini TorchServe ile üretime alma: özel Handler yazımı, torch-model-archiver ile .mar paketleme, Inference ve Management API kullanımı, worker ve sürüm yönetimi. PyTorch kullanan veri bilimciler ve ML mühendisleri için.
- Canlı Kurs
- 5 modül
-
TorchServe ile çoklu model DAG iş akışları (Workflows), torch.compile/ONNX/TensorRT hızlandırma, çoklu GPU ve büyük model paralel sunumu, özel Prometheus metrikleri ve üretim güvenliği. Kıdemli ML ve MLOps mühendisleri için.
- Canlı Kurs
- 5 modül
-
TorchServe'de dynamic batching ve yüksek hacimli toplu skorlama: batch_size ve max_batch_delay kalibrasyonu, vektörize Handler yazımı, değişken boyutlu girdilerde padding ve kuyruk entegrasyonu. ML ve veri mühendisleri için.
- Canlı Kurs
- 5 modül
-
PyTorch, TensorFlow ve scikit-learn modellerini ONNX formatına dönüştürme, grafik doğrulama, ONNX Runtime ve Execution Provider'lar (CPU, CUDA, TensorRT) ile hızlandırma ve quantization. ML ve deployment mühendisleri için.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
