Eğitimin Amacı ve Kapsamı
Yanlış seçilen bir serialization formatı, sürüm uyumsuzluğuna, yavaş yüklemeye ve hatta keyfi kod çalıştırma açığına yol açabilir. Eğitim pickle ve joblib'in güvenlik risklerini, PyTorch state_dict ve TorchScript, TensorFlow SavedModel, ONNX, Hugging Face safetensors ve LLM'ler için GGUF formatlarını karşılaştırmalı olarak ele alır.
Uygulamalarda aynı model farklı formatlara dönüştürülür, çıktıların sayısal eşdeğerliği test edilir ve MLflow ile bağımlılıklarıyla birlikte paketlenir. Katılımcılar kurum için bir format seçim rehberi ve model artefaktı kontrol listesiyle ayrılır.
Kimler Katılmalı?
- Modelleri farklı ortamlar arasında taşıyan ML mühendisleri
- Model artefaktlarını yöneten veri bilimciler
- Model dosyalarının güvenliğinden sorumlu platform ve güvenlik ekipleri
- Ön koşul: PyTorch, TensorFlow veya scikit-learn ile model eğitme deneyimi
Kazanımlar
- Kullanım senaryosuna göre doğru serialization formatını seçmek
- pickle tabanlı dosyaların güvenlik risklerini tanımak ve azaltmak
- Bir modeli TorchScript, SavedModel ve ONNX formatına dönüştürmek
- Dönüşüm sonrası sayısal eşdeğerliği doğrulamak
- Modeli MLflow ile bağımlılıkları ve imzasıyla paketlemek
Konular
Serialization Neden Önemli?
- Taşınabilirlik, yükleme süresi ve sürüm uyumu
- Ağırlıklar ile tam model grafiği arasındaki fark
pickle, joblib ve Güvenlik Riskleri
- Keyfi kod çalıştırma riski ve dosya tarama
- safetensors ile güvenli ağırlık saklama
Framework Formatları: TorchScript ve SavedModel
- torch.jit.trace/script ve torch.export
- SavedModel imzaları ve Keras formatı
Taşınabilir Formatlar: ONNX ve GGUF
- ONNX export ve opset uyumluluğu
- LLM'ler için GGUF ve quantization seçenekleri
Paketleme ve Doğrulama
- MLflow model imzası ve bağımlılık tanımı
- Dönüşüm sonrası çıktı eşdeğerliği testleri
Bu Kategorideki Diğer Eğitimler
-
Model sunma mimari desenleri: embedded model, model-as-a-service, serverless, edge, multi-model ve LLM gateway yapıları; KServe, Triton, Ray Serve ve vLLM gibi platformların konumlandırılması. Mimarlar ve kıdemli ML mühendisleri için.
- Canlı Kurs
- 5 modül
-
Model sunumunda p95/p99 latency, throughput ve birim maliyet dengesi: dynamic batching, quantization, caching, GPU/CPU seçimi ve yük testi ile optimizasyon. Ölçeklenebilir ve ekonomik inference altyapısı kuran ML ve platform mühendisleri için.
- Canlı Kurs
- 5 modül
-
Inference servislerinin uçtan uca güvenliği: mTLS, OAuth2/JWT, rate limiting, güvenli serialization, container sertleştirme, model çalma/adversarial saldırı savunması ve KVKK uyumu. ML, platform ve uygulama güvenliği mühendisleri için.
- Canlı Kurs
- 5 modül
-
TensorFlow ve Keras modellerini SavedModel formatında dışa aktarma, SignatureDef tanımlama ve TensorFlow Serving ile REST/gRPC üzerinden yayına alma. Modellerini üretime taşımaya başlayan veri bilimciler ve ML mühendisleri için.
- Canlı Kurs
- 5 modül
-
TensorFlow Serving'de çoklu model yönetimi, dynamic batching, XLA/TensorRT ve mixed precision hızlandırma, GPU bellek ayarı, Prometheus metrikleri ve özel servable mimarisi. Yüksek trafikli TF servislerini işleten mühendisler için.
- Canlı Kurs
- 5 modül
-
TensorFlow Serving servislerini Docker ve Kubernetes üzerinde ölçeklenebilir biçimde işletme: nesne depolamadan model çekme, GPU zamanlama, readiness/liveness probe'ları, HPA/KEDA ve KServe entegrasyonu. MLOps ve platform mühendisleri için.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
