Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Bir modelin nasıl çağrılacağı, latency'yi, istemci uyumluluğunu ve bakım maliyetini doğrudan etkiler. Eğitim, REST API tasarım ilkeleri (kaynak modeli, HTTP metotları, durum kodları, OpenAPI) ile gRPC'nin temel yapı taşlarını (Protocol Buffers, unary ve streaming RPC, HTTP/2) yan yana ele alır.

Katılımcılar aynı tahmin servisini hem FastAPI ile REST olarak hem de grpcio ile gRPC olarak yazar, ardından payload boyutu ve yanıt süresini ölçerek karşılaştırır. Çıktı olarak bir API tasarım kontrol listesi ve iki protokol için çalışan örnek servisler kalır.

Kimler Katılmalı?

  • Model servisleri geliştirecek backend ve yapay zeka geliştiricileri
  • Modellerini başka ekiplere açacak veri bilimciler
  • Servisler arası iletişimi tasarlayan platform mühendisleri
  • Ön koşul: Python ile temel programlama deneyimi

Kazanımlar

  • Bir tahmin servisi için REST endpoint'lerini ve OpenAPI şemasını tasarlamak
  • Protocol Buffers ile mesaj ve servis tanımı yazmak
  • Unary ve server-streaming gRPC çağrılarını uygulamak
  • REST ve gRPC'yi latency, payload ve istemci desteği açısından karşılaştırmak
  • Senaryoya göre doğru protokolü gerekçesiyle seçmek

Konular

HTTP ve REST Tasarım İlkeleri
  • Kaynaklar, metotlar ve durum kodları
  • Sürümleme ve hata yanıtı standartları
OpenAPI ile Tahmin Servisi Sözleşmesi
  • İstek/yanıt şemaları ve doğrulama
  • FastAPI ile otomatik dokümantasyon
Protocol Buffers ve gRPC Temelleri
  • .proto dosyası, mesaj ve servis tanımı
  • Kod üretimi ve HTTP/2 üzerinde iletişim
Streaming RPC ve Deadline Yönetimi
  • Unary, server ve bidirectional streaming
  • Deadline, retry ve hata kodları
Karşılaştırmalı Lab: REST ve gRPC
  • Aynı modeli iki protokolle sunma
  • Latency ve payload ölçümü, seçim kriterleri

Bu Kategorideki Diğer Eğitimler

  • Synchronous vs Asynchronous Inference

    Senkron ve asenkron inference desenleri: istek-yanıt, kuyruk tabanlı işleme (Celery, Redis, Kafka), job polling, webhook ve async Python. Uzun süren model çağrılarını ölçeklenebilir biçimde tasarlamak isteyen mühendisler için.

    Model Sunma (Model Deployment) Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Batch, Real-time ve Streaming Inference Temelleri

    Üç temel inference modunun karşılaştırması: Spark ve Airflow ile batch scoring, REST tabanlı real-time servisler ve Kafka/Flink ile streaming inference. İş ihtiyacına uygun modu seçmek isteyen veri ve ML ekipleri için.

    Model Sunma (Model Deployment) Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Model Serialization

    Modelleri güvenli ve taşınabilir biçimde kaydetme: pickle/joblib riskleri, TorchScript, SavedModel, ONNX, safetensors ve GGUF formatları, MLflow ile paketleme ve sürüm uyumluluğu. ML mühendisleri ve veri bilimciler için.

    Model Sunma (Model Deployment) Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Model Sunma Mimarileri

    Model sunma mimari desenleri: embedded model, model-as-a-service, serverless, edge, multi-model ve LLM gateway yapıları; KServe, Triton, Ray Serve ve vLLM gibi platformların konumlandırılması. Mimarlar ve kıdemli ML mühendisleri için.

    Model Sunma (Model Deployment) Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Latency, Throughput ve Cost Trade-offs

    Model sunumunda p95/p99 latency, throughput ve birim maliyet dengesi: dynamic batching, quantization, caching, GPU/CPU seçimi ve yük testi ile optimizasyon. Ölçeklenebilir ve ekonomik inference altyapısı kuran ML ve platform mühendisleri için.

    Model Sunma (Model Deployment) Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Model Sunumu İçin Güvenlik

    Inference servislerinin uçtan uca güvenliği: mTLS, OAuth2/JWT, rate limiting, güvenli serialization, container sertleştirme, model çalma/adversarial saldırı savunması ve KVKK uyumu. ML, platform ve uygulama güvenliği mühendisleri için.

    Model Sunma (Model Deployment) Kurumsal
    Canlı Kurs
    5 modül
    İncele

Bizimle iletişime geçin