Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Bir model servisi HTTP 200 döndürüp 30 ms altında yanıt verirken bile tamamen anlamsız tahminler üretiyor olabilir; çünkü klasik APM araçları yalnızca sunucu sağlığını görür, modelin girdilerini, çıktı dağılımını ve iş sonucunu bilmez. Bu eğitim, üretimdeki makine öğrenmesi servisleri için uçtan uca gözlemlenebilirlik (ML Observability) mimarisini ele alır.

OpenTelemetry, Prometheus ve Grafana ile gecikme, kuyruk ve GPU telemetrisi; çıkarım servisinden asenkron özellik ve tahmin loglama (Kafka/Parquet); günler veya haftalar sonra gelen gerçek sonuçların (ground truth) tahminlerle birleştirilmesi; dilim bazlı canlı performans panoları ve alarm/olay müdahale (runbook) süreçleri uygulamalı olarak işlenir. Katılımcılar kendi servisleri için bir izleme mimarisi ve Grafana/Evidently kontrol paneli kurar.

Kimler Katılmalı?

  • Üretimdeki yapay zeka servislerinin sürekliliğinden ve kalitesinden sorumlu MLOps ve SRE mühendisleri
  • Modellerinin canlı ortamdaki gerçek iş performansını takip etmek isteyen veri bilimciler
  • Gözlemlenebilirlik altyapısını (Prometheus, Grafana, OpenTelemetry) AI servislerine genişleten platform ekipleri
  • Ön koşul: Python, temel SQL ve REST API / container kavramları

Kazanımlar

  • Operasyonel metrikler (p99 gecikme, hata oranı, GPU/VRAM) ile ML kalite metriklerini tek bir gözlemlenebilirlik çatısında birleştirmek
  • Servis gecikmesini artırmadan (non-blocking) istek özelliklerini, model sürümünü ve tahmin olasılıklarını loglamak
  • Gecikmeli gelen gerçek etiketleri (ground truth) request_id üzerinden tahminlerle eşleştiren veri hattı kurmak
  • Gerçek etiketlerin henüz gelmediği durumlarda güven skoru (confidence), boş değer oranı ve iş KPI vekilleriyle (proxy metrics) erken uyarı üretmek
  • Uyarı yorgunluğunu önleyen çok seviyeli alarmlar ve bozulan modeller için standart müdahale (fallback/rollback) runbook'u yazmak

Konular

Neden Klasik APM Yetmez? ML Gözlemlenebilirlik Katmanları
  • Sessiz model hataları (silent failures): bozuk özellik kanalı, birim değişimi ve kalibrasyon kaybı
  • Dört izleme katmanı: Altyapı/GPU, Servis/API, Veri/Tahmin dağılımı ve İş/Gerçek Etiket performansı
OpenTelemetry, Prometheus ve Grafana ile Sistem Telemetrisi
  • FastAPI/Triton servislerinden istek süresi, kuyruk boyutu, batch size ve model_version etiketli metrik üretimi
  • OpenTelemetry trace'leri ile özellik çekme (Feature Store), ön işleme ve model çıkarım sürelerini ayrıştırma
Yüksek Hacimli Tahmin Loglama ve Ground Truth Eşleştirme
  • Yanıt süresini etkilemeden (async/fire-and-forget) girdi özellikleri, tahmin ve olasılıkları Kafka/S3'e yazma
  • Yüksek trafikli servislerde akıllı örnekleme (stratified/low-confidence sampling) ve PII maskeleme
Canlı Performans Hesabı ve Gecikmeli Etiket (Delayed Feedback) Yönetimi
  • Kredi geri ödemesi, churn veya fraud gibi haftalar sonra netleşen etiketleri request_id ile tahminlere bağlama
  • Etiket beklenirken kullanılabilecek vekil metrikler (proxy metrics), kalibrasyon kayması ve alt dilim (slice) analizi
Panolar, Akıllı Alarmlar ve Olay Müdahale (Incident Runbooks)
  • Grafana ve Evidently ile hem SRE hem veri bilimi ekibine hitap eden ortak izleme panoları
  • Alarm eşikleri, PagerDuty/Slack yönlendirmesi ve model bozulduğunda devreye girecek fallback/rollback prosedürleri

Bu Kategorideki Diğer Eğitimler

  • Veri ve Model Sapması (Drift) Tespiti ve Sürekli Uyarlama

    Covariate shift, prior probability shift ve concept drift matematiği; PSI, KS, Wasserstein ve MMD testleri; Evidently/NannyML ile etiketsiz performans tahmini ve yeniden eğitim stratejileri; veri bilimciler ve MLOps ekipleri için.

    MLOps ve Yapay Zeka Platform Mühendisliği Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Feature Store Mimarileri ve Özellik Mühendisliği Platformları

    Training-serving skew ve veri sızıntısını (data leakage) önleyen Feature Store mimarisi; Feast ile offline (Parquet/Snowflake/BigQuery) ve online (Redis) mağaza kurulumu, point-in-time join ve streaming özellikler; veri ve MLOps ekipleri için.

    MLOps ve Yapay Zeka Platform Mühendisliği Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Sorumlu ve Güvenli Model Dağıtımı (Responsible ML Deployment)

    Üretim öncesi adillik (Fairlearn), açıklanabilirlik (SHAP), olasılık kalibrasyonu, belirsizlik tahmini (Conformal Prediction), guardrail'ler, kademeli dağıtım ve acil durdurma (kill-switch) mekanizmaları; ML ve risk ekipleri için.

    MLOps ve Yapay Zeka Platform Mühendisliği Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Kurumsal Yapay Zeka Platform Mimarisi ve Platform Mühendisliği

    Klasik ML ve GenAI/LLM iş yüklerini birleştiren kurumsal AI platformu tasarımı: hesaplama/GPU orkestrasyonu, veri ve model katmanı, AI Gateway, çoklu kiracı (multi-tenancy) izolasyonu ve referans mimari; mimarlar ve platform liderleri için.

    MLOps ve Yapay Zeka Platform Mühendisliği Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Self-Service Yapay Zeka Platformu ve Geliştirici Deneyimi (Golden Paths)

    Veri bilimciler ve AI mühendisleri için Internal Developer Platform (IDP) tasarımı: Backstage şablonları, isteğe bağlı notebook/GPU ortamları, Golden Path pipeline'lar ve self-service model dağıtımı; platform ekipleri için.

    MLOps ve Yapay Zeka Platform Mühendisliği Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Yapay Zeka Platformlarında Politika, Sır (Secrets) ve Erişim Yönetimi

    AI iş yüklerinde IAM/RBAC/ABAC, HashiCorp Vault ve External Secrets ile API/veritabanı anahtarı yönetimi, OPA/Kyverno ile Policy-as-Code, tedarik zinciri (pickle/imaj) güvenliği ve ağ izolasyonu; platform ve güvenlik ekipleri için.

    MLOps ve Yapay Zeka Platform Mühendisliği Kurumsal
    Canlı Kurs
    5 modül
    İncele

Bizimle iletişime geçin