Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Pek çok kurumsal organizasyon ne tamamen buluta çıkabilir ne de her iş yükü için kendi veri merkezinde devasa GPU yatırımı yapabilir: gizli müşteri verisi içeren işler kurum içinde (on-prem) kalırken, genel iş yükleri veya ani trafik artışları (burst) Azure AI Foundry, Amazon Bedrock veya Google Vertex AI üzerinde çalışır. Bu eğitim, bulut ve kurum içi ortamları tek bir hibrit LLMOps düzleminde birleştirmeyi öğretir.

Katılımcılar veri sınıflandırmasına göre yönlendirme yapan hibrit gateway, sağlayıcıdan bağımsız uygulama şablonu, PrivateLink/ExpressRoute ağ güvenliği ve ortamlar arası tutarlı dağıtım/izleme mimarisi tasarlar.

Kimler Katılmalı?

  • Hibrit bulut ve on-prem yapay zeka altyapısı tasarlayan çözüm ve platform mimarları
  • Azure, AWS veya GCP ile kurum içi Kubernetes kümelerini birlikte işleten MLOps/DevOps ekipleri
  • Veri yerelliği ve bulut stratejisini belirleyen teknik yöneticiler
  • Ön koşul: temel bulut servisleri, container/Kubernetes ve LLM API bilgisi

Kazanımlar

  • Azure AI Foundry, Amazon Bedrock, Vertex AI ve on-prem vLLM yeteneklerini karşılaştırmak
  • Veri gizlilik sınıfına (PII/gizli vs açık) göre on-prem ve bulut arasında otomatik yönlendirme kurmak
  • Uygulama kodunu tek bir bulut sağlayıcısına bağımlı kılmayan (vendor-agnostic) soyutlama katmanı geliştirmek
  • Özel ağ bağlantıları (PrivateLink, VPC Peering), IAM ve veri saklamama (zero data retention) ayarlarını yapılandırmak
  • On-prem GPU kapasitesi dolduğunda uygun iş yüklerini buluta taşıyan (cloud bursting) ve kesintide yedekleyen mimari kurmak

Konular

Kurumsal Hibrit AI Mimari Desenleri
  • Hangi iş yükü on-prem'de kalmalı, hangisi yönetilen bulut servislerinde çalışmalı?
  • Azure AI Foundry, Amazon Bedrock ve Google Vertex AI kurumsal güvenlik ve kota modelleri
Taşınabilirlik ve Sağlayıcı Soyutlama Katmanı
  • OpenAI uyumlu standart şema, LiteLLM/Gateway ve OCI container paketleme
  • Prompt, tool calling ve structured output farklarını sağlayıcılar arasında eşitleme
Veri Sınıflandırma ve Politikaya Dayalı Yönlendirme
  • KVKK/regülasyon kapsamındaki istekleri kurum içi vLLM kümesine zorunlu yönlendirme
  • Anonimleştirilmiş veya açık verili isteklerde bulut modellerini ve cloud bursting'i kullanma
Ağ Güvenliği, Kimlik ve Veri Gizliliği Kontrolleri
  • PrivateLink/Private Service Connect, müşteri yönetimli anahtarlar (CMK) ve Zero Data Retention
  • Bölge (region) kısıtlamaları, denetim izleri (audit logs) ve çapraz ortam IAM yönetimi
Birleşik Gözlemlenebilirlik ve Felaket Kurtarma
  • Bulut ve on-prem çağrılarını tek bir Langfuse/OTel ve FinOps panelinde izleme
  • On-prem küme bakımı veya bulut bölge kesintisinde kesintisiz iş sürekliliği planı

Bu Kategorideki Diğer Eğitimler

Bizimle iletişime geçin