Model Online/Fiziksel
Süre
Modüller 4 modül

Eğitimin Amacı

Kurumların farklı kullanım senaryoları için tek bir modele bağımlı kalmadan Vertex AI Model Garden içerisindeki birinci parti (Gemini), iş ortağı (Anthropic Claude vb.) ve open-weight (Llama, Gemma, Mistral, Qwen) modelleri doğru mimariyle seçip devreye almasını sağlamaktır.

Eğitim boyunca Managed API (MaaS) kullanımı ile özel GPU/TPU tabanlı Vertex AI Prediction Endpoint dağıtımları arasındaki teknik ve finansal dengeler uygulamalı olarak incelenir.

Kimler Katılmalı ve Ön Koşullar

  • Hedef Kitle: ML mühendisleri, MLOps/LLMOps uzmanları, bulut altyapı mimarları ve yapay zeka platform ekipleri.
  • Ön Koşullar: Temel Google Cloud bilgisi, Python ile API geliştirme deneyimi ve üretken yapay zeka modellerinin temel çalışma prensiplerine hakimiyet.

Kazanımlar ve Odak Noktaları

  • Model Garden kataloğundan görev tipine, gecikme (latency) hedefi ve veri gizliliği gereksinimlerine göre model seçimi yapma.
  • Açık ağırlıklı modelleri vLLM veya TGI tabanlı konteynerlerle özel Vertex AI Endpoint üzerine tek tıkla ve kodla dağıtma.
  • Provisioned Throughput, dinamik iş yükü yönlendirme, fine-tuning (LoRA) ve model versiyon geçişlerini yönetme.

Konular

Model Garden Ekosistemi ve Model Değerlendirme Kriterleri
  • Gemini, partner modeller ve open-weight model ailelerinin yetenek ve lisans analizi
  • Görev karmaşıklığı, context window, latency ve maliyet ekseninde kıyaslama
Open-Weight Modellerin Dağıtımı ve Serving Altyapısı
  • Gemma, Llama ve Mistral modellerinin vLLM optimizasyonlu konteynerlerle yayınlanması
  • GPU/TPU hızlandırıcı seçimi, quantization ve otomatik ölçeklenen endpoint yapılandırması
Model Özelleştirme, Fine-Tuning ve Versiyon Yönetimi
  • Supervised fine-tuning, LoRA adaptörleri ve Vertex AI Model Registry entegrasyonu
  • Trafik bölme (traffic splitting), canary geçişleri ve model yaşam döngüsü yönetimi
Kapasite Planlama, Güvenlik ve FinOps
  • Pay-as-you-go ve Provisioned Throughput modelleriyle kapasite ve kota yönetimi
  • Private Service Connect, müşteri yönetimli şifreleme anahtarları (CMEK) ve maliyet izleme

Bu Kategorideki Diğer Eğitimler

Bizimle iletişime geçin