Eğitimin Amacı
Kurumların farklı kullanım senaryoları için tek bir modele bağımlı kalmadan Vertex AI Model Garden içerisindeki birinci parti (Gemini), iş ortağı (Anthropic Claude vb.) ve open-weight (Llama, Gemma, Mistral, Qwen) modelleri doğru mimariyle seçip devreye almasını sağlamaktır.
Eğitim boyunca Managed API (MaaS) kullanımı ile özel GPU/TPU tabanlı Vertex AI Prediction Endpoint dağıtımları arasındaki teknik ve finansal dengeler uygulamalı olarak incelenir.
Kimler Katılmalı ve Ön Koşullar
- Hedef Kitle: ML mühendisleri, MLOps/LLMOps uzmanları, bulut altyapı mimarları ve yapay zeka platform ekipleri.
- Ön Koşullar: Temel Google Cloud bilgisi, Python ile API geliştirme deneyimi ve üretken yapay zeka modellerinin temel çalışma prensiplerine hakimiyet.
Kazanımlar ve Odak Noktaları
- Model Garden kataloğundan görev tipine, gecikme (
latency) hedefi ve veri gizliliği gereksinimlerine göre model seçimi yapma. - Açık ağırlıklı modelleri
vLLMveya TGI tabanlı konteynerlerle özel Vertex AI Endpoint üzerine tek tıkla ve kodla dağıtma. Provisioned Throughput, dinamik iş yükü yönlendirme,fine-tuning(LoRA) ve model versiyon geçişlerini yönetme.
Konular
Model Garden Ekosistemi ve Model Değerlendirme Kriterleri
- Gemini, partner modeller ve open-weight model ailelerinin yetenek ve lisans analizi
- Görev karmaşıklığı, context window, latency ve maliyet ekseninde kıyaslama
Open-Weight Modellerin Dağıtımı ve Serving Altyapısı
- Gemma, Llama ve Mistral modellerinin vLLM optimizasyonlu konteynerlerle yayınlanması
- GPU/TPU hızlandırıcı seçimi, quantization ve otomatik ölçeklenen endpoint yapılandırması
Model Özelleştirme, Fine-Tuning ve Versiyon Yönetimi
- Supervised fine-tuning, LoRA adaptörleri ve Vertex AI Model Registry entegrasyonu
- Trafik bölme (traffic splitting), canary geçişleri ve model yaşam döngüsü yönetimi
Kapasite Planlama, Güvenlik ve FinOps
- Pay-as-you-go ve Provisioned Throughput modelleriyle kapasite ve kota yönetimi
- Private Service Connect, müşteri yönetimli şifreleme anahtarları (CMEK) ve maliyet izleme
Bu Kategorideki Diğer Eğitimler
-
Kurumsal bulut agent sistemlerinde uçtan uca tracing, telemetri, otomatik değerlendirme (evaluation), güvenlik guardrail katmanları ve IAM tabanlı erişim yönetişimini tasarım ve uygulama boyutuyla öğrenin.
- Canlı Kurs
- 4 modül
-
IBM watsonx.ai, watsonx.data ve watsonx.governance bileşenlerini kullanarak kurumsal yapay zeka modellerini geliştirme, hibrit veri mimarileriyle besleme ve regülasyonlara uyumlu biçimde yönetme süreçlerini öğrenin.
- Canlı Kurs
- 4 modül
-
IBM watsonx Orchestrate kullanarak kurumsal uygulamalarla entegre çalışan dijital asistanlar, özel skill katalogları ve çok adımlı iş akışı otomasyonları tasarlamayı ve yönetmeyi uygulamalı öğrenin.
- Canlı Kurs
- 4 modül
-
LangGraph kullanarak döngüsel akışlara, kalıcı durum yönetimine (checkpointing), human-in-the-loop onay mekanizmalarına ve LangSmith gözlemlenebilirliğine sahip üretim seviyesi multi-agent sistemler geliştirin.
- Canlı Kurs
- 4 modül
-
Veri egemenliği ve maliyet kontrolü için Llama, Mistral ve Qwen gibi open-source modelleri vLLM üzerinde sunmayı, açık kaynak agent çatılarıyla birleştirmeyi ve kurum içi AI yığını kurmayı öğrenin.
- Canlı Kurs
- 4 modül
-
Microsoft Azure AI Foundry üzerinde model seçimi, kurumsal RAG ve agent geliştirme, içerik güvenliği filtreleri, otomatik evaluation, OpenTelemetry izleme ve güvenli kurumsal dağıtım.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
