Eğitimin Amacı
Regülasyon, veri gizliliği veya yüksek hacimli API maliyetleri nedeniyle dış bulut servislerine tam bağımlı olmak istemeyen kurumlar için uçtan uca open-source ve self-hosted bir yapay zeka yığını (AI stack) kurma yetkinliği kazandırmaktır.
Katılımcılar; Llama, Mistral, Qwen ve DeepSeek ailesi açık ağırlıklı modelleri vLLM ile yüksek verimli sunmayı, yapılandırılmış çıktı (structured output) üretmeyi ve açık kaynak agent çatılarıyla entegre etmeyi öğrenirler.
Kimler Katılmalı ve Ön Koşullar
- Hedef Kitle: AI altyapı mühendisleri, MLOps/Platform mühendisleri, kıdemli yazılım geliştiriciler ve kurum içi (on-premise / VPC) AI mimarları.
- Ön Koşullar: Linux, Docker/Kubernetes konteyner teknolojileri, Python programlama ve temel GPU/LLM çalışma prensipleri bilgisi.
Kazanımlar ve Odak Noktaları
- vLLM, SGLang ve Ollama/TGI ile
PagedAttention,continuous batchingvequantization(AWQ, GPTQ, FP8) optimizasyonlarını uygulama. - Açık ağırlıklı modellerde güvenilir
tool calling, JSON şema zorlama (guided decoding) ve MCP (Model Context Protocol) sunucuları kurgulama. - LiteLLM ağ geçidi, açık kaynak vektör veritabanları (Qdrant/Milvus) ve Langfuse/Phoenix gözlemlenebilirlik katmanıyla tam bağımsız platform oluşturma.
Konular
Açık Ağırlıklı Model Aileleri ve Kurumsal Seçim Matrisi
- Llama, Mistral, Qwen, Gemma ve DeepSeek modellerinin mimari, lisans ve Türkçe/çok dilli performans analizi
- VRAM hesaplama, parametre boyutu, uzman karışımı (MoE) ve quantization (FP8, AWQ, GGUF) dengeleri
vLLM ve Yüksek Performanslı Model Serving Altyapısı
- vLLM ve SGLang ile PagedAttention, continuous batching, prefix caching ve speculative decoding
- OpenAI uyumlu API sunucusu kurulumu, multi-LoRA sunumu ve LiteLLM ile kurumsal AI Gateway yönetimi
Open-Source Agent Çatıları, Tool Calling ve Guided Decoding
- Outlines/XGrammar ile garantili JSON şeması üretimi ve yerel modellerde güvenilir function calling
- LangGraph, CrewAI, PydanticAI ve Model Context Protocol (MCP) ile açık kaynak agent geliştirme
Self-Hosted RAG, Gözlemlenebilirlik ve Güvenlik Yığını
- Qdrant/Milvus vektör veritabanları, açık kaynak embedding/reranker modelleri ve yerel belge ayrıştırma (Docling)
- Langfuse ve Arize Phoenix ile açık kaynak tracing, değerlendirme ve yerel guardrail (Llama Guard) entegrasyonu
Bu Kategorideki Diğer Eğitimler
-
Microsoft Azure AI Foundry üzerinde model seçimi, kurumsal RAG ve agent geliştirme, içerik güvenliği filtreleri, otomatik evaluation, OpenTelemetry izleme ve güvenli kurumsal dağıtım.
- Canlı Kurs
- 5 modül
-
Semantic Kernel ve AutoGen yaklaşımlarını birleştiren Microsoft Agent Framework ile kurumsal tekli ve çoklu agent (multi-agent) orkestrasyonu, MCP araç entegrasyonu, bellek ve süreç yönetimi.
- Canlı Kurs
- 5 modül
-
GitHub Copilot Agent Mode, Copilot Coding Agent, özel kurumsal talimatlar (custom instructions), IDE içi MCP sunucuları ve otomatik PR inceleme ile yazılım geliştirme yaşam döngüsünü hızlandırma.
- Canlı Kurs
- 5 modül
-
Amazon Bedrock AgentCore ile herhangi bir framework'le (Strands, LangGraph, CrewAI) yazılmış agent'ları güvenli, durum bilgili ve ölçeklenebilir biçimde canlıya alma: Runtime, Memory, Identity ve Gateway.
- Canlı Kurs
- 5 modül
-
AWS'nin açık kaynaklı Strands Agents SDK'sı ile model odaklı (model-driven) agent geliştirme: @tool dekoratörü, yerel MCP desteği, çoklu model sağlayıcıları, multi-agent desenleri ve OpenTelemetry izleme.
- Canlı Kurs
- 5 modül
-
Amazon Bedrock Knowledge Bases ile yönetilen kurumsal RAG (advanced parsing, chunking, hibrit arama, reranking) ve Bedrock Guardrails ile PII maskeleme, halüsinasyon ve içerik güvenliği kontrolü.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
