Kurumsal Yapay Zeka (AI) ve Teknoloji Eğitim Kataloğu

Lokal ve Kurum İçi LLM Platformları Masaüstünde Lokal Modeller (llama.cpp, GGUF, LM Studio) RuneLab Akademi · 12 saat

llama.cpp, GGUF formatı ve LM Studio ile masaüstü ve iş istasyonlarında lokal LLM çalıştırma: k-quant seçimi, CPU+GPU katman paylaştırma, Metal/CUDA/Vulkan hızlandırma ve yerel OpenAI uyumlu API sunumu. Geliştirici ve analistler için.

12 saat

Canlı Kurs

5 modül

Lokal ve Kurum İçi LLM Platformları Lokal Modellerle Kurum İçi Kod Asistanı Kurulumu RuneLab Akademi · 12 saat

Kaynak kodunu kurum dışına çıkarmadan AI kod asistanı kurulumu: Qwen2.5-Coder ve DeepSeek-Coder gibi modeller, FIM (Fill-in-the-Middle) otomatik tamamlama, Continue.dev/Tabby IDE eklentileri, vLLM sunumu ve kod tabanı RAG entegrasyonu.

12 saat

Canlı Kurs

5 modül

Lokal ve Kurum İçi LLM Platformları Açık Ağırlıklı Model Seçimi ve Değerlendirme (Open Model Selection) RuneLab Akademi · 12 saat

Kurumsal kullanım için açık ağırlıklı LLM seçimi: Llama, Qwen, Mistral, Gemma ve DeepSeek aileleri; ticari lisans analizi, dense/MoE mimari farkları, Türkçe ve tool calling yetkinliği ile kurum verisi üzerinde seçim matrisi oluşturma.

12 saat

Canlı Kurs

5 modül

Lokal ve Kurum İçi LLM Platformları NVIDIA Triton ve KServe ile Kurumsal Model Sunma RuneLab Akademi · 12 saat

NVIDIA Triton Inference Server ve KServe ile GPU üzerinde çoklu model sunumu: TensorRT-LLM/ONNX/Python backend'leri, dynamic batching, model ensemble, KServe InferenceService, Knative autoscaling ve Model Analyzer ile optimizasyon.

12 saat

Canlı Kurs

5 modül

Lokal ve Kurum İçi LLM Platformları LLM Inference'ta KV Cache ve Batching Optimizasyonu RuneLab Akademi · 12 saat

LLM serving'de bellek ve eşzamanlılık darboğazlarını çözme: KV cache bellek matematiği, PagedAttention, SGLang RadixAttention, prefix caching, FP8 KV cache quantization, continuous batching ve chunked prefill ayarları.

12 saat

Canlı Kurs

5 modül

Lokal ve Kurum İçi LLM Platformları LLM Inference Throughput ve Latency Optimizasyonu RuneLab Akademi · 12 saat

LLM servislerinde TTFT, ITL ve toplam throughput optimizasyonu: compute-bound ve memory-bandwidth-bound darboğaz analizi, FlashAttention/FlashInfer, CUDA Graphs, speculative decoding, paralellik ayarları ve SLO odaklı yük testi.

12 saat

Canlı Kurs

5 modül

Lokal ve Kurum İçi LLM Platformları Kubernetes ile Yapay Zeka İş Yükleri (AI Workloads on Kubernetes) RuneLab Akademi · 18 saat

Kubernetes üzerinde GPU ve LLM iş yüklerinin işletimi: NVIDIA GPU Operator, MIG ve time-slicing ile GPU paylaşımı, Kueue/Volcano ile kuyruk yönetimi, hızlı model ağırlığı önbellekleme, GPU autoscaling ve DCGM izleme.

18 saat

Canlı Kurs

5 modül

Lokal ve Kurum İçi LLM Platformları Lokal ve Edge Cihazlarda LLM Çalıştırma (Local / Edge LLM) RuneLab Akademi · 12 saat

Küçük dil modellerinin (SLM) uç cihazlar, saha donanımları ve NPU/gömülü GPU'larda çalıştırılması: Llama 3.2/Qwen/Gemma/Phi (1B–4B), ONNX Runtime GenAI, ExecuTorch, TensorRT-Edge, Jetson ve çevrimdışı saha senaryoları.

12 saat

Canlı Kurs

5 modül

Lokal ve Kurum İçi LLM Platformları LLM İstek ve Token Maliyeti Optimizasyonu (Cost per Request / Token Optimization) RuneLab Akademi · 12 saat

LLM sistemlerinde birim maliyet (cost per request / 1M token) analizi ve optimizasyonu: kendi GPU'nu işletme vs ticari API başabaş hesabı, prompt/output token daraltma, batch API, model kademelendirme ve AI FinOps metrikleri.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka LLMOps Temelleri RuneLab Akademi · 12 saat

Prototip aşamasındaki LLM uygulamalarını üretime taşımanın temelleri: klasik MLOps ile LLMOps farkları, prompt/model versiyonlama, temel tracing, eval seti oluşturma, guardrail katmanı ve üretime geçiş kontrol listesi.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka Baştan Sona LLMOps: Üretim Mimarisi ve Uygulaması RuneLab Akademi · 12 saat

Bir LLM uygulamasını uçtan uca üretim disiplinine kavuşturma: LiteLLM gateway, Langfuse/Phoenix tracing, otomatik eval ve regression testleri, CI/CD kalite kapıları, guardrail katmanları ve canlı geri bildirim döngüsü.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka Prompt, Model, Tool ve Veri Versiyonlama RuneLab Akademi · 12 saat

LLM uygulamalarında tam tekrarlanabilirlik (reproducibility): Langfuse/MLflow Prompt Registry ve Git ile prompt sürümleme, model/LoRA ve tool şeması versiyonlama, RAG/eval veri seti snapshot'ları ve güvenli rollback.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka Model Ağ Geçidi ve Yönlendirme (Model Gateway ve Routing) RuneLab Akademi · 12 saat

LiteLLM ve kurumsal AI gateway'ler ile tüm bulut ve kurum içi LLM'leri tek OpenAI uyumlu katmanda toplama: otomatik fallback, yük dengeleme, karmaşıklığa göre model yönlendirme, sanal anahtarlar ve bütçe/rate limit kontrolü.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka Yapay Zeka Uygulamaları için CI/CD RuneLab Akademi · 12 saat

LLM ve RAG uygulamaları için GitHub Actions/GitLab CI tabanlı CI/CD hatları: PR aşamasında hızlı smoke/eval testleri, deterministik ve model-graded kalite kapıları, maliyet/gecikme bütçesi kontrolü, canary dağıtım ve otomatik rollback.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka LLM Değerlendirme ve Kalite Ölçümü (LLM Evaluation) RuneLab Akademi · 12 saat

LLM uygulamalarında sistematik kalite ölçümü: Promptfoo, DeepEval ve Ragas ile deterministik ve LLM-as-a-judge metrikler, hakem model yanlılıklarını (bias) giderme, insan değerlendirmesiyle kalibrasyon ve kurumsal eval karnesi.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka Otomatik LLM Değerlendirme Hatları (Evaluation Pipelines) RuneLab Akademi · 12 saat

Büyük ölçekli, hızlı ve tekrarlanabilir LLM evaluation pipeline mühendisliği: asenkron paralel test koşucuları, judge maliyet/önbellek optimizasyonu, veri seti besleme, istatistiksel anlamlılık ve deney karşılaştırma panelleri.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka Üretimde Sürekli Değerlendirme (Continuous Evaluation) RuneLab Akademi · 12 saat

Canlı LLM trafiğinde sürekli kalite kontrolü: üretim trace'lerinden akıllı örnekleme, kullanıcı gecikmesini etkilemeyen asenkron online evaluator'lar, referanssız halüsinasyon/relevans ölçümü, sorgu kayması (drift) tespiti ve uyarı mekanizmaları.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka LLM Uygulamalarında Regression Testleri RuneLab Akademi · 12 saat

Prompt, model veya RAG ayarları değiştiğinde eski çalışan senaryoların bozulmasını önleme: deterministik kontrat testleri, semantik eşdeğerlik, tool-call doğrulaması, snapshot karşılaştırma ve sürüm onay matrisi.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka LLM Uygulamalarında Tracing ve Observability RuneLab Akademi · 12 saat

Çok adımlı LLM, RAG ve agent sistemlerinde derinlemesine gözlemlenebilirlik: OpenTelemetry GenAI standartları, Langfuse ve Arize Phoenix kurulumu, span bazında token/gecikme/maliyet analizi, PII maskeleme ve üretim trace panelleri.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka LLM Uygulamalarında Koruma Katmanları (Guardrails) RuneLab Akademi · 12 saat

Üretimdeki LLM uygulamaları için düşük gecikmeli girdi ve çıktı koruma katmanları (guardrails): prompt injection ve jailbreak engelleme, KVKK uyumlu PII maskeleme, konu sınırlama, halüsinasyon kontrolü ve güvenli tool yetkileri.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka LLM Sistemlerinde Önbellek ve Maliyet Optimizasyonu RuneLab Akademi · 12 saat

Üretimdeki LLM uygulamalarında çok katmanlı önbellekleme ile maliyet ve gecikmeyi düşürme: sağlayıcı/vLLM prompt caching, Redis ile exact cache, vektör tabanlı semantic caching, kiracı izolasyonu ve cache invalidation.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka LLM Uygulamalarında Performans ve Gecikme Yönetimi RuneLab Akademi · 12 saat

Çok adımlı LLM, RAG ve agent uygulamalarında uçtan uca gecikme (E2E latency) yönetimi: SSE streaming UX, paralel retrieval/guardrail/tool yürütme, çıktı daraltma, P95/P99 kuyruk gecikmesi ve hedged request desenleri.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka Yapay Zeka Olay Yönetimi (AI Incident Management) RuneLab Akademi · 12 saat

Üretimdeki LLM ve agent sistemlerine özgü olay yönetimi: halüsinasyon dalgası, prompt injection/veri sızıntısı, sonsuz agent döngüsü ve sağlayıcı kesintilerine müdahale runbook'ları, kill-switch mekanizması ve AI post-mortem.

12 saat

Canlı Kurs

5 modül

LLMOps ve Üretim Ortamında Yapay Zeka Bulut ve Kurum İçi Hibrit Yapay Zeka Dağıtımı RuneLab Akademi · 12 saat

Yönetilen bulut platformları (Azure AI Foundry, Amazon Bedrock, Google Vertex AI) ile kurum içi GPU kümelerini hibrit mimaride birleştirme: veri gizliliğine göre yönlendirme, taşınabilir kontratlar, ağ güvenliği ve felaket kurtarma.

12 saat

Canlı Kurs

5 modül