Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Bir LLM uygulamasının davranışı yalnızca uygulama koduna değil; system prompt'a, model snapshot'ına, tool/function JSON şemalarına, embedding modeline ve bilgi bankası indeksinin o anki haline bağlıdır. Bu bileşenlerden biri izinsiz veya kayıtsız değiştiğinde üretimdeki bir hatanın kök nedenini bulmak imkansızlaşır. Bu eğitim, tüm bu artefaktları birbirine bağlı bir sürüm paketi (release bundle) olarak yönetme yöntemlerini öğretir.

Katılımcılar uygulamalı lab'larda Langfuse ve MLflow Prompt Registry, Git tabanlı prompt-as-code iş akışı, JSON Schema evrimi ve DVC/LakeFS ile eval/RAG veri seti versiyonlamayı kurarak tek komutla geri alınabilir (rollback) bir yapı oluşturur.

Kimler Katılmalı?

  • LLM ve agent uygulamaları geliştiren yazılım ve yapay zeka mühendisleri
  • Model, veri ve konfigürasyon yaşam döngüsünü yöneten MLOps/LLMOps mühendisleri
  • Denetlenebilirlik ve sürüm izlenebilirliği arayan regüle sektör teknik ekipleri
  • Ön koşul: Git kullanımı, Python ve temel LLM uygulama geliştirme bilgisi

Kazanımlar

  • Prompt şablonlarını değişkenler, model parametreleri ve ortam etiketleriyle (`dev`, `staging`, `prod`) versiyonlamak
  • Model snapshot'larını, LoRA adapter sürümlerini ve embedding indekslerini birlikte izlemek
  • Tool/function calling şemalarında geriye dönük uyumluluğu (backward compatibility) korumak
  • Eval dataset ve RAG doküman korpusunu hash ve veri sürümleme araçlarıyla sabitlemek
  • Her üretim trace'ini tam olarak hangi prompt, model, tool ve veri sürümüyle üretildiğine bağlamak

Konular

LLM Sistemlerinde Neden Sadece Git Yetmez?
  • Kod dışı artefaktlar: prompt, model ağırlığı/snapshot, tool şeması ve vektör indeksi
  • Birleşik sürüm kimliği (release manifest) ve tam tekrarlanabilirlik (reproducibility)
Prompt Registry ve Prompt-as-Code İş Akışları
  • Langfuse ve MLflow Prompt Registry ile çalışma anında önbellekli prompt çekme
  • Git tabanlı YAML/Jinja şablonları, şema doğrulama ve ortam etiketleri (`staging`/`prod`)
Model ve Tool Şeması Versiyonlama
  • API model tarih etiketleri, yerel model digest'leri ve LoRA adapter kayıtları
  • Agent tool/function JSON şemalarının sürüm evrimi ve sözleşme (contract) testleri
Eval Dataset ve RAG İndeks Versiyonlama
  • DVC, LakeFS veya Hugging Face Datasets ile veri seti snapshot'ları
  • Embedding modeli veya chunking değiştiğinde blue/green vektör indeks geçişi
Soykütüğü (Lineage), Denetim İzi ve Hızlı Rollback
  • Her trace'e prompt_version, model_id ve index_version metadata'sı işleme
  • Üretimde bozulma anında kod deploy etmeden prompt ve model sürümü geri alma

Bu Kategorideki Diğer Eğitimler

  • Model Ağ Geçidi ve Yönlendirme (Model Gateway ve Routing)

    LiteLLM ve kurumsal AI gateway'ler ile tüm bulut ve kurum içi LLM'leri tek OpenAI uyumlu katmanda toplama: otomatik fallback, yük dengeleme, karmaşıklığa göre model yönlendirme, sanal anahtarlar ve bütçe/rate limit kontrolü.

    LLMOps ve Üretim Ortamında Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Yapay Zeka Uygulamaları için CI/CD

    LLM ve RAG uygulamaları için GitHub Actions/GitLab CI tabanlı CI/CD hatları: PR aşamasında hızlı smoke/eval testleri, deterministik ve model-graded kalite kapıları, maliyet/gecikme bütçesi kontrolü, canary dağıtım ve otomatik rollback.

    LLMOps ve Üretim Ortamında Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • LLM Değerlendirme ve Kalite Ölçümü (LLM Evaluation)

    LLM uygulamalarında sistematik kalite ölçümü: Promptfoo, DeepEval ve Ragas ile deterministik ve LLM-as-a-judge metrikler, hakem model yanlılıklarını (bias) giderme, insan değerlendirmesiyle kalibrasyon ve kurumsal eval karnesi.

    LLMOps ve Üretim Ortamında Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Otomatik LLM Değerlendirme Hatları (Evaluation Pipelines)

    Büyük ölçekli, hızlı ve tekrarlanabilir LLM evaluation pipeline mühendisliği: asenkron paralel test koşucuları, judge maliyet/önbellek optimizasyonu, veri seti besleme, istatistiksel anlamlılık ve deney karşılaştırma panelleri.

    LLMOps ve Üretim Ortamında Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Üretimde Sürekli Değerlendirme (Continuous Evaluation)

    Canlı LLM trafiğinde sürekli kalite kontrolü: üretim trace'lerinden akıllı örnekleme, kullanıcı gecikmesini etkilemeyen asenkron online evaluator'lar, referanssız halüsinasyon/relevans ölçümü, sorgu kayması (drift) tespiti ve uyarı mekanizmaları.

    LLMOps ve Üretim Ortamında Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • LLM Uygulamalarında Regression Testleri

    Prompt, model veya RAG ayarları değiştiğinde eski çalışan senaryoların bozulmasını önleme: deterministik kontrat testleri, semantik eşdeğerlik, tool-call doğrulaması, snapshot karşılaştırma ve sürüm onay matrisi.

    LLMOps ve Üretim Ortamında Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
    İncele

Bizimle iletişime geçin