Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Fine-tuning kararı çoğu zaman yalnızca tek seferlik GPU eğitim maliyetine bakılarak alınır; oysa asıl maliyet veri etiketleme, özel modelin 7/24 GPU üzerinde barındırılması ve yeni temel model çıktıkça eğitimin tekrarlanmasıdır. Bu eğitim, LLM özelleştirme yatırımlarını kalite, maliyet ve risk eksenlerinde nicel olarak analiz etmeyi öğretir.

Eğitimde token bazlı API fiyatlandırması ile adanmış GPU (vLLM/SGLang veya bulut provisioned throughput) maliyet modelleri, catastrophic forgetting ve güvenlik zayıflaması riskleri, veri sızıntısı ve model eskimesi (obsolescence) senaryoları incelenir. Katılımcılar kendi projeleri için bir TCO hesaplama tablosu ve risk azaltım planı hazırlar.

Kimler Katılmalı?

  • Yapay zeka yatırımlarının fizibilitesini çıkaran yapay zeka mühendisleri ve teknik liderler
  • Bulut ve GPU bütçesini yöneten ML platform ve FinOps uzmanları
  • Kurumsal yapay zeka projelerinde risk ve yatırım dönüşü (ROI) değerlendiren yöneticiler
  • Ön koşul: Temel LLM dağıtım ve bulut maliyet kavramlarına aşinalık

Kazanımlar

  • Veri hazırlama, deneysel eğitimler, değerlendirme ve üretim serving maliyetlerini içeren tam TCO modeli kurmak
  • Paylaşımlı serverless API, multi-LoRA serving ve adanmış GPU kümesi arasındaki maliyet kırılımlarını hesaplamak
  • İnce ayarın getirdiği görev bazlı kalite artışını genel yetenek kaybı (alignment tax / forgetting) ile tartmak
  • Güvenlik guardrail'lerinin bozulması, eğitim verisi sızıntısı ve model bakımı risklerini puanlamak
  • Yönetim onayı için net başabaş noktası ve çıkış kriterleri içeren fizibilite raporu sunmak

Konular

Görünmeyen Maliyetleriyle LLM Uyarlama TCO'su
  • Buzdağının altı: uzman veri etiketleme, sentetik veri üretimi ve başarısız deney turları
  • Eğitim GPU maliyeti ile 7/24 çıkarım (inference) barındırma maliyetinin karşılaştırması
  • Multi-LoRA serving ile tek GPU'da birden fazla özelleştirilmiş model sunma ekonomisi
Kalite Kazanımı ve Regresyon Analizi
  • Hedef görevdeki marjinal doğruluk artışının iş değerine dönüştürülmesi
  • Catastrophic forgetting ve talimat dışına çıkma (alignment tax) maliyetleri
  • Ne zaman %2 kalite artışı bakım yüküne değmez?
Güvenlik, Gizlilik ve Uyumluluk Riskleri
  • İnce ayar sırasında yerleşik güvenlik filtrelerinin istemeden zayıflaması
  • Eğitim verisinin model ağırlıklarından geri çıkarılması (membership inference / memorization)
  • EU AI Act ve KVKK kapsamında türev model sorumlulukları
Operasyonel Sürdürülebilirlik ve Model Eskimesi
  • Temel model güncellendiğinde (ör. yeni nesil açık model) yeniden eğitim borcu
  • Tedarikçi bağımlılığı (fine-tuned kapalı API) ile açık ağırlıklı model taşınabilirliği
Atölye: TCO Hesaplama ve Risk Karar Dosyası
  • Kurumsal bir use case için 12 aylık TCO ve trafik senaryolarının modellenmesi
  • Kalite, maliyet ve risk matrisiyle Go / No-Go karar dokümanı hazırlama

Bu Kategorideki Diğer Eğitimler

  • Baseline ve Başarı Metrikleri: LLM Uyarlama Öncesi Ölçüm Sistemi

    Model özelleştirmeye başlamadan önce golden test seti oluşturma, zero/few-shot baseline kurma, görev bazlı deterministik ve LLM-as-a-judge metrikleri tanımlama ve kabul eşikleri belirleme eğitimi.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Fine-Tuning Temelleri: Büyük Dil Modellerini Özelleştirmeye Giriş

    Büyük dil modellerinde ince ayarın çalışma mantığını, veri hazırlama ve chat template yapısını, Hugging Face TRL ve Unsloth ile ilk adapter eğitimini ve overfitting kontrolünü öğreten giriş eğitimi.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • İleri Seviye Fine-Tuning: Alan Uyarlama, Uzun Context ve Model Merging

    Continual pre-training (CPT), uzun context uzatma (RoPE scaling), çok adımlı tool calling ince ayarı, catastrophic forgetting önleme ve MergeKit ile model birleştirme (SLERP, TIES, DARE) tekniklerini kapsayan ileri eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Supervised Fine-Tuning (SFT): Mühendislik ve Optimizasyon

    Cross-entropy loss maskeleme, sequence packing, FlashAttention-2, NEFTune, öğrenme oranı zamanlayıcıları ve Hugging Face TRL SFTTrainer / Axolotl ile yüksek verimli Supervised Fine-Tuning mühendisliği eğitimi.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Parameter-Efficient Fine-Tuning (PEFT): Mimariler ve Çoklu Adapter Sunumu

    LoRA, DoRA, rsLoRA, VeRA, LoftQ, IA3 ve Prefix Tuning gibi PEFT yöntemlerinin matematiksel yapılarını, VRAM bellek analizini ve vLLM/SGLang ile tek temel model üzerinde yüzlerce adapter sunmayı öğreten eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • LoRA ve QLoRA ile Uygulamalı Model Özelleştirme

    Low-Rank Adaptation (LoRA) matrislerini ve 4-bit NormalFloat (NF4) QLoRA tekniğini; rank/alpha seçimi, hedef katmanlar, double quantization, paged optimizer ve adapter birleştirme adımlarıyla öğreten eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele

Bizimle iletişime geçin