Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Supervised Fine-Tuning (SFT), model uyarlama sürecinin en kritik basamağıdır; ancak prompt token'ları üzerinden yanlışlıkla loss hesaplamak, hatalı padding yüzünden GPU'yu boşuna çalıştırmak veya yanlış efektif batch size seçmek modelin kalitesini sessizce düşürür. Bu eğitim, SFT aşamasının matematiksel ve mühendislik detaylarına odaklanır.

Completion-only loss masking (-100 etiket maskeleme), FlashAttention-2 ile multipack/sequence packing, efektif batch size ve learning rate ölçekleme, NEFTune gürültülü embedding'ler, ağırlık bozunumu (weight decay) ve TRL SFTTrainer ile Axolotl yapılandırmaları uygulamalı olarak işlenir. Katılımcılar kurumsal bir veri seti üzerinde tam optimize edilmiş ve tekrarlanabilir bir SFT eğitim hattı kurar.

Kimler Katılmalı?

  • LLM eğitim boru hatları geliştiren yapay zeka ve makine öğrenmesi mühendisleri
  • SFT eğitim kalitesini ve GPU verimliliğini artırmak isteyen veri bilimciler
  • Model eğitim altyapısını standartlaştıran MLOps/LLMOps mühendisleri
  • Ön koşul: Python, PyTorch temelleri ve Hugging Face ekosistemine aşinalık

Kazanımlar

  • Kullanıcı girdilerini maskeleyip yalnızca asistan yanıtları üzerinde cross-entropy loss hesaplamak
  • Padding israfını ortadan kaldıran sequence packing ve FlashAttention-2 ile eğitim hızını katlamak
  • Veri seti boyutuna ve görev tipine göre learning rate, warmup, scheduler ve efektif batch size seçmek
  • NEFTune, dropout ve gradient clipping ile SFT sırasında aşırı uyumu (overfitting) engellemek
  • Weights & Biases veya MLflow üzerinde gradyan normu, token/saniye ve perplexity metrikleriyle eğitimi debug etmek

Konular

SFT Matematiği ve Loss Maskeleme
  • Otoregresif dil modellemede token düzeyinde cross-entropy loss ve perplexity
  • Prompt + completion loss ile completion-only (labels = -100) maskeleme farkı
  • Çok turlu konuşmalarda asistan turlarını doğru izole etme ve EOS token tuzakları
Veri Yükleme, Padding ve Sequence Packing
  • Dinamik padding, sağ/sol padding kuralları ve uzunluk gruplama (length bucketing)
  • Örnekler arası sızıntıyı önleyen position ID sıfırlamalı sequence packing (FlashAttention-2)
Hiperparametre Mühendisliği ve Düzenlileştirme
  • Efektif batch size (micro_batch * grad_accum * world_size) ve learning rate ilişkisi
  • Cosine, linear ve WSD (Warmup-Stable-Decay) zamanlayıcıları
  • NEFTune (gürültülü embedding), weight decay ve max gradient norm ayarları
TRL SFTTrainer ve Axolotl ile Üretim Hattı
  • Kod tabanlı TRL SFTTrainer/SFTConfig ile deklaratif Axolotl YAML iş akışları
  • Gradient norm sıçramaları, NaN loss ve BF16/FP16 sayısal kararlılık sorunlarını çözme
Atölye: Uçtan Uca SFT Optimizasyonu
  • Maskeleme ve packing öncesi/sonrası eğitim hızı ve doğruluk karşılaştırması
  • En iyi checkpoint'i seçme ve değerlendirme raporu üretme

Bu Kategorideki Diğer Eğitimler

  • Parameter-Efficient Fine-Tuning (PEFT): Mimariler ve Çoklu Adapter Sunumu

    LoRA, DoRA, rsLoRA, VeRA, LoftQ, IA3 ve Prefix Tuning gibi PEFT yöntemlerinin matematiksel yapılarını, VRAM bellek analizini ve vLLM/SGLang ile tek temel model üzerinde yüzlerce adapter sunmayı öğreten eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • LoRA ve QLoRA ile Uygulamalı Model Özelleştirme

    Low-Rank Adaptation (LoRA) matrislerini ve 4-bit NormalFloat (NF4) QLoRA tekniğini; rank/alpha seçimi, hedef katmanlar, double quantization, paged optimizer ve adapter birleştirme adımlarıyla öğreten eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Instruction Tuning: Talimat Takibi, Format ve Kurumsal Davranış Uyarlama

    Modellerin karmaşık sistem prompt'larına, katı JSON/şema kısıtlarına, kurumsal üsluba ve sınır kurallarına uymasını sağlayan çok görevli instruction tuning veri ve eğitim mühendisliği eğitimi.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Preference Optimization: DPO, ORPO, KTO ve Model Hizalama

    SFT sonrasında modelin tonunu, doğruluğunu ve güvenliğini iyileştiren DPO, IPO, KTO, ORPO ve SimPO algoritmalarını; chosen/rejected tercih verisi oluşturma ve beta ayarlarıyla öğreten ileri seviye eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Sentetik Veri Üretimi: LLM Eğitimi İçin Veri Sentezi ve Distillation

    Etiketli verinin az olduğu kurumsal alanlarda teacher LLM'ler, Evol-Instruct, persona matrisleri, Distilabel ve doğrulayıcı filtrelerle yüksek kaliteli SFT ve tercih verisi üretmeyi öğreten uygulamalı eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Eğitim Verisi Tasarımı: LLM Fine-Tuning İçin Veri Mimarisi

    Az ama yüksek etkili örneklerle (LIMA ilkesi) SFT ve çok turlu konuşma veri seti tasarlama; görev karışım oranları, uzman etiketleme kılavuzları ve veri versiyonlamayı kapsayan uygulamalı eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele

Bizimle iletişime geçin