Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Parameter-Efficient Fine-Tuning (PEFT), milyarlarca parametreli modellerin yalnızca küçük bir kesrini eğiterek hem eğitim donanımı ihtiyacını düşürür hem de üretim ortamında tek bir temel model üzerinde onlarca farklı görev/müşteri adapter'ını aynı anda çalıştırma imkanı verir. Bu eğitim, PEFT ailesinin tamamını mimari ve operasyonel boyutuyla inceler.

Toplamsal (soft prompt, prefix tuning), seçici, yeniden parametrelendirme (LoRA, rsLoRA, DoRA, VeRA, LoftQ, PiSSA) ve ölçekleme (IA3) yöntemleri; VRAM tüketim bileşenleri (ağırlık, gradyan, optimizer, aktivasyon) ve vLLM/SGLang üzerinde dinamik multi-LoRA serving laboratuvarlarda uygulanır. Katılımcılar çoklu görev için paylaşımlı bir PEFT mimarisi tasarlar ve test eder.

Kimler Katılmalı?

  • Farklı PEFT algoritmalarını karşılaştırıp optimize eden yapay zeka ve ML mühendisleri
  • Çok kiracılı (multi-tenant) veya çok görevli özel modeller sunan platform mühendisleri
  • Sınırlı GPU bütçesiyle maksimum model kalitesi hedefleyen veri bilimciler
  • Ön koşul: Python, PyTorch ve temel Transformer mimarisi bilgisi

Kazanımlar

  • LoRA, DoRA, rsLoRA, VeRA, IA3 ve LoftQ yöntemlerinin matematiksel farklarını ve kullanım yerlerini seçmek
  • Model ağırlıkları, AdamW durumları ve aktivasyonlar için tam GPU VRAM bütçesini hesaplamak
  • Yüksek rank'lı eğitimlerde rsLoRA ve büyüklük-yön ayrıştırmalı DoRA ile kaliteyi artırmak
  • Ağırlıkları birleştirmeden vLLM ve SGLang üzerinde çalışma zamanında dinamik adapter değiştirmek (multi-LoRA)
  • Farklı departman veya müşteriler için izole adapter yaşam döngüsü ve kayıt defteri yönetmek

Konular

PEFT Taksonomisi ve Bellek Anatomisi
  • Neden tam ince ayar (full fine-tuning) 16–20 kat daha fazla VRAM tüketir?
  • Additive (Prefix/Prompt Tuning), Selective, Scaling (IA3) ve Reparameterization (LoRA ailesi) karşılaştırması
  • Gradient checkpointing ve aktivasyon belleği optimizasyonu
Yeni Nesil LoRA Varyantları: DoRA, rsLoRA, PiSSA ve LoftQ
  • Yüksek rank'ta gradyan çökmesini önleyen Rank-Stabilized LoRA (rsLoRA)
  • Ağırlıkları büyüklük (magnitude) ve yön (direction) olarak ayıran DoRA
  • Tekil değer ayrıştırma ile başlatılan PiSSA ve nicemleme dostu LoftQ
Hugging Face PEFT Kütüphanesi ile İleri Yapılandırma
  • Attention ve MLP katman seçimi, modules_to_save ile yeni token eğitimi
  • Aynı model içinde birden fazla adapter yükleme, değiştirme ve ağırlıklı birleştirme (add_weighted_adapter)
Üretimde Multi-LoRA Serving (vLLM ve SGLang)
  • Merge edip ayrı model sunmak yerine çalışma zamanında (in-flight) S-LoRA / Punica çekirdekleri
  • vLLM üzerinde istek bazlı lora_request yönlendirme, LRU adapter önbelleği ve gecikme analizi
Atölye: Çok Görevli PEFT Platformu
  • Aynı görevi LoRA, rsLoRA ve DoRA ile eğitip kalite/hız kıyaslaması yapma
  • Tek bir vLLM sunucusu üzerinde üç farklı departman adapter'ını canlı sunma

Bu Kategorideki Diğer Eğitimler

  • LoRA ve QLoRA ile Uygulamalı Model Özelleştirme

    Low-Rank Adaptation (LoRA) matrislerini ve 4-bit NormalFloat (NF4) QLoRA tekniğini; rank/alpha seçimi, hedef katmanlar, double quantization, paged optimizer ve adapter birleştirme adımlarıyla öğreten eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Instruction Tuning: Talimat Takibi, Format ve Kurumsal Davranış Uyarlama

    Modellerin karmaşık sistem prompt'larına, katı JSON/şema kısıtlarına, kurumsal üsluba ve sınır kurallarına uymasını sağlayan çok görevli instruction tuning veri ve eğitim mühendisliği eğitimi.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Preference Optimization: DPO, ORPO, KTO ve Model Hizalama

    SFT sonrasında modelin tonunu, doğruluğunu ve güvenliğini iyileştiren DPO, IPO, KTO, ORPO ve SimPO algoritmalarını; chosen/rejected tercih verisi oluşturma ve beta ayarlarıyla öğreten ileri seviye eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Sentetik Veri Üretimi: LLM Eğitimi İçin Veri Sentezi ve Distillation

    Etiketli verinin az olduğu kurumsal alanlarda teacher LLM'ler, Evol-Instruct, persona matrisleri, Distilabel ve doğrulayıcı filtrelerle yüksek kaliteli SFT ve tercih verisi üretmeyi öğreten uygulamalı eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Eğitim Verisi Tasarımı: LLM Fine-Tuning İçin Veri Mimarisi

    Az ama yüksek etkili örneklerle (LIMA ilkesi) SFT ve çok turlu konuşma veri seti tasarlama; görev karışım oranları, uzman etiketleme kılavuzları ve veri versiyonlamayı kapsayan uygulamalı eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Özelleştirilmiş LLM'lerde Model Değerlendirme ve Fine-Tuning Evals

    İnce ayar yapılmış modellerde görev başarısını, catastrophic forgetting regresyonlarını, halüsinasyon ve güvenlik kaymalarını lm-evaluation-harness, özel görev testleri ve ikili kıyaslamalarla ölçme eğitimi.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
    İncele

Bizimle iletişime geçin