Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Hazır LLM API'lerini kullanan geliştiriciler için kendi verisiyle bir modeli ince ayardan (fine-tuning) geçirmek çoğu zaman karmaşık ve yüksek donanım gerektiren bir kara kutu gibi görünür. Bu temel eğitim, modern açık ağırlıklı modelleri tek bir GPU üzerinde özelleştirmenin uçtan uca adımlarını sade ve uygulamalı biçimde öğretir.

Pre-training ile fine-tuning farkı, tam ağırlık güncellemesi yerine adapter (LoRA) mantığı, JSONL veri formatı ve chat template'ler, Hugging Face transformers, peft, trl ve Unsloth ile eğitim döngüsü, loss grafiği okuma ve modeli test edip dışa aktarma adım adım uygulanır. Katılımcılar eğitim sonunda kendi eğittikleri çalışan bir adapter modeli teslim alır.

Kimler Katılmalı?

  • İlk kez LLM fine-tuning yapacak yazılım geliştiriciler ve veri mühendisleri
  • Klasik makine öğrenmesinden üretken yapay zekaya geçiş yapan veri bilimciler
  • Model özelleştirme sürecini uygulamalı tanımak isteyen teknik ekip liderleri
  • Ön koşul: Temel Python bilgisi; derin öğrenme veya GPU kümesi deneyimi gerekmez

Kazanımlar

  • Fine-tuning'in model ağırlıklarında neyi değiştirdiğini ve hangi problemlere uygun olduğunu açıklamak
  • Ham soru-cevap veya görev verilerini modele uygun chat template ve JSONL formatına dönüştürmek
  • Hugging Face TRL ve Unsloth kullanarak tek GPU üzerinde bir açık modeli ince ayardan geçirmek
  • Learning rate, epoch ve batch size hiperparametrelerini ayarlayıp training/validation loss eğrilerini yorumlamak
  • Eğitilen adapter'ı temel modelle birleştirip (merge) yerel veya sunucu ortamında çıkarıma açmak

Konular

LLM Fine-Tuning Nasıl Çalışır?
  • Pre-training, instruction fine-tuning ve alignment aşamalarının özeti
  • Tam fine-tuning ile adapter tabanlı (LoRA) ince ayar arasındaki fark
  • Küçük bir özelleştirilmiş modelin büyük genel modeli geçebildiği durumlar
Veri Hazırlama ve Chat Template Yapısı
  • System, user ve assistant rollerinden oluşan konuşma veri formatları (ShareGPT, OpenAI messages)
  • Tokenizer'lar, özel kontrol token'ları (<|im_start|>, EOS) ve chat template hataları
  • Train, validation ve test veri ayrımı
İlk Fine-Tuning Döngüsü: TRL ve Unsloth
  • Hugging Face ekosisteminde model ve 4-bit/16-bit ağırlık yükleme
  • Temel hiperparametreler: learning rate, batch size, gradient accumulation ve epoch
  • Eğitimi başlatma ve GPU bellek kullanımını izleme
Loss Eğrilerini Okuma ve Overfitting Kontrolü
  • Training loss ve evaluation loss grafiklerinden öğrenme kalitesini teşhis etme
  • Underfitting (az öğrenme) ve overfitting (ezberleme) belirtileri ve çözümleri
  • Eğitim öncesi ve sonrası çıktıları yan yana kıyaslama
Modeli Kaydetme, Birleştirme ve Sunma
  • Yalnızca adapter ağırlıklarını kaydetme ile tam model birleştirme (merge_and_unload)
  • GGUF/AWQ dışa aktarma ve Ollama veya vLLM ile hızlı servis etme

Bu Kategorideki Diğer Eğitimler

  • İleri Seviye Fine-Tuning: Alan Uyarlama, Uzun Context ve Model Merging

    Continual pre-training (CPT), uzun context uzatma (RoPE scaling), çok adımlı tool calling ince ayarı, catastrophic forgetting önleme ve MergeKit ile model birleştirme (SLERP, TIES, DARE) tekniklerini kapsayan ileri eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
  • Supervised Fine-Tuning (SFT): Mühendislik ve Optimizasyon

    Cross-entropy loss maskeleme, sequence packing, FlashAttention-2, NEFTune, öğrenme oranı zamanlayıcıları ve Hugging Face TRL SFTTrainer / Axolotl ile yüksek verimli Supervised Fine-Tuning mühendisliği eğitimi.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
  • Parameter-Efficient Fine-Tuning (PEFT): Mimariler ve Çoklu Adapter Sunumu

    LoRA, DoRA, rsLoRA, VeRA, LoftQ, IA3 ve Prefix Tuning gibi PEFT yöntemlerinin matematiksel yapılarını, VRAM bellek analizini ve vLLM/SGLang ile tek temel model üzerinde yüzlerce adapter sunmayı öğreten eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
  • LoRA ve QLoRA ile Uygulamalı Model Özelleştirme

    Low-Rank Adaptation (LoRA) matrislerini ve 4-bit NormalFloat (NF4) QLoRA tekniğini; rank/alpha seçimi, hedef katmanlar, double quantization, paged optimizer ve adapter birleştirme adımlarıyla öğreten eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
  • Instruction Tuning: Talimat Takibi, Format ve Kurumsal Davranış Uyarlama

    Modellerin karmaşık sistem prompt'larına, katı JSON/şema kısıtlarına, kurumsal üsluba ve sınır kurallarına uymasını sağlayan çok görevli instruction tuning veri ve eğitim mühendisliği eğitimi.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül
  • Preference Optimization: DPO, ORPO, KTO ve Model Hizalama

    SFT sonrasında modelin tonunu, doğruluğunu ve güvenliğini iyileştiren DPO, IPO, KTO, ORPO ve SimPO algoritmalarını; chosen/rejected tercih verisi oluşturma ve beta ayarlarıyla öğreten ileri seviye eğitim.

    LLM Özelleştirme ve Model Uyarlama Kurumsal
    Canlı Kurs
    5 modül

Bizimle iletişime geçin