Eğitimin Amacı ve Kapsamı
Başarısız fine-tuning projelerinin çoğu yanlış temel model (base/instruct) seçimi, yetersiz Türkçe/alan tokenizasyonu, kısıtlayıcı model lisansları veya eğitime uygun olmayan ham kurumsal verilerden kaynaklanır. Bu eğitim, GPU saatleri harcanmadan önce yapılması gereken model ve veri uygunluk denetimini (readiness audit) öğretir.
Llama, Qwen, Mistral, Gemma ve DeepSeek ailelerinin mimari, lisans ve kelime dağarcığı (vocabulary) karşılaştırması; parametre boyutu (1B–70B+) ve nicemleme (quantization) seçimi; veri hacmi tahmini, etiket gürültüsü ve KVKK/PII risk analizi uygulamalı işlenir. Çıktı olarak kurum senaryosu için bir model karşılaştırma ve veri uygunluk raporu hazırlanır.
Kimler Katılmalı?
- Kurum içi model seçimi ve uyarlama projelerini yürüten veri bilimciler ve yapay zeka mühendisleri
- Model barındırma ve GPU kapasitesi planlayan ML platform mühendisleri
- Veri yönetişimi, lisans ve gizlilik uyumluluğunu değerlendiren teknik liderler
- Ön koşul: Python ve temel LLM kavramları
Kazanımlar
- Görev karmaşıklığı ve gecikme bütçesine göre doğru parametre boyutunu ve model ailesini seçmek
- Base, instruct ve reasoning modellerinden hangisinin ince ayara başlangıç için uygun olduğunu belirlemek
- Hedef dil ve alan metinleri üzerinde tokenizer verimliliğini (fertility/compression) ölçmek
- Mevcut kurumsal verinin miktar, çeşitlilik, etiket kalitesi ve gizlilik açısından eğitime uygunluğunu denetlemek
- Açık ağırlıklı model lisanslarını (Apache 2.0, MIT, Llama, Gemma ticari kısıtları) kurumsal kullanıma göre değerlendirmek
Konular
Temel Model Seçim Kriterleri
- Açık ağırlıklı modeller (Qwen, Llama, Gemma, Mistral) ile yönetilen fine-tuning API'leri
- Base, Instruct ve Reasoning modeller: hangi senaryoda hangisinden başlanmalı?
- Dense ve Mixture-of-Experts (MoE) mimarilerinin eğitim ve çıkarım farkları
Boyutlandırma, Donanım ve Tokenizer Uygunluğu
- Görev darlığına göre 1B–8B küçük modeller ile 32B–70B+ modellerin karşılaştırması
- Türkçe ve sektörel terimlerde tokenizer fertility (kelime/token oranı) testi
- Eğitim ve çıkarım VRAM gereksinimlerinin önceden hesaplanması
Veri Uygunluğu ve Hazırlık Denetimi
- Görev türüne göre gereken minimum kaliteli örnek sayısı (100 vs 10.000+ örnek)
- Girdi-çıktı dağılım analizi, uç durum (edge case) kapsaması ve etiket tutarlılığı
- Kişisel veri (PII), ticari sır ve ezberleme (memorization) risklerinin tespiti
Lisanslama, Yönetişim ve Veri İkameti
- Açık kaynak ile açık ağırlık (open-weight) lisans farkları ve ticari kullanım sınırları
- Sentetik veri kullanım kısıtları (model çıktısıyla başka model eğitme kuralları)
Atölye: Model Kıyaslama ve Veri Denetim Raporu
- Kurum verisi örneği üzerinde tokenizer, uzunluk ve kalite profilleme
- Aday modellerin sıfır-atış (zero-shot) uygunluk testi ve seçim raporu
Bu Kategorideki Diğer Eğitimler
-
LLM Uyarlamada Kalite, Maliyet ve Risk Analizi
LLM özelleştirme projelerinde veri hazırlama, eğitim ve 7/24 serving toplam sahip olma maliyetini (TCO), kalite kazanımı/regresyon dengesini ve operasyonel/regülatif riskleri modelleyen eğitim.
- Canlı Kurs
- 5 modül
-
Baseline ve Başarı Metrikleri: LLM Uyarlama Öncesi Ölçüm Sistemi
Model özelleştirmeye başlamadan önce golden test seti oluşturma, zero/few-shot baseline kurma, görev bazlı deterministik ve LLM-as-a-judge metrikleri tanımlama ve kabul eşikleri belirleme eğitimi.
- Canlı Kurs
- 5 modül
-
Fine-Tuning Temelleri: Büyük Dil Modellerini Özelleştirmeye Giriş
Büyük dil modellerinde ince ayarın çalışma mantığını, veri hazırlama ve chat template yapısını, Hugging Face TRL ve Unsloth ile ilk adapter eğitimini ve overfitting kontrolünü öğreten giriş eğitimi.
- Canlı Kurs
- 5 modül
-
İleri Seviye Fine-Tuning: Alan Uyarlama, Uzun Context ve Model Merging
Continual pre-training (CPT), uzun context uzatma (RoPE scaling), çok adımlı tool calling ince ayarı, catastrophic forgetting önleme ve MergeKit ile model birleştirme (SLERP, TIES, DARE) tekniklerini kapsayan ileri eğitim.
- Canlı Kurs
- 5 modül
-
Supervised Fine-Tuning (SFT): Mühendislik ve Optimizasyon
Cross-entropy loss maskeleme, sequence packing, FlashAttention-2, NEFTune, öğrenme oranı zamanlayıcıları ve Hugging Face TRL SFTTrainer / Axolotl ile yüksek verimli Supervised Fine-Tuning mühendisliği eğitimi.
- Canlı Kurs
- 5 modül
-
Parameter-Efficient Fine-Tuning (PEFT): Mimariler ve Çoklu Adapter Sunumu
LoRA, DoRA, rsLoRA, VeRA, LoftQ, IA3 ve Prefix Tuning gibi PEFT yöntemlerinin matematiksel yapılarını, VRAM bellek analizini ve vLLM/SGLang ile tek temel model üzerinde yüzlerce adapter sunmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin