Eğitimin Amacı ve Kapsamı
Kurumsal yapay zeka projelerinde en sık yapılan hata, RAG veya iyi bir prompt ile çözülebilecek dinamik bilgi problemlerine pahalı fine-tuning yatırımı yapmak ya da tam tersine, dar gecikme ve tutarlı format gerektiren görevleri dev sistem prompt'larıyla çözmeye çalışmaktır. Bu eğitim, LLM uyarlama yöntemlerini mühendislik verileriyle seçme çerçevesi sunar.
In-context learning ve prompt caching, RAG ve RAFT (Retrieval-Augmented Fine-Tuning), LoRA tabanlı fine-tuning ve büyük modelden küçük modele distillation seçenekleri aynı problem üzerinde kıyaslanır. Katılımcılar kendi kurum senaryoları için bir adaptation karar matrisi ve aşamalı geçiş planı üretir.
Kimler Katılmalı?
- LLM projelerinde mimari yön belirleyen yapay zeka mühendisleri ve çözüm mimarları
- Model eğitimi ile RAG yatırımlarını önceliklendiren veri bilimi liderleri
- Teknik fizibilite ve yol haritası yöneten yapay zeka ürün yöneticileri
- Ön koşul: LLM API'leri, temel RAG ve prompt engineering aşinalığı
Kazanımlar
- Bilgi ekleme (knowledge injection) ile davranış/format değiştirme (behaviour adaptation) ihtiyaçlarını ayrıştırmak
- Prompting, prompt caching, RAG ve fine-tuning seçeneklerini doğruluk, gecikme ve token maliyetiyle kıyaslamak
- Ne zaman RAG + fine-tuning (RAFT) hibrit mimarisine geçileceğini metriklerle belirlemek
- Büyük ticari modelden küçük açık ağırlıklı modele (distillation) geçişin başabaş noktasını hesaplamak
- Kurum içi projeler için tekrar kullanılabilir bir adaptation karar matrisi oluşturmak
Konular
Uyarlama Spektrumu: Problem Türünü Teşhis Etmek
- Bilgi eksikliği (facts/context) ile beceri/format eksikliği (form/style/reasoning) ayrımı
- Veri değişim hızı, kaynak gösterme (citation) zorunluluğu ve erişim kontrolü etkisi
Context Engineering ve Uzun Context Sınırları
- Sistem prompt'u, few-shot örnek seçimi ve prompt caching ekonomisi
- Uzun context window kullanımının gecikme (TTFT) ve lost-in-the-middle maliyetleri
RAG ve Fine-Tuning: Rakip Değil Tamamlayıcı
- RAG'ın güçlü olduğu alanlar: güncel veri, belge bazlı yetkilendirme ve kanıtlanabilirlik
- Fine-tuning'in güçlü olduğu alanlar: yoğun alan jargonu, katı şema uyumu, düşük gecikme ve kısa prompt
- Hibrit desenler: domain embedding fine-tuning, reranker uyarlama ve RAFT
Model Distillation ve Maliyet/Hacim Kırılımı
- Büyük model + uzun prompt'tan küçük fine-tuned modele (Llama, Qwen, Gemma) geçiş
- Günlük istek hacmine göre eğitim + barındırma TCO başabaş analizi
Atölye: Kurumsal Adaptation Karar Matrisi
- Kurumun üç gerçek use case'inin karar ağacından geçirilmesi
- Aşamalı doğrulama (Prompt → RAG → Fine-Tuning) yol haritasının yazılması
Bu Kategorideki Diğer Eğitimler
-
Model ve Veri Uygunluğu: LLM Seçimi ve Veri Hazırlık Analizi
Model uyarlama öncesinde açık ağırlıklı ve ticari temel modelleri boyut, lisans, dil/tokenizer ve donanım açısından seçme; kurumsal verinin hacim, kalite ve gizlilik uygunluğunu denetleme eğitimi.
- Canlı Kurs
- 5 modül
-
LLM Uyarlamada Kalite, Maliyet ve Risk Analizi
LLM özelleştirme projelerinde veri hazırlama, eğitim ve 7/24 serving toplam sahip olma maliyetini (TCO), kalite kazanımı/regresyon dengesini ve operasyonel/regülatif riskleri modelleyen eğitim.
- Canlı Kurs
- 5 modül
-
Baseline ve Başarı Metrikleri: LLM Uyarlama Öncesi Ölçüm Sistemi
Model özelleştirmeye başlamadan önce golden test seti oluşturma, zero/few-shot baseline kurma, görev bazlı deterministik ve LLM-as-a-judge metrikleri tanımlama ve kabul eşikleri belirleme eğitimi.
- Canlı Kurs
- 5 modül
-
Fine-Tuning Temelleri: Büyük Dil Modellerini Özelleştirmeye Giriş
Büyük dil modellerinde ince ayarın çalışma mantığını, veri hazırlama ve chat template yapısını, Hugging Face TRL ve Unsloth ile ilk adapter eğitimini ve overfitting kontrolünü öğreten giriş eğitimi.
- Canlı Kurs
- 5 modül
-
İleri Seviye Fine-Tuning: Alan Uyarlama, Uzun Context ve Model Merging
Continual pre-training (CPT), uzun context uzatma (RoPE scaling), çok adımlı tool calling ince ayarı, catastrophic forgetting önleme ve MergeKit ile model birleştirme (SLERP, TIES, DARE) tekniklerini kapsayan ileri eğitim.
- Canlı Kurs
- 5 modül
-
Supervised Fine-Tuning (SFT): Mühendislik ve Optimizasyon
Cross-entropy loss maskeleme, sequence packing, FlashAttention-2, NEFTune, öğrenme oranı zamanlayıcıları ve Hugging Face TRL SFTTrainer / Axolotl ile yüksek verimli Supervised Fine-Tuning mühendisliği eğitimi.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin