Eğitimin Amacı ve Kapsamı
Türkçenin sondan eklemeli (agglutinative) morfolojisi, İngilizce ağırlıklı eğitilmiş tokenizer'larda bir kelimenin 3–5 alt-token'a bölünmesine yol açar; bu durum hem context window kapasitesini daraltır hem de çıkarım gecikmesini ve maliyetini artırır. Ayrıca doğrudan çeviriyle üretilmiş veri setleri Türkçenin doğal sözdizimini ve Türkiye'ye özgü mevzuat/kültür bilgisini yakalayamaz.
Bu eğitimde farklı açık modellerin Türkçe fertility analizi, SentencePiece/BPE kelime dağarcığı genişletme, Türkçe külliyatla continual pre-training ve SFT, çeviri kokan (translationese) verilerden kaçınma ve Türkçe benchmark'larla değerlendirme uygulamalı olarak işlenir. Katılımcılar Türkçe bir kurumsal görev için optimize edilmiş model ve değerlendirme raporu üretir.
Kimler Katılmalı?
- Türkçe konuşan kullanıcılar ve Türkiye mevzuatı için LLM geliştiren yapay zeka mühendisleri
- Türkçe doğal dil işleme (NLP) ve dil modeli araştırması yapan veri bilimciler
- Türkçe sesli/yazılı müşteri asistanları kuran teknik ekipler
- Ön koşul: Python, PyTorch ve temel fine-tuning (SFT/LoRA) deneyimi
Kazanımlar
- Farklı temel modellerin Türkçe metinlerdeki token enflasyonunu (fertility ve bytes-per-token) ölçüp en verimli taban modeli seçmek
- Gerektiğinde tokenizer kelime dağarcığını Türkçe kök ve eklerle genişletip embedding katmanını uyarlamak
- İngilizceden birebir çevrilmiş yapay (translationese) veriler yerine doğal Türkçe ve yerel bağlamlı eğitim seti kurmak
- Türkçe dilbilgisi, deyim, resmi yazışma üslubu ve yerel mevzuat (KVKK, BDDK, Türk Hukuku/Finansı) uyumunu ince ayarla kazandırmak
- Türkçe MMLU/ARC türevleri ve kuruma özel Türkçe rubriklerle model kalitesini değerlendirmek
Konular
Türkçe Morfoloji ve Tokenizer Verimliliği Analizi
- Sondan eklemeli yapı, ünlü/ünsüz uyumu ve BPE/SentencePiece alt-kelime bölünmesi
- Qwen, Gemma, Llama ve Mistral ailelerinin Türkçe fertility (token/kelime) ve hız karşılaştırması
- Tokenizer genişletme (vocabulary extension) ne zaman değer katar, ne zaman modele zarar verir?
Kelime Dağarcığı Genişletme ve Türkçe Continual Pre-Training
- Yeni Türkçe token'larla
embed_tokensvelm_headyeniden başlatma teknikleri - İngilizce muhakeme gücünü kaybetmeden Türkçe akıcılığı artıran iki dilli (bilingual) veri karışımı
Doğal Türkçe SFT Verisi ve Translationese Sorunu
- Makine çevirisiyle üretilmiş instruction setlerinin Türkçede yarattığı devrik/yapay üslup kusurları
- Yerel kurumsal yazışma dili, finans/hukuk/kamu terminolojisi ve Türkiye bağlamlı sentetik veri üretimi
- Türkçe-İngilizce hibrit teknik terim kullanımının (code-switching) dengelenmesi
Türkçe Dil Modellerinde Değerlendirme ve Benchmark'lar
- Genel Türkçe benchmark'lar, çeviri tabanlı testlerin yanılgıları ve özgün Türkçe test setleri
- Türkçe ek/kök duyarlı metrikler ve Türkçe LLM-as-a-judge kalibrasyonu
Atölye: Kurumsal Türkçe LLM Uyarlama ve Kıyaslama
- Aday modeller üzerinde Türkçe tokenizer ve baseline hız/kalite testi
- Doğal Türkçe kurumsal veri setiyle LoRA ince ayarı ve değerlendirme raporu
Bu Kategorideki Diğer Eğitimler
-
Çoklu GPU ve çoklu sunucu kümelerinde büyük dil modellerini eğitmek için Data/Tensor/Pipeline/Context paralelliği, DeepSpeed ZeRO-1/2/3, PyTorch FSDP2 ve iletişim darboğazı optimizasyonu eğitimi.
- Canlı Kurs
- 5 modül
-
DeepSeek-R1 tarzı akıl yürütme modellerini doğrulanabilir ödüllerle (RLVR) ve kritik modelsiz Group Relative Policy Optimization (GRPO) algoritmasıyla eğitmeyi öğreten ileri seviye uygulama eğitimi.
- Canlı Kurs
- 5 modül
-
LLM eğitim veri setlerinde MinHash ve embedding tabanlı tekilleştirme (deduplication), test/benchmark sızıntısı (contamination) temizliği, kalite puanlama ve PII maskeleme boru hatları kurma eğitimi.
- Canlı Kurs
- 5 modül
-
Bir iş probleminde context engineering, RAG ve fine-tuning seçeneklerini bilgi güncelliği, davranış/stil uyumu, gecikme ve maliyet kriterleriyle değerlendirip hibrit yol haritası çıkaran uygulamalı eğitim.
- Canlı Kurs
- 5 modül
-
Model uyarlama öncesinde açık ağırlıklı ve ticari temel modelleri boyut, lisans, dil/tokenizer ve donanım açısından seçme; kurumsal verinin hacim, kalite ve gizlilik uygunluğunu denetleme eğitimi.
- Canlı Kurs
- 5 modül
-
LLM özelleştirme projelerinde veri hazırlama, eğitim ve 7/24 serving toplam sahip olma maliyetini (TCO), kalite kazanımı/regresyon dengesini ve operasyonel/regülatif riskleri modelleyen eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
