Eğitimin Amacı ve Kapsamı
Eğitim verisindeki mükerrer kayıtlar modelin belirli ifadeleri ezberlemesine yol açarken, değerlendirme sorularının veya yakın varyantlarının eğitim setine sızması (benchmark/test contamination) modelin gerçekte öğrenmediği halde yüksek puan almasına neden olur. Bu eğitim, model eğitimine girmeden önce veriyi endüstriyel standartlarda temizleme ve sızıntıdan arındırma yöntemlerini öğretir.
Eğitimde tam ve bulanık tekilleştirme (MinHashLSH), embedding tabanlı semantik tekilleştirme (SemDeDup), n-gram ve vektör benzerliği ile train-test decontamination, perplexity/IFD ve yargıç tabanlı kalite filtreleme ile Presidio/regex tabanlı PII temizliği uygulanır. Katılımcılar kirli bir veri setini temizleyip kalite denetim raporu üreten bir boru hattı yazar.
Kimler Katılmalı?
- LLM eğitimi ve değerlendirmesi için veri hazırlayan veri bilimciler ve veri mühendisleri
- Benchmark ve model doğrulama güvenilirliğinden sorumlu yapay zeka mühendisleri
- Eğitim verisinde kişisel veri ve gizlilik uyumluluğunu denetleyen platform ekipleri
- Ön koşul: Python, veri işleme kütüphaneleri ve temel embedding bilgisi
Kazanımlar
- Exact, MinHashLSH (Jaccard) ve embedding tabanlı semantik deduplication ile kopya ve yakın kopyaları temizlemek
- Eğitim verisini hem iç golden test setine hem de genel benchmark'lara karşı n-gram ve semantik sızıntı (contamination) açısından taramak
- Bozuk kodlama, kesik yanıt, dil kayması, düşük bilgi yoğunluğu ve hatalı etiketleri otomatik filtrelemek
- Instruction-Following Difficulty (IFD) ve LLM yargıç skorlarıyla en yüksek öğretici değere sahip alt kümeyi seçmek
- Eğitim öncesinde TCKN, IBAN, telefon, e-posta ve kurumsal gizli bilgileri tespit edip maskelemek
Konular
Veri Kirliliği Türleri ve Tekilleştirme (Deduplication)
- Tam eşleşme (SHA-256), n-gram MinHashLSH ile bulanık tekilleştirme ve SemDeDup ile semantik kümeleme
- Kopya verilerin eğitim süresine, ezberlemeye (memorization) ve çeşitliliğe zararı
Train–Test ve Benchmark Sızıntısı (Contamination) Tespiti
- 13-gram / karakter örtüşmesi ile yeniden ifade edilmiş (paraphrased) sızıntıyı yakalayan hibrit arama
- Sentetik veri üretirken teacher modelin bilindik benchmark sorularını sızdırmasını önleme
- Zamansal ve konu/müşteri bazlı (grouped) ayrım ile dolaylı sızıntıyı engelleme
Heuristik, İstatistiksel ve Model Tabanlı Kalite Filtreleri
- Bozuk UTF-8, tekrarlayan karakter/cümle döngüleri, kesilmiş JSON ve yanlış dil tespiti (FastText)
- Perplexity ve Instruction-Following Difficulty (IFD) skoru ile çok kolay veya gürültülü örnekleri ayıklama
- Eğitim dinamikleri (Data Map / loss tabanlı) ile yanlış etiketlenmiş (mislabeled) satırları bulma
PII Maskeleme, Gizlilik ve Güvenlik Taraması
- Regex, NER ve Microsoft Presidio ile Türkçe/küresel kişisel verilerin (TCKN, IBAN, telefon, isim) anonimleştirilmesi
- Eğitim verisi içine gizlenmiş prompt injection, backdoor (tetikleyici kelime) ve API anahtarı taraması
Atölye: Otomatik Veri Kalite ve Decontamination Hattı
- Kasıtlı kopyalar, benchmark sızıntıları ve bozuk etiketler içeren örnek veri setinin temizlenmesi
- Temizlenmiş ve ham veriyle eğitilen iki modelin gerçek test performansının karşılaştırılması
Bu Kategorideki Diğer Eğitimler
-
Bir iş probleminde context engineering, RAG ve fine-tuning seçeneklerini bilgi güncelliği, davranış/stil uyumu, gecikme ve maliyet kriterleriyle değerlendirip hibrit yol haritası çıkaran uygulamalı eğitim.
- Canlı Kurs
- 5 modül
-
Model uyarlama öncesinde açık ağırlıklı ve ticari temel modelleri boyut, lisans, dil/tokenizer ve donanım açısından seçme; kurumsal verinin hacim, kalite ve gizlilik uygunluğunu denetleme eğitimi.
- Canlı Kurs
- 5 modül
-
LLM özelleştirme projelerinde veri hazırlama, eğitim ve 7/24 serving toplam sahip olma maliyetini (TCO), kalite kazanımı/regresyon dengesini ve operasyonel/regülatif riskleri modelleyen eğitim.
- Canlı Kurs
- 5 modül
-
Model özelleştirmeye başlamadan önce golden test seti oluşturma, zero/few-shot baseline kurma, görev bazlı deterministik ve LLM-as-a-judge metrikleri tanımlama ve kabul eşikleri belirleme eğitimi.
- Canlı Kurs
- 5 modül
-
Büyük dil modellerinde ince ayarın çalışma mantığını, veri hazırlama ve chat template yapısını, Hugging Face TRL ve Unsloth ile ilk adapter eğitimini ve overfitting kontrolünü öğreten giriş eğitimi.
- Canlı Kurs
- 5 modül
-
Continual pre-training (CPT), uzun context uzatma (RoPE scaling), çok adımlı tool calling ince ayarı, catastrophic forgetting önleme ve MergeKit ile model birleştirme (SLERP, TIES, DARE) tekniklerini kapsayan ileri eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
