Eğitimin Amacı ve Kapsamı
Notebook ortamında yüksek F1 skoru alan bir Transformer modeli; canlı trafikte değişken metin uzunlukları, GPU bellek taşmaları, kişisel veri (PII) sızıntısı, sessizce değişen kullanıcı dili ve yüksek bulut faturasıyla karşılaşır. Bu mühendislik programı; Hugging Face Optimum, ONNX Runtime ve TensorRT ile encoder/seq2seq modellerin INT8/FP16 optimizasyonunu, değişken uzunluklu dizilerde padding israfını önleyen dinamik batching ve sıralı gruplamayı, FastAPI ve Triton Inference Server ile servis mimarisini kapsar.
Üretim güvenilirliği için Microsoft Presidio ile KVKK uyumlu PII maskeleme, CheckList metodolojisiyle yazım hatası/olumsuzlama/varlık değişimi regresyon testleri, gömme (embedding) kayması izleme ve kural+küçük model+LLM kaskad (cascade) yönlendirmesi uygulamalı kurulur.
Kimler Katılmalı?
- NLP ve dil modellerini canlı sistemlere taşıyan ML ve MLOps/LLMOps mühendisleri
- Yüksek hacimli metin işleme, arama ve sınıflandırma servisleri geliştiren backend/platform mühendisleri
- NLP sistemlerinin gecikme, maliyet ve KVKK/kalite standartlarından sorumlu teknik liderler
- Ön koşul: Python, temel Docker/API bilgisi ve Transformer modelleriyle çalışma deneyimi
Kazanımlar
- Hugging Face Optimum ve ONNX Runtime/TensorRT ile NLP modellerinde 3-6x hızlanma ve bellek tasarrufu sağlamak
- Değişken metin uzunluklarında token-bazlı dinamik batching kurarak p99 gecikmeyi düşürmek
- Presidio ve özel Türkçe tanıyıcılarla loglama ve model öncesi/sonrası KVKK uyumlu PII maskeleme yapmak
- CI/CD hattına CheckList tabanlı davranışsal ve değişmezlik (invariance) testleri eklemek
- Hızlı kural/encoder önde, ağır model arkada çalışan maliyet-duyarlı kaskad (cascade) ve drift izleme mimarisi kurmak
Konular
Üretim NLP Mimarisi ve Kaskad (Cascade) Tasarımı
- Senkron API vs asenkron kuyruk/batch metin işleme mimarileri
- Regex/kural -> hızlı encoder -> ağır model/LLM güven eşikli yönlendirme
Model Optimizasyonu: Optimum, ONNX ve Quantization
- Hugging Face Optimum ile ONNX/TensorRT graf dönüşümü ve operatör füzyonu
- CPU (AVX/VNNI) ve GPU üzerinde dinamik/statik INT8 ve FP16 niceleme
Yüksek Verimli Servis ve Dinamik Batching
- Değişken dizi uzunluğu (padding) darboğazı, length bucketing ve token-bazlı batching
- Triton Inference Server / FastAPI kurgusu, önbellekleme ve yük testi (Locust)
PII Maskeleme, Güvenlik ve Davranışsal Test (CI/CD)
- Microsoft Presidio ve Türkçe kimlik/IBAN/telefon tanıyıcılarla PII anonimleştirme
- CheckList: olumsuzlama, yazım hatası, zamir/isim değişimi ve regresyon testleri
Gözlemlenebilirlik, Metin Drift ve Geri Besleme Döngüsü
- OOV/alt-kelime parçalanma oranı, uzunluk dağılımı ve embedding drift izleme
- Düşük güvenli tahminleri insan incelemesine (human-in-the-loop) ve yeniden eğitime bağlama
Bu Kategorideki Diğer Eğitimler
-
Yapılandırılmamış belgelerden yapılandırılmış tablo/JSON üretimi: hiyerarşik ve çok etiketli sınıflandırma, GLiNER ve Transformer NER, ilişki ve olay çıkarımı, OCR/PDF düzen (layout) işleme ve şema doğrulamalı çıkarım.
- Canlı Kurs
- 5 modül
-
Kelime eşleşmesinin ötesinde kurumsal arama: Sentence-Transformers (bi-encoder), çok dilli embedding'ler, BM25/SPLADE + yoğun vektör hibrit arama, RRF, Cross-Encoder reranking, Qdrant/pgvector ve NDCG@k ölçümü.
- Canlı Kurs
- 5 modül
-
PyTorch ile Derin Öğrenme
PyTorch 2.x ile tensor işlemleri ve autograd temellerinden CNN, Transformer, LLM ince ayarı (LoRA/QLoRA), difüzyon modelleri, GNN ve üretim ortamı model dağıtımına uzanan kapsamlı derin öğrenme eğitimi.
- Canlı Kurs
- 12 modül
-
Yapay sinir ağları, ileri yayılım, backpropagation, aktivasyon ve loss fonksiyonları, AdamW, dropout ve batch normalization; PyTorch ile ilk derin öğrenme modellerini doğru kurma ve eğitme becerisi kazandırır.
- Canlı Kurs
- 5 modül
-
Büyük ölçekli ve kararlı derin öğrenme: BF16/FP16 mixed precision, DDP/FSDP ile çoklu GPU eğitimi, self-supervised ve contrastive pretraining, metric learning, bilgi damıtma (distillation) ve profil analizi.
- Canlı Kurs
- 5 modül
-
ResNet ve ConvNeXt'ten Vision Transformer (ViT), Swin, hibrit omurgalar, State Space Models (Mamba), Mixture-of-Experts (MoE) ve multimodal mimarilere; probleme ve donanıma uygun ağ tasarımı ve seçimi.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
