Eğitimin Amacı ve Kapsamı
Yüksek doğruluklu bir derin öğrenme modeli, kamera, mobil cihaz, endüstriyel PC veya yüksek trafikli API ortamında bellek ve gecikme sınırlarına takılıyorsa üretime giremez. Bu program; Post-Training Quantization (PTQ) ve Quantization-Aware Training (QAT) ile FP32'den FP16/INT8/INT4'e geçişi, yapısal/yapısal olmayan budamayı (pruning), bilgi damıtmayı (knowledge distillation) ve MobileNet/EfficientNet gibi donanım dostu mimari tasarımını kapsar.
Sıkıştırılan modellerin ONNX grafiğine dönüştürülmesi ve hedef donanıma göre TensorRT, ONNX Runtime, OpenVINO veya LiteRT (TFLite) üzerinde çalıştırılması uygulamalı yapılır. Katılımcılar bir referans modeli sıkıştırarak model boyutu, p99 gecikme, throughput ve doğruluk kaybını karşılaştıran bir optimizasyon raporu üretir.
Kimler Katılmalı?
- ML ve derin öğrenme mühendisleri
- Gömülü sistem, mobil, IoT ve bilgisayarlı görü/ses uygulama geliştiricileri
- Bulut inference maliyetini ve API gecikmesini düşürmek isteyen platform ekipleri
- Ön koşul: PyTorch veya TensorFlow ile model eğitimi deneyimi
Kazanımlar
- Kalibrasyon veri setiyle PTQ uygulamak ve doğruluk düştüğünde QAT ile telafi etmek
- Gerçek hızlanma sağlayan yapısal kanal/başlık budamasını (structured pruning) uygulamak
- PyTorch/Keras modellerini operatör uyumsuzluğu yaşamadan ONNX grafiğine aktarmak
- Hedef CPU, GPU veya NPU için ONNX Runtime, TensorRT, OpenVINO ve LiteRT derlemelerini yapmak
- p50/p99 gecikme, bellek ayak izi ve görev metriğini birlikte ölçen benchmark kontrol listesi kurmak
Konular
Inference Darboğazları ve Donanım Profili
- Compute-bound vs memory-bandwidth-bound katmanlar ve roofline modeli
- Bulut GPU, CPU, mobil SoC ve endüstriyel edge kısıtları
Quantization: PTQ, QAT ve Düşük Bit Formatları
- Simetrik/asimetrik niceleme, kanal bazlı ölçekleme ve kalibrasyon
- FP16/BF16, INT8, INT4 (AWQ/GPTQ) ve katman bazlı hassasiyet analizi
Budama (Pruning) ve Knowledge Distillation
- Yapısal olmayan vs yapısal (kanal/filtre) pruning ve yeniden ince ayar
- Büyük modelden hafif uç modele bilgi damıtma
ONNX ve Derleyici/Runtime Ekosistemi
- PyTorch'tan ONNX'e aktarım, dinamik eksenler ve operatör füzyonu
- ONNX Runtime, NVIDIA TensorRT, Intel OpenVINO ve LiteRT (TFLite)
Edge ve Üretim Benchmark Çalıştayı
- Batch=1 gecikmesi (p95/p99), RAM/VRAM kullanımı ve doğruluk kaybı
- Vaka üzerinde sıkıştırma hattı ve dağıtım kontrol listesi
Bu Kategorideki Diğer Eğitimler
-
Üretken derin öğrenmenin temelleri ve mimarileri: VAE, GAN, Normalizing Flows, Denoising Diffusion (DDPM/Latent Diffusion), Flow Matching ve otoregresif modeller; sentetik veri ve çok modlu üretim.
- Canlı Kurs
- 5 modül
-
MDP, Q-Learning, DQN, Policy Gradient (PPO, SAC), contextual bandits ve Offline RL; Gymnasium ve Stable-Baselines3 ile dinamik fiyatlama, kaynak tahsisi ve kontrol problemleri için ardışık karar modelleri.
- Canlı Kurs
- 5 modül
-
İşlem dizileri, oturum akışları ve işlem ağları üzerinde derin sahtekarlık modelleri: Transformer/RNN dizi modelleri, autoencoder anomali skorları, GNN ile sahtekarlık halkaları ve GBDT+DL hibrit mimarileri.
- Canlı Kurs
- 5 modül
-
Üretim hattı görüntüleri, akustik/titreşim sinyalleri ve sistem loglarında derin hata tespiti: PatchCore/PaDiM, Anomalib, YOLO/segmentasyon, 1D-CNN/autoencoder ve sadece sağlam örneklerle (one-class) eğitim.
- Canlı Kurs
- 5 modül
-
N-BEATS, N-HiTS, Temporal Fusion Transformer (TFT), PatchTST, DeepAR ve TCN ile çok değişkenli, uzun ufuklu ve olasılıksal zaman serisi tahmini; NeuralForecast ve PyTorch Forecasting ile uygulama.
- Canlı Kurs
- 5 modül
-
Büyük ölçekli derin öneri mimarileri: Two-Tower vektör arama (FAISS/Qdrant), SASRec/BERT4Rec ile oturum dizisi önerileri, DeepFM/DCN-v2/DLRM ile CTR/CVR sıralama ve çok hedefli (MMoE) öğrenme.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
