Eğitimin Amacı ve Kapsamı
Yüksek doğruluklu ViT, segmentasyon veya büyük tespit modelleri; bulut GPU faturalarını şişirir veya gecikme (latency) SLA'larını aşar. Sadece basit model dışa aktarma (export) yetmediğinde modelin mimarisini ve ağırlıklarını sıkıştırmak gerekir. Bu program; teacher-student knowledge distillation, kanal/katman bazlı yapısal pruning ve Quantization-Aware Training (QAT) tekniklerini derinlemesine ele alır.
PyTorch Profiler, Torch-Pruning ve NVIDIA ModelOpt ile FLOPs, bellek bant genişliği (memory-bound vs compute-bound) ve katman bazlı hassasiyet analizi uygulamalı olarak çalışılır. Katılımcılar kendi büyük modellerini hedef gecikme ve bellek bütçesine sığdıran bir sıkıştırma pipeline'ı oluşturur.
Kimler Katılmalı?
- Büyük bilgisayarlı görü ve foundation modelleri optimize eden yapay zeka mühendisleri
- Çıkarım maliyetini (inference cost) ve gecikmeyi düşürmekten sorumlu derin öğrenme uzmanları
- Yüksek trafikli görsel API'ler veya kısıtlı donanımlar için model geliştiren Ar-Ge ekipleri
- Ön koşul: PyTorch ile model eğitimi ve CNN/ViT mimarilerine hakimiyet
Kazanımlar
- PyTorch Profiler ve roofline analizi ile modeldeki gerçek darboğazı (compute vs memory) tespit etmek
- Büyük bir teacher modelden (ör. DINOv2/SAM/büyük YOLO) hafif bir student modele knowledge distillation uygulamak
- Yapısal (channel/filter) pruning ile gerçek donanım hızlanması sağlayıp fine-tuning ile doğruluğu geri kazanmak
- PTQ'nun doğruluk kaybettirdiği modellerde Quantization-Aware Training (QAT) kurgulamak
- Doğruluk, gecikme (ms), throughput (FPS) ve VRAM kullanımı arasında Pareto-optimal model ailesi üretmek
Konular
Performans Profilleme ve Roofline Analizi
- Parametre sayısı ve FLOPs neden gerçek gecikmeyi (latency) tek başına açıklamaz?
- PyTorch Profiler, CUDA kernel süreleri ve memory-bound vs compute-bound operatörler
Knowledge Distillation (Bilgi Damıtma)
- Logit tabanlı (response-based) ve ara katman özellik tabanlı (feature-based) distillation
- Tespit ve segmentasyon görevlerinde foundation modellerden hafif backbone'lara bilgi aktarımı
Yapısal ve Yapısal Olmayan Budama (Pruning)
- Unstructured sparsity (2:4) ile structured channel/head pruning farkı
- L1/Taylor önem skorları, bağımlılık grafiği (Torch-Pruning) ve budama sonrası yeniden eğitim
Quantization-Aware Training (QAT) ve Karma Hassasiyet
- Fake-quantization düğümleri, Straight-Through Estimator (STE) ve ağırlık/aktivasyon ölçekleme
- Hassas katmanları FP16'da tutup geri kalanını INT8/INT4'e indiren mixed-precision stratejileri
Verimli Mimari Tasarımı ve Derleyici Optimizasyonları
- Depthwise separable convolution, RepVGG (structural re-parameterization) ve token pruning (ViT)
- torch.compile, operator fusion ve doğruluk-gecikme Pareto eğrisi raporlama
Bu Kategorideki Diğer Eğitimler
-
Computer Vision (Bilgisayarlı Görü)
Klasik görüntü işleme tekniklerinden PyTorch tabanlı CNN, Vision Transformer (ViT), Swin Transformer ve ConvNeXt mimarilerine uzanan kapsamlı Computer Vision eğitimi. YOLO ve DETR ile nesne tespiti, SAM ve U-Net ile segmentasyon, video analizi, 3D görüntü işleme (NeRF, Gaussian Splatting), Diffusion modelleri ve ONNX/TensorRT ile model dağıtım süreçlerini uygulamalı olarak kapsar.
- Canlı Kurs
- 13 modül
-
Dijital görüntü temelleri, OpenCV ile filtreleme ve özellik çıkarımı, sınıflandırma/tespit/segmentasyon görev tipleri ve hazır modellerle ilk prototip; bilgisayarlı görü use case'lerini doğru kurgulamak isteyen teknik ekipler için.
- Canlı Kurs
- 5 modül
-
PyTorch ile CNN mimarileri (ResNet, EfficientNet, ConvNeXt), transfer learning, data augmentation ve eğitim döngüsü; kurumsal görüntü verisi üzerinde sınıflandırma modeli eğitip değerlendirmek isteyen geliştirici ve veri bilimciler için.
- Canlı Kurs
- 5 modül
-
Self-supervised öğrenme (DINOv2), foundation modeller (SAM 2, Grounding DINO), sentetik veri, active learning ve büyük ölçekli eğitim; üretimde zor görsel problemlerle uğraşan deneyimli bilgisayarlı görü mühendisleri için.
- Canlı Kurs
- 5 modül
-
YOLO, RT-DETR ve Mask R-CNN ile nesne tespiti ve instance segmentation; veri etiketleme, eğitim, mAP ile değerlendirme ve tracking entegrasyonu dahil uçtan uca bir detection/segmentation prototipi geliştirmek isteyen ekipler için.
- Canlı Kurs
- 5 modül
-
Computer Vision Bootcamp
Klasik görüntü işleme tekniklerinden PyTorch tabanlı CNN, Vision Transformer (ViT), Swin Transformer ve ConvNeXt mimarilerine uzanan kapsamlı Computer Vision Bootcamp programı. YOLO ve DETR ile nesne tespiti, SAM ve U-Net ile segmentasyon, video analizi, 3D görüntü işleme (NeRF, Gaussian Splatting), Diffusion modelleri ve ONNX/TensorRT ile model dağıtım süreçlerini uygulamalı projelerle kapsar.
- Canlı Kurs
- 13 modül
Bizimle iletişime geçin
