Eğitimin Amacı ve Kapsamı
Kurumların yüksek maliyetle eğittiği makine öğrenmesi modelleri; yalnızca altyapı açıklarıyla değil, tahmin API'sine gönderilen sorgularla modelin kopyalanması (model extraction), eğitim verisindeki hassas kayıtların çıkarılması (membership inference ve model inversion) veya girdilerin manipüle edilmesiyle hedef alınır. Eğitim, veri toplama aşamasından model sunumuna kadar tüm yaşam döngüsündeki model güvenliği risklerini MITRE ATLAS çerçevesinde bütüncül olarak ele alır.
Katılımcılar bir sınıflandırma ve puanlama modeli üzerinde temel gizlilik ve bütünlük saldırılarını dener; API hız/olasılık kısıtlama, model filigranlama (watermarking) ve güvenli dağıtım kontrollerini içeren kurumsal bir model güvenliği kontrol listesi hazırlar.
Kimler Katılmalı?
- Veri bilimciler, makine öğrenmesi mühendisleri ve yapay zeka mühendisleri
- Model API'lerini dış dünyaya açan backend ve platform ekipleri
- Uygulama güvenliği (AppSec) ve siber güvenlik uzmanları
- Ön koşul: temel Python ve makine öğrenmesi (scikit-learn / PyTorch) bilgisi
Kazanımlar
- MITRE ATLAS matrisini kullanarak bir ML sisteminin gizlilik, bütünlük ve erişilebilirlik risklerini haritalamak
- Sorgu tabanlı model çalma (model extraction / stealing) saldırılarını simüle etmek ve tespit etmek
- Membership inference ve model inversion ile eğitim verisi sızıntı riskini ölçmek
- Tahmin API'lerinde güven skoru yuvarlama, entropi izleme ve sorgu bütçesi kontrolleri uygulamak
- Üretim öncesi modeller için tekrar kullanılabilir bir model güvenliği doğrulama listesi oluşturmak
Konular
ML Tehdit Yüzeyi ve MITRE ATLAS Çerçevesi
- Veri, eğitim, model dosyası ve çıkarım (inference) API'sinde gizlilik, bütünlük ve erişilebilirlik üçgeni
- White-box, grey-box ve black-box tehdit aktörü varsayımları
Model Çalma (Extraction) ve Fikri Mülkiyet Koruması
- Tahmin API'si sorgularıyla vekil (surrogate) model eğitimi ve karar sınırı kopyalama
- Logit/olasılık gizleme, PRADA tarzı sorgu dağılımı analizi ve model watermarking
Model Gizliliği: Membership Inference ve Model Inversion
- Aşırı uyum (overfitting) ile eğitim verisi sızıntısı arasındaki ilişki ve gölge model (shadow model) saldırıları
- Düzenlileştirme (regularization), diferansiyel gizlilik ve çıktı hassasiyeti kısıtlama
Bütünlük ve Erişilebilirlik Tehditlerine Giriş
- Evasion (yanıltma), veri zehirleme ve yüksek maliyetli sponge/gecikme girdileri
- Model serileştirme (pickle vs safetensors/ONNX) ve bütünlük doğrulama kontrolleri
Uygulamalı Model Güvenlik Denetimi
- Örnek bir kredi/risk skorlama modeli üzerinde gizlilik ve çalma saldırısı testi
- Kurum içi kullanım için model güvenlik kontrol listesi ve savunma raporu hazırlama
Bu Kategorideki Diğer Eğitimler
-
FGSM, PGD, Carlini & Wagner, AutoAttack ve kara kutu (black-box) yanıltma saldırılarını IBM Adversarial Robustness Toolbox (ART) ile uygulamalı inceleyen; adversarial training ve sertifikalı dayanıklılık tekniklerini öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Model eğitimi ve fine-tuning veri setlerine yönelik etiket çevirme (label flipping), temiz etiketli zehirleme (clean-label poisoning) ve gizli backdoor/trojan saldırılarını; spektral imza analizi ve veri temizleme ile önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Görüntü, ses, biyometri ve çok modlu derin sinir ağlarında ağırlık ve mimari hırsızlığı, özellik geri çatma (reconstruction), sponge gecikme saldırıları ve güvenli GPU/Triton dağıtımını uçtan uca ele alan kapsamlı eğitim.
- Canlı Kurs
- 5 modül
-
Veri hazırlama, Jupyter çalışma alanları, MLflow, Kubeflow, model registry, CI/CD ve KServe/Kubernetes çıkarım kümelerini kapsayan MLOps yaşam döngüsünü Sigstore/Cosign, ModelScan ve sıfır güven kontrolleriyle güvenceye almayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
OWASP Top 10 for LLM Applications listesindeki tüm kritik riskleri, doğrudan ve dolaylı prompt injection saldırılarını, güvensiz çıktı işleme, model DoS ve aşırı maliyet risklerini güvenli yazılım geliştirme (SSDLC) perspektifiyle öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Klasik makine öğrenmesi, derin öğrenme ve LLM API'lerine karşı MITRE ATLAS, Counterfit, ART, garak ve PyRIT araçlarıyla uçtan uca model sızma testi (pentest) yürütmeyi ve teknik bulgu raporu hazırlamayı öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
