Eğitimin Amacı ve Kapsamı
İnsan gözünün fark edemeyeceği kadar küçük, matematiksel olarak hesaplanmış gürültüler (adversarial perturbations) veya tablosal özellik değişimleri; görüntü tanıma, dolandırıcılık tespiti ve zararlı yazılım sınıflandırma modellerinin tamamen yanlış kararlar vermesine yol açabilir. Eğitim, çıkarım zamanı yanıltma (evasion) saldırılarının optimizasyon temellerini ve dayanıklı (robust) model mühendisliğini derinlemesine ele alır.
Katılımcılar PyTorch ve IBM Adversarial Robustness Toolbox (ART) kullanarak white-box (FGSM, PGD, C&W, AutoAttack) ve black-box (HopSkipJump, Square Attack, transferability) saldırıları uygular; adversarial training, girdi dönüşümleri ve randomized smoothing ile modellerin dayanıklılığını ölçüp güçlendirir.
Kimler Katılmalı?
- Bilgisayarlı görü, sahtecilik/dolandırıcılık tespiti ve siber güvenlik modelleri geliştiren veri bilimciler
- Derin öğrenme ve makine öğrenmesi mühendisleri
- Yapay zeka güvenliği araştırmacıları ve model doğrulama ekipleri
- Ön koşul: PyTorch veya TensorFlow deneyimi ve gradyan tabanlı optimizasyon bilgisi
Kazanımlar
- L2 ve L-sonsuz norm kısıtları altında FGSM, PGD ve Carlini & Wagner saldırıları üretmek
- Gradyan erişimi olmayan kara kutu API'lere karşı sorgu ve transfer tabanlı yanıltma saldırıları kurgulamak
- Tablosal iş kurallarını (domain constraints) bozmayan gerçekçi adversarial örnekler oluşturmak
- Madry PGD-AT ve TRADES yöntemleriyle adversarial training uygulayarak doğruluk-dayanıklılık dengesini yönetmek
- AutoAttack ve IBM ART ile bir modelin adversarial dayanıklılık eğrisini (robustness curve) raporlamak
Konular
Adversarial Örneklerin Geometrisi ve Optimizasyon Formülasyonu
- Karar sınırları, Lp norm kısıtları (L0, L2, L-infinity) ve hedefli vs hedefsiz saldırılar
- Görüntü, ses ve kısıtlı tablosal (finans/güvenlik) verilerde saldırı uzayı farkları
White-Box Gradyan Tabanlı Saldırılar
- FGSM, BIM, Projected Gradient Descent (PGD) ve Carlini & Wagner (C&W) uygulamaları
- Gradyan maskeleme (obfuscated gradients) yanılsaması ve AutoAttack ile güvenilir değerlendirme
Black-Box, Transfer ve Fiziksel Dünya Saldırıları
- Vekil (surrogate) model üzerinden transferability, Square Attack ve HopSkipJump sorgu saldırıları
- Kamera ve sensör sistemlerine karşı fiziksel adversarial patch tasarımı
Savunma Mekanizmaları: Adversarial Training ve Sertifikalı Dayanıklılık
- Min-max optimizasyonu, PGD Adversarial Training ve TRADES ile model eğitimi
- Randomized smoothing ile sertifikalı yarıçap garantisi ve girdi ön işleme / anomali tespiti
IBM ART ile Kurumsal Dayanıklılık Test Paketi
- Adversarial Robustness Toolbox (ART) ile mevcut bir kurum modelinin dayanıklılık denetimi
- Temiz doğruluk (clean accuracy) vs bozulma bütçesi altında robust accuracy raporlaması
Bu Kategorideki Diğer Eğitimler
-
Model eğitimi ve fine-tuning veri setlerine yönelik etiket çevirme (label flipping), temiz etiketli zehirleme (clean-label poisoning) ve gizli backdoor/trojan saldırılarını; spektral imza analizi ve veri temizleme ile önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Görüntü, ses, biyometri ve çok modlu derin sinir ağlarında ağırlık ve mimari hırsızlığı, özellik geri çatma (reconstruction), sponge gecikme saldırıları ve güvenli GPU/Triton dağıtımını uçtan uca ele alan kapsamlı eğitim.
- Canlı Kurs
- 5 modül
-
Veri hazırlama, Jupyter çalışma alanları, MLflow, Kubeflow, model registry, CI/CD ve KServe/Kubernetes çıkarım kümelerini kapsayan MLOps yaşam döngüsünü Sigstore/Cosign, ModelScan ve sıfır güven kontrolleriyle güvenceye almayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
OWASP Top 10 for LLM Applications listesindeki tüm kritik riskleri, doğrudan ve dolaylı prompt injection saldırılarını, güvensiz çıktı işleme, model DoS ve aşırı maliyet risklerini güvenli yazılım geliştirme (SSDLC) perspektifiyle öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Klasik makine öğrenmesi, derin öğrenme ve LLM API'lerine karşı MITRE ATLAS, Counterfit, ART, garak ve PyRIT araçlarıyla uçtan uca model sızma testi (pentest) yürütmeyi ve teknik bulgu raporu hazırlamayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Oltalama (phishing) ve zararlı yazılım tespitinden güvenlik açığı önceliklendirme, siber tehdit istihbaratı (CTI) analizi ve SecOps asistanlarına kadar siber güvenlikte makine öğrenmesi ve LLM kullanımını uygulamalı öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
