Eğitimin Amacı ve Kapsamı
Kredi skorlama, dolandırıcılık tespiti, görüntü işleme ve anomali yakalama gibi görevlerde çalışan makine öğrenmesi modelleri; eğitim verisinin zehirlenmesi, karar sınırlarını yanıltan adversarial örnekler veya model ağırlıklarının/verisinin çalınması gibi saldırılara açıktır. Bu ileri seviye program; MITRE ATLAS ve NIST AI 100-2 taksonomisi doğrultusunda ML yaşam döngüsündeki saldırı ve savunma yöntemlerini inceler.
Katılımcılar Python tabanlı laboratuvar ortamında (Adversarial Robustness Toolbox vb. ile) örnek modeller üzerinde evasion, poisoning ve gizlilik saldırılarını dener; adversarial training, veri sanitasyonu ve model izleme kontrollerini uygular.
Kimler Katılmalı?
- Veri bilimciler, makine öğrenmesi ve yapay zeka mühendisleri
- Yapay zeka güvenliği (AI Security) ve Red Team uzmanları
- Kritik karar destek modellerini üretime alan MLOps mühendisleri
- Ön koşul: Python, temel makine öğrenmesi/derin öğrenme modelleri ve PyTorch veya scikit-learn deneyimi
Kazanımlar
- ML boru hatlarındaki tehditleri MITRE ATLAS ve NIST AI 100-2 taksonomisine göre sınıflandırmak
- White-box ve black-box evasion saldırıları (FGSM, PGD, sorgu tabanlı) ile model dayanıklılığını ölçmek
- Eğitim verisindeki poisoning ve backdoor/trojan tetikleyicilerini tespit edip filtrelemek
- Model extraction (model çalma) ve membership inference (veri gizliliği sızıntısı) risklerini analiz etmek
- Adversarial training, girdi doğrulama ve çalışma zamanı anomali tespitiyle modelleri güçlendirmek
Konular
Adversarial ML Taksonomisi ve MITRE ATLAS
- Eğitim zamanı (training-time) ve çıkarım zamanı (inference-time) tehdit yüzeyi
- Saldırgan bilgi düzeyi (white-box, gray-box, black-box) ve MITRE ATLAS vaka analizleri
Evasion Saldırıları ve Adversarial Örnek Üretimi
- Gradyan tabanlı (FGSM, PGD) ve sorgu tabanlı black-box kaçınma saldırıları
- Tablosal verilerde (fraud/kredi modelleri) ve görüntü/metin modellerinde kısıtlı manipülasyon
Data Poisoning ve Backdoor/Trojan Saldırıları
- Etiket çevirme (label flipping), clean-label poisoning ve gizli backdoor tetikleyicileri
- Açık kaynak veri setleri ve önceden eğitilmiş (pre-trained) model ağırlıklarındaki tedarik zinciri riskleri
Model Çalma ve Gizlilik Saldırıları
- Sorgu API'leri üzerinden model extraction (distillation ile kopyalama)
- Membership inference ve model inversion ile eğitim verisi sızıntısının ölçülmesi
Savunma, Dayanıklılık Testi ve İzleme
- Adversarial training, veri sanitasyonu, diferansiyel gizlilik ve API sorgu kısıtlamaları
- ART (Adversarial Robustness Toolbox) ile dayanıklılık değerlendirme raporu ve kontrol listesi
Bu Kategorideki Diğer Eğitimler
-
OWASP Top 10 for LLM & Agentic Applications, direct/indirect prompt injection, RAG veri sızıntısı, MCP/tool calling yetkilendirmesi ve guardrail mimarisi; mühendisler güvenli AI sistemleri kurar.
- Canlı Kurs
- 5 modül
-
ISO/IEC 27001:2022 standardı maddeleri, varlık ve risk değerlendirmesi, Ek-A kontrolleri, Uygulanabilirlik Bildirgesi (SoA) ve iç tetkik hazırlığı; ekipler BGYS kurulum ve işletimini yürütür.
- Canlı Kurs
- 5 modül
-
Linux ağ yığını, nftables/iptables, SSH ve yetki sıkılaştırma, SELinux/AppArmor, auditd ve trafik analizi; sistem ve güvenlik mühendisleri üretimdeki Linux sunucularını güvenli biçimde yönetir.
- Canlı Kurs
- 5 modül
-
İzole laboratuvarda statik ve dinamik zararlı yazılım analizi, PE/ELF incelemesi, davranış izleme, unpacking, Ghidra ile kod analizi ve YARA kuralı yazımı; analistler tehditleri deşifre eder.
- Canlı Kurs
- 5 modül
-
(ISC)² CISSP ortak bilgi birikimi (CBK) kapsamındaki 8 güvenlik alanı, risk ve yönetişim perspektifi, mimari tasarım ve senaryo soruları; deneyimli güvenlik profesyonelleri sınava sistemli hazırlanır.
- Canlı Kurs
- 5 modül
-
CIA üçlüsü, güncel tehdit vektörleri, kimlik ve erişim yönetimi, ağ güvenliği ve temel sıkılaştırma pratikleri; BT ve yazılım ekipleri kurumsal sistemlerdeki güvenlik risklerini tanır ve önler.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
