Eğitimin Amacı ve Kapsamı
Web'den toplanan verilerle, kitle kaynaklı etiketlerle veya kullanıcı geri bildirim döngüleriyle beslenen eğitim ve SFT/LoRA fine-tuning veri setleri, saldırganların küçük bir veri yüzdesini manipüle ederek modelin genel başarımını bozmasına veya yalnızca özel bir tetikleyici (trigger) görüldüğünde devreye giren gizli bir backdoor yerleştirmesine açıktır. Eğitim, eğitim zamanı veri zehirleme saldırılarını ve savunma mühendisliğini kapsar.
Katılımcılar BadNets, clean-label feature collision ve LLM instruction fine-tuning zehirleme senaryolarını laboratuvarda uygular; aktivasyon kümeleme (activation clustering), spektral imzalar, etki fonksiyonları (influence functions) ve Neural Cleanse ile zehirli örnekleri ve arka kapıları tespit eder.
Kimler Katılmalı?
- Model eğitimi ve fine-tuning pipeline'larından sorumlu veri bilimciler ve ML mühendisleri
- Veri toplama, etiketleme ve veri kalitesi altyapısını yöneten veri mühendisleri
- Yapay zeka güvenliği ve model doğrulama uzmanları
- Ön koşul: PyTorch ile model eğitimi/fine-tuning ve temel doğrusal cebir bilgisi
Kazanımlar
- Hedefsiz erişilebilirlik zehirlemesi, hedefli clean-label zehirleme ve backdoor saldırılarını ayırt etmek
- Küçük oranda zehirli örnekle bir sınıflandırıcıya veya LoRA adaptörüne gizli tetikleyici yerleştirmek
- Gizli katman temsillerinde aktivasyon kümeleme ve spektral imza analiziyle zehirli verileri ayıklamak
- Eğitilmiş bir modelde Neural Cleanse ve fine-pruning ile backdoor tespiti ve temizliği yapmak
- Sürekli öğrenen (continual learning / RLHF) sistemler için güvenli veri kabul ve provenance kontrolleri kurmak
Konular
Eğitim Zamanı Saldırı Taksonomisi
- Etiket çevirme (label flipping), bi-level optimizasyon ve erişilebilirlik zehirlemesi
- Clean-label (etiketi doğru görünen) feature collision ve convex polytope saldırıları
Backdoor (Trojan) Saldırıları ve Fine-Tuning Riskleri
- BadNets, görünmez tetikleyiciler ve anlamsal (semantic) backdoor'lar
- LLM instruction tuning (SFT/LoRA) ve DPO/RLHF veri setlerinde hizalama bozma ve uyuyan ajan (sleeper agent) tetikleyicileri
Veri Seti Temizleme ve Anomali Tespiti
- Gizli katman (latent representation) üzerinde Spectral Signatures ve Activation Clustering
- KNN etiket tutarlılığı, TracIn / etki fonksiyonları (influence functions) ile şüpheli örnek tespiti
Model Seviyesinde Backdoor Tespiti ve Onarım
- Neural Cleanse ve STRIP ile tetikleyici tersine mühendisliği
- Fine-pruning, unlearning ve bilgi damıtma (distillation) ile arka kapıların silinmesi
Güvenli Veri Toplama ve Geri Bildirim Döngüsü Tasarımı
- Kullanıcı geri bildirimlerinin üretime alınmadan önce karantina ve altın veri setiyle sınanması
- Veri seti versiyonlama (DVC), kriptografik özet ve etiketleyici güven skorlaması
Bu Kategorideki Diğer Eğitimler
-
Görüntü, ses, biyometri ve çok modlu derin sinir ağlarında ağırlık ve mimari hırsızlığı, özellik geri çatma (reconstruction), sponge gecikme saldırıları ve güvenli GPU/Triton dağıtımını uçtan uca ele alan kapsamlı eğitim.
- Canlı Kurs
- 5 modül
-
Veri hazırlama, Jupyter çalışma alanları, MLflow, Kubeflow, model registry, CI/CD ve KServe/Kubernetes çıkarım kümelerini kapsayan MLOps yaşam döngüsünü Sigstore/Cosign, ModelScan ve sıfır güven kontrolleriyle güvenceye almayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
OWASP Top 10 for LLM Applications listesindeki tüm kritik riskleri, doğrudan ve dolaylı prompt injection saldırılarını, güvensiz çıktı işleme, model DoS ve aşırı maliyet risklerini güvenli yazılım geliştirme (SSDLC) perspektifiyle öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Klasik makine öğrenmesi, derin öğrenme ve LLM API'lerine karşı MITRE ATLAS, Counterfit, ART, garak ve PyRIT araçlarıyla uçtan uca model sızma testi (pentest) yürütmeyi ve teknik bulgu raporu hazırlamayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Oltalama (phishing) ve zararlı yazılım tespitinden güvenlik açığı önceliklendirme, siber tehdit istihbaratı (CTI) analizi ve SecOps asistanlarına kadar siber güvenlikte makine öğrenmesi ve LLM kullanımını uygulamalı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
EDR, NDR ve bulut telemetrisi üzerinde davranışsal makine öğrenmesi, dizi (sequence) modelleri ve grafik analizleriyle zararlı yazılım, fidye yazılımı, C2 iletişimi ve çok adımlı saldırı zincirlerini tespit etmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
