Eğitimin Amacı ve Kapsamı
Tekil jailbreak denemeleri, üretimdeki bir yapay zeka uygulamasının gerçek bir saldırgan karşısında nasıl davranacağını göstermeye yetmez. Eğitim; kapsam ve angajman kurallarının belirlenmesinden başlayarak hedef keşfi, çok turlu konuşma manipülasyonu, RAG üzerinden dolaylı talimat enjeksiyonu ve agent tool zincirlerinin istismarına uzanan tam kapsamlı bir AI red teaming metodolojisi sunar.
Katılımcılar Microsoft PyRIT, NVIDIA garak ve promptfoo ile otomatik saldırı orkestrasyonunu manuel yaratıcı istismar teknikleriyle birleştirir; eğitim sonunda kurum ortamına uyarlanabilir bir red-team test seti ve bulgu raporlama şablonu üretir.
Kimler Katılmalı?
- Sızma testi (pentest) uzmanları ve kurumsal red team üyeleri
- Uygulama güvenliği (AppSec) ve yapay zeka güvenliği mühendisleri
- Üretim öncesi LLM ve agent sistemlerini doğrulayan AI platform ekipleri
- Ön koşul: Python ile betik yazma ve temel web/API sızma testi bilgisi
Kazanımlar
- Bir yapay zeka red team operasyonu için kapsam, başarı kriteri ve angajman kuralları tanımlamak
- Hedef sistemin model, system prompt, RAG ve tool yüzeyini keşfetmek
- PyRIT ve garak ile çok turlu otomatik saldırı kampanyaları kurgulamak
- Guardrail ve filtre katmanlarını aşan hibrit (manuel + otomatik) istismar zincirleri geliştirmek
- Bulguları CVSS/OWASP bağlamında önceliklendirip düzeltme doğrulama testlerine dönüştürmek
Konular
AI Red Teaming Metodolojisi ve Planlama
- Klasik red teaming, AppSec sızma testi ve güvenlik/emniyet (safety vs security) red teaming farkları
- Kapsam, tehdit aktörü profilleri ve angajman kurallarının belirlenmesi
Keşif ve Saldırı Yüzeyi Haritalama
- Model ailesi parmak izi alma, system prompt ve guardrail davranış analizi
- Bağlı veri kaynakları, tool şemaları ve hata mesajlarından bilgi toplama
Otomatik Saldırı Orkestrasyonu (PyRIT ve garak)
- garak probe'ları ve PyRIT converter/orchestrator mimarisiyle ölçekli tarama
- Saldırgan LLM kullanarak çok turlu (crescendo, tree-of-attacks) senaryolar üretme
RAG ve Agent İstismar Zincirleri
- Zehirli içerik, yetkisiz veri erişimi ve tool zincirleme ile uçtan uca istismar
- Guardrail atlatma (encoding, dil geçişi, payload bölme) laboratuvarı
Raporlama, Yeniden Üretilebilirlik ve Mor Takım Döngüsü
- Olasılıksal çıktılarda başarı oranı (Attack Success Rate) ile kanıt sunumu
- Bulguların blue team/mühendislik ekipleri için CI/CD regresyon testine dönüştürülmesi
Bu Kategorideki Diğer Eğitimler
-
NeMo Guardrails, Guardrails AI, Llama Guard ve deterministik politika motorlarıyla girdi, retrieval, tool calling ve çıktı aşamalarında düşük gecikmeli koruma katmanları (guardrails) tasarlamayı ve işletmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM ve agent uygulamalarında promptfoo, garak ve Inspect AI kullanarak güvenlik değerlendirme (security eval) paketleri oluşturmayı, CI/CD pipeline'larında regresyon kapıları kurmayı ve model/prompt değişikliklerini sürekli test etmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Kurumsal LLM, RAG ve agent platformlarını merkezi AI gateway, ağ ve tenant izolasyonu, KMS/anahtar yönetimi, güvenli MCP entegrasyonu ve denetlenebilir telemetri ile sıfır güven (Zero Trust) ilkelerine göre tasarlamayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Kişisel ve kurumsal gizli verileri dış LLM servislerine sızdırmadan yapay zeka kullanmak için PII maskeleme, tersine çevrilebilir pseudonimizasyon, anonimleştirme ve veri yerelliği (data residency) mimarilerini öğreten kapsamlı eğitim.
- Canlı Kurs
- 5 modül
-
Microsoft Presidio, GLiNER ve Türkçe kural/NER katmanlarını kullanarak LLM API'leri önüne düşük gecikmeli bir PII tespit, maskeleme ve geri çözme (de-pseudonymization) ağ geçidi (gateway) geliştirmeyi öğreten uygulamalı eğitim.
- Canlı Kurs
- 5 modül
-
Canlı müşteri verisini test, analitik ve LLM değerlendirme ortamlarına taşımak yerine k-anonymity, diferansiyel gizlilik (differential privacy) ve SDV/LLM tabanlı sentetik veri üretimiyle güvenli veri setleri oluşturmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
