Eğitimin Amacı ve Kapsamı
Klasik uygulama tehdit modellemesi, veri ile talimatın aynı kanalda aktığı, olasılıksal karar veren ve otonom tool çağıran LLM sistemlerinin risklerini tek başına yakalayamaz. Eğitim; STRIDE metodolojisini MITRE ATLAS, OWASP Top 10 for LLM Applications ve OWASP Agentic AI tehdit taksonomileriyle genişleterek veri akışı diyagramları üzerinde yeni nesil saldırı yüzeylerini sistematik biçimde ortaya çıkarmayı öğretir.
Kuruma özel uyarlanan vaka çalışmasında katılımcılar; ingest pipeline'ı, vektör veritabanı, model sunumu, memory ve MCP/tool entegrasyonlarını kapsayan eksiksiz bir AI threat model dokümanı ve önceliklendirilmiş azaltım (mitigation) yol haritası hazırlar.
Kimler Katılmalı?
- Güvenlik mimarları ve uygulama güvenliği (AppSec) mühendisleri
- Yapay zeka, RAG ve agent sistemleri tasarlayan yazılım ve platform mühendisleri
- Risk değerlendirme ve güvenli tasarım incelemelerine katılan teknik liderler
- Ön koşul: temel sistem mimarisi ve LLM/RAG bileşenlerine aşinalık
Kazanımlar
- LLM, RAG ve agent bileşenlerini içeren veri akışı ve güven sınırı diyagramları çizmek
- MITRE ATLAS ve OWASP LLM/Agentic risklerini mimari bileşenlerle eşleştirmek
- Veri, model, context window ve tool katmanlarındaki saldırı ağaçlarını oluşturmak
- Riskleri etki, istismar kolaylığı ve geri alınabilirlik kriterleriyle puanlamak
- Tasarım incelemelerinde tekrar kullanılabilecek kurumsal bir AI threat model şablonu üretmek
Konular
Klasik Tehdit Modellemeden AI Threat Modeling'e Geçiş
- Deterministik yazılımlar ile olasılıksal ve otonom sistemlerin farkı
- STRIDE, MITRE ATLAS, OWASP LLM Top 10 ve NIST AI RMF entegrasyonu
Mimari Ayrıştırma ve Güven Sınırları
- System prompt, kullanıcı girdisi, RAG kaynakları, memory ve tool çıktılarının sınıflandırılması
- Ingest, embedding, inference ve aksiyon katmanlarında güven sınırı çizimi
RAG ve Agent Sistemlerinde Saldırı Ağaçları
- Indirect injection, bilgi tabanı zehirleme ve veri sızdırma zincirlerinin modellenmesi
- Çoklu agent iletişiminde yetki aşımı ve hedef saptırma senaryoları
Risk Puanlama ve Azaltım Tasarımı
- Otonomi seviyesi ve işlem geri alınabilirliğini içeren risk değerlendirme matrisi
- Mimari kontroller, guardrail'ler ve insan onayı noktalarıyla risk azaltımı
Uygulamalı AI Threat Model Atölyesi
- Kurumsal bir yapay zeka kullanım senaryosu üzerinde uçtan uca tehdit modelleme
- Tasarım onay süreci için güvenlik gereksinimleri ve kontrol listesinin çıkarılması
Bu Kategorideki Diğer Eğitimler
-
LLM, RAG ve agent sistemlerine karşı PyRIT, garak ve promptfoo kullanarak senaryo tabanlı saldırı kampanyaları yürütmeyi, çok turlu istismar zincirleri kurmayı ve bulguları yeniden üretilebilir bir red team raporuyla sunmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
NeMo Guardrails, Guardrails AI, Llama Guard ve deterministik politika motorlarıyla girdi, retrieval, tool calling ve çıktı aşamalarında düşük gecikmeli koruma katmanları (guardrails) tasarlamayı ve işletmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM ve agent uygulamalarında promptfoo, garak ve Inspect AI kullanarak güvenlik değerlendirme (security eval) paketleri oluşturmayı, CI/CD pipeline'larında regresyon kapıları kurmayı ve model/prompt değişikliklerini sürekli test etmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Kurumsal LLM, RAG ve agent platformlarını merkezi AI gateway, ağ ve tenant izolasyonu, KMS/anahtar yönetimi, güvenli MCP entegrasyonu ve denetlenebilir telemetri ile sıfır güven (Zero Trust) ilkelerine göre tasarlamayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Kişisel ve kurumsal gizli verileri dış LLM servislerine sızdırmadan yapay zeka kullanmak için PII maskeleme, tersine çevrilebilir pseudonimizasyon, anonimleştirme ve veri yerelliği (data residency) mimarilerini öğreten kapsamlı eğitim.
- Canlı Kurs
- 5 modül
-
Microsoft Presidio, GLiNER ve Türkçe kural/NER katmanlarını kullanarak LLM API'leri önüne düşük gecikmeli bir PII tespit, maskeleme ve geri çözme (de-pseudonymization) ağ geçidi (gateway) geliştirmeyi öğreten uygulamalı eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
