Eğitimin Amacı ve Kapsamı
Kurumsal veriye erişen RAG sistemleri ve dış servislerde işlem yapabilen AI agent'lar; klasik uygulama güvenliğinin ötesinde indirect prompt injection, yetkisiz tool calling, vektör veritabanı üzerinden veri sızıntısı ve kontrolsüz otonom eylem riskleri taşır. Bu eğitim; OWASP Top 10 for LLM Applications ve Agentic Security çerçevesinde LLM, RAG ve çoklu agent mimarilerinin güvenliğini ele alır.
Katılımcılar kontrollü laboratuvarda bir LLM/agent uygulamasına red teaming testleri uygular, girdi/çıktı guardrail'leri, belge düzeyinde erişim kontrolü (ACL), MCP/tool yetkilendirmesi ve sandbox izolasyonu kurgulayarak sistemi güvenli hale getirir.
Kimler Katılmalı?
- LLM, RAG ve AI agent uygulamaları geliştiren yapay zeka ve yazılım mühendisleri
- Uygulama güvenliği (AppSec), AI Red Team ve bulut güvenliği uzmanları
- Kurumsal AI platform mimarları ve teknik liderler
- Ön koşul: LLM API'leri, prompt/RAG mimarisi ve web/API geliştirme deneyimi
Kazanımlar
- LLM ve agent mimarilerini OWASP Top 10 for LLM Applications risklerine karşı değerlendirmek
- Direct ve indirect prompt injection ile jailbreak girişimlerine karşı katmanlı savunma kurmak
- RAG pipeline'larında chunk/vektör düzeyinde yetkilendirme (ACL) ve PII maskeleme uygulamak
- Tool calling ve MCP sunucularında en az ayrıcalık, şema doğrulama, sandbox ve insan onayı mekanizmaları işletmek
- Otomatik AI red teaming ve güvenlik değerlendirme (eval) kontrol listesini CI/CD sürecine dahil etmek
Konular
LLM ve Agent Saldırı Yüzeyi (OWASP Top 10 for LLM)
- Prompt injection, hassas veri ifşası, güvensiz çıktı işleme ve excessive agency riskleri
- Model tedarik zinciri: açık ağırlıklı model formatları (safetensors vs pickle) ve adaptör güvenliği
Direct / Indirect Prompt Injection ve Guardrail Mimarisi
- Doküman, web sayfası ve e-posta içinden gelen indirect prompt injection senaryoları
- Sistem/veri ayrımı, girdi/çıktı sınıflandırıcıları, PII filtreleme ve güvenli çıktı ayrıştırma
RAG ve Vektör Veritabanı Güvenliği
- Retrieval aşamasında kullanıcı yetkisine göre filtreleme (document-level ACL) ve kiracı izolasyonu
- Bilgi tabanı zehirlenmesi (knowledge poisoning) ve embedding sızıntısı önlemleri
Agent, Tool Calling ve MCP Güvenliği
- Tool calling ve Model Context Protocol (MCP) entegrasyonlarında kimlik devri (on-behalf-of) ve kapsam kısıtlama
- Kod çalıştırma sandbox'ları, döngü/bütçe sınırları ve kritik aksiyonlarda human-in-the-loop onayı
AI Red Teaming ve Sürekli Güvenlik Doğrulaması
- Promptfoo, Garak ve PyRIT gibi araçlarla otomatik saldırı simülasyonu
- Üretim öncesi AI & Agent güvenlik kontrol listesi ve çalışma zamanı izleme (tracing)
Bu Kategorideki Diğer Eğitimler
-
ISO/IEC 27001:2022 standardı maddeleri, varlık ve risk değerlendirmesi, Ek-A kontrolleri, Uygulanabilirlik Bildirgesi (SoA) ve iç tetkik hazırlığı; ekipler BGYS kurulum ve işletimini yürütür.
- Canlı Kurs
- 5 modül
-
Linux ağ yığını, nftables/iptables, SSH ve yetki sıkılaştırma, SELinux/AppArmor, auditd ve trafik analizi; sistem ve güvenlik mühendisleri üretimdeki Linux sunucularını güvenli biçimde yönetir.
- Canlı Kurs
- 5 modül
-
İzole laboratuvarda statik ve dinamik zararlı yazılım analizi, PE/ELF incelemesi, davranış izleme, unpacking, Ghidra ile kod analizi ve YARA kuralı yazımı; analistler tehditleri deşifre eder.
- Canlı Kurs
- 5 modül
-
(ISC)² CISSP ortak bilgi birikimi (CBK) kapsamındaki 8 güvenlik alanı, risk ve yönetişim perspektifi, mimari tasarım ve senaryo soruları; deneyimli güvenlik profesyonelleri sınava sistemli hazırlanır.
- Canlı Kurs
- 5 modül
-
CIA üçlüsü, güncel tehdit vektörleri, kimlik ve erişim yönetimi, ağ güvenliği ve temel sıkılaştırma pratikleri; BT ve yazılım ekipleri kurumsal sistemlerdeki güvenlik risklerini tanır ve önler.
- Canlı Kurs
- 5 modül
-
NIST SP 800-207 ve CISA Zero Trust olgunluk modeliyle kimlik, cihaz, ağ mikro-segmentasyonu ve sürekli doğrulama mimarisi; altyapı ve güvenlik mimarları kurumsal Zero Trust geçiş planı hazırlar.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
