Eğitimin Amacı ve Kapsamı
Indirect prompt injection'da saldırgan kullanıcıyla değil, modelin okuduğu içerikle konuşur: bir e-postadaki gizli metin, bir PDF'teki beyaz yazı veya bir tool yanıtı agent'ın davranışını ele geçirebilir. Eğitim; RAG, tarayıcı agent'ları, e-posta asistanları ve MCP entegrasyonlarındaki bu saldırı yüzeylerini, markdown görselleri ve linklerle veri sızdırma zincirlerini adım adım gösterir.
Savunma bölümünde spotlighting/datamarking, dual LLM ve plan-then-execute desenleri, CaMeL yaklaşımı, egress kontrolleri ve insan onayı noktaları tasarlanır. Katılımcılar kendi veri akışları için bir güven sınırı haritası çıkarır.
Kimler Katılmalı?
- RAG ve agent uygulamaları geliştiren yapay zeka mühendisleri
- Copilot, e-posta ve doküman asistanı entegrasyonlarından sorumlu ekipler
- Güvenlik mimarları ve red team üyeleri
- Ön koşul: LLM uygulama geliştirme ve temel prompt injection bilgisi
Kazanımlar
- Bir sistemdeki tüm güvenilmeyen içerik kaynaklarını envanterlemek
- Doküman, web ve tool çıktısı üzerinden çalışan indirect injection senaryoları kurgulamak
- Markdown ve URL tabanlı veri sızdırma yollarını kapatmak
- Dual LLM veya plan-then-execute desenini bir agent'a uygulamak
- Güvenilmeyen içeriğin tetikleyebileceği işlemler için onay kuralları tanımlamak
Konular
Güvenilmeyen İçerik ve Güven Sınırları
- Web, e-posta, doküman, RAG ve tool çıktıları
- Veri ile talimat ayrımının kaybolması
Saldırı Vektörleri
- Gizli metin, metadata ve görsel içine gömülü talimatlar
- MCP tool açıklamaları ve tool yanıtları üzerinden injection
Veri Sızdırma Zincirleri
- Markdown görselleri, linkler ve tool çağrılarıyla exfiltration
- Bir e-posta asistanında uçtan uca saldırı laboratuvarı
Mimari Savunma Desenleri
- Spotlighting ve datamarking
- Dual LLM, plan-then-execute ve CaMeL yaklaşımı
Operasyonel Kontroller
- Egress kısıtları, URL allowlist'leri ve çıktı render politikaları
- İnsan onayı ve işlem bazlı risk eşikleri
Bu Kategorideki Diğer Eğitimler
-
LLM uygulamalarında memorization, system prompt'taki sırlar, yetkisiz RAG erişimi, tenant'lar arası sızıntı ve loglar yoluyla oluşan hassas veri ifşasını; izin farkındalıklı retrieval ve DLP kontrolleriyle önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Agent'lara verilen fazla işlev, fazla yetki ve fazla otonomi risklerini; tool tasarımı, parametre doğrulama, onay akışları ve agent permission matrisi ile kontrol altına almayı OWASP LLM06 ve agentic risk listesi üzerinden öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Bilgi tabanına sızdırılan zehirli dokümanların retrieval sonuçlarını ve LLM yanıtlarını nasıl manipüle ettiğini; ingest pipeline kontrolleri, kaynak güven skorlaması ve retrieval anomali izlemesiyle önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Hugging Face gibi kaynaklardan alınan modellerde pickle tabanlı kod çalıştırma, backdoor, lisans ve provenance risklerini; safetensors, ModelScan, model imzalama ve AI-BOM (CycloneDX) ile yönetmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Otonom agent'larda kimlik yönetimi, OAuth 2.0 On-Behalf-Of delegasyonu, dinamik kapsam daraltma ve OPA/Cedar tabanlı yetkilendirme politikalarıyla confused deputy ve yetki yükseltme risklerini önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
MITRE ATLAS, OWASP Top 10 for LLM ve Agentic AI çerçeveleriyle STRIDE yöntemini birleştirerek LLM, RAG ve agent mimarileri için uçtan uca AI threat model, güven sınırı diyagramı ve kontrol matrisi üretmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
