Eğitimin Amacı ve Kapsamı
RAG sistemleri yanıtlarını bilgi tabanından alır; bu nedenle wiki'ye, paylaşılan klasöre veya taranan web kaynağına eklenen birkaç kötü niyetli doküman, belirli sorularda yanlış ya da zararlı yanıtlar üretmeye yeter. Eğitim; PoisonedRAG tipi hedefli saldırıları, retrieval'ı manipüle etmek için optimize edilmiş metinleri, embedding ve vektör veritabanı zayıflıklarını ve gömülü talimat içeren dokümanları uygulamalı olarak gösterir.
Savunma tarafında ingest pipeline'ında kaynak doğrulama, içerik tarama, provenance metadata'sı, güven skorlu reranking ve retrieval sonuçlarında anomali izleme kurulur.
Kimler Katılmalı?
- RAG pipeline'ı tasarlayan ve işleten yapay zeka mühendisleri
- Bilgi yönetimi ve kurumsal arama platformu ekipleri
- Veri mühendisleri ve platform mühendisleri
- Ön koşul: chunking, embedding ve vektör veritabanı kavramlarına aşinalık
Kazanımlar
- Bir RAG sistemine karşı hedefli zehirleme senaryosu kurgulamak
- Bilgi tabanına giren kaynaklar için güven seviyeleri tanımlamak
- Ingest aşamasında içerik tarama ve provenance kontrolleri uygulamak
- Reranking ve kaynak gösterimiyle zehirli içeriğin etkisini azaltmak
- Retrieval davranışındaki anomalileri izleyen metrikler kurmak
Konular
RAG Saldırı Yüzeyi
- Kaynaklar, ingest, embedding, index ve retrieval adımları
- OWASP'ın vector and embedding weaknesses riski
Zehirleme Teknikleri
- Hedefli soru-cevap zehirleme ve retrieval'ı manipüle eden metinler
- Talimat gömülü dokümanlar ve metadata manipülasyonu
Saldırı Laboratuvarı
- Örnek bir kurumsal bilgi tabanında zehirleme denemesi
- Etki ölçümü: hangi sorular, hangi oranda etkilendi
Güvenli Ingest Pipeline'ı
- Kaynak doğrulama, içerik tarama ve provenance metadata'sı
- Değişiklik onayı ve versiyonlanmış index'ler
Retrieval Katmanında Savunma ve İzleme
- Güven skorlu reranking ve kaynak gösterimi
- Retrieval anomalileri ve yanıt tutarlılığı izleme
Bu Kategorideki Diğer Eğitimler
-
Hugging Face gibi kaynaklardan alınan modellerde pickle tabanlı kod çalıştırma, backdoor, lisans ve provenance risklerini; safetensors, ModelScan, model imzalama ve AI-BOM (CycloneDX) ile yönetmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Otonom agent'larda kimlik yönetimi, OAuth 2.0 On-Behalf-Of delegasyonu, dinamik kapsam daraltma ve OPA/Cedar tabanlı yetkilendirme politikalarıyla confused deputy ve yetki yükseltme risklerini önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
MITRE ATLAS, OWASP Top 10 for LLM ve Agentic AI çerçeveleriyle STRIDE yöntemini birleştirerek LLM, RAG ve agent mimarileri için uçtan uca AI threat model, güven sınırı diyagramı ve kontrol matrisi üretmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM, RAG ve agent sistemlerine karşı PyRIT, garak ve promptfoo kullanarak senaryo tabanlı saldırı kampanyaları yürütmeyi, çok turlu istismar zincirleri kurmayı ve bulguları yeniden üretilebilir bir red team raporuyla sunmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
NeMo Guardrails, Guardrails AI, Llama Guard ve deterministik politika motorlarıyla girdi, retrieval, tool calling ve çıktı aşamalarında düşük gecikmeli koruma katmanları (guardrails) tasarlamayı ve işletmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM ve agent uygulamalarında promptfoo, garak ve Inspect AI kullanarak güvenlik değerlendirme (security eval) paketleri oluşturmayı, CI/CD pipeline'larında regresyon kapıları kurmayı ve model/prompt değişikliklerini sürekli test etmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
