Eğitimin Amacı ve Kapsamı
Kurumsal bir asistanın yanlış kişiye maaş tablosu, müşteri verisi veya API anahtarı göstermesi en sık görülen yapay zeka olaylarındandır. Eğitim, OWASP'ın Sensitive Information Disclosure riskini; eğitim verisi memorization'ı, system prompt'a gömülü sırlar, belge izinlerini yok sayan retrieval, çok kiracılı (multi-tenant) uygulamalarda karışan context ve prompt loglarında biriken kişisel veriler üzerinden ele alır.
Uygulamalarda izin farkındalıklı RAG, çıktı tarafında DLP ve maskeleme, Microsoft Purview gibi sınıflandırma araçlarıyla entegrasyon ve KVKK açısından veri akışı analizi yapılır.
Kimler Katılmalı?
- Kurumsal asistan ve RAG çözümleri geliştiren mühendisler
- Veri güvenliği, DLP ve bilgi güvenliği ekipleri
- Veri koruma ve KVKK uyum sorumluları ile birlikte çalışan teknik ekipler
- Çok kiracılı SaaS ürünlerine LLM özelliği ekleyen ürün ekipleri
Kazanımlar
- Bir LLM uygulamasında hassas verinin izleyebileceği tüm yolları haritalamak
- Belge izinlerini koruyan retrieval filtreleri tasarlamak
- Sırları system prompt'tan çıkarıp güvenli yapılandırmaya taşımak
- Çıktı tarafında DLP ve maskeleme kontrolleri kurmak
- Sızıntı senaryoları için test vakaları ve olay müdahale adımları yazmak
Konular
Hassas Veri İfşasının Kaynakları
- Memorization, system prompt sırları ve context karışması
- Gerçek olaylardan öğrenilen sızıntı örüntüleri
İzin Farkındalıklı RAG
- Belge ACL'lerinin index ve retrieval katmanına taşınması
- Kullanıcı kimliğine göre metadata filtreleme
Multi-Tenant İzolasyon
- Oturum, cache ve memory izolasyonu
- Tenant bazlı index ve anahtar yönetimi
Çıktı Tarafında DLP ve Maskeleme
- Hassas veri sınıflandırma ve yanıt filtreleme
- Microsoft Purview gibi DLP araçlarıyla entegrasyon
Loglar, Telemetri ve KVKK
- Prompt ve yanıt loglarında kişisel veri riski
- Sızıntı tespiti, olay müdahalesi ve bildirim süreçleri
Bu Kategorideki Diğer Eğitimler
-
Agent'lara verilen fazla işlev, fazla yetki ve fazla otonomi risklerini; tool tasarımı, parametre doğrulama, onay akışları ve agent permission matrisi ile kontrol altına almayı OWASP LLM06 ve agentic risk listesi üzerinden öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Bilgi tabanına sızdırılan zehirli dokümanların retrieval sonuçlarını ve LLM yanıtlarını nasıl manipüle ettiğini; ingest pipeline kontrolleri, kaynak güven skorlaması ve retrieval anomali izlemesiyle önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Hugging Face gibi kaynaklardan alınan modellerde pickle tabanlı kod çalıştırma, backdoor, lisans ve provenance risklerini; safetensors, ModelScan, model imzalama ve AI-BOM (CycloneDX) ile yönetmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Otonom agent'larda kimlik yönetimi, OAuth 2.0 On-Behalf-Of delegasyonu, dinamik kapsam daraltma ve OPA/Cedar tabanlı yetkilendirme politikalarıyla confused deputy ve yetki yükseltme risklerini önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
MITRE ATLAS, OWASP Top 10 for LLM ve Agentic AI çerçeveleriyle STRIDE yöntemini birleştirerek LLM, RAG ve agent mimarileri için uçtan uca AI threat model, güven sınırı diyagramı ve kontrol matrisi üretmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM, RAG ve agent sistemlerine karşı PyRIT, garak ve promptfoo kullanarak senaryo tabanlı saldırı kampanyaları yürütmeyi, çok turlu istismar zincirleri kurmayı ve bulguları yeniden üretilebilir bir red team raporuyla sunmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
