Eğitimin Amacı ve Kapsamı
Tek yanıt üreten bir sohbet botundan farklı olarak otonom bir agent; alt hedefler planlar, dış kaynakları okur, belleğini günceller ve onlarca adım boyunca kendi kendine karar verir. OWASP Agentic AI (ASI01) kapsamında tanımlanan Agent Goal Hijack saldırısında, süreç sırasında okunan manipüle edilmiş bir veri agent'ın asıl hedefini değiştirerek onu saldırganın amacına hizmet eden çok adımlı bir operasyona dönüştürür.
Eğitim; ReAct ve plan-and-execute döngülerinde hedef saptırma, uzun süreli bellek (long-term memory) zehirleme ve alt agent'lar arası görev bozulmasını canlı laboratuvarlarla inceler; katılımcılar değişmez (immutable) görev sözleşmeleri ve yörünge denetleyicileri (trajectory monitors) tasarlar.
Kimler Katılmalı?
- LangGraph, AutoGen, CrewAI veya özel orkestratörlerle otonom agent geliştiren mühendisler
- Yapay zeka güvenliği uzmanları ve red team üyeleri
- Çok adımlı kurumsal iş akışı otomasyonları tasarlayan AI mimarları
- Ön koşul: agent mimarileri (planlama, memory, tool calling) ve prompt injection bilgisi
Kazanımlar
- Tek adımlı prompt injection ile çok adımlı agent goal hijack arasındaki mimari farkı analiz etmek
- ReAct, refleksiyon ve yeniden planlama (re-planning) döngülerinde hedef saptırma senaryoları kurgulamak
- Kalıcı kullanıcı/oturum belleğine (episodic & semantic memory) yerleşen gecikmeli saldırıları tespit etmek
- İlk kullanıcı niyetini kriptografik veya yapısal olarak kilitleyen plan-then-execute mimarisi kurmak
- Her adımda eylem-hedef uyumunu denetleyen bağımsız bir guardian/judge katmanı entegre etmek
Konular
Otonom Planlama Döngüleri ve ASI01 Agent Goal Hijack
- ReAct, Plan-and-Solve ve refleksiyon mimarilerinde hedef durumunun (goal state) nasıl tutulduğu
- Güvenilmeyen gözlemlerin (observations) yeniden planlama adımında ana hedefi ezmesi
Doğrudan, Dolaylı ve Gecikmeli Hedef Ele Geçirme
- Web araması, takvim daveti, destek bileti ve kod deposu içeriğiyle görev saptırma
- Uzun süreli belleğe (memory poisoning) yazılan kurallarla sonraki oturumları ele geçirme
Saldırı Laboratuvarı: Otonom İş Akışını Saptırma
- Araştırma ve satın alma/onay yapan çok adımlı bir agent'ın hedefini canlı ortamda değiştirme
- Yörünge (trajectory) logları üzerinden kırılma noktasının analizi
Mimari Savunma: Niyet Kilitleme ve Plan-Then-Execute
- Kontrol akışı ile veri akışını ayıran CaMeL ve izole planlayıcı (privileged planner) desenleri
- Bellek yazma (memory write) doğrulaması ve kaynak provenance etiketleme
Çalışma Zamanı Yörünge (Trajectory) ve Niyet Denetimi
- Her tool çağrısını orijinal kullanıcı talebiyle karşılaştıran bağımsız niyet doğrulayıcı (intent verifier)
- Adım bütçesi, sapma skoru (drift score) ve insan onayına düşürme kuralları
Bu Kategorideki Diğer Eğitimler
-
Model Context Protocol (MCP) sunucuları, üçüncü taraf agent tool'ları ve A2A entegrasyonlarındaki tool poisoning, rug pull, gölge (shadowing) ve tedarik zinciri risklerini analiz edip güvenli MCP mimarisi kurmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM ve agent'ların ürettiği Python, SQL, shell veya şablon çıktılarının doğrudan çalıştırılmasından doğan uzaktan kod yürütme (RCE) ve enjeksiyon açıklarını; AST doğrulama ve güvenli çıktı işleme ile önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Kod çalıştıran, dosya işleyen ve tarayıcı kullanan yapay zeka agent'larını Firecracker microVM, gVisor, Kata Containers, WebAssembly ve ağ egress kısıtlamalarıyla güvenli sandbox ortamlarında izole etmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Direct prompt injection, jailbreak teknikleri ve system prompt sızıntısını uygulamalı olarak inceleyen; Prompt Shields, Llama Prompt Guard ve garak ile tespit ve savunma katmanı kurmayı öğreten geliştirici eğitimi.
- Canlı Kurs
- 6 modül
-
Web sayfaları, e-postalar, dokümanlar, RAG kaynakları ve MCP tool çıktıları üzerinden gelen gizli talimatları; veri sızdırma zincirlerini ve spotlighting, dual LLM, CaMeL gibi mimari savunmaları uygulamalı işleyen eğitim.
- Canlı Kurs
- 5 modül
-
LLM uygulamalarında memorization, system prompt'taki sırlar, yetkisiz RAG erişimi, tenant'lar arası sızıntı ve loglar yoluyla oluşan hassas veri ifşasını; izin farkındalıklı retrieval ve DLP kontrolleriyle önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
