Eğitimin Amacı ve Kapsamı
Bir agent'a "e-posta okuma" için verilen entegrasyon e-posta silebiliyor, raporlama için açılan veritabanı bağlantısı yazma yetkisi taşıyorsa, tek bir manipüle edilmiş çıktı ciddi zarara dönüşebilir. Eğitim, excessive agency'nin üç boyutunu (fazla işlev, fazla yetki, fazla otonomi) ve meşru tool'ların amaç dışı kullanımını tool calling ve MCP tabanlı örneklerle inceler.
Katılımcılar dar kapsamlı tool tasarımı, şema ve parametre doğrulama, işlem limitleri, human-in-the-loop onayları ve geri alınabilirlik ilkelerini uygular; eğitim sonunda kendi agent'ları için bir agent permission matrisi çıkarır.
Kimler Katılmalı?
- LangGraph, OpenAI Agents SDK veya benzeri framework'lerle agent geliştiren mühendisler
- Copilot Studio ve n8n gibi platformlarda otomasyon kuran ekipler
- Güvenlik mimarları ve uygulama güvenliği uzmanları
- Agent projelerinde risk onayı veren teknik liderler
Kazanımlar
- Mevcut agent'ların tool ve yetki envanterini çıkarmak
- Fazla işlev ve fazla yetki içeren tool'ları yeniden tasarlamak
- Tool parametreleri için doğrulama ve limit kuralları yazmak
- Riskli işlemler için onay ve geri alma akışları tanımlamak
- Rol ve işlem bazlı bir agent permission matrisi hazırlamak
Konular
Excessive Agency'nin Üç Boyutu
- Fazla işlev, fazla yetki, fazla otonomi
- OWASP LLM06 ve agentic uygulamalar için tool misuse riski
Tool Misuse Senaryoları
- Meşru tool'ların zincirlenerek amaç dışı kullanımı
- Maliyet ve kaynak tüketimi saldırıları
Güvenli Tool Tasarımı
- Dar kapsamlı, tek amaçlı tool'lar ve sıkı şemalar
- Parametre doğrulama, rate limit ve işlem kotaları
Onay, Geri Alma ve İnsan Gözetimi
- Risk seviyesine göre human-in-the-loop noktaları
- Dry-run, geri alınabilir işlemler ve audit log
Agent Permission Matrisi Atölyesi
- Agent, tool, işlem ve veri bazında yetki tablosu
- Kurum agent'ları için risk sınıflandırması
Bu Kategorideki Diğer Eğitimler
-
Bilgi tabanına sızdırılan zehirli dokümanların retrieval sonuçlarını ve LLM yanıtlarını nasıl manipüle ettiğini; ingest pipeline kontrolleri, kaynak güven skorlaması ve retrieval anomali izlemesiyle önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Hugging Face gibi kaynaklardan alınan modellerde pickle tabanlı kod çalıştırma, backdoor, lisans ve provenance risklerini; safetensors, ModelScan, model imzalama ve AI-BOM (CycloneDX) ile yönetmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Otonom agent'larda kimlik yönetimi, OAuth 2.0 On-Behalf-Of delegasyonu, dinamik kapsam daraltma ve OPA/Cedar tabanlı yetkilendirme politikalarıyla confused deputy ve yetki yükseltme risklerini önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
MITRE ATLAS, OWASP Top 10 for LLM ve Agentic AI çerçeveleriyle STRIDE yöntemini birleştirerek LLM, RAG ve agent mimarileri için uçtan uca AI threat model, güven sınırı diyagramı ve kontrol matrisi üretmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM, RAG ve agent sistemlerine karşı PyRIT, garak ve promptfoo kullanarak senaryo tabanlı saldırı kampanyaları yürütmeyi, çok turlu istismar zincirleri kurmayı ve bulguları yeniden üretilebilir bir red team raporuyla sunmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
NeMo Guardrails, Guardrails AI, Llama Guard ve deterministik politika motorlarıyla girdi, retrieval, tool calling ve çıktı aşamalarında düşük gecikmeli koruma katmanları (guardrails) tasarlamayı ve işletmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
