Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Veri analizi yapan, grafik çizen, veritabanı sorgulayan veya altyapı otomasyonu yürüten agent'lar sıklıkla çalışma zamanında Python, SQL, Bash veya JavaScript kodu üretip çalıştırır. OWASP LLM05 (Improper Output Handling) ve OWASP Agentic AI (Unexpected Code Execution) kapsamında yer alan bu risk; model çıktısının eval/exec, kabuk komutları veya tarayıcı DOM'una doğrulanmadan aktarılmasıyla tam sistem ele geçirmeye (RCE) dönüşebilir.

Eğitim; kod yorumlayıcı (code interpreter), Text-to-SQL ve otomasyon agent'larındaki gerçek istismar zincirlerini inceler; katılımcılar AST (Abstract Syntax Tree) analizi, parametrik sorgu katmanları, kısıtlı DSL tasarımı ve güvenli yürütme politikaları geliştirir.

Kimler Katılmalı?

  • Kod üreten veya çalıştıran agent'lar (Text-to-SQL, veri analizi, DevOps asistanı) geliştiren mühendisler
  • Uygulama güvenliği (AppSec) mühendisleri ve sızma testi uzmanları
  • Backend ve platform güvenliği ekipleri
  • Ön koşul: Python/JavaScript geliştirme ve temel web/uygulama güvenliği bilgisi

Kazanımlar

  • LLM çıktısının kod, sorgu veya komut yorumlayıcılarına aktığı tüm tehlikeli sink noktalarını tespit etmek
  • Python eval/exec, Pandas/LangChain deneysel araçları ve shell çağrılarındaki RCE vektörlerini kapatmak
  • Text-to-SQL sistemlerinde salt okunur rol, AST sorgu doğrulama ve satır bazlı güvenlik (RLS) uygulamak
  • Serbest kod üretimi yerine kısıtlı bir DSL veya tip güvenli tool şeması tasarlamak
  • Web arayüzlerinde LLM çıktısından kaynaklanan XSS, SSRF ve şablon enjeksiyonunu (SSTI) engellemek

Konular

LLM Çıktısının Koda Dönüştüğü Saldırı Yüzeyleri
  • OWASP LLM05 Improper Output Handling ve Agentic Unexpected Code Execution taksonomisi
  • Prompt injection'dan RCE'ye geçiş: veri analizi, raporlama ve otomasyon agent'larında gerçek vakalar
Python, Shell ve Yorumlayıcı İstismarları
  • eval, exec, subprocess ve Python nesne içgözlemi (introspection) ile sandbox kaçışları
  • AST (Abstract Syntax Tree) ayrıştırma, izinli modül listesi (allowlist) ve tehlikeli çağrı engelleme
Güvenli Text-to-SQL ve Veritabanı Sorgu Üretimi
  • LLM tarafından üretilen SQL/Cypher sorgularında ikinci derece enjeksiyon, yan kanal ve DoS riskleri
  • SQLGlot ile AST doğrulama, salt okunur bağlantı, zaman aşımı ve Row-Level Security (RLS)
Web, Şablon ve Ağ Katmanında Çıktı Güvenliği
  • Markdown/HTML render sürecinde XSS, DOM clobbering ve zararlı link/görsel enjeksiyonu
  • Jinja2/şablon enjeksiyonu (SSTI) ve agent'ın tetiklediği SSRF saldırılarına karşı koruma
Kod Üretimi Yerine Güvenli Tasarım Desenleri
  • Serbest kod yerine bildirimsel (declarative) JSON DSL ve önceden tanımlı fonksiyon şemaları
  • Zorunlu kod yürütme senaryoları için tek kullanımlık izole çalışma ortamlarına (sandbox) devir

Bu Kategorideki Diğer Eğitimler

  • Sandboxing

    Kod çalıştıran, dosya işleyen ve tarayıcı kullanan yapay zeka agent'larını Firecracker microVM, gVisor, Kata Containers, WebAssembly ve ağ egress kısıtlamalarıyla güvenli sandbox ortamlarında izole etmeyi öğreten eğitim.

    Yapay Zeka Güvenliği ve Red Teaming Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Prompt Injection

    Direct prompt injection, jailbreak teknikleri ve system prompt sızıntısını uygulamalı olarak inceleyen; Prompt Shields, Llama Prompt Guard ve garak ile tespit ve savunma katmanı kurmayı öğreten geliştirici eğitimi.

    Yapay Zeka Güvenliği ve Red Teaming Kurumsal
    Canlı Kurs
    6 modül
    İncele
  • Indirect Prompt Injection

    Web sayfaları, e-postalar, dokümanlar, RAG kaynakları ve MCP tool çıktıları üzerinden gelen gizli talimatları; veri sızdırma zincirlerini ve spotlighting, dual LLM, CaMeL gibi mimari savunmaları uygulamalı işleyen eğitim.

    Yapay Zeka Güvenliği ve Red Teaming Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Sensitive Data Exposure

    LLM uygulamalarında memorization, system prompt'taki sırlar, yetkisiz RAG erişimi, tenant'lar arası sızıntı ve loglar yoluyla oluşan hassas veri ifşasını; izin farkındalıklı retrieval ve DLP kontrolleriyle önlemeyi öğreten eğitim.

    Yapay Zeka Güvenliği ve Red Teaming Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • Tool Abuse ve Excessive Agency

    Agent'lara verilen fazla işlev, fazla yetki ve fazla otonomi risklerini; tool tasarımı, parametre doğrulama, onay akışları ve agent permission matrisi ile kontrol altına almayı OWASP LLM06 ve agentic risk listesi üzerinden öğreten eğitim.

    Yapay Zeka Güvenliği ve Red Teaming Kurumsal
    Canlı Kurs
    5 modül
    İncele
  • RAG Poisoning

    Bilgi tabanına sızdırılan zehirli dokümanların retrieval sonuçlarını ve LLM yanıtlarını nasıl manipüle ettiğini; ingest pipeline kontrolleri, kaynak güven skorlaması ve retrieval anomali izlemesiyle önlemeyi öğreten eğitim.

    Yapay Zeka Güvenliği ve Red Teaming Kurumsal
    Canlı Kurs
    5 modül
    İncele

Bizimle iletişime geçin