Eğitimin Amacı ve Kapsamı
System prompt içine 'Kurallara uy ve rakip firmalardan bahsetme' yazmak gerçek bir güvenlik önlemi değildir; kararlı bir kullanıcı veya dolaylı bir prompt injection saldırısı bu talimatları kolayca aşabilir. Bu eğitim, modelin önüne (input rails), arkasına (output rails) ve araç çağrılarının arasına (execution rails) deterministik ve model tabanlı koruma katmanları yerleştirmeyi öğretir.
Katılımcılar Microsoft Presidio, Llama Guard, NeMo Guardrails ve Guardrails AI gibi araçlarla Türkçe/İngilizce PII maskeleme, jailbreak tespiti, konu dışı konuşmayı engelleme ve şema/halüsinasyon doğrulaması kurar; gecikme bütçesini bozmayan bir savunma mimarisi tasarlar.
Kimler Katılmalı?
- Müşteriye veya kurum içine açık LLM uygulamaları geliştiren yapay zeka ve yazılım mühendisleri
- Yapay zeka güvenliği, KVKK uyumu ve risk kontrolünden sorumlu AppSec/DevSecOps ekipleri
- Kurumsal AI gateway ve platform katmanını yöneten mimarlar
- Ön koşul: Python ve temel LLM uygulama mimarisi bilgisi
Kazanımlar
- Doğrudan ve dolaylı (RAG üzerinden gelen) prompt injection girişimlerini giriş katmanında filtrelemek
- Kişisel verileri (PII) modele gitmeden önce maskeleyip yanıt dönerken güvenli şekilde yönetmek
- Asistanı yalnızca izin verilen iş konularıyla ve marka diliyle sınırlandırmak
- Çıktılarda kaynak dışı iddia, rakip önerisi veya hassas veri sızıntısını yakalamak
- Streaming yanıtları ve düşük gecikme hedeflerini bozmadan paralel guardrail mimarisi kurmak
Konular
Derinlemesine Savunma (Defense-in-Depth) Guardrail Mimarisi
- Input, retrieval, tool-execution ve output katmanlarında kontrol noktaları
- Deterministik kurallar, hızlı BERT/SLM sınıflandırıcılar ve LLM tabanlı koruyucular
Girdi Koruma: PII Maskeleme ve Prompt Injection Kalkanı
- Presidio ve özel regex/NER kurallarıyla Türkçe/İngilizce PII anonimleştirme
- Jailbreak ve dolaylı prompt injection tespiti (Llama Prompt Guard, DeBERTa sınıflandırıcılar)
Diyalog ve Konu Sınırlandırma (Topic & Dialog Rails)
- NeMo Guardrails ve embedding tabanlı konu yönlendirme ile konu dışı soruları engelleme
- Hukuki/tıbbi/finansal tavsiye sınırı ve rakip marka filtreleri
Çıktı ve Tool Çağrısı Doğrulama
- Yapısal şema doğrulama, kaynak dokümana sadakat (grounding) ve halüsinasyon kontrolü
- Agent tool çağrılarında parametre sınırı, yetki kontrolü ve yüksek riskli işlemde insan onayı
Gecikme Optimizasyonu, Streaming ve Yanlış Pozitif Yönetimi
- Input guardrail'ı ana LLM çağrısıyla paralel (speculative) koşturarak TTFT'yi koruma
- Streaming çıktılarda chunk bazlı kontrol ve guardrail metriklerinin izlenmesi
Bu Kategorideki Diğer Eğitimler
-
Üretimdeki LLM uygulamalarında çok katmanlı önbellekleme ile maliyet ve gecikmeyi düşürme: sağlayıcı/vLLM prompt caching, Redis ile exact cache, vektör tabanlı semantic caching, kiracı izolasyonu ve cache invalidation.
- Canlı Kurs
- 5 modül
-
Çok adımlı LLM, RAG ve agent uygulamalarında uçtan uca gecikme (E2E latency) yönetimi: SSE streaming UX, paralel retrieval/guardrail/tool yürütme, çıktı daraltma, P95/P99 kuyruk gecikmesi ve hedged request desenleri.
- Canlı Kurs
- 5 modül
-
Üretimdeki LLM ve agent sistemlerine özgü olay yönetimi: halüsinasyon dalgası, prompt injection/veri sızıntısı, sonsuz agent döngüsü ve sağlayıcı kesintilerine müdahale runbook'ları, kill-switch mekanizması ve AI post-mortem.
- Canlı Kurs
- 5 modül
-
Yönetilen bulut platformları (Azure AI Foundry, Amazon Bedrock, Google Vertex AI) ile kurum içi GPU kümelerini hibrit mimaride birleştirme: veri gizliliğine göre yönlendirme, taşınabilir kontratlar, ağ güvenliği ve felaket kurtarma.
- Canlı Kurs
- 5 modül
-
LLM uygulamalarında göz kararı testten (vibe check) ölçülebilir kaliteye geçiş: ilk eval veri setini oluşturma, kural tabanlı kontroller, basit LLM-as-a-judge kullanımı ve Promptfoo ile ilk otomatik değerlendirme raporu.
- Canlı Kurs
- 5 modül
-
LLM değerlendirmelerinin temelini oluşturan yüksek kaliteli golden dataset tasarımı: senaryo matrisi, dokümanlardan sentetik test verisi üretimi ve filtreleme, adversarial/edge case kurgusu, uzman etiketleme ve veri seti bakımı.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
