Eğitimin Amacı ve Kapsamı
Tek bir system prompt kuralına veya tek bir içerik filtresine güvenmek kurumsal LLM uygulamalarını koruyamaz; etkili savunma girdi, context/retrieval, tool yürütme ve çıktı katmanlarında birbirini tamamlayan deterministik ve model tabanlı kontroller gerektirir. Eğitim; Llama Guard, Azure AI Content Safety, NeMo Guardrails ve Guardrails AI gibi araçlarla çok katmanlı guardrail mimarisi kurmayı ve politika ihlallerini çalışma zamanında engellemeyi kapsar.
Uygulamalarda senkron ve asenkron (streaming) denetim desenleri, gecikme bütçesi optimizasyonu ve yanlış pozitif/negatif dengesi üzerinde çalışılır; katılımcılar kendi uygulamaları için bir guardrail ve policy enforcement planı hazırlar.
Kimler Katılmalı?
- LLM ve agent uygulamalarını üretime taşıyan yapay zeka ve backend mühendisleri
- Kurumsal AI gateway ve platform altyapısını geliştiren ekipler
- Uygulama güvenliği mühendisleri ve güvenlik mimarları
- Ön koşul: Python ile servis geliştirme ve LLM API entegrasyonu deneyimi
Kazanımlar
- Girdi, retrieval, tool calling ve çıktı noktaları için derinlemesine savunma katmanları tasarlamak
- Deterministik kural motorları ile küçük sınıflandırıcı ve yargıç LLM'leri birlikte konumlandırmak
- NeMo Guardrails veya Guardrails AI ile konu kısıtlama ve şema doğrulama kuralları yazmak
- Streaming yanıtlarda gecikmeyi artırmadan paralel guardrail denetimi kurgulamak
- Yanlış engelleme (false positive), kaçırma (false negative) ve p95 gecikme metriklerini ölçmek
Konular
Derinlemesine Savunma ve Guardrail Mimarisi
- Girdi, context, tool çağrısı ve çıktı aşamalarında kontrol noktaları
- Deterministik kurallar, BERT/DeBERTa sınıflandırıcıları ve LLM-as-a-judge katmanlarının görev paylaşımı
Girdi ve Konu Kontrol Katmanları
- Prompt injection, toksik içerik ve rakip/yasaklı konu tespiti
- NeMo Guardrails (Colang) ve Llama Guard ile diyalog sınırlandırma
Çıktı Doğrulama ve Halüsinasyon / Politika Denetimi
- Guardrails AI ile yapılandırılmış çıktı, format ve iş kuralı doğrulaması
- Kaynak dokümana dayanaklılık (groundedness) ve PII/sır sızıntısı filtreleri
Tool Calling ve Aksiyon Politikaları
- Çalışma zamanında parametre şeması, iş kuralı ve limit denetimi
- Güvenli fallback yanıtları, devre kesici (circuit breaker) ve eskalasyon akışları
Performans, Streaming ve Operasyonel İzleme
- Streaming yanıtlarda chunk bazlı asenkron denetim ve gecikme optimizasyonu
- Guardrail telemetrisi, bypass analizi ve kural güncelleme döngüsü
Bu Kategorideki Diğer Eğitimler
-
LLM ve agent uygulamalarında promptfoo, garak ve Inspect AI kullanarak güvenlik değerlendirme (security eval) paketleri oluşturmayı, CI/CD pipeline'larında regresyon kapıları kurmayı ve model/prompt değişikliklerini sürekli test etmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Kurumsal LLM, RAG ve agent platformlarını merkezi AI gateway, ağ ve tenant izolasyonu, KMS/anahtar yönetimi, güvenli MCP entegrasyonu ve denetlenebilir telemetri ile sıfır güven (Zero Trust) ilkelerine göre tasarlamayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Kişisel ve kurumsal gizli verileri dış LLM servislerine sızdırmadan yapay zeka kullanmak için PII maskeleme, tersine çevrilebilir pseudonimizasyon, anonimleştirme ve veri yerelliği (data residency) mimarilerini öğreten kapsamlı eğitim.
- Canlı Kurs
- 5 modül
-
Microsoft Presidio, GLiNER ve Türkçe kural/NER katmanlarını kullanarak LLM API'leri önüne düşük gecikmeli bir PII tespit, maskeleme ve geri çözme (de-pseudonymization) ağ geçidi (gateway) geliştirmeyi öğreten uygulamalı eğitim.
- Canlı Kurs
- 5 modül
-
Canlı müşteri verisini test, analitik ve LLM değerlendirme ortamlarına taşımak yerine k-anonymity, diferansiyel gizlilik (differential privacy) ve SDV/LLM tabanlı sentetik veri üretimiyle güvenli veri setleri oluşturmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM ve agent sistemlerinin OpenTelemetry, Langfuse ve SIEM loglarında biriken kişisel verileri temizlemeyi; saklama süresi, erişim kontrolü, silme/unutulma hakkı ve KVKK uyum gereksinimlerini mühendislik düzeyinde uygulamayı öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
