Eğitimin Amacı ve Kapsamı
LLM uygulamalarında hata ayıklama ve kalite izleme amacıyla açılan Langfuse, LangSmith, Arize Phoenix veya uygulama logları; kullanıcıların yazdığı tüm kişisel verileri, finansal bilgileri ve RAG ile çekilen gizli doküman parçalarını düz metin olarak depolayan ikincil bir veri havuzuna dönüşür. Eğitim, gözlemlenebilirlik ve güvenlik denetiminden ödün vermeden loglarda veri minimizasyonu ve KVKK uyumunu sağlamayı öğretir.
Katılımcılar OpenTelemetry Collector işlemcileri, kademeli loglama (metadata-only vs içerik loglama), şifreli ayrık depolama, saklama süresi (TTL) otomasyonu ve ilgili kişi başvurularında log/trace silme iş akışlarını uygulamalı olarak kurar.
Kimler Katılmalı?
- LLMOps, DevOps, SRE ve platform mühendisleri
- Gözlemlenebilirlik (observability) ve log altyapısını yöneten ekipler
- Veri koruma / KVKK uyum ekipleriyle çalışan yazılım ve güvenlik mühendisleri
- Ön koşul: uygulama loglama, OpenTelemetry veya LLMOps izleme araçlarına aşinalık
Kazanımlar
- Mevcut LLM trace, log ve değerlendirme kayıtlarındaki KVKK ve gizlilik risklerini denetlemek
- OpenTelemetry ve LLMOps SDK'larında yazma öncesi (pre-ingestion) PII kazıma (scrubbing) filtreleri kurmak
- Token sayısı, gecikme, maliyet ve güvenlik skoru gibi içeriksiz (zero-content) telemetri şemaları tasarlamak
- Hata ayıklama için gereken tam içerik kayıtlarını ayrı şifreleme anahtarı, RBAC ve kısa TTL ile izole etmek
- Saklama ve imha politikasını kodlayarak KVKK denetimlerine hazır teknik kontrol listesi oluşturmak
Konular
LLM Telemetrisinde Gizli Veri Birikimi Riski
- Prompt, completion, RAG chunk'ları, tool argümanları ve hata stack-trace'lerinde sızan veriler
- Üçüncü taraf SaaS gözlemlenebilirlik araçlarında yurt dışı veri aktarımı ve KVKK yükümlülükleri
Veri Minimizasyonu Odaklı Telemetri Şeması
- İçeriksiz (metadata-only) metrikler: token, gecikme, model adı, guardrail skoru ve içerik hash'i
- Koşullu ve örneklemeli içerik yakalama: yalnızca kullanıcı onayı veya güvenlik ihlali durumunda kayıt
Pre-Ingestion PII Kazıma (Scrubbing) Pipeline'ı
- OpenTelemetry Collector redaction/transform processor ve SDK callback filtreleri
- Langfuse / Arize Phoenix self-hosted kurulumlarında maskelenmiş trace kaydı
Erişim Kontrolü, Şifreleme ve Saklama / İmha Otomasyonu
- Operasyonel telemetri ile hassas içerik kasasının (payload vault) ayrıştırılması ve RBAC
- Log indekslerinde otomatik TTL, soğuk depolama ve kriptografik silme (crypto-shredding)
KVKK Denetim Kanıtları ve İlgili Kişi Başvuruları
- Veri envanteri (VERBİS), aydınlatma metni ve saklama-imha politikası ile log mimarisinin uyumu
- İlgili kişinin silme/erişim talebinde trace, cache ve değerlendirme veri setlerinden kayıt temizleme
Bu Kategorideki Diğer Eğitimler
-
OWASP Agentic AI risk listesinin başında yer alan Agent Goal Hijack saldırılarını; planlama döngüsü, kalıcı bellek (memory) ve çok adımlı görev yürütmede hedef saptırma mekanizmalarını ve niyet doğrulama savunmalarını öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Model Context Protocol (MCP) sunucuları, üçüncü taraf agent tool'ları ve A2A entegrasyonlarındaki tool poisoning, rug pull, gölge (shadowing) ve tedarik zinciri risklerini analiz edip güvenli MCP mimarisi kurmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM ve agent'ların ürettiği Python, SQL, shell veya şablon çıktılarının doğrudan çalıştırılmasından doğan uzaktan kod yürütme (RCE) ve enjeksiyon açıklarını; AST doğrulama ve güvenli çıktı işleme ile önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Kod çalıştıran, dosya işleyen ve tarayıcı kullanan yapay zeka agent'larını Firecracker microVM, gVisor, Kata Containers, WebAssembly ve ağ egress kısıtlamalarıyla güvenli sandbox ortamlarında izole etmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Direct prompt injection, jailbreak teknikleri ve system prompt sızıntısını uygulamalı olarak inceleyen; Prompt Shields, Llama Prompt Guard ve garak ile tespit ve savunma katmanı kurmayı öğreten geliştirici eğitimi.
- Canlı Kurs
- 6 modül
-
Web sayfaları, e-postalar, dokümanlar, RAG kaynakları ve MCP tool çıktıları üzerinden gelen gizli talimatları; veri sızdırma zincirlerini ve spotlighting, dual LLM, CaMeL gibi mimari savunmaları uygulamalı işleyen eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
