Eğitimin Amacı ve Kapsamı
Üretime alınan her model API'si; yetkisiz erişim, kaynak tüketimi (DoS), zararlı model artefaktları, veri sızıntısı ve model kopyalama (model extraction) gibi saldırı yüzeyleri açar. Bu program, klasik API ve container güvenliğini OWASP ML/LLM güvenlik riskleriyle birleştirerek model sunum katmanını sertleştirmeyi öğretir.
Uygulamalarda OAuth2/JWT ve mTLS ile kimlik doğrulama, girdi doğrulama ve rate limiting, pickle kaynaklı risklere karşı safetensors ve model imzalama, PII maskeleme ve audit log yapısı kurulur. Eğitim, kurumun kendi servis mimarisi üzerinde yapılan tehdit modellemesi ve güvenlik kontrol listesiyle tamamlanır.
Kimler Katılmalı?
- Model API'lerini geliştiren ve işleten ML, MLOps ve backend mühendisleri
- Yapay zeka servislerini denetleyen uygulama güvenliği (AppSec) ve DevSecOps uzmanları
- Regüle sektörlerde veri gizliliği ve altyapı güvenliğinden sorumlu platform mühendisleri
- Ön koşul: REST API, Docker ve temel ağ/güvenlik kavramlarına aşinalık
Kazanımlar
- Model sunum mimarisi için tehdit modellemesi (STRIDE ve OWASP ML/LLM Top 10) yapmak
- Inference endpoint'lerini OAuth2/JWT, mTLS, API gateway ve rate limiting ile korumak
- Zararlı model dosyalarına karşı güvenli formatlar, tarama araçları ve imzalama kullanmak
- Adversarial girdi, model extraction ve prompt injection girişimlerine karşı guardrail uygulamak
- Tahmin loglarında PII maskeleme ve KVKK uyumlu denetim izi (audit trail) kurgulamak
Konular
Inference Katmanında Tehdit Modellemesi
- OWASP Top 10 for ML ve LLM Applications perspektifinden saldırı yüzeyleri
- Veri, model artefaktı, çalışma zamanı ve ağ katmanı tehdit analizi
Kimlik Doğrulama, Yetkilendirme ve Ağ Güvenliği
- API gateway, OAuth2/JWT, API key rotasyonu ve rol bazlı erişim kontrolü
- Servisler arası mTLS, private endpoint ve ağ izolasyonu
- Token/istek bazlı rate limiting, kota ve payload boyutu sınırları
Model Artefaktı ve Tedarik Zinciri Güvenliği
- Pickle deserialization saldırıları, Fickling/ModelScan ile tarama ve safetensors geçişi
- Sigstore/Cosign ile model ve container image imzalama
- Rootless container, distroless base image ve secret yönetimi
Modele Yönelik Saldırılar ve Guardrail Katmanı
- Model extraction (kopyalama), membership inference ve adversarial örnekler
- Çıktı olasılıklarını sınırlandırma, anomali tespiti ve sorgu bütçesi
- LLM servislerinde prompt injection filtreleri ve çıktı doğrulama
Veri Gizliliği, Loglama ve Güvenlik Kontrol Listesi
- İstek/yanıt loglarında PII tespiti, maskeleme ve KVKK gereksinimleri
- Denetim izi (audit logging) ve olay müdahale hazırlığı
- Kurum mimarisi üzerinde güvenlik sertleştirme incelemesi
Bu Kategorideki Diğer Eğitimler
-
TensorFlow ve Keras modellerini SavedModel formatında dışa aktarma, SignatureDef tanımlama ve TensorFlow Serving ile REST/gRPC üzerinden yayına alma. Modellerini üretime taşımaya başlayan veri bilimciler ve ML mühendisleri için.
- Canlı Kurs
- 5 modül
-
TensorFlow Serving'de çoklu model yönetimi, dynamic batching, XLA/TensorRT ve mixed precision hızlandırma, GPU bellek ayarı, Prometheus metrikleri ve özel servable mimarisi. Yüksek trafikli TF servislerini işleten mühendisler için.
- Canlı Kurs
- 5 modül
-
TensorFlow Serving servislerini Docker ve Kubernetes üzerinde ölçeklenebilir biçimde işletme: nesne depolamadan model çekme, GPU zamanlama, readiness/liveness probe'ları, HPA/KEDA ve KServe entegrasyonu. MLOps ve platform mühendisleri için.
- Canlı Kurs
- 5 modül
-
PyTorch modellerini TorchServe ile üretime alma: özel Handler yazımı, torch-model-archiver ile .mar paketleme, Inference ve Management API kullanımı, worker ve sürüm yönetimi. PyTorch kullanan veri bilimciler ve ML mühendisleri için.
- Canlı Kurs
- 5 modül
-
TorchServe ile çoklu model DAG iş akışları (Workflows), torch.compile/ONNX/TensorRT hızlandırma, çoklu GPU ve büyük model paralel sunumu, özel Prometheus metrikleri ve üretim güvenliği. Kıdemli ML ve MLOps mühendisleri için.
- Canlı Kurs
- 5 modül
-
TorchServe'de dynamic batching ve yüksek hacimli toplu skorlama: batch_size ve max_batch_delay kalibrasyonu, vektörize Handler yazımı, değişken boyutlu girdilerde padding ve kuyruk entegrasyonu. ML ve veri mühendisleri için.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
