Eğitimin Amacı ve Kapsamı
Kurumlar açık kaynak modelleri, dataset'leri ve Python kütüphanelerini hızla projelere alıyor; ancak bir model dosyası yüklendiği anda kod çalıştırabilir, fine-tune edilmiş bir open-weight model gizli bir backdoor taşıyabilir. Eğitim; serileştirme formatları (pickle, safetensors, GGUF), model hub'larında typosquatting, zehirli dataset'ler, bağımlılık zinciri ve lisans riskleri üzerine kuruludur.
Uygulamalarda ModelScan ile model taraması, model imzalama ve doğrulama, onaylı model kataloğu ve CycloneDX ile AI-BOM oluşturma yapılır; katılımcılar kurumları için bir model kabul kontrol listesi hazırlar.
Kimler Katılmalı?
- Açık kaynak ve open-weight modellerle çalışan veri bilimciler ve ML mühendisleri
- Platform ve MLOps ekipleri
- Yazılım tedarik zinciri güvenliğinden sorumlu güvenlik ekipleri
- Model satın alma ve lisans kararlarına katılan teknik liderler
Kazanımlar
- Model dosyası formatlarının güvenlik farklarını açıklamak
- ModelScan gibi araçlarla üçüncü taraf modelleri taramak
- Model ve dataset provenance bilgisini kayıt altına almak
- CycloneDX formatında bir AI-BOM üretmek
- Kurum için model kabul ve onay kontrol listesi oluşturmak
Konular
Yapay Zeka Tedarik Zinciri Haritası
- Modeller, dataset'ler, kütüphaneler ve servis sağlayıcılar
- OWASP ve MITRE ATLAS'ta supply chain riskleri
Model Dosyası Riskleri
- Pickle deserialization ile kod çalıştırma
- safetensors, GGUF ve ONNX formatlarının karşılaştırması
Backdoor'lu ve Manipüle Edilmiş Modeller
- Fine-tuning ile eklenen tetikleyiciler
- Hub'larda typosquatting ve sahte model kartları
Tarama, İmzalama ve Doğrulama
- ModelScan ile tarama ve CI entegrasyonu
- Model imzalama, hash doğrulama ve onaylı model kataloğu
AI-BOM, Lisans ve Provenance
- CycloneDX ile AI-BOM oluşturma
- Model ve dataset lisanslarının değerlendirilmesi
Bu Kategorideki Diğer Eğitimler
-
Otonom agent'larda kimlik yönetimi, OAuth 2.0 On-Behalf-Of delegasyonu, dinamik kapsam daraltma ve OPA/Cedar tabanlı yetkilendirme politikalarıyla confused deputy ve yetki yükseltme risklerini önlemeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
MITRE ATLAS, OWASP Top 10 for LLM ve Agentic AI çerçeveleriyle STRIDE yöntemini birleştirerek LLM, RAG ve agent mimarileri için uçtan uca AI threat model, güven sınırı diyagramı ve kontrol matrisi üretmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM, RAG ve agent sistemlerine karşı PyRIT, garak ve promptfoo kullanarak senaryo tabanlı saldırı kampanyaları yürütmeyi, çok turlu istismar zincirleri kurmayı ve bulguları yeniden üretilebilir bir red team raporuyla sunmayı öğreten eğitim.
- Canlı Kurs
- 5 modül
-
NeMo Guardrails, Guardrails AI, Llama Guard ve deterministik politika motorlarıyla girdi, retrieval, tool calling ve çıktı aşamalarında düşük gecikmeli koruma katmanları (guardrails) tasarlamayı ve işletmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
LLM ve agent uygulamalarında promptfoo, garak ve Inspect AI kullanarak güvenlik değerlendirme (security eval) paketleri oluşturmayı, CI/CD pipeline'larında regresyon kapıları kurmayı ve model/prompt değişikliklerini sürekli test etmeyi öğreten eğitim.
- Canlı Kurs
- 5 modül
-
Kurumsal LLM, RAG ve agent platformlarını merkezi AI gateway, ağ ve tenant izolasyonu, KMS/anahtar yönetimi, güvenli MCP entegrasyonu ve denetlenebilir telemetri ile sıfır güven (Zero Trust) ilkelerine göre tasarlamayı öğreten eğitim.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
