Eğitimin Amacı ve Kapsamı
Yapay zeka sistemleri yalnızca kazara hata yapmaz; kötü niyetli kullanıcılar tarafından manipüle edilebilir, kurumsal veriyi sızdırabilir veya zararlı içerik üretmeye zorlanabilir. Bu eğitim, yapay zeka etiği (kasıtsız zararlar, manipülasyon, otonomi kaybı) ile yapay zeka güvenliği (AI Safety & Security) kavramlarını iş, uyum ve güvenlik liderleri için tek bir çerçevede birleştirir.
OWASP Top 10 for LLM Applications başlıkları, doğrudan ve dolaylı prompt injection, jailbreak, veri zehirleme (data poisoning), deepfake dolandırıcılığı ve aşırı agent yetkisi iş dünyası örnekleriyle incelenir. Katılımcılar kurumsal senaryolar üzerinde tehdit modellemesi yapar ve red teaming ile guardrail gereksinimlerini tanımlar.
Kimler Katılmalı?
- Bilgi güvenliği (CISO), siber güvenlik yönetişimi ve kurumsal risk yöneticileri
- Yapay zeka ürünleri geliştiren veya dışa açık bot/agent devreye alan iş liderleri
- Hukuk, uyum, iç kontrol ve sahtecilik önleme (fraud) ekipleri
- Teknik ekiplerle güvenlik gereksinimlerini konuşan ürün ve proje yöneticileri
Kazanımlar
- Etik zararlar (ayrımcılık, manipülasyon) ile güvenlik tehditleri (saldırı, sızıntı) arasındaki kesişimi analiz edebilir
- OWASP Top 10 for LLM Applications risklerini iş etkisi açısından yorumlayabilir
- Doğrudan ve dolaylı prompt injection ile aşırı agent yetkisi senaryolarını fark edebilir
- Canlıya geçiş öncesi red teaming ve adversarial test beklentilerini tanımlayabilir
- Girdi/çıktı guardrail'leri, yetki kısıtlama ve içerik filtreleme politikalarını belirleyebilir
Konular
Yapay Zeka Etiği, AI Safety ve AI Security Ayrımı
- Kasıtsız algoritmik zarar, sistemik güvenlik (safety) ve kötü niyetli saldırı (security)
- Manipülatif tasarım, karanlık örüntüler, bilişsel bağımlılık ve etik sınırlar
- Ses ve görüntü klonlama (deepfake) ile kurumsal kimlik avı ve sosyal mühendislik
Yöneticiler İçin OWASP Top 10 for LLM Applications
- Prompt injection (doğrudan ve e-posta/doküman üzerinden dolaylı saldırılar)
- Hassas bilgi ifşası, güvensiz çıktı işleme ve eğitim verisi zehirleme
- Aşırı yetki (excessive agency): araç çağıran agent'ların yanlış yönlendirilmesi
Jailbreak, Toksik İçerik ve Marka İtibarı Riskleri
- Müşteriyle konuşan botların rakip övmesi, bağlayıcı vaat vermesi veya yasaklı konulara girmesi
- Kapsam dışı (off-topic) konuşmaları ve politik/hukuki tuzakları engelleme
Savunma Katmanları: Guardrail'ler ve En Az Yetki İlkesi
- Girdi filtreleme, sistem prompt koruması, çıktı doğrulama ve PII maskeleme
- Agent'larda salt okunur erişim, işlem limitleri ve insan onayı zorunluluğu
Red Teaming Yönetişimi ve Güvenlik Kabul Kriterleri
- Canlıya geçiş öncesi red teaming nasıl planlanır ve kimler katılır?
- Zafiyet bulgularının ciddiyet derecelendirmesi ve kabul kriterleri
Bu Kategorideki Diğer Eğitimler
-
İnovasyonu yavaşlatmadan kurumsal yapay zeka yönetişimi kurmayı; AI varlık envanteri oluşturmayı, risk katmanına göre orantılı onay kapıları (stage-gate) işletmeyi ve yönetim kuruluna raporlama mekanizmalarını öğretir.
- Canlı Kurs
- 5 modül
-
Çalışanların üretken yapay zeka araçlarını güvenli kullanım kurallarını (Acceptable Use Policy), veri gizlilik sınıflandırmasını, yapay zeka geliştirme ve satın alma ilkelerini içeren net ve uygulanabilir bir Kurumsal Yapay Zeka Politikası yazmayı öğretir.
- Canlı Kurs
- 5 modül
-
Yapay zeka sistemlerinde 'sorumluluk boşluğunu' kapatmak için Üç Savunma Hattı (Three Lines of Defence) modelini ve iş sahibi, ürün sahibi, veri/model sorumlusu, uyum, güvenlik ve iç denetim arasındaki RACI matrisini kurgulamayı öğretir.
- Canlı Kurs
- 5 modül
-
Kurumdaki yapay zeka sistemlerini kullanım amacı, otonomi düzeyi, etkilenen kişi grubu, veri hassasiyeti ve AB Yapay Zeka Yasası kriterlerine göre risk katmanlarına (Tier 1-4) ayırmayı ve her katmana uygun zorunlu kontrolleri bağlamayı öğretir.
- Canlı Kurs
- 5 modül
-
AB Yapay Zeka Yasası'nın (EU AI Act) Türkiye'deki kurumlara etkisini, sağlayıcı ve konuşlandırıcı yükümlülüklerini, uyum takvimini ve Madde 4 kapsamındaki zorunlu kurumsal yapay zeka okuryazarlığı (AI Literacy) programını kurgulamayı öğretir.
- Canlı Kurs
- 5 modül
-
Yapay zeka projelerinde KVKK ve GDPR uyumunu, yurt dışı LLM API veri aktarımını, RAG ve prompt'larda kişisel veri maskelemeyi, eğitim verisi telif risklerini, AI çıktılarının fikri mülkiyet sahipliğini ve sözleşme koruma maddelerini öğretir.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
