Eğitimin Amacı ve Kapsamı
Yapay zeka politikaları ve ilkeleri ancak test edilebilir iç kontrollere ve bağımsız denetim kanıtlarına bağlandığında güvence sağlar. Bu eğitim, iç kontrol, risk ve iç denetim ekiplerine hem klasik makine öğrenmesi hem de üretken yapay zeka ve agent sistemlerini nasıl denetleyeceklerini adım adım öğretir.
Veri bütünlüğü ve yetkilendirme, model/prompt versiyon kontrolü, değerlendirme (eval) ve guardrail etkinliği, tedarikçi kontrolleri ve insan onayı kanıtları üzerinden bir Risk ve Kontrol Matrisi (RCM) oluşturulur. Uygulamalı atölyede katılımcılar gerçek bir yapay zeka sistemi için İç Denetim Çalışma Programı ve kanıt talep listesi (PBC list) hazırlar.
Kimler Katılmalı?
- İç denetim, BT denetimi ve bağımsız güvence ekipleri
- İç kontrol, operasyonel risk ve uyum (2. savunma hattı) uzmanları
- Denetimlere hazırlanan yapay zeka ürün sahipleri, AI CoE ve MLOps/LLMOps liderleri
- Bilgi güvenliği ve kalite yönetim sistemi denetçileri
Kazanımlar
- Yapay zeka yaşam döngüsü boyunca önleyici ve tespit edici kontrollerden oluşan bir Risk ve Kontrol Matrisi (RCM) kurabilir
- RAG yetki sızıntısı, prompt değişikliği, guardrail atlatma ve göstermelik insan onayı risklerini denetleyebilir
- Tasarım etkinliği (design effectiveness) ile işletim etkinliği (operating effectiveness) testlerini planlayabilir
- Teknik ekiplerden istenecek denetim kanıtlarını (model kartı, eval raporu, override logu, API sözleşmesi) tanımlayabilir
- Denetim bulgularını kök neden ve düzeltici aksiyon planıyla (CAPA) raporlayabilir
Konular
Yapay Zeka Denetim Evreni ve Risk Bazlı Denetim Planlaması
- Kurumdaki yapay zeka denetim evreninin (envanter + gölge kullanımlar) çıkarılması
- Yönetişim denetimi (kurum seviyesi) ile sistem/model bazlı denetim ayrımı
- Yıllık denetim planında hangi yapay zeka sistemlerine öncelik verilmeli?
Katman Bazlı Yapay Zeka Risk ve Kontrol Matrisi (RCM)
- Veri ve RAG katmanı: kaynak onayı, PII temizliği, doküman bazlı erişim yetkisi (ACL)
- Model ve Prompt katmanı: versiyonlama, değişiklik onayı, golden dataset ile regresyon testi
- Çıktı ve Operasyon katmanı: guardrail aktifliği, insan onayı kanıtı, maliyet/kota sınırları
Kontrol Test Teknikleri ve Kanıt (PBC) Toplama
- Tasarım etkinliği ve örneklem üzerinden işletim etkinliği testleri
- Kod yazmadan teknik kanıt okuma: eval skor tabloları, red teaming raporları ve log kayıtları
- Yaygın denetim bulguları: yetkisiz prompt değişikliği, güncellenmeyen RAG dokümanları, %100 otomatik onay
Üçüncü Taraf ve Bulut AI Servislerinin Denetimi
- Tedarikçi sözleşmeleri, SOC 2 / ISO 42001 raporları ve zero-data-retention ayarlarının doğrulaması
- API anahtarı yönetimi, rol bazlı erişim ve fatura/kullanım anomalileri
Denetim Programı, Bulgu Yazımı ve Aksiyon Takibi Atölyesi
- Örnek bir LLM/RAG veya skorlama sistemi için uçtan uca denetim kontrol listesi
- Bulgu kritiklik derecelendirmesi ve yönetim aksiyon planı (CAPA) doğrulama
Bu Kategorideki Diğer Eğitimler
-
Yapay zeka kararlarının uçtan uca izlenebilirliğini (prompt, RAG kaynakları, model versiyonu, insan onayı) sağlamayı; kalite bozulması, halüsinasyon krizi veya veri sızıntısı anında devreye girecek AI olay müdahale oyun kitabını kurmayı öğretir.
- Canlı Kurs
- 5 modül
-
Dünyanın ilk yapay zeka yönetim sistemi standardı ISO/IEC 42001'in Madde 4-10 gereksinimlerini ve Ek A/Ek B kontrollerini kurumda adım adım kurmayı; kapsam, Uygulanabilirlik Bildirgesi (SoA) ve belgelendirme hazırlığını öğretir.
- Canlı Kurs
- 5 modül
-
ISO 19011 denetim ilkeleri doğrultusunda ISO/IEC 42001 Yapay Zeka Yönetim Sistemi (AIMS) iç denetimlerini planlamayı, Madde 4-10 ve Ek A kontrollerinin kanıtlarını sorgulamayı ve uygunsuzluk/düzeltici faaliyet raporu yazmayı öğretir.
- Canlı Kurs
- 5 modül
-
NIST Yapay Zeka Risk Yönetim Çerçevesi'nin (NIST AI RMF 1.0) Govern, Map, Measure ve Manage işlevlerini ve Playbook eylemlerini kurumsal süreçlere uyarlamayı; TEVV uygulamalarını ve hedef risk profilini kurmayı öğretir.
- Canlı Kurs
- 5 modül
-
Mevcut ISO/IEC 27001 Bilgi Güvenliği Yönetim Sistemi'ni (ve ISO 27701'i) mükerrer doküman ve komite yükü yaratmadan ISO/IEC 42001 Yapay Zeka Yönetim Sistemi ile ortak Harmonized Structure üzerinde birleştirmeyi öğretir.
- Canlı Kurs
- 5 modül
-
ISO/IEC 42005 standardı ve AB Yapay Zeka Yasası Temel Haklar Etki Değerlendirmesi (FRIA) doğrultusunda yapay zeka sistemlerinin bireyler, gruplar ve toplum üzerindeki etkilerini analiz etmeyi ve etki değerlendirme raporu hazırlamayı öğretir.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
