Eğitimin Amacı ve Kapsamı
Genel yapay zeka risk çerçeveleri klasik tahminleme modelleri için yeterli olsa da, büyük dil modelleri (LLM), multimodal üretken modeller ve agent'lar uydurma (confabulation/halüsinasyon), telif ihlali, prompt injection ve değer zinciri belirsizliği gibi kendine özgü riskler taşır. NIST AI 600-1 (Generative AI Profile), bu riskleri yönetmek için doğrudan uygulanabilir 200'den fazla somut aksiyon tanımlar.
Bu eğitimde NIST AI 600-1'in tanımladığı 12 üretken yapay zeka risk kategorisi ve Govern, Map, Measure, Manage altındaki GenAI'a özgü kontroller incelenir. Katılımcılar kendi LLM/RAG projeleri için bir GenAI Risk Kontrol Matrisi ve TEVV değerlendirme planı oluşturur.
Kimler Katılmalı?
- Üretken yapay zeka (LLM, RAG, copilot, agent) projelerini yöneten ürün ve yönetişim liderleri
- Model risk yönetimi (MRM), bilgi güvenliği ve kurumsal risk uzmanları
- AI CoE ekipleri, kurumsal mimarlar ve kalite/değerlendirme (eval) sorumluları
- NIST AI RMF yapısını üretken yapay zeka sistemlerine uyarlamak isteyen uyum yöneticileri
Kazanımlar
- NIST AI 600-1'deki 12 üretken yapay zeka risk kategorisini kurumun LLM ve multimodal projeleriyle eşleştirebilir
- Halüsinasyon (confabulation), bilgi bütünlüğü, veri gizliliği ve fikri mülkiyet riskleri için özel NIST aksiyonlarını seçebilir
- Üretken yapay zeka değer zincirinde temel model sağlayıcı ve ince ayar (fine-tuning) sorumluluklarını ayırabilir
- LLM sistemleri için red teaming, RAG doğruluk ölçümü ve içerik kökeni (provenance/watermarking) kontrollerini tanımlayabilir
- Kurum içi GenAI projeleri için NIST AI 600-1 tabanlı zorunlu kontrol listesi hazırlayabilir
Konular
NIST AI 600-1: Üretken Yapay Zekaya Özgü 12 Risk Kategorisi
- Confabulation (halüsinasyon), bilgi bütünlüğü/dezenformasyon, veri gizliliği ve fikri mülkiyet riskleri
- Siber güvenlik/prompt saldırıları, zararlı/toksik içerik, değer zinciri ve bileşen entegrasyon riskleri
- İnsan-AI etkileşimi (aşırı güven/antropomorfizm), çevresel/hesaplama maliyeti ve tehlikeli bilgi (CBRN) riskleri
GOVERN ve MAP: GenAI Değer Zinciri, Lisanslama ve Bağlam Sınırları
- Temel model sağlayıcı, API tüketicisi ve RAG/uygulama katmanı arasındaki sorumluluk paylaşımı
- Kabul edilebilir GenAI kullanım politikaları, eğitim verisi şeffaflığı ve telif kontrolleri
- Hangi iş kararlarında üretken yapay zekanın tek başına kullanılmaması gerektiğinin haritalanması
MEASURE: LLM ve RAG Sistemleri İçin Özelleşmiş TEVV
- Standart benchmark'ların neden kurumsal kullanım bağlamını ölçmeye yetmediği
- Halüsinasyon, groundedness, toksisite, önyargı ve prompt injection dayanıklılığı ölçümleri
- Yapılandırılmış GenAI red teaming ve insan değerlendirici (human eval) protokolleri
MANAGE: Guardrail'ler, İçerik Kökeni (Provenance) ve Canlı Kontrol
- RAG ile kaynak sabitleme, girdi/çıktı filtreleri ve belirsizlik ifadesi kontrolleri
- Sentetik içerik işaretleme (C2PA / dijital filigran ve metadata) ve şeffaflık bildirimleri
- Model versiyon değişimi, prompt drift ve beklenmedik çıktıların canlıda yönetimi
Atölye: Kurumsal LLM / RAG Projesi İçin NIST AI 600-1 Kontrol Matrisi
- Kurumun bir GenAI senaryosu için 12 riskten en kritik olanların seçilmesi
- NIST AI 600-1 aksiyon tablosundan canlıya geçiş öncesi zorunlu kontrol setinin çıkarılması
Bu Kategorideki Diğer Eğitimler
-
Çalışanların onaysız kullandığı yapay zeka araçlarını, tarayıcı eklentilerini ve mevcut SaaS yazılımları içinde sessizce açılan yapay zeka özelliklerini tespit etmeyi; DLP/CASB kontrolleri ve güvenli kurum içi alternatiflerle yönetmeyi öğretir.
- Canlı Kurs
- 5 modül
-
Adalet, şeffaflık, hesap verebilirlik, gizlilik, güvenlik ve insan kontrolü ilkelerini soyut vaatlerden çıkarıp yapay zeka projelerinin tasarım, tedarik ve kullanım adımlarına somut kontrol listeleri olarak yerleştirmeyi öğretir.
- Canlı Kurs
- 5 modül
-
Algoritmik manipülasyon, dezenformasyon ve deepfake gibi etik tehditler ile prompt injection, jailbreak, veri zehirleme ve OWASP LLM Top 10 güvenlik açıklarını teknik olmayan liderler için anlaşılır kılarak savunma ve red teaming yönetişimini öğretir.
- Canlı Kurs
- 5 modül
-
İnovasyonu yavaşlatmadan kurumsal yapay zeka yönetişimi kurmayı; AI varlık envanteri oluşturmayı, risk katmanına göre orantılı onay kapıları (stage-gate) işletmeyi ve yönetim kuruluna raporlama mekanizmalarını öğretir.
- Canlı Kurs
- 5 modül
-
Çalışanların üretken yapay zeka araçlarını güvenli kullanım kurallarını (Acceptable Use Policy), veri gizlilik sınıflandırmasını, yapay zeka geliştirme ve satın alma ilkelerini içeren net ve uygulanabilir bir Kurumsal Yapay Zeka Politikası yazmayı öğretir.
- Canlı Kurs
- 5 modül
-
Yapay zeka sistemlerinde 'sorumluluk boşluğunu' kapatmak için Üç Savunma Hattı (Three Lines of Defence) modelini ve iş sahibi, ürün sahibi, veri/model sorumlusu, uyum, güvenlik ve iç denetim arasındaki RACI matrisini kurgulamayı öğretir.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
