Eğitimin Amacı ve Kapsamı
Tarihsel verideki eşitsizlikler veya dil modellerinin eğitim külliyatındaki kalıplar, kredi tahsisi, fiyatlama, işe alım ve müşteri önceliklendirme süreçlerinde sistematik ayrımcılığa dönüşebilir; üstelik 'kara kutu' kararlar müşteriye ve denetçiye açıklanamaz. Bu eğitim, teknik olmayan liderlere önyargı, adalet ve açıklanabilirlik (XAI) kavramlarını yönetişim ve karar alma düzeyinde kazandırır.
Önyargının veri, etiketleme ve kullanım aşamalarındaki kaynakları, farklı adalet tanımları arasındaki kaçınılmaz ödünleşimler, vekil değişkenler (proxy variables) ve global/yerel açıklanabilirlik yaklaşımları incelenir. Katılımcılar örnek bir senaryo üzerinde Adalet ve Açıklanabilirlik Değerlendirme Planı oluşturur.
Kimler Katılmalı?
- İK, bireysel bankacılık/kredi, sigorta, pazarlama ve müşteri yönetimi liderleri
- Uyum, hukuk, etik, iç kontrol ve model risk yönetimi (MRM) uzmanları
- Yapay zeka ürün yöneticileri ve veri bilimi ekipleriyle çalışan iş analistleri
- Müşteri itiraz süreçlerini ve düzenleyici kurum iletişimini yöneten ekipler
Kazanımlar
- Veri toplama, etiketleme, vekil değişkenler ve kullanıcı geri bildiriminden kaynaklanan önyargı türlerini ayırt edebilir
- Korunan gruplar açısından farklı adalet metriklerinden (demographic parity, equal opportunity vb.) iş problemine uygun olanı seçebilir
- LLM'lerde dil, kültür, cinsiyet ve ton yanlılığını test etme gereksinimlerini tanımlayabilir
- Model karmaşıklığı ile açıklanabilirlik arasındaki dengeyi (interpretable models vs post-hoc XAI) kurgulayabilir
- Müşteriye, çalışana ve denetçiye yönelik anlaşılır karar açıklama şablonları tasarlayabilir
Konular
Yapay Zekada Önyargı (Bias) Nereden Gelir?
- Tarihsel önyargı, temsil eksikliği, ölçüm/etiketleme hatası ve geri bildirim döngüsü
- Vekil değişken (proxy variable) tuzağı: hassas değişkeni silmek neden ayrımcılığı bitirmez?
- Büyük dil modellerinde (LLM) kültürel, dilsel ve demografik stereotipler
Adalet (Fairness) Tanımları ve İş Kararı Ödünleşimleri
- Demographic parity, equalized odds ve equal opportunity kavramlarının sade açıklaması
- Neden tüm adalet metrikleri aynı anda matematiksel olarak sağlanamaz?
- İşe alım, kredi tahsisi ve dolandırıcılık tespitinde doğru adalet kriterini seçme
Önyargı Testi ve Azaltım (Bias Mitigation) Yönetişimi
- Alt grup performans analizi (disaggregated evaluation) ve etki oranı (disparate impact) kontrolü
- Veri aşaması, model aşaması ve karar eşiği aşamasında azaltım seçenekleri
Açıklanabilir Yapay Zeka (XAI): Kara Kutuyu Anlaşılır Kılmak
- Doğası gereği yorumlanabilir modeller ile sonradan açıklama (SHAP, LIME, karşı-olgusal açıklama)
- LLM ve RAG sistemlerinde kaynak atfı (citation) ile içsel çalışma farkı
- İkna edici görünen ama gerçekte uydurma olan LLM gerekçelerine karşı dikkat
Paydaşlara Göre Açıklama Tasarımı ve İtiraz Süreci
- Son kullanıcı/müşteri, iş birimi onaylayıcısı ve düzenleyici denetçi ne tür açıklama bekler?
- Olumsuz karara itiraz ve yeniden değerlendirme akışının kurgulanması
Bu Kategorideki Diğer Eğitimler
-
Yapay zeka sistemleri için veri, model, prompt/RAG, güvenlik guardrail'leri ve insan gözetimi katmanlarında iç kontrol hedefleri tanımlamayı; kontrol etkinliğini test etmeyi ve iç denetim çalışma programı hazırlamayı öğretir.
- Canlı Kurs
- 5 modül
-
Yapay zeka kararlarının uçtan uca izlenebilirliğini (prompt, RAG kaynakları, model versiyonu, insan onayı) sağlamayı; kalite bozulması, halüsinasyon krizi veya veri sızıntısı anında devreye girecek AI olay müdahale oyun kitabını kurmayı öğretir.
- Canlı Kurs
- 5 modül
-
Dünyanın ilk yapay zeka yönetim sistemi standardı ISO/IEC 42001'in Madde 4-10 gereksinimlerini ve Ek A/Ek B kontrollerini kurumda adım adım kurmayı; kapsam, Uygulanabilirlik Bildirgesi (SoA) ve belgelendirme hazırlığını öğretir.
- Canlı Kurs
- 5 modül
-
ISO 19011 denetim ilkeleri doğrultusunda ISO/IEC 42001 Yapay Zeka Yönetim Sistemi (AIMS) iç denetimlerini planlamayı, Madde 4-10 ve Ek A kontrollerinin kanıtlarını sorgulamayı ve uygunsuzluk/düzeltici faaliyet raporu yazmayı öğretir.
- Canlı Kurs
- 5 modül
-
NIST Yapay Zeka Risk Yönetim Çerçevesi'nin (NIST AI RMF 1.0) Govern, Map, Measure ve Manage işlevlerini ve Playbook eylemlerini kurumsal süreçlere uyarlamayı; TEVV uygulamalarını ve hedef risk profilini kurmayı öğretir.
- Canlı Kurs
- 5 modül
-
Mevcut ISO/IEC 27001 Bilgi Güvenliği Yönetim Sistemi'ni (ve ISO 27701'i) mükerrer doküman ve komite yükü yaratmadan ISO/IEC 42001 Yapay Zeka Yönetim Sistemi ile ortak Harmonized Structure üzerinde birleştirmeyi öğretir.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
