Eğitimin Amacı ve Kapsamı
'Son kararı insan veriyor' demek, eğer çalışan günde yüzlerce ekranı saniyeler içinde okumadan onaylıyorsa (rubber-stamping) kurumu ne hatadan ne de regülasyon sorumluluğundan kurtarır. AB Yapay Zeka Yasası Madde 14 dahil modern yönetişim standartları, insan gözetiminin kağıt üzerinde değil pratikte etkili olmasını şart koşar.
Bu eğitimde human-in-the-loop (HITL), human-on-the-loop (HOTL) ve human-in-command modelleri, otomasyon yanlılığı (automation bias) ve inceleme yorgunluğunu önleyen arayüz ve süreç tasarımları, güven skoru ve risk bazlı eskalasyon ile override (ezme/reddetme) kayıtlarının geri bildirim döngüsüne bağlanması işlenir. Katılımcılar kendi süreçleri için bir İnsan Gözetimi Tasarım Spesifikasyonu hazırlar.
Kimler Katılmalı?
- Süreç sahipleri, operasyon yöneticileri ve müşteri deneyimi liderleri
- Yapay zeka ürünleri geliştiren ürün yöneticileri, UX/hizmet tasarımcıları ve iş analistleri
- Risk, uyum ve sorumlu yapay zeka kontrol noktalarını tasarlayan ekipler
- Kalite kontrol ve operasyonel mükemmellik uzmanları
Kazanımlar
- Görev riskine ve hız ihtiyacına göre HITL, HOTL veya örnekleme bazlı denetim modelini seçebilir
- Otomasyon körlüğünü (automation bias) ve onay yorgunluğunu azaltacak süreç ve ekran ilkelerini tanımlayabilir
- Yapay zekanın kaynak göstermesi, belirsizlik belirtmesi ve alternatif sunması gereken durumları kurgulayabilir
- Onaylayıcı kişinin yetkinlik, süre, yetki ve 'baskı altında kalmadan reddetme' koşullarını belirleyebilir
- İnsan düzeltmelerini (override log) hem denetim kanıtı hem de model iyileştirme verisi olarak yapılandırabilir
Konular
İnsan Gözetimi Modelleri: HITL, HOTL ve Human-in-Command
- İşlem öncesi tekil onay (HITL), gerçek zamanlı izleme ve müdahale (HOTL) ve politika/eşik yönetimi
- Hangi kararlarda tam insan onayı zorunludur, hangilerinde istatistiksel örnekleme yeterlidir?
- AB Yapay Zeka Yasası Madde 14 kapsamında anlamlı insan gözetimi şartları
Otomasyon Körlüğü (Automation Bias) ve Onay Yorgunluğu ile Mücadele
- Neden uzmanlar bir süre sonra yapay zeka önerisini sorgulamadan onaylamaya başlar?
- Bilişsel katılımı koruyan tasarım: önce insan tahmini, kanıt gösterimi ve karşıt görüş isteme
- İnceleme süresi, günlük kota ve KPI baskısının onay kalitesine etkisi
Eşik ve Risk Bazlı Yönlendirme (Routing) Mimarisi
- Model güven skoru, işlem tutarı veya müşteri hassasiyetine göre kademeli onay
- Düşük güvenli veya çelişkili çıktılarda otomatik durdurma ve kıdemli uzmana aktarım
- Acil durdurma (stop button / devre kesici) mekanizmasının operasyonel tanımı
İnceleyici Ekranı (Reviewer UX) ve Açıklanabilirlik İhtiyacı
- Onaylayıcının doğru karar vermesi için ekranda hangi kaynak doküman ve gerekçe görünmeli?
- RAG sistemlerinde satır içi atıf (citation) ve çıkarılan alanların kaynak metinle yan yana gösterimi
Override Kayıtları, Geri Bildirim Döngüsü ve Denetim Kanıtı
- Kimin, ne zaman, hangi gerekçeyle yapay zeka önerisini değiştirdiğinin loglanması
- Sürekli %99 onay veya sürekli red oranlarının yönetişim alarmı olarak izlenmesi
Bu Kategorideki Diğer Eğitimler
-
Makine öğrenmesi ve büyük dil modellerinde önyargı (bias) kaynaklarını tespit etmeyi, iş bağlamına uygun adalet (fairness) ölçütünü seçmeyi ve SHAP/LIME ile LLM gerekçelendirme tekniklerini müşteri ve denetçi açıklamalarına dönüştürmeyi öğretir.
- Canlı Kurs
- 5 modül
-
Yapay zeka sistemleri için veri, model, prompt/RAG, güvenlik guardrail'leri ve insan gözetimi katmanlarında iç kontrol hedefleri tanımlamayı; kontrol etkinliğini test etmeyi ve iç denetim çalışma programı hazırlamayı öğretir.
- Canlı Kurs
- 5 modül
-
Yapay zeka kararlarının uçtan uca izlenebilirliğini (prompt, RAG kaynakları, model versiyonu, insan onayı) sağlamayı; kalite bozulması, halüsinasyon krizi veya veri sızıntısı anında devreye girecek AI olay müdahale oyun kitabını kurmayı öğretir.
- Canlı Kurs
- 5 modül
-
Dünyanın ilk yapay zeka yönetim sistemi standardı ISO/IEC 42001'in Madde 4-10 gereksinimlerini ve Ek A/Ek B kontrollerini kurumda adım adım kurmayı; kapsam, Uygulanabilirlik Bildirgesi (SoA) ve belgelendirme hazırlığını öğretir.
- Canlı Kurs
- 5 modül
-
ISO 19011 denetim ilkeleri doğrultusunda ISO/IEC 42001 Yapay Zeka Yönetim Sistemi (AIMS) iç denetimlerini planlamayı, Madde 4-10 ve Ek A kontrollerinin kanıtlarını sorgulamayı ve uygunsuzluk/düzeltici faaliyet raporu yazmayı öğretir.
- Canlı Kurs
- 5 modül
-
NIST Yapay Zeka Risk Yönetim Çerçevesi'nin (NIST AI RMF 1.0) Govern, Map, Measure ve Manage işlevlerini ve Playbook eylemlerini kurumsal süreçlere uyarlamayı; TEVV uygulamalarını ve hedef risk profilini kurmayı öğretir.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin
