Model Online/Fiziksel
Modüller 10 modül
Bilgi al

Kurs Açıklaması

Bu ileri seviye kurs, kurumsal düzeyde kullanılan sofistike RAG mimarilerini ele almaktadır.

Modern bir retrieval pipeline'ını temel alarak hibrit arama, ColBERT ve yeniden sıralama (reranking) gibi teknikleri derinlemesine göreceksiniz Ardından, kendi kendini düzelten Agentic RAG yapılarıyla sisteminize otonom akıl yürütme ve doğrulama yetenekleri kazandırıp, GraphRAG ile yapılandırılmış bilgiyi bu sisteme nasıl entegre edeceğinizi öğreneceksiniz.

GPU hızlandırma, caching ve güvenlik gibi kritik üretim gereksinimlerini uygulamalı laboratuvarlarda ele alarak üretim seviyesinde iler düzey bir sistem inşa etmeyi öğreneceksiniz.

Hedef Kitle

  • RAG sistemlerini üretime alan ML mühendisleri

  • Mevcut RAG implementasyonlarını optimize eden kıdemli yazılım geliştiriciler

  • Güvenli ve uyumlu bilgi sistemleri tasarlayan yapay zeka mühendisleri

  • Büyük ölçekli RAG altyapılarını yöneten teknik liderler

  • LLM uygulamalarını güçlendiren güvenlik mühendisleri

Ön Koşul

  • Güçlü Python programlama becerisi

  • Temel RAG implementasyonları ile deneyim

  • Vektör veritabanları ve embedding modelleri hakkında genel anlayış

  • LLM API'larına ve prompt mühendisliğine aşinalık

  • Dağıtık sistemler ve önbellekleme (caching) stratejileri hakkında bilgi

Kazanımlar

Bu kursu tamamlayan katılımcılar aşağıdaki konularda yetkin olacaklardır:

  • BM25-dense füzyonu ve neural reranking ile hibrit geri getirme sistemleri tasarlama ve uygulama

  • RAG ve uzun bağlamlı (long-context) işleme arasında akıllıca seçim yapan adaptif yönlendiriciler (router) oluşturma

  • Tüm bilgi havuzunu bütünsel olarak anlamlandırmak ve verilerdeki lokal bağlantılar temelinde çıkarımlar yapmak için GraphRAG'in kullanılması.

  • Zamana duyarlı sorgular ve gerçek zamanlı güncellemeler için zamansal olarak duyarlı geri getirme sistemleri kurma

  • Alıntı doğrulama (citation verification) ile temel metriklerin ötesinde kapsamlı değerlendirme çerçeveleri oluşturma

  • RAG sistemlerini prompt enjeksiyonuna karşı güçlendirme ve OWASP LLM Top 10 savunma stratejilerini uygulama

  • GPU hızlandırmalı arama ve akıllı önbellekleme (caching) stratejileri ile performansı optimize etme

Konular

Modül 1 - Modern Hibrit Retrieval ve Routing

Hibrit Arama Temelleri

BM25-Dense Fusion Stratejileri

  • Anahtar kelime ve anlamsal arama kombinasyonu

  • Reciprocal rank fusion algoritmaları

  • Ağırlıklı puanlama yaklaşımları

  • Sorguya bağlı ağırlık ayarlaması

  • Performans kıyaslama yöntemleri

Late-Interaction Retriever

  • ColBERT mimarisi ve faydaları

  • Verimli getirme için PLAID

  • Token seviyesinde eşleştirme stratejileri

  • Depolama ve hesaplama arasındaki denge

  • Uygulama hususları

Neural Reranking Pipeline

Cross-Encoder Reranking

  • Bi-encoders mimari karşılaştırması

  • Çok aşamalı yeniden sıralama kademeleri (cascades)

  • Hesaplama maliyeti optimizasyonu

  • Alana özgü ince ayar (fine-tuning)

  • Toplu işleme (batch processing) stratejileri

LLM Tabanlı Yeniden Sıralayıcılar

  • Yeniden sıralama için prompt engineering

  • Liste bazlı ve çift bazlı sıralama karşılaştırması

  • Maliyet-gecikme dengesi

  • Tutarlılık ve güvenilirlik

  • Entegrasyon paternleri

RAG ve Uzun Bağlamlı Routing (Yönlendirme)

Adaptif Yönlendirme Stratejileri

  • Sorgu karmaşıklığı değerlendirmesi

  • Maliyet-doğruluk optimizasyonu

  • Dinamik eşik belirleme

  • Fallback mekanizmaları

  • Performans izleme

Context Window Yönetimi

  • Token bütçesi tahsisi

  • Bağlam sıkıştırma teknikleri

  • Uzun bağlamlar için parçalama (chunking)

  • Hibrit RAG-bağlam yaklaşımları

  • Model seçim kriterleri
Modül 2 - Kendi Kendini Düzelten ve Adaptif RAG

Self-RAG Mimarisi

Retrieval Necessity Gates

  • Retrieval ihtiyacı için sorgu sınıflandırması

  • Güven puanlama mekanizmaları

  • Dinamik retrieval tetikleyicileri

  • Seçici retrieval yoluyla maliyet optimizasyonu

  • Performans etki analizi

Doğrulama ve İyileştirme

  • İlgi düzeyi değerlendirme döngüleri

  • Destek doğrulama mekanizmaları

  • Eleştiri üretme stratejileri

  • Yinelemeli iyileştirme döngüleri

  • Kalite eşiği yönetimi

Düzeltici RAG Paternleri

Cevap Doğrulama Pipeline

  • Olgusal tutarlılık kontrolü

  • Çelişki tespit sistemleri

  • Kaynak atfı doğrulaması

  • Güven kalibrasyonu

  • Otomatik düzeltme stratejileri

Çatışan Bilgilerin Çözülmesi

  • Çok kaynaklı çelişki yönetimi

  • Zamansal çelişki çözümü

  • Otorite ağırlıklandırma sistemleri

  • Fikir birliği oluşturma stratejileri

  • Kullanıcı tercihi entegrasyonu

Çoklu Ajan Orkestrasyonu

Mixture-of-Agents Tasarımı

  • Ajan uzmanlaşma paternleri

  • İş akışı orkestrasyon framework'leri

  • İletişim protokolleri

  • Sonuç birleştirme yöntemleri

  • Hata yönetimi ve kurtarma

Maliyet ve Performans Dengesi

  • Ajan seçim stratejileri

  • Paralel ve sıralı yürütme karşılaştırması

  • Kaynak tahsisi optimizasyonu

  • Gecikme yönetimi

  • Kalite ve hız arasındaki kararlar
Modül 3 - GraphRAG ve Yapılandırılmış Bilgi

GraphRAG Uygulaması

Entity Graph (Varlık Grafiği) Oluşturma

  • Varlık ve ilişki çıkarımı

  • Grafik şema tasarımı

  • Community detection algoritmaları

  • Hiyerarşik özetleme

  • Ölçeklenebilirlik hususları

Graph-Enhanced Retrieval

  • Yerel ve global retrieval stratejileri

  • Çok adımlı (multi-hop) akıl yürütme paternleri

  • Path ranking algoritmaları

  • Subgraph çıkarımı

  • Sorgu güdümlü gezinme (traversal)

Hibrit Grafik-Vektör Sistemleri

Entegrasyon Stratejileri

  • Anlamsal ve yapısal arama birleşimi

  • Entity linking pipeline'ları

  • Knowledge graph embeddings

  • Cross-modal retrieval

  • Sonuç birleştirme teknikleri

Zamansal Bilgi Grafikleri (Temporal Knowledge Graphs)

  • Zaman özelliğine sahip ilişkiler

  • Olay dizisi modellemesi

  • Zamansal tutarlılık kontrolü

  • Sürüm duyarlı (version-aware) getirme

  • Tarihsel analiz desenleri

Düzene Duyarlı Belge İşleme (Layout-Aware Document Processing)

Yapılandırılmış Belgeyi Anlama

  • Tablo çıkarma ve ayrıştırma

  • Grafik ve şekil analizi

  • Form alanı eşlemesi

  • Çok sütunlu düzen yönetimi

  • Belge hiyerarşisinin korunması

Çok Modlu (Multimodal) RAG Entegrasyonu

  • Vision-language modeli entegrasyonu

  • OCR ve metin çıkarma pipeline

  • Görüntü-metin hizalaması

  • Cross-modal arama stratejileri

  • Çıkarılan içerik için kalite güvencesi
Modül 4 - Text-to-SQL RAG

SQL ile RAG Temelleri

Şema Bağlam Yönetimi

  • Veritabanı şeması embedding stratejileri

  • Tablo ve sütun açıklamalarının indekslenmesi

  • İlişki grafiği temsili

  • Şema sürümleme ve güncellemeleri

  • Çoklu veritabanı koordinasyonu

SQL Üretim Pipleline

  • Az sayıda örnekle (few-shot) örnek seçimi

  • Şemaya duyarlı prompt şablonları

  • Sorgu doğrulama ve temizleme (sanitization)

  • Çalıştırma güvenliği kontrolleri

  • Hata kurtarma mekanizmaları

SQL Entegrasyon

Entegrasyon Paternleri

  • Retrieval context olarak SQL sonuçları

  • SQL yüklemleri (predicates) ile belge filtreleme

  • Kaynaklar arasında birleştirme (join) işlemleri

  • İşlem (transaction) sınırları

  • Önbellek tutarlılığı (cache coherence)
Modül 5 - Sorgu İşleme ve Anlama

İleri Seviye Sorgu Genişletme

HyDE ve Sorgu Üretimi

  • Hypothetical document embeddings

  • Çoklu sorgu çeşitlendirmesi

  • Sorgu ayrıştırma (decomposition) stratejileri

  • Sorgunun niyetini koruma teknikleri

  • Performans etki analizi

Sorguyu Yeniden Yazma Stratejileri

  • Bağlama duyarlı yeniden yazma

  • Eşanlamlı kelime genişletmesi

  • Alana özgü terminoloji eşlemesi

  • Anlam belirsizliği çözümü

  • Kullanıcı tercihi öğrenimi

Yönlendirici Motorlar (Router Engines)

ML Tabanlı Yönlendirme

  • Sınıflandırma modeli mimarileri

  • Yönlendirme için özellik mühendisliği

  • Online learning stratejileri

  • A/B test framework

  • Performans izleme

Kural Motoru Entegrasyonu

  • İş kurallarının tanımlanması

  • Öncelik ve üstünlük yönetimi

  • Dinamik kural güncellemeleri

  • Çatışma çözümü

  • Denetim ve uyumluluk

Niyet Sınıflandırması (Intent Classification)

Sorgu Anlama Modelleri

  • Niyet sınıflandırma tasarımı

  • Çok etiketli sınıflandırma

  • Güven puanlaması

  • Fallback yönetimi

  • Sürekli iyileştirme döngüleri
Modül 6 - Zamansal ve Gerçek Zamanlı Getirme

Zamana Duyarlı İndeksleme

Zamansal Bölümleme Stratejileri (Temporal Partitioning)

  • Zaman tabanlı parçalama (sharding)

  • Kayan pencere (rolling window) indeksleri

  • Olay güdümlü (event-driven) bölme

  • Arşiv yönetimi

  • Zaman aralığına göre sorgu yönlendirme

Güncellik Puanlaması

  • Zamana bağlı azalma fonksiyonları (Decay functions)

  • Yenilik ve ilgi düzeyi dengesi

  • Dinamik ağırlık ayarlaması

  • Kullanıcı tercihi modellemesi

  • Güncellik faktörlerini A/B testine tabi tutma

Akış Halindeki Güncellemeler (Streaming Updates)

Gerçek Zamanlı Veri Alım Pipeline (Real-Time Ingestion Pipelines)

  • Değişiklik verisini yakalama (Change data capture) entegrasyonu

  • Artan (incremental) embedding üretimi

  • Anında değiştirilebilir (hot-swap) indeks stratejileri

  • Tutarlılık garantileri

  • Backpressure yönetimi

Önbellek Geçersiz Kılma Paternleri (Cache Invalidation Patterns)

  • Olay güdümlü (event driven) geçersiz kılma

  • TTL stratejileri

  • Seçici önbellek hazırlama (cache warming)

  • Dağıtık önbellek tutarlılığı

  • Performans izleme
Modül 7 - Performans Artırma Yöntemleri

GPU Hızlandırmalı Arama

Vektör İndeksi Optimizasyonu

  • HNSW ve IVF-PQ seçimi

  • GPU bellek yönetimi

  • Toplu işleme (batch processing) optimizasyonu

  • Çoklu GPU ile ölçeklendirme

  • Maliyet-performans analizi

Donanım Seçimi

  • GPU ve CPU arasındaki denge

  • Bellek gereksinimleri

  • Ağ hususları

  • Depolama optimizasyonu

  • Bulut ve şirket içi (on-premise) kararları

Önbellekleme Altyapısı (Caching Infrastructure)

Çok Seviyeli Önbellek Tasarımı (Multi-Level Cache Design)

  • Anlamsal önbellek (semantic cache) uygulaması

  • Prompt ve bağlam önbelleklemesi

  • Önbellek geçersiz kılma stratejileri

  • Dağıtık önbellek paternleri

  • İsabet oranı (hit rate) optimizasyonu

Önbellek Ekonomisi (Cache Economics)

  • Maliyet-fayda analizi

  • Depolama ve hesaplama arasındaki denge

  • Önbellek boyutlandırma stratejileri

  • Boşaltma (eviction) politikaları

  • İzleme ve uyarı (alerting)

Verimli Model Sunumu (Efficient Model Serving)

Inference Optimization

  • vLLM entegrasyon desenleri

  • TensorRT-LLM optimizasyonu

  • Nicemleme (quantization) stratejileri

  • Toplu işleme (batching) ve zamanlama (scheduling)

  • Kaynak tahsisi

Yük Dengeleme (Load Balancing)

  • İstek dağıtım stratejileri

  • Sistem sağlık kontrolü (health checking)

  • Devre kesiciler (circuit breakers)

  • Rate limiting

  • Otomatik ölçeklendirme (auto-scaling) stratejileri
Modül 8 - Değerlendirme ve Kalite Güvencesi

İleri Seviye Değerlendirme Metrikleri

Alıntı Sadakati Doğrulaması (Citation Fidelity Verification)

  • Kaynak atfı doğruluğu

  • Alıntı çıkarma doğrulaması

  • Bağlam koruma kontrolü

  • Halüsinasyon tespiti

  • Tutarlılık puanlaması

RAGAS Metriklerinin Ötesi

  • Özel değerlendirme framework'leri

  • Alana özgü metrikler

  • İnsan değerlendirmesi entegrasyonu

  • Otomatik kalite kapıları (quality gates)

  • Gerileme testi

Üretim İzleme (Production Monitoring)

RAG'a Özgü Gözlemlenebilirlik (Observability)

  • Getirme kalitesi metrikleri

  • Gömme kayması (embedding drift) tespiti

  • Sorgu patern analizi

  • Maliyet takip sistemleri

  • Performans gerileme uyarıları

Kayma Tespit Sistemleri (Drift Detection Systems)

  • Dağılım izleme

  • Kavram kayması (concept drift) tespiti

  • Model performansı takibi

  • Otomatik yeniden eğitim tetikleyicileri

  • Uyarı eşikleri

A/B Test Framework

Deney Altyapısı

  • Çevrimiçi değerlendirme kurulumu

  • İstatistiksel anlamlılık testi

  • Feature flag yönetimi

  • Aşamalı dağıtım (gradual rollout) stratejileri

  • Sonuç analizi pipeline

Karar Verme

  • Metrik yorumlama

  • Fayda-maliyet (trade-off) analizi

  • Geri alma (rollback) kriterleri

  • Dokümantasyon uygulamaları

  • Paydaş iletişimi
Modül 9 - Güvenlik ve Uyumluluk

Prompt Injection Savunması

Saldırı Vektörü Azaltma

  • Doğrudan enjeksiyonun önlenmesi

  • Belgeler aracılığıyla dolaylı enjeksiyon

  • Girdi temizleme (input sanitization) stratejileri

  • Çıktı doğrulama (output validation) framework

  • Tespit ve loglama sistemleri

Derinlemesine Savunma

  • Katmanlı güvenlik yaklaşımı

  • İzolasyon stratejileri

  • Ayrıcalık ayrımı (privilege separation)

  • Güvenlik izlemesi

  • Olay müdahale (incident response) planlaması

OWASP LLM Top 10

Güvenlik Uygulaması

  • RAG için tehdit modellemesi

  • Veri zehirlemesinin (data poisoning) önlenmesi

  • Model hizmet reddi (DoS) koruması

  • Bilgi sızması (information disclosure) kontrolleri

  • Tedarik zinciri (supply chain) güvenliği

Zafiyet Yönetimi

  • Güvenlik taraması

  • Bağımlılık yönetimi

  • Yama yönetimi (patch management)

  • Güvenlik testi

  • Uyumluluk raporlaması
Modül 10 - Uygulamalı Laboratuvar Çalışması

Kurumsal Kullanıma Hazır RAG Oluşturma

Çekirdek Sistem Uygulaması (Core System)

  • Yeniden sıralama ile hibrit getirme kurulumu

  • Kendi kendini düzelten RAG konfigürasyonu

  • GraphRAG pipeline inşası

  • Yönlendirici motor geliştirme

  • Güvenlik güçlendirme (hardening) alıştırmaları

Entegrasyon Zorlukları

  • API tasarımı ve sürümleme

  • Hata yönetimi paternleri

  • Yeniden deneme stratejileri

  • Devre kesici (circuit breaker) uygulaması

  • İzleme entegrasyonu

Bizimle iletişime geçin