Model Online/Fiziksel
Süre
Modüller 6 modül

Eğitimin Amacı ve Kapsamı

Model seçimi, inference optimizasyonu veya fine-tuning gibi kararlar, transformer'ın içinde ne olduğunu bilmeden sağlıklı verilemez. Bu program decoder-only mimariyi katman katman ele alır: BPE tokenization, embedding katmanı, multi-head self-attention, positional encoding (RoPE), feed-forward blokları ve KV cache'in latency üzerindeki etkisi.

Ardından pretraining hedefi, scaling laws, SFT, RLHF ve DPO ile reasoning modellerinin eğitim mantığı işlenir. Katılımcılar PyTorch ve Hugging Face Transformers ile küçük bir modeli adım adım çalıştırıp attention ağırlıklarını ve token olasılıklarını kendileri inceler.

Kimler Katılmalı?

  • LLM'lerle derinlemesine çalışacak makine öğrenmesi ve yapay zeka mühendisleri
  • Fine-tuning veya model serving projelerine hazırlanan veri bilimciler
  • Model seçim kararlarını teknik gerekçeyle vermek isteyen mimarlar
  • Ön koşul: Python bilgisi ve temel lineer cebir/olasılık kavramlarına aşinalık

Kazanımlar

  • Self-attention ve multi-head attention hesaplamasını adım adım açıklar
  • Tokenization, context uzunluğu ve KV cache'in maliyet ve latency'e etkisini yorumlar
  • Pretraining, SFT, RLHF ve DPO aşamalarının model davranışına katkısını ayırt eder
  • Hugging Face Transformers ile bir modeli yükleyip logit ve attention çıktılarını analiz eder
  • Model kartlarındaki mimari bilgileri (parametre sayısı, context, GQA, MoE) değerlendirir

Konular

Tokenization ve Embedding Katmanı
  • BPE ve SentencePiece, Türkçe metinde token verimliliği
  • Embedding matrisi ve vocabulary boyutunun etkisi
Self-Attention ve Transformer Bloğu
  • Query, key, value hesaplaması ve multi-head attention
  • Residual bağlantılar, layer normalization, feed-forward katmanları
Konum Bilgisi, Uzun Context ve KV Cache
  • RoPE, context genişletme teknikleri
  • KV cache, grouped-query attention ve FlashAttention
Pretraining ve Scaling Laws
  • Next-token prediction hedefi ve veri karışımı
  • Parametre, veri ve compute ilişkisi
Post-Training: SFT, RLHF, DPO ve Reasoning Modelleri
  • Instruction tuning ve tercih optimizasyonu yöntemleri
  • Reasoning modellerinde test-time compute yaklaşımı
Laboratuvar: Bir Modelin İçine Bakmak
  • Hugging Face Transformers ile logit ve attention analizi
  • Sampling stratejilerinin çıktıya etkisinin deneysel karşılaştırması

Bu Kategorideki Diğer Eğitimler

  • LLM API ile Uygulama Geliştirme

    OpenAI, Anthropic Claude ve Google Gemini API'leri ile streaming, konuşma durumu, retry, rate limit, fallback ve temel eval içeren üretime yakın bir LLM uygulaması geliştirmeyi öğreten uygulamalı program.

    LLM Uygulama Mühendisliği Kurumsal
    Canlı Kurs
    6 modül
    İncele
  • Yapılandırılmış Çıktılar (Structured Outputs)

    LLM'lerden güvenilir JSON almak için JSON Schema, OpenAI Structured Outputs, Gemini response schema, Pydantic/Zod, Instructor ve constrained decoding; doğrulama, onarım döngüleri ve belge veri çıkarımı uygulamaları.

    LLM Uygulama Mühendisliği Kurumsal
    Canlı Kurs
    6 modül
    İncele
  • Araç Kullanımı: Tool ve Function Calling

    LLM'lerin tool/function calling ile API'leri, veri tabanlarını ve iç sistemleri güvenle çağırmasını sağlayan program: tool şeması tasarımı, paralel çağrılar, MCP sunucuları, hata yönetimi ve yetki sınırları.

    LLM Uygulama Mühendisliği Kurumsal
    Canlı Kurs
    6 modül
    İncele
  • Prompt ve Context Mimarisi

    LLM uygulamalarında system prompt, şablon, few-shot örnek, retrieval sonucu, bellek ve tool tanımlarının context window'a nasıl yerleşeceğini tasarlayan context engineering programı; versiyonlama ve eval odaklı iterasyon dahil.

    LLM Uygulama Mühendisliği Kurumsal
    Canlı Kurs
    6 modül
    İncele
  • Uzun Context Yönetimi (Long Context Management)

    Yüz binlerce token'lık context window'larda lost-in-the-middle, KV cache maliyeti ve latency sorunlarını çözen; context sıkıştırma, özetleme, bellek katmanları ve needle-in-a-haystack testlerini kapsayan program.

    LLM Uygulama Mühendisliği Kurumsal
    Canlı Kurs
    6 modül
    İncele
  • Model Yönlendirme ve Çoklu Model Tasarımı (Model Routing)

    Tek bir büyük modele bağımlı kalmadan, görev karmaşıklığına göre küçük ve büyük LLM'ler arasında dinamik yönlendirme (routing), cascade, fallback ve LLM gateway mimarisi kurmayı öğreten mühendislik programı.

    LLM Uygulama Mühendisliği Kurumsal
    Canlı Kurs
    6 modül
    İncele

Bizimle iletişime geçin