Eğitimin Amacı ve Kapsamı
Üretimdeki LLM uygulamalarında kaliteyi belirleyen şey tek bir "iyi prompt" değil, modele her çağrıda hangi bilginin hangi sırayla verildiğidir. Program prompt'u bir yazılım bileşeni olarak ele alır: system prompt katmanları, şablonlama, few-shot örnek seçimi, retrieval sonuçlarının ve konuşma belleğinin yerleşimi, tool tanımlarının context maliyeti ve talimatlarla kullanıcı verisinin ayrıştırılması.
Prompt versiyonlama ve yönetimi için Langfuse gibi araçlar, değişikliklerin etkisini ölçmek için promptfoo ile eval tabanlı iterasyon kullanılır. Katılımcılar kurumlarına ait bir uygulama için belgelenmiş bir context mimarisi tasarlar.
Kimler Katılmalı?
- LLM uygulaması geliştiren yazılım ve yapay zeka mühendisleri
- Asistan ve agent ürünlerinin teknik tasarımını yapan mimarlar
- Prompt kalitesinden sorumlu ürün ve içerik ekipleri
- Ön koşul: LLM API'leriyle temel uygulama geliştirme deneyimi
Kazanımlar
- Katmanlı, bakımı kolay system prompt ve şablon yapıları tasarlar
- Context window bütçesini talimat, örnek, veri ve bellek arasında planlar
- Prompt'ları kod gibi versiyonlar, test eder ve geri alır
- Talimat–veri ayrımıyla prompt injection yüzeyini azaltır
- Prompt değişikliklerinin etkisini eval setleriyle ölçerek karar verir
Konular
Prompt Engineering'den Context Engineering'e
- Bir LLM çağrısının bileşenleri ve kaliteye etkileri
- Talimat, örnek, veri ve bellek katmanları
System Prompt ve Şablon Tasarımı
- Rol, kurallar, çıktı formatı ve sınırların yapılandırılması
- Değişken enjeksiyonu ve şablon kütüphaneleri
Few-Shot Örnekler ve Dinamik Context
- Örnek seçimi ve dinamik few-shot
- Retrieval sonuçlarının ve bellek özetlerinin yerleşimi
Context Bütçesi ve Prompt Güvenliği
- Token bütçesi, sıralama ve tool tanımlarının maliyeti
- Talimat–veri ayrımı, delimiter kullanımı ve injection önlemleri
Prompt Yönetimi, Versiyonlama ve Eval
- Langfuse ile prompt registry ve sürüm takibi
- promptfoo ile karşılaştırmalı test ve regresyon kontrolü
Uygulama: Context Mimarisi Dokümanı
- Kurum uygulaması için context katmanlarının tasarlanması
- Eval sonuçlarıyla tasarımın doğrulanması
Bu Kategorideki Diğer Eğitimler
-
Yüz binlerce token'lık context window'larda lost-in-the-middle, KV cache maliyeti ve latency sorunlarını çözen; context sıkıştırma, özetleme, bellek katmanları ve needle-in-a-haystack testlerini kapsayan program.
- Canlı Kurs
- 6 modül
-
Tek bir büyük modele bağımlı kalmadan, görev karmaşıklığına göre küçük ve büyük LLM'ler arasında dinamik yönlendirme (routing), cascade, fallback ve LLM gateway mimarisi kurmayı öğreten mühendislik programı.
- Canlı Kurs
- 6 modül
-
Görsel, taranmış belge, tablo, grafik, ses ve video girdilerini işleyen multimodal LLM uygulamaları geliştirme programı; VLM API'leri, open-weight vision modelleri, OCRsız belge anlama ve doğruluk ölçümü.
- Canlı Kurs
- 6 modül
-
Sparse Mixture of Experts (MoE) modellerinin router, aktif parametre ve uzman dengesi mantığını; VRAM hesaplamasını, vLLM/SGLang ile expert parallelism sunumunu ve LoRA ile uyarlanmasını kapsayan ileri seviye program.
- Canlı Kurs
- 6 modül
-
SSE, WebSockets ve WebRTC ile düşük gecikmeli metin, yapılandırılmış veri ve çift yönlü ses akışı sunan gerçek zamanlı LLM uygulamaları geliştirme; TTFT optimizasyonu, kesme (barge-in) ve eşzamanlılık yönetimi.
- Canlı Kurs
- 6 modül
-
1B–14B parametreli küçük dil modelleriyle (Llama, Qwen, Gemma, Phi, Ministral) sınıflandırma, çıkarım, yönlendirme ve dar kapsamlı görevlerde düşük maliyetli ve hızlı çözümler geliştirme; distillation ve ince ayar programı.
- Canlı Kurs
- 6 modül
Bizimle iletişime geçin
