Eğitimin Amacı ve Kapsamı
LLM çıktısı başka bir sisteme, veri tabanına veya iş akışına girecekse serbest metin yeterli değildir; şemaya uygun, doğrulanabilir veri gerekir. Program; JSON Schema tasarımını, OpenAI Structured Outputs strict modunu, Anthropic'te tool use ile şemalı çıktı almayı, Gemini response schema özelliğini, Pydantic ve Zod ile tip güvenli modelleri ve Instructor kütüphanesini ele alır.
Open-weight modeller için vLLM guided decoding, Outlines ve XGrammar ile constrained decoding uygulanır. Katılımcılar kurumlarından seçilen fatura, sözleşme veya form örnekleri üzerinde veri çıkarımı ve sınıflandırma pipeline'ı kurar, hata oranını ölçer.
Kimler Katılmalı?
- LLM çıktısını uygulamalara entegre eden backend geliştiriciler
- Belge işleme ve veri çıkarımı projelerindeki yapay zeka mühendisleri
- LLM'i sınıflandırma ve etiketleme için kullanan veri bilimciler
- Ön koşul: Python veya TypeScript ve temel LLM API kullanımı
Kazanımlar
- Use case'e uygun, LLM dostu JSON Schema ve Pydantic/Zod modelleri tasarlar
- Farklı sağlayıcılarda yapılandırılmış çıktı özelliklerini doğru yapılandırır
- Open-weight modellerde constrained decoding uygular
- Doğrulama hatalarını yakalayan retry ve onarım döngüleri kurar
- Veri çıkarımı doğruluğunu alan bazında ölçen bir eval seti hazırlar
Konular
Neden Yapılandırılmış Çıktı?
- Serbest metin, JSON mode ve strict schema farkları
- Tipik use case'ler: veri çıkarımı, sınıflandırma, yönlendirme
JSON Schema ve Pydantic/Zod ile Şema Tasarımı
- Enum, zorunlu alan, iç içe nesne ve açıklama alanlarının etkisi
- Model kalitesini artıran şema tasarım kalıpları
Sağlayıcılarda Structured Outputs
- OpenAI strict mode, Anthropic tool use, Gemini response schema
- Instructor ile sağlayıcıdan bağımsız kullanım
Open-Weight Modellerde Constrained Decoding
- vLLM guided decoding, Outlines ve XGrammar
- Grammar tabanlı üretimin kalite ve hız etkisi
Doğrulama, Onarım ve Hata Yönetimi
- Validation hatalarında retry ve yeniden sorma stratejileri
- Reddetme, eksik bilgi ve belirsizlik durumlarının modellenmesi
Uygulama: Belge Veri Çıkarımı Pipeline'ı
- Kurum belgeleri üzerinde uçtan uca çıkarım
- Alan bazında doğruluk ölçümü ve hata analizi
Bu Kategorideki Diğer Eğitimler
-
LLM'lerin tool/function calling ile API'leri, veri tabanlarını ve iç sistemleri güvenle çağırmasını sağlayan program: tool şeması tasarımı, paralel çağrılar, MCP sunucuları, hata yönetimi ve yetki sınırları.
- Canlı Kurs
- 6 modül
-
LLM uygulamalarında system prompt, şablon, few-shot örnek, retrieval sonucu, bellek ve tool tanımlarının context window'a nasıl yerleşeceğini tasarlayan context engineering programı; versiyonlama ve eval odaklı iterasyon dahil.
- Canlı Kurs
- 6 modül
-
Yüz binlerce token'lık context window'larda lost-in-the-middle, KV cache maliyeti ve latency sorunlarını çözen; context sıkıştırma, özetleme, bellek katmanları ve needle-in-a-haystack testlerini kapsayan program.
- Canlı Kurs
- 6 modül
-
Tek bir büyük modele bağımlı kalmadan, görev karmaşıklığına göre küçük ve büyük LLM'ler arasında dinamik yönlendirme (routing), cascade, fallback ve LLM gateway mimarisi kurmayı öğreten mühendislik programı.
- Canlı Kurs
- 6 modül
-
Görsel, taranmış belge, tablo, grafik, ses ve video girdilerini işleyen multimodal LLM uygulamaları geliştirme programı; VLM API'leri, open-weight vision modelleri, OCRsız belge anlama ve doğruluk ölçümü.
- Canlı Kurs
- 6 modül
-
Sparse Mixture of Experts (MoE) modellerinin router, aktif parametre ve uzman dengesi mantığını; VRAM hesaplamasını, vLLM/SGLang ile expert parallelism sunumunu ve LoRA ile uyarlanmasını kapsayan ileri seviye program.
- Canlı Kurs
- 6 modül
Bizimle iletişime geçin
