Eğitimin Amacı ve Kapsamı
Kurumsal yapay zeka sistemlerindeki görevlerin önemli bir kısmı—belge sınıflandırma, alan çıkarımı, PII tespiti, niyet analizi, şablonlu özetleme—devasa genel amaçlı modeller yerine iyi seçilmiş 1B–14B parametreli Küçük Dil Modelleri (SLM) ile çok daha hızlı ve düşük maliyetle çözülebilir. Bu eğitim; Llama, Qwen, Gemma, Phi ve Ministral ailelerindeki SLM'lerin güçlü ve zayıf yönlerini ele alır.
Katılımcılar dar kapsamlı bir iş problemi için büyük bir öğretmen modelden (teacher) sentetik veri üretip SLM'i görev bazlı optimize eder; büyük kapalı model ile SLM'i doğruluk, latency ve birim maliyet açısından karşılaştırır.
Kimler Katılmalı?
- Yüksek hacimli LLM çağrılarını daha ekonomik ve hızlı modellerle değiştirmek isteyen yapay zeka mühendisleri
- Görev odaklı model uyarlaması ve sentetik veri üretimi çalışan veri bilimciler
- Şirket içi (on-prem) veya kısıtlı GPU bütçesiyle çözüm geliştiren teknik ekipler
- Ön koşul: Python ve temel LLM uygulama geliştirme bilgisi
Kazanımlar
- Bir görevin SLM'e uygun olup olmadığını karmaşıklık ve bağlam gereksinimine göre belirler
- 1B–14B sınıfındaki güncel açık modelleri Türkçe başarımı, lisans ve donanım ihtiyacına göre seçer
- Constrained decoding ve few-shot örneklerle SLM'lerin çıktı tutarlılığını artırır
- Büyük model çıktılarından doğrulanmış eğitim seti üreterek görev odaklı distillation uygular
- Kurum use case'i için SLM ve frontier modelin maliyet/latency/kalite karşılaştırma raporunu üretir
Konular
Neden Küçük Dil Modelleri (SLM)?
- 1B–14B parametre bandının yetenek sınırları ve ideal kurumsal use case'ler
- Yüksek hacimli işlem hatlarında birim maliyet, gizlilik ve milisaniye seviyesinde latency
SLM Ekosistemi ve Model Seçimi
- Qwen, Llama, Gemma, Phi ve Ministral küçük modellerinin karşılaştırması
- Çok dillilik, Türkçe token verimliliği ve ticari lisans koşulları
SLM'lerde Prompting ve Constrained Decoding
- Küçük modellerde karmaşık talimatları alt adımlara bölme (pipeline decomposition)
- JSON Schema ve grammar kısıtlarıyla yapılandırılmış çıktı güvencesi
Knowledge Distillation ve Görev Uyarlaması
- Büyük öğretmen modelden (teacher) sentetik etiket ve gerekçe üretimi
- LoRA/QLoRA ile dar görevde frontier model kalitesine yaklaşma
Quantization, Kenar (Edge) ve Tek GPU Dağıtımı
- 4-bit ve 8-bit quantization (AWQ, GGUF, FP8) ile kalite/bellek dengesi
- Tek GPU veya CPU üzerinde yüksek throughput'lu servis kurulumu
Uygulama: Frontier Modelden SLM'e Göç Çalışması
- Kurumdan seçilen bir sınıflandırma/çıkarım görevinin SLM'e taşınması
- Kalite farkı, hız kazancı ve TCO analizinin raporlanması
Bu Kategorideki Diğer Eğitimler
-
Llama, Qwen, Mistral ve DeepSeek gibi open-weight modelleri vLLM, SGLang ve Ollama ile şirket içi veya özel bulutta OpenAI uyumlu API olarak sunma, GPU boyutlandırma, quantization ve güvenlik programı.
- Canlı Kurs
- 6 modül
-
Üretimdeki LLM uygulamalarında token tüketimini, fatura maliyetini ve p95 gecikmeyi düşüren mühendislik teknikleri: prompt ve semantik caching, Batch API, çıktı kontrolü, model kademelendirme ve birim maliyet analizi.
- Canlı Kurs
- 6 modül
-
LangChain v0.3+ ekosistemiyle (LCEL, ChatModel soyutlaması, prompt şablonları, structured output, tool calling, retriever entegrasyonu ve LangSmith izleme) modüler LLM uygulamaları geliştirmeyi öğreten program.
- Canlı Kurs
- 6 modül
-
Kurumsal Java (Spring AI, LangChain4j) ve .NET (Microsoft.Extensions.AI, Semantic Kernel) ekosistemlerinde Python'a geçmeden tip güvenli LLM, RAG, tool calling ve MCP entegrasyonu geliştirmeyi öğreten program.
- Canlı Kurs
- 6 modül
-
AWS üzerinde Amazon Bedrock Converse API, Knowledge Bases, Bedrock Agents, Guardrails, Prompt Management, IAM/VPC güvenliği ve maliyet optimizasyonu ile kurumsal üretken yapay zeka çözümleri geliştirme programı.
- Canlı Kurs
- 6 modül
-
Microsoft Azure AI Foundry ve Azure OpenAI Service üzerinde GPT/reasoning modelleri, Azure AI Search entegrasyonu, Entra ID kimlik doğrulaması, Private Endpoint, Content Safety ve PTU/kota yönetimi programı.
- Canlı Kurs
- 6 modül
Bizimle iletişime geçin
