Model Online/Fiziksel
Süre
Modüller 6 modül

Eğitimin Amacı ve Kapsamı

Bir prompt'u playground'da çalıştırmak kolaydır; aynı akışı güvenilir, izlenebilir ve maliyeti kontrol altında bir servise dönüştürmek ise ayrı bir mühendislik işidir. Program; OpenAI Responses API, Anthropic Messages API ve Gemini API'nin ortak ve farklı yönlerini, resmi SDK'ları, streaming, konuşma geçmişi yönetimi, timeout, retry, rate limit ve API anahtarı güvenliğini kapsar.

Katılımcılar eğitim boyunca kurumlarına uyarlanmış bir senaryo üzerinde, sağlayıcı soyutlaması, hata ve fallback tasarımı ile temel bir eval seti içeren üretime yakın bir LLM uygulaması geliştirir.

Kimler Katılmalı?

  • LLM özelliklerini mevcut ürünlere ekleyecek backend ve full-stack geliştiriciler
  • Yapay zeka prototiplerini servise dönüştürecek yapay zeka mühendisleri
  • Entegrasyon ve API standartlarından sorumlu platform ekipleri
  • Ön koşul: Python veya TypeScript ile REST API geliştirme deneyimi

Kazanımlar

  • Üç büyük sağlayıcının API'lerini ortak bir arayüz arkasında kullanır
  • Streaming yanıtları ve çok turlu konuşma durumunu doğru yönetir
  • Retry, exponential backoff, timeout ve fallback mekanizmalarını uygular
  • Token kullanımını, maliyeti ve latency'yi loglayıp raporlar
  • Değişiklikleri temel bir eval setiyle doğrulayan bir geliştirme döngüsü kurar

Konular

LLM API'lerinin Anatomisi
  • OpenAI Responses, Anthropic Messages ve Gemini API karşılaştırması
  • Mesaj rolleri, parametreler ve kullanım (usage) bilgisi
SDK'lar, Streaming ve Konuşma Durumu
  • Python ve TypeScript SDK'ları ile streaming yanıtlar
  • Çok turlu konuşmalarda geçmişin saklanması ve kırpılması
Dayanıklılık: Hata, Retry ve Fallback
  • Rate limit, timeout ve 5xx hatalarının yönetimi
  • Exponential backoff ve alternatif modele geçiş
Sağlayıcı Soyutlaması ve Güvenlik
  • Çoklu sağlayıcı için ortak arayüz ve LiteLLM gibi gateway'ler
  • API anahtarı yönetimi, kişisel veri maskeleme ve KVKK hususları
Loglama, Maliyet Takibi ve Temel Eval
  • Token, maliyet ve latency metriklerinin kaydı
  • Küçük bir eval setiyle regresyon kontrolü
Proje: Üretime Yakın LLM Uygulaması
  • Kurum senaryosuna göre uçtan uca servis geliştirme
  • Kod incelemesi ve üretim öncesi kontrol listesi

Bu Kategorideki Diğer Eğitimler

Bizimle iletişime geçin