Eğitimin Amacı ve Kapsamı
Tarayıcı, mobil uygulama veya telefon hattı ile çok modlu modeller arasında milisaniye seviyesinde ses, görüntü ve olay (event) akışı sağlamak sağlam bir ağ ve sistem mühendisliği gerektirir. Yanlış protokol seçimi veya kötü tampon (buffer) yönetimi; ses kesilmelerine, paket kayıplarına ve sunucu bellek taşmalarına yol açar.
Bu teknik eğitimde katılımcılar WebSockets, Server-Sent Events (SSE) ve WebRTC protokollerini doğru katmanlarda konumlandırır; istemci–medya sunucusu–model arasındaki çift yönlü akışı kurar, geçici (ephemeral) token güvenliğini uygular ve yüksek eşzamanlılık için ölçekleme ve latency ölçüm planı hazırlar.
Kimler Katılmalı?
- Gerçek zamanlı yapay zeka altyapısı kuran backend, platform ve sistem mühendisleri
- WebRTC, medya sunucusu ve düşük gecikmeli API geliştiricileri
- Tam yığın (full-stack) gerçek zamanlı uygulama geliştiricileri
- Ön koşul: Python/Node.js/Go, ağ protokolleri ve asenkron programlama deneyimi
Kazanımlar
- Son kullanıcı bağlantısında neden WebSocket yerine WebRTC, sunucular arasında neden WebSocket kullanıldığını açıklamak
- OpenAI Realtime API ve Gemini Live API oturum olaylarını (session/conversation events) uçtan uca yönetmek
- PCM/Opus ses çerçeveleri, jitter buffer ve geri basınç (backpressure) mekanizmalarını kodlamak
- Tarayıcıdan doğrudan modele güvenli bağlantı için ephemeral token ve WebRTC SDP el sıkışması kurmak
- Uzun süreli durumlu (stateful) bağlantıları yük dengeleyici ve medya sunucularıyla ölçeklemek
Konular
Streaming Protokolleri: SSE, WebSockets ve WebRTC
- Metin/olay akışı için SSE, sunucu-sunucu için WebSocket, uç cihaz medya akışı için WebRTC
- TCP head-of-line blocking sorunu ve UDP/RTP tabanlı medya aktarımı
OpenAI Realtime ve Gemini Live API Protokol Yapısı
- İstemci ve sunucu olayları (input_audio_buffer, response.create, conversation.item)
- Ephemeral API anahtarları, WebRTC data channel ve güvenli oturum başlatma
Ses Çerçeveleme, Kodekler ve Tampon (Buffer) Yönetimi
- PCM16, G.711 (mu-law/a-law) ve Opus dönüşümleri; yeniden örnekleme (resampling)
- Ring buffer, jitter yönetimi ve ağ dalgalanmalarında ses kopmasını önleme
Durumlu (Stateful) Akış Servislerini Ölçekleme
- LiveKit / SFU medya sunucusu topolojisi ve worker havuzu yönetimi
- Bölgesel yönlendirme (edge routing), graceful shutdown ve oturum kurtarma
Telemetri, Stres Testi ve Latency Ölçüm Planı
- Eşzamanlı ses/olay akışı yük testi ve paket kaybı simülasyonu
- Ağ, model ve ses oynatma katmanlarında p50/p95/p99 latency izleme
Bu Kategorideki Diğer Eğitimler
-
Turn Taking ve Latency Tasarımı
Sesli yapay zeka sistemlerinde insan doğallığında sıra alma (turn-taking) ve milisaniye bütçesi yönetimi: akustik VAD, semantik endpointing, yanlış söz kesme önleme, TTFT/TTFB optimizasyonu ve speculative yürütme.
- Canlı Kurs
- 5 modül
-
Document / Screen Understanding
Yoğun mizanpajlı belgeleri ve uygulama ekranlarını (GUI) piksel, koordinat ve yapısal ağaç düzeyinde ayrıştırma: OmniParser, Qwen-VL, Docling, UI bileşen tespiti ve ekran-belge birleşik anlama modelleri.
- Canlı Kurs
- 5 modül
-
Multimodal Evals
Görsel, belge, ses ve video işleyen çok modlu sistemler için değerlendirme mühendisliği: OCR/çıkarım metrikleri, grounding IoU, sesli WER/MOS ve sıra alma ölçümü, VLM-as-a-judge ve regresyon boru hatları.
- Canlı Kurs
- 5 modül
-
Metin, Görsel, Ses ve Video Modelleri
Metin, görsel, ses ve videoyu birlikte anlayan ve üreten çok modlu yapay zeka modellerine kapsamlı giriş: model aileleri, kurumsal kullanım senaryoları, yetenek sınırları, maliyet/gecikme karşılaştırması ve model seçimi.
- Canlı Kurs
- 5 modül
-
Çok Modlu Uygulama Tasarımı
Metin, görsel, ses ve belge girdilerini birleştiren kurumsal uygulamaların uçtan uca tasarımı: medya ön işleme, structured output, hibrit model yönlendirme ve maliyet/gecikme optimizasyonu.
- Canlı Kurs
- 5 modül
-
Görsel Belge Analizi
Karmaşık PDF, fatura, sözleşme, tablo ve formlardan VLM'ler ve modern belge ayrıştırma araçlarıyla yüksek doğruluklu veri çıkarma: mizanpaj anlama, şema doğrulama, kanıt eşleme ve insan onaylı iş akışı.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin