Model Online/Fiziksel
Süre
Modüller 5 modül

Eğitimin Amacı ve Kapsamı

Tarayıcı, mobil uygulama veya telefon hattı ile çok modlu modeller arasında milisaniye seviyesinde ses, görüntü ve olay (event) akışı sağlamak sağlam bir ağ ve sistem mühendisliği gerektirir. Yanlış protokol seçimi veya kötü tampon (buffer) yönetimi; ses kesilmelerine, paket kayıplarına ve sunucu bellek taşmalarına yol açar.

Bu teknik eğitimde katılımcılar WebSockets, Server-Sent Events (SSE) ve WebRTC protokollerini doğru katmanlarda konumlandırır; istemci–medya sunucusu–model arasındaki çift yönlü akışı kurar, geçici (ephemeral) token güvenliğini uygular ve yüksek eşzamanlılık için ölçekleme ve latency ölçüm planı hazırlar.

Kimler Katılmalı?

  • Gerçek zamanlı yapay zeka altyapısı kuran backend, platform ve sistem mühendisleri
  • WebRTC, medya sunucusu ve düşük gecikmeli API geliştiricileri
  • Tam yığın (full-stack) gerçek zamanlı uygulama geliştiricileri
  • Ön koşul: Python/Node.js/Go, ağ protokolleri ve asenkron programlama deneyimi

Kazanımlar

  • Son kullanıcı bağlantısında neden WebSocket yerine WebRTC, sunucular arasında neden WebSocket kullanıldığını açıklamak
  • OpenAI Realtime API ve Gemini Live API oturum olaylarını (session/conversation events) uçtan uca yönetmek
  • PCM/Opus ses çerçeveleri, jitter buffer ve geri basınç (backpressure) mekanizmalarını kodlamak
  • Tarayıcıdan doğrudan modele güvenli bağlantı için ephemeral token ve WebRTC SDP el sıkışması kurmak
  • Uzun süreli durumlu (stateful) bağlantıları yük dengeleyici ve medya sunucularıyla ölçeklemek

Konular

Streaming Protokolleri: SSE, WebSockets ve WebRTC
  • Metin/olay akışı için SSE, sunucu-sunucu için WebSocket, uç cihaz medya akışı için WebRTC
  • TCP head-of-line blocking sorunu ve UDP/RTP tabanlı medya aktarımı
OpenAI Realtime ve Gemini Live API Protokol Yapısı
  • İstemci ve sunucu olayları (input_audio_buffer, response.create, conversation.item)
  • Ephemeral API anahtarları, WebRTC data channel ve güvenli oturum başlatma
Ses Çerçeveleme, Kodekler ve Tampon (Buffer) Yönetimi
  • PCM16, G.711 (mu-law/a-law) ve Opus dönüşümleri; yeniden örnekleme (resampling)
  • Ring buffer, jitter yönetimi ve ağ dalgalanmalarında ses kopmasını önleme
Durumlu (Stateful) Akış Servislerini Ölçekleme
  • LiveKit / SFU medya sunucusu topolojisi ve worker havuzu yönetimi
  • Bölgesel yönlendirme (edge routing), graceful shutdown ve oturum kurtarma
Telemetri, Stres Testi ve Latency Ölçüm Planı
  • Eşzamanlı ses/olay akışı yük testi ve paket kaybı simülasyonu
  • Ağ, model ve ses oynatma katmanlarında p50/p95/p99 latency izleme

Bu Kategorideki Diğer Eğitimler

  • Turn Taking ve Latency Tasarımı

    Sesli yapay zeka sistemlerinde insan doğallığında sıra alma (turn-taking) ve milisaniye bütçesi yönetimi: akustik VAD, semantik endpointing, yanlış söz kesme önleme, TTFT/TTFB optimizasyonu ve speculative yürütme.

    Çok Modlu ve Konuşmalı Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
  • Document / Screen Understanding

    Yoğun mizanpajlı belgeleri ve uygulama ekranlarını (GUI) piksel, koordinat ve yapısal ağaç düzeyinde ayrıştırma: OmniParser, Qwen-VL, Docling, UI bileşen tespiti ve ekran-belge birleşik anlama modelleri.

    Çok Modlu ve Konuşmalı Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
  • Multimodal Evals

    Görsel, belge, ses ve video işleyen çok modlu sistemler için değerlendirme mühendisliği: OCR/çıkarım metrikleri, grounding IoU, sesli WER/MOS ve sıra alma ölçümü, VLM-as-a-judge ve regresyon boru hatları.

    Çok Modlu ve Konuşmalı Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
  • Metin, Görsel, Ses ve Video Modelleri

    Metin, görsel, ses ve videoyu birlikte anlayan ve üreten çok modlu yapay zeka modellerine kapsamlı giriş: model aileleri, kurumsal kullanım senaryoları, yetenek sınırları, maliyet/gecikme karşılaştırması ve model seçimi.

    Çok Modlu ve Konuşmalı Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
  • Çok Modlu Uygulama Tasarımı

    Metin, görsel, ses ve belge girdilerini birleştiren kurumsal uygulamaların uçtan uca tasarımı: medya ön işleme, structured output, hibrit model yönlendirme ve maliyet/gecikme optimizasyonu.

    Çok Modlu ve Konuşmalı Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül
  • Görsel Belge Analizi

    Karmaşık PDF, fatura, sözleşme, tablo ve formlardan VLM'ler ve modern belge ayrıştırma araçlarıyla yüksek doğruluklu veri çıkarma: mizanpaj anlama, şema doğrulama, kanıt eşleme ve insan onaylı iş akışı.

    Çok Modlu ve Konuşmalı Yapay Zeka Kurumsal
    Canlı Kurs
    5 modül

Bizimle iletişime geçin