Eğitimin Amacı ve Kapsamı
Kaynak uygulamadaki sessiz bir şema değişikliği, saatler sonra yönetim raporlarını ve makine öğrenmesi modellerini bozar. Bu program, veri kalitesini sonradan yapılan bir temizlik işi olmaktan çıkarıp pipeline'ın girişine ve ekipler arası sözleşmelere taşımayı hedefler.
Veri kalitesi boyutları, dbt testleri, SodaCL ve Great Expectations ile otomatik doğrulama, circuit breaker (write-audit-publish) deseni ve YAML tabanlı data contract tanımları uygulamalı olarak işlenir. Kurum içi bir veri akışı için örnek data contract ve kalite kontrol listesi hazırlanır.
Kimler Katılmalı?
- Veri hattı ve ambarı geliştiren veri mühendisleri ve analytics engineer'lar
- Kaynak sistem şemalarını yöneten backend geliştiricileri
- Veri yönetişimi ve veri ürünü sahipleri (Data Product Owner)
- Ön koşul: SQL ve temel veri hattı deneyimi
Kazanımlar
- Tamlık, doğruluk, tutarlılık ve tazelik boyutlarında ölçülebilir kalite kuralları tanımlar
- dbt tests, Soda veya Great Expectations ile otomatik kalite kapıları kurar
- Write-Audit-Publish deseniyle bozuk verinin aşağı akışa sızmasını engeller
- Veri üreticisi ve tüketicisi arasında makinece okunabilir data contract yazar
- CI/CD aşamasında şema kırılmalarını yakalayan doğrulama adımları ekler
Konular
Veri Kalitesi Boyutları ve Hata Modları
- Şema kayması, null patlaması, duplikasyon ve gecikme
- Veri kalitesi metrikleri ve SLI/SLO tanımı
Pipeline İçi Doğrulama: dbt, Soda ve Great Expectations
- dbt generic ve singular test'ler
- SodaCL ve Great Expectations ile kural yazımı
- Write-Audit-Publish (circuit breaker) deseni
Data Contract Kavramı ve Standartları
- OpenDataContractStandard (ODCS) ve YAML sözleşme yapısı
- Şema, semantik, kalite kuralları ve SLA maddeleri
- Versiyonlama ve geriye dönük uyumluluk
CI/CD ve Orkestrasyon Entegrasyonu
- Pull request aşamasında şema ve sözleşme kontrolü
- Airflow ve veri kataloğu entegrasyonu
Kurumsal Uygulama Atölyesi
- Kritik bir veri varlığı için data contract yazımı
- Olay müdahale ve sahiplik matrisi
Bu Kategorideki Diğer Eğitimler
-
Observability
Veri hatları ve dağıtık sistemler için observability: OpenTelemetry, Prometheus, Grafana ve OpenLineage ile metrik, log, trace ve veri soykütüğü (lineage) toplama, anomali tespiti ve kök neden analizi.
- Canlı Kurs
- 5 modül
-
Big Data (Büyük Veri)
İlişkisel ve NoSQL veritabanlarından Data Lakehouse mimarilerine, Apache Spark, Kafka, Airflow ve Terraform (IaC) ile uçtan uca bulut tabanlı veri mühendisliği eğitimi.
- Canlı Kurs
- 11 modül
-
Apache Spark
Apache Spark mimarisi, RDD ve DataFrame API'leri, Spark SQL, Structured Streaming, MLlib, GraphX ve dağıtık küme performans optimizasyonu üzerine kapsamlı büyük veri işleme eğitimi.
- Canlı Kurs
- 10 modül
-
Streaming Analytics
Kafka, Apache Flink ve Spark Structured Streaming ile gerçek zamanlı veri analitiği: windowing, event time, watermark, stateful işleme ve anlık dashboard'lar. Veri mühendisleri ve analitik ekipleri için.
- Canlı Kurs
- 5 modül
-
Hadoop, Hive ve HBase
HDFS, YARN, Hive ve HBase ile Hadoop ekosistemi: dağıtık depolama, HiveQL ile SQL analitiği, partition ve ORC/Parquet optimizasyonu, HBase ile düşük gecikmeli erişim ve modern lakehouse'a geçiş seçenekleri.
- Canlı Kurs
- 5 modül
-
Veri Mühendisliği Temelleri
Veri mühendisliğine giriş: ETL/ELT, veri modelleme, data warehouse ve lakehouse, batch ve streaming, orkestrasyon ve veri kalitesi. Örnek bir uçtan uca veri hattı tasarlanarak modern veri platformunun yapı taşları öğrenilir.
- Canlı Kurs
- 5 modül
Bizimle iletişime geçin