Data Engineer поневоле

Hodza Nassredin

Подкаст о Data Engineer-ах. Рассказы о сложностях практического Data Engineer-инга, основанные на опыте автора при создании системы аналитики для IOT/WebScraping данных на azure. Упоминаются: azure data explorer, azure data fabric, azure data lake storage, azure data lake analytics и многое другое.

集數

  1. 3: ETL и EventHub

    2019/10/24

    3: ETL и EventHub

    Обсуждаем и сравниваем ETL системы на примере Apache NIFI и StreamsetsDataCollector. Далее разбираемся в работе EvenHub-ов.

    31 分鐘
  2. 2: Форматы и схемы

    2019/09/17

    2: Форматы и схемы

    Продолжаем обсуждение форматов файлов и схем данных. Рассматриваются: выведение схемы данных, проекция сложных типов данных в колонки, преимущества колоночных форматов, кратко о методах сжатия данных. Dremel made simple with Parquet https://blog.twitter.com/engineering/en_us/a/2013/dremel-made-simple-with-parquet.html Avro specs https://avro.apache.org/docs/1.8.1/spec.html

    16 分鐘
  3. 1. Форматы файлов

    2019/09/10

    1. Форматы файлов

    Обсуждаем разные форматы файлов для хранения данных

    17 分鐘
  4. 0. Пилотный выпуск

    2019/09/05

    0. Пилотный выпуск

    Подкаст о Data Engineer-ах. В пилотном выпуске краткая информация обо мне и о чем планируется говорить. Упоминаются: azure data explorer, azure data fabric, azure data lake storage, azure data lake analytics и многое другое.

    32 分鐘
  • 共 4 集

簡介

Подкаст о Data Engineer-ах. Рассказы о сложностях практического Data Engineer-инга, основанные на опыте автора при создании системы аналитики для IOT/WebScraping данных на azure. Упоминаются: azure data explorer, azure data fabric, azure data lake storage, azure data lake analytics и многое другое.

資訊