Data Engineer

Описание

Мы— команда дата-инженеров, которая строит и поддерживает ядро данных. Мы создаем надежные ETL-процессы, проектируем хранилища данных и обеспечиваем аналитиков и дата-сайентистов качественными данными. Мы ищем: Инженера данных, который не только умеет строить ETL-пайплайны и витрины, но и мыслит как инженер по качеству данных (Data QA), проходя полный цикл: от проектирования и разработки скриптов сбора данных до внедрения комплексных стратегий их тестирования.

Обязанности

* Разработка и поддержка ETL/ELT скриптов и пайплайнов. * Написание и оптимизация SQL-запросов для извлечения и преобразования данных. * Помощь в мониторинге выполнения джобов, поиск и первичный анализ ошибок. * Тестирование данных, как код: * \-разработка и внедрение стратегии тестирования (Data Testing Strategy) для пайплайнов данных. * \-будет преимуществом - написание и поддержка автоматических тестов для данных: проверка целостности (integrity), свежести (freshness), качества (quality), соответствия схеме (schema conformity), точности бизнес-правил (accuracy). * \-будет преимуществом - интеграция тестов в CI/CD пайплайны (с использованием, например, dbt test, Python-скриптов, Unit-тестов). * Работа с документацией по существующим процессам и создание новой. * Активное участие в код-ревью, изучение лучших практик командной разработки витрин.

Требования

* Понимание основ SQL: умение писать запросы с JOIN, GROUP BY, подзапросами. Оконные функции — будут преимуществом. * Практические знания и навыки Python для целей ETL: понимание структур данных, работа с библиотеками (Pandas, Requests), написание скриптов. * Понимание принципов работы баз данных: что такое индекс, нормализация, транзакция. * Понимание принципов ETL/ELT и зачем это нужно. * Опыт с фреймворками оркестрации: Airflow, Trino, Dagster или аналоги. * Опыт тестирования данных: практическое применение одного из подходов/инструментов: dbt test, Great Expectations, Pandas/Spark + pytest, unit-тестирование. * Готовность учиться, внимательность к деталям Будет огромным плюсом (Nice to have): * Опыт работы с любым из классических DWH (PostgreSQL, ClickHouse и т.д.) или облачными платформами (Redshift) даже в учебных целях. * Основы командной строки (Linux). * Понимание контейнеризации (Docker) * Умение работать с API.

Условия

* офисный формат работы (современный офис в Москве м. Кутузовский проспект c зонами отдыха и спортзалом) * годовой бонус и ежегодный пересмотр * обучение за счет Компании: Корпоративный университет, онлайн курсы, неограниченный доступ к библиотеке, тренинги, митапы и возможность получить новую квалификацию * расширенный ДМС с первого дня + стоматология и льготное страхование для семьи * льготная ипотека в Сбере * корпоративная пенсионная программа * бесплатная подписка СберПрайм