Data Quality Engineer

Описание

В трайбе SberWorks (Сбер) мы создаём **Productivity Platform** — единую платформу для автоматизации производственных процессов и внедрения искусственного интеллекта в Сбере. В основе платформы лежит **DataLake** — централизованное хранилище, которое накапливает и структурирует данные для аналитики, обучения AI-ассистентов и построения витрин. **Цель создания платформы** **Productivity Platform** — обеспечить единый и бесшовный путь для команд Банка, сократив производственные затраты благодаря максимальной автоматизации и применению искусственного интеллекта на каждом этапе производственного процесса. **Команда DataLake** отвечает за развитие и сопровождение холодного хранилища на базе Hadoop. Мы ищем специалиста, который поможет нам **развить с нуля практики тестирования данных** в нашей системе и выстроить процессы обеспечения качества данных на всех этапах их жизненного цикла. Стек технологий проекта: Python, PySpark, Airflow, Hadoop (Hive), Kafka, Postgres, CDC, OpenMetaData

Обязанности

·       Разрабатывать и поддерживать автоматизированные тесты Data Quality для данных, хранящихся в Hadoop (Hive). ·       Интегрировать тесты в Airflow-пайплайны, обеспечивать их запуск по расписанию и мониторинг результатов. ·       Анализировать причины инцидентов с качеством данных, взаимодействовать с владельцами источников и потребителями данных. ·       Разрабатывать и внедрять метрики, правила и стандарты качества данных для DataLake. ·       Участвовать в развитии инфраструктуры тестирования данных, внедрять новые инструменты и подходы.

Требования

·       Опыт работы с Hadoop/Hive, понимание принципов организации данных в DWH. ·       Уверенное владение Python и PySpark для написания тестов и обработки данных. ·       Опыт работы с Airflow: создание, отладка и поддержка DAG’ов. ·       Понимание принципов тестирования данных (Data Quality), опыт разработки автотестов для ETL-процессов. ·       Навыки работы с SQL, опыт анализа данных и поиска аномалий. ·       Будет плюсом: опыт работы с Kafka, CDC, Postgres. ·       Будешь стремиться погружаться в продукт, а не "просто писать код"

Условия

·       Современный комфортный офис рядом с м. Кутузовская. ·       Ежегодный пересмотр зарплаты и годовая премия ·       Более 400 образовательных программ СберУниверситета. Возможность постоянно совершенствоваться и развивать профессиональные навыки. ·       Программа адаптации и помощь руководителя на старте. Мы поможем вам быстро влиться в коллектив и начать продуктивную работу. ·       Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа. Забота о вас и ваших близких — важный аспект нашего сотрудничества. ·       Корпоративный спортзал и зоны отдыха. ·       Ипотека выгоднее до 7% для каждого сотрудника. Специальные условия ипотечного кредитования сделают покупку жилья доступной. ·       Подписка СберПрайм+, скидки на продукты компаний-партнеров ·       Вознаграждение за рекомендацию друзей в команду Сбера. Привлекая новых талантливых специалистов, вы можете заработать дополнительное вознаграждение.