Senior/Lead NLP/PLP Researcher (проект GigaCode)

Описание

Работаем над новым поколением AI-ассистентов для разработчиков — модели понимают код, пишут, оптимизируют и объясняют. В команде: R&D-инженеры, ML-разработчики, инфраструктура. Мы строим стек полного цикла: от архитектур до интеграции. Направления: претрейн на собственных датасетах, внедрение PL-моделей в production, кодовые embedding-ы, задача Code QA и Code Summarization. Используем собственные пайплайны обучения моделей на кластере «Кристофари». Поддерживаем CI/CD, MLflow, Hydra, оптимизацию через DeepSpeed и vLLM. Работаем с HuggingFace + собственными фреймворками.

Обязанности

* дизайн экспериментов, формулировка гипотез для улучшения NLP/PLP моделей и алгоритмов, планирование исследовательских экспериментов с выводами * проведение экспериментов, написание кода, подготовка датасетов и бенчмарков, проведение замеров и анализ результатов * обучение моделей на кластере, включая обучение моделей с нуля и дообучение опенсорс моделей * взаимодействие с прод-командой для интеграции моделей и алгоритмов в продакшн. Взаимодействуем с командой инженеров SberWorks * ориентированность на SOTA, читать пейперы, быть в курсе последних исследований, предлагать новые смелые подходы и направления.

Требования

* хорошие теоретические знания в DL, с упором в современный NLP и трансформеры * умение формулировать эксперименты с научной строгостью, обосновывать их, проводить самостоятельно и делать выводы * опыт обучения трансформеров * опыт распределенного обучения моделей (deepspeed, fsdp, torch.distributed, accelerate) * знание стандартных библиотек для DL и NLP (PyTorch и библиотеки Huggingface) * увлеченность NLP/PLP и DL * опыт менторинга стажеров и младших коллег. Будет плюсом: * опыт работы на похожей позиции * участие в соревнованиях по ML * сабмиты на лидербордах по NLP/PLP * публикации уровня А/A\*, Q1 * обучение моделей на кластере * опыт управления командой исследователей.

Условия

* комфортный современный офис рядом с м. Кутузовская * гибридный формат работы * ежегодный пересмотр зарплаты, годовая премия * корпоративный спортзал и зоны отдыха * система обучения для профессионального и карьерного развития * расширенный полис ДМС с первого дня работы и страхование для семьи * программа ипотеки для сотрудников * бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров * вознаграждение за рекомендацию друзей в команду Сбера.