NLP Engineer (GigaChat)

Описание

Мы - команда GigaChat Pretrain Data, готовим pretrain данные для GigaChat и GigaChat Vision. Данных много. Очень много (40+ Пб сырого хаоса). Если хочется не просто тренировать модели, а работать с реально большими данными, то вот твой шанс :)

Обязанности

* чистить данные по узким доменам (аниме, игры, сериалы, книги, фильмы) → LLM-парсинг + Code Execution Feedback * делать пайплайны для экспериментов (модели 400M – 32B), всё красиво в wandb * фильтровать данные так, чтобы метрики росли * доставать из книг задачи по математике → сиды для синтетики * генерить синтетические данные → на тысячах GPU * разбираться с токенизацией → сколько букв "r" в "strawberry"? * кластеризовать данные → чистим данные от мусора, прежде чем модель начнёт верить в астрологию * писать дедупликацию на Rust → миллиарды документов, но не за O(n²) * оптимизировать MapReduce → Spark, тысячи ядер (опыт с YTsaurus - плюс) * экспериментировать с SFT и RL → DPO, DRPO, увеличиваем качество синтетики.

Требования

* выпускник ШАД/ ВШЭ Факультета компьютерных наук/ МФТИ Факультета инноваций и высоких технологий и/или имеешь коммерческий релевантный опыт в роли NLP Engineer от двух лет.

Условия

* комфортный современный офис рядом с м. Кутузовская * гибридный формат работы (2 дня в офисе, 3 дня на удалёнке) * ежегодный пересмотр зарплаты, годовая премия * корпоративный спортзал и зоны отдыха * система обучения для профессионального и карьерного развития * расширенный полис ДМС с первого дня работы и страхование для семьи * льготная программа ипотеки для сотрудников * бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров * вознаграждение за рекомендацию друзей в команду Сбера.