NLP инженер в GigaChat Alignment

Описание

Мы — GigaChat Alignment. Делаем модель полезной и надёжной: SFT/DPO, дистилляция в маленькие модели, LoRA-сервис, метрики и валидирующие пайплайны. Быстро проверяем гипотезы, ускоряем обучение и выкатываем улучшения в прод — сначала для внутренних клиентов, потом для всей России. Направления * Улучшение SFT / DPO: тестирование новый подходов к обучению, ускорение пайплайнов, генерация новых данных, дистиляция знаний из больших LLM в маленькие. * Развитие метрик качества GigaChat-а, например, через оценку способности решать задачи олимпиад международного уровня. Развитие внутреннего LLM-AS-A-JUDGE * Разработка сервиса Lora обучения GigaChat и GigaEmbeder. Повышение стабильности и воспроизводимости запусков, создание пайплайнов валидации и генерации данных с помощью ЛЛМ. На эти роли мы ищем талантливого NLP Engineer, с которым будем вместе совершенствовать и развивать GigaChat. Для всех этих экспериментов у нас есть кластер с большим числом A/H 100'ых.

Обязанности

* улучшать качество работы GigaChat на русском и английском языках * помогать решать бизнес-задачи с помощью нашей технологии сначала для внутренних клиентов в Сбере, а потом и внешним * придумывать и внедрять новые применения для LLM * помогать выводить в прод всё, что мы обучим * постоянно держаться up-to-date со свежими статьями

Требования

* уверенное владение Python, PyTorch * знание базовых алгоритмов и математики * знания в DL, опыт обучения простых и больших моделей * опыт обучения моделей для продакшена * понимание текущего состояния эволюции больших LLM'ов * будет плюсом наличие публикаций

Условия

* удалённо по России * возможность оформления в акктеритованную IT-компанию * годовая премия по итогам работы до 6 окладов * регулярный пересмотр зарплат * корпоративный спортзал и зоны отдыха * более 400 программ СберУниверситета для роста * программа адаптации и помощь руководителя на старте * крупнейшее DS&AI community – более 600 DS банка, регулярный обмен знаниями, опытом и лучшими практиками, интерактивные лекции и мастер-классы от ведущих ВУЗов и экспертов технологических компаний, дайджест о самых последних разработках в области DS&AI и отчеты с крупнейших конференций мира, регулярные внутренние митапы * расширенный ДМС, льготное страхование для семьи, корпоративная пенсионная программа * ипотека для сотрудников по дисконтной программе * СберПрайм+ и скидки у партнёров * бонус за рекомендации в команду