Разработчик C++ (VLLM, SGlang, TesorRT)

Описание

Мы — команда синтеза речи в GigaPlatform. Создаём и развиваем технологии синтеза речи. Решаем полный цикл задач синтеза, включающий и собственно синтез, в том числе на LLM, и NLP-задачи, и многое другое. Недавно мы выпустили мощное обновление нашего синтеза, которое на голову выше того, что было раньше, особенно по естественности и "человечности" (https://habr.com/ru/companies/sberbank/articles/966640/). На достигнутом останавливаться не планируем, и уже готовим ещё более качественную модель синтеза. Сейчас мы расширяем команду отдела production-внедрения. Ищем талантливых DL-инженеров, которые понимают как модели работают на уровне математики и аппаратуры.

Обязанности

\- низкоуровневая оптимизация работа с «железом» \- поддержка инфраструктуры взаимодействия с LLM \- вывод новых архитектур в prod

Требования

\- опыт работы в области глубокого обучения, в том числе с **LLM** \- глубокое знание CUDA и Python \- знание и опыт работы с фреймворками TensorRT, vLLM и **SGlang** \- приветствуется опыт с C++

Условия

* комфортный современный офис рядом с м. Кутузовская * возможность выбрать удобный график – офис/гибрид/удаленка (в РФ) * годовая премия * корпоративный спортзал и зоны отдыха * более 400 образовательных программ СберУниверситета для профессионального и карьерного развития * расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа * ипотека для сотрудников по дисконтной прогамме * бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров * вознаграждение за рекомендацию друзей в команду Сбера.