Разработчик в рантайм диалогового движка Алисы

Голосовой ассистент Алиса постоянно развивается. Наша команда внедряет в диалоговый движок большие языковые модели (LLM), оптимизирует и ускоряет их использование. Недавно мы внедрили LLM, благодаря которым Алиса получила много новых знаний и стала ещё лучше поддерживать диалог.

Какие задачи вас ждут

Ускорение инференса LLM
Мы ищем разные способы, как быстрее давать пользователю ответ: исследуем новые архитектуры моделей, пути их ускорения и подходы к тому, как мы получаем ответы и что дальше с ними делаем.

Оптимизация кода и архитектуры
Мы постоянно работаем над тем, чтобы Алиса казалась ещё более живой. Вы будете оптимизировать обработку запросов на уровне и сервисов (например, улучшая эффективность кода), и всей архитектуры (например, выполняя часть работы для получения ответа как можно раньше).

Разработка решений, которые сделают Алису лучше и быстрей
Новые возможности Алисы зачастую требуют новых решений и подходов к тому, как мы обрабатываем пользовательские запросы. Вам предстоит писать высоконагруженные сервисы, которые будут обрабатывать десятки и сотни тысяч запросов в секунду, имплементировать новейшие подходы для работы с LLM и придумывать, как сделать Алису ещё лучше.

Мы ждем, что вы

• Уверенно владеете C++
• Готовы изучать новые технологии
• Знакомы с принципами построения надёжного бэкенда
• Работали с высоконагруженными сервисами

Будет плюсом, если вы

• Работали с ML, в частности с DL
• Знаете, как устроен инференс различных моделей
• Знаете Python