LLM-разработчик в команду автоматизации поддержки Плюса

Мы команда автоматизации поддержки Плюса. Мы создаём LLM-агентов, которые должны быть по-настоящему полезными для людей. Также мы занимаемся ускорением LLM на инференсе, обеспечиваем безопасность агентских систем и разрабатываем RAG.

Сейчас ищем того, кто разделяет наш интерес к сложным инженерным задачам и верит, что технологии должны делать жизнь проще.

Это возможность работать на стыке cutting-edge-технологий и реальной пользы для миллионов людей в одном из самых больших сервисов подписки в России.

Какие задачи вас ждут

Разработка LLM-пайплайнов
Вы будете проектировать, реализовывать и ускорять пайплайны обработки пользовательских обращений: от классификации интента и извлечения сущностей до генерации ответов. Задача включает работу с RAG-архитектурами и фреймворками быстрого инференса.

Создание и развитие диалоговых агентов
Вам предстоит работать над созданием LLM-агентов, способных вести осмысленные, многоходовые диалоги с пользователями. Это включает разработку систем управления контекстом, tool calling, обработку многозадачности и обеспечение логичной последовательности ответов. Также вы будете заниматься разработкой защиты агентов (security).

Ускорение инференса
Одна из ключевых задач — сделать работу наших моделей не только качественной, но и экономически эффективной в масштабе всего Плюса. Вы будете заниматься ускорением инференса и находить баланс между скоростью, точностью и затратами ресурсов.

Работа с данными и оценка качества
Вам предстоит активно работать с данными обращений и базой знаний. Вы будете разрабатывать и внедрять метрики качества, чтобы объективно оценивать работу систем и постоянно их улучшать.

Больше об ML в Яндексе — в канале Yandex for ML

Мы ждем, что вы

• Имеете опыт коммерческой разработки и внедрения решений на основе LLM
• Уверенно владеете Python и основными ML-библиотеками (PyTorch, Transformers, LangChain/LlamaIndex или аналогами)
• Понимаете архитектурные паттерны и лучшие практики построения LLM-систем (RAG, SFT, agentic frameworks)
• Имеете практический опыт развёртки API современных LLM на основе фреймворков инференса (sglang/vLLM). Понимаете, как оптимизировать инференс моделей
• Обладаете знаниями в области NLP (извлечение информации, классификация текстов, семантический поиск)
• Понимаете принципы разработки отказоустойчивых и масштабируемых распределённых систем

Будет плюсом, если вы

• Знакомы с Java