Старший LLM-разработчик в группу алаймента Нейро

Около года назад мы запустили Нейро, после добавили в него мультизапрос для сложных диалогов и понимание актуальности. Сейчас Нейро пользуются десятки миллионов человек. Наша команда отвечает за сердце этого проекта — систему построения генеративного ответа. Теперь перед нами стоит большая задача: научить Нейро писать мультимодальные ответы и пользоваться множеством внутрияндексовых сервисов под капотом. Наша цель — сделать полностью генеративную поисковую систему.

Какие задачи вас ждут

Улучшение качества генеративных моделей
Мы активно экспериментируем с RL и улучшением генерации, внедряем новые методы и подходы, работаем с мультимодальными и reasoning-моделями для повышения качества, экспериментируем с reward-моделями для RL, так как хороший reward — главный залог успеха.

Сжатие и удешевление инференса моделей
Нейро пользуется огромное количество людей, поэтому в проде нам нужны более лёгкие модели. Вам предстоит экспериментировать с архитектурами, методами уменьшения моделей и сжатия контекстов, чтобы укладываться в ограничения по лэтенси и скорости генерации ответа.

Улучшение поиска информации
Мы живём в мире, где старая поисковая релевантность документа уже не работает. Поэтому подбираем контент, который максимально полезен для генеративной модели. Вам предстоит совершенствовать извлечение информации для построения ответов, а также экспериментировать с новыми источниками информации (картинки, видео, всевозможные API и т. д.).

Мы ждем, что вы

• Знаете Python
• Хорошо знаете классические DL и NLP
• Понимаете, как устроены генеративные LLM-модели
• Получили опыт в RL (учебный тоже считается)