MLOps

Мы направление модерации в отделе Trust & Safety, отвечаем за безопасность и модерацию контента и карточек товаров на Wildberries. Ежедневно через наши системы проходят десятки миллионов карточек товаров, мы обрабатываем сотни миллионов решений по более чем 100 различным ML-моделям. Модели инферятся через Nvidia Triton Inference Server. Ищем MLOps инженера так как количество DS-ов растет и их уже 20+ только в модерации. Назрела необходимость реализовать общие удобные автоматизированные процессы для всей команды. У нас есть собственные VM для обучения моделей, на которых DS-ы обучают модели, в компании развернут ClearML для общих пайплайнов обучения, используются векторные БД pgvector. Планируем расширять команду на все направления отдела Trust & Safety, поэтому нужно строить инфраструктуру с прицелом на масштабирование и стандартизацию процессов.

Обязанности

• Развивать и автоматизировать ML-пайплайны обучения и деплоя моделей
• Продумывание архитектуры GPU kubernetes кластеров
• Поддерживать и оптимизировать Nvidia Triton Inference Server для ускорения инференса моделей
• Общаться с DS-ами, понимать их потребности и переводить в технические решения
• Поддерживать машины для обучения моеделей с развернутыми Portainer и JupyterHub
• Масштабировать архитектуру на весь отдел Trust & Safety

Требования

• Знание одного из: ClearML, Kubeflow или аналогичных MLOps платформ
• Опыт работы с Nvidia Triton Inference Server
• Опыт работы с Kubernetes и контейнеризацией ML-сервисов
• Опыт DevOps практик: CI/CD, инфраструктура как код, мониторинг
• Понимание Docker и оркестрации контейнеров
• Проактивность и желание получить результат
• Умение взаимодействовать с DS-командой