MLOps Engineer

Задачи

• Поддержка Inference Platform-as-a-Service для ML-моделей.
• Участие в автоматизации через IaC (Terraform, GitOps).
• Развертывание инференс-серверов (Triton, vLLM) по готовым конфигурациям.
• Участие в настройке мониторинга моделей.
• Работа с системами трекинга экспериментов (MLflow/ClearML).
• Разработка скриптов для автоматизации ML-задач на Python.
• Контейнеризация приложений (Docker).
• Поддержка CI/CD-пайплайнов.

Ожидания

ML/Inference-трек

• Базовый опыт работы с Kubernetes (понимание основных концепций: pod, deployment, service).
• Знакомство с GPU в Kubernetes (resource allocation, базовые концепции NVIDIA Device Plugin).
• Опыт работы хотя бы с одним инференс-сервером (Triton Inference Server, vLLM, BentoML или аналогов).
• Понимание основ автоскейлинга и балансировки нагрузки.
• Базовое понимание жизненного цикла ML-экспериментов (знакомство с MLflow/ClearML или аналогами).
• Знание Python на уровне написания скриптов и автоматизации.
• Понимание основ машинного обучения (знакомство с ML-фреймворками приветствуется).

Ops-трек

• Практический опыт работы с Kubernetes: deployments, services, configmaps, secrets.
• Базовый опыт автоматизации инфраструктуры (знакомство с Terraform или Ansible).
• Уверенная работа с Docker: сборка образов, Docker Compose.
• Администрирование Linux: базовая настройка, работа в командной строке, понимание сетей.
• Понимание основ безопасности при работе с секретами и токенами.