Инженер по поддержке больших данных

$19

В нашей команде тебя ждет:

• Поддержка инфраструктуры ML/LLM: сопровождение виртуальных машин и контейнерных сред (Kubernetes), мониторинг распределения ресурсов (CPU/RAM/GPU), диагностика bottleneck'ов в инференсе моделей; • Observability и алертинг: поддержка стека Prometheus / VictoriaMetrics + Grafana, написание запросов на PromQL и SQL для диагностики состояния сервисов, настройка SLO/SLI, создание дашбордов для отслеживания latency, throughput и ошибок LLM; • Эксплуатация микросервисов: сопровождение распределенной архитектуры, трассировка запросов между сервисами, анализ логов при инцидентах; • Инцидент-менеджмент: оперативное реагирование на алерты, проведение RCA, разработка ранбуков для типовых сценариев отказов (проседание GPU, заполнение VRAM, деградация API моделей); • Взаимодействие с моделями: отладка API-запросов к LLM (OpenAI-compatible endpoints, локальные inference-серверы), диагностика ошибок токенизации, rate limiting, timeout'ов; • Автоматизация рутины: написание Python-скриптов для автоматизации диагностики, сбора метрик, перезапуска зависших задач, парсинга логов; • Эскалация: взаимодействие с командами разработки и инфраструктуры при сложных инцидентах, передача задач в сроки; • Что мы ожидаем от кандидата: • Инфраструктура: понимание принципов работы виртуальных машин и контейнеризации; умение анализировать распределение ресурсов • Мониторинг: уверенное владение Prometheus и Grafana, написание запросов на PromQL; понимание метрик инференса (latency p95/p99, GPU utilization, queue size); • Данные: знание Loki для анализа логов и метрик; базовое понимание векторных БД; • Разработка: Python (автоматизация, скрипты для диагностики); • LLM и API: понимание работы LLM-сервисов (инференс, токены, контекстное окно) • Будет плюсом: • Опыт работы с LLM-инференс движками (vLLM, SGLang); • Знание LangChain/LangFlow для понимания цепочек вызовов моделей; • Знание английского языка (чтение технической документации). • Что важно: • Мы ищем инженера, который понимает, что значит «модель упала по OOM» или «просел p95 latency», и может быстро локализовать проблему — в коде, инфраструктуре или самой модели.

Мы ждем тебя, если ты имеешь:

• Высшее • •\tаналитические способности, системное мышление, умение работать с большими объемами информации;\n•\tумение работать в режиме многозадачности, принимать самостоятельные решения;\n•\tнацеленность на результат;\n•\tхорошие навыки коммуникации (письменные и устные) • Английский, B1 • От года • Инфраструктура: понимание принципов работы виртуальных машин и контейнеризации; умение анализировать распределение ресурсов \nМониторинг: уверенное владение Prometheus и Grafana, написание запросов на PromQL; понимание метрик инференса (latency p95/p99, GPU utilization, queue size);\nДанные: знание Loki для анализа логов и метрик; базовое понимание векторных БД;\nРазработка: Python (автоматизация, скрипты для диагностики);\nLLM и API: понимание работы LLM-сервисов (инференс, токены, контекстное окно)\nБудет плюсом:\nОпыт работы с LLM-инференс движками (vLLM, SGLang);\nЗнание LangChain/LangFlow для понимания цепочек вызовов моделей;\nЗнание английского языка (чтение технической документации).\nЧто важно:\nМы ищем инженера, который понимает, что значит «модель упала по OOM» или «просел p95 latency», и может быстро локализовать проблему — в коде, инфраструктуре или самой модели.

Условия работы

• Пятидневный • Гибрид • Москва