Edge AI Engineer (SberAI)

Описание

Мы — команда, которая занимается обучением LLM, VLM и CV моделей. Создаем нативные омнимодальные архитектуры, новые способы кодирования и совместного обучения в доменах изображений, аудио, видео и т.д. Наши основные направления: обучение LLM и VLM с нуля, разработка новых архитектур, Computer Vision research, создание opensource инструментов, сбор и подготовка данных, деплой моделей для MVP. Работаем на кластере с GPU уровня H100. **Ищем** Edge AI / ML Deployment инженера, который проведёт модель через весь путь от RnD-прототипа до prod-ready решения: оптимизация инференса, квантование и запуск на Edge-девайсах, масштабирование на кластерах.

Обязанности

* подготовка RnD-технологий к prod-ready решению; * оптимизация моделей и кода инференса для масштабирования на кластерах; * подготовка и запуск моделей на Edge-девайсах (Nvidia Jetson, Rockchip, Amlogic Khadas).

Требования

* опыт работы с Nvidia Jetson (Orin, Xavier, Nano); * уверенный C++ (для инференса) + Python (для скриптов и подготовки); * умение делать квантование моделей из PyTorch-весов (FP32, FP16, FP8, FP4), квантование (INT8, INT4), QAT и калибровка моделей; * Linux, CMake, опыт кросс-компиляции под ARM. **Будет плюсом:** * опыт работы с NPU от Rockchip (RK3588, RK3568, RV1126) / Amlogic (A311D, C308X, Khadas); * знание API Nvidia CUDA

Условия

* комфортный современный офис рядом с м. Кутузовская * гибридный формат работы * ежегодный пересмотр зарплаты, годовая премия от 3х окладов * большой спортзал и зоны отдыха * система обучения для профессионального и карьерного развития * расширенный полис ДМС с первого дня работы и страхование для семьи * программа ипотеки для сотрудников со скидкой -1/3 от текущей ставки * подписка Прайм с возможностью совместного использования на трёх близких * вознаграждение за рекомендацию друзей в команду Сбера.