Технический менеджер в GPT

Наша задача — развивать инфраструктуру использования LLM для внутренних пользователей. Мы предлагаем работу над ключевой инфраструктурой компании и возможность определять, как LLM будут использоваться в масштабах всей организации.

Какие задачи вас ждут

Развитие инфраструктуры сервиса
Вам предстоит упорядочить коммунальные API, разработать процессы жизненного цикла моделей, наладить учёт и выделение ресурсов, внедрить систему учёта затрат и квотирования, обеспечить нужный уровень SLA и процесс получения гарантий, а также составить план развития возможностей. Кроме того, нужно доработать и задокументировать инструменты для моделей вне коммунальных API, внедрить решения для быстрого запуска опенсорс-моделей, разработать и поддерживать мапперы для различных интерфейсов.

Оптимизация ресурсов и инфраструктурная поддержка
Также необходимо построить систему автоматического перевыставления затрат, вести учёт, планировать и закупать оборудование для R&D-отдела, заниматься капасити-планнингом и оптимизировать использование ресурсов. Не менее важно обеспечить инфраструктурную поддержку запускаемых проектов.

Мы ждем, что вы

• Обладаете опытом в управлении крупными инфраструктурными проектами
• Имеете технический бэкграунд (опыт разработчика/архитектора)
• Владеете навыками эффективного управления командами технических экспертов
• Умеете выстраивать кросс-командное взаимодействие и управлять приоритетами

Будет плюсом, если вы

• Имеете практический опыт работы с GPU-кластерами и высоконагруженными ML-системами