Product Owner AI Safety/ GigaChat

Описание

Мы развиваем GigaChat и формируем направление безопасности ответов AI-ассистента. Ищем человека, который будет определять, как ассистент должен вести себя в сложных и чувствительных ситуациях, измерять качество этого поведения и вместе с командами моделей и продукта системно его улучшать. В этой роли вы будете формировать видение домена Safety, строить процесс работы с небезопасными ответами и необоснованными отказами, переводить пользовательские проблемы в требования к модели и принимать результат на основе данных. Ваша работа будет влиять на безопасность, полезность и предсказуемость ассистента.

Обязанности

·  **Формировать видение и стратегию Safety.** Определять целевое поведение ассистента, приоритетные риски и направления развития; формировать и защищать roadmap перед руководством, согласовывать его с продуктовой и модельной командами. ·  **Развивать методологию оценки.** Совместно с профильными экспертами описывать категории рисков, уровни критичности и допустимые варианты ответа; создавать правила разметки, примеры и процесс разбора спорных случаев. ·  **Управлять метриками.** Оценивать небезопасные ответы, необоснованные отказы и качество безопасных альтернатив; анализировать различия по темам, сценариям, версиям моделей и компонентам системы. ·  **Развивать бенчмарки и регулярные проверки.** Формировать требования к тестовым наборам, человеческой и автоматической оценке; обеспечивать проверку сложных, пограничных и многошаговых диалогов, а также регрессий после обновлений. ·  **Выстраивать процесс улучшений.** Превращать сигналы из пользовательских диалогов, обращений, исследований и red teaming в приоритизированные задачи с понятной причиной, владельцем и ожидаемым эффектом. ·  **Ставить задачи модельной команде.** Описывать проблемное и целевое поведение, требования к данным для дообучения и оценке результата; вместе с техническими лидерами выбирать подход к исправлению. ·  **Принимать результаты изменений.** Заранее согласовывать критерии успеха и допустимые регрессии, проверять результат на независимых данных и в продукте, формировать заключение о готовности изменений к выпуску. ·  **Улучшать пользовательский опыт.** Сокращать лишние ограничения и отказы на допустимых запросах, повышать качество объяснений и безопасных альтернатив при соблюдении согласованных требований безопасности. ·  **Координировать работу с инцидентами.** Организовывать оценку масштаба и критичности, временные меры, поиск причины и проверку устойчивого исправления вместе с ответственными командами. ·  **Обеспечивать реализацию приоритетов.** Вместе с техническими лидерами декомпозировать инициативы, договариваться о ресурсах модельной команды и платформы, фиксировать зависимости, сроки и владельцев результата.

Требования

·  Опыт работы с ML/AI-продуктами и подтверждённые кейсы самостоятельного ведения задач от постановки проблемы до измеримого результата после запуска. ·  Техническая и аналитическая база: опыт в Data Science, ML Engineering, продуктовой или data-аналитике либо сопоставимая практическая глубина. ·  Понимание устройства LLM-продукта: модель, инструкции, контекст, RAG, защитные механизмы, внешние инструменты. Умение обсуждать с инженерами причины ошибок и способы их устранения. ·  Понимание цикла улучшения моделей: данные и разметка, дообучение, оценка на отложенных данных, проверка регрессий, выпуск и мониторинг. ·  Уверенная работа с метриками качества, выборками, ошибками классификации и статистической неопределённостью. Умение самостоятельно проверить выводы по данным с помощью SQL/Python или сопоставимых инструментов. ·  Умение формировать видение направления, определять приоритеты, выстраивать процессы и принимать решения при неполной информации. ·  Опыт постановки задач техническим командам и приёмки результатов по измеримым критериям. ·  Опыт защиты приоритетов и согласования ресурсов в межкомандной работе. ·  Умение договариваться с несколькими командами, аргументировать решения и объяснять технические вопросы понятным языком. **Будет преимуществом:** ·  Опыт в AI Safety, Trust & Safety, оценке LLM, модерации генерируемого контента или качестве диалоговых систем. ·  Работа с бенчмарками, red teaming, LLM-as-a-judge, разметкой и контролем качества данных. ·  Практический опыт взаимодействия с командами post-training, guard-моделей или alignment. ·  Опыт работы с чувствительными пользовательскими сценариями, безопасностью длительных диалогов или мультимодальных ассистентов. ·  Опыт построения нового направления или межкомандного процесса с нуля.

Условия

* Крупнейшее DS&AI community — более 600 DS-специалистов банка. * Дайджест о самых последних разработках в области DS&AI и отчеты с крупнейших конференций мира. * Возможность быть соавтором НИРов и статей для международных конференций. * Возможность выбрать удобный формат работы: гибрид или офис. * Ежегодный пересмотр зарплаты, годовая премия. * Корпоративный спортзал и зоны отдыха. * Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития. * Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа. * Ипотека выгоднее до 7% для каждого сотрудника. * Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров. * Вознаграждение за рекомендацию друзей в команду Сбера.