AI Safety engineer

Описание

Мы стремимся к развитию искусственного интеллекта и понимаем, что создание безопасной и надежной платформы крайне важно для нашей миссии и наших клиентов. Поэтому мы ищем инженера, который поможет нам развивать возможности в сфере доверия и безопасности. В этой роли вы будете работать над системами предотвращения рисков связанных с фактологическими и контекстными галллюцинациями больших языковых моделей и ИИ-агентов, проявлений токсичности и дискриминации и предотвращеним злоупотреблений. Вы будете обучать и дообучать мультимодальные модели, создавать новые архитектуры моделей и проектировать тактики их применения например такие как создание guardrails.  Если вам близок дух Bell Labs/Xerox PARC в их лучшие годы — исследовать, проверять гипотезы и доводить до прома — вам к нам.

Обязанности

**Чем вы будете заниматься:** * разрабатывать, создавать и поддерживать решения для борьбы со злоупотреблениями, модерации контента, детекции галлюцинаций, предназначенную для защиты компании и конечных пользователей от нежелательного поведения * тесно сотрудничать с другими инженерами и исследователями для использования как стандартных, так и новых методов ИИ с целью измерения, мониторинга и улучшения соответствия AI-моделей и ИИ-агентов человеческим ценностям * изучать статьи, материалы профильных российских и мировых конференций по AI Safety и участвовать в них * выявлять и устранять активные инциденты на платформе, а также создавать новые инструменты и инфраструктуру, которые устраняют первопричины сбоев в системе.

Требования

* опыт работы в сфере безопасности контента, борьбы с мошенничеством или злоупотреблениями, либо мотивированы и горите желанием работать над актуальными вопросами безопасности ИИ * владение Python или современными языками, такими как C++, Rust или Go, и готовы быстро освоить Python * опыт развертывания классификаторов или модели машинного обучения, или желание познакомиться с современной ML-инфраструктурой * опыт проектирования и обучения нейросетевых архитектур — от классических CNN/RNN до современных трансформеров * опыт разработки ИИ-агентов и общее понимание передовых архитектур MAS * опыт создания и поддержки производственных сервисов в условиях быстрого роста и масштабирования * навык критической оценки рисков нового продукта или функции и нахождения инновационных решений для их mitigation, не ухудшая пользовательский опыт.

Условия

* комфортный современный офис рядом с м. Кутузовская * гибридный формат работы * ежегодный пересмотр зарплаты и годовая премия * корпоративный спортзал и зоны отдыха * более 400 образовательных программ СберУниверситета для профессионального и карьерного развития * расширенный ДМС, льготное страхование для семьи * гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ * бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров * вознаграждение за рекомендацию друзей в команду Сбера.