Эксперт по безопасности GenAI-моделей (LLM/MLLM) и приложений (RnD)

Описание

Мы защищаем будущее: создаем систему кибербезопасности для генеративного ИИ в Сбере. Наш продукт SOC4AI (Security Operations Center for AI) — это компонент в структуре SOC (Security Operations Center) Сбербанка, отвечающий за мониторинг, анализ и противодействие киберугрозам на GenAI-модели и AI-агенты.

Обязанности

### Вам предстоит: * разработка и создание работающих примеров атак (PoC) для демонстрации уязвимостей разработчикам, участие в коммуникации с ними для митигации угроз * улучшение уже имеющихся инструментов для тестирования моделей и приложений на устойчивость к новым методам атак и при необходимости создание новых * оценка защищенности существующих моделей и приложений в банке и предложение улучшений * участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях.

Требования

### Ожидаем, что вы: * имеете высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин либо эквивалентный практический опыт * владеете Python, пишете чистый и понятный код * знаете английский язык на достаточном уровне для понимания статей на arXiv и имеете опыт их чтения (возможно, по другой специальности) * понимаете основы процессов обучения и дообучения современных LLM/MLLM, а также трудности с safety/security этих моделей и (мульти-)агентных систем на их основе. **Будет плюсом:** * участие в соревнованиях по атакам на модели/агентов GenAI * знание основ безопасности GenAI и умение ориентироваться в базовых документах, таких как OWASP Top 10 for LLM, MITRE ATLAS * опыт осознанного использования инструментов программирования с помощью ИИ * опыт представления результатов своей работы широкой аудитории * 1+ лет релевантного опыта работы, включая опыт в академической среде

Условия

### Мы предлагаем: * комфортный современный офис рядом с м. Академическая * офисный формат работы * ежегодный пересмотр зарплаты, годовая премия * корпоративный спортзал и зоны отдыха * более 400 образовательных программ СберУниверситета для профессионального и карьерного развития * программа адаптации и помощь руководителя на старте * расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа * гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ * бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров * вознаграждение за рекомендацию друзей в команду Сбера.