Эксперт по безопасности GenAI-моделей (LLM/MLLM) и приложений (исследование и разработка PoC)

Описание

Мы защищаем будущее: создаем систему кибербезопасности для генеративного ИИ в Сбере. Наш продукт SOC4AI (Security Operations Center for AI) — это компонент в структуре SOC (Security Operations Center) Сбербанка, отвечающий за мониторинг, анализ и противодействие киберугрозам на GenAI-модели и AI-агенты.

Обязанности

### Вам предстоит: * анализ новых инцидентов, методов атак и защиты * разработка и создание работающих примеров атак (PoC) для демонстрации уязвимостей * улучшение имеющихся инструментов для тестирования моделей и приложений на устойчивость к новым методам атак * оценка защищенности существующих моделей и приложений в банке и предложение улучшений * участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях.

Требования

### Ожидаем, что вы: * имеете высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин либо эквивалентный практический опыт * владеете Python, пишете чистый и понятный код * знаете английский язык на достаточном уровне для чтения статей на arXiv и имеете минимальный опыт их чтения (возможно, по другой специальности) * понимаете основы процессов обучения и дообучения современных LLM/MLLM, а также трудности с safety/security этих моделей и (мульти-)агентных систем на их основе * владеете математической статистикой и теорией вероятности в достаточной мере для проведения экспериментов с обоснованными выводами. **Будет плюсом:** * участие в соревнованиях по атакам на модели/агентов GenAI * опыт работы с PyTorch, transformers, LangChain, smolagents, rigging, TransformerLens или аналогичными библиотеками * знание основ безопасности GenAI и умение ориентироваться в базовых документах, таких как OWASP Top 10 for LLM, MITRE * опыт представления результатов своей работы широкой аудитории * умение интерпретировать результаты исследований как бизнес-результаты * 2+ лет релевантного опыта работы, включая опыт в академической среде.

Условия

### Мы предлагаем: * комфортный современный офис рядом с м. Академическая * офисный формат работы * ежегодный пересмотр зарплаты, годовая премия * корпоративный спортзал и зоны отдыха * более 400 образовательных программ СберУниверситета для профессионального и карьерного развития * программа адаптации и помощь руководителя на старте * расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа * гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ * бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров * вознаграждение за рекомендацию друзей в команду Сбера.