Главный эксперт кибербезопасности GenAI-моделей

Описание

Наша команда обеспечивает кибербезопасность GenAI-моделей, LLM-приложений, AI-агентов и мультиагентных систем, используемых миллионами пользователей. Основной фокус: кибербезопасность GenAI-моделей разных модальностей с помощью автоматизированных бенчмарков и обеспечение безопасности AI-агентов, тестирование их логики принятия решений, а также доступных инструментов.

Обязанности

### Вам предстоит: * проведение тестирований моделей разных модальностей с помощью автоматизированных бенчмарков * поиск и адаптация релевантных наборов данных (датасетов) * адаптация и настройка новых или уже существующих бенчмарков для тестирования устойчивости моделей к различным видам атак * проведение практического пентеста AI-агентов и мультиагентных систем с фокусом на специфичные уязвимости (промпт-инъекции, манипуляция контекстом, нарушение логики оркестрации, компрометация инструментов RAG/API), выявление угроз и уязвимостей на уровне поведения, логики взаимодействия агентов, используемых инструментов * разработка рекомендаций и требований безопасности для повышения безопасности агентных систем * подготовка заключений и отчетной документации по результатам оценки защищенности * взаимодействие с командами разработки для внедрения мер безопасности * отслеживание современных трендов и методов атак в области безопасности AI-агентов * участие и выступление на ключевых внутренних и внешних мероприятиях, посвященных кибербезопасности ИИ.

Требования

### Что для нас важно: * высшее образование в области информационной безопасности, компьютерных наук, либо эквивалентный практический опыт * 2+ года релевантного опыта работы (включая пентест, академическую среду или CTF) * знание английского языка на уровне чтения технической литературы * понимание архитектур и специфических векторов атак для GenAI-моделей разных модальностей (текст, код, изображение, аудио) * опыт работы с фреймворками и библиотеками для тестирования LLM/GenAI * понимание основ пентеста и методик создания моделей угроз применительно к агентным системам * понимание принципов работы, архитектур и протоколов взаимодействия AI-агентов и мультиагентных систем * глубокое понимание тактик атак из MITRE ATLAS и уязвимостей из OWASP Top 10 for LLM применительно к агентам * опыт анализа сложных распределенных систем на наличие уязвимостей и «узких» мест * владение Python для написания скриптов автоматизации тестирования и анализа. * умение формализовать неочевидные проблемы в поведении агента как конкретные уязвимости и риски для бизнеса * навыки формирования отчетной документации и интерпретации результатов тестирования как бизнес-рисков. **Будет большим плюсом:** * опыт в разработке и адаптации бенчмарков, а также умение анализировать и сравнивать результаты тестирования различных моделей * участие в CTF или специализированных соревнованиях по безопасности AI * опыт практического тестирования поведения AI-приложений или агентов (подойдет исследовательский/хобби-проект или CTF) * практический опыт работы с фреймворками для создания агентов * опыт представления результатов своей работы широкой аудитории * понимание вызовов, связанных с безопасностью (security/safety) автономных агентов.

Условия

### Мы предлагаем: * комфортный современный офис * офисный формат работы * ежегодный пересмотр зарплаты, годовая премия * корпоративный спортзал и зоны отдыха * более 400 образовательных программ СберУниверситета для профессионального и карьерного развития * программа адаптации и помощь руководителя на старте * расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа * гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ * бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров * вознаграждение за рекомендацию друзей в команду Сбера.