Ведущий эксперт по безопасности ML (GenAI)

Обязанности

Наша команда занимается оценкой защищенности всего процесса создания моделей искусственного интеллекта, от сбора датасетов до эксплуатации. В нашем фокусе прежде всего большие языковые модели (LLM), генеративные сети и биометрия (CV) Если такие словосочетания как атаки на предъявления , промпт-атаки , состязательные атаки , отравление данных и многие другие уязвимости машинного обучения вызывают у тебя интерес и желание развиваться в данной области, присоединяйся к нам Обязанности Проведение тестирования, анализ результатов и оценка защищенности в технологиях машинного обучения (ML); Разработка метрик оценки уровня защищенности технологий ML; Постоянный анализ трендов, инноваций, публикаций и разработок в области ML; Прототипирование автоматизированных средств тестирования для оценки устойчивости LLM к различным видам атак, в первую очередь промпт-атак; Кросс-функциональное взаимодействие с подразделениями Банка (Архитектура ИТ, ИТ разработка, Бизнес владельцы, руководство) для обеспечения защищенности ML-моделей, а также консультирование по вопросам безопасности разработки и эксплуатации ML; Разработка отчетных документов, согласование и утверждение нормативных документов к качеству и тестированию ML-моделей Требования Высшее техническое образование. Предпочтительно в области информационной безопасности, компьютерных наук или смежных дисциплин; Глубокое понимание принципов машинного обучения, используемых метрик оценки качества работы моделей, требований к обучающим и контрольным наборам данных; Программирование на Python и знания в области математической статистики; Опыт работы с ML-моделями. Фокусные направления: GenAI/LLM и CV; Умение работать с научной литературой, поиск научных статей, анализ и разработка предложений на основе проведенного поиска. Подготовка отчетных материалов по результатам оценки защищенности моделей ML. Коммуникабельность, нацеленность на результат; Будет плюсом опыт работы с PyTorch, TensorFlow Условия ДМС с первого дня, cпециальные условия страхования для ближайших родственников; Льготные условия кредитования, ипотеки; Cпортзал (фитнес, йога, кроссфит); Возможность посещения (как в качестве слушателя, так и в качестве выступающего) IT-конференций; Работа в команде профессионалов, возможность разрабатывать уникальные и крупные проекты масштаба всей страны; Высокие премии по итогам успешной работы.