Описание:
Команда строит систему управления операционными рисками экосистемы Сбера на основе агентного ИИ и определяет архитектуру безопасного ИИ для повышения надёжности и устойчивости банка.
Задачи:
- Создавать системы защиты для AI-агентов на базе GigaPlatform и open-source LLM: защищать от промпт-инъекций, фильтровать токсичность, контролировать галлюцинации и валидировать ответы;
- Адаптировать и дообучать LLM с помощью Prompt Tuning, LoRA, SFT и GRPO для устойчивости к вредоносным воздействиям и формирования безопасных ответов;
- Изучать новые технологии и современные подходы к безопасности ИИ;
- Делиться опытом и развивать культуру R&D в команде;
- Участвовать в выводе защитных механизмов в продакшн;
- Работать на оборудовании с 8–16 A100 80 GB.
Требования:
- Опыт работы в DS или MLE от 2 лет, желательно с фокусом на безопасности ИИ или защите LLM;
- Высшее техническое образование и глубокое понимание алгоритмов и структур данных;
- Опыт обучения нейросетей — от классических RNN до трансформеров;
- Понимание уязвимостей LLM: промпт-инъекций, джейлбрейков, отравления данных и галлюцинаций, а также способов защиты от них;
- Опыт построения защитных механизмов на основе правил, ML или гибридного подхода и/или участия в red teaming LLM;
- Умение писать качественный код;
- Знание Clean Architecture, SOLID и Git Flow;
- Будет плюсом опыт в соревнованиях уровня Kaggle Expert+, участие в open-source проектах по безопасности ИИ, публикации или доклады по теме.
Условия:
- Гибридный или удалённый формат работы;
- Комфортный современный офис рядом с м. Кутузовская;
- Ежегодный пересмотр зарплаты и годовая премия;
- Корпоративный спортзал и зоны отдыха;
- Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития;
- Расширенный ДМС и льготное страхование для семьи;
- Льготный дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ;
- Бесплатная подписка СберПрайм+ и скидки на продукты компаний-партнёров;
- Вознаграждение за рекомендацию друзей в команду Сбера.
#J-18808-Ljbffr
Senior Data Scientist безопасного ИИ Arbeitgeber: Enfint
Perfect.Live ist ein herausragender Arbeitgeber, der seinen Mitarbeitern die Möglichkeit bietet, in einem dynamischen und internationalen Umfeld zu arbeiten, das auf erstklassigen Service für wohlhabende Kunden ausgerichtet ist. Mit einer stabilen langfristigen Anstellung, wettbewerbsfähigen Gehältern und einem starken Fokus auf Teamarbeit und qualitativ hochwertigen Kundenservice fördert das Unternehmen eine Kultur des Wachstums und der beruflichen Entwicklung, die es den Mitarbeitern ermöglicht, ihre Fähigkeiten kontinuierlich zu erweitern und sich in ihrer Karriere weiterzuentwickeln.
